AIFFEL Life

[Day32] CNN, Gradient Descent, LSTM

nevermet 2020. 12. 15. 15:38

수요일 오전은 플립스쿨로 CS231n을 공부하는 날입니다. 오늘은 공부하다가 찾은 유용한 자료들로 먼저 시작해 보겠습니다.

1. PR-012: Faster R-CNN : Towards Real-Time Object Detection with Region Proposal Networks

www.youtube.com/watch?v=kcPAGIgBGRs&feature=youtu.be

2. PR-057: Mask R-CNN

www.youtube.com/watch?v=RtSZALC9DlU&feature=youtu.be

3. PR-016: You only look once: Unified, real-time object detection

www.youtube.com/watch?v=eTDcoeqj1_w&feature=youtu.be

4. PR-132: SSD: Single Shot MultiBox Detector

www.youtube.com/watch?v=ej1ISEoAK5g&feature=youtu.be

5. What is a tensor?

www.quora.com/What-is-a-tensor

 

What is a tensor?

Answer (1 of 82): A few years ago, I vowed that I would answer this question when I figured out what a tensor really was, because I also had a problem with finding an intuitively satisfying answer online, and the answers here also didn't fully satisfy me.

www.quora.com

 

그 다음으로는 경사하강이 무엇인지에 대해서 배웠습니다.

1. 경사 하강, 신경 네트워크가 학습하는 방법 | 심층 학습, 2장

www.youtube.com/watch?v=IHZwWFHWa-w&feature=youtu.be

2. 그래디언트 디센트

ratsgo.github.io/deep%20learning/2017/09/25/gradient/

 

그래디언트 디센트 · ratsgo's blog

이번 글에서는 그래디언트 디센트(Gradient Descent)에 대해 살펴보도록 하겠습니다. 이 글은 고려대 강필성 교수님 강의와 하용호 님의 자료를 정리했음을 먼저 밝힙니다. 그럼 시작하겠습니다. 산

ratsgo.github.io

 

그 다음으로는 자연어처리에 많이 사용되는 RNN계열 네트워크에 대해서 알아보았습니다.

1. 단어 간 유사도 파악 방법

www.kakaobrain.com/blog/6

 

단어 간 유사도 파악 방법 - 카카오브레인

인공지능 연구소인 카카오브레인은 유의미한 단어 간 관계 데이터를 제공하자는 취지에서 'wordrep'을 진행하고 있습니다. 컴퓨터가 자연어를 이해하는 기술 몇가지와 wordrep 프로젝트를 진행한

www.kakaobrain.com

2. LSTM 이해하기

dgkim5360.tistory.com/entry/understanding-long-short-term-memory-lstm-kr

 

Long Short-Term Memory (LSTM) 이해하기

이 글은 Christopher Olah가 2015년 8월에 쓴 글을 우리 말로 번역한 것이다. Recurrent neural network의 개념을 쉽게 설명했고, 그 중 획기적인 모델인 LSTM을 이론적으로 이해할 수 있도록 좋은 그림과 함께

dgkim5360.tistory.com

3. GRU

yjjo.tistory.com/18

 

Gated Recurrent Units (GRU)

Gated Recurrent Units (GRU) GRU는 게이트 메커니즘이 적용된 RNN 프레임워크의 일종으로 LSTM에 영감을 받았고, 더 간략한 구조를 가지고 있습니다. 아주 자랑스럽게도 한국인 조경현 박사님이 제안한 방

yjjo.tistory.com