활성함수
-
[cs231n] 6강 신경망 훈련하기 (1/4, 활성함수 (activation function))AI 2021. 3. 10. 17:48
오늘 우리는 어떻게 신경망을 훈련시키는지에 대해 자세히 알아보겠습니다. 우리가 어디에 와있죠? 우리는 함수를 계산 그래프로 어떻게 표현하는지 얘기했고, 그래서 어떤 함수든 계산 그래프로 표현할 수 있죠. 그리고 신경망에 대해 더 명시적으로 얘기했습니다. 그건 일종의 그래프인데, 여기엔 선형 계층들이 있어서 그걸 쌓고, 중간에 비선형성을 집어넣죠. 지난 강의에서는 합성곱 신경망에 대해 얘기했는데, 그건 특별한 타입의 망으로 합성곱 계층을 사용해서 계층구조(hierarchy)의 망 전체를 통과하면서 공간 구조를 유지합니다. 그래서 우리는 정확히 합성곱 계층이 어떻게 생겼는지 봤고, 합성곱 계층 출력의 각각의 활성 지도는 가중치 필터를 입력의 모든 공간위치에 대해서 슬라이딩하면서 생성됩니다. 우리는 또한 각 ..
-
[Day35] 퍼셉트론과 활성함수AIFFEL Life 2020. 12. 15. 16:57
오늘은 딥러닝의 기본 개념들 가운데 중요한 개념인 퍼셉트론과 활성함수에 대해서 공부했습니다. 참고할만한 좋은 자료들이 있어 아래와 같이 공유합니다. 1. History of the Perceptron web.csulb.edu/~cwallis/artificialn/History.htm History of the Perceptron Threshold Step Sigmoid Piecewise Linear Gaussian web.csulb.edu 2. Linear transformations and matrices | Essence of linear algebra, chapter 3 www.youtube.com/watch?v=kYB8IZa5AuE&feature=youtu.be 3. Perceptron en.wi..