제주 탈출 일지

5주차 부터 올리는 이유는 게을러서 공부를 안했기 떄문이다. 천천히 짬날떄마다 이전 주차 강의들에 대한 정리를 올릴 예정이다. 이전차시 복습 신경망 학습의 지표 : 손실 함수 신경망 학습은 가중치와 편향과 같은 최적의 매개변수를 찾아나가는 과정이다. 손실함수를 작게 만드는 매개변수 값을 찾아나감. -> 손실 함수에 대해서 미분함.(가중치를 조금 변화시켰을 때 손실함수가 어떻게 변하는 가?) 손실 함수의 미분 값은 손실 함수의 기울기와 같다고 말할 수 있겠다. 경사하강법(Gradient Descent) 그래서 기울기를 통해 최소인 지점을 찾는 경사하강법이라는 하나의 방법이 제시된다. (손실 함수 그래프의 전체적인 모양은 알 수 없지만 현재 위치의 순간 기울기는 알 수 있음.) 기울기 방향으로 조금씩 내려가..