학습률

손실 줄이기학습 목표반복 방식을 사용하여 모델을 학습하는 방법 알기전체 경사하강법과 다음과 같은 변형된 방식 이해하기미니 배치 경사하강법확률적 경사하강법학습률 시험 반복 방식 방법임의의 지점에서 시작해서 시스템의 손실 값을 알려줄 때까지 기다림, 다른 값을 추정해서 손실 값을 확인하여 목표 값에 가까워지는 방식, 전체 손실이 변하지 않거나 매우 느리게 변할 때까지 계속 반복하고, 이 때 모델이 수렴했다고 말한다. 목적최적의 모델을 가능한 가장 효율적으로 찾는 것 경사하강법(Gradient descent) 방법가중치 w1에 대한 시작점을 선택하여 가중치를 늘리거나 줄여가면서 기울기가 0인 지점을 찾는 알고리즘 학습률경사하강법 알고리즘에서 다음 지점을 결정하는 값 예) 기울기가 2.5이고 학습률이 0.01이..