본문 바로가기

딥러닝 학습률1

딥러닝 최적화 알고리즘 총정리: SGD, Momentum, RMSProp, Adam 딥러닝 모델을 학습시킬 때, 어떤 옵티마이저를 선택하느냐에 따라 결과는 크게 달라질 수 있습니다. 기본 경사하강법을 개선한 다양한 최적화 알고리즘이 존재하며, 그 중 가장 널리 사용되는 네 가지가 바로 SGD, Momentum, RMSProp, Adam입니다. 이번 글에서는 이 4가지 옵티마이저의 작동 원리, 특징, 장단점, 그리고 사용 시 고려할 점까지 한 번에 정리해보겠습니다.📚 목차1. SGD (Stochastic Gradient Descent)2. Momentum 옵티마이저3. RMSProp 옵티마이저4. Adam 옵티마이저5. 4대 옵티마이저 비교표6. 마무리 요약1. SGD (Stochastic Gradient Descent)SGD는 경사하강법의 가장 기본적인 형태입니다. 전체 데이터셋이 아.. 2025. 4. 10.

이전 1 다음

티스토리툴바