https://hyunw.kim/blog/2017/11/01/Optimization.html
그림으로 보는 다양한 Optimization 기법들
딥러닝 모델의 optimization을 담당하는 gradient descent 알고리즘은 딥러닝의 핵심 중 하나입니다. 다양한 gradient descent 알고리즘들이 어떻게 발전해왔고, 각 장점은 무엇인지, 그리고 그 안에서 헷갈
hyunw.kim
'대학교 > 딥러닝' 카테고리의 다른 글
| 딥러닝에서 사용되는 다양한 Convolution 기법들 (0) | 2022.06.15 |
|---|---|
| cross entropy loss function (0) | 2022.06.10 |
| Layer Normalization (VS Batch Norm) (0) | 2022.06.02 |
| 하이퍼파라미터 정의 정리 (0) | 2022.06.02 |
| accuracy vs precision (0) | 2022.06.02 |