반응형
Occam's razor
보다 적은 수의 논리로 설명이 가능할 경우, 많은 수의 논리를 세우지 말라
Bias - Variance Tradeoff
epoch이 증가할수록 train set에 너무 맞춰진 모델이 생성되면서 test set에서의 오류가 증가함
Overfitting을 극복하는 방법
Regularization != Normalization
Regularization
cost function에서 1000 x 세타1 으로 패널티를 준다.
그 때, 세타1을 줄이는 것이 Regularization이다?
반응형
'AI > Machine Learning' 카테고리의 다른 글
| Data preprocessing & Feature engineering (0) | 2021.02.01 |
|---|---|
| Regularization (0) | 2021.01.27 |
| SGD Issues (0) | 2021.01.27 |
| Stochastic Gradient Descent (0) | 2021.01.26 |
| Holdout method (0) | 2021.01.26 |