반응형
L2 regularization(Ridge)
L2 -> 세타의 제곱, 람다 : 사람이 지정해준다.
단, 절편 값은 논리적 모순이 생기기 때문에 절편 빼고 다른 부분만 업데이트 시켜준다.
수식 정리 후,
L1 regularization(Lasso)
L1 -> 세타의 절대값
L1 vs L2
반응형
'AI > Machine Learning' 카테고리의 다른 글
| Supervised Learning / Unsupervised Learning (0) | 2021.02.02 |
|---|---|
| Data preprocessing & Feature engineering (0) | 2021.02.01 |
| Overfitting (0) | 2021.01.27 |
| SGD Issues (0) | 2021.01.27 |
| Stochastic Gradient Descent (0) | 2021.01.26 |