티스토리 뷰
정규화(Regularization) 의미
결과를 복잡성을 낮춰주는 과정이다.
과적합을 막기 위해 사용된다.
정규화 종류
1.L1 : Lasso Regression 이라고 한다. 비용 함수의 정규항의 가중치(Wj)에 절대 값을 추가 한다.
2.L2 : Weight decay 또는 Ridge Regression 이라고 한다. 비용 함수의 정규항의 가중치(Wj)에ㅇ 제곱값을 추가한다. 가장 일반적인 정규화방법이다.
참고
https://towardsdatascience.com/regularization-in-deep-learning-l1-l2-and-dropout-377e75acc036
https://builtin.com/data-science/l2-regularization
https://medium.com/analytics-vidhya/l1-vs-l2-regularization-which-is-better-d01068e6658c
'정보' 카테고리의 다른 글
| 머신러닝 - 편향(Bias)과 분산(Variance)이란? (0) | 2022.11.04 |
|---|---|
| 중심 극한 정리(Central limit Theorem)란? (0) | 2022.11.03 |
| Searching 알고리즘이란? (0) | 2022.10.30 |
| Sorting 알고리즘이란? (0) | 2022.10.30 |
| 자료구조란? (0) | 2022.10.29 |
댓글
최근에 올라온 글
최근에 달린 댓글