머신러닝 - 정규화란(Regularization)?
정규화(Regularization) 의미 결과를 복잡성을 낮춰주는 과정이다. 과적합을 막기 위해 사용된다. 정규화 종류 1.L1 : Lasso Regression 이라고 한다. 비용 함수의 정규항의 가중치(Wj)에 절대 값을 추가 한다. 2.L2 : Weight decay 또는 Ridge Regression 이라고 한다. 비용 함수의 정규항의 가중치(Wj)에ㅇ 제곱값을 추가한다. 가장 일반적인 정규화방법이다. 참고 https://towardsdatascience.com/regularization-in-deep-learning-l1-l2-and-dropout-377e75acc036 https://builtin.com/data-science/l2-regularization https://medium.com/..
Searching 알고리즘 의미 정렬되어 있는 자료구조에서 원소를 찾는 방법이다. Searching 알고리즘 분류 1.Linear Search 가장 쉬운 Searching 알고리즘이다. Sequential Search 알고리즘이다. 리스트의 한쪽 끝에서 시작해서 원소를 찾을 때가지 진행한다. 2.Binary Search 배열을 반으로 나눠서 찾는 것을 반복한다. 배열이 정렬됐다는 정보를 이용해서 시간 복잡도를 O(Log n base 2)으로 줄인다. 3.Ternary Search 배열을 3개로 나눠서 찾는 것을 반복한다. Binary Search와 비슷하나 시간 복잡도가 O(Log n base 3)가 줄어든다는 차이가 있다. 4.Jump Search 일정 간격으로 건너 뛰면서 찾는 것을 반복한다. 성능은..
Sorting 알고리즘 의미 배열의 원소들을 정렬하는 방법이다. Sorting 알고리즘 분류 1.Selection Sort 알고리즘 오름차순으로 정렬할 경우, 배열에서 가장 작은 원소를 찾는다. 그 원소를 배열의 맨 앞에 위치한 원소와 바꾼다. 배열의 두번째 원소도 같은 방법으로 바꾼다. 이 절차를 배열의 끝까지 반복한다. 2.Bubble Sort 알고리즘 가장 간단한 sorting 알고리즘이다. 인접한 원소의 순서가 잘못되었다면 교환을 반복한다. 첫번째 원소와 두번째 원소를 비교해서 바꾼다. 두번째 원소와 세번째 원소를 비교해서 바꾼다. 이렇게 배열의 끝까지 비교해서 바꾼다. 그리고 다시 배열의 첫번째 원소로 돌아와 반복한다. average와 worst-case 시간 복잡도가 크기 때문에, 큰 데이터에..