목록SAMME.R (1)
My Data Story
[모델 알고리즘][앙상블 학습] 에이다부스트
◈ '앙상블 학습' 목차 ◈ 1. 배깅, 페이스팅 2. 랜덤포레스트 3. 에이다부스트 부스팅 컨셉에 대해 이해하고 에이다 부스트 알고리즘과 모델 구현 방식에 대해 알아보자. 4. 그레이디언트부스팅 5. XGBoost 6. 스태킹 1. 부스팅 개요 부스팅은 약한 학습기를 여러 개 연결하여 강한 학습기를 만드는 앙상블 방법이다. 즉 앞의 모델을 보완해나가면서 일련의 예측기를 학습시키는 것이다. 부스팅 종류는 크게 에이다 부스트와 그레이디언트 부스팅이 있다. 2. 에이다부스트 이전 예측기를 보완한 새로운 예측기를 만드는 방법으로 이전 모델이 과소 적합했던 샘플의 가중치를 더 높이는 것이다. 에이다부스트 훈련 과정은 다음과 같다. step1 알고리즘이 첫 번째 분류기를 훈련 세트에서 훈련시키고 예측한다. ste..
Machine Learning/2. 지도 학습 알고리즘
2021. 8. 13. 14:55