My Data Story

◈ '앙상블 학습' 목차 ◈ 1. 배깅, 페이스팅 2. 랜덤포레스트 3. 에이다부스트 4. 그레이디언트부스팅 5. XGBoost 6. 스태킹 스태킹 컨셉에 대해 이해해보자. 1. 스태킹 '앙상블에 속하는 모든 예측기의 예측을 취합할 때 간단한 함수 대신에 취합하는 모델을 생성할 수 없을까?' 라는 기본 아이디어에서 출발한다. 하위 예측기 각각의 값을 취합하여 최종 결과를 예측하는 마지막 예측기를 블렌더 또는 메타 학습기라고 한다. 블렌더를 학습시키는 일반적인 방법은 홀드 아웃 세트를 사용한다. step1 훈련 세트를 두 개의 서브셋으로 나눈다. 첫 번째 layer에 3개의 예측기가 있다 할 때, 첫 번째 subset은 첫 번째 layer의 예측기를 훈련시키기 위해 사용된다. step2 첫 번째 layer..