My Data Story

◈ '앙상블 학습' 목차 ◈ 1. 배깅, 페이스팅 투표 기반의 분류기 종류에 대해 살펴보고 배깅과 페이스팅에 대해 이해해보자. 2. 랜덤포레스트 3. 에이다부스트 4. 그레이디언트부스팅 5. XGBoost 6. 스태킹 1. 투표 기반 분류기 1.1 직접 투표 분류기 더 좋은 분류기를 만드는 방법은 여러 분류기의 예측을 모아서 가장 많이 선택된 클래스를 예측하는 것이다. 약한 학습기(랜덤 추측보다 조금 더 높은 성능을 내는 분류기) 일지라도 충분히 많고 다양하다면 앙상블은 강한 학습기가 될 수 있다. 하지만 이러한 가정은 모든 분류기가 독립적이고 오차에 상관관계가 없어야 가능하다. 앙상블 방법은 예측기가 가능한 서로 독립일 때 최고의 성능을 발휘한다. 다양한 분류기를 얻는 한 가지 방법은 각기 다른 알고리..