목록Permutation Importance (1)
My Data Story
[모델 알고리즘][앙상블 학습] 랜덤포레스트
◈ '앙상블 학습' 목차 ◈ 1. 배깅, 페이스팅 2. 랜덤포레스트 랜덤포레스트와 엑스트라에 대해 이해하고 트리 계열 모델의 특성 중요도 산출에 대해 살펴보자. 3. 에이다부스트 4. 그레이디언트부스팅 5. XGBoost 6. 스태킹 1. 랜덤 포레스트 의사 결정 트리 모델에서 훈련 데이터의 작은 변화는 트리의 큰 변화와 결과적으로 최종 예측을 할 수 있고, 훈련 데이터에 과대 적합된 복잡한 트리르 생성할 수 있다. 복잡한 트리는 편향은 낮지만 분산은 매우 높아진다. 랜덤포레스트는 분산을 줄이는 것을 목적으로 동일한 훈련 세트의 다른 부분에 대해 여러 심층 결정 트리를 평균화한다. 랜덤포레스트는 일반적으로 배깅(또는 페이스팅)을 적용한 결정트리 앙상블로 더 나아가 sample뿐 아니라 feature도 복..
Machine Learning/2. 지도 학습 알고리즘
2021. 8. 13. 14:35