My Data Story

◈ '앙상블 학습' 목차 ◈ 1. 배깅, 페이스팅 2. 랜덤포레스트 3. 에이다부스트 부스팅 컨셉에 대해 이해하고 에이다 부스트 알고리즘과 모델 구현 방식에 대해 알아보자. 4. 그레이디언트부스팅 5. XGBoost 6. 스태킹 1. 부스팅 개요 부스팅은 약한 학습기를 여러 개 연결하여 강한 학습기를 만드는 앙상블 방법이다. 즉 앞의 모델을 보완해나가면서 일련의 예측기를 학습시키는 것이다. 부스팅 종류는 크게 에이다 부스트와 그레이디언트 부스팅이 있다. 2. 에이다부스트 이전 예측기를 보완한 새로운 예측기를 만드는 방법으로 이전 모델이 과소 적합했던 샘플의 가중치를 더 높이는 것이다. 에이다부스트 훈련 과정은 다음과 같다. step1 알고리즘이 첫 번째 분류기를 훈련 세트에서 훈련시키고 예측한다. ste..

◈ '머신러닝 프로젝트 절차' 목차 ◈ 1. 머신러닝 프로젝트 절차(1) - 큰 그림 보기 2. 머신러닝 프로젝트 절차(2) - 데이터 샘플링 및 훈련/테스트 세트 만들기 3. 머신러닝 프로젝트 절차(3) - 데이터 이해를 위한 탐색 4. 머신러닝 프로젝트 절차(4) - 머신러닝 알고리즘을 위한 데이터 준비 5. 머신러닝 프로젝트 절차(5) - 모델 훈련 및 검증 6. 머신러닝 프로젝트 절차(6) - 모델 세부 튜닝 선정한 모델의 성능 향상을 위해 하이퍼파라미터 탐색하는 방법, 앙상블 방법, 오차 분석 등에 대해 살펴보자. 7. 머신러닝 프로젝트 절차(7) - 시스템 론칭 1. 하이퍼파라미터 탐색 1.1 그리드 탐색 탐색하고자 하는 하이퍼파라미터와 시도해볼만 한 값을 지정하여 가능한 모든 하이퍼파라미터 ..