[4] 분류

1. 분류(Classification)의 개요

 - 지도학습 : 레이블(Label), 정답이 있는 데이터가 주어진 상태에서 학습하는 머신러닝 방식

      ㄴ분류 : 학습 데이터로 주어진 데이터의 피처와 레이블값을 학습, 모델 생성. -> 미지의 레이블 값 예측

 

2. 결정 트리

 - 결정 트리(Decision Tree) : 데이터 규칙을 학습을 통해 자동으로 찾아내 트리 기반의 분류 규칙을 만드는 것.

- 규칙 노드 : 규칙 조건 표시

- 리프 노드 : 결정된 클래스 값

 +) 새로운 규칙 조건마다 서브 트리가 생성됨

 - 트리의 depth가 깊어질수록 예측 성능 저하 (과적합) => 트리의 분할을 효과적으로 해야 함.

- 정보 이득 : 엔트로피 기반 / 정보 이득  = (1 - (엔트로피 지수)) / 정보 이득이 높은 속성을 기준으로 분할

- 지니 계수 : 낮을수록 데이터 균일도가 높은 것으로 해석, 낮은 속성을 기준으로 분

- https://github.com/CinnaPie/ECC_1/blob/main/Chapter4/ECC_4_DecisionTree.ipynb

 

3. 앙상블 학습

4. 랜덤 포레스트

5. GBM(Gradient Boosting Machine)

- https://github.com/CinnaPie/ECC_1/blob/main/Chapter4/ECC_4_Enssanble~GBM.ipynb

6. XGBoost(eXtra Gradient Boost)

- https://github.com/CinnaPie/ECC_1/blob/main/Chapter4/ECC_4_XGBoost.ipynb

7. LightGBM

- https://github.com/CinnaPie/ECC_1/blob/main/Chapter4/ECC_4_LightGBM.ipynb

8. 분류 실습 - 캐글 산탄데르 고객 만족 예측

- https://github.com/CinnaPie/ECC_1/blob/main/Chapter4/ECC_4_Santander.ipynb

9. 분류 실습 - 캐글 신용카드 사기 검출

- https://github.com/CinnaPie/ECC_1/blob/main/Chapter4/ECC_4_creditcardfraud.ipynb

10. 스태킹 앙상블

- https://github.com/CinnaPie/ECC_1/blob/main/Chapter4/ECC_4_Stacking.ipynb

 

 

[사용 교재]

•  < 파이썬 머신러닝 완벽 가이드 > // https://www.yes24.com/Product/Goods/108824557