LGBM
-
Decision TreeMachine learning 2024. 2. 8. 22:51
의사결정나무는 여러 트리 모델의 기반이 되는 모델이다. 복수의 의사결정나무를 배깅(Bagging) 이나 패이스팅(pasting) 방식으로 앙상블하면 Random forest, Extrea trees 등이 되고, 부스팅(Boosting) 방식으로 앙상블하면 Xgboostm, LGBM, Catboost와 같은 모델이 된다. 1. Decision Tree 데이터를 어떤 특성의 임곗값을 기준으로 분류하는 모델로, 가지를 뻗는 나무를 닮아 ‘결정 트리’라고 불린다. (스무 고개와 유사한 개념) 분류, 회귀에 모두 사용 가능하다. Decision Tree에서 분류 질문과 정답을 담은 상자를 노드(node)라고 정의하며 아래와 같이 구성된다. Root node: 깊이 0인 맨 꼭대기의 노드 Child node: 상위..