결정트리 : 예 / 아니오에 대한 질문을 이어나가면서 정답을 찾아 학습하는 알고리즘. 비교적 예측 과정을 이해하기 쉽고 성능도 뛰어남 불순도 : 결정트리가 최적의 질문을 찾기 위한 기준. 사이킷런은 지니 불순도와 엔트로피 불순도를 제공. 정보 이득 : 부모노드와 자식노드의 불순도 차이. 결정트리 알고리즘은 정보이득이 최대화되도록 학습 가지치기 : 결정트리의 성장을 제한하는 방법. 결정트리는 제한 없이 성장하면 훈련세트에 과대적합되기 쉬움. 특성 중요도 : 결정트리에 사용된 특성이 불순도를 감소하는데 기여한 정도를 나타내는 값. 특성 중요도의 계산은 결정트리의 큰 장점 scikit-learn DecisionTreeClassifier : 결정트리 분류 클래스 검증세트 : 하이퍼파라미터 튜닝을 위해 모델을 평..