关于决策树分类算法几点说明

1、如果属性用完了怎么办

      在决策树构造过程中可能会出现这种情况&＃xff1a;所有属性都作为分裂属性用光了&＃xff0c;但有的子集还不是纯净集&＃xff0c;即集合内的元素不属于同一类别。在这种情况下&＃xff0c;由于没有更多信息可以使用了&＃xff0c;一般对这些子集进行“多数表决”&＃xff0c;即使用此子集中出现次数最多的类别作为此节点类别&＃xff0c;然后将此节点作为叶子节点。

2、在实际构造决策树时&＃xff0c;通常要进行剪枝&＃xff0c;这时为了处理由于数据中的噪声和离群点导致的过分拟合问题。剪枝有两种&＃xff1a;

      先剪枝——在构造过程中&＃xff0c;当某个节点满足剪枝条件&＃xff0c;则直接停止此分支的构造。

      后剪枝——先构造完成完整的决策树&＃xff0c;再通过某些条件遍历树进行剪枝。

      关于剪枝的具体算法这里不再详述&＃xff0c;有兴趣的可以参考相关文献。