机器学习之决策树PPT.ppt

找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,决策树的原理及适用情景,1,内容,简单案例,1,原理,2,优缺点,3,适用情景,4,一个决策树的例子,运用决策树分类预测,运用决策树分类预测,运用决策树分类预测,运用决策树分类预测,运用决策树分类预测,运用决策树分类预测,同一个训练数据生成另一棵决策树,问题来了？,什么是决策树,？,决策树概念,根节点,叶子节点,决策树概念,决策树是一种树形结构，通过做出一系列决策（选择）来对数据进行划分，这类似于针对一系列问题进行选择。,决策树的决策过程就是从根节点开始，测试待分类项中对应的特征属性，并按照其值选择输出分支，直到叶子节点，将叶子节点的存放的类别作为决策结果。,一句话概括：从训练数据中学习得出一个类似于流程图的树型结构。,决策树算法,信息增益,ID3,增益比率,C4.5,基尼指数,CART,信息熵,一条信息的信息量和它的不确定性有着直接的关系,公式定义,：,变量的不确定性越大，熵也就越大，需要的信息量也越大，纯度就越小。,条件熵,信息增益,举例说明,按年龄划分,按收入划分,按学生划分,按信用划分,确定第一次分裂的属性,确定第二次分裂的属性,决策树划分,决策树优缺点,优点：,推理过程容易理解，计算简单，可解释性强。,比较适合处理有缺失属性的样本。,可自动忽略目标变量没有贡献的属性变量，也为判断属性变量的重要性，减少变量的数目提供参考。,缺点：,容易造成过拟合，需要采用剪枝操作。,忽略了数据之间的相关性。,对于各类别样本数量不一致的数据，信息增益偏向于那些更多数值的特征。,决策树适用情景,1,、决策树能够生成清晰的基于特征选择不同预测结果的树状结构，数据分析师希望更好的理解手上的数据的时候可以使用。,2,、决策树更大的作用是作为一些更有用的算法的基石。例如：随机森林、,AdaBoost,、,GBDT,THANKYOU!,28,