机器学习之决策树PPT课件.ppt

找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,*,*,找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,*,*,找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,*,*,找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,*,*,找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,*,*,找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,*,*,找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,*,*,找素材就上变色龙网,。本资源来自网络分享，免费供交流学习，严禁商用,*,*,决策树的原理及适用情景,.,内容,简单案例,1,原理,2,优缺点,3,适用情景,4,.,一个决策树的例子,.,运用决策树分类预测,.,运用决策树分类预测,.,运用决策树分类预测,.,运用决策树分类预测,.,运用决策树分类预测,.,运用决策树分类预测,.,同一个训练数据生成另一棵决策树,.,问题来了？,什么是决策树？,.,决策树概念,根节点,叶子节点,.,决策树概念,决策树是一种树形结构，通过做出一系列决策（选择）来对数据进行划分，这类似于针对一系列问题进行选择。,决策树的决策过程就是从根节点开始，测试待分类项中对应的特征属性，并按照其值选择输出分支，直到叶子节点，将叶子节点的存放的类别作为决策结果。,一句话概括：从训练数据中学习得出一个类似于流程图的树型结构。,.,决策树算法,信息增益,ID3,增益比率,C4.5,基尼指数,CART,.,信息熵,一条信息的信息量和它的不确定性有着直接的关系,公式定义,：,变量的不确定性越大，熵也就越大，需要的信息量也越大，纯度就越小。,.,条件熵,.,信息增益,.,举例说明,.,按年龄划分,.,按收入划分,.,按学生划分,.,按信用划分,.,确定第一次分裂的属性,.,确定第二次分裂的属性,.,决策树划分,.,决策树优缺点,优点：,推理过程容易理解，计算简单，可解释性强。,比较适合处理有缺失属性的样本。,可自动忽略目标变量没有贡献的属性变量，也为判断属性变量的重要性，减少变量的数目提供参考。,缺点：,容易造成过拟合，需要采用剪枝操作。,忽略了数据之间的相关性。,对于各类别样本数量不一致的数据，信息增益偏向于那些更多数值的特征。,.,决策树适用情景,1,、决策树能够生成清晰的基于特征选择不同预测结果的树状结构，数据分析师希望更好的理解手上的数据的时候可以使用。,2,、决策树更大的作用是作为一些更有用的算法的基石。例如：随机森林、,AdaBoost,、,GBDT,.,THANKYOU!,.,.,.,