数据挖掘与生物医学应用作业杨帆.doc

(完整word版)数据挖掘与生物医学应用作业杨帆数据挖掘与生物医学应用作业 姓名：杨帆 学号： B110903141. 请用分箱方法对向量3, 6, 7, 15, 11, 40, 33, 20, 30进行清除噪声处理。要求是分别使用等深度和等宽度分割，然后再分别使用均值、中值和边界平滑。答：等深度分割： 分类一：3 6 7 分类二：11 15 20 分类三：30 33 40 均值平滑: 5 5 5 15 15 15 34 34 34 中值平滑: 6 6 6 15 15 15 33 33 33 边界平滑: 3 7 7 11 11 20 30 30 40 等宽度分割： 分类一：3 6 7 11 3 ,14 分类二： 15 20 15 ,26 分类三：30 33 40 27 ,40 均值平滑： 7 7 7 7 18 18 34 34 34 中值平滑： 7 7 7 7 18 18 33 33 33 边界平滑： 3 3 3 14 15 15 27 27 40 2. 用直方图表示价格向量1, 1, 5, 5, 5, 6, 6, 8, 8, 10, 10, 10, 12, 13, 13, 14, 15, 16, 17, 17, 17, 17, 18, 18, 18, 18, 18, 18, 18, 18, 20, 20, 22, 22, 23, 23, 25, 26, 26, 26, 27, 27, 27, 27, 27, 27, 27, 30, 30, 30。答： 3. 请用表一所示数据作为训练数据，给出构建分类预测模型的步骤。用表二所示数据作为测试数据，给出预测每个人是否为终身教授(Tenured)的步骤。表一表二答：分为两步：一，构建基于训练数据的模型； 在测试样本数据时，我们以样本的Years和Rank两个属相值为评判标准，来获得训练模型。在上述的实验中，我们对表一进行训练，得出模型的训练标准为Rank属性为Professor或者Years属性值大于6时，我们判断该目标的Tenured为Yes，否则，为No 二，使用构建模型预测目标的类型或特征值。 将表二中的数据带入训练模型，通过判断其Rank和Years属性是否符合判断标准，断定其Tenured属性。 则结果：Tom Rank属性不是Professor且Years属性为2，故其Tenured属性为No； Merlisa Rank属性不是Professor但Years属性为7，故其Tenured属性为Yes； George Rank属性是Professor故其Tenured属性为Yes； Joseph Rank属性不是Professor但Years属性为7，故其Tenured属性为Yes；4. 请用年龄、是否为学生以及信用等级为属性构建一棵决策树，用于判断能否批准客户的信用卡申请。答：决策树(Decision Tree）是在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行性的决策分析方法，是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干，故称决策树。在本题中，我们对一个目标的年龄、是否为学生以及信用等级来作为判断标准进行评判。在这三个属性中，很明显年龄属性可以包含其余两个属性，因此我们将其作为决策树的根节点。对于大部分人小于30岁的一般为学生或者刚毕业，要对其进行是否学生的评判。30到40岁的人一般都有工作，默认其有能力申请信用卡。而大于40岁的人一般都已经建立了自己的信用等级，可以根据这个判断能否申请信用卡。具体的决策树如下：年龄 ? 40 Gain(gpa) Gain(major) Gain(birth_country) Gain(gender)所以选择age_range作为当前的最佳测试属性。7. 请使用朴素贝叶斯分类方法对同学X做出其是否能够买电脑的判断，其中同学X的年龄小于30，收入为medium，行用等级为fair，训练数据如表五所示。表五答：贝叶斯分类是一种统计学分类方法，基于贝叶斯法则可以预测类成员关系的可能性，如给定样本属于一个特定类的概率。其中贝叶斯法则公式如下：P(H|X)= （1）其中： P(H | X ) 是后验概率,或条件 X 下, H 的后验概率。 例如,假定数据样本世界由水果组成,用它们的颜色和形状描述。假定 X 表示红色和圆的,H 表示假定 X 是苹果,则 P(H | X ) 反映当我们看到 X 是红色并是圆的时,我们对 X 是苹果的确信程度. P(H)是先验概率,或 H 的先验概率。 对于上面的例子,它是任意给定的数据样本为苹果的概率,而不管数据样本看上去如何。 P(X | H) 是条件 H 下,X 的后验概率。 已知 X 是苹果,X 是红色并且是圆的的概率。 P(X)是 X 的先验概率。 由我们的水果集取出一个数据样本是红的和圆的的概率。 由公式（1）可知P(Ci|X)= (2)当Ci之间相互独立，i（0 ， n）则P(X|Ci)= (3) 如果是连续值属性,则通常假定该属性服从高斯分布。因而 P(|)=g(, )= (4)所以结果如下：给出一个实例进行分类： X=(age=30，income=medium,student=yes,credit_rating=fair)P(Ci): P(C1)=(buys_computer=yes)=9/14=0.643 P(C2)=(buys_computer=no)=5/14=0.357P(X|Ci): since P(age=30|buys_computer=yes)=0.222 P(age=30|buys_computer=no)=0.6 P(incomen=medium|buys_computer=yes)=0.444 P(income=medium|buys_computer=no)=0.4 P(student=yes|buys_computer=yes)=0.667 P(student=yes|buys_computer=no)=0.2 P(credit_rating=fair|buys_computer=yes)=0.667 P(credit_rating=fair|buys_computer=no)=0.4 Then P(X|C1)=0.044 P(X|C2)=0.016P(X|Ci)P(Ci)=0.007所以，对于同学X buys_computer=yes8. 请简要描述K均值聚类方法的原理。答：对于K均值的划分方法当结果簇是密集的,而簇与簇之间区别明显时,它的效果较好。 对处理大数据集,该算法是相对可伸缩的和高效率的。 要求用户必须事先给出 k(待生成簇的数目)不适合发现大小差别很大的簇。 对于“噪音”和孤立点数据是敏感的,少量的该类数据能够对平均值产生极大的影响。 因此可分为五步来进行：(1) 任意选择k个对象作为初始的簇中心(2) 根据与每个中心的距离，将每个对象赋给最近的簇(3) 重新计算每个簇的均值并将其作为新蔟中心点; （4）根据与每个新中心的距离,重新将每个对象赋给“最近”的簇;（5）不断循环（3）-（4）直至每个簇的中心点不再变化。9. 在模型数目已知和未知两种情况下，给出如何使用高斯混合模型方法(GMM)计算模型高斯参数的步骤。答： 已知高斯密度函数如下：P()= （1） 对上式等号两边取自然对数结果如下：=（） （2） （1）当模型已知时： 通过 最大化密度函数以求得高斯模型的参数 使用最大似然函数法结果如下： （2）当模型数目未知时使用期望最大算法： (1) 根据贝叶斯法则计算后验概率： =arg (2)首先假定模型和参数：（）,，（） (3)每一个对象归类为其后验概率值最大的类: =arg (4)对新分类重新计算其参数 : = (5)如果没有收敛则重复第二步 10. 请充分发挥想象，给出数据挖据在社会各个领域的可能应用实例。（课堂上所讲实例除外）答：Credilogros Ca Financiera S.A. 是阿根廷第五大信贷公司，资产估计价值为9570万美元，对于Credilogros而言，重要的是识别与潜在预先付款客户相关的潜在风险，以便将承担的风险最小化。该公司的第一个目标是创建一个与公司核心系统和两家信用报告公司系统交互的决策引擎来处理信贷申请。同时，Credilogros还在寻找针对它所服务的低收入客户群体的自定义风险评分工具。除这些之外，其他需求还包括解决方案能在其35个分支办公地点和200多个相关的销售点中的任何一个实时操作，包括零售家电连锁店和手机销售公司。最终Credilogros 选择了SPSS Inc.的数据挖掘软件PASWModeler，因为它能够灵活并轻松地整合到 Credilogros 的核心信息系统中。通过实现PASW Modeler，Credilogros将用于处理信用数据和提供最终信用评分的时间缩短到了8秒以内。这使该组织能够迅速批准或拒绝信贷请求。该决策引擎还使 Credilogros 能够最小化每个客户必须提供的身份证明文档，在一些特殊情况下，只需提供一份身份证明即可批准信贷。此外，该系统还提供监控功能。Credilogros目前平均每月使用PASW Modeler处理35000份申请。仅在实现 3 个月后就帮助Credilogros 将贷款支付失职减少了 20%.