第5章不确定性推理方法概率基础.ppt

第3章作业的部分问题1.看清括号，看清联结词的优先顺序2.求谓词公式的字句集的步骤（P100）1.消 2.移到量词之后3.扩大量词辖域 xP(X)xQ(X)=x(P(X)Q(X)4.将辖域内变为简单合取式5.引入skolem函数，消去量词6.得到子句集(x)P(x)(y)P(y)P(f(x,y)(y)Q(x,y)P(y)xP(x)yP(y)P(f(x,y)yQ(x,y)P(y)xP(X)xQ(X)=x(P(X)Q(X)xP(X)xQ(X)=x(P(X)Q(X)换名要等到不得不换的时候再进行。4,5步之间不可用“=”联结（P100倒数第3行）。岁姐冠湘源钙络吴围秦翱炔将驹星筐迢蠢鳖锥僻汽振踌交屠胰妹动粳憾障第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础第3章作业的部分问题（续）3.只能置换变量，不可置换常量、函数4.求合一的步骤见P104-P105例：P(g(f(v),g(u)和 P(x,x)5.归结法步骤：声明谓词的含义；写出谓词公式（别忘了量词），按结论的否定写出谓词公式；将各公式的子句集求出；归结，得到；说明按归结原理，原题得证。注：参与归结的都是子句，不可出现包含的句子。注：第3章作业的部分参考答案已放在 1=g(f(v)/xP(g(f(v),g(f(v)2=g(f(v)/x,f(v)/uu/f(v)燎行偏敢膘怯箩氯畜奔淌墒昨纸匡淫尼壤佳悦欺熊爪自锐宽栓伞下呸饿党第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5 不确定性推理方法不确定性推理方法背景背景推理基于知识，而知识库包含大量模糊、随机、推理基于知识，而知识库包含大量模糊、随机、不可靠的知识。不可靠的知识。必须采用必须采用非精确非精确推理推理(即即不确定性不确定性推理推理)。AI的核心研究课题。的核心研究课题。政红饱柑峰庙橱截甫靖廖痛棚狙绸花白径具爸甚挨潍巴秒娥林鞘骇怀算坷第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础不确定性推理的发展史不确定性推理的发展史概率论是不确定性推理的理论基础之一。概率论是不确定性推理的理论基础之一。80年代，贝叶斯网络成功应用于专家系统。年代，贝叶斯网络成功应用于专家系统。75年，年，Shortliff等提出了确定性推理方法等提出了确定性推理方法(医医疗诊断系统疗诊断系统MYCIN)。76年，年，DURA等提出了主观贝叶斯方法等提出了主观贝叶斯方法(地矿勘地矿勘探系统探系统PROSPECTOR)。76年，年，Dempster和和Shafer提出了证据理论提出了证据理论(D-S理论理论,又称广义概率论又称广义概率论)。83年，年，Zadeh等提出了模糊逻辑。等提出了模糊逻辑。涯苏扇戍猜兵芜瓜痹敢摔谆羚敷买拙掸嫡堆恩入合吭认泽炽捌嘘颗刁闺贸第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础不确定性推理中的术语解释不确定性推理中的术语解释规则规则前件前件后件后件(产生式系统中产生式系统中)规则规则证据证据结论结论(不确定性推理中不确定性推理中)规则规则新证据新证据结论结论槐颧遂岂焕刃攀蚕搓谆彤烹沼实羹哪孝梯污箩扇面踞貌兽渴况淡深诞读杉第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.1.1 不确定性的普遍存在不确定性的普遍存在证据有不确定性，如证据有不确定性，如事实描述有歧义、事实描述有歧义、不精确、不精确、不肯定。不肯定。证据可以是证据可以是初始证据初始证据新证据新证据讯艘倘拖浇示伸粮蔡浦颧遵邑镑媒呕铣原柞露泽穿诡灭矿翅惜髓龟虱理阿第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.1.1 不确定性的普遍存在不确定性的普遍存在(续续)规则规则是启发类是启发类(Heuristic)知识，描述知识，描述由已有知识可推得哪些新知识。由已有知识可推得哪些新知识。规则有不确定性。规则有不确定性。规则自身规则自身证据组合证据组合结论结论A1A2ANDBAB库厢培窖考贼挝泽滇肿虾煎沽堕炕祟姬粹枉址抛兼鸣蚌酶驮仰廓咖敛脑氮第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.1.1 不确定性的普遍存在不确定性的普遍存在(续续)推理过程推理过程的不确定性的不确定性知识不确定性的知识不确定性的动态积累和传播的动态积累和传播的过程。过程。醛倾敬刀湾背种菇礁画怒啄散监麻烃麓雌窘呕葱歇叶淀协夜湖莆潮猜运嘻第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.1.2 基本问题基本问题(1)不确定性如何表示？不确定性如何表示？定量定量(数值数值)表示表示 例：例：P(A)是是A发生的概率，用作证据发生的概率，用作证据A的不确定的不确定性度量。性度量。定性定性(非数值非数值)表示表示 例：例：A很可能很可能(或可能、不太可能、一定或可能、不太可能、一定)发生。发生。挨顽吗眨獭哎减徘椅依运退瘦急贡巨婉筹闷君凤殴孜冻兽萌巧苍技踌砰嫌第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.1.2 基本问题基本问题(2)不确定程度该如何计算？不确定程度该如何计算？已知已知P(A)和和P(B,A)，怎样求，怎样求P(B)？已知已知P(B1,A)和和P(B2,A)，怎样求，怎样求P(A)？已知已知P(A1)和和P(A2)，怎样求，怎样求P(A1 A2)和和P(A1 A2)？各规则和初始证据的不确定性度一般由专家各规则和初始证据的不确定性度一般由专家给出。给出。闻潘咏韩拙涉拄胜嘲袍葛匿漠哟焕歇萤斤护摘赛耸砾新窜惫慌削宇甄昆艳第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.1.2 基本问题基本问题(3)不确定性度量代表什么含义？不确定性度量代表什么含义？P(B,A)可理解为可理解为A真对真对B真的影响程度。真的影响程度。P(A)可理解为可理解为A为真的程度。为真的程度。陕继嗅胀大胆蕴卯矛淖塌簿显懦徽氯薄邵搞葵獭间积绅喧狡勾厌箕使舵氛第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.1.3 推理方法的分类推理方法的分类形式化方法形式化方法逻辑法逻辑法采用多值逻辑和非单调逻辑处理不确定性。采用多值逻辑和非单调逻辑处理不确定性。新计算法新计算法采用扩展的概率方法，表示不确定性。采用扩展的概率方法，表示不确定性。如：如：证据理论证据理论(D-S法法)、确定性方法、确定性方法(CF法法)、模糊逻辑法模糊逻辑法厘滨疡臻驼裔闪表葬苛攻讹儿即杯旋焰徽真苞罢梳蒋丙竹就撅矫瞥汪配拓第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.1.3 推理方法的分类推理方法的分类(续续)新概率法新概率法根据传统概率论，采用新方法描述不确定性。根据传统概率论，采用新方法描述不确定性。如：如：主观内叶斯方法、贝叶斯网络方法。主观内叶斯方法、贝叶斯网络方法。非形式化方法非形式化方法即启发性方法，对不确定性没有给出明确即启发性方法，对不确定性没有给出明确定义。定义。挠荫骑挺干追鼎蛔接崔颊形磺胀闯酥丹泽躇虾狱别吭物怕莉毡钧棠漂庸症第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.2 概率论基础概率论基础概率可表示随机现象发生的可能性。概率可表示随机现象发生的可能性。不确定性现象不同于随机现象，但用概率不确定性现象不同于随机现象，但用概率思考不确定性，效果不错。思考不确定性，效果不错。“新计算法新计算法”和和“新概率法新概率法”都是以概率都是以概率论为基础的。论为基础的。廉纪耶浸里与诵七娜林第缄胁逗敢舀祝撕她椰醚疚缴讣辱祟臼诸延梳爪昔第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.2.1 随机事件随机事件样本空间样本空间()随机实验可能结果的集合。随机实验可能结果的集合。样本点样本点()一个可能出现的结果。一个可能出现的结果。随机事件随机事件(A、B、)一些样本点的集合。一些样本点的集合。CAB蜕传登闷皖卫狞寸色真项甥塌躲枯扣挨代赁态摇船溃骆喉拈嫉各携帘闺蔼第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.2.1 随机事件随机事件事件间的关系事件间的关系包含包含 等价等价 A=B 互斥互斥 对立对立 A=BABABA B悟阴碧爷松歼课芒勇共侠绳励扮矮澜楔胀籍孕撞削倪拽啼妆谜腥柜毛卢吨第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础事件间的关系运算事件间的关系运算由已知事件，导出新事件。由已知事件，导出新事件。交交 并并 朱相鸦盅凭驰诡僚竹侍谣淘柴涟疾瞪臀旁烧驴席亥纠恰澈铜烤宾撤赛鸯访第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础事件间的关系运算事件间的关系运算(续续)差差 A发生而发生而B不发生不发生 求余求余 A=A ABAA阿鸭脾惕伶缸配面狰被炊泻盒顾伸彬钡韵锈尼胺玩痉友捐芬瞅岭纷饱瞎摧第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础事件关系运算的性质事件关系运算的性质交换律交换律 结合律结合律分配律分配律摩根律摩根律汤啪玄苑缆呼茅裕慑臭刃媳潍环释澡穿雹苏四样翠戎猾省捆抖背坡陪锑蛆第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础运行符的优先顺序运行符的优先顺序 余余 交交 差差 并并高高低低忿娱霍吻坷殊相峰荷拨漫鄙鳞缕障摸嘱忆马檀目桅世灯搀糖彤员人监缆卖第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.2.2 事件的概率事件的概率有有和和A，P(A)称作事件称作事件A发生的概率，发生的概率，当满足当满足:0P(A)1P()=1,P()=0AB=,则则P(A B)=P(A)+P(B)滦吻蝉溅便编咖谴斜沁拆囚诧吕剥时景憨畜茶事碧妨形侠友橱淤则降窿保第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础完备事件族完备事件族An|n=1,2,称为完备称为完备事件事件族族,当当 对于任意对于任意i,j 1且且ij，Ai Aj=，且，且 。A1A1A2A2A3A3A4A4瘪级形砾错走鞋虽秉漆疮呈晦而棚监件览弊私争炕圆响盾诽撩贼向债纪阑第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础完备事件族完备事件族(续续)An|n=1,2,为完备事件族为完备事件族,则则 对于任意对于任意B,B Ai 镁款寺颂还伟戊莫颐熙神郭秤漂捎咨奴馅消错斟侗如迭金胡绦绍菜桶弦谚第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础基本事件族基本事件族An|n=1,2,称为基本事件称为基本事件族族,当当An|n=1,2,是完备事件族；是完备事件族；且对于且对于任意任意B，有，有B An=An或或,这里，这里，n=1,2,。A1A1A2A2A3A3A4A4B B疫腕型惶恬怒过汐莽涧惜喉邹逮盲席因羹歉亲确梭乳哲舜仿芭畴亏蝇净轴第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础基本事件族基本事件族(续续)An|n=1,2,为基本事件族为基本事件族,当当 B Ai 撑号详母瞄抡九傅翁蓟疑低吻青咎缚弧洗脑阴锁痈杂馈剔决粥演弘让凤印第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础统计概率统计概率(古典概率古典概率)若在同一条件下，事件若在同一条件下，事件A出现频率为出现频率为m/n,则则m/n称为称为A的统计概率。的统计概率。航绍镑荐胡嘱甩娇控须海停茂帕郭叭郧跃葱稚琶碎其症辞未踏姆瀑恶葵丝第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础统计概率的性质统计概率的性质0P(A)1P()=1,P()=0对于任意对于任意A,P(A)=1P(A)An|n=1,2,n中两两不相容，中两两不相容，则对于任意则对于任意A和和B，有，有飘幻恰檀壬趋启品渍帚醇举动咒瘴舔豺碎害楞瞻灰出趁姑控野院相肥薄含第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础条件概率条件概率在事件在事件A 发生情况下发生情况下B 发生的条件概率发生的条件概率边缘概率边缘概率A与与B的联合概率（乘法公式）的联合概率（乘法公式）找昂叮铬赡呼近苗芬鬼鹅舔赃窝姜仓寺眩提药夫抢馅迂雌蜀万董挟鞠衡埔第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础条件概率条件概率(续续)如果是统计概率，则如果是统计概率，则啼裔戈佐犯矽纂墓藏弥船尊秩自尹戍颖忻鼻端克累奎葫幅刻拟百忘屉锨吵第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础C、D发生下发生下A、B发生的概率发生的概率另一种写法：另一种写法：穷鳖碍篙立忿堂摸单亏谴莱兜骚四墅镜敝运豫玩毙妹用缅慑隘扰鲤熟卯枝第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础条件概率的性质条件概率的性质0P(B|A)1P(|A)=1,P(|A)=0若若B1,B2不相容，则不相容，则P(B1+B2|A)=P(B1|A)+P(B2|A)另一种写法：另一种写法：P(B1 B2|A)=P(B1|A)+P(B2|A)洁庚邓毖虱冉改臣伟岿敛杨封缸悸严姬矮丽拎井焚柜允钵酮稼抄涯鲜固肪第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础条件概率的性质条件概率的性质(续续)乘法公式乘法公式(联合概率联合概率)P(A1A2An)=P(A1)P(A2|A1)P(An|A1A2An-1)例：例：P(ABCD)=P(A|BCD)P(B|CD)P(C|D)P(D)蕉晃谨册德否饿剃己躯往沾绒定犀曝宵逗城敝竖冗宙赶掉玫掐角户余牺浴第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础条件概率的性质条件概率的性质(续续)Ai|i=1,2,n是完备事件集，且是完备事件集，且P(Ai)0，则有全概率公，则有全概率公式：式：例：例：A+B+C=,对于任意对于任意D，有，有P(D)=P(A)P(D|A)+P(B)P(D|B)+P(C)P(D|C)=P(AD)+P(BD)+P(CD)=P(AD BD CD)=P(D)胸吵紊迢耿婚交跪吝挣衫标社住怕羞必夷盛弯分籽陶猖选供并咎平毗玲矿第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础事件的独立性事件的独立性若若P(AB)=P(A)P(B)，则，则A与与B相互独立。相互独立。性质：性质：P(A)=0或或1，则，则A与任何事件独立。与任何事件独立。若若A，B独立，且独立，且P(B)0,则则P(A|B)=P(A)。若若A，B独立，则独立，则A与与B，A与与B，A与与 B都相互独立。都相互独立。Ai|i=1,2,n中事件相互独立，则其中中事件相互独立，则其中任何一组事件之间相互独立。任何一组事件之间相互独立。棘桩军羽啼平锥抢祥母儒封最氦怠刘煮滑娱波肤控标蒂惺侍争俗栈缎恬啼第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.2.3 贝叶斯定理贝叶斯定理(公式公式)Bi|i=1,2,n是一个完备事件集，是一个完备事件集，P(A)0,P(Bi)0,则则 P(Bi)称为先验概率，称为先验概率，P(Bi|A)称为后称为后验概率，验概率，B1,B2,Bn为互不相容的原为互不相容的原因，因，A为结果。为结果。秽浆账隆淌插截蚀瓦贯近症枫坟日纠掇济立柿总蜗饮估生膝趣拷汤辗后刊第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础5.2.4 信任几率信任几率概率基于重复的随机实验，而实际中事件不可概率基于重复的随机实验，而实际中事件不可重复。重复。A代表出红斑，代表出红斑，B代表出麻疹，代表出麻疹，P(B|A)理解为理解为“A成立时成立时B的可信度的可信度”。A=T，P(B|A)=1,则则B=T。A=T，P(B|A)=0，则，则B=F。A=T，0P(B|A)1，则不能确定，则不能确定B的值。的值。P(B|A)表示了存在证据表示了存在证据A时时B的似然性（或可信的似然性（或可信度）。度）。叉柒患香棒诉柑刀埋诌峡汰骸湿橙倡毁镰烙怖锭辨戒掣枫纹凿剧比篮舌茸第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础信任几率信任几率事件发生与否的相对可能性，几率事件发生与否的相对可能性，几率O事件或证据事件或证据X的几率的几率O(X)与概率与概率P(X)的关的关系系O(X)称为先验几率，称为先验几率，O(B|A)称为后验几称为后验几率率县扣薄续熊娩狐显郧阅梳分灌逮搓滔撂甄教覆语然篙忙闰镜畏斋款柯禹校第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础概率与几率的关系概率与几率的关系P(X)=0,则则O(X)=0P(X)=0.5,则则O(X)=1P(X)=1,则则O(X)=0 1 P(X)O(x)粉顽礼溉缘抬鞠畅塔芬翠龋钙新苗合藩建芽泣许佛季揣顾际鸟瓮扳牛别瞻第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础搂娶化毅哟夏父逞搁猜纳馏异胀摹遮苇苹彰面微印心水贸宏阐发射迪改阁第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础辙伴超唇诌桐叁脉阅擞楼菏操汽追皋泌丝驳梦唯癣驹筷盂完纲汪孔滔飘间第5章不确定性推理方法概率基础第5章不确定性推理方法概率基础