感知器算法.pptx

12 (3)调整增广权矢量，规则是调整增广权矢量，规则是 -如果如果 和和 ，则，则 -如果如果 和和 ，则，则 -如果如果 和和 ，或或 和和 ，则，则 (4)如果如果k N，令，令k=k+1，返至，返至。如果。如果k=N，检验判，检验判别函数别函数 对对 是否都能正确分类。若是，是否都能正确分类。若是，结束；若不是结束；若不是,令令 k=1，返至，返至。部分修正规则k=02例题：有两类样本1=（x1,x2）=(1,0,1),(0,1,1)2=（x3,x4）=(1,1,0),(0,1,0)解：先求四个样本的增值模式x1=(1,0,1,1)x2=(0,1,1,1)x3=(1,1,0,1)x4=0,1,0,1)假设初始权向量w1=(1,1,1,1)k=1第一次迭代：w1Tx1=(1,1,1,1)(1,0,1,1)T=30所以不修正w1Tx2=(1,1,1,1)(0,1,1,1)T=30所以不修正w1Tx3=(1,1,1,1)(1,1,0,1)T=30所以修正w1w2=w1-x3=(0,0,1,0)w2Tx4=(0,0,1,0)T(0,1,0,1)=0所以修正w2w3=w2-x4=(0,-1,1,-1)第一次迭代后,权向量w3=(0,-1,1,-1),再进行第2,3,次迭代如下表（下面请大家自己进行第2次迭代）直到在一个迭代过程中权向量相同，训练结束。w6=w=(0,1,3,0)判别函数g(x)=-x2+3x3感知器算法只对线性可分样本有收敛的解,对非线性可分样本集会造成训练过程的振荡,这是它的缺点.训练样本训练样本wkTx修正式修正式修正后的权值修正后的权值wk1迭代次数迭代次数x1 1 0 1 1x2 0 1 1 1x3 1 1 0 1x4 0 1 0 1+0w1w1w1-x3w2-x41 1 1 11 1 1 10 0 1 00 1 1 -1 1x1 1 0 1 1x2 0 1 1 1x3 1 1 0 1x4 0 1 0 10+0-w3+x1w4w4-x3w51 1 2 01 1 2 00 2 2 10 2 2 -1 2x1 1 0 1 1x2 0 1 1 1x3 1 1 0 1x4 0 1 0 1+-w5w5+x2w6w60 2 2 10 1 3 00 1 3 00 1 3 0 3x1 1 0 1 1x2 0 1 1 1x3 1 1 0 1x4 0 1 0 1+-w6w6w6w60 1 3 00 1 3 00 1 3 00 1 3 04线性不可分样本集的分类解(取近似解)对于线性可分的样本集，可以用上述方法解到正确分类的权向量。当样本集线性不可分时，用上述方法求权值时算法不收敛。如果我们把循环的权向量取平均值作为待求的权向量，或就取其中之一为权向量，一般可以解到较满意的近似结果。例：在样本1:X1=（0,2）X3=（2,0）X5=（-1,-1）2:X21,1）X4=（0,-2）X6=（-2,0）求权向量的近似解x2x1x6x1x32x52x4x211H解：此为线性不可分问题，利用感知器法求权向量权向量产生循环(-1,2,0),(0,2,2),(-1,1,1),(-1,1,1)(-1,1,1),(0,0,0),(-1,2,0)因此算法不收敛，我们可以取循环中任一权值，例如取W=(0,2,2)T则判别函数为：g(x)=2x1+2x2判别面方程为：g(x)=2x1+2x20所以x1+x20由图看出判别面H把二类分开，但其中x2错分到1类，而x1错分到2类，但大部分分类还是正确的。练习：已知四个训练样本w1=(0,0),(0,1)w2=(1,0),(1,1)使用感知器固定增量法求判别函数设w1=(1,1,1)k=110(1)(1)训练样本分量增训练样本分量增广化及符号规范化。广化及符号规范化。11 1213