神经网络试题.doc

《神经网络》试题
（2004年5月9日）
张翼 王利伟
一、填空
1. 人工神经元网络（ANN）是由大量 神经元 通过极其丰富和完善的连接而构成的自适应 非线形动力学系统 。
2. 神经元（即神经细胞）是由 细胞体 、 树突 、 轴突 和 突触 四部分构成。
3. 大量神经元相互连接组成的ANN将显示出人脑的 分布存储和容错性 、 大规模并行处理 、 自学习、自组织和自适应性 、 复杂的非线形动态系统 、 处理复杂、不确定问题 。
4. ANN发展大体可为 早期阶段 、 过度期 、 新高潮 、 热潮 。
5. 神经元的动作特征主要包括 空间性相加 ， 时间性相加 ， 阈值作用 ， 不应期 ， 疲劳 和 可塑性 。
6. 神经元与输入信号结合的两种有代表的结合方式是 粗结合 和 密结合 。
7. 1943年由美国心理学家McCulloch和数学家Pitts提出的形式神经元数学模型简称为 MP 模型，它规定了神经元之间的联系方式只有 兴奋 、 抑制 联系两种。
8. 目前，神经网络模型按照网络的结构可分为 前馈型 和 反馈型 ，按照学习方式可分为 有导师 和 无导师 学习。
9. 神经网络工作过程主要由 学习期 和 工作期 两个阶段组成。
10. 反馈网络历经状态转移，直到它可能找到一个平衡状态，这个平衡状态称为 吸引子 。
二、问答题
1．简述Hebb学习规则。
Hebb学习规则假定：当两个细胞同时兴奋时，它们之间的连接强度应该增强，这条规则与“条件反射”学说一致。
在ANN中Hebb算法最简单可描述为：如果一个处理单元从另一处理单元接受输入激励信号，而且如果两者都处于高激励电平，那么处理单元间加权就应当增强。用数学来表示，就是两节点的连接权将根据两节点的激励电平的乘积来改变，即

其中表示第（n+1）是第（n+1）次调节后，从节点j到节点i的连接权值；为学习速率参数；j为节点j的输出，并输入到节点i；为节点i的输出。
2、简述自组织特征映射网络的算法。
自组织特征映射网络的算法分以下几步：
（1） 权连接初始化
就是说开始时，对所有从输入节点到输出节点的连接权值都赋以随机的小数。时间设置t=0。
（2） 网络输入模式为

（3） 对Xk计算Xk与全部输出节点所连接权向量的距离

（4） 具有最小距离的节点Nj*竞争获胜

（5） 在每一步学习中，Nc内的神经元自适应变化，而Nc外的神经元保持不变。调整输出节点Nj*所连接的权值以及Nj*几何邻域NEj*(t)内节点所连接权值为

（6） 若还有输入样本数据，那么t=t+1，转到步骤（2）。
3．假设变换相对于标准基集的矩阵表示为

求该变换相对于如下基集的矩阵：

解：第一步是构造如下的两个矩阵：

现在，转换形成新的矩阵表示：

所以上面的矩阵就是该变换相对于基集T和W的矩阵表示。
4．假设有二进制原型向量

（1） 定义一个连续型的Hopfield网络（指定连接权值）来识别这些模式，使用Hebb规则。
（2） 假设网络增益很大，Hopfield网络的平衡点是什么？
解：（1）首先使用有监督的Hebb规则，从参考向量中计算权值矩阵。
化简得

（2）稳定点分别是P1,P2,- P1,- P2,因为原型模式的负值也是平衡点。也可能还有其他平衡点，如果超立方体其他的角中。超立方体共有24=16个角，四个角落入X中，四个角落入中。