“新一代智能硬件技术”研究生课程的教学探索.pdf

2023年第19期总第595期No.19,2023Sum No.595Journal of Science and Education硕士研究生教育是为国家培养具有较强创新能力与科研攻关人才的重要途径。硕士研究生课程既需要巩固研究生相关领域的基础知识，也需要开阔研究生的视野与思路，使研究生掌握最新技术的发展现状与趋势。因此，研究生课程要设置对应的科目，使相关领域学生能够通过课程接触更加广泛前沿的知识，培养学生的科研思路与学科交叉能力。1 课程意义和教学目标1.1 课程意义近几年，人工智能领域的相关技术受到越来越多的关注，党中央也把人工智能相关产业的发展作为一项国家战略。美国OpenAI公司研发的智能聊天软件ChatGPT，以其强大的理解与交互能力、拟人化的沟通交流方式、更加精确合理的输出结果，将人工智能领域的研究推上一个高潮。人工智能的发展不但得益于相关软件算法的革新，还得益于相关硬件技术的不断发展。人工智能硬件技术是推动人工智能发展的核心动力之一。当前的人工智能硬件基本都是基于CMOS技术，且以现有的计算机硬件架构冯 诺依曼架构为依托，实现对应的数据处理。但目前CMOS晶体管的性能难以有效提升，同时冯 诺依曼架构的瓶颈也限制了计算机数据处理能效的提高。因此，亟须探索新一代人工智能数据处理硬件来破除现有智能硬件遇到的困境。目前，美国把控着基于CMOS的人工智能硬件制造行业，不断对我国进行“卡脖子”封锁。因此，我们要抓住智能硬件技术革新的浪潮，积极投入新一代智能硬件技术研究，在这一领域抢占先机，实现弯道超车，破除当前智能硬件技术持续被“卡脖子”的局面。“新一代智能硬件技术”课程可以使相关领域研究生了解人工智能硬件技术的现状与发展，开阔“新一代智能硬件技术”研究生课程的教学探索杨 乐（武汉工程大学电气信息学院 湖北 武汉 430000）摘要：硕士研究生课程是硕士研究生培养环节中的重要一环。开设“新一代智能硬件技术”课程可以使学生理解人工智能领域的相关知识，领悟学科交叉的科研思路，培养学生知识融合与学科交叉的能力。“新一代智能硬件技术”课程介绍了人工智能的发展及相应的理论方法，阐述了研究新一代智能硬件技术的意义，聚焦新兴的忆阻电路设计领域，阐明新一代的忆阻存算一体硬件架构，以及忆阻人工神经网络、忆阻类脑神经网络的实现。“新一代智能硬件技术”课程通过使用案例式教学、科研反哺教学的方式，将课程内容趣味性地、有条理地讲授给学生。同时，采用翻转课堂的方式检验学习效果。关键词：忆阻神经网络；研究生课程；新一代硬件技术；人工智能；忆阻器中图分类号：G643 文献标识码：A DOI：10.16871/ki.kjwh.2023.19.026基金项目：国家自然科学基金“基于忆阻的类脑可重构神经形态电路分析与设计”（62106181）；湖北省教育厅科学研究计划指导性项目“基于忆阻的长短时记忆神经网络电路设计及其在语音识别中的应用”（B2022058）；武汉工程大学科学基金“忆阻类脑可重构神经形态系统的电路设计”（K202017）。作者简介：杨乐（1988），男，博士，讲师，研究方向为新一代信息技术。101研究生的科研视野，丰富研究生的知识领域。课程讲解可以使学生掌握人工智能数据处理的特点以及硬件处理数据的方法，启发研究生在学科交叉方面进行探索，还可以激励研究生未来瞄准“卡脖子”领域开展研究。1.2 课程教学目标使相关领域研究生理解人工智能的发展历程，人工智能、深度学习所使用的基本理论与算法，以及硬件技术在人工智能发展过程中占据的重要地位；理解当前人工智能硬件技术遇到的问题和发展新一代智能硬件技术的迫切性；理解忆阻器实现存算一体化的原理，掌握忆阻交叉阵列完成矩阵运算的电路原理与运行基础；掌握忆阻人工神经网络电路完成数据处理加速的工作机理与研究进展；掌握忆阻器应用到忆阻类脑神经网络电路中的器件优势，了解使用忆阻电路模拟生物机制的进展；理解研究创新的思路，树立学科交叉融合的意识，了解论文写作的相应规范。2 教学内容和教学设计本课程包含四部分内容：第一部分介绍人工智能的发展，以及人工智能与深度学习中的基本理论、算法；第二部分阐述目前人工智能硬件平台的局限性，引出研究新一代人工智能硬件的必要性；第三部分阐明忆阻器存算一体化架构及忆阻人工神经网络电路；第四部分介绍忆阻类脑神经网络电路。2.1 人工智能的发展及人工神经网络本部分从人工智能涵盖的内容、完成的应用等方面出发，介绍人工智能的发展，明确了人工智能、机器学习、神经网络、深度学习的关系，使学生理解这些当下热门词汇间的区别与联系。接着，以神经元的数学模型为基础，延伸介绍了单层神经网络、多层神经网络、循环神经网络、LSTM神经网络的结构和数学模型，阐述了对应的训练过程与算法。本部分内容既为后续课程奠定了理论和模型基础，也可以拓宽研究生的知识领域。2.2 研究新一代智能硬件技术的必要性人工智能的一次次发展高潮，离不开数学算法、网络结构的创新，也依赖着不断提升的硬件处理速度以及硬件处理方法的革新。正是吴恩达等人将深度学习中的计算转移到GPU中执行，大幅提升了深度神经网络的训练速度，才激发了近年来人工智能的飞速发展1。随着人工智能的高速发展，需要处理的数据量每年呈指数倍增加。但是，现有的CMOS计算机硬件数据处理效率提升缓慢，已经不能满足海量数据的处理需求。以下两方面因素影响了CMOS计算机性能的提升：（1）CMOS器件的尺寸已经接近其物理极限，难以继续缩小；其运行频率也已接近极限，难以有效提升。（2）现有的 CMOS 计算机基于冯 诺伊曼架构，它的数据存储器与数据处理单元CPU分离。在进行数据处理时，需要在CPU与存储器之间不断交换数据，消耗了大量的时间与能量，抑制了数据处理效率的提升。即使将大部分数据处理的任务转移到GPU中，数据处理的效率也逐渐满足不了人工智能日益增长的数据处理需求。同时，现有的大多数CPU及GPU都是美国生产，是我国一项“卡脖子”技术，遏制了我国人工智能的发展。人们开始探索使用新技术、新材料、新器件制造新一代用于人工智能数据处理的硬件，以破除CMOS芯片在性能与架构上的瓶颈。存算一体化硬件技术是一项非常有希望突破冯 诺依曼架构瓶颈的新一代智能硬件技术，它的数据计算与数据存储在同一硬件结构中实现，使数据处理效率得到极大提升。忆阻器是实现存算一体化数据处理硬件的理想电路元件，忆阻器具有纳米尺寸、高开关频率、非易失性等特点，而且忆阻值可以跟随施加的电压发生改变。忆阻器已经被应用到忆阻逻辑、忆阻存储、忆阻神经形网络电路等领域5。这部分内容使学生理解人工智能硬件处理数据的基本原理与方法，形成软硬件结合实现人工智能应用的意识，了解我国在新一代智能硬件技术中取得的研究成果，激励学生未来瞄准“卡脖子”技术贡献自己的力量。2.3 基于忆阻的人工神经网络电路人工神经网络中的运算主要是矩阵乘法，一个矩阵乘法包含了大量的代数乘法和加法运算。CPU 完成一次代数乘法运算需要约 10 个时钟周期，因此实现一个矩阵乘法需要消耗大量的时间。尤其深度神经网络包含海量的矩阵运算，即使把相应的运算转移到GPU中，还是需要消耗大量的时间2。而在忆阻人工神经网络中，使用二维忆阻交叉阵列结构，在交叉阵列的每个交叉点上制作一个忆阻单元，忆阻单元排列成矩阵形式。将输入数据映射成对应的电压值，施加在忆阻交叉阵列的行线上，根据欧姆定律、基尔霍夫电压定律、基尔霍夫电教改教法102流定律，忆阻交叉阵列列线上的电流，就是忆阻交叉阵列所代表的矩阵与输入信号的乘积所得到的结果。这里使用忆阻交叉阵列完成数据的运算，同时参与运算的矩阵数据也存储在忆阻交叉阵列中，所以借助忆阻交叉阵列的固有特性，就可以实现存算一体方式的数据处理。而且，忆阻交叉阵列具有规则的电路结构，便于实现高密度集成，并能够使电路制造简单化。以人工神经网络的理论及数学模型为基础，结合忆阻电路及忆阻交叉阵列的特点，构建忆阻人工神经网络电路。当输入信号施加到忆阻人工神经网络电路，可以立即得到输出信号，极大地提升了数据的处理速度与效率。进一步介绍忆阻人工神经网络电路的已有研究，向学生阐明如何抓住重点总结出一个方向的研究脉络，梳理出现有研究还没有解决的问题，找出自己能够进行创新的地方。还可以总结此领域相关研究的主要发展方向，针对不同的发展方向开展创新研究。2.4 基于忆阻的类脑神经网络电路人脑包含数千亿神经元，每个神经元通过突触与其他成千上万的神经元相连，形成规模宏大的生物神经网络。人脑的功耗不到20W，却能够处理非常多的复杂精细的内容。因此，模拟生物神经网络的工作机制，设计类脑数据处理硬件，将彻底改变现有的数据处理方式，也会对数据效率带来革命性的提升。忆阻器的阻值能够随施加在忆阻器两端的电压改变，可以良好地拟合生物神经网络中突触权重的变化。因此，基于忆阻器构建类脑神经网络电路，具有良好的电路优势。在生物神经机制的影响下，生物神经网络不断学习新知识，适应复杂的生活环境，成长为能够应对各种问题的智慧体。生物神经机制包括联想记忆、非联想学习、脉冲时间依赖可塑性（STDP）、脉冲频率依赖可塑性（SRDP）、稳态可塑性等。使用忆阻电路模拟相应的生物神经机制构建忆阻类脑神经网络电路，为最终实现能够完成复杂任务的忆阻类脑神经形态系统奠定了基础。进一步介绍忆阻类脑神经网络的已有研究，培养学生根据学科交叉领域不同方面知识的特点快速阅读不同方面文献知识的能力。通过梳理已有知识总结出创新交叉点，以开阔学生的科研思路。另外，借助这部分内容引导学生多了解一些其他领域知识，融合不同领域内容实现学科交叉研究，开阔学生科研的思路。表1 教学内容与对应的教学设计教学内容人工智能的发展及人工神经网络研究新一代智能硬件技术的必要性基于忆阻的人工神经网络电路基于忆阻的类脑神经网络电路教学设计重点采用案例式教学方法，通过介绍“人工智能之父”图灵、“中国半导体之父”张汝京、ChatGPT 的兴起等案例，阐述人工智能、新一代智能硬件技术等的发展重点采用“科研反哺教学”的教学方法，将最新科研成果融入课堂教学，梳理相关研究的发展脉络，讲授科研的相关方法表1展示了四部分教学内容所对应的教学设计以及重点采用的教学方法，前两部分主要使用案例式教学方法3，使教学更有趣味性，学生更容易接受。用“人工智能之父”图灵的人生经历引出人工智能的发展历程。接着，以人物线索的形式，介绍人工智能发展中几个关键人物的研究贡献与人生经历，展示人工智能的数次兴起与衰落，以及导致人工智能衰落的技术瓶颈。通过介绍“中国半导体之父”张汝京带领中芯国际发展壮大的案例，展示中国半导体硬件发展的艰难历程，弘扬报国爱国的高尚情操。通过介绍ChatGPT等人工智能相关技术的兴起历程，分析人工智能发展的新方向，以及当前人工智能硬件面临的困境，引出开展新一代智能硬件研究的必要性。后两部分采用“科研反哺教学”的方法4，选取忆阻人工神经网络电路、忆阻类脑神经网络电路两个新一代智能硬件技术研究方向，作为课堂教学的基本内容。在忆阻人工神经网络电路教学过程中，总结整理近十年的研究内容，根据这些研究内容梳理出科研发展的脉络，启发学生抓住科研的主要思路，找到自己开展科研的切入点。在忆阻类脑神经网络电路教学过程中，同样以近十年的研究内容为基础，通过展示忆阻类脑神经网络电路模拟的生物神经机制由简单到复杂的发展脉络，启发学生建立开展科研要由易入难的意识。另外，梳理出忆阻类脑神经网络电路中模拟不同生物神经机制的研究脉络，启发学生开阔思路，寻找自身与科研的结合点。同时，鼓励研究生多关注其他领域的发展，激发学科交叉的思路。通过分析最新研究成果，展示人工神经网络、生物神经机制与忆阻电路的融合方教改教法103法，梳理出进行学科交叉的研究思路以及开展科学研究的相关方法。3“新一代智能硬件技术”的课程考核“新一代智能硬件技术”采用两种考核方式检验学习效果：一是翻转课堂5的课程考核方式。在教师讲授完课程相关内容之后，让学生选取自身研究方向与课堂讲解内容的结合点，制作成PPT在课堂上进行汇报，教师和其他学生作为听众，根据学生汇报的内容是否与课堂所讲知识相关、是否突出了研究与人工智能的结合点、展示内容是否清晰易懂抓住了问题核心、展示过程中学生状态是否饱满等，对汇报进行评价。同时，针对学生汇报的内容提问三个问题，考核学生对汇报内容的掌握程度，鼓励其他学生提问和讨论，帮助学生建立发散思维，拓宽科研思路的广度。二是让学生提交一篇学术报告。报告按照学术论文的格式进行排版书写，必须包括标题、中英文摘要、关键字、引言、文章主体、结论和参考文献。根据报告内容与课程知识的契合度，报告所研究问题的专业程度，报告的公式、图片质量、整体格式的一致性等方面，对报告进行评价，使学生积累科研论文的写作经验。4 结论开设“新一代智能硬件技术”课程有利于硕士研究生理解人工智能的基本理论与硬件处理方法，开阔学生的视野与知识领域，培养学生的学科交叉能力。本文介绍了“新一代智能硬件技术”课程的教学目的、主要教学内容以及对应的教学设计、教学方法。通过案例式教学、科研反哺教学两种方式拓展学生的知识领域，培养学生的科研意识与能力。在未来的课堂教学中，一是要及时更新部分教学内容，使学生了解人工智能领域的最新发展；二是要及时听取学生建议，对教学内容、教学设计进行调整，提升课堂教学的效率。参考文献1 张臣雄.AI芯片:前沿技术与创新未来M.北京:人民邮电出版社,2021.2 林钰登,高滨,王小虎,等.基于新型忆阻器的存内计算J.微纳电子与智能制造,2019(2):35-46.3 罗宏,李新跃,李明田,等.材料成型与加工 研究生课程案例式教学探索J.当代化工研究,2022(24):158-160.4 曲丹,邱斌,刘永泽,等.“科研反哺教学理念”在硕士研究生课程教学中的贯彻落实:以“污染水体修复技术与工程”课程为例J.中国林业教育,2020(5):30-33.5 王典.“电液控制技术”研究生课程翻转课堂教学实践J.中国林业教育,2020(S01):57-60.Teaching Exploration of the Graduate Course New-Generation Intelligent Hardware TechnologyYANG LeAbstract:Master graduate courses are an important part of talent training.The New-Generation Intelligent Hardware Technology course enables students to understand relevant knowledge in the field of artificial intelligence,understand interdisciplinary scientific research ideas,and cultivate students ability of knowledge integration and interdisciplinary abilities.This course introduces the development of artificial intelligence and corresponding theoretical methods,and explains the significance of studying new-generation intelligent hardware technology.Then,it focuses on the emerging field of memristive circuit design,elucidating the new-generation memristive storage and computing integrated hardware architecture,as well as the implementation of memristive artificial neural networks and memristive brain-like neural networks.This course uses the case-based teaching method with scientific research feeding back teaching to teach students the course content in an interesting and organized manner.At the same time,the flipped classroom method is used to test the learning effect.Key words:memristive artificial neural networks;graduate course;new-generation hardware technology;artificial intelligence;memristor编辑：李前锋教改教法104