人工智能在公共管理中应用的风险探析.docx

人工智能在公共管理中应用的风险探析

朱子叶
摘要：人工智能技术的快速发展，推动了公共管理方式创新，同时产生一定应用风险，如基础设施层、算法层、应用层出现的部分风险。本文就人工智能在公共管理中应用的风险探析。
关键词：人工智能;公共管理;应用风险
1.引言
人工智能在公共管理应用初期，管理者不仅需发掘新技术的应用红利，同时需对新技术的应用风险进行评估，及时对其风险漏洞进行处理，保证公共管理工作的整体开展安全性与可靠性。为达到人工智能技术预期应用价值，需对其应用风险进行针对性分析，进而合理优化完善。
2.基础设施层，数据安全风险
在现代社会公共管理过程中，人工智能技术主要依靠基础设施，即大数据平台、储存平台、调度系统、运算系统。通过对公共大数据进行分析可知，海量的公共大数据、高质量、多领域的数据资料，则可以客观真实的反馈公共事务的复杂关系，进而训练得出高精度的智能算法，为公共管理提供真实、可行、客观的分析参考结果。为达到预期公共管理效果，需在实际公共管理过程中，将相关公共信息进行量化处理，为人工智能处理提供数据支持[1]。
如政府进行智慧政务平台搭建时，需对政务工作开展模式进行改革创新，合理应用现代网络信息技术，使得用户“足不出户”利用手机终端完成事务办理，而用户开展政务办理时，则会产生一定公共数据，智慧政务平台将对数据信息进行收集整理。部分政务系统管理时，设定人脸识别闸机，预先对政务工作人员的人脸信息进行采集，将其个人信息转化为代码程序，为后续政务系统运行铺垫基础。2020年伊始出现的新冠疫情，给公共事务开展造成直接冲击，为保证社会公共服务的正常运行，相关公共服务部门推出在线办公、在线会议等工作模式，加速了公共管理实践决策端到服务端的转变。
3.算法层，风险解析
3.1算法监管风险
在算法层运行过程中，由于监管力度不足，导致算法监管风险的增加，如部分地区的无人驾驶、无人售货、隐私合规等，给市场运行监管造成一定难度。因为，人工智能在公共管理工作中应用时，将出现产品许可、研发监督、侵权责任等不同监管问题。
在人工智能技术研发过程中，可能会涉及到技术专利，因此使得外部人员介入监管的成本非常高昂，无法在算法出现重大问题前进行预防，给公共管理工作造成一定影响。由于智能算法的设计特殊性，无法简要进行设计程序解释，导致智能算法监管工作出现短板。人工智能算法运行时，算法运算与推理机制都处于密封的“黑盒”当中，公共管理人员与监管方案只可以输入数据，由算法进行自主训练，直到最终输出数据运算结果，而监管方与管理方，则无法了解算法的训练学习模式与内在逻辑体系。鉴于算法黑盒运行过程的不可解释性，无法满足公共管理的监管基本要求，使得算法结果的整体可靠性与可信度降低[2]。
3.2算法偏见风险
在算法输入大数据平台时，可能会带有一定算法偏见，而公共管理部门无法觉察到算法偏见，导致部分信息量输入到智能算法系统当中，算法程序则会对输入的数据信息进行深度挖掘，使得人工智能“学习”过程中产生一定算法偏见，该偏见问题的存在，将导致人工智能做出错误判断，进而衍生出算法偏见风险。
算法设计者精心设计的算法系统，本人认为算法系统完美无缺，但由于智能算法没有得到同行专家审查，并没有对算法的偏见性进行考察，且未设计抵御偏见算法的相关机制，导致算法偏见风险一旦出现，则无法进行很好解决。在实际算法应用过程中，工程师将目标任务转化为智能算法可识别的程序代码，在代码程序设定时，将具有很强的主观意识，进而导致输出结果受到一定影响。在算法程序设定过程中，出资利益集团为保证核心利益，将引导算法出现一定偏好，导致智能算法成为资本操控与政治内嵌的助手，进而对公共管理系统进行操控，引导人民大众的盲目信任，不利于社会可持续稳定发展。
3.3技术精度风险
人工智能技术基于特殊算法形成应用价值，但由于算法技术方案的差异性，无法保证算法方案的可靠性，导致算法层，出现技术精度风险。在人工智能技术开发过程中，基于实验室的良好条件完成算法运行，但并不表示算法技术方案，在现实复杂环境中应用具有一定可靠性。由此可见，人工智能技术的应用稳定性仍需考证。
在公共管理服务合作过程中，由于合作双方的视域鸿沟，导致无法对人工智能技术稳定性与可靠性进行全面评估，给后续公共管理工作埋下安全隐患。同时，公共管理部门缺乏技术创新意识，没有打造核心工程师团队，导致无法对人工智能技术进行科学评估，进而引发人工智能技术精度风险。
4.应用层，风险剖析
公共管理应用层出现的风险，主要是基础设施层与算法层，产生的风险传导形成应用层风险。笔者以隐私泄露风险为例分析，基础设施层的用户隐私数据，遭到黑客攻击后，将可能受到算法层相关利益集团的操控，对用户的隐私进行截取，导致用户应用隐私不断泄漏。
5.结束语
综上，文中对人工智能技术，在公共管理中的应用風险进行分析。笔者基于基础设施层、算法层、应用层进行风险阐述，旨在说明人工智能技术应用的实际效果。未来人工智能技术应用过程中，应当对人工智能技术进行不断完善，保证人工智能技术应用的可靠性与安全性，推动我国人工智能技术的可持续发展，使其发挥出一定社会公共服务价值。
Reference：
[1]胡象明，陈一帆.人工智能在公共管理中应用的风险分析[J].科技智囊，2020（01）：66-70.
[2]鲍源涛.浅谈人工智能在公共管理中的应用[J].中国新通信，2019，21（01）：138.

-全文完-