1、188No.42023Gen.No.240NINGXIA SOCIAL SCIENCES宁夏社会科学2023年第4 期总第2 4 0 期生成式人工智能诱发的风险样态、生成逻辑与智慧治理策略基于传播政治经济学的分析崔小燕,张长立(1.中国矿业大学公共管理学院,江苏徐州2 2 1 1 1 6;2.中国矿业大学网络风险治理研究中心,江苏徐州2 2 1 1 1 6)摘要:生成式人工智能已经成为相关组织机构、个人提升自身社会服务水平和能力的现实需要和重要选项,但生成式智能技术平台的网络效应及其诱发技术依赖的资源依附逻辑、诱发技术霸权的资本运作逻辑,以及运作风险治理的制度失灵逻辑却可能会诱发多维风险。因此
2、,采用与泛智能化社会相契合的智慧治理策略,以区块链弥补生成式人工智能的技术缺陷并以“关系的智能化”优化社会关系网络,加快我国“人工智能+”的战略升级并化解部分发达国家的技术霸权风险,推动公共政策的智能化转型并强化公共政策执行过程的威慢性,有助于将生成式人工智能优势转化为治理效能优势,进而推动我国从“互联网+战略到“人工智能+”战略的升级。关键词:生成式人工智能;技术依赖,技术霸权;人工智能经济ChatGPT;区块链;公共政策中图分类号:TP18/G203文献标志码:A文章编号:1 0 0 2-0 2 92(2 0 2 3)0 4-0 1 8 8-1 1一、问题的提出随着国际科技竞争态势的加剧和
3、ChatGPT等科技浪潮的冲击,生成式人工智能在大型语言模型等方面的优势持续彰显。相关数据显示:Chat-GPT自2 0 2 2 年1 2 月公开试用以来,用户规模两个月内破亿,超越TikTok与Instagram,成为史上用户数增速最快的应用程序。同时,ChatGPT的广泛普及使OpenAI的价值增至2 90 亿美元/2)。国内外科技巨头谷歌、微软、百度、阿里巴巴、商汤科技、华为等纷纷进入此领域,展开相关产品和服务的技术研发、市场布局、业务场景拓展等工作,直接驱动了产业升级和科技革新进程,加快了智能时代的崛起进程生成式人工智能主要是指通过各种机器学习方法从数据中学习对象的特征,进而生成全新的
4、、完全原创内容(如文字、图片、视频)的人工智作者简介:崔小燕,女,中国矿业大学网络风险治理研究中心研究员,中国矿业大学公共管理学院行政管理学博士研究生,主要研究方向为人工智能、传播政治经济学;张长立,男,中国矿业大学公共管理学院教授,博士生导师,主要研究方向为公共政策、智慧治理。基金项目:国家社会科学基金一般项目“新媒体技术对国家政治安全的影响及对策研究(项目编号:2 0 BZZ034),江苏省高等教育学会评估委员会一般项目“智能时代研究生日常思政教育质量的智慧保障策略研究”189能 3。作为生成式人工智能的重要代表,ChatGPT等生成式人工智能在复杂理解等方面表现出与人类相似的智能并作出普
5、通正常人类的智能选择,且会随着智能技术的迭代更新而不断强化自身作为内容生产者、传播者等方面的主体地位,已经展现出了通用智能模型的潜力。因此,生成式人工智能将显著改变人类的工作方式与交互方式,成为相关组织机构、个人提升自身社会服务水平和能力的现实需要和重要选项,得到学界的密切关注。目前,多数学者主要从哲学视角挖掘ChatCPT的意义 4 、从情报学视角看生成式AI对本学科研究与实践的影响 5 、从法律视角看生成式人工智能与其相关的六大议题 6 、从出版学视角审视人工智能生成内容的议题 7 、从媒介社会学视角分析生成式AI对新闻传播业的再格式化8 ,认为生成式人工智能已经彻底改变了消费者在后流行病
6、时代的思维、行为和生活方式 9),对科学和社会产生了深远的影响,而传播与社会的治理逻辑将随之发生深刻变革 1 0 。但是,目前针对生成式人工智能的传统规制模式存在困境,需要人文社会科学等领域的研究者提供新的认识世界的框架 1 2 。由于生成式人工智能技术具有技术创新扩散、资本嵌人和制度嵌人功能,和传播政治经济学领域密切相关,且目前学界从此视角对该技术领域进行系统审视的研究较为稀少而薄弱,故在生成式人工智能技术革新进程加快、影响呈指数级增长,且泛智能化应用场景持续拓展、深化的变革时期,从传播政治经济学视角来关注、理解该智能技术产品和服务的不确定性风险,深入探索其运作的技术逻辑、经济逻辑,以及其可
7、能嵌人的关系网络和制度体系,有助于探索此领域中相关风险的善治水平并推动我国从“互联网+”到“人工智能+的战略升级进程二、生成式人工智能诱发的三重风险样态国际著名传播政治经济学学者文森特莫斯建构的商品化、空间化和结构化分析框架认为,相关事物能够通过商业化运作而得以扩张其在空间层次的影响力,进而会通过某种制度化过程嵌人到社会系统之中 1 3 1 35。作为驱动数字经济的重要力量,ChatGPT等生成式人工智能的商业化运作不仅会带来技术依赖风险,而且会通过其影响力的扩张在空间层面获得某种技术霸权力量,进而会试图通过制度嵌人的形式影响该领域相关运行规则并诱发诸多风险。(一)生成式人工智能诱发的技术依赖
8、风险ChatGPT等生成式人工智能技术能够富有效率地将数字信息资源转化为商业价值,常会吸引资本力量到此领域挖掘剩余价值。在资本力量和技术力量的正向循环增强效应中,力量相对弱小的用户群体容易在利益交换中处于弱势地位,并可能在商业盈利模式设计和技术成瘾设计中陷人对该技术产品和服务的过度依赖风险。首先,生成式人工智能产品能够研发契合用户需求的产品和服务,强化了部分用户群体对这一技术依赖的可能性,也容易加剧算法歧视对用户的伤害。在信息超载的网络社会,ChatCPT等生成式人工智能产品不仅可以提供增强的消费者参与、改进的客户服务、个性化和购物、社交互动和沟通实践、成本效益、对消费者行为的洞察和改进的营销
9、活动9,而且能够克服传统搜索软件的信息处理范式,根据用户需求直接输出更简洁、有效的信息产品和服务。生成式人工智能的运作具有创新性的算法设计程序和先进的设计理念,能够更为有效地满足用户需求,增强了对用户群体的吸引力。然而,在数字市场领域中,数据、智能技术驱动下的信息市场自我矫正机制可能存在缺陷,部分实力强大的智能技术平台会依靠精心设计的盈利模式,采取“算法杀熟”等算法歧视行为,实质上违反了市场公平的传统准则,这种通过牺牲为其贡献直接利益的用户群体切身利益来获取超额利润的做法,将直接削弱用户群体对相关平台的社会信任与合作水平。在电子政务领域,生成式人工智能同样会导致算法歧视风险,并通过其政治影响力
10、在社会各子系统中广泛传导,导致诸多政治安全风险。相关研究表明,智能政务ChatGPT化可能会导致算法歧视风险在政务服务领域被无限放大,一旦产生歧视性服务行为便可能导致政府部门作出不公平或歧视性的决策,损害部分公众的合法权益,并进一步加剧社会分化,酿成不可挽回的后果;政务工作者在使用类Chat-GPT时可能产生过度依赖,只是机械地将问题输190人到类ChatCPT中以获取答案,从而失去了独立思考和解决问题的能力,导致政府决策的权力让渡于人工智能,反而容易让决策者成为人工智能的工具;类ChatGPT可能会产生一些虚假政务信息,并基于这些虚假信息做出错误的政务决策,进而对政务决策者产生误导 1 4
11、。由此研究可知,包括智能政务ChatCPT在内的诸多生成式人工智能在不同社会场景中的拓展应用,可能会加剧部分用户群体的技术依赖或技术成瘾症状并出现多样化的伤害。其次,部分利益主体过度的技术依赖倾向,会加大其被资本、平台力量捕获并造成伤害的可能性。在数据爆炸和信息超载的智能社会中,用户个体常无法对相关复杂数据、信息进行分析。由于生成式人工智能技术具有通用技术的潜质,用户使用商业化产品和服务的门槛相对较低,因而部分用户群体常倾向于使用ChatCGPT等生成式人工智能技术工具,甚至可能会因“使用与满足”效应对生成式人工智能产生依赖心理和价值归属感。在部分用户群体作为意见主体的独立性、自主性被侵蚀的情
12、况下,用户对相关问题的分析、判断、认知可能会受到“信息茧房”影响,导致思维固化、认知窄化、群体极化等问题,加剧已经出现的不同网络社群的文化区隔、多元话语体系融合难度的增加等风险 1 5 。资本力量在生成式人工智能研发和平台经济发展过程中占据重要作用,可以通过各种方式对生成式人工智能等要素以及各要素之间的关系施加影响,并以建构拟态环境等方式影响用户的使用偏好或削弱用户对某种深刻问题的体悟程度。相关研究表明,ChatCPT作为传统力量的延伸,是互联网中心化垄断模式的进一步强化,目前,其被互联网巨头及华尔街资本垄断,可能存在被企业利益驱动而滥用的风险,当垄断企业被其背后的国家政治力量影响时,Chat
13、GPT有可能操纵用户作出违背其最佳利益的事情,甚至实现操纵选举、破坏民主进程和传播虚假信息,也可能进一步分化社会,造成分裂和不信任 此种研究表明,ChatCPT等代表的生成式人工智能技术权力与资本权力的结合,可以对相关信息进行选择性加工,通过某种隐性“控制”影响人们对待相关产品和服务的使用态度和消费立场,进而冲击正常的市场秩序和社会秩序。部分用户群体同样会具有主动性,并能够通过自身素养的提高对抗来自不良智能算法的侵蚀,但是生成式人工智能同样可以通过深度学习持续优化系统、升级自身的产品和服务。由于人工智能产品兼具技术效率和资本动力的加持,但个人认知的提升是相对长期的过程,所以人工智能常会达成自身
14、某种目的。(二)生成式人工智能导致的技术霸权风险人工智能的发展高度依赖优质数据资源,人工智能公司也就具有数据公司属性,且会试图通过各种途径采集多维用户数据,通过相关优质算法模型对海量数据信息进行加工。由于用户输人算法模型的信息、知识是海量的,而建构、加工、吸纳数据、信息、知识的模型参数也具有更大难度,能对大语言模型进行研发、修正和部署的企业较为有限,所以进入生成式人工智能领域具有较高门槛。受此先发优势影响,部分人工智能技术寡头将会凭借马太效应不断集聚相关资源,试图强化自身具有通用技术属性,进而通过提供社会基础技术设施的服务享受相关市场、社会、政治红利。目前,在数据、算力、经济实力等方面占据优势
15、的少数超级企业平台垄断了生成式人工智能得以运行的大模型,并试图在市场空间、国际空间等层面拓展其影响力。然而,开发、推广、运营新型生成式人工智能所需的高昂算法、算力、算料等资源成本,不仅提升了该领域的进人门槛,而且可能会在此技术壁垒的制约下形成某种相对封闭的技术生态,甚至可能会形成某种技术霸权。相关研究表明,“在一个极端和混乱的世界里,有权有势的人有更大的动机和能力用人工智能胡作非为,同时,比起彼此合作,人工智能开发团队们更有动力在安全性上偷工减料。斗。”1 6 4 4 4此种阐述虽有些夸张,但却反映了部分超级技术平台可能因为过度追求超额利润,而在数据搜集、信息处理等方面出现道德伦理等问题。例如
16、,在国际政治领域,ChatCPT引发的伦理、道德、人权等问题屡见不鲜,ChatGPT不仅极力维护美国利益,而且秉持美国现行的政治立场,在使用ChatCPT时会以本地利益驱动化,出现同一问题的利益双标现象 。此种现象表明,相关191占据竞争优势的利益主体,可能会在缺乏强力的道德制约、忽略对是非标准的统一认知、过度追求个体利益等因素驱使下,强化技术滥用偏好并诱发伦理问题等人文困惑。为了规避相关伦理风险,技术研发者在对相关智能技术设计、训练过程中设置了某种政治、法律和伦理底线,但仍然可能出现相关智能技术的“越狱”现象。相关资料表明,“ChatGPT的局限性众所周知。OpenAI自己也承认ChatGP
17、T的输出可能是不正确的或有偏见的,例如引用不存在的文章参考或延续性别歧视的刻板印象,对有害指令作出反应,比如生成恶意软件 7 。ChatGPT拥有对直接挑战法律法规和道德伦理底线问题表达拒绝的能力,但是,相关资料却指出,通过改变发问的措辞方式,在刻意诱导下,ChatCPT可能成为违法犯罪思路的策源地 3。由上述研究可知,作为生成式人工智能技术的重要代表,ChatGPT虽然在大型语言模型技术等方面具有优势,但其关键技术还不完全成熟,数据的不当搜集、处理等行为也可能导致数据污染风险,在透明度、稳健性、偏见与歧视方面仍面临技术局限,且在规模化推广中容易诱发多元风险,仍然存在较多可以进步、完善和升级之
18、处。部分西方发达国家不愿对自身不良行为进行有效约束,并试图凭借人工智能技术霸权优势,通过窃密、歧视等方式滥用技术权力,导致他国政治问题的恶化。在技术霸权思维下,部分发达国家会利用人工智能硬件、算法模型、技术生态、原发性创新、应用场景、标准制定等优势,确保自身技术霸主地位。此种试图通过长期掌握核心技术和科技革命主导权,以技术专利、知识产权控制的方式来“冻结”自身与其他国家之间的技术差距,并以此技术、市场垄断谋取超额利润的方式,在某种程度上已经具有技术殖民的属性。相关研究表明,在生成式人工智能领域,我们一方面可以看到我们与美国在人工智能方面存在的技术差距,也需要看到这种技术差距背后隐含的意识形态的
19、话语霸权 1 2 。在人工智能技术效率的加持下,相关资源得以通过网络效应向少数超级技术平台汇集,而市场霸权也将对少数超级技术平台的技术霸权构成正向反馈效应,进而构成对其他多元利益主体的排斥效果并引发冲突,所以上述研究成果具有一定合理性并值得重视。同时,随着技术霸权国家设置的技术壁垒越来越高,发展中国家通过学习方式进入该权力中心领域的可能性越来越小。尽管部分发达国家试图以新方式对技术霸权进行美化包装,但其在实质上增加的不同国家或地区之间的技术鸿沟、数据鸿沟、智能鸿沟与权力鸿沟却不容小靓(三)生成式人工智能容易加剧制度失灵风险生成式人工智能影响力的增加和相关资本力量能量的扩张,容易在交互作用中围绕
20、相关议题形成某种生态,逐渐建构出结构化的权力关系,可能会对传统制度规范构成冲击并诱发治理失灵风险。首先,生成式人工智能的技术运作会给现有制度体系带来挑战,容易增加制度失灵风险。生成式人工智能虽然具有理解用户意图并与其进行交互的能力,但此种互动不仅多受语言文本中介的制约,而且生成式人工智能训练过程也会受相关语料库更新能力的制约。随着语料库更新进程的加快,生成式人工智能技术发展所需的数据来源不仅会面临合法性、真实性、伦理性问题,而且通过多种渠道收集人库的部分用户的私人信息商业秘密等敏感信息,也可能会在部分有心人士诱导性的互动过程中予以泄露,并可能会在多重不确定的新型场景中违规使用,给现有风险监管制
21、度体系构成新的挑战。有研究表明,以ChatGPT为代表的人工智能通用大模型对传统安全责任制形成破坏 1 8 。由于ChatGPT需要用语料库进行预先学习和训练,在数据获取、数据内容、虚假信息等方面便存在违法风险,故上述研究具有可信性。例如,ChatCPT等生成式人工智能不仅需要预先对相关数据、文本进行学习和训练,而且可以通过梳理、整理、编译等方式对现有信息进行改编并生成新的内容。但在此过程中,不仅部分数据的获得可能未经著作权人授权,直接侵犯了相关利益主体的数据权益,而且某些盗版内容或非法网站上的不良信息也会被纳入其中,对数据来源合法性、正当性构成风险,或者诱发违法犯罪行为,给相关制度规范中的安
22、全责任与义务的确定带来冲击。其次,生成式人工智能在具体市场中的应用192场景尚不成熟,应用领域、范围、途径等会超出现有制度体系的规制范围,带来诸如数据跨境流动导致的新型政治安全风险,给现有制度体系带来新挑战。因此,随着生成式人工智能技术迭代升级过程的加快,其产品和服务应用场景的革新频率也会增加,触及传统社会未被关注或探索的领域。不仅如此,尽管生成式人工智能的编码设计和系统运作应凸显人类价值这一观点已经得到多数人的认可,但对人工智能的技术标准、系统模型、伦理规范进行界定与建构的国际主导话语权却多掌握在部分西方发达国家之手,生成式人工智能嵌人的某些价值偏好仅代表其族群价值观,并可能在实质上构成了对
23、人类文明多样性的忽略。因此,具有通用技术潜质的生成式人工智能的广泛使用,将加大部分西方国家价值文化与其他多元文化价值之间冲突的可能性,以及部分西方国家通过涵化效应对其他制度文明予以侵蚀的可能性。再次,政策制定的时滞效应容易增加治理失灵概率。公共政策的制定过程是多元政策主体、客体等利益相关者之间的持续互动和博奔过程。在此过程中,相关个体或组织会因为信息不对称、决策非理性等原因,政策目标的制定与实施的实际效果之间出现偏差,而从政策目标制定到通过执行过程产生具体效果所需的这段时间差则被称为政策时滞。一般而言,由于传统社会发展相对缓慢,政策时滞导致的政策效果滞后效应不太明显。然而,在社会急剧变革的智能
24、社会中,如果上述政策时滞较长,可能会导致政策调整与风险防控之间出现因果失焦等问题,而相关规制政策也会失去最优效果。尤其是在生成式人工智能等高新技术领域,随着技术更新迭代进程的加快与未来演变路径的较高不确定性,对生成式人工智能的政策制定多基于某个时间点,且倾向于以现有知识储备来进行决策。然而,人工智能技术的发展较快且变化较为剧烈,相关法律制度与人工智能表层“耦合 但深层彼此冲突 1 9,所以现有的决策依据就存在风险,而相关公共管理机构进行风险管控的努力可能会失败,并失去对相关风险进行良性治理的难得契机。特别是在因素复杂且需要较长时间决策的敏感领域,政策时滞更容易发生,政策实际效果与预期目标的偏差
25、会更大,公众利益和社会整体福会被削弱,政府的公信力及政治统治的合法性、正当性也可能会被质疑。三、生成式人工智能诱发风险的三维逻辑(一)生成式人工智能技术平台诱发技术依赖风险的网络效应逻辑网络效应理论认为,网络效应是消费者数量的函数,加人网络中的客户越多,顾客成本越低,获取的价值越高。用户加入某个网络得到的价值分为两部分:一部分称为自身价值,指产品或者服务本身带给用户的价值;另一部分称为拓展价值,指由于网络其他用户的加入而获得的额外价值增量 2 0 1 0。随着生成式人工智能产品和服务的普及,它的用户规模会越来越大,利益相关者也会越来越多。当海量用户均使用生成式人工智能技术产品或服务时,该技术提
26、供的自身价值和拓展价值也会随之增加,并会在涟漪效应下衍生更大的经济、社会和政治价值,进而为相关用户群体提供保值或增值的服务,有利于强化用户黏性并诱发部分用户群体的技术依赖效应具体而言,生成式人工智能产品和服务的智能属性,使其能够通过神经网络和深度学习等方式不断优化相关算法模型,以提升自身的技术性能并更加契合用户群体的多元需求,进而吸引更多用户。随着用户规模的增加,相关用户的反馈也为产品研发、流量变现提供了重要参考,技术产品能够提供的相关数字信息也更丰富。随着技术平台用户资源、数据资源的增加,第三方应用程序也会被吸引而来,使该技术平台的实力进一步增强。在技术平台、用户和第三方程序等利益主体构成的
27、多维反馈回路的影响下,生成式人工智能产品网络效应的维度、层次得以进一步增加。因此,生成式人工智能产品虽然具有较高的初始研发成本,但产品和服务的再生产过程成本相对较低,并可以从供给方、需求方的规模经济中获得较大的边际递增效应。在马太效应的正向反馈机制下,部分生成式人工智能产品可以获得较为稳固的市场地位,用户也会在达到某种临界规模后获得爆发式增长。在边际收益递增和正反馈运作机制下,生成式人工智能技术平台可以通过不断训练提升自身用户服务效能,而用户对此产品黏性193的增加也意味着用户会与该平台产生更强的依赖关系,替换其他相似技术产品的行为概率将大幅降低。生成式人工智能超级技术平台具有的海量数据资源、
28、精妙算法、多元化产品和服务、纵向一体化的市场整合策略,以及网络效应的持续增强,大幅增加了平台资源的集聚效应和用户群体等利益主体的平台转换成本,也进一步强化了多元用户群体和第三方程序技术研发主体对平台的依附关系,大幅提升相关超级技术平台对用户群体决策施加的干预能力。在用户群体与生成式人工智能技术平台构成的双向依赖关系中,部分超级技术平台将获得较高的议价能力,成为重要的信息把关人,而普通用户群体则处于相对弱势的地位。换言之,部分用户群体或技术研发者对超级技术平台的依附关系,使技术平台掌握改变某些信息获取机制方面的能力,甚至会试图扭曲某些信息,通过影响人们对部分公共事务的认知、态度、情感和行为偏好,
29、获得更大的市场利润或政治影响力。生成式人工智能技术在以更人性化、简便、智能的方式实现多元用户群体的利益愿景时,也可能会在嵌人的智能技术平台相关辅助技术体系的加持下,通过频繁的多维交互,对相关用户进行更精准的画像,并以更具吸引力的产品和服务增强用户黏性,增加用户被该技术媒介或技术生态系统“涵化”的风险。同时,当部分用户对该技术的依赖达到某种程度时,意味着用户对其他相关产品的心理距离增加,独立接触外部产品并进行其他选择的可能性降低。此种过程,意味着部分用户群体逐渐将自主、独立选择的权力移交给某些超级技术平台,并以自身价值作为该平台进化、扩张的重要资源一一即便平台与自身在实质上存在利益分歧的风险,并
30、可能会面对某种不确定性的过度依赖风险。特别是在智能算法提供个性化服务已成为普遍现象时,用户会理所当然地认为他人接收的内容与自已被推送内容的不一致是一种常态,而对于某条重要信息的消失也将不太关注。在此情况下,某些超级技术平台便可以更为大胆地通过精准化信息推送影响部分用户的相关认知和行为选择。因此,如果用户对人工智能技术风险疏于防范,且相关政府职能部门的政策工具箱又没有及时更新升级,那么部分超级技术平台通过“算法黑箱”输出用户偏好的相关技术产品和服务,并以此强化用户在不同利益主体依附关系中权重的可能性也会大幅增加。(二)生成式人工智能诱发技术霸权的资本运作逻辑不断演化的生成式人工智能技术、日益更新
31、的智能运用与可能会诱发的商业竞争,可能会对传统商业运作带来结构性变革。生成式人工智能是一个资本密集型、技术密集型产业,对技术资本、商业资本、金融资本等因素的依赖程度较大。然而,随着生成式人工智能技术升级进程的加快、市场规模的扩大、用户黏性的增强和可提供价值的剧增,新兴企业除非拥有颠覆性的技术或其他优势,不然很难获得与先行技术优势企业展开竞争的用户规模、技术和市场优势,导致该行业的技术和市场门槛随之增加,并可能诱发新型消费场景中资源分配的失衡与技术霸权风险具体而言,ChatGPT等生成式人工智能的发展日新月异,不仅能够以更“类人”的方式与人类展开互动,而且能够提供特色化的产品、丰富人们的技术选择
32、、改变人机交流的模式、节省人们获取资讯所需的信息加工时间,并为人们初步勾勒未来智能化生活的图景。然而,对于相关信息产品和服务的提供方,ChatGPT等生成式人工智能技术的兴起大幅降低了多元用户群体信息搜寻、加工整合的成本和相关行业的进入门槛,在提升数据信息资源加工效率、带来额外经济效益的同时,也增强了彼此之间的竞争烈度,容易增加实质上的运营风险,进而迫使企业以产业升级、商业模式创新等方式提升竞争力。为了在激烈、高效且充满变化的市场竞争中获得相对优势,微软等企业已经试图将ChatCPT等生成式人工智能技术纳人自身的相关产品或服务之中,可能诱发新一轮信息技术竞争和市场博奔以数据资源为例,随着相关优
33、质数据规模的递增,某些生成式人工智能产品公司服务产品的质量也会提升,且可以不断修正自身缺陷并获得相对竞争优势。为了维持或获得显著竞争优势,该类公司会更有动力从多方渠道收集数据并试图194从数据背后挖掘更深层次的含义。同时,随着万物互连社会的加速到来,相关技术公司通过物联网、云计算等方式从社会各领域获得相关数据信息的可能性也大幅增加,对人们的生活喜好和价值偏好的熟悉程度更高,为人们提供的相关决策服务也更具个性化、人性化,且可以通过提升用户黏性达到收益最大化。从此种角度看,数据资源的补给使智能算法成为实现超额利润的重要工具,在此工具的加持下,相关信息产品和服务的提供方可以通过更低的成本为用户提供更
34、优质的产品和服务,但此种策略也容易令低效率的生产者出局,从而进一步提升了生成式人工智能技术的门槛。通过这种市场的资源配置,技术、数据、资本等资源将被优先分配给高效的技术使用者。纵向并购或横向兼并有助于提升产业规模、降低生产成本并提升收益,市场竞争策略容易成为诸多技术企业的优先选择方向,并可能诱发行业垄断风险。不仅如此,由于竞争会提高运营成本并增加市场风险,实力上相对接近的企业也可能通过信使场景、中心辐射式场景、预测型代理人场景等默许共谋方式达成稳定价格或提升收费水平,以获得更大的超额利润。例如,现实社会中的技术研发人员和用户群体,均会向能够提供更多福利的智能技术平台学习或靠拢,而此种技术研发机
35、制和用户市场演变态势也会促使功能最强大的智能算法程序取得对相关领域的主导权。多元化利益主体之间具有规避竞争带来的无端成本损耗、追求最大化利益的运营理念,当势均力敌的多元企业使用相似的生成式人工智能算法来辅助个体决策并将其作为市场行为的重要选择依据时,企业市场行为可能会更加同质化,并可以在缺乏协作行动或垄断协议的情况下达成某种默许共谋现象。然而,生成式人工智能加持下的协同式共谋过程缺乏违反竞争法的切实证据,会大幅增加政府反垄断调查和执法的难度。选择范围受限且呈碎片化形式分布的普通用户群体与具有垄断性力量的超级技术平台力量悬殊、不对称的信息交流、行业进入门槛的提升,以及立法、行政机构对此行为干预的
36、薄弱,也会加大不同生成式人工智能技术企业共谋行为的发生概率。(三)生成式人工智能技术平台风险治理的制度失灵逻辑生成式人工智能会推动生产力与生产关系的循环更新,而与该领域契合的相关制度体系也呕须革新。生成式人工智能凭借智能化、人性化优势,从海量数据、文本中进行深度学习,为普通用户提供强大而富有创新性的文字、图片、代码等智能服务,因而能够优化普通用户群体的信息获取范式,提高用户对相关知识的获取效率,有助于从整体上改变人们在生产、生活中的传统经济利益关系,促使社会生产关系发生变革。例如,生成式人工智能蕴含的大型语言模型等智能技术,可能会随着技术革新成为各种机器设备的“智能大脑”,人机接口等技术,也可
37、以在相关优质数据资源的加持下,提升用户真实意图被便捷、有效地领会与执行的效能。在此情况下,生成式人工智能机器人将获得更广阔的发展空间,以不断满足多维社会领域对智能化场景革新的需求。随着人工智能产品和服务的提质升级,生成式人工智能机器人在不同社会场景中的应用将更为复杂、深入而系统,其重要性也将更为突出。但是,以往以人为中心的人机交互关系可能会发生变化,而人在社会生产、生活中的关系和地位也会随之发生变革。此种情况可能会加快传统社会生产关系的重构进程,并需要适时革新与之相契合的风险治理制度体系。风险治理政策工具的升级进程可能会因政策时滞效应而削弱治理效能,而行政干预等相关风险治理措施也会存在局限性。
38、生成式人工智能技术领域具有构成要素复杂、迭代更新快、涉及的敏感领域多、影响广泛、未探索的未知领域多等特征,相关公共政策的出台一般要经过充分而科学的论证,在具体执行过程中也会面临人情、面子、关系、利益纠葛等诸多复杂因素的影响,造成该领域的政策时滞一般会较长,而风险治理效能的发挥也需要较长时间的反馈,导致新型公共政策工具的升级进程可能会加大该领域内防范技术霸权、过度技术依赖风险治理的难度不仅如此,“数智”时代公共行政能力的提升过程可能会滞后,而对新型生成式人工智能技术关联市场及时、有效的行政干预也会存在局限性。195相关研究表明:市场中注定会存在企业追求利润最大化、保障消费者权益以及买卖中的道德规
39、范之间的冲突,当前的竞争法也许既无法有效化解这种冲突,也无法激励人们对具备学习能力的算法行为承担责任 2 1 2 9。由此研究可知,在人与生成式人工智能共生关系的演进过程中,会滋生许多新兴风险,并制约相关政府机构职责效能的发挥。其中,部分公共管理人员可能会因为无法充分掌握新型市场动态特性而缺乏对相关公共事务发展态势的预测能力,其及时发现市场漏洞并设计出有效应对方案的能力被削弱,而对相关风险的判断可能会出现失误,对相关超级技术平台干扰市场运作的“数字化之手”也缺乏有效监督和制衡的手段。行政干预虽然具有直接、见效快等优点,但对新型人工智能驱动市场的干预有效性、局限性尚待时间检验。在新型市场生态中,
40、基于智能算法加持下的默许共谋场景,相关公共管理机构在对不法行为进行行政执法或司法审判时,常难以拿出相关主体违反法律的客观证据。在新型市场运作范式带来的冲击中,部分公共管理机构常难以把握介人相关风险的恰当时机和干预的合理尺度。面对公共管理过程中的不确定性风险,以及在此过程中可能导致的高成本消耗,相关政府职能机构在履职尽责程度方面的评价可能受到批评,促使相关机构在设计新型政策工具中趋于保守,削弱相关风险治理效能,增加制度失灵发生的概率。四、生成式人工智能诱发风险的智慧治理策略生成式人工智能技术的发展虽然回应了人类社会对于相关产品和服务的需求,但也对社会各领域产生了结构性的影响,使各个风险要素的敏感
41、性、瞬息变化特性、复杂性、智能化属性增强。因此,以智慧治理理论切入生成式人工智能风险语境,有助于充分发挥智慧技术体系的协同治理效能,并以技术优化、资本规范、制度调适等多元协同的智慧决策系统提升不同利益主体的协作效能,提高社会系统的快速适应水平,推动我国从“互联网+战略到“人工智能+”战略的升级进程。(一)以区块链弥补生成式人工智能的技术缺陷,以“关系的智能化”优化社会关系网络国家治理现代化的关键首先是以智能技术为核心的生产力革命,另一关键是以区块链技术为核心的生产关系革命。这两种技术的结合会更快地推动发展中国家的治理现代化。2 2 1 5 作为智能革命的两个核心技术,生成式人工智能代表的人工智
42、能技术虽然容易导致技术霸权、过度技术依赖等问题,但区块链技术却有助于通过分布式账本、密码学方法、点对点传输等关键技术解决上述问题。人工智能已经对国际政治经济格局产生了深远影响,应将区块链的科技属性与社会属性紧密联系起来,在弥补生成式人工智能自身缺陷的同时,提升区块链核心技术的社会理解和接纳程度,建构更具系统化、配套化的智能技术体系,规避或削弱生成式人工智能技术诱发的过度技术依赖、技术霸权等问题。首先,政府职能部门应以区块链技术体系弥补生成式人工智能技术体系的相关缺陷,并以二者关系的协同共振驱动我国智能技术体系的提质升级进程。相关研究表明,人工智能能够大幅提升社会生产力,但运作中的数据、算力等资
43、源多被超级技术平台垄断,而此种中心化的发展模式导致了生产力未能被充分开发和利用 2 3。因此,区块链技术的去中心化分布特征,一是可以较大程度规避中心化机构凭借资源汇集优势对边缘群体的价值压榨,以数字资源的更公平分配持续优化因过度开发而紧张的社会关系。二是可以通过去中心化的分布系统建构多中心化的数据分享平台和关系连接网络,规避或削弱传统中心机构或部分超级平台运作失灵可能导致的整体结构运作中断的弊端,因而可以促进该技术网络节点的各个主体以更加民主的方式展开公平合作,有效增强多方利益主体的合作意愿,也提高了人工智能的运作效能及生产福利分配的相对公平程度其次,区块链技术可以凭借对社会关系交往规则的重构
44、功能,强化智能合约对社会契约的培育效能,因而可以从社会系统运作、价值革新和协同治理等方面强化生成式人工智能技术的相关优势,进而以生产关系与生产力的有效协同共振来增加社会福证。具体而言,区块链技术具有分布式、不可篡改等技术特性。一是可以在实现信息资源共享和数据安全的基础上,提升不同网络节点对数据、信息资源使用的主动权,有助于驱动多元用户对生成式人工智能应用场景的探索。二是196可以用智能合约驱动新型社会信任关系的建构,并以此数字信任增加的社会资本优化社会关系,增加社会共识并提升社会系统的运作效率,有利于将人工智能价值更好地转化为社会福利。针对智能社会出现的人类用户与各种机器智能体建构而成的新型、
45、复杂、碎片化的关系,区块链技术可以通过智能合约来建构基于数字信任基础上的高效协同系统,以信任生态的建构驱动和以公共利益导向的价值融合,把具有独立诉求的个体联合起来行动。因此,区块链技术与生成式人工智能的有机结合,不仅可以通过数字法则建构的数字信任和集体共识发挥不同个体的力量,降低多方利益主体的分歧程度和相关制度的运行成本,而且可以通过润滑社会关系降低达成群体共识和有效社会协作的成本。从此种角度看,相关公共管理机构应在优化生成式人工智能和区块链系统理论、应用场景和技术生态的基础上,强化人工智能与区块链技术的协同共振效应,进而为解决相关结构性、制度性问题提供更多新颖视角和可能性路径。(二)加快我国
46、“人工智能+战略的升级,化解部分发达国家的技术霸权风险在智能社会中,生成式人工智能作为新型生产要素参与了生产力和生产关系的持续变革,并通过技术赋能等方式实现了对经济、政治等社会系统的深层嵌人。生成式人工智能涉及的领域广、问题复杂而敏感,需要多元主体以协商、合作等参与方式予以推动。特别是在高科技竞争日益激烈、经济下行、社会关系紧张、国际局势不乐观的高风险语境下,在协同治理体系中占据主导地位的政府机构也应通过平等、民主的方式激发多元利益主体参与相关风险治理的积极性,对相关技术风险与收益、可接受的责任伦理等问题进行讨论和评估,并在互动中达成各方共识的“最大公约数”,实现资源的最佳配置并寻求相关问题的
47、最优解决方案,最大程度地规避危机和推动该领域事业发展。首先,公共管理机构应以“善智”理念强化善良、正义对生成式人工智能的价值驱动能量并提升其自主可控水平,强化责任伦理意识对多元利益主体的深度嵌人。生成式人工智能产品、服务的研发与运用,常建立在对人类语言交流等行为惯性模仿的基础上,并可以通过各种方式对用户个体、社会系统施加直接或间接的影响。然而,人类的各种行为均镶嵌在社会系统之中,同时受社会道德伦理和法律规范的约束。因此,薄弱的伦理嵌入、道德约束和法律规制,可能会使部分智能产品和服务对现有社会系统构成大的冲击。为了提升人与智能体的多维关系与互动效能,智能体对生成式人工智能技术产品和服务进行引导与
48、约束的公共政策,也应以道德伦理为基础,并强化技术研发主体的责任伦理。责任伦理强调相关行动主体需要对当下行为和未来选择负责,故其对快速发展的生成式人工智能领域具有重要参考价值。强化相关智能系统的责任伦理认知训练,提升智能技术对人类伦理的深刻领悟能力,有利于防范人工智能为不良主体提供犯罪咨询等被恶意利用的可能。生成式人工智能产业和公共政策领域参与主体的身份多元、诉求多样,且文化价值背景也有差异,以责任伦理为核心推动相关算法、政策的建构,有助于强化公共利益优先、公平正义、预防性和可持续等重要原则对该领域相关过程的深度嵌人,强化多元利益主体的责任伦理并将其内化为个人认知和行为,以该领域技术的可持续创新
49、推动社会进步和人类的普遍福补。通过诸如此类的智能化关系建构路径,未来高度智能化、自治化社会语境中的社会自我运行机制,逐渐完善、发展,进而沉淀为稳定、成熟、发达的理想智能社会。其次,我国应有效防范他国的科技战略欺诈陷阱,提升相关领域人工智能的自主可控水平,积极化解部分发达国家技术霸权带来的风险隐患在不确定风险频发的国际政治经济博奔场域中,部分西方发达国家奉行的技术霸权逻辑仍然存在并会引发诸多冲突,而我国人工智能实力的增加也并不必然意味着对方实力优势的削弱。在目前全球治理难以达成有效共识的情况下,全球协商与国家治理之间的有效平衡点也难以把握。因此,我国应正视技术革命为相关风险治理提供的新型视角,不
50、仅应有效平衡与西方发达国家的竞争与合作关系,规避或削弱部分国家的战略欺诈陷阱,而且应鼓励相关科技企业积极参与到第四197次工业革命之中,加深对信息技术发展红利本质的深刻理解并主动有所作为。相关研究表明,美国在与苏联竞争中突然采取缓和战略,以低于苏联自身研发成本的价格为其提供电子元器件的产品,苏联觉得这样的产品既便宜又好用,逐渐放弃了本国元器件的生产,从向西方购买苏联的计算机产业在竞争中越来越弱势,直至最后被淘汰 2 4 1 6。由此可知,部分西方发达国家可能会试图继承第三次工业革命中对信息产业等领域的垄断优势,持续对其他国家或地区展开战略欺诈。针对此种情况,我国应充分发挥规模市场和前期研发基础