ChatGPT与人工智能时代：突破、风险与治理.pdf

年第期总第 期东北师大学报(哲学社会科学版)J o u r n a l o fN o r t h e a s tN o r m a lU n i v e r s i t y(P h i l o s o p h ya n dS o c i a lS c i e n c e s)N o S u mN o D O I /j c n k i /c C h a t G P T与人工智能时代:突破、风险与治理王俊秀,(中国社会科学院 社会学研究所,北京 ;中国社会科学院大学 社会与民族学院,北京 ;内蒙古师范大学 心理学院,内蒙古 呼和浩特 )收稿日期 基金项目教育部哲学社会科学研究重大课题攻关项目(J Z D ).作者简介王俊秀,男,中国社会科学院社会学研究所社会心理学研究中心研究员,中国社会科学院大学教授、博士生导师,内蒙古师范大学教授、博士生导师.摘要本文介绍了自然语言处理技术的人工智能应用程序C h a t G P T在A I G C(人工智能生成内容)领域的突破性进展,以及这种进步的重要意义.通过回溯历次工业革命对社会的影响,提出以下观点:人工智能发展将带来新的工业革命,人工智能社会已经成为趋势;人类的历史就是不断突破自身局限的历史,人工智能正带来一次新的工业革命,前两次工业革命人类扩展了肢体的机能,从第三次工业革命开始扩展的是大脑和神经系统的机能,进入对自身局限挑战的最高阶段,人工智能将推动大脑和其他身体机能整合式扩展,形成智能社会.还分析了C h a t G P T可能带来的就业问题和社会分化与不平等,分析了人工智能技术的风险,如隐私和数据安全、算法黑箱可能带来的偏见和歧视、人工智能依赖等问题.最后,介绍了国外研究者关于人工智能社会治理的思想,提出社会治理的基本思路.关键词C h a t G P T;人工智能;工业革命;社会治理 中图分类号D 文献标志码A 文章编号 ()一、C h a t G P T的A I G C技术代表着人工智能的历史性突破(一)横空出世的C h a t G P T进入 年后,仿佛一夜之间许多人都知道了C h a t G P T,在各种场合谈论这个能对话的机器人.这个“崭新”的英文词爆炸式地出现在各类媒体上,特别是对热点问题特别敏感的自媒体上.搜索百度指数发现,国内 年月底以C h a t G P T为关键词的搜索数量开始大幅增加,到 年月日达到峰值;媒体报道的增加则出现在C h a t G P T搜索量激增的一周后,到月 日达到高峰.除了报道C h a t G P T的突破性进展外,媒体开始讨论人工智能将对人们的生活带来怎样的改变.产业界以超出当初对待元宇宙的热情关注以A I G C为代表的人工智能.这段时间,许多人通过各种途径对C h a t G P T进行测试、考验、刁难和戏耍,但大家普遍惊叹C h a t G P T的反应和对话的流畅,人们似乎达成了一种共识,人工智能时代真的来了.(二)A I G C技术的突破那么,这个吸引了万千眼球的C h a t G P T到底是什么?以下这段文字是笔者让C h a t G P T做得对C h a t G P T的描述,也就是这个机器人的“自我”介绍,尽管它其实没有真正意义上的自我意识.C h a t G P T是一种基于自然语言处理技术的人工智能应用程序,它基于深度学习技术,使用预训练的语言模型生成人类类似的对话文本.C h a t G P T通常用于智能客服、智能问答、对话系统等场景中,为用户提供高效、自然的对话体验.C h a t G P T的关键技术是使用大规模语料库进行自监督学习,从而生成逼真的对话文本,使得用户可以像与人类一样自然地进行对话.C h a t G P T在自然语言处理和人工智能领域具有重要的研究和应用价值.来自C h a t G P T的“自我介绍”是非常准确的.C h a t G P T是美国人工智能实验室O p e n A I推出的一种人工智能技术驱动的自然语言处理工具,使用G P T(G e n e r a t i v eP r e t r a i n i n gT r a n s f o r m e r)神经网络架构.这个G P T 架构是一种用于处理序列数据的模型,不仅拥有语言理解能力,可以理解用各种语言提出的问题,还具备文本生成能力.由于训练它的语料库数量惊人,它几乎无所不知,能准确理解提问者上下文的意思,进行流畅、熟练的交流,聊天过程接近真人互动.C h a t G P T的本领不单是聊天,还能写邮件、写脚本、写文案、写代码,以及各种语言的翻译工作.年 月 日O p e n A I公司发布了C h a t G P T的超级A I对话模型,天后注册用户数就超过 万,两个月后的 年月日,C h a t G P T月活跃用户突破亿人,之前最快的速度是抖音英文应用T i k T o k保持的,个月达到亿用户.C h a t G P T的爆火并非偶然.O p e n A I是一家成立于 年的公司,这家公司创立之初就是为了抗衡谷歌的人工智能公司D e e p M i n d.年,O p e n A I与美国微软公司达成合作关系,微软向O p e n A I投资 亿美元.如今微软已经在其搜索引擎必应中内置了C h a t G P T,并将其整合到它的O f f i c e办公软件应用中.C h a t G P T成为目前A I G C(人工智能生成内容,A r t i f i c i a l I n t e l l i g e n c eG e n e r a t e dC o n t e n t)的领跑者,作为A I G C应用的人工智能技术率先宣告人类进入人工智能时代.C h a t G P T的同行者众多.年月日,谷歌宣布推出一款名为B a r d的实验性对话A I服务.年月G o o g l e推出了大语言模型L a MD A,年初L a MD A模型使用多达 B个参数训练,展示出接近人类水平的对话质量.脸书(F a c e b o o k)母公司M e t a也加入到人工智能竞赛之中.M e t a公司于 年月下旬发布了新的开源A I语言生成大模型,名为L L a MA(L a r g eL a n g u a g eM o d e lM e t aA I).M e t a宣称,尽管L L a MA参数规模仅为竞争对手C h a t G P T的“十分之一”,但性能却优于O p e n A I的G P T 模型,提供 亿、亿、亿和 亿四种参数规模的L L a MA模型.百度公司的C h a t G P T技术产品文心一言已经在 年月发布,尽管人们认为在许多方面其与C h a t G P T还有不小的差距,但国内许多企业已经开始基于这一模型开发相关的人工智能应用.C h a t G P T发布后,各大互联网巨头纷纷推出各种人工智能模型和应用,几乎每天都可以听到人工智能新进展的消息.年月日,O p e n A I宣布允许第三方开发者通过A P I将C h a t G P T集成到他们的应用程序和服务中.这意味着那些没有财力基础的小型企业和个人开发者都可以使用C h a t G P T这样先进的模型,这预示着人工智能内容生成的技术将在国内外迅速崛起并得到普及,人工智能内容生成将广泛进入人们的日常生活.本文初稿完成没几天,O p e n A I公司发布了C h a t G P T ,让无数人震惊的C h a t G P T属于C h a t G P T ,它还只是人工智能生成文本类内容的一种工具.短短的时间内,C h a t G P T 已经完成了跨越式的提升,全面支持多模态输入和输出.也就是说,G P T 可以接受文本、图像、音频等多种输入,并生成相应的输出,不仅可以处理更复杂和丰富的信息,也可以提供更多样化和有用的服务.G P T 可以根据图片生成字幕、描述、故事等,也可以根据文本生成图片、音频等.据O p e n A I称,G P T 在各种专业和学术领域的基准测试中表现出“人类水平”的性能.例如,在模拟律师资格考试中,它得分位于前;在医学诊断方面,它与经验丰富的医生相当;在创意写作方面,它可以生成引人入胜的故事、诗歌和歌词.同时,C h a t G P T 在美国各类考试中也取得了非常优异的成绩,在各种专业和学术的考试中都表现出接近人类的智能水平.比如,在美国律师执照统考中,C h a t G P T 排在后,C h a t G P T 可以达到前 的水平分位;在生物奥林匹克竞赛中,C h a t G P T 以 的水平分位获得金牌,而G P T 杜雨、张孜铭:A I G C:智能创作时代,北京:中译出版社,年,第 页.胡楠楠:天注册用户超 万,C h a t G P T让谷歌百度坐不住了,原载 中国企业家,见新浪财经,h t t p s:/b a i j i a h a o b a i d uc o m/s?i d&w f r b a i k e G o o g l e百 度 正 式 官 宣C h a t G P T竞 品!A I的 寒 武 纪 大 爆 发 来 了?,见h t t p s:/b a i j i a h a o b a i d u c o m/s?i d&w f r s p i d e r&f o r p c 林志佳:M e t a版C h a t G P T遭开源代码泄漏,开发者称新A I大模型推理速度优于G P T,见钛媒体,h t t p s:/m b d b a i d u c o m/n e w s p a g e/d a t a/l a n d i n g s u p e r?c o n t e x t B n i d A n e w s_ D&n_t y p e&p_f r o mO p e n A I宣 布 开 放A P I,开 发 人 员 可 将C h a t G P T集 成 到 自 己 的 产 品 中 ,见h t t p s:/b a i j i a h a o b a i d u c o m/s?i d&w f r s p i d e r&f o r p c 只有.其实,这些年,A I G C的应用已经全面展开,分别在文本生成、音频生成、图像生成和视频生成四大模态全面应用.文本生成方面,A I应用于新闻报道,A I写诗、写小说、写文案、写代码都已经不是新鲜事.音频生成方面,A I语音播报、语音合成已经普及,此外还可以生成歌曲,按照人的要求完成作词和谱曲.图像生成方面,A I编辑修图早已屡见不鲜,A I绘画也开始出现,可以根据文字描述生成图像,也可以借助已有图像生成新的图像,可以根据要求改变作画风格.视频生成方面,A I可以把图像变成视频,已经出现了完全用A I技术来完成的人物纪录片,也出现了A I合成的主播来播报新闻.(三)人工智能质的飞跃作为文本生成的C h a t G P T已经让人们看到了人工智能的质的飞跃,许多人把C h a t G P T的出现看作步入人工智能时代的拐点,人们已经看到了人工智能生成内容的更为广泛的应用就在眼前.从技术上来说,C h a t G P T代表着一种新的技术时代的到来.世纪 年代,伴随着万维网的诞生和发展,互联网进入W e b 时代.从内容生成上,这个阶段属于P G C(P r o f e s s i o n a l G e n e r a t e dC o n t e n t,专业生产),互联网的内容生成和发布是由专家完成的.世纪初,随着众多社交媒体的出现,互联网逐渐进入W e b 时代,也就是平台互联网,这个时期在内容生成上发生了巨大的变化,进入UG C(U s e r G e n e r a t e dC o n t e n t),也就是互联网的用户既是内容的消费者也是内容的创作者,这就使得互联网的内容生产出现了井喷式的增长.C h a t G P T代表着互联网络进入了一个新的时代 W e b 时代,这个阶段就是内容生成的A I G C阶段,网络内容的产生将由人工智能来完成,智能创作的时代已经来到了.表从P G C、U G C到A I G C的发展历程和特点互联网形态W e b W e b W e b 与元宇宙内容生产方式P G C(专业生产)UG C(用户生产)A I G C(A I生产)生产主体专业人非专业人非人核心特点内容质量高内容丰富度高内容生产效率高引自杜雨、张孜铭:A I G C:智能创作时代,第页.以C h a t G P T为代表的A I G C技术的另一个突破是实现了自然语言与人工智能的融合.以往与人工智能的沟通是依靠专业人士使用计算机语言来完成的,这对多数人来说都是一个鸿沟,而C h a t G P T在自然语言的理解能力上的“历史性跨越”,为每一个人都架起了通向人工智能的桥梁,这必然带来人工智能应用的巨大变化.C h a t G P T之前人们已经预料到人工智能巨大的可能性,但C h a t G P T的问世使得这一可能性成为现实,而且这个时间表大大提前了.C h a t G P T标志着A I G C形成以T r a n s f o r m为架构的大型语言模型(L a r g eL a n g u a g eM o d e l,简称L LM)的机器学习系统已经具有很强的学习能力.毫无疑问,C h a t G P T还会快速迭代升级,也会有超越它的更高级的大型语言模型.随着人工智能学习能力的不断提高,人工智能的应用领域会越来越广,越来越深入.虽然人们正在讨论C h a t G P T,但我们更应该关注C h a t G P T带来的历史性变革,也就是人类已经进入人工智能社会,人工智能社会将会如何发展?人工智能社会应该如何治理?因此,本文在简要介绍C h a t G P T后重点讨论的是人工智能社会的趋势、风险和治理.二、C h a t G P T预示了人工智能的未来(一)人工智能正带来一次新的工业革命回顾人类文明演进和技术革命的历史,每一次重要的变革都有一定的因素推动.农业革命使人类从狩猎采集社会进入农业社会,其推动力量是工具的使用和改进.从新石器时代、铜器时代到铁器时代,人类经历了三次农业革命.在这个漫长的过程中,农业文明得以形成和发展.自 世纪 年代开王雨 萌:C h a t G P T 震 撼 来 袭我 们 该 如 何 看 待A I越 来 越 强 大 ,h t t p s:/b a i j i a h a o b a i d u c o m/s?i d&w f r s p i d e r&f o r p c 杜雨、张孜铭:A I G C:智能创作时代,第 页.G e n e r a t i v eA I:P e r s p e c t i v e s f r o mS t a n f o r dHA I,h t t p s:/h a i s t a n f o r d e d u/g e n e r a t i v e a i p e r s p e c t i v e s s t a n f o r d h a i 杜雨、张孜铭:A I G C:智能创作时代,第 页.始发生了多次较大的工业革命(也称为“科学革命”).第一次工业革命以蒸汽机的发明为标志,主要特征是“机械化”,人类社会开始逐步从手工劳动转向机械生产.这一次变革也称为“蒸汽技术革命”,推动人类社会从农耕文明向工业文明过渡.第二次工业革命是“电力技术革命”,发生在 世纪下半叶到 世纪上半叶,以电的发明为标志.这一时期的主要特征是“电气化”,石油成为新能源,电力、电子、化学、汽车、航空等一大批技术密集型产业兴起,科学技术的进步使得机械化时代转向电气化时代.第三次工业革命是从 世纪 年代以后半导体、计算机和互联网开始的,是由计算机和通信技术推动的,生产更加自动和高效,社会经济从以工业生产为主向以服务业为主升级,第三次工业革命也被称为信息技术革命.世纪以来,随着大数据和人工智能技术的进步,人们在讨论第四次工业革命正在到来.这次工业革命将是智能技术革命,取决于物联网、深度学习、大数据、通信速度和计算机算力等方面的进步.以C h a t G P T为代表的大模型、自然语言、更高算力支持的人工智能技术的进步,意味着人工智能将迎来新的爆发式发展阶段.进入第四次工业革命时期,大数据、互联网、人工智能、元宇宙、区块链、量子计算机等的结合将带来产业重组.依照以往几次技术革命的经验,新兴的产业必然会带来新的经济社会发展模式,也会带来人们生产方式和生活方式的巨大改变.(二)人工智能发展是人类对自身局限挑战的最高阶段一定意义上,人类发展的历史就是人不断突破自身局限的历史.从更长的人类进化史角度看,人类经历了三次最重要的革命.除了大约 年前的“农业革命”(A g r i c u l t u r eR e v o l u t i o n)和前面提到的“科学革命”(S c i e n t i f i cR e v o l u t i o n)外,大约万年前的认知革命(C o g n i t i v eR e v o l u t i o n)时期,智人(H o m oS a p i e n s)开始创造出早期的“文化”,开启了人类的历史.因思考带来脑容量的增大,使得与其他许多动物相比身体并无明显优势的人类可以主宰整个世界.在人类进化的过程中,人类不断努力突破自身身体局限,使用生产工具扩展手臂的局限,使用制造的武器增强自身防卫和进攻能力,学会驯化动物、骑马方式等借助蓄力弥补身体的力量.到了工业革命时期,蒸汽机和机械的发明使得人的力量得到无限的延伸,汽车、火车、飞机、轮船等交通工具使人在陆地、空中和海洋中的快速移动能力不断提升,甚至进入了太空,登上了月球,超越了古人的想象.古人幻想能有千里眼、顺风耳.从望远镜、天文望远镜、射电天文望远镜,再到遍布世界的各种摄像头,从卫星俯瞰地球,千里眼的幻想早已经实现;电报、电话、无线电话的发明让顺风耳也成为现实;显微镜、各种不可见光、各种频段声波技术的应用使得原属于身体机能的听力和视力都得到无限扩展.关于这一点,弗洛伊德指出:“每一种工具的使用都使得人类改善了它的运动器官或感觉器官,或者说消除了对这些器官的限制.运动力具有巨大的力量供人使用,就如同人们可以随心所欲地使用肌肉一样.有了船和飞机,水和空气就不能阻碍人的运动;有了眼镜,人纠正了眼球晶体的缺陷;有了望远镜,人看到了很远的地方;有了显微镜,人克服了视网膜结构造成的视力限制.在照相机中,人创造了一种可以保留转眼即逝的视觉印象的仪器,就像唱片可以保留转瞬即逝的听觉印象一样.这两者从本质上说都是人类所具有的记忆能力的物化.借助电话就可以听到远方人的说话,这在童话故事中也被认为是不可能的.文字起源于不在场的人的声音,住房是母亲子宫的代替物.子宫是第一个住所,人类十有八九还留恋它,因为那里安全舒畅.”阿诺德盖伦曾经使用“器官代替”和“器官强化”两个概念来说明技术的发展.在使用代替技术完成了超越个体器官潜力的事情后,人们发现了能够扩大身体工作能力的强化技术,人们也逐渐发现了减轻器官负担的省力技术.技术的进一步发展经历了从器官代替到对有机物的代替,比如畜力代替人力,机器代替畜力.哈贝马斯曾经引述阿诺德盖伦(A r n o l dG e h l e n)的观点来说明人的理性化与科学技术之间的关系:“总之,技术的发展同解释模式是相应的,似乎人类把人的机体最初具有的目的理性活动的功能范围的基本组成部分一个接一个地反映在技术手段的层面上,并且使自身从这些相应的功能中何星亮:智能革命与文明变迁 人类学的视角,中南民族大学学报(人文社会科学版)年第期,第 页.福田雅树、林秀弥、成原慧:A I联结的社会:人工智能网络化时代的伦理与法律,宋爱译,北京:社会科学文献出版社,年,第页.尤瓦尔赫拉利:人类简史,北京:中信出版社,年,第页.弗洛伊德:文明及其缺憾,傅雅芳、郝冬瑾译,合肥:安徽文艺出版社,年,第 页.阿诺德盖伦:技术时代的人类心灵:工业社会的社会心理问题,何兆武、何冰译,上海:上海科技教育出版社,年.解脱出来.首先是人的活动器官(手和脚)得到加强和被代替,然后是(人体的)能量产生,再后是人的感官(眼睛、耳朵和皮肤)功能,最后是人的指挥中心(大脑)功能得到加强和被代替.”他讲道:“如果人们同意盖伦的观点,认为技术发展的内在逻辑就在于目的理性活动的功能范围逐步替代人的机体,并且转移到机器上,那么,技术统治的愿望就可以被理解为这种发展的最后阶段了.只要人是创造者,那么,它不仅能够第一次完全把自身客体化和同他的产品中表现出来的独立活动相对立;人作为被创造者,如果能够把目的理性活动的结构反映在社会系统的层面上,那么人也能够同他的技术设备结为一体.”人类坚持不懈地进行着把客体主体化的努力,人类的不断强大正是因为既可以把自身客体化,也可以把客体主体化,这样人就成为加强了的人、机能扩展的人.在麦克卢汉看来,任何发明和技术都是人体的延伸.麦克卢汉认为,在机械时代人类的身体在空间范围上延伸,到了电力时代人类的中枢神经系统得到延伸,而且他认为人类正在逼近人类延伸的最后阶段,在技术上模拟意识,“借助于置身在我们外延了的中枢神经系统之中,借助于电子媒介,我们创造了一种动力,过去的一切技术虽然只不过是我们手、足、牙齿和体温调控系统的延伸 它们全都是我们人体的延伸(包括城市),可是它们都会转换成信息系统”.(三)人工智能将推动大脑和其他身体机能整合式扩展不难发现,第一次工业革命和第二次工业革命扩展的是人类身体除大脑以外的机能,而第三次工业革命和第四次工业革命扩展的是大脑和神经系统的机能.麦克卢汉虽然看到了人类对于中枢神经系统的延伸,但他并未预料到人的大脑机能会得到如此的延伸.大脑机能扩展的难度应该是最大的,从感知、记忆到思维,大脑的机能被不断扩展.未来人工智能将继续推动机体的扩展,将是在脑力和体力功能整合基础上的发展.高崇对人工智能在体力和脑力上的延伸进行了分类:人工智能在脑力上扩展人的神经网络的机能,在大脑之外的身体机能方面与机械结合形成各种形态的“机器人”;在机能扩展上分别朝向替代人的机能和增强人的机能两个方向发展,代替人的方向上人的控制越来越少,增强人的方向上还是对人的感知觉、思维和运动机能的补充.这两种分类交叉后形成不同的应用类型:神经网络和智能化类别方面的C h a t G P T,体力和智能化的结合形成的自动驾驶汽车、人形机器人,感知能力的辅助则包括V R、A R和可穿戴设备.目前的C h a t G P T只是图坐标中的一个点,但是以C h a t G P T为代表的人机交互的突破性应用将会增加人工智能在各个方向上的速度,增强各个方向上扩展的程度.目前C h a t G P T还是一个弱人工智能,但是随着人工智能在各个方向和领域的扩展,人的身体机能的扩展将渗透到各种产业、产品、生活空间和整个社会,通用人工智能的水平将会不断提高,形成真正的人工智能社会,这是一个必然趋势,我们必须思考和研究人工智能社会的典型问题,研究人工智能社会的治理问题.图人工智能推动人的机能扩展的方向和类型引自高崇:人工智能社会学,第页.尤尔根哈贝马斯:作为“意识形态”的技术与科学,李黎、郭官义译,上海:学林出版社,年,第、页.王俊秀:监控社会与个人隐私:关于监控边界的研究,天津:天津人民出版社,年,第 页.马歇尔麦克卢汉:理解媒介:论人的延伸,何道宽译,北京:商务印书馆,年,第 页.高崇:人工智能社会学,北京:北京邮电大学出版社,年,第页.三、C h a t G P T对生活的改变和人工智能对社会的冲击人工智能大发展是一个必然趋势.就像历次工业革命一样,这次新的工业革命一样会带来生产力的大幅提高.但是,每次工业革命都会引发人们新的恐慌和担忧.人们一方面为C h a t G P T这个聪明的帮手出现而惊喜,一方面也会关注C h a t G P T带来怎样的风险和挑战.人工智能早已在不知不觉中进入人们的生活.人们享受着人工智能带来的种种便利,也感受到人工智能带来的威胁.C h a t G P T以其惊人的表现让人们觉得以往低估了人工智能对产业重构和社会变革的影响,会重新思考人工智能会给人类带来哪些风险、将会对产业和社会造成怎样的冲击,自然也会有人再一次提出机器人会不会替代人或控制人类的问题.这是每一次人工智能进步都会引出的话题,无论是A l p h a G o击败围棋世界冠军,还是波士顿人形机器人的进步,都一次次引发关于人工智能未来发展方向的担忧.(一)C h a t G P T的不利影响C h a t G P T会让哪些人失业,文案策划、程序员、设计师、教师?C h a t G P T可以写作业、写论文,版权如何保护?就连美国著名语言学家、哲学家乔姆斯基都认为C h a t G P T是一种高科技的剽窃,学生会利用它逃避学习.关于C h a t G P T的不利影响,C h a t G P T总结了这样几个方面:就业机会减少C h a t G P T等人工智能技术的应用可能会导致某些传统的工作岗位被自动化和机械化,从而可能减少就业机会.隐私和数据安全问题C h a t G P T等人工智能技术需要获取大量的数据来训练和提高模型的性能,这些数据包含个人隐私信息,如果泄露或被不当使用,可能会给个人和社会带来不良后果.数据偏见和歧视由于训练数据的不全面和偏差,C h a t G P T等人工智能技术可能会产生偏见和歧视,对某些社群或个体造成不公平待遇.沉迷和依赖问题C h a t G P T等人工智能技术的便捷和普及可能会导致人们对其产生过度依赖和沉迷,影响生活和工作的平衡和自主性.如果人们过度依赖人工智能技术,可能会导致他们失去自主性和判断能力,这可能会对个人和社会产生不利影响.社会分化可能会加剧社会分化,因为只有少数人拥有开发和使用A I技术所需的技能和资源.这些人可能会比其他人更容易获得高薪工作和更好的生活条件,这可能会导致社会的不平等和分化.应该说C h a t G P T对于不利影响的总结还是很客观的,但C h a t G P T对于这些问题的表述还远不够深入.目前人们热衷于讨论C h a t G P T会让哪些人失业,而真正应该关注的问题是C h a t G P T预示着人工智能怎样的趋势?在不久的将来,C h a t G P T引领下的、更先进的人工智能会带来哪些社会问题?会对社会产生怎样的冲击?(二)人工智能带来就业困境和新的社会不平等前文之所以回溯几次工业革命,一方面是希望说明技术进步的大趋势不可阻挡,另一方面也是要回顾不同时期的产业革命带来的社会进步和社会问题.因自动化和机械化而造成就业机会减少并不新鲜,已经发生的三次工业革命每次都会使得一些工作岗位和职业减少或消失,但也会产生另一些新的工作岗位、新的职业.“过去的几次经济转型并没有导致永久性失业.在第一次工业革命期间,自动化和全球化使农业领域的就业岗位减少,但在工业和服务业领域创造了新的就业机会.同样,从 年开始的服务业转型导致工厂的工作机会减少,但服务业领域出现了新的就业岗位.”人工智能技术可能也会催生一些新的职业和岗位,但与以往不同的是,人工智能带来前所未有的高效率,这会使得岗位数见澎湃新闻的视频:h t t p s:/w w w t h e p a p e r c n/n e w s D e t a i l_f o r w a r d_ 理查德鲍德温:失序:机器人时代与全球大变革,朱海燕译,北京:中信出版社,年,第 页.量减少,同时人工智能越来越提高替代人工的能力,会使得更多的职业类型消失.前两次工业革命中不断提高的机械化、自动化、电气化水平使得体力劳动的岗位大量消失,信息技术革命使得服务业从业人员的比例增加.随着产业比例的变化,劳动力经历了从农业向工业转移、再从工业向服务业转移的过程.从劳动性质上看,脑力劳动者,也就是知识型从业者的比例增加.这也就是社会学家阿兰图海纳所言的“后工业社会”工厂工作岗位减少,办公室工作岗位增加.这个劳动力转移的过程使得全社会形成了争取更高学历、学习专业技能的职业规划模式.但人工智能带来的这次技术革命将突出体现出脑力劳动者的岗位被挤占和取代的现象:社会的思维定式不太接受从脑力劳动向体力劳动转移,而高时间成本和高经济成本获得的对应高学历、高专业的职业转向其他专业岗位和职业的难度很高,就会出现人工智能引发的职业流动困境.按照供需关系来分析,教育和科技之间的关系是这样的,技术变化决定了对特定技能的需求.如果供不应求,“技能溢价”就会上升;如果供过于求,“技能溢价”就会下降.不断下降的“技能溢价”使得教育的回报降低,表现为新的不公平.人工智能会带来何种程度和广度的教育回报下降,这是人们担心的问题,所以人们担心C h a t G P T带来的失业,人们会陷入未来职业选择和规划的焦虑,生怕“入错行”,担心自己辛辛苦苦奋斗的职位一夜之间被机器人取代.早期的工业革命确实带来了社会的混乱.年,英国纺织工人为了抗议工作岗位被操作机器的工资更低的童工取代而砸碎了工厂的织布机,并引发一场运动.农民从乡村迁移到拥挤的城市,传统的社会规则被打破,工业化、城市化和移民潮带来了大量的社会矛盾和社会问题,古典社会学家涂尔干称之为社会的“失范”(a n o m i e),社会学也正是在思考和研究这场社会变革下诞生的.虽然之后的工业革命对社会秩序的冲击没有这样强烈,但是社会的不平等在不断加剧,成为一种危险且不断增长的不平等.“数字革命”带来数字经济的繁荣,也伴随着“数字鸿沟”,人工智能时代也会出现“人工智能鸿沟”.人工智能会加剧社会分化,掌握人工智能技术的人和没有掌握人工智能技术的人以及具有开发人工智能技术能力的人之间的不平等会加大.人工智能的竞争可能加深社会分化和社会不平等.C OV I D 使得世界各国出现了空间上相互隔离,甚至出现了去全球化的趋势,大国之间科技竞争和科技封锁显性化.作为尖端科技的人工智能体现了一个国家软硬件的综合实力,是竞争的焦点.像C h a t G P T这样强大的人工智能公司对于资本、技术的要求极高,普通企业没有能力进入.美国这样的科技强国,拥有GA F A(谷歌、亚马逊、脸书、苹果英文首字母缩略)等许多巨型A I企业,在人工智能领域容易形成“数字垄断”,可能滥用市场支配力,加剧不同国家、地区之间的经济不平等.即使国内也有阿里巴巴、腾讯、百度这样的巨型A I企业在人工智能技术上进行激烈竞争,“数字垄断”也可能发生,通过市场支配力获取高额利润,同样会加剧社会不平等.有经济学家指出,从经济全球化带来的生产力增长中受益的仅仅是一小部分高技能人才和资本所有者.数量稀缺的高技能人才正日益为特殊阶层带来利益,尤其是资本所有者和控制者,大多数人群被排除在人工智能所产生的经济利益和财富之外.虽然技术进步会带来社会问题,但是从整个发展历程看,人类技术进步带来的是经济更加繁荣、人们的生活条件更加改善,更多的人脱离了繁重艰苦的工作,技术进步带来的是人类的解放.当前,中国快速进入老龄社会,同时出现了和发达国家一样的低生育意愿,这会带来劳动力短缺问题,人工智能的发展似乎是解决这一问题的唯一途径.随着像C h a t G P T这样自然语言处理技术的快速发展,普通人使用人工智能技术的门槛会降低,人工智能的鸿沟也许没有像当下数字鸿沟那么具有阻隔性.理查德鲍德温:失序:机器人时代与全球大变革,第 页.沃尔特沙伊德尔:不平等社会:从石器时代到二十一世纪,人类如何应对不平等,颜鹏飞等译,北京:中信出版社,年,第 页.理查德鲍德温:失序:机器人时代与全球大变革,第 页.沃尔特沙伊德尔:不平等社会:从石器时代到二十一世纪,人类如何应对不平等,第页.福田雅树、林秀弥、成原慧:A I联结的社会:人工智能网络化时代的伦理与法律,第 页.大卫巴恩西泽、丹尼尔巴恩西泽:人工智能的另一面:A I时代的社会挑战与解决方案,郝英好译,北京:电子工业出版社,年,第 页.(三)人工智能技术的风险上面讨论的人工智能带来的就业问题其实是技术进步带来的普遍性问题,不同的是,在人工智能的技术革命下这一问题出现了新的特点.而真正人工智能的风险是作为技术进步本身带来的风险.在上文C h a t G P T列出的五个不利影响中,中间三个都属于这种风险,其他两个则属于技术进步带来的普遍性问题.隐私和数据安全是伴随着信息科技和互联网发展而产生的.个人隐私信息泄露和不当使用成为一个日益突出的社会问题.C h a t G P T这样的大模型训练过程要获取大量的数据,使用过程调用的信息量无比巨大,个人隐私信息泄露的风险更大,隐私保护的问题更加突出.人工智能会不断扩展人的身体和大脑的机能,大量如可穿戴设备这样的人工智能设备用于人们的日常生活.人们通过C h a t G P T这样的人工智能助手获取信息、得到帮助、辅助思考,这样人的身体活动轨迹、人的身体生理信息、人的思想动态、人的工作内容等等个人信息将会对人工智能开放,人的隐私也就袒露给人工智能.这与以往互联网使用中个人隐私信息泄露完全不同:人工智能具有的综合分析能力,可以把原本分散的关联信息进行整合,获得个人全方位的信息,人工智能可以了解的个人信息比自己还多.那些原本不属于隐私的信息,或者因隐私程度不高而个人没有保护的信息很容易被人工智能获取.经过人工智能整合处理,这样合法获取的、原则上不属于隐私的信息已经实质上让个体成为“全息裸体”.这样的信息是可能对个体构成最大威胁的信息,这些信息被滥用后其对个人的消极影响是极大的.这样的信息被滥用可以起到对个体的控制作用,这是监控社会的极端形式.年 弗 兰 克 帕 斯 奎 尔(F r a n kP a s q u a l e)出 版 了 一 本 著 作 黑 箱 社 会(T h eB l a c kB o xS o c i e t y),书中表达了信息处理过程不透明,民众对整个过程不知情.他指出:“虽然我们可以获得黑箱的输入和输出信息,却无法弄清输入数据如何变为输出数据.我们每天都要面对这样的问题:公司和政府部门越来越渗透性地记录着我们的生活,我们却不知道这些信息会传播到哪儿,也不知道它们将被用作何种目的,更不知道这些信息的泄露会产生怎样的后果.”现在我们越来越依赖于算法和人工智能技术,这些技术开始影响人们的生活和决策,但其背后的决策过程和算法逻辑却常常是不透明的.人们一直担心人工智能的黑箱化,担心这种看不见的风险,担心人工智能会不会失去控制.这种对人工智能威胁的担心一方面是出于隐私保护的焦虑,另一方面是担心数据偏见和歧视.数字黑箱可能是造成数据偏见的原因,数据从哪里来、如何收集的、输出的数据是如何加工的,这些都是不透明的.如果人工智能所依赖的数据本身存在偏见,比如是带有种族主义或性别歧视的“语言”,那么这种“偏见”会影响其工作结果.在一项研究中,人工智能筛选简历,会更倾向于欧裔美国人,而不是非裔美国人.在另一项研究中,人工智能将男性的名字与数学和科学词汇联系起来,将女性的名字与艺术概念联系在一起.应该说偏见是一种社会性心理.人工智能本质上是无偏见的,但人工智能在训练中学会了“态度”,具有了某种“价值观”,这就可能会产生偏见.具有偏见的人工智能将会出现“系统性的偏见”,构成了一种新的歧视.有时候这种偏见来自人工智能采集数据的偏颇.波士顿市从市民智能手机中获取G P S数据,用于对市内的道路状况调查,最后依据这个调查进行的道路修补施工集中在高收入地区,因为高收入人群与低收入人群智能手机使用的比例不同,使得低收入人群被过少代表了.更麻烦的是,人们有一种认知倾向,会过于相信电脑、人工智能自动做出的判断,并且囫囵吞枣地全盘接受这些判断,这就是自动化偏见.即便我们质疑人工智能的判断,但我们无法具体地说明这个判断在哪里出现了偏差,这种偏差形成了“无主观”的歧视.如果人工智能用于产生对个体特征刻画的数王俊秀:监控社会与个人隐私:关于监控边界的研究,第 页.F r a n kP a s q u a l e,“T h eb l a c kb o xs o c i e t y:t