ChatGPT的负面影响及应用建议——基于文化产业与传播视角的分析.pdf

2023年第11期 NEW MEDIA RESEARCH72新媒体研究1 议题探究背景1.1 ChatGPT 的定义、属性及当前应用概况ChatGPT，Chat Generative Pre-trained Transformer，由大语言模型 LLM（Large Language Model）和生成式预训练转换器 GPT（Generative Pre-trained Transformer）支持的聊天型人工智能，可以进行涉及多学科、多领域的多轮对话，理解自然语言、图像、音频和视频，并作出响应。经过多轮人类自然语言训练和迭代后，GPT4 已经能够在美国高考 SAT 考试中取得全国排名前 10%的成绩1。在高盛今年3月27日发布的研究报告中，GPT 被定性为生成式通用型 AI。上述两点意味着GPT 可胜任当前大量的人类工作，具体包括报税员、作家、记者、语言翻译、数学家、网页设计师等2。同时，以 ChatGPT 为代表，包括 MidJourney（生成式绘图 AI）在内的生成式 AI 技术正在不断深入地介入和影响更多人的学习、工作和生活，越来越多的机构或个人用户开始将 ChatGPT 作为信息搜索工具和工作处理助手。例如，美国科技巨头 IBM 在今年 5 月宣布将暂停招聘“AI 可胜任职位”，相关职位有 7 800 个，包括客服、文案编辑、美术设计和代码工程师3。微软公司于今年 3 月发布了植入ChatGPT 的办公软件 Microsoft 365 CoPilot，该软件支持“Word 智能文档摘要、根据 Word 内容自动排版 PPT、Excel 数据可视化、会议协作智能提示”等功能4。可见，ChatGPT 已经成为或者即将成为人们认知和沟通世界的必要工具。这是本文将 GPT纳入广义媒介和传播学场域进行讨论的前提。1.2 相关理论概述本文将结合“媒介即信息”、分众理论和传播学批判学派思想，对 ChatGPT 的负面影响扼要分析。“媒介即信息”的说法强调了媒介及主流媒介的革新对人和世界的塑形作用，这种“塑形”通过影响认知和表达来完成。媒介形态的变更，会影响人们可触及的信息接收资源、影响认识世界的视野和效率，影响讨论和思考的形成，进而影响种种偏好、信仰和世界观。信息场中的表达，作为传媒环境的一部分，巩固了媒介对人和世界的塑形。分众理论最早是 20 世纪美国传播学界经验学派应用于受众研究的分众视角，指“受众并不是同质的孤立个人的集合，而是具备了社会多样性的人ChatGPT的负面影响及应用建议基于文化产业与传播视角的分析周芷伊摘 要 基于“媒介即信息”、媒介的分众作用和传播学批判学派视角，结合有关 ChatGPT 的产业与传播现象，梳理和讨论了 ChatGPT 在缺乏监管和有效引导的情况下导致的种种负面效应。针对 ChatGPT 产生的种种弊端，对其监管提出针对性的建议和呼吁，包括：对其壁垒进行突破，对技术进行攻关；对 AI 生成内容进行有效识别和溯源，限制内容生产中的 GPT 对话轮次和内容占比；对其适度应用的场景做出政策上的具体指引，引导人工智能产业在人本位规则下进行发展等。关键词 ChatGPT；内容生成式 AI；ChatGPT 负面效应；媒介的分众作用；传播学批判学派；劣币驱逐良币；ChatGPT 有效监管建议；人本位思想中图分类号 G2 文献标识码 A 文章编号 2096-0360（2023）11-0072-05作者简介：周芷伊，北京师范大学-香港浸会大学联合国际学院，硕士研究生在读，研究方向为传播学及影视制片管理。指导老师：汪 洋，北京师范大学-香港浸会大学联合国际学院，助理教授，研究方向为电影导演实践、独立电影制片、媒体与艺术。73新媒体研究MEDIA OBSERVER 媒体观察 群”5。当传播环境随时代变迁，理论的内容和侧重也不断进行变化或补充，比如，使用分众理论来讨论当下媒体的分众化趋势。北京大学戴锦华教授就曾在分析“二创、混剪类视频是否存在对院线电影的空间抢夺”时提及，当前的时代是被“信息茧房”助推的“分众文化时代”，“与分众文化伴随的是各圈层之间的隔膜，（这）大于很多社会的隔膜”6。本文语境中的“分众理论”更多是基于对时下传媒环境进行定性的新近讨论。传播学批判学派思想，主要指的是“支配阶级和被支配阶级的对立仍然是当前社会的主要结构，而大众传播在本质上是为支配阶级利益服务的社会装置”7。欧美批判学派思想源自 20 世纪中期的资本主义社会传播环境，提醒人们警惕被资本把持的主流商业媒体的倾向性，并认为无产阶级由于传播渠道被商业媒体占领，越发缺乏发声的空间，阶级利益和存在感不断被忽视。在后文的论述中，我们将发现，批判学派的担忧在被 ChatGPT 热潮覆盖的今天仍未过时。2 理论结合现象探讨 ChatGPT 的负面影响在 2023 年 5 月 16 日 美 国 国 会 对 OpenAI（ChatGPT 研发公司）CEO 奥特曼的听证会上，一位议员提出人们的担忧，“我们已经见过太多次了，技术越过监管，个人数据肆意开采，虚假信息的扩散，以及社会不平等的加剧，我们已经看到，算法加剧了歧视与偏见”“这不是我们想要的未来”8。这概括了 ChatGPT 负面作用中的大部分。2.1 社会不平等的加剧1）意识层面。为了增强用户黏性，当下主流媒体普遍采用基于个人大数据进行信息推送的算法，这导致了“信息茧房”现象，正如戴锦华在访谈中所言，媒体只呈现用户过去关注和喜爱的信息，“你是置身在圈层当中的，如果不自觉的话，你会以为它就是整个世界”6。微博等社交媒体可以对评论进行定向屏蔽设置，这进一步加固了不同圈层的沟壑用户不断与跟自己意见相似、偏好相似的人群互动，不同意见、不同偏好、不同视角的接触空间越发被缩小。媒介为了增加用户满意度和认可度，无形中牺牲了人与人之间相互理解的空间，圈层分化和分歧因此不断加深。ChatGPT 虽然与上述媒体形态不同，但在进行信息输出时同样是基于“迎合用户喜好/需求”的精神。同时 ChatGPT 在表达设置上天然有自己的偏向性根据澳大利亚对话杂志，ChatGPT 的默认功能会优先考虑白人创建的英语写作形式，默认输出都是英语世界白人男性的声音、风格和语言传统9。由此不难推知，当 ChatGPT 的使用和表达风靡全球，英语世界白人男性的地位将随之被抬升。2）硬件层面。媒介分众作用中的硬件层面，相对而言不那么容易被看到。但媒介迭代对阶层差距的加剧正在不断发生。获取信息和体验的渠道正在变得越发昂贵。首先，当前主流媒介包括 ChatGPT 都需要用户至少拥有智能手机或电脑、处于可以联网的环境以及按时缴纳话费。此外，不同于互联网普及的初期，搜索网站、视频网站和社交媒体往往都是免费的，当下的大部分平台包括 ChatGPT 在内，获取内容都需要成为会员、定期支付会员费。如今，拥有更充分财力的人，能够获得更充分的知识、更开拓的眼界、更丰富和更前沿的体验，以及相应的身份认同。硬件层面的分化作用不仅体现在个体与个体之间，更凸显在集体与集体、机构与机构之间。漫长的周期和高昂的成本，都是复制ChatGPT式成功的壁垒根据业界资讯，ChatGPT 的训练成本约为 1 000 万美元（约合人民币 7 007.8 万元），运营阶段的云计算成本每日约 200 万美元（约合人民币 1 401.56 万元），从建设模型到第一次大模型训练需要约两年时间，每次大模型训练需要间隔 6 个月左右，到正式商用需要经历 22 30 次大模型训练，从 2015 年OpenAI 成立、开始开发通用型人工智能，到基于GPT-3.5 的 ChatGPT 大获成功为人所知，前后历时近 8 年，期间并未有任何形式的商业营利收入，团队只需要专注于唯一的目标。这是国内创业开发团队难以承担的。门槛高筑使得其他同类公司几乎难以发展出类似竞品与之抗衡。于是，正如批判学派百年之前的忧虑更流行和强势的新兴媒介越来越趋于站在经济实力雄厚者的一边，被强者掌控的媒介被广泛应用，又使强者愈强、弱者愈弱。2.2 缺乏监管的隐忧ChatGPT 的研发者在充分预计后果之前就发布了 GPT，使得人人可触及的技术先行于监管规则和公共秩序。ChatGPT 可以为用户写作论文、绘制仿真图片以及自动生成小说，但其对来自人类世界的素材并不标注参考来源，也不包含任何不可擦除的水印或标识以声明内容来自人工智能而非人类作者原创。在技术层面，其生成内容痕迹也暂无可以追踪的技术手段或渠道。根据 2023 年 3 月国内科幻平台 SciFidea 对著名科幻杂志克拉克世界主编尼尔克拉克的专访，ChatGPT 甫一发布，克拉克世界就囿于 AI 垃圾稿件风波而暂停收稿。ChatGPT 的内容生成功能让创意的生产变得更容易，这让一些对写作并无诚意的投机者试图通过量产小2023年第11期 NEW MEDIA RESEARCH74新媒体研究说和海量投稿牟利。克拉克称 AI 生成小说能够被资深编辑轻易识别，他们绝不会让投机者有机可乘，但投机者的海量投稿行为严重增加了编辑的工作负担，影响了杂志的正常运作10。从创意版权的肆意侵犯、创意投机行为，到虚假图片/信息的肆意制造和传播，ChatGPT 在其产品设计的根源就缺乏对智力产权的尊重和公序良俗维稳意识，无论对技术本身还是对用户都缺乏约束手段，以至于为恶意传播、投机牟利提供了切入口，制造出新形态的混乱和不公。2.3 劣币驱逐良币如前文所述，不仅个人投机者试图使用 AI 生成内容牟利，诸如美国 IBM 的一些企业也正在引入“强人工智能”以优化 AI 可胜任的人类岗位。值得忧虑的不仅是人类社会的就业问题。尽管GPT-4 在美国高考 SAT 考试中挤进了全国前 10%的位置，而且具备人类个体难以匹敌的知识储备量，但这并不意味着 ChatGPT 相比人类职业人士更有能力创造优质的内容，相反，2023 年 4 月人物杂志采用 ChatGPT 写稿的一次尝试中，ChatGPT 呈现了一份被读者评论普遍给出差评的劣质稿件11。此外，人物记者在编后语中将这次尝试形容为一次效率极低的“痛苦的合作”合计 3 万字的三份采访记录需要逐个拆分、每次 1 000 字、分 30 次投喂给 ChatGPT，而且需要把访谈记录中大量的口语、情绪与跳跃性思路先整理为符合逻辑的内容，作者平时仅需要 30 分钟即可完成相应篇幅的文字整理，与 GPT 配合却需要花费 15 小时。在成稿的细节、复杂内容判断和架构上，ChatGPT 更是一路崩盘，错漏百出。最终记者感觉自己“花了 20 小时的时间成本，却成为了 ChatGPT 的小助手”11。言下之意，ChatGPT 并未给记者工作提供帮助，反而成为了严重负累。数据派 THU曾转载科普作家“神们自己”的文章AI 正在让很多行业的红利消失以强调ChatGPT 对人类工作的取代可能是一场“劣币驱逐良币”的过程文中提及，“很多人以为 AI 取代人类的方式是：AI 技术发展啊发展，突然有一天，AI 在某个领域的水平终于超过人类了，然后 AI 就一下子把这个行业的人全取代了。”“实际上 AI 取代的方式是：先把一个行业的市场切割成 10%的高端市场和 90%的低端市场，然后逐步压缩低端市场的利润空间，把这个市场的从业者逼到无利可图。一开始大家少赚点还能活，到后来实在卷不动了、纷纷离场，然后 AI 就占领了这个市场。”12 资本往往追求以更低廉的成本占领或控制内容量产渠道，在过去这表现为资本对商业媒体集团的控制，无论在影视还是新媒体领域，往往数家独大，掌控着领域话语权，在如今，ChatGPT 作为通用型AI，成为了这种市场占领行为的高性价比工具。“大部分客户已经不在乎那点人工智障成分，或者说不愿为了极少的错误花钱请人校对，所以从业人员的订单量 cover 不了他的人力成本”12，这种情况已经出现在国内的语言翻译和网文产业中。“劣币驱逐良币”最显见的社会问题是就业问题的涌现。企业在决定引入 AI 替代人工时，并不会为人类从业者考虑好他们可以去哪里找到新岗位和新工作。从传播学视角考量，“劣币驱逐良币”必然将造成内容产出甚至人类文化产业的一轮大规模降级。AI 生成内容的大规模应用和传播，其对原有市场的分割和对 90%相对低端市场的利润压迫，正是媒介分众效应在新时代技术革命中另一种形态的体现，同时是媒介对世界的新式塑形的一部分，这显而易见。然而 GPT 背后的资本并不会因此暂停开发或自我节制。微软、谷歌、SpaceX 和特斯拉等商业巨头仍然在不断发展类似 ChatGPT 的强人工智能，并追求让自己的产品相比竞品公司达成更高的应用覆盖率。在缺乏有效监管的情况下，财团对“独霸市场”的永恒追求，将不断加固 AI 生成内容对人类传播场域的形塑，加剧粗劣内容的泛滥和对人类智力与文化产业的伤害。3 ChatGPT 监管与应用建议及相关延展3.1 ChatGPT 负面效应小结在前文的讨论中，本文基于“媒介即信息”、媒介的分众作用和传播学批判学派视角，结合有关ChatGPT 的产业与传播现象，梳理和讨论了 ChatGPT在缺乏监管和有效引导的情况下导致的种种负面效应，具体包括：从硬件和软件层面加剧着社会不公平；为恶意传播、投机牟利提供了切入口；体现出“劣币驱逐良币”的趋势，财团对独霸市场的永恒追求以及对更廉价生产机器的追捧，必将造成粗劣内容的泛滥和对人类智力与文化产业的伤害。本文详细论述由 ChatGPT 的追捧和泛滥导致的负面效应，旨在警示和助推有效监管的讨论和落实，而非反对科技进步与革新。事实上，人类社会对 AI生成技术的过度应用，才会最终对人类科技发展形成反噬。科技与文化创意产业往往同气连枝，人类文化产业的降级，最终自然会导向人类科技发展的衰败。3.2 针对性建议基于前文梳理的ChatGPT应用导致的种种弊端，75新媒体研究MEDIA OBSERVER 媒体观察 本节对其监管提出以下针对性的建议和呼吁。首先，针对 ChatGPT 在通用型 AI 和 AI 生成内容领域的产业壁垒与技术垄断，建议由国内头部企业和工业、科技相关部门保障国产人工智能竞品的资金和科研资源支持，发挥大国优势和人才优势，对其壁垒进行突破，对技术进行攻关。其次，对 AI 生成内容进行监管的第一步，是技术上能够对 AI 生成内容进行识别或者溯源。在此基础之上，为了保护人类智力/创意产权和产业有序发展，应该要求 AI 生成内容产商主动提供素材来源标注和硬性“非原创”标识，并对 AI 生成内容进行商用场景和量化约束，在具备对 AI 生成内容溯源确认的技术基础之前，应该出台法律法规，暂停人类智力/创意产业中的 AI 生成内容混入。最后，为了保障人类社会在智力/创意/文化产业上的不懈努力与追求，应该保障和强调人类原创内容相对于 AI 生成内容的更优地位，出台政策鼓励原创，保护版权/专利权，限制内容生产中的GPT 对话轮次和内容占比，警惕对 AI 生成内容产生依赖。但这种警惕应该与对先进科技的借力达成平衡，不应将 ChatGPT 视为洪水猛兽而杜绝其应用，应该对其适度应用的场景充分调研、评估，做出政策上的具体引导，例如：发挥 ChatGPT 的大数据优势和逻辑优势，强化对 GPT 生成内容的错误纠正技术，使 GPT 成为更可靠、精准的知识检索与个人学习工具，与教师“一对多”教学模式相配合，支持校园场景中“因材施教”的个性化教育辅助工作；发挥 ChatGPT 在自然语言理解上的优势，鼓励 GPT与办公软件的结合应用，取代生产工作中的机械性成分、协助而非取代人类工作中的个性化与智力环节；发挥 ChatGPT 的多轮对话功能和跨学科知识储备优势，在创意内容工作中，在严格限制 GPT 对话轮次和内容占比的前提下，鼓励使用 GPT 作为创意辅助工具，拓展创意思路，对人类创作完成的文稿进行智能审读；等等。3.3 延展从人工智能起步的 1956 年起往后多年，有关人工智能参与人类生产生活的论调一直凸显着人本位思想：取代机械性生产环节，解放囿于体力劳动或低端劳动的人类，帮助人类有余力进行更多思想性工作、追逐更高级的爱好和梦想。但 ChatGPT 的横空出世让论调倾向性忽然反转。投行高盛和宾夕法尼亚大学的相关调研都认为，更有可能被通用型人工智能取代的是人类的创意型、思考型工作，更不受影响的人类群体是体力劳动者或蓝领阶层，包括厨师、洗碗工、地板工等2，13。OpenAI 创始人奥特曼甚至直接在访谈中提出，在通用型人工智能得到普遍应用的未来，人类在智力上的区别、特定人群在智力上的优势将不再重要，体力和耐力是否充沛会更重要一些14。这种情况让笔者感到忧惧和困惑人类进化万年时间通过智力优势达成种族崛起，却为何要制造一种让自己的种族放弃智力文明、“返祖归宗”的东西呢？当理性和智力仍然能够在人类社会被视为“优势”，其背后的实质是人类整体仍然在不断运用理性和思考探索宇宙、创造文明。只有能够成为优势的事物，我们才会去追求。当理性和智力不再成为优势，必将导致整体文明的倒退。这是值得所有人充分警惕的。结合批判学派思想，我们可以推知，基于资本进行发展的自动化产业或人工智能产业，其本质并不是要解放囿于低端劳动和体力劳动的人类，也不是消灭人与人之间的智力差距，而是趋向于制造更符合支配阶层利益的生产机器，这种生产机器能够最大程度地提升量产效率、降低生产成本，而且受支配阶层控制。在旧时代，当体力劳动工作占据社会生产和生产成本中的绝大部分时，机器取代工人的体力劳动，表现为工厂流水线；在当下，当智力劳动占据社会生产和生产成本中的绝大部分时，资本便试图制造机器取代人类智力劳动。即便 OpenAI在 2023 年 5 月 22 日于官网发文呼吁对强人工智能进行治理，其实质是通过参与制度的制定和公共治理以维护企业在领域内的领先地位，而非将技术引向人本位方向，正如网民评论所言，“问题是，他们希望 All for AI，而实际上大部分人需要和希望的是 AI for All”15。这或许是多年以来真正能够解放人类体力劳动的专用型人工智能迟迟未得大规模发展应用、始终存在各种漏洞的根本原因。这些机器人包括家用清洁机器人，垃圾处理机器人，医疗护工机器人，洗碗、建筑或厨师机器人等。然而，不同于欧美国家，我国具备充分的经济、技术资源和产业调控力量，人工智能应该遵循人本位思想，保护人类智力/文化产业的人本位结构。从技术层面看，通用型人工智能取代人类智力劳动、而保留机械性和体力劳动岗位，绝不是必然的，而是开发团队或相关企业有意导向的结果。微软将 ChatGPT 与办公软件相结合，便是一个例证，这种结合利用通用型人工智能达成了取代机械性工作的产品效果。类似地，通用型人工智能或强人工智能可以指导机械性/体力劳动替代性专用型人工智能进行漏洞修补，加强其多场景学习能力、细节学习能力和复杂状况应对能力，帮助专用型机器人完成人类社会生产中的机械性劳动和体力劳动替2023年第11期 NEW MEDIA RESEARCH76新媒体研究代，真正达成对人类的解放，帮助更多的人类投入到思想型创造中来。注释本文中ChatGPT的概念梳理是以下信息源的整合：OpenAI官网介绍，网址链接https:/ 灭 全 球 3 亿 打 工 人！高 盛 重 磅 预 测：2 5%岗 位将被AI取代https:/ 英国那些事儿.再次进化，GPT-4横空出世！能读图，能算题，GRE语文分数超过99%人类！太强了EB/OL.（2023-03-15）2023-05-21.https:/ ELOUNDOU T，MANNINGS，MISHKINP，et al.GPTs are GPTs:An Early Look at the Labor Market Impact Potential of Large Language ModelsR.Califonia:OpenAI，OpenResearch，University of Pensylvania，2023.3 AI又来砸饭碗！科技巨头5.1官宣：要“优化”7 800个岗位，暂停招聘“AI可胜任的职位”EB/OL.（2023-05-02）2023-05-21.https:/ 划重点！本条微博由GPT4基于微软对CoPilot的报道和博主起的头生成EB/OL.（2023-03-17）2023-05-21.https:/ 郭庆光.传播学教程M.北京：中国人民大学出版社，1999：174.6 幕味儿.戴锦华：我的电影年度观察（完结篇）EB/OL.（2023-01-20）2023-05-21.https:/ 郭庆光.传播学教程M.2版.北京:中国人民大学出版社，2011：161.8 Founder Park.硅谷新王Sam Altman：国会议员最尊重的CEO，正在重写科技世界的规则EB/OL.（2023-05-17）2023-05-21.https:/ 张佳欣，刘园园，陈曦.ChatGPT掀起技术狂潮“顶流”之下，看人工智能喜与忧N.科技日报，2023-02-16（5）.10 SciFidea.身为一名科幻编辑，活进科幻小说的滋味怎么样？EB/OL.（2023-03-16）2023-05-21.https:/ ChatGPT，钟艺璇.这是我们第一篇完全由ChatGPT写作的稿件EB/OL.（2023-04-18）2023-05-21.https:/ 神们自己.AI正在让很多行业的红利消失EB/OL.（2023-03-21）2023-05-21.https:/ 新智元.ChatGPT消灭全球3亿打工人！高盛重磅预测：25%岗位将被AI取代EB/OL.（2023-03-29）2023-05-21.https:/ 超谈ChaoTalks.通用人工智能将抹平人类智力差距（外网访谈视频片段截取）EB/OL.（2023-04-21）2023-05-21.http:/ 引用自宝玉xp所发布微博评论区EB/OL.（2023-05-23）2023-05-28.https:/