“科技向善”的理论困境与解决思路.pdf

第第2525卷第卷第3 3期期20232023年年7 7月月VolVol.2525 No No.3 3JulJul.20232023南京航空航天大学学报南京航空航天大学学报（社会科学版社会科学版）Journal of Nanjing University of Aeronautics and Astronautics Journal of Nanjing University of Aeronautics and Astronautics(Social SciencesSocial Sciences)“科技向善”的理论困境与解决思路阮凡1，徐莅翔2（1.浙江工业大学 马克思主义学院,浙江 杭州 310023；2.浙江工业大学 土木工程学院,浙江 杭州 310023）摘 要：人工智能技术有可能挑战人类主体地位、威胁社会秩序，国际社会高度重视技术伦理的规范作用，企图通过“科技向善”的伦理和技术手段来应对这种挑战和威胁。“科技向善”作为“人文+技术”思维方式的产物，主要受法兰克福学派技术批判思想的影响，因而在理论和现实上容易陷入同样的空想。为确保人工智能伦理的实践价值，应该在“科技向善”中引用马克思的技术批判方法，即“价值引领+技术占有+驾驭资本”的整体性批判和建构，使“科技向善”真正得以实现。关键词：人工智能；科技向善；马克思主义；技术批判方法中图分类号：TP18;B0-0 文献标识码：A 文章编号：16712129(2023)03000905为人工智能技术设置伦理标准已经成为国际社会的共识，我国作为人工智能研发和应用大国，于2022年3月发布了 关于加强科技伦理治理的意见，以期实现“科技向善”1 的技术伦理目标。这种通过科技构建伦理社会的方法本质上是人文学者与技术学者跨学科交流的产物，是人文主义与技术主义相结合的典型代表。这种思维方式的形成与发展过程与法兰克福学派技术批判方法的思维方式具有高度的一致性，因而该学派的理论缺陷作为“前车之鉴”有可能会成为“科技向善”伦理规范的潜在困境。本文在分析“科技向善”伦理目标的形成过程和本质特征的基础上，参照法兰克福学派技术批判方法的理论缺陷提出“科技向善”的可能困境，最后借用马克思技术批判理论的方法指导提出可能的预防和解决路径。一、主体地位挑战和社会秩序冲击：“科技向善”拟解决的现实问题 人工智能的发展态势把技术的实体化威胁推到所有人的面前，使得哲学家、科学家、大众不得不去思考人工智能是否已经具备、未来能否具备以及何时能够具备独立意识和智能的问题。对这一问题的不同看法直接把学者们分为三派：悲观派、谨慎乐观派和乐观派。悲观派相信人工智能会发展出人类的自我意识，并且会演变成威胁人类主体地位的实体性存在。在技术层面上，他们相信通过脑科学和神经科学的研究，人工智能技术将会在功能上实现对人脑的复制和超越。这一技术革命的结果将会是人类主体地位的丧失、人类对自我本质的迷茫、人类社会基本伦理道德的冲击以及社会秩序的不确定。谨慎乐观派并不认为当前的技术能够使人工智能发展出等价于人类的自我意识，但是并不排除其发展成为某种极端的自我意识能力。2悲观派和谨慎乐观派的担忧实质上是从强人工智能的角度担忧人工智能获得独立自主权，成为控制和威胁人类主体地位的实体。乐观派认为人工智能技术并不会形成自我意识，不会威胁人类的主体地位，但是作为弱人工智能的技术工具将冲击和重组现有社会秩序。一方面，它有可能会进一步造成贫富差距和阶级矛盾。人工智能在替代人的体力劳动、智力劳动方面所展现出来的优势，已经在社会上引起了大面积的“机器换人”现象。更严重的是，此次人工智能给就业者造成的影响将会是极端的贫富分化：少数人通过掌握人工智能技术，使这种技术成为为自己牟利的私有生产资料而变得更加富裕，大多数人则在失业后更加贫穷，这种贫富分化甚至会使缓和的阶级矛盾再次走向尖锐。另一方面，它有可能会造成国际综合实力的悬殊，对国际关系进行颠覆性影响，进而影响国际政治DOI：10.16297/j.nuaass.202303001基金项目：浙江工业大学预研基金项目（SKY-ZX-20190221）；浙江工业大学特色培育项目（SKY-ZX-20200296、SKY-ZX-20210217）。收稿日期：2023-02-28作者简介：阮凡，女，讲师，主要研究方向为马克思技术哲学。第 25卷南京航空航天大学学报(社会科学版)http:/和我国的社会主义事业。人工智能技术作为第四次工业革命的关键技术，它将对各国经济社会产生系统性的变革，在一定程度上可以说，谁掌握了人工智能技术，谁就能获取第四次工业革命的胜利。针对人工智能技术潜在的实体性和工具性威胁，学界提出人文重构和技术建构3。学者们从人工智能技术与人的关系出发，重新思考人文主义的精神，并对未来人类的地位提出了两种设想。一派传统观点希望继续捍卫人类的崇高地位，认为接下来的任务是“研究人的性质及其变化，重新理解人及其演进的意义，认识并从而促进人类进入更新时代，并在这个时代确保人的崇高地位”4。另一派则认为应该改变人类中心主义的传统，走向后人类时代的后人文主义，他们认为“人主沉浮的局面已经成为过去，人可能在与非人、人机合体之人、法人等的竞争之中作为一种弱者出现”5，面对这一事实，人类应该学会与其他事物共享主体。我国国家机器人标准化总体组发布的 中国机器人伦理标准化前瞻（2019）从去人类中心主义的立场出发，提出人权、责任、透明度、防范滥用、共生繁荣的伦理目标，并提出中国优化共生框架。6无论是坚持人类中心立场还是去人类中心立场，在应对人工智能的实体化和工具化的挑战时，各国均从“善”的目标出发，提出一系列伦理准则。在落实这种“善”的伦理目标的路径上，学者们认识到科学家和工程师的重要性7，提出通过技术手段把人工智能限制在不威胁人类的安全范围内并实施伦理标准，于是“善”与“科技”相结合形成“科技向善”的共识。“科技向善”作为当前国际上应对人工智能挑战的主要共识，被学界寄予了厚望。但是现实中人工智能的伦理问题并没有发生真正有意义的改变，技术的安全性问题没有得到有效解决，且科技公司的道德监管委员会发挥的只是“道德洗白”（ethics-washing）的作用8。在理论层面上，“科技向善”作为“伦理+技术”的思维方式，与法兰克福学派“人文+技术”的批判方法具有高度相似性，在现实应用中存在同样的“乌托邦（无意义）”的困境。为克服“科技向善”的理论和现实困境，更好地发挥其应有的价值，我们需要从理论上探究问题所在，由此指导实践活动。二、人文复兴与技术建构：法兰克福学派技术批判方法的转向与局限 法兰克福学派是反思现代性问题的西方马克思主义主要理论流派之一，技术问题是该学派社会批判理论的核心。该学派历经三代，在对技术本质的认识不断深化的基础上，对技术统治的新形态进行及时有效地批判，并试图提出建构性的理论方案。在这一过程中，法兰克福学派逐渐完成了由技术的人文主义批判到技术建构主义建设的转向。霍克海默作为法兰克福学派第一代领导人物，他基于人性和社会的异化确立了对启蒙精神（科学技术的工具理性主义）及科学的意识形态性的批判。霍克海默的批判理论是基于人本主义的伦理批判，他批判理性的工具化使得理性不再关注诸如正义、平等、幸福、宽容等价值内容，成为纯粹的工具，同时批判技术的意识形态化使之成为资本主义统治的新手段。他希望用人本主义的复兴来对抗科学主义的异化，重构自由和平等的人道主义原则，但是这种批判表达的只是人道主义的谴责。马尔库塞继承了霍克海默的批判理论，以人本主义精神对发达工业社会技术的意识形态性进行了更为成熟的批判。马尔库塞认为，技术已经成为社会控制的新形式（即技术统治论），“社会控制的现行形式在新的意义上是技术的形式”9，这种新形式使得整个社会和人异化为肯定性的单向度的社会和个人。他寄希望于爱欲解放、艺术革命、培养具有“新感性的人”等手段来消解科学技术带来的种种异化问题，企图通过对技术理性的批判走向回归价值理性的“后技术理性”，实现“可替代的历史选择”的愿望。他的这种异化消解方法依然停留在理性批判阶段，缺乏有效的社会建构方案，使得他的技术批判理论在充满人本主义精神光芒的同时陷入抽象化的窘境。哈贝马斯对马尔库塞的观点进行了批判性研究，他认为“技术与科学作为新的合法性形式，它已经丧失了意识形态的旧形态，已经成了一种以科学为偶像的新型的意识形态，即技术统治论的意识”10。哈贝马斯在分析资本主义发展新特征的基础上进一步提出“科学技术是第一生产力”新型统治形式，并针对这种新形式提出实现“交往理性”这一观点。哈贝马斯以乐观的态度看待技术进步的正面影响，为资本主义制度提供辩护的同时把矛头指向科学技术本身，并对技术统治论提出了消极的看法11。芬伯格作为法兰克福学派第三代代表人物，主张以社会建构主义理论为指导在技术实践过程中实现民主价值观的落实。他提出了“技术代码”的概念，通过承载民主价值的技术的选择实现现代性方案的替换和民主社会的建构。芬伯格的技术政10第 3期阮凡,徐莅翔：“科技向善”的理论困境与解决思路治学观点以民主社会为目标，以技术为工具，通过民众的参与来确保技术和社会的民主化方向，为现代性批判和建构提供了一种较为具体的方案。总的来说，法兰克福学派的技术批判理论是以建构“自由”“民主”的社会为目标的政治批判，继承了马克思对资本主义现代性方案的批判。经历了从“人性”对抗“理性”的人文主义批判到以“技术设计”选择“现代性方案”的转向。前一种方案是对技术社会中人的生存状态的伦理思考，在批判现实社会的同时确立了理想社会应有的价值原则，但抽象的人性批判仅能为它描述世界，人文复兴并不能成为破旧立新的武器。后一种方案把公众的价值和参与权纳入它的解决方案。但它“技术可选择的有限性、工具性在某种意义上所引致的现代性走向并非必然交融于多元、和谐之中，反而可能面临无法替代的霸权控制”12。芬伯格仅在参与的意义上规定民众的权利，没有改变资本逻辑在技术设计、使用过程中的决定权，使得它的技术方案沦为既不能改变资本主义剥削现状又无法破解工具理性问题的乌托邦。理论上的这种局限性导致了法兰克福学派技术批判方法无法成为具有现实性和实践性的指导理论，而“科技向善”作为该理论方法在现实问题上的另一种表达不可避免地陷入同样的困境。三、“价值引领+技术占有+资本驾驭”：马克思技术批判方法的三重维度及对“科技向善”的启示 1.马克思技术批判的三重维度马克思技术批判思想从伦理、技术和资本三个维度对技术的社会问题进行批判，提出“人本主义价值观引领+技术占有+驾驭资本”的方案，该方案能够在理论上克服法兰克福学派技术批判方法的乌托邦困境。（1）马克思从工业异化的视角批判科学技术对劳动者造成的异化马克思对技术的人本主义批判是其技术批判的基础要义。马克思从技术（工业）异化的角度批判科学技术对人的本质力量的异化，他从人的类本质出发，认为工业活动作为劳动的特殊部分，是对人的类本质的异化，它“不得不直接地使非人化充分发展”13 193。马克思不仅在“普遍性的人”即大写的人的基础上来分析技术对人的类本质的异化，随着研究的深入，他还从“工厂里的人”的视角批判技术对人的身心的摧残。在工厂环境中，人的劳动环境和劳动方式极度恶化，已经到了不适宜人生存的地步。“自动工厂一出现就表现出一些绝非慈善的行为。儿童在皮鞭下面工作；他们成了买卖的对象。”14 739由于长时间地在条件极其恶劣的环境内连续工作，工人长期处于饥饿和不健康的状态，生命长度和生命质量受到严重侵害。马克思曾引用当时的伯明翰市长于 1875 年 1 月 14 日在伯明翰市卫生会议上的开幕词来证明大工业中的工人寿命最短：“曼彻斯特保健医官和医生证实，该市富裕阶级的平级寿命是 38 岁，而工人阶级的平均寿命只有 17 岁。在利物浦，前者是 35岁，后者是 15岁。”14 739（2）在批判资本与技术合谋的过程中提出驾驭资本的必要性在 哲学的贫困 资本论 等文本中，马克思在对资本的层层剖析中点明技术与资本的合谋，指出资本家通过不断增加技术的占比提高资本的有机构成，达到提高相对剩余价值的目的，批判这一过程中给劳动者带来的“占有、改变后又抛弃”的直接影响。马克思批判技术作为资本的形式表现出不断占有劳动的贪欲。资本对劳动的占有欲望源自劳动力本身所具有的创造价值的特殊属性以及资本本身不断占有剩余价值的属性，而在具体的生产过程中，资本作为一种抽象的关系在很大程度上被物质化为机器体系，即技术的物质形式，此时，抽象的资本逻辑具体化到机器体系（技术）上，使机器体系（技术）在现实生产过程中实现资本不断占有劳动及剩余价值的欲望。在具体工作层面上，马克思首先认为机器是一种工具，它不能脱离劳动者而独自运转。在抽象的价值创造过程中，技术（机器体系）对劳动的占有欲望体现在对相对剩余价值的剥削本能上。资本对相对剩余价值的需求决定了机器（技术）占有劳动力的需求，这不仅是因为只有劳动力才能创造价值，还因为技术（机器）本身的价值需要通过劳动力转移到新产品上。马克思批判技术蕴含不变资本所遵循的不断改变和抛弃劳动的规律。虽然技术作为资本形式具有不断占有劳动的欲望，但是在这种占有的欲望中同时包含着不断抛弃的规律。在劳动力市场上，技术对劳动的需要是主动的和不断变化的，而劳动者是被动地去适应技术的需求。工场手工业对手工工具的使用者的需求塑造了一批手工劳动者，但是随着机器大工业的发展，新的技术需要直接造成了对现有劳动力的抛弃。在抽象的资本有机构成上，随着资本主义的发展，资本的有机构成比率将会不断提高，即不变资本所占的比例将会不断高于可变资本。马克思的资本的有机构成理论说明，用于购买生产11第 25卷南京航空航天大学学报(社会科学版)http:/资料的资本将会持续高于用于购买劳动力的资本，意味着机器（技术）将会在尽可能大的范围内实现劳动力的功能，劳动力的作用将会在生产过程中以无限大的趋势消减。马克思描述了技术作为不变资本不断改变和抛弃资本的规律，批判在这一占有、改变和抛弃的过程中资本完全遵从剥削的本性，而并没有给予劳动者必要的保护和支持。（3）在对技术本质的分析中提出通过占有技术建构新社会的可能性科学技术的中立性特质为劳动者掌握科学技术提供了可能性基础。马克思并不认为机器体系（即技术）是与资本必然结合的事物，他认为机器体系（技术）不过是拥有自己的使用价值，他可以被资本使用，但并不是只能被资本使用。“正像黄金不再是货币时，它不会丧失黄金的使用价值一样，机器体系不再是资本时，它也不会失去自己的使用价值。决不能从机器体系是固定资本的使用价值的最适合的形式这一点得出结论说：从属于资本的社会关系，对于机器体系的应用来说，是最适合的和最好的社会生产关系。”15马克思的这段论述直接为技术定下了中立的性质，在赞扬机器体系作为固定资本的适合性的同时，也否定了资本主义生产关系是最适合机器体系（技术）的生产关系。正是基于技术的这种可塑造、可建构性特征，马克思提出了他的批判理论的现实解放路径：工人阶级（联合起来的劳动者）通过占有技术从而实现对资本的控制。科学技术的革命性力量为无产阶级构建新社会提供了武器。在 德意志意识形态 中，马克思提出联合起来的个人（即无产阶级）通过全面占有生产力进而实现解放的路径，“随着联合起来的个人对全部生产力的占有，私有制也就终结了”13 582 ，且在这一语境中马克思对“生产力”概念的解释是与“物质生产工具”（即以工具、机器等具体形态为代表的科学技术）这一概念直接进行类比的。“因此，仅仅由于这一点，占有就必须带有同生产力和交往相适应的普遍性质。对这些力量的占有本身不外是同物质生产工具相适应的个人才能的发挥。仅仅因为这个缘故，对生产工具一定总和的占有，也就是个人本身的才能的一定总和的发挥。”13 581在此，我们可以窥探出马克思关于解放道路的另一种表达：联合起来的劳动者（无产阶级）通过占有科学技术（生产力或生产工具）达到终结私有制、构建理想社会的目标。2.“科技向善”的实现依赖马克思技术批判思想指明的“价值引领+技术占有+资本驾驭”路线由人工智能技术引发的“科技向恶”本质上是代表单一逐利价值观的资本逻辑通过技术手段造成的后果，不能脱离价值观、资本和技术三者中的任何一方来认识“科技向恶”的本质。为有效解决以此为代表的“科技向恶”问题，仅仅依靠人文批判和技术手段是不够的，需要从马克思技术批判视角出发，对限制资本逻辑、反思资本所代表的价值观、技术干预三个方面进行努力。对资本及其技术工具的限制需要通过完善的法律实现，防止资本逻辑凌驾于消费者权益之上；消费者需要参与到技术的运行、占有过程中，如对构成计算技术核心基础的数据的保护和占有上。对资本逻辑代表的价值观的规范，离不开各项伦理法规的完善。通过对这三方的干预，确立为消费者服务的“为谁善”的价值目的、消费者评价“善”和消费者自身实现“善”的手段，才能真正实现“科技向善”的目标。四、结语：“科技向善”现实困境的可能出路“科技向善”作为人工智能技术伦理的根本目标，在实际应用过程中容易沦为科技公司自我洗白的手段。从思维方式上分析，远期内“科技向善”有可能会走向法兰克福学派技术批判理论同样的乌托邦困境。作为被学界忽视的马克思技术批判方法，其“人文+技术+资本”的三重批判逻辑能够在一定程度上克服“人文+技术”的二维局限，它提供的不仅是“科技向善”的理论目标，还包括确保“科技向善”的现实手段。基于这一理论视角，“科技向善”应该回答三个问题：“为谁善”“谁来评价善”“科技为谁所有”。人工智能作为直接面向大众的技术，应该以维护公众利益、促进社会进步为目标，而不应该成为少数人借以谋取私利的“技术权力”。同时，评价科技是否“为善”的主体应该是公众，让公众成为人工智能应用效果和发展方向的裁判者。科技难以向善，是因为人工智能技术主要掌握在少数资本家手中，而资本家的主要目标并不是实现社会价值和公众利益。为确保人工智能实现服务大众的目标，最根本的途径是使人工智能技术掌握在代表公众或代表公众利益的政府手中，只有这样才能有效制约资本逻辑的“向恶”本性。参考文献:1李巧华，雷家骕，孟猛猛.企业科技向善：概念、逻辑起点与实践路径 J.科学学研究，2023，41（4）.2 赵汀阳.人工智能的自我意识何以可能？J.自然辩证法通讯，2019（1）：1-8.3刘秀秀.技术向善何以可能：机制、路径与探索 J.福12第 3期阮凡,徐莅翔：“科技向善”的理论困境与解决思路建论坛（人文社会科学版），2020（8）：83-91.4韩水法.人工智能时代的人文主义 J.中国社会科学，2019（6）：25-44.5於兴中.后人类时代的社会理论与科技乌托邦 J.探索与争鸣，2018（4）：18-23.6北京大学国家机器人标准化总体组.中国机器人伦理标准化前瞻（2019）M.北京：北京大学出版社，2019：24.7伏志强，孙伟平.科技向“善”：人工智能发展的价值遵循 J.甘肃社会科学，2021（2）：97-103.8王晓真.2019年全球技术伦理鲜有进步 N.中国社会科学报，20200113（03）.9赫伯特马尔库塞.单向度的人 M.刘继，译.上海：上海译文出版社，2006：234.10 尤尔根哈贝马斯.作为“意识形态”的技术与科学M.李黎等，译.上海：学林出版社，2000：4-5.11 刘光斌.马尔库塞与哈贝马斯技术统治论之比较 J.中南大学学报（社会科学版），2018（6）：55-61.12 刘同舫.技术可选择还是现代性可选择？对芬伯格现代性理论前提与内在矛盾的批判 J.哲学研究，2016（7）：108-113.13 马克思恩格斯文集：第1卷 M.北京：人民出版社，2009.14 马克思恩格斯全集：第44卷 M.北京：人民出版社，2001.15 马克思恩格斯文集：第 8 卷 M.北京：人民出版社，2009：188.The Theoretical Dilemma and Solution Ways of“Technology for Good”RUAN Fan1,XU Lixiang2(1.College of Marxism,Zhejiang University of Technology,Hangzhou,Zhejiang 310023,China;2.College of Civil Engineering,Zhejiang University of Technology,Hangzhou,Zhejiang 310023,China)Abstract:Artificial intelligence technology may challenge the status of human beings and potentially threaten social order.The international community attaches great importance on the normative role of technical ethics and attempts to respond to such challenges and threats through ethical and technological means of“technology for good”.As a product of the thinking mode of“humanities plus technology”,“technology for good”is mainly influenced by the Frankfurt School s technical critique thought,so it is easy to fall into the same utopia in both theory and reality.In order to ensure the practical value of artificial intelligence ethics,Marx s method of technical criticism,that is,the overall critique and construction of“value leadership plus technology possession plus controlling capital”should be cited in“technology for good”,so that“technology for good”can be truly achieved.Keywords:artificial intelligence;technology for good;Marxism;method of technical criticism（上接第 8页）On the Game between Theoretical Logic and Realistic Logic of theModernization of Chinese Style Higher EducationWANG Hongcai(Center for Higher Education Development,Xiamen University,Xiamen,Fujian 361005,China)Abstract:Chinese path to modernization contains the basic connotation of Chinese style higher education modernization,which will lead the development direction of China s higher education in the future.In practice,Chinese style higher education modernization will encounter a game between theoretical logic and practical logic.Such things as the prevalence of managerialism logic,the difficulties in breaking the“Five Only”,the imbalance between the spiritual and material pursuit of teachers,the imbalance between the utilitarian and academic orientation of students,and the depletion of innovative resources caused by involution are all manifestations of the game.To achieve the unification of realistic logic and theoretical logic in the modernization of Chinese-style higher education,it is necessary to establish a Chinese university management model,ensure the leading role of humanistic management,and search for the unification of university morality and rule of law,academic rights and responsibilities and academic inheritance and innovation.Keywords:Chinese style higher education modernization;theoretical logic;realistic logic;game13