AI数字分身术蕴藏哪些危与机.pdf

新产业AI数字分身术蕴藏哪些危与机文/李洋43683806876571498380668897153670假如“每个人都可拥有用AI克隆人开启第市场前景乐观二人生的机会”，你会怎么做？近日，在3 6 0 公司召开的3 6 0 智脑大模型应用发布会上，3 6 0 AI数字人正式发布。3 6 0 集团创始人周鸿祎现场创建了自己的数字分身作为“360发言人”，此数字分身拥有他本人完整的私人知识库，能够复刻他的思维方式和人生经历，是有“灵魂”的数字人。周鸿祎表示，3 6 0 将依托3 6 0 智脑大模型能力重新定义“数字人”。区别于传统数字人只能按既定脚本输出内容，3 6 0 AI数字人的特点在于有记忆、有人设和性格，能够复刻思维方式和人生经历。而在此之前的5 月1 6 日，小冰公司宣布启动“GPT克隆人计划”，最短只要采集3 分钟数据，即可为明星红人、专家学者或普通人创造源于本人性格、技能、声音、外貌的AI克隆人。同时将提供平台，便于本人把认证的克隆人，有偿或无偿提供给自己的受众。AI克隆人计划是否可行？未来市场空间有多大？又存在哪些潜在风险？86中国科技财富1 2 0 2 3 年第7 期据悉，3 6 0 AI数字人目前拥有2 0 0 多个角色，分为数字名人和数字员工两类。数字名人包括历史人物、偶像明星、文学形象等。数字员工则可成为企业员工的知识助手和办公助手，提升企业运营效能。而这或许仅仅是未来数字人市场的“冰山一角”。未来AI数字人市场有多大？IDC在中国AI数字人市场现状与机会分析报告中预测，到2 0 2 6 年中国AI数字人市场规模将达到1 0 2.4亿元。天使投资人、资深人工智能专家郭涛认为，伴随着AI相关技术成熟，情感陪护机器人有望能够读懂人类的表情、运用同理心转换立场思考，用户体验将得到大幅提升。部分AI克隆人上线后，已经成为明星网红流量变现的新途径。此前，半藏森林AI克隆人开通了付费渠道，用户不付费可在对话框互动聊天，付费后可以和该克隆人打电话、开视频、看朋友圈等，根据提供使用场景的不同而提供不同新产业的付费模式。“AI克隆数字人有望形成干亿元级市场规模。”郭涛说。“AI克隆数字人如果能够与AI大模型训练出来的通用人工智能进行融合绑定，可以与未来的具身智能进行深度的迭代融合，并能够形成很好的商业闭环，这样的AI克隆数字人在未来应用前景广阔。反之，如果是生成的数字人存在一定的技术缺陷，在与之交互的过程中，其语音、逻辑、知识结构等与真正的IP存在明显差距，这样的数字人商业化前景就不明朗。”北京社科院副研究员王鹏说。“市场空间的大小取决于消费者对于这种AI克隆人服务的接受程度和需求量。”全联并购公会信用管理委员会专家委员安光勇说。不过，安光勇认为，目前，AI克隆人计划还处于早期阶段，具体可行性和市场空间的评估需要综合考虑多个方面的因素。虽然AI技术在语音合成、图像生成等方面取得了显著进展，但要实现完全真实、个性化的克隆人仍面临技术上的挑战。潜在风险在哪里值得注意的是，同样在不久前，“AI孙燕姿”的横空出世引发歌迷热议，就连孙燕姿本人都不得不出面回应，并且坦陈这项技术可能会深刻地影响到流行音乐的发展。业界质疑，不少以自然人为原型生成的AI克隆人是否存在侵权行为？商业及战略管理专家、她力量创始人&CEO卢步云认为，AI克隆人或将引发一系列伦理和道德的问题，“克隆人的语言和行为，都将会产生实际性作用和影响”。安光勇谈到，因滥用而产生的潜在的风险包括隐私、道德和法律层面的问题。因此，对于用户个人数据的收集、存储和使用需要遵守相关的隐私法规，以确保用户的信息安全和保密。此外，涉及到使用个人肖像、声音等信息生成AI克隆人时，需要考虑到相关的知识产权和肖像权等法律规定。同时，克隆人技术可能引发道德上的争议，例如涉及欺骗、误导、滥用等方面的问题，需要引起社会对伦理问题的关注和讨论。“除非是相关平台与这些肖像权人在法律层面达成了一定的共识，否则确实存在比较大的法律风险和道德风险。”王鹏说。卢步云认为，当下，业界对AI克隆人的定位和发展方向存在偏差，“它的价值更多地是应该发挥所长，帮助人类去完成难度高和有危险性的工作，而非着眼于取代人类去做其擅长的内容。特别是情感类的部分，人类有延续下一代的社会属性和责任。但若培养了人们的习惯，把情感交付给了无法繁殖人类下一代的克隆人机器人，会导致大量人口失业，并加速人口数量下降，这将是一个本末倒置的反人类操作。完善伦理审查和监管也有业内人士质疑，AI克隆人作品在后期应用的过程中，如果发生侵权行为，事故责任方应该如何界定？“责任的界定涉及多个方面。一方面，生成AI克隆人的供应商需要承担一定的责任，包括对生成过程的合法性和合规性进行审查，确保不侵犯他人的权益。另一方面，使用AI克隆人的个体或机构，如果在使用过程中涉及侵权行为，也应承担相应的责任，例如未经授权使用肖像、声音等信息。”安光勇说，因此，在确定责任方时，需要综合考虑AI克隆人的生成过程、使用行为以及法律规定的因素。郭涛举例说，如果商家未经他人授权擅自使用他人数字形象进行直播或其他商业活动，不仅涉嫌侵犯他人肖像权，还可能侵犯消费者的知情权、选择权、公平交易权等。此外，王鹏建议，还要杜绝AI克隆人的滥用，防止因以假乱真带来的新型网络非法集资等网络诈骗现象。郭涛表示，当前，AI数字克隆人相关技术还处于早期发展阶段，政府有关部门需要尽快建立健全人工智能研发与应用相关法律法规和标准体系，建立或完善伦理审查制度和监管体系，加强对科技企业、媒体平台、应用场景、使用者的监管，搭建多方参与协同治理平台，推动AI克隆人产业健康可持续发展。（文章来源：中国高新技术产业导报）2023年第7 期1 中国科技财富87