人工智能通用大模型的进展风险与应对汇报方案.pptx

,人工智能通用大模型（C,h,atGPT）,的,进展,、,风险,与,应对,0,1,通,用大模,型,的,近期,进,展,目录,0,3,通用,大,模,型的治理,风险,评,估,0,4,通用大模型的,风,险,应,对策,略,0,2,各,国通,用大模型,的能,力,比,较,通用,大,模,型,0,1,的近期进,展,1,通,用大,模型,的,近期进,展,1,通用,大,模型,的,近期,进,展,大模型的内涵与特征,大模型的发展历程,运行机,制,三大特征,预训练模,型,的,发,展,历,程,多模态预训练模型,“大,模,型,”和“,小,模型”协,进,平台化与,简,易,化,并,进,通用化与,专,用,化,并,行,大模型的发展趋势,445,4,4/55,1.,1,大模,型,的内,涵,与特,征,大模型是,指容量,较,大,，,用于深度学,习,任务,的,模,型,，,通常,具,有海,量,的参,数,和复,杂,的架,构,。,大,模,型,具,有,更好,的,通,用,性,、,精度,和,效,率,，,可,以通,过,预,训,练,或,其他,方式,在,大,型,数,据,集上,进,行,学,习,，,再通,过,微,调,高效地处,理,计,算,机,视,觉,、,自然语言,处,理等,复,杂任,务,。,预训练模型的运行机制,1 通用大模型的近期进展,T,ransfor,m,er,（主,要）、,GA,N,、,CN,N,以,及,RNN,等架构,通过海量数据进,行预训练（通才）,微调以应用不同,场景（专家）,解决各种复杂任务,5/55,5554,1.,1,大,模,型,的内涵与特,征,1 通用大模型的近期进展,涌现性扩展性复合性,强化技术的融合解决传统AI的问题增强AI的能力,有效,集,成,自,然,语,言,处,理等,多,个,人,工,智,能,核,心研,究,领,域,的,多,项,技,术,，,实,现,1,+,1,2的,融,合式涌现。,大模型,能,够,有,效,支,撑智,能,终,端,、,平,台,、,系统等,产,品,应,用,落,地,，,解,决,壁,垒,多,、,部署难等问题。,在,海,量通用数据上,预,训,练以具备多种,基,础能,力,，,摆,脱,传统人工智能,能,力,碎,片,化,、,作坊式开,发,的,局限。,6654,6/55,1.,2,大,模,型,的发展历,程,1 通用大模型的近期进展,单语言预训练模型多语言预训练模型多模态预训练模型,能够处理自然语言，源,于早期的词嵌入（,word,e,m,bedding,）的工作。,具备多样化的,基,础,语,言,能力,，,开始分,别,处,理,多,种自,然,语,言任,务,，,如,机,器翻译,、,问答,系,统,、,情,感分析等。,以多语言训练模型为核,心，进行文字、图片、,视频的同步转化，实现,处理多任务的目标。,多模态预训练模型,视觉,文本,语音,理解式任务,生,成式任务,1.,2,大模,型,的发,展,历,程,1 通用大模型的近期进展,多模,态,预,训,练,模,型,：人工智能如,何,理,解世,界,？,处理多任务,应用领域进展,医疗,深度多任务学习能够应用,于医学影像分析中,金融,同一海量数据的多任务处理,工业,Multi-,T,ask,经典模型结构；,全空间多任务模型,ESMM,教育,多模态与多任务,预训练模型的结合应用,8/55,1 通用大模型的近期进展,发展,趋,势：,“,大模型”,和,“小模型,”,协,进,1.算力要求过高,2.显存占用过大,1.推理增速有限,2.训练时长增加,1.经济成本激增,2.能源消耗剧增,模型,量化,模型,剪枝,知识,蒸馏,减少信息泄露风险,降低运行碳排放量,参数,共享,低秩,分解,增强模型抗攻击性,大模型的限度,模型压缩技术,小模型的好处,1.3,9/55,1 通用大模型的近期进展,发展,趋,势：,“,大模型”,和,“小模型,”,协,进,大模型,小模型,借助知识蒸馏等技术，大模型的能力可以传给小模型,改进知识蒸馏等技术，大模型一次可以产出多个小模型,利用小模型作,为,T,eacher，可以帮助大模型快速收敛,如,何,实,现,大,模,型,和,小,模,型,的,联,动,和,互,助,作为样本价值判断模型，小模型可以帮助大模型快速学习,1.3,10/55,1 通用大模型的近期进展,发展,趋,势：,通,用化与专,用,化并,行,表征,学习,单模态多模态,迁移,学习,多任务处理,多模态编码,统一模型框架,1.从算法只能处理一种模态到可以处理多种模态,2.从算法仅能基于一种模态学习并只能应用于该模态到可以学习并应用于多种模态,1.3,11/55,1 通用大模型的近期进展,发展,趋,势：,通,用化与专,用,化并,行,统一架构：使用统一的模型架构，并采用,相同的学习模式,统一模态：构建可以适用于多种模态的通,用词表,统一任务：将所有任务统一成序列到序列,任务,应用,通用预训练,专用领域预训练,业务场景应用,需求,基础,框架,反哺技,术,技术落地,1.3,12/55,1 通用大模型的近期进展,发展,趋,势：,平,台化与简,易,化并,进,模型开发,场景适配,推理部署,全能、简易开发服务平台,开,发,工,具,微,调,工,具,部,署,工,具,大模型和小模型无缝联动能力,自适应分布式推理能力,自动化压缩能力,加密部署能力,便捷微调能力,低参数调优能力,数据增强和清洗能力,并行计算能力,存储优化能力,自适应分布式训练能力,弹性容错训练能力,1.3,13/55,各国,通,用大,模,型,的能,力比,较,0,2,2,各,国通,用大,模,型的能力,比,较,2,各国,通,用大,模,型的,能,力,比,较,美国,目,前,通用大,模,型,的发展现,状,中国对大,模,型,相,关,领,域的布局,情,况,其他国家,大,模,型,技,术,的发,展,情,况,发展差,距,为何中美,之,间,会,存,在,如此差距,？,制度环,境,技术,配,套,原创能,力,引言：各,国,通,用,大,模型的技,术,进,展,15/55,C,h,atG,P,T,（,GP,T,，,Ge,n,e,r,ati,v,e,P,r,e,-,t,r,ai,n,e,d,T,r,a,n,s,f,o,r,m,e,r,生成预训练转换,器,）的出现反映,出,了人,工,智能发展,的,新,趋,势,，,即,A,I,正在从,感,知智,能,向认,知,智能,快,速发展,。,美,国作,为,人工智,能,发展,领,域的前,沿,国,家,，,其拥有,一,系,列,具,备充,足,技术和,资,金资,源,的公司,和,实验,室,，如,谷,歌,、,微,软,、,O,p,e,n,A,I,等,。,中,国作,为,人工智,能,领域,发,展的重,要,参与,者,，,中国,正,在,加,快,其在,通,用大模,型,领域,的,投资与,研,究,。,例,如,，,百,度,、,腾,讯,、阿,里,、,科大,讯,飞,等,大,型科技,公,司正,在,加速开,发,该,领,域的技,术,。,2,引,言：,各国,通,用大模型,的,技术进,展,2 各国通用大模型的能力,比,较,16/55,美,国目前的科技,巨,头公司，如谷,歌,、,微软,、,亚马,逊,、,M,e,t,a,等,都,在通,用,大模,型,上进,行,了进,一,步的,布,局与,投,资,。,S,ta,b,ilit,y,A,I,等,A,I,初,创公司同,样,表,示,将积,极,布,局,A,I,G,C,、,C,h,atG,P,T,等,相,关技,术,和产,业,。,2.,1,美国,目,前通,用,大模型的,发,展现,状,2 各国通用大模型的能力,比,较,模型名,称,开发公,司,技术支,持,参数,量,耗费算力主要特点应用范,围,局限性,ChatGP,T,OpenAI,Generative,Pre-trained,T,ransfor,m,er,3.5,千亿级,3640,PetaFLOPs,per day,支持连续对话、可质疑、,主动承认错误、加入,RLHF,训练范式,文本编辑、,编程、翻译、,算术,无法进行网,页搜索、黑,箱问题,Claude,（封测）,Anthropic,constitution-al,AI,520,亿,最大化积极影响、避免提,供有害建议、自主选择、,加入,RLAIF,训练范式,较,ChatGPT,文本编辑更,长且自然,较,ChatGPT,代码推理更,弱,Bard,（内测）,谷歌,LaMDA1370,亿,较,ChatGPT,算,力需求更低,可以根据最新事件进行对,话、更负责任,将加入,Chro,m,eOS,为,搜索引擎,犯事实性错,误,17/55,在人工,智能,大模,型领域,，,美国,各,巨,头,科技,公,司均,有,相关,的,技术,资,源,。,整体而,言，,目前,C,h,a,t,G,P,T,的表现最,为,优异。,即,便,是,谷,歌,的,B,a,r,d,在,实,际表,现,上似,乎,也逊,于,C,h,atG,P,T,。,2.,1,美国,目,前通,用,大模型的,发,展现,状,2 各国通用大模型的能力,比,较,模型名,称,开发公,司,技术支,持,参数,量,耗费算力主要特点应用范围局限性,BlenderBot,3,Meta,Open Pre-,trained,T,ransfor,m,er,1750,亿,具备指令微调，可以,改善其对未见任务的,零样本和少样本泛化,能力,生成创意,文,本,、,解决基本,数学,问,题、,回答,阅读,理,解问题,全部访问权,限受限制,Megatron-,T,uring,微软,英伟达,T,ransfor,m,er,语言模型,5300,亿,高质量的自然语言训,练语料库,阅读,理解,、,常,识,推理、词义消歧,被,ChatGPT,反超,18/55,继,O,p,e,n,A,I,发,布,C,h,atG,P,T,大模,型,之后，中国的各,科,技,公司,纷,纷加,入,了,大,模,型,开,发,和,应,用,的,队,伍,。,例,如,、,腾,讯,、,阿里、百,度,、,科,大,讯飞,等,科技巨,头,公,司均,有,跟进,大,模型,的,研发,与,应,用,。,对目前,国内,大,模型发展,而,言，,我,们,与,国外,的,差距,重,点不,在,模型,，,而,在,算,力,。,2.,2,中国,对,大模,型,相关领域,的,布局情,况,2 各国通用大模型的能力,比,较,模型名,称,开发公,司,技术支,持,参数,量,耗费算力主要特点应用范围局限性,文心一言,（内测）,百度,基于百度知识增强,大模,型,ERNIE 3.0,2600,亿,较,Chat,GPT,算力,需求低,生成式搜索、跨模,态理解与交互,文本生成、将加入百,度搜索引擎,生成文本,较短,通义,M,6,阿里,T,ransfor,m,er,Encode,r,-Decoder,，,ResNet Blocks,10,万,亿,能耗低,国内首,个,AI 统一,底座、借鉴人脑的,模块化设计,图像,描述、,视觉,定,位,、,文生图、视觉蕴含,用户使用,量较少,混,元,腾讯,基于,MoE,模型,的,T,ransfor,m,er Block,万,亿,能耗较低,成本较低、多模态,理解、跨模态理解,计算机视觉、自然语,言处理、多模态内容,理解、文案生成,用户使用,量较少,19/55,在人工,智能,大模,型领域,，,中国,公,司,的,科技,实,力与,国,外公,司,存在,一,定,差,距,。,中国企,业目,前正,在努力,将,之前,的,发,展,重点,（,单一,模,型对,应,单一,任,务,的,专,用,大,模,型,）,调,整,为,通,用,大,模,型,。,例,如,，,百,度,2,02,3,年,3,月即,将,推出,“,文心一言,”,通,用,大,模,型。,华,为,、,阿,里和,腾,讯,也,表,示,将,加,快通,用,大,模,型,的落,地,。,2.,2,中国,对,大模,型,相关领域,的,布局情,况,2 各国通用大模型的能力,比,较,模型名,称,开发公,司,技术支,持,参数,量,耗费算力主要特点应用范,围,局限性,紫东太初,中国科学,院自动化,研究所,基于昇思,MindSpore,框架,千亿,全球首个视觉,-,文本,-,语音,三模态预训练模型，同时,具备跨模态理解与跨模态,生成能力,跨模态检测、,视觉问答、语,义描述、视频,理解与生成,项目落,地难,盘古,（未上线）,华为,Encode,r,-,Decoder,架构,千亿,模型具备极佳泛化能,力,，,效率高,跨模态检索、,跨模态生成、,内容生成等,模块化,20/55,2.,3,其他,国,家大,模,型技术的,发,展情,况,2 各国通用大模型的能力,比,较,模型名,称,开发公,司,技术支,持,参数,量,耗费算力主要特点应用范围局限性,Y,aLM,俄罗斯,Y,andex,Generative,Pre-trained,T,ransfor,m,er,1000,亿,能耗较高,采用,Apach,e,2.0,授权，,同,时,允许研究,及,商,业免费使用,生成和处理文本,处于行业,中下游,Gopher,英国,DeepMind,T,ransfor,m,er,语言模型,2800,亿,能耗较,低,超大型的语言模型,阅读理解、事实核,查、有害语言识别,应用范围较窄,Hyper,CLO,V,A,韩国,Naver,暂无公开,820,亿,提升韩语模型性能,在韩语领域的文本,生成,多模态任务,滞后,Jurassic-1,Ju,m,bo,以色列,A21,Labs,MRKL,模块化,推理、知识,和语言系统,1780,亿,能耗较高,兼顾神经模型和符,号推理能力,转述、从文本,中提取数字,尚未,对,输,出,的,潜在,有,害,内,容,进行过滤,21/55,通用大模,型的研,发,已经,成,为各国,新,一,轮技,术,竞争,的,核心,领,域,。,中国企业,在原创,能,力、,技,术配套,、,制,度环,境,三个,方,面，,存,在一,系,列,亟,待,解,决,的,问,题,。,这些问题,制约了,中,国通,用,大模型,的,进,一步,发,展，,并,导致,中,国与,美,国,存,在,一,定,的,技,术,差,距,。,2.,4,发展差,距,：为何,中,美之间,会,存在如,此,差距,？,发展环境,技术实力,原创能力,2 各国通用大模型的能力,比,较,22/55,2.,4,发展,差,距：,原,创能,力,核心类型具体表现形成原因,原创能力,缺乏冒险精神在风险技术的投入上倾向于复制和追随,缺少创新的社会文化学生缺乏独立思考和批判性思考,试错空间小过快的竞争和成果产出节奏压缩企业的创新时间,人才不足具有丰富经验的前沿人才不足,2 各国通用大模型的能力,比,较,23/55,2.,4,发展,差,距：,技,术配,套,核心类型具体表现形成原因,技术配套,关键技术缺乏进一步突,破,在关键的人工智能算法上（算法透明度、鲁棒性等）存在痛点,硬件基础设施不足外部制裁限制了中国高性能芯片的研发和生产,数据质量不足中文语言的学习难度较大；外部数据的获取难度大,内容生成的多样性不足算法模型与中文语境之间的匹配有待调试和完善,2 各国通用大模型的能力,比,较,24/55,2.,4,发展,差,距：,制,度环,境,核心类型具体表现形成原因,制度环境,知识产权保护不足对既有权利人和AI生成物的知识产权保护不完善,国际合作不足不确定的地缘政治格局限制了中国科学家的对外合作,内容审查能力不足对AI生成内容的审核缺乏统一标准,研发商业化程度不足市场的不确定弱化了外界的投资信心,2 各国通用大模型的能力,比,较,25/55,通用,大,模型,的,治,0,3,理风,险评,估,3,通,用大,模型,的,治理风险,评,估,3 通用大模型的治理风险评估,技术风,险,社会风,险,经济风,险,政,治,风,险,鲁棒性不,足,可解释性低,算法偏见,数字鸿,沟,侵犯个人隐私,诱发犯罪,寡头垄,断,世界分工,重,组,传统岗位,替,代,颠覆性变,革,政治决,策,国际关系,动,荡,监管失,能,舆论引,导,27/55,冲击教育体系,3.,1,技术,风,险：,鲁,棒性不,足,3 通用大模型的治理风险评估,系统在面,对,黑,天,鹅,事,件和对抗,性,威,胁,时,表,现出,的,能,力缺,失,在具体应,用,场,景,中,考虑更细,粒,度,的,安,全,问,题,大模型具,有,涌,现,性,对抗样本,干,扰,解,决,方,法,鲁棒性不,足,原因,产生错误,预,测,引发社会,风,险,助长算法,偏,见,体现,训练数据,偏,差,缺乏针对,语,义,的,上下文理,解,错误,推,理,语言多样,性,缺,失,影响,28/55,3.,1,技,术风,险,：可,解释性,低,可信度降,低,安,全,问,题,可解释性,的,A,I,应,用,少,方法,多,结果,少,数,据,投,毒,后门、,木马,攻,击,常见词,汇偏,差,伪相关,问,题,应用领域,仍,有,限,解释,效,果,不理,想,缺乏统一,的,标,准,现有问,题,可控性较,弱,的原,因,研究的局,限,人类难以,理,解,模,型,的决,策,过,程,3 通用大模型的治理风险评估,29/55,3.,1,技术,风,险：,算,法偏,见,算,法,偏,见,语料库,缺乏,代表,性,机器学,习习,得人,类偏,见,数据来,源不,均,原因,表现,数据偏,见,种族偏,见,性别偏,见,年龄偏,见,语,言,偏,见,职业偏,见,地理偏,见,人物形,象偏,见,3 通用大模型的治理风险评估,30/55,3.,2,社会,风,险：,数,字鸿,沟,社会,在,信,息层面,所,形成的不公平,现,象,（技术拥,有,者,和,技,术缺,乏,者之间,的,差,距,）,不,公正,决,策,减少少数族裔,或,弱势群体的参,与,加剧社会不公,平,损,害信,任,降低模型可靠,性,技术主体,与,使,用,者,之,间,技术主体,之,间,各阶段数,据,技,术,行,为主,体,出于自,身,利,益,考虑，对,其,他,行,为,主体,产,生戒备,，,数,据,交流共享,难,以,畅,通,。,大模型使,用,者,，,也,即大,模,型技术,的,作,用,对,象，是作,为,数,据,生,产者,的,普通大,众,。,他,们,面临的数,字,风,险,较,高，,而,收益甚,微,。,数字鸿沟,危害：,技术鸿沟表现：,3 通用大模型的治理风险评估,31/55,3.,2,社会,风,险：,侵,犯个人隐,私,数据来,源,恶意滥,用,“长尾效,应,”,监测与跟,踪,三角,互,证,与,多重验证,过,程,推理能,力,模型,设,计,数据方面大模型,方,面,产生的原因,3 通用大模型的治理风险评估,32/55,3.,2,社会,风,险：,诱,发犯,罪,语言模,型辅,助的,内容生,成,技术,以,更,加低廉,的,价格,更,加有效地,生,成,虚,假,信,息,大模型,拥有,创建,高度逼,真,的合成文,本,或,语,音,的能,力,虚,假,信,息,识别难,度,提,高,信息欺,诈,产生原因,网络诈,骗,仇恨言,论,侵犯,知,识,产,权,诱发,犯,罪,的类,型,3 通用大模型的治理风,险,评估,33/55,3.,2,社会,风,险：,冲,击教育体,系,技术,因,素,：,高度逼,真的,合成,文本能,力,各类资,料高,度开,源增加,大,模型应答,准,确,性,1.技,术快,速迭,代,与,检测,技,术滞,后之,间,的,矛,盾,产生原,因,缺,乏相关应,对,措,施,准,备,3 通用大模型的治理风,险,评估,34/55,社会因素,：,现有,教,育,体,系,缺,乏,应对准,备,学生,缺,乏,数,字,素,养,就,业压,力和学业竞争加,剧,2.限,时开,卷考,试,等,传统,测,试手,段已,基,本,无,解,3,.尚缺乏,对大,模型,学术不,端,的准确,界,定标,准,4.,监,管,责,任,主体缺,失,呃呃呃呃呃呃,呃,3.,3,经济,风,险：,寡,头垄,断,但当我们思考实际落地的,诸方面时才发现：通用大,模型远非真正的“通用”,工具，是只有巨头才可以,拥有的独享“权杖”。,为何大模,型,落地,难,？,3 通用大模型的治理风,险,评估,35/55,巨头垄断趋势明显,高昂的训练和能源成本,高不成低不就,模型迭代需长期、大量人力投入,所需数据量仅有巨头企业能满足,存储数据模型的显卡至少价值200万元,得体的交互应对背后是聚沙成塔式的细节更新,能耗=126个丹麦家庭的年能耗之和,二氧化碳排放=行驶70万公里,训练消耗的总算力为3640PF-days，即每,秒运算1千万亿次，需要运行3640天,承担简单工作则入不敷出,创造性岗位则难以胜任,作为当前AI领域的前,沿技术，在理论上，,大模型拥有广阔的应,用空间。,3.,3,经济,风,险：,颠,覆性变,革,产,业,重,塑,用户可以通过打字或语音交,互直接输入自己的需求。,软硬件需要联合执行用户的,指令，以自然语言协议为基,础的物联网通用协议将可能,达成。,影响,构,建,通,用,协,议,结合大模型的,Bing,搜索能实,时抓取信息，对搜索涉及的,事物进行自动关联，实现对,制定旅行计划等开放性需求,的回应。,搜索引擎将整合搜素、浏,览、甚至决策的功能。,搜,索,功,能,整,合,变,优,革,变,化,革,颠,覆,3 通用大模型的治理风险评估,36/55,3.,3,经济,风,险：,传,统岗位替,代,成熟的大模型计算能力更强，在,文字处理和内容生成领域效率更,高。,技术密集型工作的本质是一套操,作流程，经过训练的专用模型可,以轻松掌握。,目前在根据已有复杂数据做出判,断和预测方面，大模型的能力不,会比人类弱。,为什,么,3 通用大模型的治理风险评估,37/55,经济风险：哪些岗位会被取代?,内容生成型技术密集型数据预测型,设,计,师,广,告,制,作,律,师,助,理,码,农,程,序,员,稿,件,采,编,会,计,师,市,场,分,析,师,财,务,顾,问,数,据,分,析,师,3.,3,经济,风,险：,世,界分工重,组,世,界,分,工,重,组,其他国家，尤其是广大发展中国家在,通用模型的研发领域与美国差距甚大,。综合实力最强的中国在模型迭代方,面也有较大上升空间。,基于自身先发优势，美国有能力构建,一个新的、更固化的中心-外围结构。,中,心,边,缘,结,构,固,化,美国在算力、算法、芯片等关键领域,都有较大优势，有能力创造出先进生,产力的“精英+AI”模式。,美国与中国、乃至全世界脱钩的成本,大大降低，“小院高墙”足以自给自,足。这将加剧技术保护主义思潮和逆,全球化趋势。,科,技,保,护,主,义,兴,起,3 通用大模型的治理风险评估,38/55,3.4,1,政治,风,险：,政,治决,策,政,治,决,策,风,险,人工智能无法完全理解和回应政治决策对象,的情感诉求。,大模型依据统计做出的政策建议或决策很可,能回应性不足。,大模型类人化程度极高，决策者和决策对象,之间以此为媒介的沟通很难确认真实性。,政治决策者与诉求表达者之间出现双向信任,危机。,政策决策,忽,视,偏,好,问,题,政,治决,策,信,任,度,危,机,大模型将可能替代部分人力进行政,策建议甚至政治决策。,政治决策者依赖大模型，导致政治,治理能力下降及政策创新力匮乏。,政治决策,机,制,重,塑,危,险,3 通用大模型的治理风险评估,39/55,3.4,1,政治,风,险：,舆,论引,导,舆,论,引,导,风,险,大模型的高度拟人化和使用便利性将强化公,众对它的依赖，同时增强它对重大概念和事,件的解释权。,和国家的阐释权形成竞争，侵蚀国家权威性。,技术霸权国针对他国公众心理弱点，利用,大模型输出意识形态偏好。,针对目标国进行潜移默化的意识形态渗透,和制度破坏，干涉他国内政。,国家阐释,权,的,趋,弱,意,识,形,态,武,器,化,趋,向,大模型的算法和数据的鲁棒性、透,明度和可解释性弱。,真实性存疑的输出结果持续影响公,众政治判断和选择，隐蔽塑造公众,舆论和观念。,潜移默化,引,导,公,众,舆,论,3 通用大模型的治理风险评估,40/55,3.,4,政治,风,险：,监,管失,能,大模型出现的虚假和错误难,以识别和监管。,智能水军等造成巨大的监管,压力。,监,管,需,求,能,力,差,距,监,管,失,能,风,险,大模型必须的高投入导致科,技巨头寡头化趋势。,巨头垄断将侵蚀国家治理能,力。,垄,断,侵,蚀,国,家,能,力,优,化,监,管,垄,断,3 通用大模型的治理风险评估,41/55,3.,4,政治,风,险：,国,际关系动,荡,大模型的高昂投入和先发优,势导致少数优势大国的垄断,趋势。,围绕大模型的激烈竞争加剧,优势国家的技术保护主义，,弱势国家被迫选边站队，科,技政治极化对抗风险激增。,强,化,科,技,政,治,对,抗,国,际,关,系,动,荡,风,险,大模型加剧广大弱势国家对,少数优势国家的技术依赖。,大模型强化了西方价值观隐,蔽的支配地位，大模型成为,推动价值观联盟形成的工具。,助,推,价,值,观,联,盟,优,极,化,化,联,盟,3 通用大模型的治理风险评估,42/55,通用,大,模型,的,0,4,风险应对策,略,4,通,用大,模型,的,风险应对,策,略,4,通用,大,模型,的,风险,应,对,策,略,构建法律,之,治,增强竞争能,力,加,强,市场,应,用,防范失业,风,险,推动教育改,革,消,除政,治,风,险,44/55,4.1,1,构建,法,律之,治,：基本原,则,坚持以法治原则应对大模型技术的,潜在风险。,引导大模型技术的应用与发展尊重,和依循人类社会的良善伦理与价值。,风险法治,原,则,充分考虑到保障社会创新活力的价,值向度，切合技术发展实际和社会,现实作出可执行的规制决定。,合理限度的责任豁免规则和试验主,义的监管方式或许是可探索的方向。,创新激励,原,则,大模型服务提供者采取积极的、与技,术水平相适应的风险控制措施。,在迭代中不断优化大模型系统的价值,敏感设计。,积极责任,原,则,在现实个案、具体风险源或法益损害,场景中寻求公正与平衡的解决方案。,充分利用既有制度展开法律推理，避,免形式主义和超越性的立法。,场景公正,原,则,基,本,原,则,4 通用大模型的应对策略,45/55,4.,1,构建,法,律之,治,：制度建,构,建设大模,型,服,务,备,案制,度,经营者向公众提供大模型服务时，需向主,管部门进行备案。,对于备案的经营者，政府可提供有限的责,任豁免、监管沙箱、避风港规则等政策予,以激励。,明确大模,型,服,务,提,供者,的,积极责,任,明确大模型服务提供者需承担积极采取与,技术发展水平相适应的风险预防与控制措,施的责任。,及时响应和处理监管要求和权利主体提出,的正式侵权通知。,探索大模,型,服,务,避,风港,规,则,对于大模型系统中可能存在的对个体权益,侵权（如知识产权、人格权、数据权），,探索适用通知-移除规则；,设计大模型风险控制基金、保险等工具进,行转移和补偿个体权益的损害。,在场景公,正,中,作,出,法律,推,理,追究大模型恶意利用者的责任；,追究大模型服务商怠于履责的责任；,做好大模型相关的专项反垄断研判并细化,取证流程。,制,度,建,构,4 通用大模型的应对策略,46/55,应对科,技,竞争,风,险的关,键,在于,整,体性创,新,机制,的,构设。,整,体性,创,新机制,包,括企,业,创新、,制,度配,套,和联盟,学,习,。,4.2,4 通用大模型的应对策略,企业,创,新,头部企业发,挥冒险,精,神,，,承担社会责,任，以,技,术,变,革的魄力引,领产业,整,体,水,平的,提,升,。,制度,配,套,联,盟,学,习,政府提供相关,配,套措施的,大,力支,持，,包括,硬,件基础设,施,建,设,、,知识产,权,保,护,、专,业,投资预算和,产业政,策,引,导,。,政府、企业,和科研,机,构都,应,该建设学习,交流机,制,，通,过,吸收先进地,区的经,验,来降,低,试错成本、,加快技,术,研发,。,增强,竞,争能,力,：构设整,体,性创新机,制,47/55,应对科,技竞,争,风险必须,要,在持,续,性,创,新基,础,之上,推,进,。,中国在,创新,基,础上的独,特,优势,：,不,仅,具备,庞,大的,人,口基,数,和海,量,数,据,，,而,且,拥,有,强,大,的,社,会,动,员,能,力,。,4.2,重点,在,于,构,建原创,性,的奠基式架,构,，而非在现,有,底层模型的,基础上,一,味扩大模型,规,模,。,由政府牵头,设立,的,“,算力,池,”,能,够,为大模型开,发,提供公,共,算力,。,公共算力基础,算法原始创新,数据是训练,通用大,模,型所需的重,要,资源，中国,需,要在数据量,和数据,多,样性上发挥,独,有优势,。,高质量数据库,4 通用大模型的应对策略,增强,竞,争能,力,：培育持,续,性创新基,础,48/55,4.,3,加强,市,场应,用,：两个面,向,4 通用大模型的应对策略,市,场,应,用,1.链接技术与应用，拓展多,重应用场景，降低市场准入,门槛。,2.实现产业纵向与横向的精,准突破，满足开发工具建设,、产品化升级与社区建设的,全流程需求。,通用大,模型,作为,前沿技,术,，在,提,升,产,业流,程,效率,、,引领,产,业智,能,化,等,领,域,都,具,有,创,造,性,作,用,。,在实际,应用,环节,，大模,型,依然,面,临,重,重阻,碍,。,为应对,大模,型应,用落地,难,的问,题,，,我,们提,出,了,“,一,个核,心,、两,个,面,向,”,的有,效,解决,策,略,。,核心,产,业,需,求,1.发挥社会主义市场经济的,积极优势，以政府为主导，,加强协作机制。,2.积极推动中国企业以联盟,或合作的方式开发开源大模,型平台。,资,源,优,化,面向,面向,49/55,4.,3,加强,市,场应,用,：从生态,到,参,与,4 通用大模型的应对策略,正,高,博,士,学,位,科技部门,牵,头,头部企业,群,建,立,公共,联,盟,搭,建,公共大模,型,平,台,工信,部,门,牵,头,建,立,低代码开,发,工,具,促进上、,中,、,下,游,企业全流,程,参,与,从生态到,参,与,技,术,应,用,50/55,需要对,通用,大模,型的“,创,新性,破,坏,”,作用,予,以谨,慎,观察,。,密切关,注通,用大,模型发,展,可能,导,致,的,三类,失,业现,象,，并,需,要提,前,准,备,综,合,性,应,对,措,施,。,4.,4,防范,失,业风,险,4,通用大模型的应对策略,综,合,施,策,连,锁,反,应,三类失,业,措,施,（一）结构性失业,（二）技术性失业,（三）非对称性失业,经,济,发,展,受,阻,失,业,者,增,加,社,会,不,稳,定,增,加,综,合,施,策,（一）培训升级；税收优惠；兜底性失业保,障政策,（二）形成大模型“创造性效应”；建立失,业预警制度；重建失业人群“动力系统”,（三）组建“通用大模型技术共享联合体”；,就业促进倾斜,51/55,4.,5,推动,教,育改,革,4 通用大模型的应对策略,1,.提高大,模型,学,术应用的,门,槛,2,.利用智,能技,术,克服学术,不,端,3,.与时俱,进修,改,学术伦理,规,则,强化学术,伦,理,监,管,机,制,改,革学校教学考核,制,度,以,大,模型,助,力,教,育,创,新,1,.各教学,单位,设立,人工智,能,组,织,2,.推动大,模型,技术,助力教,学,工,作,3,.鼓励大,模型,工具,成为智,能,学,伴,1.,推,动,教,育,方式和,内,容改,变,2,.更改课,程作,业的,考核方,式,3,.增设数,字素,养课,为必修,课,培养批判,性,思,维,增加口试,和,手,写,评,估,将,A,I教育设,为必,修,课,年龄门槛,与,局,域,网,限,制,A,I,论,文,检,测,、,水,印,处,理,制,定,A,I,生,成式,内容,的,学术规,范,52/55,4.6,1,消除,政,治风,险,4 通用大模型的应对策略,政,治,安,全,策,略,形成合力，,促进,社会各方技术合作；,加强监管，,防范,潜在舆论引导风险；,有限应用，,避免,过度依赖技术决策；,制定规划，,合理,引导行业健康发展。,搭建合作平台，,促进,各国相关技术协作；,制定国际规范，,防范,算法世界政治霸权；,形成对话机制，,避免,科技政治极化对抗；,消弭数字鸿沟，,合理,引导后发国家进步。,国,内,国,际,前提,：,保持战略清醒,警惕科技背后的社会割裂风险,警惕通用大模型成为舆论战场,警惕对通用大模型的盲目崇拜,53/55,1,报告,团,队,总负,责,人,：,高,奇,琦,第一,部,分,：,王,金,良,朱,剑,王佳,璐,叶文,杰,第二,部,分,：,游,腾,飞,杜,欢,杨宇,霄,梁子,晗,房虹,宇,第三,部,分,：,严,行,健,吉,磊,寇菩,菩,谢睿,朋,李大,琨,潘翌,昕,王,诗,羽,第,四部,分：曾,森,隋晓,周,田,月,梁兴,洲,严文,锋,仲新,宇,版面,设,计,：,李,阳,王佳,璐,54/55,谢谢观看,【,读者需,知,】,本星球提供素材,均通过互联网公开合法渠道,或,个人整理,取得,，,仅供学习参考，请勿用于商业用途，,由此引起的一,切 后果均与本星球无关，祝您工作学习愉,快,!,