英伟达人工智能发展战略研究报告.pptx

,#,一,之,4,为,j,乡,，,j,使,尥,:f1J,削,I,九,访,先,乡,解,以,内,们,见术访,巴,Clara,CUDA,呕,c,o,res,CUDA,K,ernel,CUDA,Streams,CUDA,To,olkit,严,酝,cuOpt,Deep,learning,SDK,邕,DRIVE,Sim,匡广,竺,廷,千,Amperes,组勾,的,两,咭,5G,络的,Al,平台,一组预定义的函数或协议，用于构洼软件应用程序,话,一,医疗旬,酕,磁,的,Al,廿年平台,CQ_mP._Ute,U,fiedDevice,Architecture,的继写，,呈,NVIDIA,的主甘扛迂,堕,热郎,编程,役,型,CUDA,计耳单元,，,GPU,中,用,丁并行处理任务,的,基本处理单元,CUDA,程序,中,执行,的,并行计弃,函,数,CUDA,的,并行执行机翊，允许多,个,任务在不同,的,流,中,开行处理,包含,编,译,器,、,芦开发工具和文档,的,完整开发工具包，用,千,CUDA,编,程,嘈,用千半导坏制适的计弃光刻技术,用于物,流,和路径,优,化,的,Al,工具,NVID,IA,语供,的,软,件,开,发,工具,包,，,包含,用,于深宦字习,的,念,和,工,具,专为数据,中,心设计的忘性,能,GPU,EGX,io,n,),FP16,(Hal,f,Precis,-,-,GeForce,GPU,芦,r,ect,|,G,-,S,YNC,HGX,IGX,Isaac,它 数 坛,中,心,G,PU,-，,尸,叩、,袒,A,l,训练和妇,廿,克,觅升屯信网络的性院和若能化,支件开发和至成,提升医疗设备和应用的性能,深度,计弃,件,字,一,，,NVIDIA,的,习超级,机平,台,，,果成了谔,性跷,GPU,和,优化,的,软,一,住,A,l,翩,沺,翊,法,，,酝贾砌辉输戏测,厨,百分辨,迎,础,专用千数郔璃的处理芯,用于自动驾驶汽车垣拟讥际的软,件平,台,-,一种能够检测和修正常见的数遐损坏类型内存,月与,的,GPU,平台,钰,t,浮和,燭,度用于加速深度宅,祖,担,的,汃际,和基,理,一,CP,U,和主内存,的,干预,面向游戏哀乐领域的显卡系列,专门用千处理堡形和视觉计哀任务的处理器,NVIDIA,技术，允许耳,接在,GPU,之陬,专汾数据，从而改少,勋踪旺,嘶,率,与显卡给,出,，,农,踵,雨,撕,裂,月忘性,院,计其,的,GPU,平台,专为哲蕊边忿设备设计的计弃平台,年和研发的软硬沪抬,1,i,用,于,开,发,GP,U,_p,t,涟,的应甩捏序担年,生,用千执行弁行计五任务,，加速,计耳艺,年和内甩,用于在,GPU,上执行开行计弃任务,ffl,丁提,了,I,并行计弃的,效率,尸,-,guDA,硒 晒,提升芯片制适的秸度和效率 提商物流效率和任低成本,用于开发和优化深虔字,习,应,用,语供大规,袒,Al,训练和撑理能力,二,用千忘性能,的,深度字,习,训练和准,理,提升游戏帧率和图像质呈,提中心,网,络和存储性蕊,提商目珈鸦子控的安全性和效王,诵圣至,实现实,时,Al,痄玛择庄分析,用于提禹计茧效率和减少内存占用,虔性能游戏休验,提供图彤渲染和视觉计罕能力,用于提升,GPU,之间的数据传纷效翠,改若游戏和视顽的视觉质呈,支了研究和妄杂计耳任务,提供安全、忘效的边淙凡计弃,曰,、,众,詈,四,鼎帷咨询,n,J,J,l,J,上,少,etson,印,ll,n,仑,tmpoli,巳,I,G,NeMo,NVIOtA,GFE,NVID,队,Reflex.,工,VLin,k,NVSwit.ch,Omni,心,吐,Q,uadro,RAPIDS,Rep,l,icator,Riva,R,欢,R,仅,A,l,PCs,SMP,Studio,uperNIC,Tensor,Cor,e,Tenso,r,RT,I,T,1,e,d,a,l,1,G,1,P,T,okkio,T”mn,10,V,0,vGPU,平,台,戏优化的,信,；,用,千,在多个,GPU,之,1,可逗,供,商,速,连,接,用于,3D,设廿,和,实,时,协,作,的,平台,砰台,存和王,厦,P,U,资,三,、,发展,阶,段,。,吴伟,达,创,寸,3,至今,纤,过了,创,业,初,期,、,GP,U,定,义,时,期,、,GPU,迭,代时期,、,Al,帕,井时期,、,J,痄煌,时期,五,个,阶,段，,井,在,20,24,年,6,月,19,日咸为全球市价,员,(.”,的,公司,内,S,推,出,公,司,首,款,产,品,N,V1,7,.,推出全球首款,1 28,位,30,处理器,RIVA,128,六,7,.,推,出,T,esla,G,P,U,六泗,在,第,一,届,GPU,技术,大,会,上,发,布,代,号为,械,Ferm,i,岭,的 新,一,欢,UD,A,GPU,架构,如,1,推,出,线,苞,衍,又核移,动处,器,Tegra,2,“2,发,布,廷,于,Kepler,架,构,的,GPU,20f,3,发布,百,款,完,全继承,的,4GLTE,移,动处,理,器,T,egra,4i;,面,向,游,戏,玩家,推,出,GeForce,G,TX,T,I,T,AN,理,4,;,发,布,19,2,核,超,级,芯,片,Te,g,ra,K1,，,推,出,M,a,xwell,（,第,10/tl,忠,勾）,10 22,公布录新自动 驾,驶 技术,平,台,Dri,ve,Hyperion,9;,发,布,云,原,生,A,l,侯,型和,服,务,Omniverse,Ava,t,ar,Cloud,Enginr(ACE),2O2,）,推,出,新,一,代,GH,200,Grace,Ho,p,per,超,级,芯,片，,同,时,佳,出,基,千,G,H,2,叨,构建的,新服务,器设计,10,Z4,推出,N,VIDI,A,Blackwell,平,台,，,以,万,亿,会,数,规,模,推,动,Al,计茛,的,新,时,代,，,6,月,，,英,伟达 市佳,登,顶鳍,第,一,超,越,微,软,和,苹,果,1,1.:J,匕,7,创业初期,7,Ul,GP,U,迭代时期,J,u,.,作,.,Jd,4,Al,辉捏时朋,。,GPU,定义,时,1l11,1,芘,：,纳,斯,达克,上,市,X,咖,与台,积电,签约廷,立,合作伙,伴,关系,邓,1.,携,n,FORCE,进,军栠,成,显卡,市场,石峰、,推出,S,U,技,术,，,允,许多,个,GPU,连,接,l006,推,出,用,于,通,用,G,P,U,计茛,的,架,构,CUDA,.,.,-.1,A,l,觉,醒,期,时,功,s,搭,载,TEGRA,X1,的,DRIV,E,问世,201,6,推,出,全球百,款,一,体化,深,庋学习,超,级,计,瓦,机,DGX,-,1,JO,S,推,出,开,源,G,P,U,加,速,平,台,RA,P,I,D,S,推,出,Turn,i,ng,G,P,U,架,构,20,19,在,HPC,嵌入式,、,数,据,中,心,、,自,动,驾,驶,：,汽,车,和,专,业,图,形,市场,中,取,得,进展,，,血,0,推出,Am,pere,GPU,架,构,助,力数,据中,心,，,，,产品,布局,从,GPU,扩,展,至,兼,具,OPL/,及,1,发布,Grace,C,P,U,专,为,巨,型,Al,和商,性,能,：,计,苠,工作,负,载设,计,，成,为,吴有,CPU,、,G,P,U,、,D,竖,平,狡泗,鼎,颅,迭,笱,扈,阶,段,：,英,伟,达,从,游,戏屈卡,起,家,，,并,发,布,世界上,第,汰,贞正,总,义上,的,GPU,产品，,成为,浙,戏品卡,市,场的,倾,导行和,G,PU,产品的,定,义行,I,品,无,7),市场竞争和财务困境 创新精神和战略转型,在,圃,夼,芯,片,市场取得互要胜利,成为专业可视化领域的领导者,在,G,P,U,拽术,、,湔戏饥合作、和盄,卡,市场竞争方面,取徇亘大进展,C,U,D,A,平台,的,开发和,推,广,为,A,l,铺路,在,游戏显卡市场中,占,据,领导地位,颐咙十算领畴翠,推出,革,命,GP,U,架构,和,产,，,实,品,现技术突,破,蹈介段,第三阶段,1,99,3,年,，从,画西,部通用图形计皿,步,l,俨,推出第一,个产品,：针对游戏主机的,1,995,年,N,V,l,显,卡,1,9,9,5,年,貊,气韧,，推出关键芯片产品,Riva1,首,128,位,的,3D,处,理,器，在,图,形芯,开始崛起,1999,年,，,借,GPU,GeForce,256,宰丙,就,欢,-BOX,订单,同,年,IP,O,成功,20,00,行,，,收,购,3dfx,市场形,成,英伟达,与,ATI,的双雄格局,I,200,1,年,推出业界,笃,开始能够利用,面阿衄,GP,U,:,GeForce3,，,四,哮,泪,G,PU,完成为训,练,Al,大摸型埋,下,伏笔,I,已,年,，为畴,3,开发俎,匿,叨,硕,心,逻铝开顽,2006,年,CPU,单,AMO,收,购,A,T,I,后,由,开,贪,谣,限制导致显,卡,份,额下沿,英,伟达推出通,用,平行计,笋,平,台,C,UDA,廷,立,CUDA,I,研究中心,，后成为邸学习和,A,l,ij,l,晞,的,首,选,G,PU,架,构，助力,英伟达取待领先市场地位,2007,年,T,esla,GPU,问,世,，标志,君,NVIDIA,在,禹,性绥泊,算,领,吻,为里大突,破,使,待,G,P,U,的强,1,大 计,第 能力应命药物发现医,学成,像等领域,201,碑,，提开,UDA,核心,至,512,个,2,014,年,完,全,实,现,M,axwell,设计架,构,，在,2010,年全球,虽,快超,笃,前五强,中,借,助,NVID,IA,Tesla,GPU,占,领三个地,位,，,在,2012,年,虽,快,的,超,级,电,脑泰坦中,有,18,688,颗基,于,Kep,l,er,的,NY._IDIA,Tesla,芯片,公众,号,l,目,巩二阴,段,：加,J.),年,英,伟,达行,次,发布,了,面,向,深度,学,习处,吨,器,，,GP,U,芯,片构架向,I,方,向,大步,迈,进,，,日,前,人工罚能芯,片方向的,以,市,占,书,8,们,处,于,绝,纣垄断的,地,位,，,血,d,，,千,三,飞,雪,邕,硬件供应商,深度学习和人工智能时代,为先行者和淮动者,酮,-,过,.,人工智能方面,处于绝对垄断的地位,（,市,占,率,80%),G,P,U,技术,深良学习,Al,应用并领域,Al,数宁生物,气候科学,游戏,自动驾驶汽车,机器人等领域,推出用千训练深度神经网络的殿,强,器,NVIDI,A,G,e,Force GTXTITANX,芯片架构开始往深度学习和凡方,向前进,发,布,V,o,厄,架构,和,NVIDI,A,Tesla,V10,0,GP,U,加速器,极,大,提,升,A,l,运,自,改,率,Amper,呻,对,Tensor,Core,进行了进步的升级烂加了,对稀疏矩阵计茛的支待,ao1s,2016,唯,出,16nmPasca,唳,构 引入新,的,总线相通佑协,议,N,VLi,n,k,用,于,GPU,和,C,P,U,以,及多,个,GPU,间的,连接,推出,Tu,的,计豆能力，同时实现游戏中可用的灾讨光 线,追,踪洹,染,此,结,构下,的,Tesla,T4,GPU,计,百皿页器成为经典,AJ,豆,力卡,发,布,4n,m,工艺的,R,T,X,4,0,系列显卡，性能比,上,5,0,没,际,CPU,产,品,Grace,：,这盄,懿,芯总部,rac,或,l,Hopper,架,构,，,为,A,印,禹,性能计百提供了强大,的,千,U,+,GPU,组合,2017,架,构,，邸,nsor,Co,r,心,血,2020,，,作文待设计、开,发,、部菩和,军,郢,沁,mnive,l,大,芯,片,为产,品,底庉,，,推,动,英伟达咸为人工许能计算颌域的领导行,屈,冲心,l,k,k,创造下,一,个,工,业,革,命,，,推动,人,类迸,，,油,走,入人工智能和,图形计算的新,纪,元,-,E,四,计,黜,l,),改变计茛的工作方式和计茛机的功能,随中心,推动全球的数据中心行业现代化,西引扣切冗芦段,质,氐,貊,行邮,翻,、,研发单一行,业,刮,矿幸,现,牢,目标市场如医疗、自动每使,三,芯战略,CP,U,中央处理器,人工智能,全球人工智能基础设施的引婺,机器人,推动人工智能机器人,和,T1V,豹字化,酗节峦住凿丽刊泌迫,鲸,可供,千,A,江,业机器人训练,租,封,乍,的,3PU,及乓对应涸,试,、,训练用的底层软件,GP,U,图像处理器,DPU,数据处理器,英伟达把计应饥整亡压术重汀及曝了一遍,11,l,I,怼,C,无,团,11,-,m,OGX,专为,合,W,级,Al,设,计,平台,cuDNN,深度神经网络,的,GPU,加速库,园,集,成,Tenso,r,C,o,r,e,s,技术,的,Al,芯片架构,郢也,NVLink,忘谏可诧,技,术,Volta,Turing,EGX,加速边缘计算,的,平台,NVSwitch,网络交换机,IGX,T,级,边,绿,A,l,平台,Ampere,Hopper,Blackwell,NVLink-C2C,芯片到芯片裸片,到裸片的互连技术,HGX,灵活定利,的,Al,硬,件,平台,M,GX,栈块化贴的计笢平台,TensorRT,深度学习惟理引擎,NCCL,构建,多,GPU,和多节点井行应用程序通信库,NVSHMEM,为跨多,个,GPU,内存,数,匼,创,建,0,全,丛,局,即,上,衄,人,涧,亏,库,可,l,nfi,ni,Band,技术,SHARP,伎术,ASA,P,技术,SpectrumX,叶,霓,沮,吴,伟,达,的,产品,架,构,包,含以,“CP,U+GPl,巨,DPU,为,中,心,的,硬,件,产品、,以,Cl,Tl),.,为核,心,的,软,件,生,态、,以,NVIOl,入,M,-t-,.,、,YIDL,Omniw,rse,为,1:,的,平,台,和,各,个,场,杲,下,的,应,用,柜架,s,u,L,u,D,3,I,、,应,用,层,.,.JNAI,XINE,!:MO,-,-,叫,也,：,0,A,TAR,IVE,1,立,AC,!OLIS,平,台,层,NVHKAAI,NVIDIA,0,斤,se,软件,生,态,哗,J,义,亟,Magnum,1,0,DOCA,I,Base,Command,Forge,硬,件,层,蜘,萸,伟,达托悄,快,速,迭,代,的,研,发,能,力,、,供应论的,l,：,导,地,位,、,多,种,廿,销策,略,、,扁,化,的,组,织,、,多,元,投,资,合,作,支撑,游,戏、,专,业,可,视化,、,数,枢,中,心、,汽,年,四,大,业,务,发,展，,进,步,巩同,企,业在,1,市场,预,寻,地,位,四肥，心说主痴，油生过,创,造,下,一,个,工,业,革,命,，,推,动,人,类,进,入,人,工,智,能,和,图,形,计,算,的,新,纪,元,-,-,-,-,丘,计皿,）,颐计算的工作方式和计算即内功能,郎中心,推动全求的数据中心行业现代化,密,如,叩,租,吭,3,畸,釭抖,加,强,对,垂,亘,行,业,的,服务研,发,单,一,行,业,适,配,广,刮,豆,软,件,目,标,市,场如,医疗,、,自动驾驶,墅,雹雹,房,Gc,l,:,O,I,“,.,.K,I,系列旦卡,GeForce,NOW,云,访戏服务,.,1,1,屯,石,Q,1,.,dr,，,和,R,T,系,列,J,P,L,令,业,斗,卡,NV,l,D,I,乎,O,I,n,n”,ersc,上,1m,叮 沁,文,平,台,专业工作站解决方案,扂,拟,(;r,L,(,IG,P,U,),人工智能,全球人工智能基础设施的引军,凶皿历,Al,芯片,级芯片定制,父,快,1,几,、,网卡零网络,产品,舶,找,计,算,饥,及,A,l,工,厂,印家主权,I,、,电信云,边,缘计算,平,台,j,e1,5,o,n,云,计,算,业务,（,量,子,计算）,企业,、,di,a,I,E,n1,1pri,c,),机器人,推动,人,工,誓,能,机,器,人,和,T,1K,劝字化,，,主讼坎伈,鲸可供,千,Al,工业机器人训练和民,作,GP,的,U,及,其,对应调,试,、,训练用的底层软件,亡,貂烹巧,自,动,五,校,芯片,自动过校,墙,至,IJJJ,I,方案,虐,拟,工,厂,规,划,仿真设计,祀,A,l,医药,A,l,汽左,三从,两季,度,高透,迭,代创新,超高研发人员占比,酐,发,t,/1,构与叮,发,合作伙伴,J,研,发,实,迄,室,布,尽,26,大,研,发,领,域,英,伟,达专,利,墙,Al,机器入,A,l,军,工,士,会议行销,杜区营销,杜,交,媒体营销,品牌营销,呻哲悄,全过化营销,社会责任污诮,A,l,娱乐,Al+,禹,性,能,i,1,豆,A,l,交通,A,l,安全,Al,孛告,Al,电,信,i,见,函,沥珀,“,胡,萝,卜,几,次,神,”,的管理方式,大 订,单 挤,却,P,l,短缺组件供应,承,诺订单不可取,消,漏,保巨大,供,应,拽前支付预付谑占供应,人工节侔苇币英伟达,产,地,业,位,链,臼,咄始人妇,专业与踊,背景,兼,ll,极效以平化的组织架构,赋权式节,理,，不给,工,建,作,议,摒,弃会议汇报,繁卉传饮战略规划,向全体,员,工,平,吵,上,众,尸,岱玉酢,投资领,域,机器人、入工智,维,、消,戏,软仵与硬仵,、,可,视,化,、,云计算与数据,刚络,、,自,动,驾校,生,物科技,与,医疗等,初创投资项目,企,业,问,的,三级合作,伙,伴,贯,鞋,冶,询,二,、,产,品,茶,略,。,未来,钉,力,牛,态,以,CPU,、,GP,U,、,DPU,为二大,核,心,n,力,芯,片,，,英,伟,达、,英,符,尔,、,MD,及其,他,代表企,业抢占各芯片市场份额,算力芯片核心功能,代表企业,C,P,U,系统管理,维持软硬件生态,应用程序,已,AMDitI,A,RM,Qu,a,lc,o,础,G,P,U,D,P,U,规则计笋,科学计笋,数据生并行运用,噱,CUDA,的,核心,异构计第,数据中心基础设施,Dat,ace,nter,Ta,x,卸载网络、存储、安全业务,急,A,已,AMDl1,1,5,Y,S,T,念,A,中抖数控,l,l,I,I,l,1,CISCO,n,BR,O,A,-,D,C,-,O,M,.,(,:PU,丛战,之,上,，,开,创,中,前,G,PU,加速芯,片,时,代,井,将,DPU,作,为,切,=,颗,i:,力,芯,片,作,为,构,建,未,英伟,达,在,通,l,t,1,计,W,芯片,来佴力的基石和庇痊,I,逸,l,i,包,i,1,兰,牛单央处,元,理,伙牛石的岱,岱,令,序,氏,佐,4,哼益,顺,染,形,Contro1,ALUAU,AL,U,ALU,尔愤叶谔,臣,乒,二,曹,正芷处违,挚元,尝千,赵务,处,Ciche,”,花已,心,的,机部件,ORAM,口,真,AM,井行计,氏任务,DPU,C.,r,u,架,杂,度虽禹的心片,之,一,便软件和硬件躲,藕,，实现,更,禹,IPC,和更,忌频率,数据中心 智能驾驶,软件耳,于,C,P,U,构建庞大生态，,如,：,x86,架构服务,器端还,足,ARM,架,构,移动端,匡,芒,玉苠、浮部,应阵运笢，妇,5,性,能计刍虽里要的辅助计苠单元,贯,P,C,（一,颗,CP,U,),和服务器（数虽不定）,CUD,A,便,GPU,处理泵杂计笢问莲,开发者可使,用,C,语吉来编写程序，,早,降低了用户甚,千,GPU,并行编程,门,槛,分,为,一,路、双路、四路,及,上,以,服务,器,；,以双路服务器为主,对不同场杲构廷的开发库和中间件，,建,立,了,飞,P,U+CUDA:,的强大笢力,生态,预计升妇,千,数据中心,的,DPU,数呈,将达到和数据中心服厂务商数器同据等处理呈类,级,芯,英伟达、英特尔等,片,OPU/,IPU,大规模呈产，全球,D,P,U,市场将在未来几年迎来燥发式,培长,叩气益，拉芯片的症,从图芘外评到数摆处理芯片蜕变,四,飞,心,丽,型,白,第三顾主,力,”,芯片,公,众,呈-一显帷盗,违,l,基于未来,以,异,构,计钉为,i:,的订力发,屁,势,凸,和,片,上,模式,为,t,的数保中心,上,流形,态,，,英伟达陆纹通过自,研及井购形成,L,了,GP,许,C,PU,t,DPLl,的,三芯布从，实,现,为客户役,供,更加全面、晶效的计饵解决方案,元，憎计算,力勹求的重要发展趋势,、,U,、,DPU,共存的,片,上,模式,中心主流,此咚,皿硐,成,郫,战,钮,研,坏,肚,r.,kl,GPU,OPU,亡,P,U,叩的通厅算力,保诩,英伟,达,自,199,5,年推出芭,款,GP,U,以,来，不断创新发,哀,成,为图形处理行业的领导,生,共,GPUJ,葫,邈,了,从,消费级显卡到忌性能计郘妇甜扩泛应用,干,心,秅,网,唱,没,C,过过改露包和方,屯力,英伟达,在,2020,年,宣,布,陀,购,Mellano,难,，开,始,涉足数,据处理单,元,(DPU,领,),域,通过整,合,Mellan,o,啪,捻,术,和资源，英伟达在数据中心和阵各设铝员域嗨了布,局,为,DPU,市,场发,哀奠定了基础,应对各种计算任,足匹些需要快速逻,妇行处埋糙力,2021,年,4,月,，,NVID,队友,片,让鞦,代号,为,Grace,的,CPU,其专,为巨型从,1,和禹,性能计荩,工,作负,载设计,U+OPU,协同,互,补,啤到命性能与离安全性,、,逐年飞跃、一个架,构,”,全面、高效的计算觥决方案,公众,计订机产业伴随打兼行机的出现，产量结构从过去的纵向体化转变为桢向切片式这种水平分层的产业形态迈,就了计饵机产业丛礁只强惯性、凸垄断性的符征,归甥腿彗畴凹,-,约,1,980,年,销售与分销,匾庶黑书,叩,（并非按比例,展示）,约,19,9,5,年,销,售与分销,|,商家,邮购,应用软件,1,1,应用软件,罕告,店,L,超市,Word,其他,操作系统,Word,Perfect,卜,1,-,操,作,系,统,计笢机,DOS,及,Wi,n,do,邓,0S/2,Mac,UN,I,X,芯片,1,1,计算机,畦,戴尔,恚菩,Packard,B,ell,IB,M,其他,IBM,DEC,芯片,英特尔架构,库托罗拉,S,p,erry,Uni,v,at,e,王安公司,玛简指令栠,计第机,化会带来上层豆复工,的大幅增加,哥史件瓦度统一的强,诉求,件强惯性、宽垄断,无法发生,英,伟,达通,过,对,计,W,机产品的,讥,新,定,义,、,计订,机,形,态,的,演,化兑,旧,及,以,渐,进,式,改边,，,还,步,朔,泊,计,n,机,形,态向,利,于,自,身的计开机演化方向,18,个月,正,新,一,代,CPU,的,笨,略,下,不显,6,个,月,发,布,一,次,新,品，,苠,力,性,缸始,GPU,作,为一,个,单独的品,类存,活,摩尔定饰,甄嘘上可勃的晶闲,巨数,目,，每隔,18,砬,砱,月,会增,加玉,，,性升旧,，而价格下降为原来的一半,帛三队两罕度的创新研览告代役式,即三个开行开发团队专汪于独立的分阶段产品开发，确,保,公司每孙,月,推,出,一,次新产品，与行业,市,场,吁,颉,围 保持一,致,，,并,领先,市,场,1-2,个研,蕊,动诮,1,0,1,0,1,0,I,O,1,0,1,0,1,0,G,PU-Comp,utin,g,p,erf,2,X,户,汀,year,1000X,I,n,10.,.,.,1.1,X,p,e,r,ye,r,1,0,1.,5X,p,erf,per,y,e,ar,Sin.9l,ethreoded,CPU,perf,19801990,20002,0,10,2,0,20,2,0,3,0,苞推别钮坠粒,认,CPt1,上,取,代,英,特,尔,，,而,足,将,其,为,叽,给部,芯,还,包,t,苠机系,蜕,邸,亥乱纯,;,p,t,才,GPU,的形态,的,难题,CPU,嘈,其,代,逐步玉,令,CPU+,GPU,对,复,特,尔来,说,，,无,论,选,择,职,种方工,比,2,石贯养达设定的栏架内,克,亨,如果英特尔选择只做,CPU,它,必,须,接,受,CPU,加,GPU,的体系也陀,悍供,改进；,GPU,如果,怓,GPU,将耳,接与,英伟达克争，可能导致,G,P,U,在,体系中的至,要性,逐渐超过,CPU.,忌终,，,大,家都,专,注,GPU,间器,薪变成了谁,的,GP,U,更强,岔,令,并,车星父了量,岱的立争,，,而,昆,关,于,利用,CPU,的竞,.,帖在巨入,侵课,泗上，把这个产业带到只有我们能,楹,的,地,h,-,20,(),9,年黄仁,勋,采访,窖，画硐,一,出,30,图,形加,速,迼,入,顽,，配,l,移,部,珈,牢,竺,咖,泊机的形态,度匹妇畛,亟,在数据中心市场，拴动在限务器中加入少呈显卡，从,仅便,用,CPU,转,变,为,结,合,GPU09,形态,随吾显卡数呈常加，权至增大，加入技术和符性，服,务,器,转,变,为,CPU,必怨,车,今,GPU,的形态,元服器,的,标准酐,舌,i,即,书,是,2,访,切,揉,和,8,个,GPU,彷关尔挤到相对边经的位否,王,曰,.,.,.,“,u,二,M,0,1,寰臧,心,，,”“,忙,”,心,.,社仕达,通,i.,l,份汛,软,f,于,l,上,、,田,什发,肴,、,发,Il,l,场景,塑觅,占,柯,干,n,，,时计,算,但演,化,方向,英伟,达友,布,202fl-20,27,年产,品戍,划,，,Al,芯,片,规,划,的,战,略,校,心,是,“One,.,rchite,c,ture,统,架构,，,Al,芯片,从,两年,次,的,更新,周,期,转,变,为,年,次,的,更,新,周期，,下,ft,Rubin,荣,构,及,其,对应,核,心,芯片,已,捉,上,日,程,旷,well,架构,in,架构,GPU,C,P,U,NVUNK,N,I,C,SWITCH,日,Hopper,GPU,6SHBM3,函,h,c,1,1,志,王,t,c,c,.,I,s,w,k,n,L,0,占,S,V,9,N,Quantum-X400,lnfiniban,d,Switch,m,u,e,p,二,口,G,r,e,p,s,p,0,6,H,Grace,CPU,BF3,SuperNIC,国,Blackwell,CPU,8S,HBM3e,H,cc,口,W,i,e,B,s,5,G,K,O,N,O,1,8,L,1,v,N,CXB,SuperNIC,圈,S,沁,rum-,X,800,Ethernet,Sw,九,ch,Blackwell,UltraCPU,8SHBM3e12H,Quantum,-,X800,S,沁,t,um,U,l,tra,X600,Switch,Ethernet,Switc,h,512,-,Radix,L,u,4,云,巳,8,u,R,Vera,CPU,E,CX9,SuperNIC,16,e,c,贮,Rubi,n,Ultr,a,GPU,12S,HBM4,NVLink,6,switch,3600GB/sec,X1600,IS/Ethernet,Switch,，,2022,2023,数据中心规涅,2024,p,交,2025,忮才限礼,2.K,I,)U,：,美,伟,达,自,研,(,mrace,(,:,PU,，,在,RM,荣,构和,自,9,技,术,优势从,陆,上,涡,足数据中,心,业,务,对,干,(,:PU,的性,能,需,求,尺,比如,.,还,P,吐,叫,性,l,.,口景,市,场,控,术,需,求,自,身技,术,优势,传统,的,CPU,架构难以满足凡及冯性能计至对计至能力,秅求,NVIDIA,公司凭借其在图形处理和并行计,豆,刃,方,技,面,术,优势，,推,出,GraceCPU,芦,:Gta,c,e,CPU,量虐应,，面向服,务,器和数据,中,心生态系,统,，可采用多种配,君满足不同数据中心的窑求,艘蔼,性,睛与四,采用,ARM,架沟，拥,有,72,个,Arm,Neoverse,N,2,内,核,，,配备,lP,DD,RSx,内,存,，奥有超强的性能和效率,双庭懊隋羹效,可与,GP,U,紧密结合以,增强加速计笛能力,，也可作为强大而,忘效,的,独,立,CPU,进行部否,翌,Gr,缸,e,Sup e,r,ch,ip,两,个,GraceCPU,共,1”,个内核,Grac,e,H,叩,p,e,r,Superchip,72,核,GraceCPU,HopperH200,GPU,心,采用,Arm,V,系列廷础架构,，,CPU,内核中的虽新产品,一,Arm,距,overse,V2,CPU,架构，经过优化后捏供领先的每线程性能,能效,更禹,昙,实现,了,两个单指令多数,据,(,SIMD),向,彰,首令,矣,，可加速机器学习、县因组学和密码学等关,键,HPC,应用程序。,子揉作,Grace,CPU,在,Arm,v8.1,中芭次引入的大型系统扩,展,(LSE),提供,低成本的原子操作，提禹,CP,U,到,CP,U,通信,锁和互斥锁的系统是,由,NVIDIA,设计,的,可扩展一致性结,(,SCF),是一种,网,状结构和分布,式缓存架构，提供超,过,3.2TB/s,的总二分带宽,Grace,C,DDRSX,P,U,Superchip,使用,禹,达,960GB,的,服务器、级低功耗,(,LPODRS,X,),内存和,ECC,实现带宽、能双容虽和成本,的昆佳平衡,Grace,CPU,Superchip,支持,128,条,PCle,Gen,5,通逄,和,128GB/s,的,形状,介,早,l!aJ,岫,次,连接,双向带宽，可分,为,2x8,个,以,足供,额,9,顷,旌,接,，并支持各,种,PCle,插棺,英,伟,达,H,前,(,i,r,a,c,e,(,：,-,P,U,怍俯,表现出色，专为,矗怍能计,n,及,数,斟,中,心,打,迅,，,并,将,在,2,位,6,年,推,出,下,1,r,e,ra,(,：,P,U,计,划,于,未,米,几,年,推,出,悄,贷行,级,别,的,CPLl,产品,a,.,0,u,性,P,c,适用于两性能,廿,互,(,HPC),和,云,计,瓦,设沪,昼多配,备,1”,个,为,mv9,CPU,刁,系,，,云,一,氐,LPDOR5x,竺的,冲接口,900,GB/s,相,比,PCle,Gon,5,快,7,倍,忠,是,OIMM,解,决方案的两倍,过俘的,，,瓦,当前幸,CP,U,的,两倍,i,轩,丰击,，#.,汒,干，多位,沔岱,仆,4“,印,七,r,7995WX(96,Core/,5.1,G,H,z),NVIDIA,G,ace,:T2,C,o,e,/,3,.,35,G,H,z),Xeon,W9-3495X(56Co,e,/,5,.3,G,Hz,L,N2,),仆,.,ad,ri,pp,5995WX(64,Core/,4,3,GH,z,),Thr,e,心,d,ppe,3990X(64,Co,o,/,4,.,1,G,Hz),Ryzen,97950)(16,Core,/Stock),Core,;,9,-,13900k(16Cote/,St”,幻,裹,的,性,司运行所有,NVIDIA,欢仁,迳往和平台,。,8,1,A,千,7,4.,4,千,72.,6,干,4,8,.,0,千,3,4,.7,干,2,4,.5,千,23.0,千,2000040000,60000,80000,1,00000,义,芯片互连,技术,指,令,栠,架构,核,心,数,虽,和,线程数呈,更,多的核心,数,虽,和线程,数,呈,核心,数,呈,和线程数呈相对较少,线存架构,Ar,m,指,令,栠,架构,Gr,釭,e,CR,丿架构,1tef,CP,U,耍徇,采,用,了,N,V,IDI,A,独,特,的,N,VLi,n,k-C,2,C,互连技,术,（,飞,大,区,别,）,分布式缓存设计,x,86,指,令,栠,架构,层,次式,缓,存,设,计,内,存,子,系,统,低,功,耗的,LP,DD,RS,X,内,存,通,常采,用,DDR4,或,DDRS,内,存,年,肃,度,将,CP,U,、,GP,U,和,其他 组,件,栠,成,在,一,个芯片上,通,常霖,要,亏,其,他,芯,片,配,合使,用,仇鳍,英伟,达,在,异,构,计,茛领域,的,进,一,步拓展,在商性簇,籵,茛和服务器市场迈出的至,要,一,步,为,Al,工,厂,等,新,型,数据中心提供强大,的,计,笋,支,持,堕,沮,惑,j,睬,计铎领,域,：,构,建再性,能计,饵系,统，为科,学,研,究,和工,程,的,计,苠,支,持,人,工,智能,领,域,：,与,NV,ID,I,A,的,G,P,U,相,结,合,，,为,训,练,和,推理任,务,提,供,禹,效,的,计,笛,平,台,E,忌哉,歧,l,Ve,r,a,C,P,U,消费,者,级,别,CP,U,与，足茫,的,，,r,m,数悦中心,VIDT.,Grac,e,C,P,U,软件生态系绕,将,J,f,l,于,(,-,:,P,U,、,G,P,U,和,I)P,U,的,全纭,N,V,I,O,l,(,软件,生态系统相结合,囡,盖闹,;,f.il;)J,沮,“,口,NVFO,壳,TIIAN,I,心,c,于,仁,1,l,C,U8_j,亡,归,UST,严户云,石,-,“,7,严,可,颈吩酐,-j,H,PCX,乓孟可二,A,等,库,K,D,s,郎,工,g,g,g,N,瀑瘦孛习,cuOF,cuxltl.,“Sp,斗,cuS1,心,9,1,cuG,R,阳,cuML,cuB,屯,斗,I_,cuTENOSR,CU,中,（,uAAND,芷定泛巳头,，,m,四,位,1,m,RT,-,川,-,，趴,斗占,尸勹,行,0,“,厂,汹 姿 站,弓,竺,k,节,i,，,也习,匹,岱飞田,IUl,i1I,盲,cuSOLV,L,cuSP,衄,SE,_,CUDA,Klfflttm,仑,“,ATHA,门,如,CPU,.,O,.,.,正,.,.,叭,.,：,.,P,U,心,J,中,一蛇酝,兰于,二,己,臣,CPU,符合,Arm,服务,器,基础系,统,架构,(SBSA,),以,砍,卸,9,硬件和软件接口,支持,Arm,服务器基本引导,要求,(SBBR),，,以,支 待基于,Gra,ce,CPU,的,系,统,上启用标准,引,导,流,程,叩立年,NVIDIA,HPC,SDK,和,每个,CUDA,组,件,都,有,Arm,原生安装程序和,容,器,所,有,主,要的,Linux,发,行,版,都,可,在,NVIDIA Grace,CPU,上完,美,运,行,无,霖,修改,编,译器、库工,具,、,分,析,器,、,系,统,笸理,实,用,程,序,以,及用于容,器,化和恁拟化的,框,架,可轻松地,在,NVIDIA,Grace,CPU,上安装和使用,NVIDIA,GPU,Cloud,(NGC),还提供深度学,习,坠,气,飞,岱,穹,烟,雁,璧,：,迤,2,.,2GPU,:,GPl,飞,要包,栝,核,心,、,从,f,、,流,处,珂,器,守,部,件,，,单,核,心,数,坎运,晶,千,(:PU,，,因,此,儿,付,忙,i,效的,井,行处咒,能,力,，,在处珂沁址数据及加速计开时休现出蚀符架构优势,GPU,嗯,盼,上理,单殉,是,一,种 专门设计用乔衬亘外一图像和槐肪,击,仑的电,脑,硬件它足现代计算机系统中的关键组件，特别杲在处理图形空集型任务时,-,畛,J,网格,核立,记存,-,M,刀）,点,处,理,器,冬.,.,”,“,l,I,码器,，心,光扫化单元,忙千，,斗,皿笠,勹笠尸,图像的顽,函,和,沁,波,，,迈,扜,生,嘘,酌,泗,一,勹,的核心,，,但和借诵常远多于,CP,U,1,形和计互,GPU,开行处,理,穹,n,力的苔础，使其,踪,侈同时处,理,大呈,任务,G,P,U,臭有自己的专用,显,存,，,通常,为,300,R,（图,形双倍数后速军,）,类型显存用于存储图形和视,凌,数,，,其,启,禹,速度和大帝宽,向,生,对千禹效图形外,理至关茧,要,迎,是,GPU,内,嵌,削,呾,处慰,玩