1、AIPC产业(中国)白皮书l回联想AI PC 产业(中国)白皮书1目录Table of Contents序言2第一章 AI PC 的历史使命:AI 普惠首选终端41.1 个人大模型的特征和普惠要求.51.2 PC 承载个人大模型的四大优势.6第二章 AI PC 的未来定义:个人 AI 助理102.1 AI PC 的用户价值.102.2 AI PC 的核心特征.15第三章 AI PC 的产业生态:以人为本、终端主导、AI 原生233.1 用户:生态话语权显著提升.243.2 终端厂商:进阶为生态组织者.273.3 AI 技术厂商:发展混合人工智能技术和服务.293.4 应用厂商:AI 应用生态崛
2、起.313.5 算力厂商:普惠混合 AI 算力.35第四章 AI PC 市场预测:2024 成为 AI PC 元年,加速 PC 升级394.1 中国 AI PC 的进化旅程.394.2 中国 AI PC 终端预测.404.3 中国 AI 平板电脑及边缘主机市场预测.494.4 中国 AI PC 生态参与者发展预测.504.5 中国 AI PC 投资价值预测.51结语52AI PC 产业(中国)白皮书2序言PC(个人电脑)近几十年的发展历史中,经历了多次大升级。从大型机时代到个人电脑的普及,再到互联网时代的爆发和如今的智能化浪潮,每一个时代都为 PC 产业注入了新的活力,使之成为每一个时代创新技
3、术普惠的第一终端。上世纪 70 年代,大规模集成电路和新型 CPU 架构的引入,计算机逐渐迈向小型化,成本也随之大幅下降。紧接着,80 年代初苹果公司率先推出了全球首台图形界面计算机,随后 Windows 操作系统面世,图形化的展现和交互方式大大降低了普通人使用计算机的门槛。在中国,包括联想在内的众多终端公司相继成立,快速推出个人电脑产品,迅速形成个人电脑产业链,也正式宣布人类进入个人电脑(PC)时代。1992 年,联想在国内第一个推出家用电脑的概念,并于 1996 年又第一个推出“万元奔腾电脑普及风暴”,个人电脑正式走入千家万户,实现了计算和应用技术的普惠。世纪之交,PC 迎来网络化和移动化
4、技术突破所带来的第二次变革。互联网技术的爆发推动 PC 从独立的工具转变为连接世界的纽带,让传统的计算机能够通过互联网实现信息的快速传递和共享,把中国个人电脑的发展推向了一个新的高峰。1999 年联想率先推出“天禧”因特网电脑,具有 一键上网 功能,实现了中国家用电脑的亲密“触”网。同时,随着高性能处理器进一步微型化,个人电脑(PC)朝着更轻便、更便携的方向发展,笔记本电脑的普及使得计算机成为人人拥有的必需品。可以看到,PC(个人电脑)的每一次重大产品升级,背后都伴随重大技术创新。而每一次重大的技术创新,PC 都成为最佳的技术普惠载体,AI PC 产业(中国)白皮书3在技术普惠的道路上承担起先
5、锋角色。其中,PC 终端厂商从用户体验角度出发,将各类创新技术有效整合、创新产品、规模化交付,进一步加速普及进程。2022 年以来,以大模型为主的生成式 AI 技术取得重大突破并快速发展,大模型展现出令人惊叹的智能涌现能力,表现出更为强大的创造性和通用场景适用性。首先取得重大突破的公共大模型,从人类社会大量的公共数据中学习,进而生成高质量的文本、图像、声音、视频等内容,为多领域的智能创新提供了巨大潜力。然而,出于数据安全和隐私保护的考虑,以及更高效率、更低成本响应用户需求的考虑,人们既希望获得公共大模型强大的通用服务,又希望 AI 能够真正理解自己、提供专属个人的服务,并且能够充分保障个人数据
6、和隐私安全。为此,公共大模型和个人大模型混合部署、满足用户需求正愈加成为产业共识,混合人工智能日益成为未来 AI 更好、跟专属地服务于每一个人的发展趋势。通过云端的公共大模型和本地大模型之间的混合,可以让每一个人都拥有自己的个人大模型,实现 AI 真正惠及到每一个人。这样的混合人工智能,对承载本地大模型的终端的交互能力、智能算力、应用场景、安全保护等方面都提出更高要求。在历史的召唤下,PC 再一次成为 AI 普惠的首选终端,将承担起为用户带来划时代全新 AI 体验的历史使命,使 PC 再一次焕发新的活力,使 AI 真正成为每个人的专属助理(Personal AITwin)。本白皮书旨在探讨 A
7、I 与 PC 结合的历史必然性,以及新一代 PC AIPC的基本定义、价值及产品特征,以及对 AI 及 PC 产业生态带来的改变,并对未来的市场发展做出概要性预测,为 AI PC 加速发展、产业生态共创升级提供框架性指导。第一章 AI PC 的历史使命:AI 普惠首选终端图 1PC 与 AI 大模型的天然匹配人工智能的需求正在爆发,大模型开启了普惠于人的路程。用户不仅需要公共的大模型服务,更需要的是专属自己的个人大模型。个人大模型将依托混合人工智能的方式,逐步实现普惠。我们看到,个人大模型的普惠要求和 PC 的承载优势完美契合,显示着 PC 将再一次承载技术普惠的历史使命,成为 AI 普惠的首
8、选终端。具备全模态人机自然交互条件压缩后依然具备通用场景服务能力个人大模型需要强 AI 算力进行推理存储容量最大、最受信赖的安全终端需要基于个人数据和隐私信息进行微调和个性化服务承载最多场景的个人通用设备能进行多模态自然语言交互最强的个人计算平台PC来源:IDC,20234AI PC 产业(中国)白皮书51.1 个人大模型的特征和普惠要求大模型的计算负载不断从云端向终端下沉,公共大模型和本地大模型混合利用,组合形成个人大模型。个人大模型既要继承公共大模型强大的能力,又要能够为个人所有、提供个性化专属服务,从而满足用户多方面的需要。能够进行多模态自然语言交互大模型已经在内容生成方面体现了突出的优
9、势,大模型具备卓越的语言理解、上下文感知、生成性语言、处理多模态数据等能力,这使得大模型能够准确理解用户输入,保持上下文对话的连贯性,生成自然且富有表达力的文本,实现自然交互,为用户提供更智能、个性化、更自然的交互体验。这种交互体验要得到大规模落地和广泛普惠,必须依赖于多模态交互的设备和软硬件联合优化,这包括文字输入、语音输入、身体语言、触控、键鼠等。这样,才能充分发挥大模型自然语言交互的优势,以友好、直观的方式降低用户使用门槛,让每个用户都能够轻松上手,自然地与 AI 互动。压缩之后依然具备通用场景服务能力个人大模型需要具备强大的 AI 能力,满足用户日益增长的 AI 需求和任务复杂度。这需
10、要本地、公共大模型互为补充、各有所为。模型终端化的关键是将大模型压缩到适合终端的规模,以便实现本地推理和实时响应。为此,模型蒸馏、压缩等技术变得至关重要。模型蒸馏通过训练“教师”网络监督“学生”网络进行学习;模型压缩则是通过剪裁、量化等方法对模型进行压缩。这些技术可以减小模型的尺寸和复杂度,同时保留其核心能力,而不会显著牺牲其 AI 能力。在保证模型性能的同时,大模型可以在资源有限的设备上运行,再辅以云端强大 AI 能力的支持,个人大模型的通用场景服务能力才能得以保证。AI PC 产业(中国)白皮书6需要强 AI 算力进行推理对于个人大模型的普及应用而言,终端侧算力支持是关键。即便本地大模型经
11、过了压缩从而降低了其算力需求,但仍然需要强大的本地算力支撑。在通用的算力平台上,CPU 为主的算力结构,难以满足 AI 神经网络的并行计算负载的要求,也不具备经济性。随着用户使用 AI 应用的频次提高,对个人大模型的依赖程度越来越大,本地推理类 AI 任务的总量也将迅速提升。这要求端侧计算架构的升级和 AI 算力的同步提升。需要基于个人数据和隐私信息进行微调和个性化服务个人大模型的普及,必然带来用户对大模型的专属化需求的提高。而云端公共大模型无法满足用户千人千面的需求,专属化的成本也相当高昂。因此,个人大模型将需要用户根据自己的数据和业务需求,在一定程度上进行自主微调,以适应特定的应用场景,提
12、供相对个性化的服务。无论是企业客户还是个人客户,数据安全和隐私问题都是重中之重。个人大模型还必须消除用户对数据安全和隐私保护的担忧。基于本地的知识库与以本地为主的推理是极致安全的保障。AIAI 与 PC 的结合将实现人人 都有 拥有专 属的 个人大模型,拥有更个性化、实时的服务,这将带来AI 技术的真正普惠。1.2 PC 承载个人大模型的四大优势个人终端设备包括 PC、平板、手机、TV、汽车、可穿戴设备等丰富形态,但要完成个人大模型的普惠,需要能够同时满足个人大模型普及的各项要求。个人电脑(PC)具有强大的计算和存储能力,丰富的交互方式以及广泛的应用场景,使其成为适合承载大模型的理想平台。AI
13、 PC 产业(中国)白皮书PC 具备全模态的人机自然交互条件个人电脑(PC)是拥有最多样化交互方式的终端设备,既包括相对直接的触控交互、语音交互、手势控制等,又具备更加专业复杂的键鼠交互、数字笔交互等,这种多元化的交互方式使得个人电脑在承载创新的人工智能(AI)交付方式方面具有巨大潜力。通过触控、语音和手势等自然交互方式,个人电脑能够更直观地与用户进行沟通,提供更符合人类习惯和期望的使用体验。这种直观性为个人大模型创造了更为广泛的应用场景,使得用户能够更轻松地与个人大模型进行互动和合作,也使得 AI 更好地适应用户的需求,更灵活的提供服务。与此同时,传统的键鼠交互和数字笔交互为用户提供了更为精
14、准和专业的操控手段。这对于 AI 在专业性的任务,如图形设计、编程等领域发挥作用,创造了更为理想的环境。个人电脑作为高精确度的交互平台,使得个人大模型能够准确接收和处理高度复杂的用户任务。个人电脑作为一个多功能、多交互方式的平台,不仅丰富了用户的综合交互体验,同时也为创新的 AI 应用场景开辟了更为广泛的可能性。PC 与 AI 大模型结合,推动着人机交互领域的不断进步。PC 是承载最多场景的个人通用设备个人电脑(PC)作为一种通用生产力平台,既能够承载以消费内容为主的生活娱乐场景,且具有更优质的体验感,也能够承载以创作内容为主的工作、学习等场景,且具备显著优势。7AI PC 产业(中国)白皮书
15、8在内容消费的场景中,PC 和手机各具特点。这取决于用户的需求、使用场景和个人偏好。相对其他终端,PC 具有大屏幕和更高分辨率、多任务处理、键鼠交互、大容量存储等优势。这让 PC 在移动互联网内容消费时代依然扮演着不可或缺的重要角色。在内容创作的场景中,PC 具有最广泛的应用场景,可以承担远程会议、图形设计、编程开发、多媒体制作等多项任务。PC 具有更多的专业工具的支持,如图像处理软件、视频编辑工具、音频编辑软件等,这些软件通常在 PC 平台上具备更多功能和高级选项,为专业创作者提供更丰富的工作环境。大模型具备强大的通用 AI 能力,能够完成文档创作、图像创作等多种任务,大模型的引入使 PC
16、作为“最全场景个人通用设备”的属性进一步强化,相对优势进一步拉大。从而实现内容消费体验和内容创作效率的全面提升,工作、学习和生活的全场景覆盖。PC 是迄今为止最强的个人计算平台PC 自诞生以来始终代表了个人计算平台的能力巅峰,PC 的通用计算能力强劲,并得到长期优化,在性能、成本、体验方面达到最佳配置,是个人计算设备中拥有最强性能的通用计算平台,兼具强算力与便携性的平衡。PC 相对于手机、可穿戴设备等其他终端,是当之无愧的算力之王,这使其成为 AI 模型实时推理和高性能计算的理想平台,也将抢先具有“智能涌现”的能力。在 AI 时代,异构算力(CPU 中央处理单元+NPU 神经网络处理单元+GP
17、U 图形处理单元)协同运用,为 PC 提供了强劲的并行计算能力。异构混合计算利用不同类型指令集和体系架构的计算单元组成本地计算系统,对于不同的 AI工作负载匹配最合适的计算单元。并行算力的飞跃使得 PC 能够轻松执行复杂的 AI 模型推理任务,从而展现出更高级的智能能力。随着终端侧 AI 芯片计算能力和能效的提升,算法和存储方案的优化,终端侧能够部署的 AI 模型参数规模越来越大,持续进阶。AI PC 产业(中国)白皮书PC 是存储容量最大、最受信赖的安全终端随着用户使用 AI 应用的频次大大提高,个人交互数据量快速增加,个人数据安全和隐私保护的重要性日益凸显。首先,AI 模型在推理阶段,需要
18、用户输入具体任务和提示词。其次,AI 应用中一般也将涉及到终端本地数据被模型读取和调用,从而能够让 AI 更好地理解环境,理解上下文,吸收实时数据,从而产出更准确、更个性化的答案。第三,AI 生成的内容,其数据量也十分可观。这些将带来私人领域数据的迅猛增长。PC 通过拥有大容量的本地安全存储解决了这一挑战。用户在本地终端设备上进行数据分析、模型推理和计算,个人数据不再需要存储在云端或远程服务器上,可以安全地保留在用户的设备上。这样,个人数据的控制权就在用户手中,不仅提高了数据的安全性,还使得用户对个人数据的控制更加直观。通过采用安全的硬件模块和数据加密技术,PC 能为用户提供更为可靠的数据隐私
19、保护。总之,大模型多模态自然语言交互、多场景内容创作和生成能力,强 AI 算力依赖、频繁的个人数据输入输出的属性,都与交互模态丰富、全场景承载能力、具备本地超强算力和本地安全强大存储的 PC 具有很强的匹配性。AI 个人大模型与 PC 结合,是一次天然般配。PC 最有可能成为 AI 普惠的首选终端,与此同时,AI 也将成为 PC 开启第三次大升级的关键技术驱动力。AI 与 PC 的结合,将形成算力平台+个人大模型+AI 应用的新型混合体,即:AI PC,将 AI 的能力真正惠及每一个人。9第二章 AI PC 的未来定义:个人 AI 助理PC 长久以来都是人们最重要的生产力工具和内容消费的计算与
20、交互平台。AIPC 不仅承担原有的生产力工具和内容消费载体的职能,更在硬件上集成了混合 AI 算力单元,且能够本地运行“个人大模型”、创建个性化的本地知识库,实现自然语言交互,这将深刻颠覆传统 PC 的定义。AI PC 是为每个人量身定制的个人 AI 助理,不仅提高生产效率,简化工作流程,而且更好的掌握用户的喜好,保护个人隐私数据安全。仿佛是用户的数字化拓展,如同用户的智能双胞胎。图 2AI PC 的用户价值来源:IDC,20232.1AI PC 的用户价值AI PC 能够为用户提供通用场景下的个性化服务,提供即时、可靠的服务响应,更低的大模型使用成本以及可信、安全的个人数据和隐私保障。通用场
21、景下个性化服务更低的大模型使用成本即时、可靠的服务相应可信、安全的个人数据和隐私保障10AI PC 产业(中国)白皮书11图 3通用场景下的个性化服务来源:IDC,2023提供通用场景下的个性化服务AI PC 能够针对工作、学习、生活等场景,提供个性化创作服务、私人秘书服务、设备管家服务在内的个性化服务。基于终端厂商的定制化设计,场景化的功能预设以及对用户需求的不断探索,在一个丰富的模型和应用生态支持之下,AIPC 所具备的个性创作、秘书服务以及设备管家等能力,能够在工作、学习和生活娱乐等场景中分别体现出多样的独特价值。工作 会议材料准备 会议总结和纪要 专业 PPT/Word/Excel.个
22、人日程表 同声传译.主动调优 专业模式.工作:打造智能工作新常态个性化创作服务助力工作效率提升AI 大模型在工作领域已经有了相对广泛的应用,在效率提升方面已经展现出了极强的能力和潜力,能够帮助用户快速生成特定主题的文档,例如起草会议通知、会议材料准备、会议记录和纪要、邮件起草和专业文件创作等。AI PC 具备更加个性化创作的能力,能够有效的解决当前公共模型在专业文档制作中的问题。AI PC 能够更准确的理解用户的创作意图,掌握用户的历史创作习惯及个人风格,并通过调用多种模型和应用、互联网公共资源等方式共同完成任务创作。学习 AI 课堂笔记和记录 文献翻译和总结.个人课程表 选课和提醒.智能防护
23、 学习模式.生活 游戏攻略 AI 游记.AI 旅行计划 AI 实时游戏指导.智能互联 游戏模式.秘书服务设备管家个性创作AI PC 产业(中国)白皮书12私人秘书服务提供专属高效体验通过对个人和企业私域信息的调用,AI PC 能够智能生成个人日程表,自主推荐会议时间,生成会议邀请并预定会议室。在会议中可以进行实时同声传译,会议结束后,也能够基于讨论总结主题、未决事项,并生成会议纪要,提供秘书般的贴心体验。设备管家服务为工作提供安稳保障AI PC 能够针对不同的工作场景主动进行设备调优,无论用户处于会议、视频创作、移动办公还是其他场景,AI PC 都能够根据当前的设备使用状态、用户的使用习惯智能
24、调配性能与算力,为用户带来最佳的设备使用体验。同时在软件、系统和设备升级方面,AI PC 也能够主动给出建议,智能推荐用户下载更为适合的软件来完成相应的任务。学习:带来智能学习新体验个性化创作服务为学生提供智能学习体验在课堂等学习场景中,AI PC 能够基于课堂内容生成笔记,并提炼课程要点,能够不断优化笔记的质量和呈现方式,使其符合学生的个人专属需求和习惯。在练习中,AI PC 能够为学生提供跨学科的知识讲解、对话练习与内容拓展。通过分析学生的学习进度和错题情况,AI PC 也能够帮助学生有针对性地练习疑难点和易错点,加深对知识点的掌握程度。不止对于学生,AI PC 同样能够为老师提供效率和创
25、作方面的帮助,帮助老师更高效的生成个性化的教辅材料和备课材料等。私人秘书服务提供专属学伴与专属家教体验对学生来说,AI PC 能够成为专属学伴,适时提醒学生参加并完成各项课业活动,帮助学生监控各项任务的完成进度,协助他安排好自己的学习与娱乐生活。针对家长群体,AI PC 能够帮助他们更好地管理子女的教育日程,帮助家长自动记录和整理孩子的校内外活动安排,及时智能提醒。AI PC 产业(中国)白皮书13设备管家服务提供更安全的学习设备管理方案设备管家服务能够让 AI PC 的设备管理更为智能、安全和便捷。根据学生的学习计划、学习状态进行应用管理与设备模式切换,保障学生在安全无忧的设备环境下高效学习
26、。生活:提升生活娱乐全体验个性化创作服务全面提升娱乐体验游戏中,AI PC 也可以成为玩家专属的“电竞教练”,个性化创作服务能够为用户提供专属的游戏攻略,帮助玩家进行比赛分析、对局复盘,提供专业的游戏技巧指导。出行中,AI PC 也能够根据用户心仪的航班、酒店、路线、餐厅等制定个性化的出行计划。私人秘书服务带来家庭智能管理体验AI PC 将成为整个家庭的 AI 管家。通过 AI 家庭主机、家庭内各类 AI 终端和公共大模型的协同配合,根据每个家庭的需求与特点,成为家庭专属的生活秘书,为每个家庭成员进行日程规划与管理。设备管家服务提升生活全场景体验在日常生活中,用户能够通过自然语言和设备管家进行
27、交互,实现智能控制屏幕亮度,关闭摄像头,特定快捷功能,清除缓存,清除垃圾,杀毒,调整散热方式等操作。设备管家还能够主动感知环境变化,智能调整设备。AI PC 也能够支持家庭打造更智能的家居生态,通过与家庭主机配合,根据家庭成员的习惯对空调、灯光、热水器等终端进行智能管理,确保家居环境的温馨与舒适。提供即时、可靠的服务响应生成式 AI 带来了很多关于极致效率的想象空间,但是在实际的使用中,云端的公共大模型较为缓慢的响应和反馈速度又影响了很多用户的实际体验。在2023 年 IDC 实施的针对用户 AIGC 平台使用体验的调研中,“响应速度慢”“反AI PC 产业(中国)白皮书14馈时间长”是用户主
28、要的负面反馈。AI PC 以本地推理为主,边缘和云端推理为辅,能够在混合算力、混合模型之间智能、合理的调配任务,有效缩减响应时间。由于本地化的大模型能力,离线状态下的可操作性成为 AI PC 不可忽视的优势。AI PC 在没有互联网连接的情况下依然能够发挥作用,在任何时间、任何地点都能为用户进行创造性的工作,让用户不再受制于网络条件的约束。除了避免了网络依赖以外,本地大模型通常与本地的知识和数据有更便捷的集成和充分的利用,能够有效避免“幻觉”的产生。且能够针对用户风格喜好,精准生成符合用户需求的作品。这种准确、可靠的服务是 AI PC 所特有的优势。更低的大模型使用成本随着生成式 AI 使用频
29、次的提升,完全依靠云端将面临着线性的成本提升。而AI PC 以本地推理为主,云端公共推理为辅,用户一次性购买 AI PC 后即可享受全生命周期的本地免费推理服务,再加上有限的云端订阅,可显著降低个人用户使用 AI 大模型服务的成本。AI PC 终端厂商也能够通过紧密的生态合作,一站式解决用户的需求,为用户提供具有竞争力的综合服务价格。除此之外,用户还节省了额外的带宽成本。不仅用户可以享受到 AI PC 的红利,对于应用厂商也是如此。将一些处理从云端转移到终端,可以大大减轻云基础设施的压力并减少运营开支。独立应用开发商和应用开发者也将依托 AI PC 更经济、高效地探索和打造应用。可信、安全的个
30、人数据和隐私保障AI PC 的个性化本地知识库作为安全的基础保障,有专门用于存储用户特定类型文件与数据的安全空间,确保个人用户与企业用户的隐私与涉密信息能在本地实现安全隔离,仅在受信任的环境下才可以被调用。AI PC 产业(中国)白皮书15同时隐私数据的本地推理机制避免了敏感信息在远程服务器上的处理。AI PC本身可以通过个人智能体有效甄别和管理用户隐私数据,并通过本地化的模型与充足的 AI 算力在本地完成大部分数据的处理与模型运算,仅有不涉及用户隐私的公共请求才需调用云端的服务。设备管家服务也可以提供额外保险,通过对设备情况的实时监控以及用户行为的学习,设备管家能够提前识别用户的风险行为,并
31、进行主动干预与防护。通过与第三方应用的合作,AI PC 还能够不断强化对风险行为的识别与风险内容的拦截,为用户带来极致的安全体验。图 4AI PC 核心特征来源:IDC,20232.2AI PC 的核心特征为了实现上述用户价值,AI PC 将不仅是硬件设备,而是一个包含 AI 模型和应用以及硬件设备的混合体。AI PC 产品拥有本地部署的大模型与个性化本地知识库组合构成的个人大模型,第一交互入口为个人智能体,可实现自然语言交互,AI PC 将通过内嵌 AI 计算单元的方式提供混合 AI 算力,还可以依靠开放生态来满足不同场景的需求。在满足生产力提升的同时,通过本地数据存储和隐私及数据保护协议来
32、保护个人隐私和数据安全。自然语言交互的个人智能体 多模态自然语言交互 UI 基于本地大模型的个人智能体内嵌个人大模型 本地为主,边缘与云为辅的大模型 个性化本地知识库标配本地混合 AI 算力 CPU&NPU&GPU 本地混合计算架构 个人终端和家庭主机/企业边缘主机协同计算开放的 AI 应用生态 AI 原生应用、AI 赋能应用 能够被智能体任务调度、适配混合 AI 算力平台等设备级个人数据&隐私安全保护 本地隐私推理&非敏感任务调用云端大模型 硬件级安全芯片保护&个人数据加密/脱敏传输AI PC 产业(中国)白皮书16第一交互入口:自然语言交互的个人智能体多模态自然语言交互 UI 改变交互体验
33、传统的终端在交互模式上有着较大的限制。早期的终端设备需要依靠硬件外设才能实现人机信息的传递。图形化 OS 出现后,交互效率实现提升,但可视化程序交互也涉及到复杂的菜单和功能操作,有较高的学习成本。而 AI PC 能够做到自然语言交互,允许用户以口头或文字形式使用自然语言与 PC 进行沟通,并通过自然语言的方式给予用户反馈,这种交互方式更自然、更直观,更贴近人类沟通本能,替代了复杂繁琐的指令语言。同时,AI PC 精准的语言识别与语义分析功能,与身体语言、触控、键鼠等交互方式结合在一起,进而形成多模态的自然交互。AI PC 将提供多模态自然语言交互 UI,该 UI 是用户与 AI PC 进行自然
34、对话的界面,减少了用户对特定界面和命令的依赖,有望成为 PC 的第一交互入口,用户所有和设备的交互请求均可在与该界面的沟通中完成。个人智能体提升终端易用性自然语言交互 UI 的能力主要依赖于常驻其中的个人智能体,其承担着对用户的意图进行理解与分发任务的重要作用。个人智能体基于内嵌于终端的本地大模型而打造,当收到用户请求后,本地大模型会精准理解用户意图,并将意图转换为相应的任务组合,分解任务并识别任务完成的路径,从而进一步查询本地知识库、调用设备 API、调用合适的模型或应用来执行相应的任务。设备、模型或应用执行完成任务后,会将相应的结果返回给智能体,智能体完成整合后再反馈给用户。未来,个人智能
35、体还能够通过智能感知和主动服务来进一步提升 AI PC 的自主性与易用性。随着知识库中信息的丰富,个人智能体能够根据用户的习惯,结合时间和位置等信息,智能感知用户的潜在需求,并在特定的场景下主动进行服务请求。AI PC 产业(中国)白皮书17图 5个人智能体提升 AI PC 的自主性与易用性模型调用反馈结果本地模型模型调用云端模型应用API 调用反馈结果应用操作设备功能返回操作结果设备来源:IDC,2023终端内嵌个人大模型本地为主,边缘与云为辅的大模型方案随着用户对 AI 能力和大模型的调用变得像使用办公软件一样频繁,仅依赖云端提供相应的能力就变得昂贵、复杂且不够安全。因此,以模型的本地化推
36、理为主,以边缘和云端推理为辅的混合大模型架构成为 AI PC 解决这一问题的关键。用户的大部分任务将能够依托 AI PC 本地模型完成。例如,用户能够在离线的情况下依靠本地大模型完成通过文字描述生成文档和 PPT 的任务。同时,本地模型还将承担意图理解和任务分配的功能,是个人智能体的底座。自然语言交互 UI意图理解&多任务分发平台(基于个人本地大模型)个人智能体查询知识库反馈新的prompt个性化本地知识库反馈结果AI PC 产业(中国)白皮书18当用户的任务请求并不私密、且极其复杂的情况下,AI PC 将在用户同意的情况下,调用云端公共大模型的能力,从而极大的扩展了本地模型的能力范畴。在很多
37、情况下,边缘设备的出现,进一步分担了本地模型推理的负载,并且能够帮助 AI PC 完成个人大模型的微调,为本地模型的个性化提供了一种可行的解决方案。混合大模型的优势在于,它能够根据终端设备的性能、资源限制以及用户的网络状况和任务复杂度,动态地调整端侧和云端的计算负载,实现最优的性能和效率。满足用户的使用需求、适应不同的应用场景,同时,兼顾快速响应、即时反馈和数据隐私安全。从而,带来成本、能耗、性能、隐私、安全和个性化等方面的综合优势。混合大模型与个性化本地知识 库的完美组 合,使得“个人大模型”成为 AI PC 的核心模块。个性化本地知识库除了混合大模型之外,AI PC 还拥有本地向量知识库以
38、及相应的管理工具,能够储存从用户的行为与本地数据中获取的信息。知识库能够将特定的文件进行分块与向量化,并进行向量数据的存储。在 AI PC 执行任务时,知识库能够通过对向量数据的检索,来匹配并强化用户提供的提示词,以帮助模型更准确地了解用户的意图,从而提供更个性化、高准确度的反馈。通过这一方式,本地知识库能够使得 AI PC 了解和熟悉用户个性化的语言习惯和操作模式。在企业应用背景下,本地知识库可以在较短的周期内强化企业内对特定任务的完成效率与精准度。例如生成与企业既往设计风格与调性一致的图片,创作符合企业特定专业语言的文稿,或是生成符合企业内部汇报习惯与需求的 PPT文档。终端标配本地混合
39、AI 算力算力是 AI PC 各项功能得以实现的前提,终端异构混合(CPU+NPU+GPU)算力是 AI 规模化落地的必然要求。异构混合计算利用不同类型的指令集和体系架构的计算单元组成本地计算系统,可以通过 CPU(中央处理单元)、NPUAI PC 产业(中国)白皮书19(神经网络处理单元)、GPU(图形处理单元)等计算设备的组合应用充分发挥各硬件性能,对于不同的 AI 工作负载提供灵活的解决方案。CPU 在通用计算上表现出色,NPU 专门针对神经网络工作负载进行了优化,GPU 则在图形和并行计算方面表现出色,异构运算将不同处理器的优势充分发挥,最终达到提升终端侧 AI 算力的效果,实现更快速
40、、更高效的 AI 模型推理。端侧算力的每 一 步提升能够带来显著的杠杆效应,撬 动 AI PC在任 务理解,个性化反馈和复杂任务处理能力与速度方面更大的提升。由于AI PC 对计算和存储的需求非常高,存算 一体技术也将在 AI PC 上发挥其重要价值。芯片提供商集成了 NPU 计算单元的 CPU 已经陆续推向市场,并在与终端厂商联合开发的过程中共同确定产品的需求和规格,协作研发,共同推广产品。这种合作方式有助于提高产品的性能和品质,降低成本,缩短研发周期,并提高市场竞争力。异构的混合 AI 算力不仅保证了终端模型推理的可行性,而且算力正在快速提升,使得终端设备可以承载越来越大的 AI 模型,执
41、行越来越复杂的任务。当端侧内嵌的混合 AI 算力能够达到 10TOPS 时,已经能够在本地完成特定场景的 AI模型推理,可以在设备智能管理,图像增强,游戏调优等方面作出贡献。当端侧的混合 AI 算力达到 40TOPS 时,能够使 AI PC 支持普通参数规模的本地模型推理,尽管依然需要 GPU 或云端配合才能完成更复杂的任务,但已经能够满足工作、学习、娱乐等场景的大部分 AI 创作类的需求。当端侧的算力进 一步提升,不仅 AI PC 能够在端侧独立模型推理的能力得到进一步增强,可以完全离线处理大部分复杂任务,终端在功耗控制、影像呈现、复杂运算、游戏体验等方面的表现也能够得到充分的 AI 优化。
42、作为承载本地混合 AI 算力的设备,AI PC 也涵盖多种产品形态,包括 AI 笔记本电脑、AI 平板电脑、AI 台式机等几种形态,其中 AI 台式机不仅包括传统的桌面台式电脑、工作站、一体机(AIO)等形态,也包括与终端紧密协同的边缘设备家庭 AI 主机、企业 AI 边缘主机。以及,未来随着 AI PC 的发展,也将涌现出更多创新形态。AI PC 产业(中国)白皮书20笔记本电脑型态AI 笔记本电脑这些产品形态可以在家庭和企业场景中灵活组合,以满足不同用户的需求。例如,在家庭场景中,用户可能更多选择 AI 笔记本电脑和 AI 平板电脑进行日常生活和娱乐;而在企业场景中,AI 台式机具备更高性
43、能,与 AI 笔记本电脑、工作站集群配合,更适用于专业的生产力创新任务。连接开放的 AI 应用生态为了完成用户相对复杂的任务,AI PC 往往需要调动不同的模型和应用,作为AI PC 能力的补充和延伸。因此,AI PC 功能的发挥需要一个开放的行业生态作为支撑。开放的应用生态应当包括 AI 原生应用、AI 赋能应用和公共大模型。AI 原生应用指的是那些从基础架构和设计开始就以 AI 能力为核心、直接依托AI 算法构建的应用程序,在大模型时代将越来越多见。AI 赋能应用指的是传统的应用也将插件化增强,成为被大模型调起或调用的功能能力。开放的 AI 应用生态还应当具备以下特征:AI 原生应用、AI
44、 赋能应用及公共大模型都能够被智能体调度,完成智能体分配的任务。个人智能体作为与用户的第一交互入口,在理解用户意图的基础上,需要能够根据具体情境选择合适的能力来执行任务,只有各类应用都面向智能体开放 API,个人智能体才能实现综合调度,实现更为复杂和深度的任务,以满足各类场景下的用户需求,提供更加灵活、高效的体验。AI 平板电脑AI 台式电脑家庭 AI 主机一体机(AIO)AI 工作站企业 AI 边缘主机图 6AI PC 产品型态平板电脑型态台式机型态来源:IDC,2023AI PC 产业(中国)白皮书21在使用终端设备时,用户期望能够得到充分的隐私保障,确保个人信息不被滥用、泄露或用于未经授
45、权的目的。必须深度适配 AI PC 的混合 AI 算力平台。充分适配和利用硬件平台的特性,从而实现应用的整体性能优化和能耗优化。符合 AI 应用商店的各项准入标准,包括个人隐私和数据保护等。AI 应用商店汇集了基于不同大模型的原生应用,以及由 AI 赋能的各类场景应用。一方面方便用户根据自己的需求寻找所需的应用,另一方面也可以通过独立的审核机制,对应用的隐私保护协议与安全性进行更好的把控。AI 应用商店有机会为行业内带来新的商业合作与分成模式,这些都需要应用、模型与终端合作伙伴之间进行共同的探索。设备级个人数据和隐私安全保护用户请求公共大模型执行任务时,最为担忧的问题之一便是个人数据甚至隐私,
46、还有企业的商业机密变成了公众信息的一部分。因此,确保设备级个人数据和隐私的安全性,不仅仅是技术发展的要求,更是对用户权益和数字社会稳定的迫切需求。首先,个性化本地知识库提供本地化的个人数据安全域,同时在用户授权下,支持读取云端私域数据。终端的日常使用会产生海量的用户行为信息与痕迹,其中包含大量的隐私数据。个性化本地知识库包含专属的存储空间,用来存储用户允许个人智能体查询或调用的文件与数据,确保个人用户与企业用户的隐私与涉密信息能在本地实现安全的隔离,仅在受信任的环境下才可以被调用,有效保障 AI PC 的数据安全。个人在可信云端存储的个人隐私数据,也可以通过可信的网络通道进行读取和本地向量化,
47、并入本地安全域来对待。在企业中,本地知识库可以与企业 AI 边缘主机相配合,既实现对私域内设备敏感数据的闭环管理,又可以集中对本地知识库数据进行安全可控的调用和训练。其次,本地推理机制可以实现本地闭环完成隐私问题的推理,避免了敏感信息在远程服务器上处理,只有非敏感任务才会调用公共大模型处理。AI PC 本身可以通过个人智能体的能力有效甄别和管理用户隐私数据,并通过本地化的模AI PC 产业(中国)白皮书型与充足的 AI 算力在本地完成大部分数据的处理与模型运算,仅有不涉及用户隐私的公共请求才需调用云端的服务。用户隐私数据完全控制在本地,本地大模型不保存、不传输、不利用这些数据进行模型的训练。第
48、三,AI PC 还配置了硬件级的安全芯片,在硬件层面确保只有经过授权的程序和操作才能够读取、处理个人隐私数据。并通过个人数据加密/脱敏传输标准进行多层保险,防止数据在传输过程中被未经授权的第三方窃取,来加密和保护个人隐私数据的读取和使用。随着技术的不断创新,未来 AI PC 仍有巨大的想象空间。更强劲的算力、更智能的算法、更丰富的生态将为 AI PC 带来更多可期待的新特性,AI PC 也将更好地融入用户的工作、学习、生活中,为个人、家庭和企业创造更多价值。22第三章 AI PC 的产业生态:以人为本、终端主导、AI 原生在 AI PC 的推动下,PC 产业生态将从应用为本转向以人为本,从应用
49、驱动转变为意图驱动。传统 PC 产业生态以操作系统为基础,用户在系统界面中直接进行操作,并管理和应用各式各样的应用程序。AI PC 产业生态中,个人智能体将成为第一入口,在大模型与应用生态的支持下,准确理解用户指令,给出恰当的反馈,跨应用进行调度,进而完成相对复杂的任务。模型、应用、算力厂商都需要围绕 AI PC(终端)形态下新的以人为本的需求做出改变,在研发工作中对 AI 的高效运行予以充分的考量,以适应 AI PC 新时代。AI PC 产业生态通 用计算/芯片来源:IDC,202323传统 PC 产业生态操作系统个人智能体用户图 7PC 产业生态变革图混 合算力/芯 片应用应用用户功能数据
50、模型随着 AI 技术的不断进步,越来越多的企业加入 AI PC 的开放生态,形成用户、终端厂商、模型、应用、算力多层开放的繁荣生态。用户视野将发生变化,模型与应用的新关系将改变用户需求的底层逻辑。用户的需求是推动整个生态发展的关键要素,而终端厂商以场景需求为基础面向用户整合产业资源,提供软硬件一体的混合交付体验。模型厂商、芯片厂商也将与终端厂商产生更加紧密地联结。未来应用/插件大模型具备 AI 环境来源:IDC,20233.1 用户:生态话语权显著提升用户成为行业生态创新的驱动者和创造者PC 行业的前几次产业变革主要由终端、OS 或是芯片厂商推动,用户被动接纳新的技术和产品,调整和适应自己的使