企业人工智能应用现状分析（第三版）.pdf

制胜人工智能时代制胜人工智能时代企业企业人工智能应用现状分析（人工智能应用现状分析（第三版）第三版）德勤人工智能研究院及德勤科技、传媒和电信行业中心联合报告内容摘要引言人工智能应用前沿结语：领先之道尾注目录目录23517202通通过把握人工智能的全球脉搏，我们发现了以下关键洞察：人工智能应用者对人工智能应用者对人工智能技术推动人工智能技术推动价值创造和竞争优势价值创造和竞争优势的的能力能力保有保有信心信心。我们看到人工智能技术的实施水平不断提高，投资持续增长。应用者表示其正逐步取得竞争优势，并预期其企业和所在行业将会全面开展以人工智能为驱动的转型变革。企业的先行优势很快便会企业的先行优势很快便会消失。消失。随着应用逐步普及，人工智能赋能型企业可能不得不需要付出更大努力，以保持相对于行业对手的竞争优势。竞争格局扁平化的一个迹象是，多数应用者预期在不久的将来，人工智能将会融入越来越广泛的应用程序之中。几乎所有应用者都在使用人工智能提几乎所有应用者都在使用人工智能提升效率升效率；成熟型应用者亦在利用人工成熟型应用者亦在利用人工智能技术进一步推动差异化竞争。智能技术进一步推动差异化竞争。人工智能的自动化和优化应用可产生显著的效益，但企业应该努力超越这些目标，利用人工智能技术创造新的产品和工作方式。应用者更倾向于购买而非自行研发人应用者更倾向于购买而非自行研发人工智能技术，且认为工智能技术，且认为拥有最好的人工拥有最好的人工智能技术智能技术是获取竞争是获取竞争优势的关键。优势的关键。随着平台、解决方案和供应商的选择不断增加和改进，成为更明智的人工智能技术消费者对企业而言可能变得愈加重要。无论这些技术出自何处，能够对这些技术进行整合与扩展亦至关重要。应用者认识应用者认识到人工智能的风险，到人工智能的风险，但在但在应对战略、操作和应对战略、操作和伦理道德风险方面伦理道德风险方面仍普遍准备不足。仍普遍准备不足。随着应用的增长，人们对人工智能各种风险从无意识偏见到明确责任的认识也在增加，而在采取具体行动来缓释这些风险方面却似乎停滞不前，即使是技术水平最高的应用者亦不例外。通过扩展人工智能的应用场景、提升选择和评估新企业和新技术的能力，以及正面应对人工智能风险，当前和未来的人工智能应用者才能在这个人工智能广泛普及的新兴时代度过难关，实现蓬勃发展。内容摘要内容摘要这是德勤连续第三年针对企业高管开展人工智能相关调查，了解其企业对于人工智能技术的看法和实践。我们特别关注的重点在于，在人工智能应用持续增长的背景下，企业将如何采取行动才能保持领先。同时，随着人工智能治理、信任和伦理道德日益成为董事会的重要议题，我们希望了解人工智能应用者如何有效地管理相关技术风险。3引引言言当当前，现今一代人工智能技术的应用正在展开新的篇章：能力不断进步，人工智能应用的开发和实施变得越来越容易，企业也通过应用获得了切实的好处。各国政府均已制定了人工智能发展的国家战略，并大力投资开展研究和推进教育，同时也在思考如何更好地管理人工智能技术应用，以保护和造福社会。我们看到，人工智能已被广泛部署于各类用例，以解决不同业务问题从管理和自动化信息技术基础设施，到收集关于客户的新洞察、识别和应对网络威胁、帮助指导医疗决策和改进招聘流程等。人工智能正日益融入到商业结构之中。诚然，由于各种障碍依然存在，并非所有企业都已采用人工智能技术，同时许多应用者正在努力扩大所取得的成效。然而，人工智能的“早期应用”优势阶段似乎正在消弭；当前市场正迈入技术成熟的“早期多数”阶段。事实上，据IDC预测，2023年人工智能技术的相关支出将增长至979亿美元，为2019年支出水平的2.5倍以上。1关键问题：关键问题：当人工智能变得无处不在，企业如何在市场上脱颖而出？人工智能应用者如何维持自身的竞争优势？这是德勤发布的第三版企业人工智能应用现状分析调查报告。本报告中，我们调查了来自世界各地的2,737名信息技术和业务线高管（参见边栏“方法论”）。本调查始终以了解各行业及各国人工智能的应用发展为宗旨。在此前的报告中，我们详细介绍了人工智能应用者的乐观态度及其持续增长的投资和部署。我们得出的结论是，企业在对人工智能技术充满热情之外，亦应重视建立强大的执行能力。我们建议企业改进其风险和变革管理方法，将人工智能应用于信息技术职能之外，并寻求适当的技术和业务人才组合，加速推进转型。4方法方法论论为获得关于企业如何应用和管理人工智能技术并从中受益的全球视图，德勤从2019年10月到12月调查了2,737名信息技术和业务线高管，范围涵盖九个国家：澳大利亚（108名受访者）、加拿大（300名受访者）、中国（300名受访者）、法国（203名受访者）、德国（201名受访者）、日本（203名受访者）、荷兰（100名受访者）、英国（218名受访者）和美国（1104名受访者）。所有参与调查的企业都应用了人工智能技术。受访者需满足以下标准之一：有确定的人工智能技术支出和/或已获批准的人工智能投资；制定了人工智能技术战略；正在管理或监督人工智能技术实施；担任人工智能技术领域的主题专家；围绕人工智能技术进行决策或对决策施加影响。47%的受访者为信息技术高管，其余受访者为业务线高管。70%的受访者为首席高管：首席执行官、总裁和企业所有者占35%；首席信息官和首席转型官占32%；其他首席高管占3%。作为此次不记名调查的补充，德勤还对来自各个行业的人工智能专家进行了深入的电话访谈。5熟练熟练者者（47%）普遍已经启动了多个人工智能生产系统，但其人工智能应用的成熟度还未达到“精通者”的水平。他们在人工智能实施项目的数量或人工智能的专业能力上有所落后，抑或者两者兼有。起步者起步者（27%）刚刚开始尝试人工智能应用，尚未在在人工智能解决方案构建、整合及管理方面形成稳固的专业能力。维维持竞争优势的挑战更趋严峻持竞争优势的挑战更趋严峻我们的调查显示，人工智能应用者对他们的人工智能策略以及如何通过技术实施、财务投资、竞争优势和预期变革影响获取利益方面抱有信心。他们相信，和过去一样，人工智能是确立当今和未来市场领导地位的关键。90%的精通者认为人工智能对他们当前的业务“非常重要”或“至关重要”（相比之下，这一比例在整体受访者中为73%）。所有应用者都在加速拥抱关键的人工智能技术，如机器学习、深度学习、计算机视觉和自然语言处理等。这些技术预计将在未来一年得到全面普及（参见边栏“人工智能技术组合”）。精通人工智能应用的领先企业精通人工智能应用的领先企业为了解人工智能的前沿格局，我们根据人工智能部署项目的数量以及受访者对其企业各方面专业能力的评价，将人工智能应用者分为三个类别（图1）：精通者精通者（26%）正在树立人工智能应用成熟度的标杆。他们业已开展大量的人工智能生产部署，并在人工智能技术和供应商选择、用例识别、人工智能解决方案构建和管理、信息技术环境和业务流程的人工智能整合、以及人工智能技术人员雇佣与管理等方面发展形成了全方位的人工智能专业能力。图1企业的人工智能应用成熟度各不相同企业的人工智能应用成熟度各不相同“精通者”已经构建了多个人工智能系统，并且在技术选择、用例识别、人工智能解决方案构建和整合以及人员配置方面展现出较高的成熟度。德勤企业人工智能应用现状分析（第三版）人工智能应用前沿人工智能应用前沿来源：德勤企业人工智能应用现状分析（第三版），2020年。人工智能生产部署数量156-1011+人工智能构建、整合、管理专业能力高低精通者26%熟练者47%起步者27%6应用者正在进行大规模人工智能投资，有53%的受访者过去一年在人工智能相关技术和人才方面的支出超过2,000万美元。71%的受访者计划扩大下一个财务年度的投资，平均预期增长26%。2精通者的投资甚至更大，有68%的精通者在过去一年的支出超过2,000万美元。这些企业通常也能在较短的时间内实现投资回报，81%的受访者表示其投资回报期少于两年。显而易见，人工智能应用者正在将大量精力和财力投入到人工智能实施上。那么结果如何呢？以竞争力作为衡量指标，26%的受访者表示人工智能技术使他们在竞争中占据了显著的领先地位。在精通者中，这一比例上升至45%。多数应用者相信，人工智能将在未来三年内极大地转变其所在企业和行业（图2）。先行者的优势正在消失。上一版调查中，有57%的受访者认为人工智能将在未来三年内转变他们的企业，同时有38%认为其所在行业也将在同一时间内发生转变。3 这19个百分点的差距表明，人工智能应用者看到了一个很小的竞争优势窗口。我们的最新调查显示，这一窗口已经进一步缩小：预期企业在未来三年内出现转型的比例升至75%（上升18个百分点），认为行业在同一时间将发生变革的比例升至61%（上升23个百分点），而两者之间的差距缩小为14个百分点。人工智能人工智能技术技术组合组合机器学习机器学习。利用机器学习技术，计算机可学会分析数据，识别隐藏的模式，进行分类，并预测未来的结果。我们的调查显示，67%的受访者目前正在使用机器学习，且有97%正在使用或计划在明年使用机器学习。深度学习深度学习。深度学习是机器学习的一个子集，它基于一个名为“神经网络”的人脑概念模型。之所以被称为深度学习，是因为这种神经网络有多个相互连接的层。我们的受访者中，有54%表示他们使用了深度学习技术，95%正在使用或计划在明年使用。自然语言处理自然语言处理。自然语言处理是一种从可读的、风格自然的、语法正确的文本中提取或生成意义和意图的能力。58%的全球受访者已采用自然语言处理技术，有94%正在或计划在明年使用自然语言处理技术。计算机视觉。计算机视觉。是一种从视觉元素中提取意义和意图的能力，包括字符识别（针对数字化文档）和图像（如人脸、物体、场景和活动）内容分类。在我们的受访者中，有56%声称他们使用了计算机视觉；94%表示正在使用或计划在明年使用。制胜人工智能时代虽然人工智能仍被广泛看好，但随着应用障碍的减少以及应用数量的增加，人工智能应用者的优势可能会逐步减弱。其中的一个潜在原因是，人工智能技术在企业中的应用变得越来越容易。数据科学和机器学习平台数量激增；经人工智能优化的硬件能够提供更加强大的算力。借助自助型数据预处理工具、合成数据、“小数据”最让我兴奋的最让我兴奋的事情事情之一之一就是就是人工智能平台的激人工智能平台的激增增，如此一来所有人都，如此一来所有人都不必从不必从零开始，零开始，而可以而可以在上一个研究者的基础在上一个研究者的基础上开展工作。上开展工作。这将是我这将是我们今后们今后几年实现快速进几年实现快速进步的步的根本原因根本原因之一。之一。ManoharPaluri，人工智能研究员，人工智能研究员和预训练模型，算法训练如今变得更加简单。这种趋势的一个表现是：74%的应用者认为人工智能将在三年内融入所有企业应用程序之中。我们愈加清楚地看到，世界正在迈进人工智能全面普及的时代，无论是否已经应用人工智能，企业都应寻求开发新的能力，以确保能够在这个时代实现繁荣发展。因此，已经利用人工智能实现优势竞争的企业应该继续推动自身的差异化发展。对于尚未采用人工智能技术的企业而言，应着手加速自身产品、流程和人才方面的人工智能转型。随着后来者开始赶超行业领先者，人工智能应用者应考虑重点采取以下三方面措施以维持自身的优势（参见图3）：注：因有小部分受访者回答“不清楚”，因此百分比累加可能不足100%。来源：德勤企业人工智能应用现状分析（第三版），2020年制胜人工智能时代制胜人工智能时代过去几年，开展人工智能实验的企业数量不断增长，他们的数据相关能力得到了提升，同时获取了新技术，建立了人才队伍，并将人工智能融入到业务流程之中。未来数年，人工智能将会更加广泛普及。正如我们不再谈论孤立的移动端战略一样（这已经成为经营的一部分），人工智能将会在不久之后成为标准和日常经营的一部分，甚至比我们预期的更快。7德勤企业人工智能应用现状分析（第三版）人工智能将转变企业23%人工智能将转变行业43%36%26%21%9%3%17%9%8%正在进行正在进行不到不到1年年13 年内年内35 年内年内超过超过5年年图2企业和行业均将在不久的未来开展转型企业和行业均将在不久的未来开展转型追求创新方法追求创新方法：在效率之上挖掘更多价值，在人工智能应用方面变得更具创造性，寻求发展与转型之间的平衡。成为更成为更明智的明智的消费者：消费者：面对市场上持续增加的人工智能供应商、平台和技术，提高认识以更好地评估购买选择。积极积极应对应对风险：风险：更谨慎地使用人工智能技术，与客户及合作伙伴建立互信，以避免相关工作受到人工智能感知风险的阻碍。追求创新方法追求创新方法在人工智能全面普及的时代，任何人均可获取相关功能，而企业应努力拓宽人工智能的应用范围。在当前的应用浪潮中，我们发现许多企业似乎更加关注如何改善现有能力，而忽视创造新能力。这并不令人感到意外，因为人工智能应用带来了许多与效率相关的效益，包括自动化流程，使人能够专注于更高价值的工作；改善供应链，利用预测性维护来减少停机时间；优化广告购买和投放；以及加快招聘速度等。来源：德勤企业人工智能应用现状分析（第三版），2020年8“许多许多制药企业的制药企业的高管高管都在考虑都在考虑人工智能带来人工智能带来的成本的成本节约和效率。当节约和效率。当你管理你管理一个庞大的组织一个庞大的组织，有有数百数百个花费个花费数百万数百万美美元的临床试验元的临床试验项目项目正在正在进行进行，便会存在一些从，便会存在一些从科学角度而言并不复杂、科学角度而言并不复杂、容易容易实现实现的目标，而在的目标，而在这些方面，人工智能这些方面，人工智能可可以为组织节省数亿美以为组织节省数亿美元。元。”Ron Alfa，转化医学发现高级副总裁转化医学发现高级副总裁，RecursionPharmaceuticals图3在人工智能在人工智能无处不在的未来无处不在的未来，参与竞争和赢得胜利需要什么？，参与竞争和赢得胜利需要什么？12追求创新方法的应用者表示其在选择人工智能技术和技术供应商方面具备较高的技能水平谋求变革谋求变革成为更明智的消费者积极应对风险提高流程效率增强现有产品和服务应用者利用人工智能所寻求的前两大价值:的应用者认同由于新出现的风险，其企业的人工智能技术应用正在放缓激励变革激励变革56%制胜人工智能时代当被要求指出利用人工智能技术所寻求的前两大价值时，受访者的选择最多的是“提高流程效率”和“增强现有的产品和服务”（图4）。受访高管表示，其企业在这两个方面所取得的成效大于其他人工智能目标。此前的调查中，我们发现企业主要将人工智能技术应用在信息技术和网络安全两个方面。47%的受访者表示，信息技术是人工智能应用最主要的两大职能部门之一。这可能意味着企业正在将人工智能用于信息技术的相关应用之中，如分析信息技术基础设施的异常情况、自动化重复性维护任务，或指导技术支持团队的工作等。4抑或者意味着信息技术部门正在企业中领导人工智能的实施。排在信息技术之后的，是网络安全、生产制造、工程设计和产品开发等重要的人工智能应用部门。而市场营销、人力资源、法务和采购等业务职能部门排在最后。所有职能部门中，约有三分之二的实施项目的目的在于实现自动化或优化，而非增强个人能力（参见边栏“人工智能应用的目标”）。追求自动化和优化当然无可厚非，但随着人工智能逐步普及，企业将需要更大的投入以形成差异化竞争优势。企业通过更多变革性提升获得经验之后，领导者应积极采取更加果断的变革性举措，探索创造新的人工智能驱动型产品和服务，并利用人工智能发掘新洞察、赋能全新业务模式。有迹象表明，人工智能的实施可能正在超越效率范畴，向更广阔的目标迈进。其中的一个表现是：受访者所选择的第三大人工智能目标是“创造新产品和服务”。图 4提高流程效率位列人工智能所实现的价值之首提高流程效率位列人工智能所实现的价值之首注:蓝色虚线代表每个维度的平均值来源：德勤企业人工智能应用现状分析（第三版），2020年9德勤企业人工智能应用现状分析（第三版）改善决策34%32%30%36%38%40%42%10%15%20%25%30%提高流程效率发掘新洞察提高员工工作效率增强现有产品及服务创造新产品和服务增进客户关系减少员工人数赋能全新业务模式降低成本将流程效率列为将流程效率列为前前两大目标的企业比例两大目标的企业比例实现实现高成效的企业比例高成效的企业比例精通者的方法可能是基于更丰富经验的自然进化，也可能是因为他们对人工智能所固有的战略思维。无论何种原因，企业对人工智能的了解愈深入，对创造可能性的认知似乎便更为广阔。创新型人工智能应用从为新兴体育竞技制定规则，到音乐创作，再到寻找失踪儿童持续增长。5现实世界中，企业不断拓宽人工智能的应用范围，推动其上升至一个全新水平。以下是两个例子：Recursion Pharmaceuticals公司正在使用人工智能作为“显微镜”，以快速、低成本的方式确定健康细胞和患病细胞大型数据集之间的差异，从而发掘新的化合物用于药物研发。6佛罗里达州的Power&Light公司正在其整个业务运营架构中部署人工智能，以确保电网更加可靠和高效。其目标是更好地管理日趋复杂的设施网络，并纳入更多的可再生能源。7人工智能应用的精通者甚至较其他成熟度指标更重视这一点（图5）。而起步者则更重视降低成本。来源：德勤企业人工智能应用现状分析（第三版），2020年人工智能应用的目标人工智能应用的目标自动化自动化一个通常由人工完成的流程或功能，例如自动化后端作业、管理云和信息技术网络，或检测视频模式。优化优化一个流程或功能的效率，例如防范欺诈、识别缺陷产品、查找软件代码错误，或个性化广告投放。增强增强个人完成任务的能力，或赋能其完成平常难以完成的工作，例如预测需求、提高合规性、增强分析员对网络威胁的检测、给患者做诊断、识别机械系统的问题，或提出新的客户见解。图 5精通精通者侧重于创造新产品和服务者侧重于创造新产品和服务企业对人工智能应用的期望成效排名（从10个选项中筛选的结果）起步者起步者熟练熟练者者提高流程效率提高流程效率降低成本降低成本增强现有产品和服务增强现有产品和服务创造新产品和服务创造新产品和服务精通者精通者11238112343410制胜人工智能时代方式获得相关能力。约50%受访者的购买比重高于自研，另有30%的购买比重与从零开始自研的比重相当（图6）。精通者（53%）和熟练者（51%）相较于起步者（44%）更有可能通过购买方式获取所需的人工智能系统。这表明，许多企业可能会经历一段时间的内部学习和实验才能清楚了解自身所需，然后从市场中寻求解决方案。人工智能应用者将“成为更明智的消费者”视为提升竞争优势的关键。在被要求选择利用人工智能提高竞争优势的首要举措时，他们首选“现代化我们的人工智能数据基础设施”，紧随其后的是“获得最新且最好的人工智能技术”（图7）。成为更明智的消费者成为更明智的消费者目前提供针对特定行业/职能的通用型人工智能解决方案的企业有数千家，供应商格局十分复杂。与此同时，一些主要的云服务提供商亦在其平台上提供广泛的人工智能相关技术。这种形势可能将在短期内持续存在。在美国，2019年人工智能企业获得的风险投资高达近185亿美元，创下新的记录。8全球整体趋势也基本一致：从2014年到2019年末，风投资本在人工智能初创企业的投资达到了15,700宗。9面对这一充满活力的市场，企业需要选择正确的人工智能技术。在这种需求背景下，我们发现受访的人工智能应用者更倾向于通过购买而非自研的图 6自研还是购买自研还是购买?“一旦适应了运用机器人流程自动化、“一旦适应了运用机器人流程自动化、人工智能人工智能和和机器学习等机器学习等技术自动化各个业务流程，技术自动化各个业务流程，你就不会再你就不会再回头了回头了。这些技术改变了企业的经营方式，不仅工。这些技术改变了企业的经营方式，不仅工作变得更快、更高效，还能让你完成此前不可能作变得更快、更高效，还能让你完成此前不可能完完成成的任务。如果能把一个需要三周时间的抵押的任务。如果能把一个需要三周时间的抵押贷款贷款申请流程缩短为五分钟，你怎么还能回头呢？商业申请流程缩短为五分钟，你怎么还能回头呢？商业模式已然改变。这立刻就成为了实现差异化竞争的模式已然改变。这立刻就成为了实现差异化竞争的关键。”关键。”PrinceKohli，首席技术官，首席技术官，AutomationAnywhere德勤企业人工智能应用现状分析（第三版）1117%33%30%13%8%全部购买全部购买购买多于自研购买多于自研比重相当比重相当全部自研全部自研自研多于购买自研多于购买自研比重高自研比重高购买比重高购买比重高来源：德勤企业人工智能应用现状分析（第三版），2020年企业对拥有一个强大的数据基础设施如此重视并不令人意外，因为这是每一项人工智能相关举措的基础。拥有最新且最好的技术以利用这种强大的基础设施亦同样重要。然而，仅有不足半数应用者（47%）声称在选择人工智能技术和技术供应商方面具备较高的技能水平。在另一领域，应用者的成熟度也有待提高：低于半数受访者（45%）表示其在将人工智能技术融入现有信息技术环境方面具备较高的技能水平。这可能包括数据科学和机器学习平台、人工智能驱动型企业应用程序、开发对话接口的工具，以及低代码/无代码工具等。在这些不同的领域中，有93%的受访者正使用基于云的人工智能能力，有78%则使用开源的人工智能能力。例如，线上市场平台Etsy已经将其人工智能实验转移到云端，大大增加了算力和实验数量。10学习如何管理及整合这些不同的工具和技术是成功的根本所在。“对客户而言，重要对客户而言，重要的不是的不是人工智能，人工智能，而是业务流程得到完美执行这一事实。而是业务流程得到完美执行这一事实。企业所购买的是解决其面临企业所购买的是解决其面临的实际问的实际问题题的方法的方法。如果这种方法恰巧使用如果这种方法恰巧使用了了人工智能，人工智能，那么企业也便使用人工智那么企业也便使用人工智能。只要能按时准确地完成工作，是能。只要能按时准确地完成工作，是否使用人工智能对企业而言并不重否使用人工智能对企业而言并不重要。”要。”PrinceKohli，首席技术官，首席技术官，AutomationAnywhere图7提高提高竞争优势竞争优势的的首要人工智能举措首要人工智能举措20%19%17%16%14%9%6%低于半数应用低于半数应用者者（47%）表示其在选择人工智能技术和技术供应商方面具备较高的技能水平现代化我们的人工智能数据基础设施现代化我们的人工智能数据基础设施获得最新且最获得最新且最好好的的人工智能人工智能技术技术利用利用基于云的人工智能服务和基于云的人工智能服务和能力能力部署数据科学和人工智能开发平台部署数据科学和人工智能开发平台发展合作伙伴关系，加速实施人工智能计划发展合作伙伴关系，加速实施人工智能计划聘请一流的人工智能专家聘请一流的人工智能专家使用低代码或自动机器学习使用低代码或自动机器学习来源：德勤企业人工智能应用现状分析（第三版），2020年12制胜人工智能时代欲成为更明智的消费者，企业应审时度势，寻求最先进的人工智能技术，并将这些技术应用于基础设施中。与此同时，企业应有效利用云和开源技术。作为一种技术手段，人工智能的部署策略不应有异于其他IT技术，但会存在细微的差异。为协助企业在人工智能上的消费更加明智，建议参考以下供应商甄选要点：确保必须借助人工智能才能解决问题，切勿过于急迫地盲目使用技术。如需使用人工智能技术，请确保您选择的供应商具备相应的能力。立足长远，选择具有可持续发展能力的供应商（市场上有很多初创公司）。许多企业都希望借助人工智能推进业务创新，因此选择供应商时应注重其灵活性。为供应商提供明确的需求和商业案例。之前的报告显示，最成熟的人工智能应用者除了寻求技术人才以外，还寻求非技术性人才。11这些人才必不可少，他们将促进企业和供应商之间的沟通。全方位提升透明度，涵盖培训及人工智能解决方案测试等各个环节，从而建立信任。最后，确保供应商能够为您的用户和开发人员提供足够的支持。一个行之有效的做法是采取集中化的方式，挑选人工智能技术供应商。经验丰富的精通者（40%）往往比资历尚浅的起步者（28%）更倾向于采用这种做法。积极应对风险积极应对风险虽然应用者对人工智能热情高涨，但他们仍持有保留态度。事实上，他们将人工智能风险管理列为人工智能举措的最大挑战，与之并列的是长期存在的难题数据管理、人工智能与公司流程的融合。此外，应用者尚未做好充分的准备，以应对战略、运营和伦理等方面的潜在风险。超过一半的应用者表示对人工智能举措中的潜在风险“十分”或“极其”担忧（图8），而只有四成的应用者认为他们的企业已经“充分准备好”应对这些风险。12虽然网络安全是应用者最为担心的人工智能风险，但人工智能故障、个人数据滥用和监管不确定性也是令人担忧的问题。由于许多应用者表示未准备就绪，这些风险可能会阻碍他们的人工智能部署。事实上，56%的受访者认为他们的企业会因为新兴风险而延缓人工智能的应用，同样比例的受访者认为公众的负面看法将导致人工智能应用进程延缓甚至中止。在监管不确定性方面，57%的应用者“十分”或“极其”担忧不断变化的新法规将影响他们的人工智能举措。他们预计将受到一系列因素的影响，例如欧盟的“欧洲数据战略”、加拿大的“自动决策指令”以及关于人脸识别的立法提案。13他们并非反对监管，62%的受访者认为人工智能技术应该受到政府的严格监管（部分国家受访者的监管意识更加强烈）。相反，许多人担心因法规偏颇或落后而阻碍研究、创新，不利于提升竞争优势（62%的受访者认为新的政府法规会阻碍公司未来的创新能力）。德勤企业人工智能应用现状分析（第三版）13人工智能风险管理有很大的提升空间，即便对最资深的应用者而言也是如此（图9）。所有应用者应采取一系列风险管理措施，以消除担忧、树立信心，并管理各种不确定性：了解人工智能的实际应用是管理风险了解人工智能的实际应用是管理风险的的先决条件。先决条件。降低风险的关键在于建立正式清单，记录企业所有人工智能模型、算法和系统。否则，企业很难追踪人工智能的应用情况一家银行盘点了“所有基于先进算法或人工智能算法的模型，发现数量惊人，总共达到2万个。”14协调组织工作。协调组织工作。人工智能无法在真空中发展。企业可制定策略，确保全公司都能理解并应对人工智能风险，从而进一步做好准备。43%的精通者表示正在调整人工智能风险管理，以契合企业更广泛的管理工作。尽管只有超过四分之一的精通者指派了一位高管负责管理人工智能风险，许多应用者（43%）正着力培训人工智能一线开发人员，以识别并解决伦理问题。建立人工智能系统审核和测试程序。建立人工智能系统审核和测试程序。无论是由企业内部或独立供应商执行，这些程序都必不可少，以确保符合社会、政府和企业的价值观。15充分准备好十分/极其担忧图 8应用应用者对人工智能风险的担忧程度与准备程度存在差距者对人工智能风险的担忧程度与准备程度存在差距网络网络安全漏洞安全漏洞39%62%37%58%影响影响业务运营的人工智能业务运营的人工智能故障故障37%57%未经未经同意使用同意使用个人个人数据数据的后果的后果37%57%不断不断变化变化的新法规的新法规39%55%人工智能系统所作决策和人工智能系统所作决策和行动的行动的责任责任缺乏透明度缺乏透明度38%53%伦理问题伦理问题37%53%人工智能自动化人工智能自动化带来的潜在带来的潜在失业问题失业问题根据人工智能推荐做出错误根据人工智能推荐做出错误决策决策36%53%员工的负面反应员工的负面反应38%52%顾客的抵制顾客的抵制53%54%38%40%来源：德勤企业人工智能应用现状分析（第三版），2020年14制胜人工智能时代“我们“我们的的客户高度关注透客户高度关注透明度明度和可解释性和可解释性。他们通。他们通常并常并不关心不关心模型如何运作，模型如何运作，只只是希望是希望能够修正它。我能够修正它。我们发现们发现，行之有效的做法，行之有效的做法是建立明确是建立明确的反馈的反馈机制。”机制。”KevinWalsh,人工智能产品组负责人人工智能产品组负责人,HubSpot这些程序对自主开发及商用人工智能系统均至关重要。人工智能解决方案是否消除了偏见？基于人工智能的决策能否让人们充分理解，并以其为依据采取行动？是否有足够的措施保护个人数据？关注关注人工智能的伦理风险。人工智能的伦理风险。安全问题是最大的担忧，四分之一的受访者将其视为最大的伦理风险。其他令人担忧的问题包括人工智能决策缺乏可解释性和透明度，人工智能自动化导致工作数量减少，以及利用人工智能操纵人们的思维和行为。图 9人工智能应用风险管理措施人工智能应用风险管理措施德勤企业人工智能应用现状分析（第三版）起步者起步者熟练熟练者者精通者精通者32%32%22%39%32%36%31%29%35%35%37%27%38%37%39%35%32%34%35%43%28%43%36%43%43%39%37%建立正式清单，记录所有人工智能应用确保人工智能风险管理契合更广泛的风险管理工作指派一位高管负责管理人工智能风险进行内部审核与测试由外部供应商进行独立的审核与测试为相关人员提供培训，协助识别并解决人工智能的伦理问题与外部相关方合作，寻求人工智能伦理方面的领先实践确保人工智能供应商提供的系统无偏见制定政策或建立委员会，以完善人工智能伦理规范提高认知提高认知协调协调一致一致审核与审核与测试测试解决伦理解决伦理问题问题来源：德勤企业人工智能应用现状分析（第三版），2020年15尽管存在种种担忧，仅有约三分之一的应用者正着力应对风险。36%的受访者正制定政策或建立委员会，以完善人工智能伦理规范，同样比例的受访者表示正与外部相关方合作，积极寻求领先实践。16由于伦理问题备受关注，更多的应用者应当考虑自行制定伦理政策，或采纳广受认可的伦理政策。17虽然未来仍有很长的路要走，越来越多的企业正积极应对人工智能相关风险：美国银行（Bank of America）与哈佛大学肯尼迪学院合作建立“负责任地使用人工智能委员会”，并在人工智能伦理方面展开合作。18该银行还开设了一个新职位企业数据治理执行官，负责公司的人工智能治理，与首席风险官合作推进人工智能治理。德国工程公司Robert Bosch GmbH 计划在2025年前将人工智能嵌入其产品中，目前正向20,000名高管和软件工程师提供人工智能应用培训，包括最近制定的人工智能伦理规范。19Workday是一家基于云的企业软件提供商，专注于财务管理和人力资本管理。该公司开展了广泛的实践，包括制定一系列准则，以确保基于人工智能的建议公正不倚，并具备强大的数据管理能力。20Workday 还在其产品开发过程中践行“经由设计的伦理”理念。2116制胜人工智能时代人人工智能解决方案层出不穷，涵盖定制解决方案、企业应用以及搭载了人工智能的设备等。令人担忧的是，新兴风险和法规会阻碍整体应用和创新发展。此外，应用者也不愿静待同行追赶而上，继而失去竞争优势。为了保持领先，当前和未来应用者需从三个方面采取行动。追求创追求创新新方法方法提升效率和自动化固然值得称赞，但企业可能需要快速寻求突破，并运用人工智能技术打造差异化优势。从创新用例中汲取灵感，开发出既实用又新颖的解决方案。跨越跨越边界边界。拓展思维，寻求人工智能技术的更多可能性。尝试追求更多元的项目组合，提升企业各个业务部门的能力。开拓开拓创新创新。着力开发全新人工智能产品和服务，利用人工智能研究并解决人类无法解决的问题。结结语语领先之道德勤企业人工智能应用现状分析（第三版）图 10领先之道领先之道17来源：德勤企业人工智能应用现状分析（第三版），2020年制胜制胜人工人工智能时代智能时代积极积极应对应对风险风险成为更明智的消费者成为更明智的消费者追求创新方法追求创新方法跨越边界开拓创新扩大圈层打造多元团队采取集中方法注重整合与扩展统筹风险防控校正供应商监督合规工作扩大圈层。扩大圈层。在更多业务部门部署人工智能，而不是仅限于信息技术部门。寻求新的供应商、合作伙伴、数据源、工具和技术来推动人工智能举措。成为更明智的消费者成为更明智的消费者随着供应商和合作伙伴不断推出更多人工智能技术，企业应慧眼独具，识别出最有能力提供前沿领先技术的供应商。打造多元团队打造多元团队。在选择人工智能技术和供应商时，需要技术和业务专家共同参与。广泛听取开发人员、集成商、终端用户和业务负责人的意见，确保协调一致，并专注于业务成效。采取采取集中方法。集中方法。组合方法有时会导致重复工作、各种方法冲突和多重供应商。应在企业内协调统筹相关实验、实施工作、人工智能技术选择和供应商；考虑成立工作小组，指派专门领导人，或创建实践团队。注重注重整合整合与扩展与扩展。无论内部或云端、专有或开源，确保供应商和合作伙伴能够助您将人工智能解决方案广泛运用于信息技术基础设施。与此同时，确保他们能够根据您不断变化的需求，提供相应的解决方案。积极积极应对应对风险风险随着经验的积累，人们对人工智能风险的认识也更加深入。在过去几年里，关于偏见、透明度和安全性的探讨交流愈发普遍。制定一套人工智能风险管理准则和流程有助于在企业内部建立信任，同时深化与客户和合作伙伴的互信关系。统筹统筹风险防控。风险防控。许多人工智能相关风险并非孤立存在。因此，将人工智能风险管理与更广泛的风险工作相结合至关重要，包括指派一位人工智能专家开展适当的培训和协调工作。校校正供应正供应商。商。虽然与供应商建立信任和透明度至关重要，但同样重要的是确保他们提供的人工智能系统符合企业的伦理准则。监督合规工作监督合规工作。全球范围内关于人工智能的立法框架和监管政策日益增多。应确保法律、风险、合规和信息技术部门的管理层随时了解情况，并鼓励他们全力推动人工智能系统与时俱进，顺应未来发展趋势。18制胜人工智能时代1.2.3.4.5.6.7.8.9.International Data Corporation,“Worldwide spending on artificial intelligence systems will be nearly$98 billionin 2023,according to new IDC spending guide,”September 4,2019.This data was collected prior to recent global financial uncertainty and may or may not reflect current thinking.Jeff Loucks et al.,Future in the balance?How countries are pursuing an AI advantage:Insights from Deloittes State ofAI in the Enterprise,2nd Edition survey,Deloitte Insights,2019.John Murawski,“AI watches over complex corporate IT networks,”Wall Street Journal,May 14,2019;MacyBayern,“How IBM Watson AI scales tech support for thousands,”TechRepublic,December 5,2019;AngusLoten,“CIOs turn automation on their own departments,”Wall Street Journal,May 15,2019.Jon Fingas,“AI developed a whole new sport,”Engadget,April 15,2019;Maura Barrett and Jacob Ward,“AIcan now compose pop music and even symphonies.Heres how composers are