漫谈人工智能的一道重要门坎：系统思维.pdf

漫談人工智慧的一道重要門坎李智桦-系统思维李智桦顾问具有超过40年的工程师经历，擅长带领研发团队开发与创新，著作有:精实开发与广告牌方法、Windows Azure云端开发、WF工作流程引擎程序设计、微软 VSTS 开发实战等书。为专业的软件工程顾问、Scrum及看板课程教学的讲师。曾担任四家信息公司的研发部经理。请替换您的照片系统思维看见全貌系统思维看见全貌系统思考是整体地、动态地、连续地思考问题的思维模式，是在复杂动态系统中的一种以简驭繁的智慧，是一种解决问题的方法论，做法是找 寻杆扞点。整体地:设定边界，将相关因素考虑进去。因素系统思维看见全貌系统思考是整体地、动态地、连续地思考问题的思维模式，是在复杂动态系统中的一种以简驭繁的智慧，是一种解决问题的方法论，做法是找 寻杆扞点。整体地:设定边界，将相关因素考虑进去。动态地:考虑个因素之间的互动增减关系，并形成回路。因素关联系统思维看见全貌系统思考是整体地、动态地、连续地思考问题的思维模式，是在复杂动态系统中的一种以简驭繁的智慧，是一种解决问题的方法论，做法是找 寻杆扞点。整体地:设定边界，将相关因素考虑进去。动态地:考虑个因素之间的互动增减关系，并形成回路。连续地:将时间延迟的效应考虑进去。因素关联功能/目标目前的AI,不但看不到事情的全貌,而且患有严重的幻觉与偷懒的习性。幻觉来自LLM尚不成熟,偷懒则来自AI 吃掉太多资源，制造者只好想尽办法减少支出。中文版英文版CHGPT 4.AI 拥有意识吗?製作:台灣 數據科學家 尹相志先生GOPS 全球运维大会 2024 深圳站AI 的 妄想症 与 懒惰症AI 拥有严重的 妄想症 障碍AI 的主人拥有资源吝啬症XAI(Explainable AI)可解释人工智能AI PC、AI 云端，效能大跃进解释性人工智能(XAI，Explainable AI）旨在使机器学习模型的决策过程变得透明和可解释。GOPS 全球运维大会 2024 深圳站AI 擁有意識嗎?AI的计算能力已经超过人类，透过训练甚至可以通过图灵测试、骗过人类，但我们在何种意义上说 AI已经拥有自我、取代人类，成为超智慧了呢？Anil Seth 认为AI永远不会真正产生自我意识，因为意识并不是智慧发展到某个程度后伴随而来的产物，而是演化而来的。意识是演化而来GOPS 全球运维大会 2024 深圳站由看见全貌 到建立假设在项目开始之初，确实需要全面了解项目的背景、目标和现状，这个过程有时被称为“看见全貌”或在商业战略中称为“制定视野”。这个阶段的目的是为了建立一个坚实的基础，从而能够制定出有根据的假设，这些假设随后将指导项目的下一步行动。明确目标和约束厘清边界，将有助于聚焦于最重要的信息。也就是运用系统思维(System Thinking)的方式来解题。GOPS 全球运维大会 2024 深圳站人月神话：软件项目管理之道1975GOPS 全球运维大会 2024 深圳站問題?就是預期跟真實進度出現差距問題?預定目標真實進度差距GOPS 全球运维大会 2024 深圳站系统循环图 Causal loop diagram1.指定变量(Variable)2.画出连接(Links)3.辨识回路(Loop)创造你的变量原因结果+/-目标真实进度差距开发加倍连接原因、结果增强回路 或 调节回路要素关联功能目標GOPS 全球运维大会 2024 深圳站项目预定目标来不及了，这时候加人有没有用?陈列相关因子、元素澄清问题預定目标、真实进度、差距、开发加倍、增加人手相關因子GOPS 全球运维大会 2024 深圳站预定目标差距真实进度增加人手开发加倍+-+解决方法(目标趋近 基模)Causal Loop DiagramGOPS 全球运维大会 2024 深圳站预定目标差距真实进度增加人手开发加倍+-+(目标趋近 基模)Causal Loop Diagram时间延迟=GOPS 全球运维大会 2024 深圳站进度不如预期只好调降目标来，并怀疑能力不足?时间延迟理想目标目标调降+-+-增加人手进度进度幅度差距能力不足+=GOPS 全球运维大会 2024 深圳站饮鸩止渴基模理想目标目标调降+-+-增加人手真实进度进度幅度差距能力?+沟通成本磨合期长官关注加大落后加大落后技术债技术债-团队和谐+加班赶工-+-+时间延迟时间延迟=预定目标真实进度增加人手开发加倍+-+项目预定目标来不及了，直觉上应该增加人手构建因果回路解决滞后效应故事描述Causal Loop Diagram-?忽略了时间延迟直觉观忽略了时间延迟差距项目预定目标来不及了，这时候加人更糟(系统思维)构建因果回路列出关键要素解决滞后效应故事描述增加人手增加人手真的没有用吗?GOPS 全球运维大会 2024 深圳站改变边界:就有用了!任务的可分割性如果项目中的任务可以被高效地分解成多个小任务，并且这些小任务可以并行处理，那么增加人手可能会有助于加快进度。这要求项目管理者具有出色的任务分配能力和对项目的深刻理解。专家介入如果因为特定的技术难题导致项目延期，引入该领域的专家可能会迅速解决问题，从而加速项目进度。在这种情况下，增加的“人手”是带有特定技能和经验的，能够直接对解决问题做出贡献。提高自动化水平虽然这不直接涉及到增加人手，但在某些情况下，投资于提高项目的自动化水平（比如自动化测试、部署等）可以显着提升效率，间接解决人手不足的问题。增加非开发人员在一些情况下，项目延期可能是因为开发团队需要花费时间在非开发活动上，如文档编写、用户支持等。增加专门负责这些任务的人员可以让开发团队更专注于开发工作。(降低認知負荷)GOPS 全球运维大会 2024 深圳站问题 与 回答【问题】【分析】【回答】【确认】【完成】重点描述在二分钟内做解答提问者确认最后的回顾检视点头解答问题描述LowHigh10313感谢大家观看THANKS一旦；当你把眼光投注在哪一个要项的时候，实际上你就只看到那一部分，你的思绪将被那一部分的内容所牵动，很难再看见其他的事所以我们要退后一步，不!有时要退后很多步，才能比较清晰地看见全貌。项目开始之初，首重看见全貌-请思考你的退后一步是什么?WE ARE HERE!我在哪里?探索真正问题?提问 GOPS 全球运维大会 2024 深圳站运用 AI 解题思维傳統AI戰略創意结果开放任务复杂任务单纯结果明確GOPS 全球运维大会 2024 深圳站建立系统思维的起手式 说故事我看见甚么?我认为是甚么?意义是甚么?真實世界D.I.E.D.I.EGOPS 全球运维大会 2024 深圳站练习一下系统思维是透过常常运用，练出来的D.I.E.GOPS 全球运维大会 2024 深圳站一家公司新录取员工与离职员工人数相同?描述解读评估DESCRIPTIONINTERPRETATIONEVALUATIONORGOPS 全球运维大会 2024 深圳站一家公司新录取员工与离职员工人数相同?描述解读评估夕阳西下，而公司的门前格外忙碌。新员工们怀着憧憬度過刚刚加入这个大家庭的第一天，而离职的员工们正带着各自對公司的不滿和经历，踏出公司的大门，向着下一个人生旅程迈进。今天，进退的步伐交织成了一幅动人的画面，旧与新在黄昏的见证下，人数恰如其分地交错着。故事GOPS 全球运维大会 2024 深圳站一家公司新录取员工与离职员工人数相同?描述解读评估夕阳西下，而公司的门前格外忙碌。新员工们怀着憧憬度過刚刚加入这个大家庭的第一天，而离职的员工们正带着各自對公司的不滿和经历，踏出公司的大门，向着下一个人生旅程迈进。今天，进退的步伐交织成了一幅动人的画面，旧与新在黄昏的见证下，人数恰如其分地交错着。經驗豐富的在職員工(Experienced Employees)、新員工（New Employees)、培訓與適應時間(Training and Onboarding Time)、生產力(Productivity)、離職率（Attrition Rate）。经验丰富的员工离职产能下降离职率新进员工故事要素GOPS 全球运维大会 2024 深圳站一家公司新录取员工与离职员工人数相同?描述解读评估夕阳西下，而公司的门前格外忙碌。新员工们怀着憧憬度過刚刚加入这个大家庭的第一天，而离职的员工们正带着各自對公司的不滿和经历，踏出公司的大门，向着下一个人生旅程迈进。今天，进退的步伐交织成了一幅动人的画面，旧与新在黄昏的见证下，人数恰如其分地交错着。經驗豐富的在職員工(Experienced Employees)、新員工（New Employees)、培訓與適應時間(Training and Onboarding Time)、生產力(Productivity)、離職率（Attrition Rate）。经验丰富的员工离职产能下降离职率新进员工CLD图示故事要素GOPS 全球运维大会 2024 深圳站一家公司新录取员工与离职员工人数相同?描述解读评估夕阳西下，而公司的门前格外忙碌。新员工们怀着憧憬度過刚刚加入这个大家庭的第一天，而离职的员工们正带着各自對公司的不滿和经历，踏出公司的大门，向着下一个人生旅程迈进。今天，进退的步伐交织成了一幅动人的画面，旧与新在黄昏的见证下，人数恰如其分地交错着。經驗豐富的在職員工(Experienced Employees)、新員工（New Employees)、培訓與適應時間(Training and Onboarding Time)、生產力(Productivity)、離職率（Attrition Rate）。经验丰富的员工离职产能下降离职率新进员工培训和入职时间=時間延遲回路1回路2考慮時間延遲效應GOPS 全球运维大会 2024 深圳站一家公司新录取员工与离职员工人数相同?描述解读评估夕阳西下，而公司的门前格外忙碌。新员工们怀着憧憬度過刚刚加入这个大家庭的第一天，而离职的员工们正带着各自對公司的不滿和经历，踏出公司的大门，向着下一个人生旅程迈进。今天，进退的步伐交织成了一幅动人的画面，旧与新在黄昏的见证下，人数恰如其分地交错着。經驗豐富的在職員工(Experienced Employees)、新員工（New Employees)、培訓與適應時間(Training and Onboarding Time)、生產力(Productivity)、離職率（Attrition Rate）。增强回路(Reinforcing Loop)：高离职率会导致经验丰富的在职员工数量减少，这又会降低生产力，低生产力进一步提高离职率。平衡回路1(Balancing Loop)：新员工的增加会导致培训和适应的时间延长，造成生产力降低，逐渐熟练后，生产力会提高。平衡回路2(Balancing Loop)：生产力的下降会促使公司增加新员工的录取以填补人力缺口，造成生产力再降低。GOPS 全球运维大会 2024 深圳站Causal Loop Diagram 图示AI 的幻想图示经验丰富的员工离职产能下降离职率新进员工培训和入职时间=時間延遲回路1回路2夕阳西下，公司因为新进人员需要透过培训才具有基本产能，由于这种时间延迟差效应，造成无法藉由新人来补足经验丰富员工离职时的产能损失，使得公司的产能持续下降。故事GOPS 全球运维大会 2024 深圳站如何评估是否引进AI工具(对公司的效用)?描述解读评估DESCRIPTIONINTERPRETATIONEVALUATIONORGOPS 全球运维大会 2024 深圳站如何评估是否引进AI工具?描述解读评估由于生成式AI 的冲击，软件开发公司越来越多地采用人工智能(AI)来协助各阶段的开发工作，大部分的公司要求所有部門、人员一起清点如果采用AI对你现行工作在效能上可以提升多少、值得这样做吗?CLD图示故事要素GOPS 全球运维大会 2024 深圳站如何评估是否引进AI工具?描述解读评估由于生成式AI 的冲击，软件开发公司越来越多地采用人工智能(AI)来协助各阶段的开发工作，大部分的公司要求所有人员一起清点采用AI对你现行工作在效能上可以提升多少、值得这样做吗?(AI工具包括代码生成器、测试自动化工具、问题诊断系统等。)开发效率：开发过程中所需的时间和资源。错误率：在开发过程中出现错误的频率。人力资源配置：公司对开发人员的配置和工作分配。产品质量：最终产品的功能性和用户满意度。创新能力：开发新功能和产品的能力。CLD图示故事要素GOPS 全球运维大会 2024 深圳站如何评估是否引进AI工具?描述解读评估由于生成式AI 的冲击，软件开发公司越来越多地采用人工智能(AI)来协助各阶段的开发工作，大部分的公司要求所有人员一起清点采用AI对你现行工作在效能上可以提升多少、值得这样做吗?开发效率：开发过程中所需的时间和资源。错误率：在开发过程中出现错误的频率。人力资源配置：公司对开发人员的配置和工作分配。产品质量：最终产品的功能性和用户满意度。创新能力：开发新功能和产品的能力。CLD图示故事要素Error Rate 品質开发效能采用AI工具GOPS 全球运维大会 2024 深圳站如何评估是否引进AI工具?描述解读评估由于生成式AI 的冲击，软件开发公司越来越多地采用人工智能(AI)来协助各阶段的开发工作，大部分的公司要求所有人员一起清点采用AI对你现行工作在效能上可以提升多少、值得这样做吗?开发效率：开发过程中所需的时间和资源。错误率：在开发过程中出现错误的频率。人力资源配置：公司对开发人员的配置和工作分配。产品质量：最终产品的功能性和用户满意度。创新能力：开发新功能和产品的能力。CLD图示故事要素Error Rate 品質采用AI工具开发效能真正的问题真正的问题:技术债、不良架构、需求过多、没有迭代开发、缺少反馈改善。GOPS 全球运维大会 2024 深圳站如何评估AI对公司的效用?描述解读评估软件开发公司越来越多地采用人工智能(AI)来协助各阶段的开发工作，从初期的设计到测试和维护。使用AI可以提高效率、减少错误并释放人力资源去处理更复杂的问题。AI工具使用：包括代码生成器、测试自动化工具、问题诊断系统等。开发效率：开发过程中所需的时间和资源。错误率：在开发过程中出现错误的频率。人力资源配置：公司对开发人员的配置和工作分配。产品质量：最终产品的功能性和用户满意度。创新能力：开发新功能和产品的能力。增强回路（Reinforcing Loop）：AI工具的使用提高了开发效率，这降低了人力资源的压力，使公司能够重新配置人力资源以增强创新能力，创新又促进了更多AI工具的使用和开发。开发效率的提高通常会降低错误率，这提升了产品质量。高产品质量可以减少对人力资源的需求，因为需要较少的维护和错误修正，从而使资源更多地投入到创新和开发新产品上。饮鸩止渴(基模)，因为未能找出开发部门真正的问题所在，造成采用AI工具所提升的效能受到抵销，初期看似帮助很大，但时间一持续下去，效应就被抵销了。CLD图示故事要素GOPS 全球运维大会 2024 深圳站Causal Loop Diagram 图示AI 的幻想图示由于生成式AI 的冲击，软件开发公司越来越多地采用人工智能(AI)来协助各阶段的开发工作，却忽略探讨 AI 是否能解决你真正的问题所在，而盲目采用AI工具，只是饮鸩止渴!Error Rate 品質采用AI工具开发效能真正的问题故事改变开发的思维模式从 PDCA 到 HDCAGOPS 全球运维大会 2024 深圳站从 PDCA 到 HDCAPDCA是由于 爱德华兹戴明博士 所创，后来改成 PDSA，S:Study 学习。HypothesisdrivenDo-Check-Act运用假设取代数据搜寻与分析规划执行查核行动数据驱动解题GOPS 全球运维大会 2024 深圳站假说思考的开发方式 HDCA建立假说进行实验验证假说层次化解题时间解题迭代的数据驱动解题资料搜集消耗过多资料搜集时间AICopilot假说思考+敏捷化迭代进行分析AI数据驱动解题GOPS 全球运维大会 2024 深圳站假说思考的开发方式 HDCA建立假说进行实验验证假说层次化解题时间解题假说1假说2假说3资料搜集消耗过多资料搜集时间在实作中验证假说思考+敏捷化迭代进行分析AI数据驱动解题明确问题-设定假设-以数据验证假设误解:人们对系统思维的误解科技正在改变我们的生活方式，同样也在改变我们的工作方式。GOPS 全球运维大会 2024 深圳站系統思維的一些誤解1.过分复杂化事实：系统思维的目的是为了更好地理解复杂性，通过识别系统的关键元素和相互作用，是简化问题解决过程。2.忽视细节事实：系统思维强调既要看到整体，也要关注构成整体的各部分交互作用，及时间延迟也至关重要。3.万能解决方案事实：虽然它是一种强大的方法论，但并不适用于所有类型的问题。特别适用于复杂交互和反馈循环的情况。4.只适用于科学和工程事实：系统思维是一种普遍适用的方法，可以应用于任何领域，包括商业、教育、健康、社会科学等。5.高难度门槛事实：任何人都可以学习和应用系统思维的基本原则。非专家也能有效地应用系统思维来解决问题。6.不是单一方法或工具，是一种思维框架。7.不能忽视人的因素。GOPS 全球运维大会 2024 深圳站人工智能 与 系统思维增强我们解决复杂问题和优化系统性能的能力。参考自芒格学院系统思维提供了一种框架和方法论来理解复杂系统的行为和动态。AI 提供了工具和技术来分析大量数据、识别模式、预测未来趋势以及制定解决方案。GOPS 全球运维大会 2024 深圳站系統之美GOPS 全球运维大会 2024 深圳站GOPS 全球运维大会 2024 深圳站Thanks高效运维社区DevOps 时代荣誉出品感谢大家观看THANKSGOPS 全球运维大会 2024 深圳站參考資料SWOT 分析法ChatGPT 可以用来做 DevX 的平台吗?AI 之下的系统思维(System Thinking)Whatll XAIbecame?欧盟的 AI 伦理准则使用系统思维分析的方式来评估 AI工具是否合用GOPS 全球运维大会 2024 深圳站SWOT分析法优势(Strengths)、弱点(Weaknesses)、机会(Opportunities)、威胁(Threats)SWOT-海因茨韦里克 Heinz Weihrich优势你的強項，你可以控制的力量。弱点那些會削弱你力量的元素。机会環境趨勢，對你有利的選擇。威胁那些你無法，你無法掌控的因素。对内对外了解自己认识对手GOPS 全球运维大会 2024 深圳站-最佳工作環境2019最佳雇主-創新並提升機械製造能力-電池持久能力有限-入侵亞洲市場-具優勢的M3車型-各大汽車廠推出類似產品GOPS 全球运维大会 2024 深圳站ChatGPT 可以用來做 DevX 的平台嗎?當然可以，ChatGPT 可以在 DevX（Developer Experience）的平台中發揮重要作用。DevX 專注於改善開發者的工作經驗和生產力，而 ChatGPT 可以透過以下方式協助：代碼輔助：AI 可以幫助生成、解釋和優化代碼，提供編程建議和除錯幫助。自動化文檔創建：它可以幫助生成和維護技術文檔，例如 API 文檔、開發指南等。問題解答：對於開發過程中遇到的問題，AI 可以提供快速的解答或建議。學習和培訓：對於新技術和工具，AI可以提供學習資源和教程，幫助開發者提升技能。代碼審查輔助：它可以在代碼審查過程中提供意見，幫助識別潛在的問題和改進點。工作流自動化：AI 可以應用到開發工作流程中，自動化重複性任務，例如發布通知、更新追蹤系統等。將 ChatGPT 運用到 DevX 平台，可以提高開發者的效率，減少手動工作，並提供及時的技術服務。GOPS 全球运维大会 2024 深圳站AI之下的系统思维(System Thinking)跨学科融合透明度解释能力用户中心整体观安全性适应性提高透明度和可解释性整合和分析来自不同领域的数据和知识识别和减轻偏见识别和减轻偏见运用 AI 的预测能力和优化算法以协助决策实时监控复杂系统的状态，提供即时反馈分析大量的数据，揭示其中的模式、趋势和异常复杂系统建模与模拟GOPS 全球运维大会 2024 深圳站数据收集数据分析洞察与预测决策制定操作与实施结果的反馈Whatll XAIbecame?下一代人工智能不仅需要了解自己行为的结果，还要能预估这些行为的附带影响。它需要在考虑计划的同时设想到种种可能性-这便是系统思维了。Think out of the box.这句话已经是老生常谈了。它出自一个叫作“九点测试”的商业心理学实验。这项测试被收录在 1914 年出版的拼图百科全书中，并一直被用于有关创造力的心理学实验中。跳出思维定式1Code reviewGOPS 全球运维大会 2024 深圳站欧盟的 AI 伦理准则由人类监督AI、AI应稳健与安全并值得信赖、重视隐私和数据管制、使AI具有透明及可追溯性、AI应确保多元和公平、尊重社会和环境维护、建立完善究责制度。这些伦理准则旨在保障对AI的安全、公正、透明和负责任的发展，并为AI的发展提供了指导方针。可以相信嗎?系统思维使用系統思維分析的方式來評估AI工具是否合用GOPS 全球运维大会 2024 深圳站系统思维在解决复杂问题彼得圣吉:系统思考将引导一条路使人由看片段到整体；从对现状做被动反应，转为创造未来，从迷失在复杂的细节中，到掌握动态的均衡搭配。Peter M.Senge对于人类来说化约论(还原论)是比较直觉与简易的思考方式，人擅长把一个系统拆成一个个独立的模块，进行独立分析，简单的把系统切割再重组装回去，但很多事并非 1+1 不等于 2。因为还原论很难推导出系统层级的特性，所以才必须学习系统思考，才能见树又见林。GOPS 全球运维大会 2024 深圳站使用系统思维分析的方式来评估 AI工具是否合用1.定义系统边界和目标:边界、目标。2.相关系统元素:识别元素、分析关系。3.评估动态行为:模拟和预测、确定反馈循环。4.分析影响:评估技术影响、评估人员和流程影响、考虑法律和伦理影响。5.制定实施和评估计划:实施计划、持续评估。