大语言模型带来金融行业范式转换.pdf

大语言模型带来金融行业范式转换建信金科/刘东东GPT4GPT4：AGIAGI的小火花的小火花0101GPT4 GPT4 超越超越90%90%的人类的人类再次迎来工具升级，进入范式转换期再次迎来工具升级，进入范式转换期优秀的人只负责想，而AI负责帮你做。生产范式改变生产范式改变从学自己怎么做，改为自己如何让AI工具做得更好。教育模式改变教育模式改变由AI为辅，变为以AI为中心（或AI原生）研发。研发模式变化研发模式变化AGI赢家或只有一个，数据漩涡效益增加。世界格局变化世界格局变化 智人能够从10大人种中走出来，是因为善于升级工具，我们从打猎的长矛到比自己跑得快的汽车，其实工具一直在超越人类自身能力，长矛辅助人狩猎，语言辅助人交流，汽车辅助人移动，互联网辅助人获取信息。大语言模型无非是一种辅助人进行思考的工具。不平凡的是这次增强的是智力，而且不知道这个智能体是否存在自我意识，学会自己打造自己的工具或把人变成他的工具。范式转换：人机关系改变范式转换：人机关系改变0202GPT4GPT4催生人与机器的范式转换催生人与机器的范式转换专业技能：专业技能：编程制表系统操作自然自然语言语言AIAI学学专业专业能力能力人学人学专业专业能力能力范式范式转换转换GPT4的出现，开启了AGI帷幕，重新定义了人与机器的关系。GUI或APP的传统交互入口受到挑战，因为人只需要以自然语言描述需求，后续就是AI操作不同的系统来完成需求。人再也不需要学习非必要的各种APP的交互知识，而回归自然交互。范式转换范式转换人机交互新范式的三个阶段人机交互新范式的三个阶段范式转换范式转换专业技能：专业技能：编程制表系统操作自然自然语言语言AIAI学学专业专业能力能力人学人学专业专业能力能力范式范式转换转换第一阶段第一阶段第二阶段第二阶段第三阶段第三阶段副驾驶阶段：副驾驶阶段：新范式入口与旧范式新范式入口与旧范式UIUI页面对接，同时呈现给页面对接，同时呈现给人类用户人类用户主驾驶阶段：主驾驶阶段：新范式入口与旧范式新范式入口与旧范式APIAPI接口对接，废弃接口对接，废弃UIUI页面交页面交互，由新范式互，由新范式AIAI助手反馈结果助手反馈结果全自主阶段：全自主阶段：AIAI全自主完成工作，无需人类下达每个指令全自主完成工作，无需人类下达每个指令金融的范式转换场景金融的范式转换场景0303AIAI大模型应用大模型应用分层分层T0T0 解决人类干不了的事情解决人类干不了的事情数学难题、加速材料科学数学难题、加速材料科学、数据探索、数据探索 T1T1 缩短了普通人与专家的距离缩短了普通人与专家的距离作画、编程、数据分析作画、编程、数据分析、3D3D开发开发T2T2 协助你高效完成你熟悉的工作协助你高效完成你熟悉的工作写作辅助、工单生成、投研报告写作辅助、工单生成、投研报告LLMLLM可应用到所有领域可应用到所有领域写作辅助办公辅助对话聊天语言翻译内容检测编程开发LLMLLM金融场景应用全景金融场景应用全景发出机器人阅读某金融文档指令后，用户可以对话方式来了解文档摘要与详细内容智能文档分析TextMind客服系统的投诉进行分析，对非结构化数据进行结构化分析抽取：投诉的业务内容，问题处理方法通用客服智能处理将大型语言模型、图算法应用在征信报告的解读上，能够将报告解读出多维度的风险变量，极大提升银行风控模型的风险区分度风险控制能力赋能提供对相关财务信息和资源的即时访问来协助财务规划和编制预算辅助财务规划和预算编制客服里面的问题和答案，利用大模型生成问题及对应的答案对话和问答的生成内部的个性化激励评价输入关键词，可以生成丰富的描述人力资源辅助管理疑似反洗钱判断时，问客户的问题前需要提前阅读材料来拟定。反洗钱经理通过大模型工具对相应材料来生成问题，之后电话对客户进行确认，提升反洗钱经理效率。反洗钱问题生成通过分析客户数据和根据个人需求和目标提供量身定制的建议来帮助提供个性化财务建议。个性化财务建议辅助会计核算 成本管理 辅助资金管理 费用控制辅助税收筹划 内部控制辅助合规性检查自动化KYC辅助欺诈检测辅助新客户开户辅助客户贷款发放辅助财富管理NLP新范式增强知识图谱增强超级自动化LLMLLM现存的问题与挑战现存的问题与挑战除GPT4外，对复杂推理任务仍然存在挑战输出不可控，存在对客的声誉风险对简单常识也可能犯错具有侵入性，可改变事实模型滥用与数据污染价值观风险，依赖于标注人员推理效能低，大规模应用较难如何建设金融大模型如何建设金融大模型0404ChatGPTChatGPT主要能力提升点主要能力提升点上下文学习上下文学习能力能力思维链推理思维链推理能力能力泛化能力泛化能力 打破了原有认知智能的天花板打破了原有认知智能的天花板 激活了大模型的强大推理能力激活了大模型的强大推理能力（Instruction Learning+Instruction Learning+CoTCoT）证明了方向的正确性，证明了方向的正确性，Transformer+Transformer+大力出奇迹大力出奇迹+RLHF+RLHF的的模型持续迭代模型持续迭代可行可行 第一次在第一次在NLPNLP方向实现强人工智方向实现强人工智能，且具备一定的泛化能力能，且具备一定的泛化能力 闭环完成知识获取，可自我演进闭环完成知识获取，可自我演进我们的观点我们的观点ChatGPTChatGPT开悟，开悟，GPT4GPT4长出眼睛和耳朵长出眼睛和耳朵大语言模型对金融机构的机遇与挑战大语言模型对金融机构的机遇与挑战大模型在金融场景大模型在金融场景的应用需求广泛的应用需求广泛大模型是趋势与必然选择大模型是趋势与必然选择01远程银行工单抽取研报自动生成数字客户经理企业级知识共享风险防控业务质检智能文档分析其他业务场景大模型建设门槛高大模型建设门槛高金融机构难以独立建设金融机构难以独立建设021.海量、多样化、高质量数据门槛高，需要10001000亿亿级单词（Token）数2.训练算力成本较高，1000亿级参数模型微调训练需要200张以上A100算力，初建成本1 1亿亿以上，后期百万级/年电费成本3.模型私有化成本高，经调研，目前最低价为清华大学40004000万万+，百度文心一言在一亿一亿左右，中小机构难以承受，还存在技术更迭风险。4.人才队伍要求高，平台、算法人才目前市场稀缺稀缺大模型如何修炼大模型如何修炼第一阶段：预训练学习第一阶段：预训练学习他自由的从世界知识里面无监督学习以听懂第二阶段老师说的一切第二阶段：第二阶段：SFTSFT有监督微调有监督微调把他送进学校，让人类老师通过指令来训练他的正确价值观，教会他什么话应该说，什么话不应该说第三阶段：第三阶段：RLHFRLHF强化学习强化学习如果老师不够多或学生还需要更多练习，老师就会训练一个AI助教来自动批改学生作业，以通过题海强化学生人类价值观ChatGPTChatGPT不仅仅是聊天，不仅仅是聊天，LLMLLM也不仅仅是语言模型，他学习的不仅仅是文字接龙游戏，而是人们对世界的认知，只也不仅仅是语言模型，他学习的不仅仅是文字接龙游戏，而是人们对世界的认知，只是几千年进化的文字刚好是人类对世界认知的形式化映射，包括对逻辑推理的形式化（数学符号、编程语言）。是几千年进化的文字刚好是人类对世界认知的形式化映射，包括对逻辑推理的形式化（数学符号、编程语言）。企业如何进行企业如何进行AIAI大模型大模型的的建设建设WhyWhy 数据安全限制：目前使用ChatGPT需要调用公网API，存在数据出企业的安全问题。监管已经约谈直接调用ChatGPT的相关金融机构HowHow私有化部署或通过金融IDC云部署金融基础模型模型引入模型引入通过提示工程培训，完成对私域多样化数据的整理提示工程提示工程基于分布式训练平台，进行自有大模型的持续训练训练平台训练平台引入大模型应用，培养业务与AI的交互经验，激发AI能力场景应用场景应用企业如何用企业如何用AIAI大模型大模型业务通过自然语言交互，激发业务通过自然语言交互，激发AIAI的能力的能力业务提示工程师负责业务数据整理与后评估业务提示工程师负责业务数据整理与后评估建设建设AIAI基础设施与行业通用模型基础设施与行业通用模型AIAI训练工程师负责模型的持续训练与调参训练工程师负责模型的持续训练与调参算力GPU海量存储高速网络应用能力应用能力训练能力训练能力基础能力基础能力大模型应用工程化大模型应用工程化提供大模型应用商城与员工助手插件统一实现人与AI大脑的对接实现外挂知识库、搜索引擎、既有业务系统/组件API调用能力，形成知识融合能力，让大模型具备商用接口与应用能力提供提示工程培养机制通用大模型通用大模型基于通用大模型，利用金融数据训练金融领域大模型，形成具有行业知识的金融大模型联合生态方提供信通院最高AI训练平台等级支持MLOps能力基础算力环境基础算力环境基于建行云2.0算力设施建行云能赋能什么？建行云能赋能什么？闭环技术支撑与业务应用指导闭环技术支撑与业务应用指导