可信开源人工智能大模型案例汇编.pdf

1可信开源人工智能大模型案例汇编3可信开源人工智能大模型案例汇编随着开源技术占据各大新兴领域的技术路线，其不断丰富人工智能领域的应用场景。2023年，Meta 相继发布 Llama 和 Llama2，很快成为广受欢迎的开源大模型，也成为许多模型的基座模型。开源大模型可以促进技术的共享和交流，加速人工智能的发展，但也存在数据隐私安全风险、许可协议尚未形成共识、产业生态不健全、商业模式不清晰等问题。为进一步引导开源大模型产业规范发展，中国信通院云计算开源产业联盟联合超神经编制可信开源大模型案例汇编（第一期）案例，旨在洞察开源人工智能大模型应用场景，梳理开源人工智能大模型的开源成熟度，提升开源人工智能大模型的创新发展。案例通过调研国内开源大模型的技术细节、应用场景、商业模式、应用治理、发展趋势等，并关注开源大模型技术生态及产业链上下游，全面展现开源大模型及其工具链的发展全貌，为下一代技术浪潮的发展助力。前言4可信开源人工智能大模型案例汇编01020304开源人工智能大模型开源成熟度4开源人工智能大模型发展历程1全球开源人工智能大模型商业模式基本形态5开源正成为推动人工智能大模型创新发展的关键引擎1开源人工智能大模型治理6全球开源人工智能大模型发展关键问题开源人工智能大模型开源程度统计7开源人工智能人工智能大模型优势与不足9开源人工智能大模型商业落地情况8开源人工智能大模型安全风险与合规情况10开源人工智能大模型基础配套设施建设情况9开源人工智能大模型未来发展展望11我国开源人工智能大模型发展洞察目录可信开源大模型产业推进方阵相关工作开源人工智能大模型发展背景和发展现状5可信开源人工智能大模型案例汇编0506ChatGLM 大模型14Colossal-AI47紫东太初大模型24Xtreme157DataCanvas Alaya 九章元识大模型31HyperAI 超神经61ChatLaw 大模型38通义千问大模型21DingoDB 多模向量数据库54Baichuan 大模型28AutoDev59TigerBot 大模型34元象大模型41聚宝盆(Cornucopia)金融大模型45大模型案例基础设施案例63OpenBayes 贝式计算65Milvus1可信开源人工智能大模型案例汇编开源正成为推动人工智能大模型创新发展的关键引擎在人工智能大模型领域，开源能够激发技术创新活力，推动数字时代科技创新。开源汇聚众智、促进多方协同，有效实现了优势互补，激发技术创新活力。开源开放的创新模式相比于工业时代封闭专利的创新模式，更顺应数字时代技术迭代快、应用范围广的发展规律，解决单一主体创新成本过高问题，通过去中心化的异步协作激发各类主体的创新创造活力，以开放协作实现智慧累积，对创新效率和创新质量带来巨大提升。Meta 在 Llama 基础上开源 Llama2并允许免费用于商业用途。Llama2 为初创企业和科研机构等主体提供了一个强大的免费选择，可以作为 OpenAI 和谷歌出售的专有模型的补充，有效激发了人工智能大模型共创浪潮。仅Llama2 开源几日后，在其基础上衍生的大模型 FreeWilly2 便实现对 Llama2 的性能超越。与此同时，Llama2 凭借其开放可拓展的优势，衍生出 lawyer-llama、EduChat 等垂直领域的模型产品，加速推动人工智能大模型场景化应用创新。开源人工智能大模型发展背景和发展现状1开源人工智能大模型发展历程大语言模型的开源推动了深度学习和人工智能的持续发展，也催生了一系列前沿探索和 落 地 应 用。2017 年，Google 发 表 论 文“Attention is All You Need”，首 次 提 出 了 Transformer 架构，该架构成为后续人工智能大模型构建的基础。2018 年 11 月，Google 提出 SOTA NLP 预训练模型 BERT 并将其源代码开源，BERT 在 SQuAD v1.1 和 GLUE Benchmark 上得到最高水平评分。2020 年 2 月，Google 发布 T5 模型，通过 text-to-text 格式训练，可22可信开源人工智能大模型案例汇编以学习通用语言表征，并通过微调适应特定任务。2022 年 5 月，Meta AI 发布 OPT-175B 并开源了预训练模型及源代码，OPT-175B 禁止商用但允许学术单位及科研机构使用。2022 年 6 月，BigScience 社区发布 BLOOM，具备 1760 亿个参数，支持 59 种语言，旨在为公众提供 GPT-3 的开源替代品。2022 年 8 月，清华大学开源中英双语预训练模型 GLM-130B，使用通用语言模型算法进行预训练。2023 年 2 月，Meta AI 开源 SOTA 基座大语言模型 LLaMA，训练数据全部来源于公开数据集，参数范围 7B-65B。2023 年 6 月，百川智能发布开源可商用大规模预训练语言模型 Baichuan-7B，支持中英双语，上下文窗口长度 4096。2023 年 10 月，智谱AI 开源 ChatGLM3 系列模型，包括 ChatGLM3-6B（32k）、多模态 CogVLM-17B、以及智能体 AgentLM。2023 年 12 月，阿里云在通义千问发布会上开源 Qwen-72B、Qwen-1.8B 和 Qwen-AudioQwen 3 个大模型。3可信开源人工智能大模型案例汇编随着开源人工智能大模型不断发展，由 BLOOM、LLaMA 等主流开源大模型逐渐衍生出其他开源人工智能大模型。LLaMA2023 年 2 月，Meta AI 开源 SOTA 基座大语言模型，同年 7 月，Meta AI 再次发布 LLaMA 2，训练数据相较于 LLaMA 1 提升了 40%，上下文长度翻倍。同时，LLaMA 2 还允许商用，由此衍生了众多开源大模型。2023 年 3 月，斯坦福大学微调 LLaMA-7B 推出 Alpaca-7B，Alpaca 仅供学术研究使用，禁止商用。2023 年 3 月，哈工大-科大讯飞联合实验室发布了基于中文 LLaMA 模型和指令精调的 Alpaca 大模型 Chinese-LLaMA-Alpaca，进一步促进大模型在中文 NLP 社区的开放研究。2023 年 3 月，LMSYS Org 发布基于 LLaMA 的开源大模型 Vicuna-13B，它是一个用 ShareGPT 收集的用户对话训练的开源聊天机器人。2023 年 6 月，清华大学联合面壁智能等企业推出基于 LLaMA-13B 的大模型 UltraLM-13B。2023 年 8 月，度小满研究团队开源了基于 LLaMA2-70B 进行中文增强的一系列金融大模型 XuanYuan-70B。BLOOM2022 年 6 月，BigScience 社区发布 BLOOM。2023 年 5 月，度小满基于 BLOOM-176B 开源千亿级中文金融大模型轩辕(XuanYuan)。2023 年 5 月，链家科技基于 BLOOM 和 LLaMA 开源了中文对话大模型 BELLE。2023 年 6 月，虎博科技基于 GPT 和 BLOOM 两个开源模型，发布自研多模态大模型 TigerBot。大数据系统计算技术国家工程实验室团队正在研发基于 BLOOM 中文增量训练的中文基础模型 Linly-Chinese-BLOOM，包含 7B 和 175B 模型量级，可用于商业场景。4可信开源人工智能大模型案例汇编人工智能大模型的部署应用需要经历数据准备、模型设计、模型训练、模型优化等多个环节，落地后仍需要根据实际需求以及应用反馈进行调整与维护。其中，模型框架、模型代码、模型参数、训练数据四个方面是衡量其开源成熟度的重要评定等级。开源人工智能大模型开源成熟度1全球开源人工智能大模型发展关键问题5可信开源人工智能大模型案例汇编全球开源人工智能大模型商业模式基本形态2开源人工智能大模型的商业模式基本分为两类：类 open-core 商业软件模式open-core 商业软件模式是指核心代码开源，但是部分功能代码是闭源，最终形成了闭源的代码软件进行售卖。在开源人工智能大模型企业中，企业开源较低参数规模的大模型，并提供较大参数规模的付费版本。企业根据自身场景和业务需求，为客户定制专属大模型，并针对部署的定制化版本提供更全面的支持、咨询、培训和托管服务。专业服务模式专业服务模式由传统商业软件的以“产品”为卖点转向以“服务”为卖点，是开源商业公司采用的一种全新的商业模式。由于开源人工智能大模型一种技术密集型产品，需要对大模型进行持续维护、优化、迭代升级才能发挥软件的最大价值。专业服务模式下的开源商业公司针对免费的开源项目提供收费服务，如技术文档、二次开发支持、用户培训等技术服务实现盈利。6可信开源人工智能大模型案例汇编开源人工智能大模型治理3开源人工智能大模型的治理分为数据治理与模型治理两部分。在数据治理中，开源人工智能大模型关注数据隐私与数据安全质量。开源人工智能大模型训练数据的非法泄露可能会导致敏感信息的暴露，因此确保数据隐私的安全成为治理的重要环节之一。在开发和使用过程中，需确保数据采集、存储和处理符合相关法规。数据的安全质量对于开源人工智能大模型同样重要。为确保数据安全质量，需关注数据的准确性、完整性、代表性等，并关注数据偏差和数据集的平衡性，避免模型在特定群体或场景下产生不公平偏见。高质量的数据能为模型提供更好的基础，从而使其在实际应用中发挥更大的价值。在模型治理中，应注重开源协议使用与模型伦理道德问题。开源协议通过明确规定开源项目的使用、修改和分发方式，为企业和用户提供了一定程度的保障。开源许可证保障了开源大模型的自由使用和共享，促进了创新和协作，同时也为开源大模型的作者和用户提供了一定的法律保护。目前，部分开源人工智能大模型使用常用的许可协议如 Apache 许可证等，同时部分模型采用自己定义的许可证。开源人工智能大模型的开发和应用还需关注伦理道德问题。这包括确保模型的公平性、透明度和可解释性，避免歧视性结果，评估和管理模型可能带来的社会影响。此外，还需关注模型在特定领域的合规性和符合道德标准的使用，以确保技术的正面推动作用。7可信开源人工智能大模型案例汇编我国开源人工智能大模型发展洞察开源人工智能大模型开源程度统计1在入选本次案例集的大模型中，模型框架开源的企业占比为 100%，模型代码开源的企业占比为 100%，模型参数开源的企业占比达到 100%。在本次调研的所有开源大模型中，用户均可以实现本地部署并针对实际使用情况进行微调。另有 22%的大模型对其训练数据进行开源，方便用户对模型进行微调和二次开发。同时，部分大模型对外公布其训练细节，方便用户研究大模型训练过程以及进行模型继续训练。8可信开源人工智能大模型案例汇编开源人工智能大模型商业落地情况2目前，开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景，其中，应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过 30%。在金融领域中，部分开源大模型已经应用于智能客服、智能运营、智能办公等场景，通过智能客服与用户进行多轮对话，提出具体的、可行的解决方案，同时通过开源人工智能大模型生成广告和营销内容，提升营销效率，运用开源人工智能大模型了解国内外的宏观政策、行业信息、产品信息，自动生成文章、报告，提供专业建议和方案辅助交流。在法律领域中，应用开源大模型提供全流程智能辅助办案应用，对法律案件进行拆解、提取关键事件，构建智能审查、量刑预测、文书生成、自动编目、笔录生成等业务能力，通过智能技术辅助办案人员的常规工作，实现案件分析速度的提升。在企业服务中，开源人工智能大模型实现智能化业务运营。通过数据分析和预测能力，洞察企业运营、识别潜在的业务风险和机会，9可信开源人工智能大模型案例汇编并提供智能化的解决方案，从而提高经营决策水平和业务运营效率，赋能企业构建高度自动化与智能化的企业知识库，并进行企业相关文档的摘要、总结、溯源。在制造业领域，开源人工智能大模型已应用于产线运营效率环节，如产品设计研发、质量控制检测、供应链管理、安全生产等。开源人工智能大模型基础配套设施建设情况3伴随开源人工智能大模型的发展，数据平台、大模型开发工具、大模型训练部署平台与向量数据库等基础配套设施的开源生态不断完善。开源数据平台使用门槛较低，相比传统数据服务，具有显著的成本优势。开源训练平台用户能够最大限度地提高人工智能部署的效率，同时大幅降低成本。开源向量数据库由于其开源开放特性，在性能、扩展能力和功能方面具有优势，开源向量数据库具有较快的数据查询速度和更高的压缩比率，同时具有更强大的扩展能力。大模型开源开发工具降低了个人用户和中小企业的开发难度，目前国内部分大模型开源开发工具用户已超万人。大模型开源训练部署平台能够灵活部署，从数据管理、模型开发、训练管理、模型管理全链路功能开放透明，方便用户学习。开源人工智能人工智能大模型优势与不足优势4在本次调研的开源人工智能大模型中，部分模型在开源模型测评榜单中位居前列，部分开源模型能力已领先LLaMA2，在全球形成中国大模型开源生态圈。同时开源大模型语言能力出众，在逻辑推理、幻觉感知等方面有高的精度，配套生态丰富，可以支持行业模型应用。开源人工10可信开源人工智能大模型案例汇编开源人工智能大模型安全风险与合规情况5在本次调研的开源人工智能大模型中，通过强化数据安全与保障模型安全以提升模型合规能力。通过数据安全与模型安全，已初步构建开源人工智能大模型安全保障防线。在数据安全方面，部分企业构建数据安全标注团队，标注并审核安全与合规相关的微调数据，优化预训练数据质量，使用规则加模型的方法过滤大量不良信息。同时企业建立内容安全策略，通过从应用到数据、框架、基础设施以及整个的合规体系的建设，以及关注数据投喂带来的价值偏见、隐私泄露、数据污染、训练数据固有偏见导致模型产生偏见内容等问题。在模型安全方面，企业建立安全一系列策略，如训练基于安全和合规的奖励模型，通过RLHF 对齐大模型的价值观，约束至符合主流安全规定，采用机器审核与人工审核结合的模式对用户输入的问题以及模型生成的答案进行审核，注重算法安全，针对涉底线的相关问题搭建了分类检测模型。通过调研，目前国内开源人工智能大模型数量较闭源人工智能大模型仍有差距，模型在多语言能力，支持的序列长度，推理速度，显存占用等方面仍有进步空间。同时开源人工智能大模型应用创新落地能力仍有提升空间。目前国内外基于大模型的应用多停留在基础阶段，应不断提升开源大模型能力，为用户带来便捷、可靠、高效、个性化的产品。智能大模型有效降低用户使用门槛，方便用户训练、微调并使人工智能大模型。不足11可信开源人工智能大模型案例汇编开源人工智能大模型未来发展展望6模型能力提升。坚持模型规模和数据规模的提升，不断提升基础模型的智能水平，打造结合大模型的 AI 系统，让 AI 具备听说看等基础能力，持续探索大模型具身智能，支持智能感知认知决策，实现和真实世界的交互。加快行业应用落地。以大模型推动 AI 行业升级，革新内容生产模式、全自然交互完成任务，优化模型逻辑，贴合真实场景需求，就多个细分领域结合专业数据训练细分领域模型，以便更好的应用于细分场景。加强开源配套设施建设。通过加强开源数据平台、大模型开发工具、大模型训练部署平台与向量数据库等基础配套设施建设，降低人工智能大模型使用门槛，实现专家级虚拟助手，颠覆传统开发方式、成为工作加速器，持续繁荣开源人工智能大模型生态。12可信开源人工智能大模型案例汇编可信开源大模型产业推进方阵相关工作2023 年 9 月 21 日，由中国信息通信研究院和中国通信标准化协会联合主办的“2023 OSCAR 开源产业大会”在北京举行。会上，中国信通院联合多家企业、高校和科研机构共同成立中国信通院可信开源大模型产业推进方阵（TWOS-LM）。TWOS 下设的可信开源大模型产业推进方阵旨在聚集开源大模型相关企业和人才，探讨开源大模型的治理、商业化模式等热点问题，并提供大模型生态赋能。中国信通院可信开源大模型产业推进方阵成立已开展工作113可信开源人工智能大模型案例汇编为进一步促进大模型的开源和合作，引导开源大模型产业健康规范发展，中国信通院开启 可信开源大模型案例汇编（第一期）案例征集计划。案例旨在促进大中小企业融通，扩展开源人工智能大模型、行业大模型服务千行百业的应用场景，提升企业应用开源大模型实现专精特新发展。可信开源大模型案例集 后续计划214可信开源人工智能大模型案例汇编大模型案例ChatGLM 大模型开源大模型概述1自 2019 年成立以来，智谱 AI 致力于大模型技术的研究和推广工作。在 2023 年，我们推出并开源了多款模型，它们具有不同的能力，开发者可以对这些模型进行使用和定制。Token 数代表了模型支持的总 Token 数量，包括了输入+输出的所有 token。同时，Token 数不代表用户输入字符的数量。在我们的模型中，一个 token 约等于 1.8 个汉字。15可信开源人工智能大模型案例汇编Chat 模型下表为智谱 AI 开源的语言模型列表模型介绍上下文token数代码链接模型权重下载链接ChatGLM3-6B8KChatGLM3ChatGLM3-6B-base8K第三代ChatGLM基座模型。ChatGLM3-6B-Base采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。在语义、数学、推理、代码、知识等不同角度的数据集上测评显示，ChatGLM3-6B-Base具有在10B以下的基础模型中最强的性能。ChatGLM3-6B-32k8K第三代ChatGLM长上下文对话模型。在ChatGLM3-6B的基础上进一步强化了对于长文本的理解能力，能够更好的处理最多32K长度的上下文。ChatGLM2-6B8KChatGLM2ChatGLM2-6B-int48KChatGLM2-6B的int4量化版本，具备最小5.1GB显存即可运行。INT4量化下，6G显存支持的对话长度由1K提升到了8K。ChatGLM2-6B-32k32KChatGLM2-6B-32k-int432K16可信开源人工智能大模型案例汇编ChatGLM-6B2KChatGLMChatGLM-6B-int42KChatGLM-6B的Int4版本。最低只需6GB显存即可部署，最低只需7GB显存即可启动微调（P-Tuningv2）ChatGLM-6B-int82KChatGLM-6B的Int8版本AgentLM-7B4KAgentTuningHuggingfaceRepo我们提出了一种AgentTuning的方法AgentLM-13B4KHuggingfaceRepo我们开源了包含1866个高质量交互、6个多样化的真实场景任务的Agent数据集AgentInstructAgentLM-70B8KHuggingfaceRepo基于上述方法和数据集，我们利用Llama2微调了具备超强Agent能力的AgentLM-7B、AgentLM-13B、AgentLM-70B。多模态模型智谱 AI 致力于推动多模态模型的发展，因此，我们推出了具有视觉和语言双模态的模型。模型介绍代码链接模型下载CogVLM-17BCogVLM智谱AI最新的，强大的开源视觉语言模型（VLM）。基于对视觉和语言信息之间融合的理解，CogVLM可以在不牺牲任何NLP任务性能的情况下，实现视觉语言特征的深度融合。我们训练的CogVLM-17B是目前多模态权威学术榜单上综合成绩第一的模型，在14个数据集上取得了state-of-the-art或者第二名的成绩。Visualglm-6BVisuaGLMRDMRDM17可信开源人工智能大模型案例汇编代码模型模型介绍代码链接模型下载CodeGeeX2-6BCodeGeeX2CodeGeeX2-6B-int4CodeGeeX2的量化版本CodeGeeX-13BCodeGeeXCodeGeeX下载其他模型我们还开源了以下模型，以便用户使用我们多元化的产品。18可信开源人工智能大模型案例汇编19可信开源人工智能大模型案例汇编开源大模型发布时间历程2开源大模型信息3问题列表具体内容项目地址G 是智谱 AI 和清华大学 KEG 实验室联合发布的新一代对话预训练模型。ChatGLM3-6B 是 ChatGLM3 系列中的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM3-6B 引入了如下特性：1.更强大的基础模型：ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。在语义、数学、推理、代码、知识等不同角度的数据集上测评显示，ChatGLM3-6B-Base 具有在 10B 以下的基础模型中最强的性能。2.更完整的功能支持：ChatGLM3-6B 采用了全新设计的Prompt 格式，除正常的多轮对话外。同时原生支持工具调用（Function Call）、代码执行（Code Interpreter）和 Agent 任务等复杂场景。3.更全面的开源序列：除了对话模型ChatGLM3-6B外，还开源了基础模型ChatGLM3-6B-Base、长文本对话模型ChatGLM3-6B-32K。以上所有权重对学术研究完全开放，在填写问卷进行登记后亦允许免费商业使用。21可信开源人工智能大模型案例汇编开源大模型概述1开源大模型发布时间历程2开源大模型落地案例及开源商业化进程3模型名称：Qwen(通义千问）系列，其中包括大语言模型 Qwen，大视觉语言模型 Qwen-VL，大语音模型 Qwen-Audio所属机构名称：阿里巴巴集团支持语言种类：本系列模型支持多种语言，但以中英为主，经测试，模型在法德意西等欧洲语言，日韩等亚洲语言表现良好。上线配套工具包括：API 服务 DashScope，网页端服务通义千问，APP 服务通义千问，插件包括VSCode 插件通义灵码类别：通用，场景不限Qwen-7B:8 月发布，9 月更新 v1.1Qwen-VL:8 月发布，9 月更新 v1.1Qwen-14B:9 月发布Qwen-72B:计划 11 月底发布Qwen-Audio:计划 11 月底发布Qwen 自开源以来，广泛在阿里巴巴集团内外落地，帮助集团内外上百个业务落地，支持了淘宝、钉钉等集团内业务，也在浙江大学、有鹿机器人、央视网等客户的业务场景实线落地应用（为保客户隐私，许多客户名称暂不透露）。典型案例包括对钉钉的魔法棒产品支持，可以实线问答、翻译、摘要等能力，以及浙江大学使用 Qwen 实现教育领域专属大模型智海三乐，以及有鹿机器人使用 Qwen 落地于清洁机器人等。通义千问大模型22可信开源人工智能大模型案例汇编开源大模型信息4问题列表具体内容项目地址https:/ pajama，pile，悟道，万卷等，其余为私有数据集，无法公开。Qwen 在多项基础能力测评领先同规模甚至更大规模的其他语言模型，并且中文能力远超诸如Llama 系列的海外模型，同时 Qwen 具备领先的工具调用及 Agent 能力。当前主要从三个方面入手解决幻觉问题：1.检测数据中虚假信息，提升数据质量；2.扩大模型规模并增大预训练数据量，模型能力的提升能实现幻觉水平的降低；3.结合搜索增强以及知识库等方法，提升生成信息的准确性。开源大模型安全与合规治理8开源大模型未来发展规划91.优化预训练数据质量，使用规则加模型的方法过滤大量不良信息；2.大量标注并审核安全与合规相关的微调数据，让模型学习正确的价值观；3.训练基于安全和合规的奖励模型，以提升生成模型的安全水位。未来计划包括多个方面：1.坚持模型规模和数据规模的提升，不断提升基础模型的智能水平；2.打造结合大模型的AI系统，让AI具备听说看等基础能力，并实现和真实世界的交互；3.夯实大模型基础服务，并打造行业应用大模型。24可信开源人工智能大模型案例汇编开源大模型概述 1开源大模型发布时间历程2模型名称：紫东太初 2.0所属机构：中国科学院自动化研究所支持语言：中英平台：taichu-“紫东太初 2.0”是武汉人工智能研究院联合中科院自动化所、华为，基于昇腾 AI，在全球首个图文音三模态大模型“紫东太初”基础上，利用昇思 AI 框架全新升级，推出的新一代大模型，从三模态走向全模态，打造中国通用 AI 智能底座，助推认知智能时代加速到来。从文本创作、多轮问答到绘画作诗、代码生成、数学计算，“紫东太初 2.0”以更强的认知、理解、创作能力，带来全新互动体验，推动万物互联走向万物共生，向通用人工智能的目标更进一步。紫东太初大模型25可信开源人工智能大模型案例汇编第一阶段为技术累积期，从 08 年-20 年进行图文音个模块单独攻关，累积各细分方向的前沿技术能力；自 2020 年起，中国科学院自动化研究所即坚持以“图-音-文”多模态技术为核心，确立多模态大模型布局，整合所内图像、文本、语音等研究方向的优势资源开展集团式攻关，于 2021 年 9 月成功打造“紫东太初”1.0 多模态大模型。“紫东太初”1.0 助推人工智能从“一专一能”迈向“多专多能”，向发展通用人工智能迈出了坚实的第一步。以此为基础，“紫东太初”大模型的多模态探索仍在持续深入。迈入数字经济时代，数据的范畴不断拓宽，不仅包含人类自身产生的语音、图像、文字等数据，还有机器产生的大量结构和非结构化数据。针对新需求与新趋势，“紫东太初”2.0在语音、图像和文本之外，加入了视频、信号、3D点云等更多模态，从技术架构上实现了结构化和非结构化数据的全模态开放式接入；突破了能对信息进行充分理解和灵活生成的多模态分组认知编解码技术，能融合多个任务的认知增强多模态关联技术等，大模型多模态认知能力大幅提升。“紫东太初”2.0 可以理解三维场景、信号等数字物联时代的重要信息，完成了音乐、图片和视频等数据之间的跨模态对齐，能够处理音乐视频分析、三维导航等多模态关联应用需求，并可实现音乐、视频等多模态内容理解和生成。从1.0到2.0，“紫东太初”大模型打通了感知、认知乃至决策的交互屏障，使人工智能进一步感知世界、认知世界，从而延伸出更加强大的通用能力。开源大模型落地案例及开源商业化进程3紫东太初行业大模型应用案例（1）法律行业大模型案例基于全球首个千亿参数多模态大模型“紫东太初 2.0”，训练法律行业专用模型，通过将法律案例、法律法规、案卷材料等法律相关数据，经过清洗、标注、分析后，“投喂”给“紫东太初”大模型完成预训练，再将模型输出的结果，经法律专业人士审核，进一步强化模型能力，从而实现通用大模型在专业领域“说”专业语言。经过训练，“紫东太初”大模型可对法律案件进行拆解、提取关键事件，在办公效率方面，实现案件分析速度的百倍提升。（2）政务行业大模型案例基于光谷政务服务业务需求，结合紫东太初大模型基座能力，训练招才政务大模型。未来将担任已26可信开源人工智能大模型案例汇编经在光谷或意向来光谷的人才智能助手，充当人才的 24 小时智能客服，竭力为人才来鄂来汉创新创业，提供全周期、全链条服务，为人才搭建事业舞台，助力人才追梦、圆梦。经评测，在吸引人才落户创业，帮助区域企业推荐项目合作等方面成效显著，服务效率提升 3 倍，服务满意度提升 30%以上。（3）医疗行业大模型案例-医疗器械基于紫东太初大模型开放服务平台打造医疗行业大模型，实现数据智能标注、高效模型训练、模型灵活部署，实现骨科器械/耗材的自动识别和清点，实现智能化、精细化管理。骨科类器械/耗材管理l 规格复杂、数量繁多，清点复核耗时长，且严重依赖人工清点，出错率高，正常单人单次清点需花费 2小时以上，经实际评估，使用本大模型结合视觉能力，可实现 5 分钟每台手术的器材清点，人效提升 6倍以上，整体准确度可达 97%以上。（4）医疗行业大模型案例-医疗科研基于紫东太初大模型打造医疗行业科研大模型，分析数千万量级文献，结合持续更新的临床数据和试验数据，梳理文献中的文本、数据、图片等多模态融合数据进行预训练，结合专业医学教授沉淀的经验进行指令微调和反馈，大模型进行持续的行业强化学习，可完成精准的多模态信息的结构化抽取和文献总结，不断优化模型能力。医疗科研中文献梳理是一个纷繁复杂的过程，基于紫东太初医疗行业大模型，经实际评估，可实现秒级的文献结构化能力，人效提升 30 倍以上，整体准确度可达 99%以上，大幅减轻医疗科研工作者效率，后期，将拓展模型主动科研探索能力，真正助力医疗科研走上新的台阶。开源大模型信息4问题列表具体内容项目地址大模型体验地址：taichu-中文高质量开源数据集https:/huggingface.co/datasets/CASIA-LM/ChineseWebText大模型数据处理开源代码：https:/ 3 个关键需求：一是安全可控，包括内容安全和算法安全；二是场景驱动，要在看得见摸得着的场景上，产生实实在在的应用价值，用统计数据来证明应用成效；三是要有专属模型，能保护用户的专有数据，建立私有云平台，保障客户的数据安全。持续研究大模型工作机理。加快行业应用落地，以大模型推动 AI 行业升级，革新内容生产模式、全自然交互完成任务、实现专家级虚拟助手、颠覆传统手工编程方式、成为工作加速器。持续探索大模型具身智能，支持智能感知认知决策。28可信开源人工智能大模型案例汇编开源大模型概述1开源大模型发布时间历程2开源大模型落地案例及开源商业化进程3百川智能共发布 Baichuan-7B/13B，Baichuan2-7B/13B 四款开源可免费商用大模型，一款Baichuan2-192K 开源大模型。支持阿拉伯文、中文、英文、法文、俄文、西班牙文、德文、日文等 8种语言。目前对个人用户方面仅上线网页端对话功能，属于通用大模型，适用领域有个人用户、大模型学术机构、开发者和企业用户。其中 Baichuan2-192K 适用于传媒、金融、法律等具体场景，不久后将全面开放。百川智能 2023 年 6 月 15 日发布国内首款开源可免费商用 70 亿参数量大语言模型 Baichuan-7B；7 月 11 日发布参数量 130 亿的大语言模型 Baichuan-13B-Base、对话模型 Baichuan-13B-Chat；9 月 6 日发布 Baichuan2-7B/13B,10 月 30 日发布 Baichuan2-192k；计划 2023 年 Q4 推出开源的 7B 和 13B 模型持续迭代。有超过上百家企业已申请百川大模型开源商用授权，并已将百川模型投入实际生产场景。企业涵盖互联网、软件和信息技术、金融、法律、教育、制造业、企业服务等众多领域，合作伙伴群体仍在持续扩大。Baichuan 大模型29可信开源人工智能大模型案例汇编开源大模型信息4问题列表具体内容项目地址GitHubStar数量2.9k开源许可免费可商用模型大小13B参数规模13B附带历史消息数4ktokenToken数量2.6T所用算力1000A800单次训练时长15用户规模内外部贡献者比例完全内部已上线的社区及链接（https:/huggingface.co/baichuan-inc/Baichuan2-13B-Chat）GitHub（https:/ Alaya 九章元识大模型开源大模型概述1模型名称：DataCanvas Alaya 九章元识大模型所属机构名称：北京九章云极科技有限公司模型支持的语言种类和数量：万亿 Token 中英文训练，训练中英文比例 1:2配套工具（平台、插件、APP）：Alaya-7B 已经在 GitHub 进行开源。其工具链模型运行工具和提示词管理器已经上线，并在 GitHub 进行开源。模型所属的类别：通用面向的具体领域和场景：银行业，智能数仓管理、NL2SQL、文档关键信息提取；制造业，领域知识库管理、故障智能诊断与分析；零售业，行业动态调研与分析、风险分析、市场方案指定；教育行业，智能辅助助手、角色扮演语言练习搭档开源大模型发布时间历程22023 年 6 月 30 日，正式发布通识大模型 DataCanvas Alaya 九章元识大模型；2023 年 11 月 21 日，正式发布 Alaya-7B 开源以及 Alaya-7B Chat 版本；开源大模型落地案例及开源商业化进程3DataCanvas Alaya 九章元识大模型与 DingoDB 多模向量数据库联合打造了企业知识管家解决方案，已在金融、制造等多个领域进行商业化落地，赋能企业构建高度自动化与智能化的企业知识库，加速多模态大模型落地应用。32可信开源人工智能大模型案例汇编开源大模型信息4问题列表具体内容项目地址https:/ SFT 数据集(500k+条数据)，覆盖多领域、多形式、多情景。不对外公开。33可信开源人工智能大模型案例汇编开源大模型的特点61、“白盒”大模型为用户提供更大自由度市场上的很多大模型都是“黑盒”，虽然在一定程度上开源了算法和架构，允许用户在上面进行训练，但是仍然受到诸多限制。比如，虽然允许用户使用该大模型，但是不能做微调，或者不允许用户做一些自己特有的商业化应用。Alaya 九章元识大模型是全面开源且 license 友好的“白盒”大模型，遵循 Apache 2.0 license，行业用户可以在 Alaya 九章元识大模型之上自由地训练、微调自己的大模型。2、“多模态”是必要前提，更是创新的手段Alaya 九章元识大模型不仅可以支持文本、图像，还能支持时序数据、结构化数据等。九章云极DataCanvas 在自然语言的理解、文生图、代码生成等是大模型应用得比较好的领域有很多已经落地的成功案例。3、新的模型训练机制，降本增效Alaya 九章元识大模型采用了新的 Attention 机制，不仅可以降低算力的消耗，而且在训练前与训练后，能够针对多模态实现有效的数据对齐。这是九章云极 DataCanvas 独有的技术，在训练时能够很好地容纳多模态这样一种训练方式。4、系列模型矩阵，更好地满足“通识+产业”的需求Alaya 九章元识大模型不是一个大模型，而是一系列大模型，模型参数由小到大，覆盖从通识到垂直行业，能够更好地满足用户多样化的需求。九章云极 DataCanvas 正式开源大模型矩阵中 Alaya-7B Foundation Model 通识大模型和 Alaya-7B Chat Model 对话大模型两大模型，以及 LLMOps 大模型工具链中的 LMS 模型运行工具和 LMPM 提示词管理器两大工具，能够有效地推动大模型在各类行业场景的实际应用。开源大模型安全与合规治理71、Alaya 九章元识大模型是“白盒”模式，用户使用过程中可以实现“known-how”;2、积极在网信办相关部门进行大模型以及算法备案工作。从算法层面以及产品底层逻辑层面符合国家合规要求;34可信开源人工智能大模型案例汇编开源大模型概述1开源大模型发布时间历程2开源大模型落地案例及开源商业化进程3模型名称：TigerBot所属机构名称：虎博网络技术（上海）有限公司模型支持的语言种类和数量：支持中文和英文两个语种上线配套工具：app 已在内测中模型所属类别及具体领域和场景：通用领域8/21/2023:TigerBot 更新发布 7b 和 13b 的 base/chat 模型9/06/2023:TigerBot 发布 70b base/chat 模型 v1 版本9/25/2023：TigerBot 发布 v2 版本 TigerBot-70b-chat 和 v3 版本 Tigerbot-13b-chat9/26/2023:TigerBot 发布 v3 版本 TigerBot-70b-chat 和 v4 版本 Tigerbot-13b-chat后续将持续优化 TigerBot-70b 模型虎博 TigerBot 大模型商业化路径包括私有化部署及 API 调用两种形式。10 月份合计签约客户数四家，合同额近 200 万元，分布在汽