收藏 分销(赏)

DeepSeek应用与部署.pptx

上传人:宇*** 文档编号:14498033 上传时间:2026-09-30 格式:PPTX 页数:78 大小:14.32MB 下载积分:20 金币
下载 相关
DeepSeek应用与部署.pptx_第1页
第1页 / 共78页
DeepSeek应用与部署.pptx_第2页
第2页 / 共78页


点击查看更多>>
资源描述
单击此处编辑母版标题样式,单击此处编辑母版文本样式,二级,三级,四级,五级,DeepSeek,应用与部署,山东大学经济学院 教授,山东大学国家治理研究院 研究员,AIGC,发展历程,AIGC 2014-2024,自然语言处理与语言模型,大语言模型,LLM,:,2018 2024,DeepSeek,介绍,DeepSeek,:,2023,DeepSeek,:技术创新,模型架构,|V2,(,Multi-Head,Latent,Attention,),DeepSeek,:技术创新,模型架构,|V3,DeepSeek,:技术创新,推理模型,|RL,强化学习让智能体(,Agent,)在环境(,Environment,)中不断尝试、学习,并优化自己的策略(,Policy,),最终获得最大化的奖励(,Reward,)。,PPO,:,Proximal Policy Optimization,GRPO,:,Group Relative Policy Optimization,DeepSeek,应用场景,DeepSeek,的能力层级,1.,基础能力层,多模态数据融合与结构化理解,包括,跨模态语义对齐,(文本、图像、音频、视频、代码、传感器数据统一语义),和,动态数据治理,(解决数据缺失、噪音干扰、概念飘逸等),,支持,200,多种数据格式自动解析。,2.,中级能力层,领域问题建模与复杂推理,包括,领域自适应学习,(建立医、教育、金融垂直应用于模型),、,因果推理引擎,(建立因果图模型),和,多目标优化决策,(,求解帕 累托最有解),。,3.,高级能力层,复杂系统建模与自主决策,包括,数字孪生仿真系统,(构建物理于数字融合虚拟环境模拟天气等),、,多智能体协同优化,(将每个个体作为智能体通过联邦学习模拟群体行为),和,元认知调控机制,(实施监控自身决策、动态分配资源、自动触发行为),。,4.,终极能力层,自主进化与创造性突破,包括,概念空间探索,(通过对抗网络探索新合金成分等),、,范式转移预警,(监控跨领域知识流、识别技术革命前兆),和,自编程能力,(自动模块设计、代码编写、测试用例),。,Deepseek V3,Deepseek R1,Deepseek r1,鞅的证明,Deepseek r1,Roy,安全准则组合模型推理,Deepseek r1,推理玻尿酸配方,DeepSeek,提示词工程,提示词工程,Deepseek,十类提示词,1.,内容生成类:,文本生成、代码生成、创意生成和数据模拟。,2.,信息处理类:,文本摘要、信息抽取、情感分析和多语言翻译。,3.,对话交互类:,角色扮演、多轮对话、反问引导。,4.,技能应用类:,数学计算、代码解释、逻辑推理。,5.,个性化定制类:,风格迁移、知识库绑定、偏好记忆。,6.,系统操作类:,模式切换、资源优化、记忆管理。,7.,知识查询类:,事实核查、概念解释、溯源检索。,8.,教育与研究类:,题目生成、论文润色、实验设计。,9.,多模态处理类:,图文互译、表格解析、视频脚本。,10.,伦理与安全类:,内容审核、价值观对齐、风险预警。,DeepSeek,部署方案,Deepseek,部署全线图,本地部署蒸馏小模型,第三方,UI,客户管接入服务,云端网站接入服务,移动手机应用,Deepseek,Deepseek,模型及蒸馏模型,API,接入,API,及蒸馏模型,API,及蒸馏模型,Chatbox API,及网络调用,本地网络调用,Chatbox API,及网络调用,DeepseeK,替代部署方案,本地部署蒸馏小模型:,可通过,ollama,平台、,LM Studio,平台快速本地部署基于,Llama,和,Qwen,蒸馏的,DeepSeek-R1,推理模型,涵盖多种不同参数规模,适合想在本地运行模型的用户。,第三方,UI,客户管接入服务:,可通过,Anything LLM,、,Cherry Studio,、,Chatbox,等选择,API,接入。,秘塔,AI,搜索:,接入满血版,DeepSeek-R1,推理模型,无广告且搜索结果直达。以学习,JDK21,新特性为例,能详细给出学习计划,包括快速预览、深入学习核心特性、实战与总结等阶段。,硅基流动:,注册即送,2000,万,Tokens,,提供多个基于,DeepSeek-R1,蒸馏训练的模型,如,DeepSeek-R1-Distill-Llama-70B,等,在推理能力上表现出色。,阿里云百炼:,提供多个,DeepSeek,系列模型,如,DeepSeek-V3,、,DeepSeek-R1-Distill-Qwen-1.5B,等,部分限时免费,涵盖文本生成等功能。,百度智能云:,千帆,ModelBuilder,全面支持,DeepSeek-R1/V3,调用,且限时免费,其模型在百科知识、数学推理等任务表现突出。,英伟达:,可通过特定接口调用,DeepSeek-R1,671B,全量模型,获取,API Key,后能进行相关操作。,DeepSeek,API,调用,API,调用方法,DeepSeek API,model=deepseek-chat,即可调用,DeepSeek-V3,model=deepseek-reasoner,,即可调用,DeepSeek-R1,。,Token,用量计算,token,是模型用来表示自然语言文本的基本单位,也是我们的计费单元,可以直观的理解为“字”或“词”;通常,1,个中文词语、,1,个英文单词、,1,个数字或,1,个符号计为,1,个,token,。,一般情况下模型中,token,和字数的换算比例大致如下:,1,个英文字符,0.3,个,token,。,1,个中文字符,0.6,个,token,。,但因为不同模型的分词不同,所以换算比例也存在差异,每一次实际处理,token,数量以模型返回为准,您可以从返回结果的,usage,中查看。,阿里云部署,Deepseek,以,DeepSeek-R1,满血版为例进行演示,通过,百炼模型服务,进行,DeepSeek,开源模型调用,可以根据实际需求选择其他参数规模的,DeepSeek,模型。百炼平台,的,API,提供标准化接口,无需自行搭建模型服务基础设施,且具备负载均衡和自动扩缩容机制,保障,API,调用稳定性。搭配,Chatbox,可视化界面客户端,进一步简化了调用流程,无需在命令行中操作,通过图形化界面即可轻松配置和使用,DeepSeek,模型。,https:/chatboxai.app/zh#download,DeepSeek,DeepSeek,DeepSeek-R1-Ditill-Qwen-1.5B,DeepSeek-R1-Ditill-Qwen-7B,DeepSeek-R1-Ditill-Qwen-14B,DeepSeek-R1-Ditill-Qwen-32B,DeepSeek-R1-Ditill-Ollama-7B,DeepSeek-R1-Distill-Ollama-7B,DeepSeek-R1,DeepSeek-V3,腾讯云部署流程,Cloud Studio,:,登录腾讯云官网,进入,Cloud Studio,,可一键部署,即开即用,能快速体验,7B,以下,DeepSeek-R1,蒸馏模型。,云原生构建:,登录腾讯云,云原生构建相关服务,一键体验,DeepSeek,,无需等待下载,支持,1.5b/7b/8b/14b/32b,多款模型。,TI,平台:,登录腾讯云,TI,平台,提供专属算力、多种尺寸模型、,0,代码模型部署等功能。,HAI,:,登录腾讯云,HAI,控制台,新建,DeepSeek-R1,应用,创建完成后可通过站内信获取密码,选择可视化界面(,ChatbotUI,)或命令行(,JupyterLab,)直接调用,DeepSeek-R1,模型。,云应用:,登录腾讯云找到云应用服务,直接购买成品,DeepSeek,应用,或利用云应用定制化软件功能,快速部署,AI,应用或定制传统软件。,搜索方案:,大模型知识引擎:注册并登录腾讯云,在控制台搜索“大模型知识引擎”体验”开通服务。新建应用并配置基础信息,选择,DeepSeek-R1/V3,模型,即可在右侧调试窗口提问搜索。,API,接口:,申请腾讯云,DeepSeek API,接口,获取,API Key,后,可在自己的应用或程序中通过调用,API,来实现,DeepSeek,模型的搜索功能。,腾讯云,API,调用,开发者首选,,DeepSeek,部署简单、直观、高效!,HAI,提供,GPU,算力和,ollama,环境,支持,1.5B,7B,8B,32B,等多个,DeepSeek-R1,蒸馏模型。,企业级首选,,DeepSeek,部署稳定、安全、易用!,腾讯云智能全栈,AI,服务上架,DeepSeek,系列模型,创建应用,华为云,+silconflow,通过创建,API key,调用,邀请码:,z0sI0urY,邀请链接:,Logits,蒸馏,在,logits,蒸馏中,学生模型被训练来匹配教师模型的,logits,,而不仅仅是最终的预测。这种方法保留了更多关于教师模型置信水平和决策过程的信息。,3.,特征蒸馏,特征蒸馏涉及将教师模型中间层的知识转移到学生模型中。通过对齐两个模型的隐藏表示,学生模型可以学习到更丰富和更抽象的特征。,蒸馏、微调、,RAG,蒸馏:,是学生通过模仿老师的解题思路,达到和老师相似的知识水平。,微调:,又叫精调,相当于学生意识到自己某门课有短板,然后自己找参考书恶补了一下,从而补上短板。,蒸馏、微调、,RAG,RAG,:,直译过来叫做“检索增强生成”。相当于这题我不会,但是我有“小抄”,我回答的时候,就看一眼小抄,然后再综合我脑子里的已有知识,进行回答。,DeepSeek,本地部署,1.GPU,要求,推荐,NVIDIA,显卡(,RTX 3090/4090/A100,等),显存要求:,7B,模型:至少,16GB,显存,13B/20B,模型:至少,24GB,显存,70B,模型:需多卡并行(如,2xA100,),支持,CUDA 11.7+,和,cuDNN 8.5+,DeepSeek,本地部署,-,硬件环境准备,2.,系统要求,Linux,(,Ubuntu 20.04+,)或,Windows WSL2,Python 3.8+,,推荐使用,Anaconda/Miniconda,管理环境,方法,1,:使用,Hugging Face Transformers,方法,2,:使用,vLLM,加速推理,方法,3,:,Docker,部署,DeepSeek,本地部署,-,部署办法,Anything LLM,接入,下载安装,打开官网,根据自己的系统选择下载对应的版本。,安装文件,,按照安装向导的提示进行操作,默认路径安装或修改默认安装路径都可以。安装完成后,点击完成自动跳转到,AnythingLLM,界面。,模型配置,LLM Selection,(大语言模型选择):选择,Ollama,,如果本地已通过,Ollama,部署了,DeepSeek,等模型,,AnythingLLM,会自动检测。这意味着模型和聊天记录仅在运行,Ollama,模型的机器上可访问,保证了数据的安全性和隐私性。,Embedding Preference,(嵌入偏好):使用,AnythingLLM Embedder,嵌入工具,文档文本会在,AnythingLLM,的实例上私密嵌入,文本数据的处理和转换在本地进行,不会泄露给第三方。,Vector Database,(向量数据库):使用,LanceDB,作为向量数据库,向量和文档文本都存储在,AnythingLLM,实例上,进一步确保数据的私密性和安全性。,接入,DeepSeek,模型,通过,Ollama,接入:先在本地通过,Ollama,部署,DeepSeek,模型,然后在,AnythingLLM,中选择,Ollama,作为语言模型推理后端,,AnythingLLM,会自动连接到本地,Ollama,服务中的,DeepSeek,模型。,通过,DeepSeek R1 API,接入:在,AnythingLLM,工作区右侧点击设置,选择聊天设置,更改,LLM,模型为,DeepSeek,,输入,API Key,并选择,DeepSeek R1,模型,点击更新工作区即可。,搭建本地知识库,在,AnythingLLM,左侧工作区找到上传按钮,选中要上传的文档,点击移动到工作区,再点击“,Save and Embed”,,对文档进行切分和词向量化。,完成后,点击图钉按钮,将文档设置为当前对话的背景文档,即可在聊天窗口基于上传的文档内容与模型进行对话。,本地部署方法,Ollama+Deepseek,LM Studio+DeepSeek,Anything LM+Ollama+Deepseek+,向量模型(,Embessing Model,),Dify+Ollama+Deepseek+,向量模型(,Embessing Model,),Ollama,LM Studio,DeepSeek,模型,下载模型,Ollama,LM Studio,DeepSeek,模型,下载模型,Anything LM,Dify,调用模型,Ollama,下载,Ollama,运行,Ollama,运行,Ollama run deepseek-r1,LM Studio,本地部署,前期准备:,确保设备满足一定硬件要求,显卡需,GTX 1060,(,6GB,)及以上,推荐,RTX3060,及以上;内存,8GB,及以上,推荐,16GB,及更高;,C,盘剩余,20GB,空间,建议使用,NVMe,固态硬盘。,安装,LM Studio,客户端:,在官网,lmstudio.ai,下载对应操作系统的安装包,双击运行并按提示完成安装。启动后,点击右下角设置图标将语言改为简体中文。,加载模型:,自行下载获取模型,下载到本地后,点击左上方文件夹图标选择模型目录导入;若不会找模型,可在,LM Studio,的设置里,勾选“,Use LM Studios Hugging Face”,,再点击左上方搜索图标搜索,deepseek,选择模型。注意参数规模不同,性能和硬件需求有差异。例如,,1.5B,适合体验尝鲜,,7B,适合普通创作及开发测试,,8B,适合对内容要求更高的场景,,14B,适合专业及深度内容创作。,LM Studio+DeepSeek,LM Studio,可以通过,huggaface,下载,Deepseek,各种蒸馏模型(,GGUF,),DeepSeek,UI,客户端使用,Anything LM+Ollama+Deepseek,RAG,数据库工程,LLM,首选项,向量数据库,Embedder,首选项,文本分割,RAG,中的,Embedding,模型,Embedding,模型贯穿,RAG,流程多环节,Cherry LM+DeepSeek API,大模型智能体工程,五大,AI Agent,多智能体开发框架,微软,AutoGen,:,Github,地址:,Swarm,:,Github,地址:,API,(,Deepseep R1,)业务流,Dify+Deepseek API,搭建本地知识库,Langchain+Deepseek API,业务流工程,2025,七款,RAG,1.R2R,:,官网:,https:/r2r-docs.sciphi.ai/,功能:用于开发本地,RAG,应用程序,支持多模态内容摄取、混合搜索、知识图谱构建、,GraphRAG,,具备用户管理、可观测性、配置及可视化交互等功能,适用于处理动态数据和复杂实体关系的应用程序。,2.Cognita,:,官网:,LLMWare,:,官网:,https:/llmware.ai/,功能:提供统一框架构建基于,LLM,的应用,如,RAG,和代理,包含,RAG Pipeline,和,50+,小型专用模型,适用于定制特定领域解决方案。,4.LangChain,:,官网:,deepset,的,Haystack,官网:,https:/haystack.deepset.ai/,、,功能:用于构建基于,NLP,的搜索和问答系统,提供模块化架构、多模型支持、高效检索、问答功能,可扩展性强,适用于问答系统和文档检索应用。,6.LlamaIndex,官网:,https:/docs.llamaindex.ai/,功能:简化外部知识库与,LLM,的集成,支持动态数据摄取和自定义索引,可与多种预训练语言模型配合使用。,7.txtai,GitHub,主页:,DeepSeek,赋能酒企场景,-,市场分析与消费者洞察,-,智能营销与个性化推荐,-,生产优化与质量控制,-,供应链管理与库存优化,-,品牌故事与文化传播,-,智能客服与消费者互动,-,新品研发与口味预测,2.DeepSeek,赋能房产装修,-,智能设计与方案生成,-,虚拟现实(,VR,)与增强现实(,AR,)体验,-,施工进度管理与优化,-,材料采购与供应链优化,-,客户需求分析与个性化服务,-,智能客服与售后支持,-,装修质量检测与问题预测,-,市场趋势分析与营销策略优化,xu,3.DeepSeek,赋能知识产权服务,-,专利检索与分析,-,侵权检测与风险评估,-,知识产权法律咨询,-,专利撰写与优化,-,知识产权交易与估值,-,知识产权管理与监控,-,知识产权培训与教育,-,知识产权战略规划,4.DeepSeek,赋能金融行业,-,智能投顾与投资分析,-,风险管理与欺诈检测,-,客户服务与智能客服,-,信用评分与贷款审批,-,市场趋势分析与预测,-,自动化交易与算法交易,-,金融产品设计与定价,-,合规管理与报告生成,5.DeepSeek,赋能跨境贸易,-,市场分析与需求预测,-,供应链优化与物流管理,-,跨境支付与汇率风险管理,-,合规管理与海关申报,-,多语言客户服务与沟通,-,贸易伙伴匹配与谈判支持,-,风险管理与信用评估,-,跨境电商营销与推广,6.DeepSeek,赋能健康医美,-,个性化治疗方案设计,-,客户管理与智能咨询,-,市场分析与需求预测,-,治疗效果预测与优化,-,智能营销与个性化推荐,-,健康数据管理与分析,-,医美产品设计与优化,-,合规管理与报告生成,7.DeepSeek,赋能智库咨询机构,-,智能研究与数据分析,-,政策分析与预测,-,行业趋势分析与市场预测,-,智能报告生成与优化,-,客户服务与智能咨询,-,知识管理与信息检索,-,多语言支持与跨文化分析,-,风险管理与决策支持,
展开阅读全文

开通  VIP、SVIP  下载更划算
下载10份以上建议开通 VIP 会员
下载20份以上建议开通SVIP会员


开通VIP      成为共赢上传

当前位置:首页 > 通信科技 > 人工智能

移动网页_全站_页脚广告1

关于我们      便捷服务       自信AI       AI导航        关注我们

©2010-2026 宁波自信网络信息技术有限公司  版权所有

客服电话:0574-28810668  投诉电话:18658249818

gongan.png浙公网安备33021202000488号   

icp.png浙ICP备2021020529号-1  |  浙B2-20240490  

关注我们 :微信公众号    抖音    微博    LOFTER 

客服