春节以来,Deepseek凭借其极低的成本和强大的推理能力迅速走红全网,被广泛应用于多个领域。腾讯、华为、阿里巴巴、百度等大厂陆续宣布接入Deepseek,北京市丰台区、深圳市福田区、江苏无锡等政府部门的政务系统也接入了Deepseek,其应用场景极为广泛。
那么,Deepseek如何赋能职场应用呢?例如,利用Deepseek制作可视化图表、PPT、设计海报、生成视频、进行市场调查、开发AI应用等。而对于研发人员来说,可以利用Deepseek撰写技术交底书。很多研发人员虽有技术想法,但日常工作繁忙,难以抽出时间将这些想法梳理成技术交底书并进行专利申请。他们希望通过Deepseek来撰写技术交底书,但又担心技术信息被大数据吸收,变成公有信息,该如何解决?
首先,需要明确的是,信息泄露的担忧主要源于信息基于网络处理,可能会被上传到云端服务器,并作为底层数据用于后续问题答复,从而导致泄露。但如果将Deepseek模型部署到本地电脑,可以有效避免信息上传云端,确保技术信息的安全性。
因此,本文将介绍如何进行Deepseek的本地部署,以及研发人员如何正确引导Deepseek撰写一篇详细的技术交底书。
一、Deepseek本地部署
1、硬件需求
Deepseek本地部署对硬件有一定的要求,尤其是显卡和内存。不同配置可以满足不同参数模型的运行需求:
①基础级配置:16GB内存+RTX4060显卡,可以流畅运行7B参数模型。
②旗舰级配置:32GB内存+RTX4090显卡,可以驾驭14B模型,实现更高的创作力。
③顶级配置:64GB内存+RTX5090 D(32GB显存),可以将电脑变成“个人AI实验室”。
2、Deepseek本地部署软件环境准备
在软件环境方面,需要准备Ollama框架。什么是Ollama?Ollama是一个开源工具,专门用于在本地计算机上运行和操作大型语言模型(LLM)。可以帮助用户轻松下载、管理和运行各种 AI 模型(如Deepseek、LLaMA、Mistral等),无需复杂的配置或依赖云服务。
以下是Ollama安装步骤:
①下载安装包:访问Ollama官网,根据操作系统(Windows、macOS、Linux)选择对应的版本进行下载。
②安装Ollama:下载完成后,双击运行安装包并按照提示进行安装。
③验证安装:通过命令行(Windows为cmd,macOS和Linux为终端)验证Ollama是否安装成功。例如,在Windows的命令提示符中输入“ollama -v”,如果显示Ollama的版本号,则说明安装成功。
如果电脑配置比较低,下载较慢,可先下载一个奇游加速器,通过奇游加速器下载ollama,只需2-3分钟。
3、Deepseek模型部署
下载好ollama,可以开始进行Deepseek模型部署。以下是具体步骤:
①选择Deepseek模型:在Ollama官网或模型库中搜索Deepseek,选择合适的版本(如Deepseek-R1)进行下载。
②运行Deepseek模型:在命令行中输入相应的命令来运行Deepseek模型。例如,如果要运行7B参数的Deepseek-R1模型,可以输入“ollama run Deepseek-r1:7b”。
③选择版本安装:选定版本后复制安装指令粘贴到终端控制台中,点击回车,开始下载。
window电脑按下键盘上的win+R,调出运行窗口,输入cmd回车,调出命令行窗口粘贴。
然后将前面在ollama复制的安装指令输入进去,然后按回车键,即可自动安装。
Mac os直接启动台找到终端粘贴。
安装过程大概3-15分钟,如果你卡一小时以上,或者一直不动,别纠结,关掉重新安装。
如果看到这个界面,显示success,恭喜你,说明你的Deepseek安装成功了!已经可以开始跟它对话了,例如我提问了“如何撰写专利技术交底书”。
4、交互工具配置
虽然可以通过命令行与Deepseek进行交互,但这种方式相对繁琐,界面不够美观。为了优化交互体验,可以配置一些UI工具。例如:ChatBox:一款流行的AI交互工具,支持多种AI模型的集成。
搜索Chatbox,进行下载安装,安装好后,打开选择“使用自己的 API Key 或本地模型”。
在跳出的页面中设置好模型,选择Ollama API,最后选择我们已经安装好的Deepseek模型,然后点击保存。
PS:页面如果不小心关闭了,也可以点击左下角的「设置」再次进入模型设置页面。
保存后记得将对话框设置成中文,设置完成后如果不能直接用中文对话,可关闭后重新打开软件。
5、优化与扩展(非必须)
Docker+Open-WebUI方案:这是一种流行的优化方案,可以使用户通过网页端与Deepseek进行交互。这种方案不仅提升了用户体验,还增强了系统的可扩展性和可维护性。
模型版本调整:根据实际需求,可以调整Deepseek模型的版本或参数。例如,如果需要更高的推理速度,可以选择参数较小的模型;如果需要更高的准确性,可以选择参数较大的模型。
知识库管理:Deepseek可以作为一个知识库问答系统使用。研发人员可以根据自己的需求,向Deepseek投喂相关的资料和数据,以训练出更符合自己需求的模型。
二、如何让Deepseek撰写专利技术交底书?
如果你已经有成型的技术想法可直接上传图片或文件内容,要求Deepseek进行技术交底书完善。如果只有初步想法也可先简要提出自己的想法,要求进行技术信息完善,并根据其提供的答案进行优化,直到得到自己满意的答案。(注:有时候问题比较复杂,或网络环境不好,回答速度可能需要1分钟以上)
生成的技术交底书内容建议涵盖:标题、技术领域、背景技术、发明目的、技术方案、实施方案和图例、实施过程、主要特点等信息。
*提问技巧
1.根据新加坡 GPT-4 提示工程竞赛冠军提示词框架“COSTAR”进行提问。
"C"代表:Context(上下文)相关的背景信息,比如你自己或是你希望它完成的任务的信息。
"O"代表:Objective(目标)明确的指示告诉AI你希望它做什么。
"S"代表:Style(风格)要的写作风格如严肃的、有趣的、创新性表达、学术性…
“T"代表:Tone(语调)幽默的?情绪化?有威胁性?
“A"代表:Audience受众是谁。小白用户?专业人群?未成年群体?女性群体?
"R"代表:Response想要的回应类型一份详细的研究报告?一个表格?Markdown格式?
2.将DeepseekDeepSeek R1作为智能体,把它进行能力设定,给出的答案也许会更加符合你的需求。
①核心层
身份定义(ldentity)
·角色属性(XX行业技术研发专家)
·专业背景(技术研发、专利撰写高手)
·交互特征(精准专业的材料撰写)
②执行层
能力矩阵(Capability Matrix)
·功能范围(专利技术交底书撰写)
·专业技能(技术思路拓展、技术交底书撰写)
·决策权限(技术交底书撰写)
③约束层
边界系统(Boundary System)
·质量要求(多维度、清晰、准确)
·输出限制(语句通顺)
④操作层
工作引擎(Operation Engine)
·输出规范(涵盖:标题、技术领域、背景技术、发明目的、技术方案、实施方案和图例、实施过程、主要特点等信息)
三、结语
Deepseek可以从很大程度上提升我们的工作效率,但是目前在实际工作应用中可能还会存在很多不确定性,所以它给到的信息可做参考,还需人工进行完善。
最后,写完技术交底书不知道该如何申请专利的,欢迎找仕诚知识产权代理申请,仕诚知识产权可提供国内/国外专利申请,发明专利最快3-6个月就能出审查结果。
有关Deepseek本地部署或专利申请帮助
可联系18030288402杨小姐