发布日期：2025-03-06 02:10 点击次数：165
图片
图片
是不是还在为无法登录Deepseek而烦恼，等待着加载的结果，换回来一句“服务器繁忙，请稍后再试”。。。那我们来尝试做个本地部署吧，拥有一个自己电脑上的大模型。
什么是本地部署？将训练好的开源大模型下载，存储在本地，可以实现在离线状态下的问答，同时可以根据个人的需求做模型的微调，搭建个人知识库，开发者还可以将其制作成接口，在本地和其他软件互联调用。
大家一听“本地部署”，这玩意太难了吧，花这么多钱训练的模型，我说部署就部署了？其实没那么神秘，比装个软件稍微复杂一点，况且AI的时代来了，我们应该积极地拥抱不是嘛！我相信看完这篇文章，大家都能在自己的电脑上拥有一个专属Deepseek。
1、本地部署所需的电脑配置和软件工具
关于GPU
Deepseek在没有GPU的电脑上也可以部署，但是速度很慢，所以我们还是推荐大家先有一块GPU显卡，显存最好在8G以上，几年前的英伟达老款游戏显卡3060及以上的配置都可以，目前价格大概2000起步。
至于安装，三种方法推荐给您：
1、您可以直接买一台带GPU的笔记本或台式机；
2、买块显卡，去b站上找个GPU装机视频（也可以平台上找个装机服务）；
3、找个云平台租服务器，也挺划算。
PS. 如果您不确定电脑有没有GPU显卡，可以win+R，在运行对话框中输入cmd，输入括号中的命令【nvidia-smi】，按回车。
这样就是有：
图片
这样就是没有：
图片
关于软件
本地部署Deepseek需要用到两个软件，一个用于下载和部署模型，一个用于构建对话界面，当然网上有很多类似的软件可供使用，我们这里讲一下ollama+chatbox的部署方法。
ollama用于大模型的下载和部署，下载网址如下：https://ollama.com，根据自己的操作系统下载即可。下载完毕后双击安装在默认路径即可，狂点下一步，非常简单。
图片
chatbox用于部署完模型后，构建对话界面。下载网址如下：https://chatboxai.app/zh，下载完毕后一样狂点下一步安装。
图片
部署前的准备工作就完成了。
2、开始本地部署Deepseek
回到ollama的下载网页，左上角有一个Models标签，点击它。
图片
点击deepseek-r1。
图片
这个界面会让您选择所需下载的模型，如果您只是CPU想试试，我建议1.5B即可；如果您的GPU显存在6-8G，7-14B的模型都可以尝试，我自己试了14B的模型比8B的模型有较大的提升；如果您买了一张最新4090或更高阶的显卡，我推荐尝试32B和70B的模型（咱没有这么高级的卡，没法帮大家尝试了），模型后面会显示所需的硬盘空间，大家要在C盘提前留好。
图片
然后点击图片右边红色箭头指向的复制按钮，win+R，在运行对话框中输入cmd，粘贴刚刚复制的命令，按回车。模型的下载就开始了，下载完成后，会在最下面显示success，安装就完成了，可以在图中黄色箭头指示的位置开始对话，部署就成功了。
图片
图片
3、Deepseek的聊天界面
咱也不能总是在cmd这样一个黑盒子里面聊吧，还需要一个聊天工具包装一下，就是之前下载的chatbox。首次打开以后选择使用自己的API Key或本地模型，再选择Ollama API，这里可以看到chatbox不仅支持Ollama，后续也可以搞其他大模型的API接入。
图片
这里红色箭头选项卡，选择您所下载的模型，保存即可开始聊天。
图片
我们问他一个问题，介绍一下东方红FOF。这是14B模型的答案，8B的模型并不能回答东方红FOF是什么。我们看到在思考部分，他首先分析了“东方红是一家知名的基金管理公司”，然后开始对东方红的FOF产品进行分析。
图片
到此，Deepseek的本地部署就完成了！如何在本地搭载个人知识库，上传文件进行分析等等操作，我们将在下一篇文章中进行介绍。欢迎继续关注我们，AI时代，FOF老码头与您同在！
风险提示：基金的过往业绩及其净值高低并不预示未来业绩表现，基金管理人管理的其他基金的业绩不构成对本基金业绩表现的保证。基金管理人承诺以诚实守信、勤勉尽责的原则管理和运用基金资产，但不保证一定盈利，也不保证最低收益。基金投资有风险，投资需谨慎。投资者投资基金前，请认真阅读《基金合同》、《招募说明书》、《基金产品资料概要》等文件。如需购买相关基金产品，请您关注投资者适当性管理相关规定、提前做好风险测评，并根据您自身的风险承受能力购买与之相匹配的风险等级的基金产品。
本站仅提供存储服务，所有内容均由用户发布，如发现有害或侵权内容，请点击举报。