撸撸社 实测！腹地部署免费开源大模子：DeepSeek-R1，才智比好意思OpenAI-4o
发布日期：2025-03-18 03:22 点击次数：170
腹地部署DeepSeek-R1大模子撸撸社
环球好，我是冷水沏茶。最近有个AI大模子DeepSeek十分火，它性能不凡，平直挑战GPT-4o，何况免费开源，还不错腹地部署，强悍得不要不要的。要津的少量，它是当今戒指，最强悍的国产大模子。咱们今天来试一试腹地部署，毋庸联网也能使用。1、下载 Ollama，这是一个用于腹地开动AI模子的器具平台，下载地址：https://ollama.com/
咱们点“Download”下载：
图片
接下来会自动匹配你的操作系统，如若莫得问题，点击下载聚会下载装配文献（我的电脑是WINDOWS操作系统，系统条件Win10以上，装配文献有745M）：
图片
2、下载一个Chrome插件：Page Assist，这是一个不错在浏览器里开动腹地AI模子的插件，Edge浏览器也适用，插件地址：
https://chromewebstore.google.com/detail/page-assist-本地-ai-模型的-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo
图片
也不错在诓骗商店搜：Page Assist3、Python（这个不笃定需不需要，在向几个AI发问怎样用ollama部署腹地大模子的时刻，齐提到装配Python以及相干依赖库，归正我的电脑上是装配了Python的）。装配1、双击下载好的装配文献，OllamaSetup.exe。
2、装配好以后它会自动开动，在职务栏咱们不错看到：
图片
咱们怒放号召行，实行以下号召装配相应的模子，显存4G以下的，咱们选1.5B的（我的电脑显存惟有2G）。1.5B Qwen DeepSeek R1
ollama run deepseek-r1:1.5b
7B Qwen DeepSeek R1
ollama run deepseek-r1:7b
8B Llama DeepSeek R1
ollama run deepseek-r1:8b
14B Qwen DeepSeek R1
ollama run deepseek-r1:14b
32B Qwen DeepSeek R1
ollama run deepseek-r1:32b
拳交av70B Llama DeepSeek R1
ollama run deepseek-r1:70b
图片
恭候拉取模子得手图片
使用1、在号召行平直输入对话：
图片
2、关闭对话后，如若要再行开动，雷同地，咱们输入以下号召，不外，此次它不会再去拉取模子了：
ollama run deepseek-r1:1.5b
图片
3、在浏览器中开动，点击插件，选拔模子：
图片
咱们点击右边的“树立”，选拔RAG树立，选拔文本镶嵌模子，其他的暂时不动，铭刻保存：
图片
咱们试一下，问一个推理问题：昨天的翌日是哪天？
图片
回报正确，速率也很快！不外有点缺憾的是，我再问它雷同的问题的时刻，它就回报错了。可能是参数较小的关系，我在它官方网站上连气儿两次发问：
“昨天的今天是哪天？
它齐准确地回报是“今天”。
写在终末1、腹地部署得手，关联词开动速率无意刻有点卡，这跟电脑配置相相干。
2、除非是莫得任何汇集，我以为腹地模子的兴致不是很大，一则电脑硬件确切有限，开动速率慢，二则模子的参数目太小，精度不高，功能有限。我自后又下载了一个7B的模子，开动速率就慢得很，差点死机。
3、如若把数据安全守密放在第一位的，咱们选拔腹地模子没纰谬，超越是要使用特意的常识库进行进修的。这时刻咱们应该酌量莳植电脑硬件配置啦。
今天就到这里撸撸社，咱们下期重逢！
~~~~~~End~~~~~~ 本站仅提供存储劳动，整个履行均由用户发布，如发现存害或侵权履行，请点击举报。