Deepseek 本地部署(成功版)
hhs
撰写于 2025年 02月 05 日

Deepseek 本地部署(成功版)

image-20250202205157324

Error: 1 documents failed toadd.
Forbidden access to file:"https://cdn.useanything.com/support/models/Xenova/all-MiniLM-L6-v2/tokenizer config.json" 解决办法

跟着步骤来 肯定能成功

Ollama部署版本

首先打开官网

https://ollama.com/download

image-20250202205405868

直接下载Windows版本

可能有些网速不够快 , 提供下载安装版本

通过网盘分享的文件:OllamaSetup_2.exe
链接: https://pan.baidu.com/s/13cWJZZ4MDbnsYGlfetRRjQ?pwd=2hy2 提取码: 2hy2

下载安装就能用

image-20250202210810876

image-20250202210826637

记住安装位置,到时候可能会用得上

安装完毕不会有任何提示,但实际上已经安装完毕

image-20250202210935044

如果觉得C盘放模型会占地方,可以换其他的盘

先检查一下版本

win+r

image-20250202211039123

ollama -v

image-20250202211127233

出现这个表示已经安装成功,此时先不要着急上模型,如果放在C盘 直接安装即可 首先退出Ollama 再操作

image-20250202211235392

右键计算机 选择属性

不知道win10 和 win11是不是一样 但都是进入属性进行设置

右键计算机---属性---高级系统设置---环境变量

如下选择

image-20250202211642672

image-20250202211917978

直接复制OLLAMA_MODELS

下面一行在D盘新建文件夹后直接复制路径

然后确定--确定--确定 即可

当一切准备完毕

回到ollama https://ollama.com/download

image-20250202212301095

回到deepeek官网 发现深度思考是R1模型

image-20250202212405317

image-20250202212431234

每个模型的大小都不一样 根据自己的显卡来

4090 可以直接莽32b+

3060卡 据说14b好像是极限..

ollama run deepseek-r1:14b

image-20250202213008776

然后就是漫长的过程...

百度网网盘

通过网盘分享的文件:--ollama---models
链接: https://pan.baidu.com/s/11VX-eDCfJg5h_I_3twcctg?pwd=vgwf 提取码: vgwf

image-20250205211135303

下载好了之后 可以直接放到原始地址,也可以放到变量地址

原始地址C:\Users\Administrator\.ollama Users是自己的用户名

然后 win+r

ollama list

image-20250205211531946

尝试启动

ollama run deepseek-r1:14b

出现这个

image-20250205211737515

代表启动成功

image-20250205211826846

完成

退出输入 /bye

需要注意的 如果放在机械硬盘里 启动可能稍微慢一点 ~


知识库

打开刚才下载的文件

image-20250205212032137

进行安装

image-20250205212112942

安装到哪其实都行 就看你固态够不够大

首次打开

image-20250205213159021

image-20250205213514953

999

都完事了 进入到这个界面

image-20250205213828711

image-20250205214151313

简单设置一下

image-20250205214258255

这个地方

image-20250205214327009

再进行简单设置

image-20250205214547547

image-20250205222323757

然后

image-20250205222344644

image-20250205222356685

当出现 5eeff2e1a9800f8283ebfa7959a1147
挂个梯子就好了

image-20250205223021910

或者直接把文档扔进去都行


下课!

注意 回答的质量完全取决于你知识库的丰富程度

Deepseek 本地部署(成功版)

Deepseek 本地部署(成功版)

image-20250202205157324

Error: 1 documents failed toadd.
Forbidden access to file:"https://cdn.useanything.com/support/models/Xenova/all-MiniLM-L6-v2/tokenizer config.json" 解决办法

跟着步骤来 肯定能成功

Ollama部署版本

首先打开官网

https://ollama.com/download

image-20250202205405868

直接下载Windows版本

可能有些网速不够快 , 提供下载安装版本

通过网盘分享的文件:OllamaSetup_2.exe
链接: https://pan.baidu.com/s/13cWJZZ4MDbnsYGlfetRRjQ?pwd=2hy2 提取码: 2hy2

下载安装就能用

image-20250202210810876

image-20250202210826637

记住安装位置,到时候可能会用得上

安装完毕不会有任何提示,但实际上已经安装完毕

image-20250202210935044

如果觉得C盘放模型会占地方,可以换其他的盘

先检查一下版本

win+r

image-20250202211039123

ollama -v

image-20250202211127233

出现这个表示已经安装成功,此时先不要着急上模型,如果放在C盘 直接安装即可 首先退出Ollama 再操作

image-20250202211235392

右键计算机 选择属性

不知道win10 和 win11是不是一样 但都是进入属性进行设置

右键计算机---属性---高级系统设置---环境变量

如下选择

image-20250202211642672

image-20250202211917978

直接复制OLLAMA_MODELS

下面一行在D盘新建文件夹后直接复制路径

然后确定--确定--确定 即可

当一切准备完毕

回到ollama https://ollama.com/download

image-20250202212301095

回到deepeek官网 发现深度思考是R1模型

image-20250202212405317

image-20250202212431234

每个模型的大小都不一样 根据自己的显卡来

4090 可以直接莽32b+

3060卡 据说14b好像是极限..

ollama run deepseek-r1:14b

image-20250202213008776

然后就是漫长的过程...

百度网网盘

通过网盘分享的文件:--ollama---models
链接: https://pan.baidu.com/s/11VX-eDCfJg5h_I_3twcctg?pwd=vgwf 提取码: vgwf

image-20250205211135303

下载好了之后 可以直接放到原始地址,也可以放到变量地址

原始地址C:\Users\Administrator\.ollama Users是自己的用户名

然后 win+r

ollama list

image-20250205211531946

尝试启动

ollama run deepseek-r1:14b

出现这个

image-20250205211737515

代表启动成功

image-20250205211826846

完成

退出输入 /bye

需要注意的 如果放在机械硬盘里 启动可能稍微慢一点 ~


知识库

打开刚才下载的文件

image-20250205212032137

进行安装

image-20250205212112942

安装到哪其实都行 就看你固态够不够大

首次打开

image-20250205213159021

image-20250205213514953

999

都完事了 进入到这个界面

image-20250205213828711

image-20250205214151313

简单设置一下

image-20250205214258255

这个地方

image-20250205214327009

再进行简单设置

image-20250205214547547

image-20250205222323757

然后

image-20250205222344644

image-20250205222356685

当出现 5eeff2e1a9800f8283ebfa7959a1147
挂个梯子就好了

image-20250205223021910

或者直接把文档扔进去都行


下课!

注意 回答的质量完全取决于你知识库的丰富程度


赞 (1)

猜您想看

评论区(暂无评论)

这里空空如也,快来评论吧~

我要评论