首页 > 资讯 > 生活城事 导航

DeepSeek本地部署操作教程

作者:whycl 时间:2025-02-02 11:18:43

DeepSeek本地部署的操作步骤已经整理好了,需要的网友可以来了解看看,希望能给各位提供帮助。

1、安装ollama

下载地址:https://ollama.com/

在Linux服务器上安装一行命令就可以。如果是Windows需要下载安装包。

命令:

curl -fsSL https://ollama.com/install.sh | sh

2、配置ollama监听地址

ollama安装后默认监听127.0.0.1,为了方便使用,要么修改监听地址,要么用SSH转发。

修改地址后,它会自动在/etc/systemd/system/ollama.service.d/override.conf中存储你添加或修改的配置。

在里面添加配置

[Service]Environment="OLLAMA_HOST=0.0.0.0:11434"

即可覆盖主服务文件里对OLLAMA_HOST的设置,其他环境变量(如PATH等)则仍保留主服务文件里的值。

验证先重启以下

sudo systemctl daemon-reloadsudo systemctl restart ollama

然后执行以下命令验证

sudo systemctl show ollama | grep Environment

你会看到系统最终为该服务设置的所有环境变量。其中如果存在同名变量,就会以最后写入(即override配置)的值为准。

3、搜索模型

https://ollama.com/search?q=deepseek

根据显存选择合适的模型,右侧有安装命令,点击按钮复制。

4、安装模型

Windows用户在电脑本地打开cmd执行命令

ollama run deepseek-r1:14b

开始下载,14b的模型大小是9GB

务必确保ollama的模型目录/usr/share/ollama/.ollama/models有足够大的空间

5、运行模型

等进度条走完,就可以在本地使用了。

展开剩余部分

相关文章

热门文章

用户留言 联系我们

跟帖评论