DeepSeek部署

云端一键部署deepseek

step 1 :登陆BuluAI选择容器配置

选择GPU数量,可选择1张或以上数量的4090显卡

step 2:找到DeepSeek模型服务

下拉页面,在选择镜像那里,点击“预置模型镜像”中的deepseek-r1:32B或者deepseek-r1:14B

step 3:在快捷工具中打开

点开容器实例页面,在开机实例的快捷工具中,点击【open-webui】

即可进入到DeepSeek WebUI页面啦!

step 4:模型调用

成功进入DeepSeek WebUI页面后,您可以通过以下两种方式调用模型:  

方式一:通过WebUI直接交互  

输入问题/指令:在WebUI的输入框中直接输入您的问题或任务指令(例如:“请用Python实现快速排序算法”),提交后即可收到实时返回的推理结果。  

方式二:通过API调用(适合开发者)  

1)获取API信息:  

返回BuluAI容器实例页面,在实例的快捷工具中找到ollama,右键复制链接。

2)调用示例(Shell): 

curl {替换为你复制的链接}/api/generate -d '{
  "model": "deepseek-r1:32b",
  "prompt": "什么是API?"
}'

3)处理响应:

API会返回JSON格式的结果,在自己的业务逻辑中正确的处理他们。

小贴士:  

API调用详情,可以参考官方网站的文档

https://github.com/ollama/ollama/blob/main/docs/api.md