> ## Documentation Index
> Fetch the complete documentation index at: https://javaai.pig4cloud.com/llms.txt
> Use this file to discover all available pages before exploring further.
# Ollama 对接
* ⭐️ **请先 Star 本项目后再提问，作者精力有限，未 Star 直接 Close**
* 🐞 [GitHub ISSUE](https://github.com/pig-mesh/deepseek4j/issues) 需包含：问题截图 + SDK版本 + 配置代码
本文将介绍如何使用 deepseek4j 接入 Ollama 的 Deepseek-r1:14b 模型。
## Ollama 安装部署
### 1. 安装 Ollama
在 macOS 上安装 Ollama：
```bash theme={"system"}
curl https://ollama.ai/install.sh | sh
```
在 Linux 上安装 Ollama：
```bash theme={"system"}
curl https://ollama.ai/install.sh | sh
```
在 Windows 上安装：
* 访问 [Ollama官网](https://ollama.ai/download) 下载安装包
* 运行安装程序完成安装
### 2. 下载 Deepseek-r1:14b 模型
安装完成后，打开终端运行以下命令下载模型：
```bash theme={"system"}
ollama pull deepseek-r1:14b
```
### 3. 启动 Ollama 服务
```bash theme={"system"}
ollama serve
```
服务默认运行在 `http://127.0.0.1:11434`
## deepseek4j 配置
### 1. 配置文件设置
在 `application.properties` 或 `application.yml` 中添加以下配置：
注意模型名称：deepseek-r1:14b ， 和上文Ollama run 参数一致
```properties theme={"system"}
deepseek.base-url=http://127.0.0.1:11434/v1
deepseek.model=deepseek-r1:14b
deepseek.api-key=deepseek #不能为空，随意填
```
### 2. 代码示例
```java theme={"system"}
@Autowired
private DeepSeekClient deepSeekClient;
@GetMapping(value = "/chat", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
public Flux chat(String prompt) {
return deepSeekClient.chatFluxCompletion(prompt);
}
```
## 注意事项
1. 确保 Ollama 服务正常运行
2. 模型下载可能需要一些时间，取决于网络状况
3. 首次使用时需要等待模型加载
4. 建议使用 16GB 以上内存的机器运行
## 常见问题
### 1. 连接超时
检查 Ollama 服务是否正常运行：
```bash theme={"system"}
curl http://127.0.0.1:11434
Ollama is running
```
### 2. 内存不足
可以通过设置环境变量来限制模型使用的显存：
```bash theme={"system"}
export OLLAMA_GPU_LAYERS=0
```
### 3. 模型响应速度
* 首次请求可能较慢，这是正常现象
* 后续请求会更快，因为模型已经加载到内存中
## 参考链接
* [Ollama 官方文档](https://ollama.ai)
**为Java开发者提供全栈式AI工程化解决方案**，强类型/高可维护性架构，内置30+主流大模型支持。
* **🔍 知识引擎体系**：RAG 知识引擎全自动化多模态解决方案
* **📝 AI-OCR 中枢**：复杂非标场景高精度识别
* **⚙️ 业务智能融合**：函数编排 + Chat2SQL，无缝对接现有业务系统
* **🛡️ N维风控体系**：敏感词/IP/Token/User 规则控制引擎
发现文档问题？点击此处直接在 GitHub 上编辑并提交 PR，帮助我们改进文档！
发现文档问题？点击此处直接在 GitHub 上编辑并提交 PR，帮助我们改进文档！