Skip to main content

开发时服务

Spring AI 为本地开发和测试提供 Docker Compose 配置。

概述

本节描述了可用于 Spring AI 开发的 Docker Compose 服务,包括:
  • 向量数据库
  • AI 模型服务器
  • 测试工具

可用服务

向量数据库

  • 带 pgvector 的 PostgreSQL
  • Milvus
  • Qdrant
  • Weaviate
  • Chroma

AI 模型服务器

  • Ollama
  • LocalAI
  • Hugging Face 推理服务器

测试工具

  • Testcontainers 配置
  • 模拟 AI 服务

使用方法

要使用这些服务,您可以运行:
这将启动本地开发所需的所有必要服务。

配置

每个服务都可以通过环境变量或 Docker Compose 覆盖进行配置。

实现

基本 Docker Compose 设置

服务配置

服务类别

1. 向量存储

2. AI 模型服务器

3. 监控服务

配置属性

最佳实践

使用开发时服务时,请考虑以下最佳实践:
  • 资源管理:监控资源使用情况
  • 数据持久化:使用卷进行数据持久化
  • 安全性:保护开发环境
  • 网络:配置适当的网络隔离
  • 文档:记录服务配置

高级功能

自定义服务配置

服务健康检查

故障排除

常见问题和解决方案:
  1. 服务启动问题
    • 检查端口冲突
    • 验证资源可用性
    • 查看服务日志
  2. 连接问题
    • 检查网络配置
    • 验证服务健康状态
    • 测试连接性
  3. 资源问题
    • 监控资源使用情况
    • 调整资源限制
    • 清理未使用的资源

文档有误?请协助编辑

发现文档问题?点击此处直接在 GitHub 上编辑并提交 PR,帮助我们改进文档!