Spring AI 支持 OpenAI 提供的各种 AI 语言模型。OpenAI 是 ChatGPT 背后的公司,凭借其创建的行业领先的文本生成模型和嵌入,在激发人们对 AI 驱动的文本生成的兴趣方面发挥了重要作用。

前提条件

你需要使用 OpenAI 创建一个 API 才能访问 ChatGPT 模型。

OpenAI 注册页面 创建一个帐户,并在 API 密钥页面 生成令牌。

Spring AI 项目定义了一个名为 spring.ai.openai.api-key 的配置属性,你应该将其设置为从 openai.com 获取的 API 密钥 的值。

你可以在 application.properties 文件中设置此配置属性:

spring.ai.openai.api-key=<你的-openai-api-密钥>

为了在处理 API 密钥等敏感信息时增强安全性,你可以使用 Spring 表达式语言 (SpEL) 来引用自定义环境变量:

# 在 application.yml 中
spring:
  ai:
    openai:
      api-key: ${OPENAI_API_KEY}
# 在你的环境或 .env 文件中
export OPENAI_API_KEY=<你的-openai-api-密钥>

你也可以在应用程序代码中以编程方式设置此配置:

// 从安全来源或环境变量中检索 API 密钥
String apiKey = System.getenv("OPENAI_API_KEY");

添加仓库和 BOM

Spring AI 的构件发布在 Maven Central 和 Spring Snapshot 仓库中。 请参阅构件仓库部分,将这些仓库添加到你的构建系统中。

为了帮助进行依赖管理,Spring AI 提供了一个 BOM (bill of materials),以确保在整个项目中使用一致版本的 Spring AI。请参阅依赖管理部分,将 Spring AI BOM 添加到你的构建系统中。

自动配置

Spring AI 自动配置、启动器模块的构件名称发生了重大变化。 有关更多信息,请参阅升级说明

Spring AI 为 OpenAI 聊天客户端提供 Spring Boot 自动配置。 要启用它,请将以下依赖项添加到项目的构建文件中:

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-openai</artifactId>
</dependency>

请参阅依赖管理部分,将 Spring AI BOM 添加到你的构建文件中。

配置属性

:::note 聊天自动配置的启用和禁用现在通过前缀为 spring.ai.model.chat 的顶级属性进行配置。

要启用,spring.ai.model.chat=openai (默认启用)

要禁用,spring.ai.model.chat=none (或任何与 openai 不匹配的值)

此更改是为了允许配置多个模型。 :::

连接属性

前缀 spring.ai.openai 用作属性前缀,允许你连接到 OpenAI。

属性描述默认值
spring.ai.openai.base-url要连接的 URLhttps://api.openai.com
spring.ai.openai.api-keyAPI 密钥-
spring.ai.openai.organization-id可选地,你可以指定用于 API 请求的组织。-
spring.ai.openai.project-id可选地,你可以指定用于 API 请求的项目。-

:::tip 对于属于多个组织的用户(或通过其旧版用户 API 密钥访问其项目的用户),你可以选择指定用于 API 请求的组织和项目。 来自这些 API 请求的使用量将计为指定组织和项目的使用量。 :::

聊天属性

前缀 spring.ai.openai.chat 是属性前缀,允许你配置 OpenAI 的聊天模型实现。

属性描述默认值
spring.ai.model.chat启用 OpenAI 聊天模型。openai
spring.ai.openai.chat.base-url可选地覆盖 spring.ai.openai.base-url 属性以提供特定于聊天的 URL。-
spring.ai.openai.chat.completions-path要附加到基本 URL 的路径。/v1/chat/completions
spring.ai.openai.chat.api-key可选地覆盖 spring.ai.openai.api-key 以提供特定于聊天的 API 密钥。-
spring.ai.openai.chat.organization-id可选地,你可以指定用于 API 请求的组织。-
spring.ai.openai.chat.project-id可选地,你可以指定用于 API 请求的项目。-
spring.ai.openai.chat.options.model要使用的 OpenAI 聊天模型的名称。你可以在诸如 gpt-4ogpt-4o-minigpt-4-turbogpt-3.5-turbo 等模型之间进行选择。有关更多信息,请参阅模型页面。gpt-4o-mini
spring.ai.openai.chat.options.temperature用于控制生成补全的明显创造性的采样温度。较高的值会使输出更随机,而较低的值会使结果更集中和确定。不建议为同一补全请求修改 temperaturetop_p,因为这两个设置的相互作用很难预测。0.8
spring.ai.openai.chat.options.frequencyPenalty-2.0 到 2.0 之间的数字。正值会根据新标记在文本中已有的频率对其进行惩罚,从而降低模型逐字重复同一行的可能性。0.0f
spring.ai.openai.chat.options.logitBias修改指定标记在补全中出现的可能性。-
spring.ai.openai.chat.options.maxTokens(已弃用,建议使用 maxCompletionTokens) 在聊天补全中生成的最大标记数。输入标记和生成标记的总长度受模型上下文长度的限制。-
spring.ai.openai.chat.options.maxCompletionTokens可为补全生成的标记数的上限,包括可见输出标记和推理标记。-
spring.ai.openai.chat.options.n为每个输入消息生成多少个聊天补全选项。请注意,你将根据所有选项中生成的标记数付费。将 n 保持为 1 以最大程度地降低成本。1
spring.ai.openai.chat.options.store是否存储此聊天补全请求的输出以用于我们的模型false
spring.ai.openai.chat.options.metadata用于在聊天补全仪表板中筛选补全的开发人员定义的标签和值空映射
spring.ai.openai.chat.options.output-modalities你希望模型为此请求生成的输出类型。大多数模型都能够生成文本,这是默认设置。gpt-4o-audio-preview 模型也可用于生成音频。要请求此模型同时生成文本和音频响应,你可以使用:textaudio。不支持流式传输。-
spring.ai.openai.chat.options.output-audio音频生成的音频参数。当使用 output-modalities 请求音频输出时是必需的:audio。需要 gpt-4o-audio-preview 模型,并且不支持流式补全。-
spring.ai.openai.chat.options.presencePenalty-2.0 到 2.0 之间的数字。正值会根据新标记是否已出现在文本中对其进行惩罚,从而增加模型谈论新主题的可能性。-
spring.ai.openai.chat.options.responseFormat.typeGPT-4oGPT-4o miniGPT-4 Turbo 以及所有比 gpt-3.5-turbo-1106 新的 GPT-3.5 Turbo 模型兼容。JSON_OBJECT 类型启用 JSON 模式,可确保模型生成的消息是有效的 JSON。JSON_SCHEMA 类型启用结构化输出,可确保模型与你提供的 JSON 模式匹配。JSON_SCHEMA 类型还需要设置 responseFormat.schema 属性。-
spring.ai.openai.chat.options.responseFormat.name响应格式模式名称。仅适用于 responseFormat.type=JSON_SCHEMAcustom_schema
spring.ai.openai.chat.options.responseFormat.schema响应格式 JSON 模式。仅适用于 responseFormat.type=JSON_SCHEMA-
spring.ai.openai.chat.options.responseFormat.strict响应格式 JSON 模式遵循严格性。仅适用于 responseFormat.type=JSON_SCHEMA-
spring.ai.openai.chat.options.seed此功能处于测试阶段。如果指定,我们的系统将尽最大努力进行确定性采样,以便具有相同种子和参数的重复请求应返回相同的结果。-
spring.ai.openai.chat.options.stopAPI 将停止生成更多标记的最多 4 个序列。-
spring.ai.openai.chat.options.topP温度采样的替代方法,称为核采样,其中模型考虑具有 top_p 概率质量的标记的结果。因此 0.1 表示仅考虑构成前 10% 概率质量的标记。我们通常建议更改此项或 temperature,但不能同时更改两者。-
spring.ai.openai.chat.options.tools模型可能调用的工具列表。目前,仅支持函数作为工具。使用此选项可提供模型可能为其生成 JSON 输入的函数列表。-
spring.ai.openai.chat.options.toolChoice控制模型调用哪个(如果有)函数。none 表示模型不会调用函数,而是生成一条消息。auto 表示模型可以在生成消息或调用函数之间进行选择。通过 {"type: "function", "function": {"name": "my_function"}} 指定特定函数会强制模型调用该函数。当不存在函数时,none 是默认值。如果存在函数,则 auto 是默认值。-
spring.ai.openai.chat.options.user代表你的最终用户的唯一标识符,可以帮助 OpenAI 监控和检测滥用行为。-
spring.ai.openai.chat.options.functions在单个提示请求中启用函数调用的函数列表(按其名称标识)。具有这些名称的函数必须存在于 functionCallbacks 注册表中。-
spring.ai.openai.chat.options.stream-usage(仅限流式传输)设置为添加一个包含整个请求的标记使用情况统计信息的附加块。此块的 choices 字段是一个空数组,所有其他块也将包含一个 usage 字段,但其值为 null。false
spring.ai.openai.chat.options.parallel-tool-calls在工具使用期间是否启用并行函数调用true
spring.ai.openai.chat.options.http-headers要添加到聊天补全请求的可选 HTTP 标头。要覆盖 api-key,你需要使用 Authorization 标头键,并且必须在键值前加上 Bearer 前缀。-
spring.ai.openai.chat.options.proxy-tool-calls如果为 true,Spring AI 将不会在内部处理函数调用,而是将它们代理到客户端。然后由客户端负责处理函数调用,将它们分派到适当的函数,并返回结果。如果为 false(默认值),Spring AI 将在内部处理函数调用。仅适用于具有函数调用支持的聊天模型false

:::note 你可以为 ChatModelEmbeddingModel 实现覆盖通用的 spring.ai.openai.base-urlspring.ai.openai.api-key。 如果设置了 spring.ai.openai.chat.base-urlspring.ai.openai.chat.api-key 属性,则它们优先于通用属性。 如果你想为不同的模型和不同的模型端点使用不同的 OpenAI 帐户,这将非常有用。 :::

:::tip 所有以 spring.ai.openai.chat.options 为前缀的属性都可以在运行时通过向 Prompt 调用添加特定于请求的聊天选项来覆盖。 :::

运行时选项

OpenAiChatOptions.java 类提供模型配置,例如要使用的模型、温度、频率惩罚等。

在启动时,可以使用 OpenAiChatModel(api, options) 构造函数或 spring.ai.openai.chat.options.* 属性配置默认选项。

在运行时,你可以通过向 Prompt 调用添加新的、特定于请求的选项来覆盖默认选项。 例如,要为特定请求覆盖默认模型和温度:

ChatResponse response = chatModel.call(
    new Prompt(
        "生成 5 个著名海盗的名字。",
        OpenAiChatOptions.builder()
            .model("gpt-4o")
            .temperature(0.4)
        .build()
    ));

低级 OpenAiApi 客户端

OpenAiApi 提供了轻量级的 Java 客户端,用于 OpenAI 聊天 API

以下类图说明了 OpenAiApi 聊天接口和构建块:

以下是一个简单的代码片段,展示了如何以编程方式使用 API:

OpenAiApi openAiApi = OpenAiApi.builder()
            .apiKey(System.getenv("OPENAI_API_KEY"))
            .build();

ChatCompletionMessage chatCompletionMessage =
    new ChatCompletionMessage("你好世界", Role.USER);

// 同步请求
ResponseEntity<ChatCompletion> response = this.openAiApi.chatCompletionEntity(
    new ChatCompletionRequest(List.of(this.chatCompletionMessage), "gpt-3.5-turbo", 0.8, false));

// 流式请求

文档有误?请协助编辑

发现文档问题?点击此处直接在 GitHub 上编辑并提交 PR,帮助我们改进文档!