spring.ai.model.chat | 启用 OpenAI 聊天模型。 | openai |
spring.ai.openai.chat.base-url | 可选地覆盖 spring.ai.openai.base-url 属性以提供特定于聊天的 URL。 | - |
spring.ai.openai.chat.completions-path | 要附加到基本 URL 的路径。 | /v1/chat/completions |
spring.ai.openai.chat.api-key | 可选地覆盖 spring.ai.openai.api-key 以提供特定于聊天的 API 密钥。 | - |
spring.ai.openai.chat.organization-id | 可选地,你可以指定用于 API 请求的组织。 | - |
spring.ai.openai.chat.project-id | 可选地,你可以指定用于 API 请求的项目。 | - |
spring.ai.openai.chat.options.model | 要使用的 OpenAI 聊天模型的名称。你可以在诸如 gpt-4o 、gpt-4o-mini 、gpt-4-turbo 、gpt-3.5-turbo 等模型之间进行选择。有关更多信息,请参阅模型页面。 | gpt-4o-mini |
spring.ai.openai.chat.options.temperature | 用于控制生成补全的明显创造性的采样温度。较高的值会使输出更随机,而较低的值会使结果更集中和确定。不建议为同一补全请求修改 temperature 和 top_p ,因为这两个设置的相互作用很难预测。 | 0.8 |
spring.ai.openai.chat.options.frequencyPenalty | -2.0 到 2.0 之间的数字。正值会根据新标记在文本中已有的频率对其进行惩罚,从而降低模型逐字重复同一行的可能性。 | 0.0f |
spring.ai.openai.chat.options.logitBias | 修改指定标记在补全中出现的可能性。 | - |
spring.ai.openai.chat.options.maxTokens | (已弃用,建议使用 maxCompletionTokens ) 在聊天补全中生成的最大标记数。输入标记和生成标记的总长度受模型上下文长度的限制。 | - |
spring.ai.openai.chat.options.maxCompletionTokens | 可为补全生成的标记数的上限,包括可见输出标记和推理标记。 | - |
spring.ai.openai.chat.options.n | 为每个输入消息生成多少个聊天补全选项。请注意,你将根据所有选项中生成的标记数付费。将 n 保持为 1 以最大程度地降低成本。 | 1 |
spring.ai.openai.chat.options.store | 是否存储此聊天补全请求的输出以用于我们的模型 | false |
spring.ai.openai.chat.options.metadata | 用于在聊天补全仪表板中筛选补全的开发人员定义的标签和值 | 空映射 |
spring.ai.openai.chat.options.output-modalities | 你希望模型为此请求生成的输出类型。大多数模型都能够生成文本,这是默认设置。gpt-4o-audio-preview 模型也可用于生成音频。要请求此模型同时生成文本和音频响应,你可以使用:text 、audio 。不支持流式传输。 | - |
spring.ai.openai.chat.options.output-audio | 音频生成的音频参数。当使用 output-modalities 请求音频输出时是必需的:audio 。需要 gpt-4o-audio-preview 模型,并且不支持流式补全。 | - |
spring.ai.openai.chat.options.presencePenalty | -2.0 到 2.0 之间的数字。正值会根据新标记是否已出现在文本中对其进行惩罚,从而增加模型谈论新主题的可能性。 | - |
spring.ai.openai.chat.options.responseFormat.type | 与 GPT-4o 、GPT-4o mini 、GPT-4 Turbo 以及所有比 gpt-3.5-turbo-1106 新的 GPT-3.5 Turbo 模型兼容。JSON_OBJECT 类型启用 JSON 模式,可确保模型生成的消息是有效的 JSON。JSON_SCHEMA 类型启用结构化输出,可确保模型与你提供的 JSON 模式匹配。JSON_SCHEMA 类型还需要设置 responseFormat.schema 属性。 | - |
spring.ai.openai.chat.options.responseFormat.name | 响应格式模式名称。仅适用于 responseFormat.type=JSON_SCHEMA | custom_schema |
spring.ai.openai.chat.options.responseFormat.schema | 响应格式 JSON 模式。仅适用于 responseFormat.type=JSON_SCHEMA | - |
spring.ai.openai.chat.options.responseFormat.strict | 响应格式 JSON 模式遵循严格性。仅适用于 responseFormat.type=JSON_SCHEMA | - |
spring.ai.openai.chat.options.seed | 此功能处于测试阶段。如果指定,我们的系统将尽最大努力进行确定性采样,以便具有相同种子和参数的重复请求应返回相同的结果。 | - |
spring.ai.openai.chat.options.stop | API 将停止生成更多标记的最多 4 个序列。 | - |
spring.ai.openai.chat.options.topP | 温度采样的替代方法,称为核采样,其中模型考虑具有 top_p 概率质量的标记的结果。因此 0.1 表示仅考虑构成前 10% 概率质量的标记。我们通常建议更改此项或 temperature ,但不能同时更改两者。 | - |
spring.ai.openai.chat.options.tools | 模型可能调用的工具列表。目前,仅支持函数作为工具。使用此选项可提供模型可能为其生成 JSON 输入的函数列表。 | - |
spring.ai.openai.chat.options.toolChoice | 控制模型调用哪个(如果有)函数。none 表示模型不会调用函数,而是生成一条消息。auto 表示模型可以在生成消息或调用函数之间进行选择。通过 {"type: "function", "function": {"name": "my_function"}} 指定特定函数会强制模型调用该函数。当不存在函数时,none 是默认值。如果存在函数,则 auto 是默认值。 | - |
spring.ai.openai.chat.options.user | 代表你的最终用户的唯一标识符,可以帮助 OpenAI 监控和检测滥用行为。 | - |
spring.ai.openai.chat.options.functions | 在单个提示请求中启用函数调用的函数列表(按其名称标识)。具有这些名称的函数必须存在于 functionCallbacks 注册表中。 | - |
spring.ai.openai.chat.options.stream-usage | (仅限流式传输)设置为添加一个包含整个请求的标记使用情况统计信息的附加块。此块的 choices 字段是一个空数组,所有其他块也将包含一个 usage 字段,但其值为 null。 | false |
spring.ai.openai.chat.options.parallel-tool-calls | 在工具使用期间是否启用并行函数调用。 | true |
spring.ai.openai.chat.options.http-headers | 要添加到聊天补全请求的可选 HTTP 标头。要覆盖 api-key ,你需要使用 Authorization 标头键,并且必须在键值前加上 Bearer 前缀。 | - |
spring.ai.openai.chat.options.proxy-tool-calls | 如果为 true,Spring AI 将不会在内部处理函数调用,而是将它们代理到客户端。然后由客户端负责处理函数调用,将它们分派到适当的函数,并返回结果。如果为 false(默认值),Spring AI 将在内部处理函数调用。仅适用于具有函数调用支持的聊天模型 | false |