MiniMax 聊天
Spring AI 支持 MiniMax 提供的各种 AI 语言模型。你可以与 MiniMax 语言模型进行交互,并基于 MiniMax 模型创建多语言会话助手。
前提条件
你需要使用 MiniMax 创建一个 API 才能访问 MiniMax 语言模型。
在 MiniMax 注册页面创建一个帐户,并在API 密钥页面生成令牌。
Spring AI 项目定义了一个名为 spring.ai.minimax.api-key
的配置属性,你应该将其设置为从 API 密钥页面获取的 API 密钥
的值。
你可以在 application.properties
文件中设置此配置属性:
为了在处理 API 密钥等敏感信息时增强安全性,你可以使用 Spring 表达式语言 (SpEL) 来引用环境变量:
你也可以在应用程序代码中以编程方式设置此配置:
添加仓库和 BOM
Spring AI 的构件发布在 Maven Central 和 Spring Snapshot 仓库中。 请参阅构件仓库部分,将这些仓库添加到你的构建系统中。
为了帮助进行依赖管理,Spring AI 提供了一个 BOM (bill of materials),以确保在整个项目中使用一致版本的 Spring AI。请参阅依赖管理部分,将 Spring AI BOM 添加到你的构建系统中。
自动配置
Spring AI 自动配置、启动器模块的构件名称发生了重大变化。 有关更多信息,请参阅升级说明。
Spring AI 为 MiniMax 聊天客户端提供 Spring Boot 自动配置。
要启用它,请将以下依赖项添加到项目的 Maven pom.xml
文件中:
请参阅依赖管理部分,将 Spring AI BOM 添加到你的构建文件中。
聊天属性
重试属性
前缀 spring.ai.retry
用作属性前缀,允许你配置 MiniMax 聊天模型的重试机制。
属性 | 描述 | 默认值 |
---|---|---|
spring.ai.retry.max-attempts | 最大重试次数。 | 10 |
spring.ai.retry.backoff.initial-interval | 指数退避策略的初始休眠持续时间。 | 2 秒 |
spring.ai.retry.backoff.multiplier | 退避间隔乘数。 | 5 |
spring.ai.retry.backoff.max-interval | 最大退避持续时间。 | 3 分钟 |
spring.ai.retry.on-client-errors | 如果为 false,则抛出 NonTransientAiException,并且不尝试对 4xx 客户端错误代码进行重试 | false |
spring.ai.retry.exclude-on-http-codes | 不应触发重试的 HTTP 状态代码列表(例如,抛出 NonTransientAiException)。 | 空 |
spring.ai.retry.on-http-codes | 应触发重试的 HTTP 状态代码列表(例如,抛出 TransientAiException)。 | 空 |
连接属性
前缀 spring.ai.minimax
用作属性前缀,允许你连接到 MiniMax。
属性 | 描述 | 默认值 |
---|---|---|
spring.ai.minimax.base-url | 要连接的 URL | https://api.minimax.chat |
spring.ai.minimax.api-key | API 密钥 | - |
配置属性
聊天自动配置的启用和禁用现在通过前缀为 spring.ai.model.chat
的顶级属性进行配置。
要启用,spring.ai.model.chat=minimax
(默认启用)
要禁用,spring.ai.model.chat=none
(或任何与 minimax 不匹配的值)
此更改是为了允许配置多个模型。
前缀 spring.ai.minimax.chat
是属性前缀,允许你配置 MiniMax 的聊天模型实现。
属性 | 描述 | 默认值 |
---|---|---|
spring.ai.minimax.chat.enabled (已移除且不再有效) | 启用 MiniMax 聊天模型。 | true |
spring.ai.model.chat | 启用 MiniMax 聊天模型。 | minimax |
spring.ai.minimax.chat.base-url | 可选地覆盖 spring.ai.minimax.base-url 以提供特定于聊天的 url | https://api.minimax.chat |
spring.ai.minimax.chat.api-key | 可选地覆盖 spring.ai.minimax.api-key 以提供特定于聊天的 api-key | - |
spring.ai.minimax.chat.options.model | 这是要使用的 MiniMax 聊天模型 | abab6.5g-chat (abab5.5-chat 、abab5.5s-chat 、abab6.5-chat 、abab6.5g-chat 、abab6.5t-chat 和 abab6.5s-chat 指向最新的模型版本) |
spring.ai.minimax.chat.options.maxTokens | 在聊天补全中生成的最大标记数。输入标记和生成标记的总长度受模型上下文长度的限制。 | - |
spring.ai.minimax.chat.options.temperature | 用于控制生成补全的明显创造性的采样温度。较高的值会使输出更随机,而较低的值会使结果更集中和确定。不建议为同一补全请求修改温度和 top_p,因为这两个设置的相互作用很难预测。 | 0.7 |
spring.ai.minimax.chat.options.topP | 温度采样的替代方法,称为核采样,其中模型考虑具有 top_p 概率质量的标记的结果。因此 0.1 表示仅考虑构成前 10% 概率质量的标记。我们通常建议更改此项或温度,但不能同时更改两者。 | 1.0 |
spring.ai.minimax.chat.options.n | 为每个输入消息生成多少个聊天补全选项。请注意,你将根据所有选项中生成的标记数付费。默认值为 1,不能大于 5。具体来说,当温度非常小且接近 0 时,我们只能返回 1 个结果。如果此时已设置 n 且 >1,服务将返回非法输入参数 (invalid_request_error) | 1 |
spring.ai.minimax.chat.options.presencePenalty | -2.0 到 2.0 之间的数字。正值会根据新标记是否已出现在文本中对其进行惩罚,从而增加模型谈论新主题的可能性。 | 0.0f |
spring.ai.minimax.chat.options.frequencyPenalty | -2.0 到 2.0 之间的数字。正值会根据新标记在文本中已有的频率对其进行惩罚,从而降低模型逐字重复同一行的可能性。 | 0.0f |
spring.ai.minimax.chat.options.stop | 模型将停止生成由 stop 指定的字符,目前仅支持 [“stop_word1”] 格式的单个停止词 | - |
你可以为 ChatModel
实现覆盖通用的 spring.ai.minimax.base-url
和 spring.ai.minimax.api-key
。
如果设置了 spring.ai.minimax.chat.base-url
和 spring.ai.minimax.chat.api-key
属性,则它们优先于通用属性。
如果你想为不同的模型和不同的模型端点使用不同的 MiniMax 帐户,这将非常有用。
所有以 spring.ai.minimax.chat.options
为前缀的属性都可以在运行时通过向 Prompt
调用添加特定于请求的聊天选项来覆盖。
运行时选项
MiniMaxChatOptions.java 提供模型配置,例如要使用的模型、温度、频率惩罚等。
在启动时,可以使用 MiniMaxChatModel(api, options)
构造函数或 spring.ai.minimax.chat.options.*
属性配置默认选项。
在运行时,你可以通过向 Prompt
调用添加新的、特定于请求的选项来覆盖默认选项。
例如,要为特定请求覆盖默认模型和温度:
除了特定于模型的 MiniMaxChatOptions之外,你还可以使用通过 ChatOptionsBuilder#builder() 创建的可移植 ChatOptions 实例。
示例控制器
创建一个新的 Spring Boot 项目,并将 spring-ai-starter-model-minimax
添加到你的 pom (或 gradle) 依赖项中。
在 src/main/resources
目录下添加一个 application.properties
文件,以启用和配置 MiniMax 聊天模型:
将 api-key
替换为你的 MiniMax 凭据。
这将创建一个 MiniMaxChatModel
实现,你可以将其注入到你的类中。
以下是一个简单的 @Controller
类的示例,该类使用聊天模型进行文本生成。
手动配置
MiniMaxChatModel 实现了 ChatModel
和 StreamingChatModel
,并使用低级 API连接到 MiniMax 服务。
将 spring-ai-minimax
依赖项添加到项目的 Maven pom.xml
文件中:
或添加到你的 Gradle build.gradle
构建文件中:
请参阅依赖管理部分,将 Spring AI BOM 添加到你的构建文件中。
接下来,创建一个 MiniMaxChatModel
并将其用于文本生成:
MiniMaxChatOptions
为聊天请求提供配置信息。
MiniMaxChatOptions.Builder
是流畅的选项构建器。
低级 MiniMaxApi 客户端
MiniMaxApi 提供了轻量级的 Java 客户端,用于 MiniMax API。
以下是一个简单的代码片段,展示了如何以编程方式使用 API:
有关更多信息,请参阅 MiniMaxApi.java 的 JavaDoc。
WebSearch 聊天
MiniMax 模型支持 Web 搜索功能。Web 搜索功能允许你搜索 Web 上的信息并在聊天响应中返回结果。
有关 Web 搜索的更多信息,请参阅 MiniMax ChatCompletion。
以下是如何使用 Web 搜索的简单代码片段:
MiniMaxApi 示例
-
MiniMaxApiIT.java 测试提供了一些有关如何使用轻量级库的常规示例。
-
MiniMaxApiToolFunctionCallIT.java 测试演示了如何使用低级 API 调用工具函数。
文档有误?请协助编辑
发现文档问题?点击此处直接在 GitHub 上编辑并提交 PR,帮助我们改进文档!