【模型接入】字节豆包
项目基于 Spring AI + 自己实现的 models/doubao,实现 doubao 豆包大模型 (opens new window) 的接入:
| 功能 | 模型 | Spring AI 客户端 |
|---|---|---|
| AI 对话 | Doubao-Seed-2.1-pro、Doubao-Seed-2.1-turbo 等 | DouBaoChatModel |
| AI 绘画 | 暂未接入 | 暂未接入 |
# 1. 申请密钥
由于字节豆包是非开源的模型,所以无法私有化部署,需要去官网申请 API Key,然后通过项目自定义的 DouBaoChatModel 接入。
# 1.1 申请字节密钥
① 在 火山引擎 (opens new window) 上,注册一个账号。
② 在 系统设置 -> API Key 管理 (opens new window) 上,创建一个 API Key 密钥。

③ 在 智能广场 -> 模型广场 (opens new window) 上,开通 “Doubao-Seed-2.1-pro” 或 “Doubao-Seed-2.1-turbo” 模型。

申请完成后,可以在我们系统的 [AI 大模型 -> 控制台 -> API 密钥] 菜单,进行密钥的配置。只需要填写“密钥”,不需要填写“自定义 API URL”(因为 Spring AI 默认官方地址)。如下图所示:

# 2. 模型配置
# 2.1 AI 对话
使用 《AI 对话》 时,需要在 [AI 大模型 -> 控制台 -> 模型配置] 菜单,配置对应的聊天模型。
不同模型的 max_tokens(回复数 Token 数)上限不同,可以参考下表填写:
| 模型标识 | max_tokens 最大输出 Tokens |
|---|---|
doubao-seed-2-1-pro-260628 | 262144 |
doubao-seed-2-1-turbo-260628 | 262144 |
# 2.2 AI 绘图
TODO 等待 DouBao ImageModel 客户端!
# 3. 如何使用?
① 如果你的项目里需要直接通过 @Resource 注入 DouBaoChatModel 等对象,需要把 application.yaml 配置文件里的 yudao.ai.doubao 配置项,替换成你的!
yudao:
ai:
doubao: # 字节豆包
enable: true
api-key: ${DOUBAO_API_KEY}
model: doubao-seed-2-1-turbo-260628
② 如果你希望使用 [AI 大模型 -> 控制台 -> API 密钥] 菜单的密钥配置,则可以通过 AiModelService 的 #getChatModel(...) 方法,获取对应的模型对象。
① 和 ② 这两者的后续使用,就是标准的 Spring AI 客户端的使用,调用对应的方法即可。
另外,DouBaoChatModelTests 里有对应的测试用例,可以参考。