【模型接入】腾讯混元
项目基于 Spring AI + 自己实现的 models/hunyuan,实现 hunyuan 混元大模型 (opens new window) 的接入:
| 功能 | 模型 | Spring AI 客户端 |
|---|---|---|
| AI 对话 | hy3-preview 等 | HunYuanChatModel |
| AI 绘画 | 混元生图 (opens new window) 等 | 暂未接入 |
# 1. 申请密钥
由于腾讯混元是非开源的模型,所以无法私有化部署,需要去官网申请 API Key,然后通过 Spring AI 提供的客户端接入。
# 1.1 申请腾讯密钥
① 在 腾讯云 (opens new window) 上,注册一个账号。
② 在 TokenHub 控制台 (opens new window) 上开通混元模型,并在 API Key 管理 (opens new window) 创建一个 API Key 密钥。
申请完成后,可以在我们系统的 [AI 大模型 -> 控制台 -> API 密钥] 菜单,进行密钥的配置。只需要填写“密钥”,不需要填写“自定义 API URL”(项目默认使用 TokenHub 地址)。如下图所示:

# 2. 模型配置
友情提示:
目前 ai_model 表中,已经预置了一些模型,可以直接使用!!!
# 2.1 AI 对话
使用 《AI 对话》 时,需要在 [AI 大模型 -> 控制台 -> 模型配置] 菜单,配置对应的聊天模型。
模型可以在 TokenHub 模型广场 (opens new window) 查看。
不同模型的 max_tokens(回复数 Token 数)上限不同,可以参考下表填写:
| 模型标识 | max_tokens 最大输出 Tokens |
|---|---|
hy3-preview | 131072 |
# 2.2 AI 绘图
TODO 等待 HunYuan ImageModel 客户端!
# 3. 如何使用?
① 如果你的项目里需要直接通过 @Resource 注入 HunYuanChatModel 等对象,需要把 application.yaml 配置文件里的 yudao.ai.hunyuan 配置项,替换成你的!
yudao:
ai:
hunyuan: # 腾讯混元
enable: true
api-key: ${HUNYUAN_API_KEY}
model: hy3-preview
② 如果你希望使用 [AI 大模型 -> 控制台 -> API 密钥] 菜单的密钥配置,则可以通过 AiModelService 的 #getChatModel(...) 方法,获取对应的模型对象。
① 和 ② 这两者的后续使用,就是标准的 Spring AI 客户端的使用,调用对应的方法即可。
另外,HunYuanChatModelTests 里有对应的测试用例,可以参考。