【模型接入】阶跃星辰
项目基于 Spring AI + 自己实现的 models/stepfun,实现 阶跃星辰 (opens new window) 的接入,底层复用兼容 OpenAI 协议的客户端:
| 功能 | 模型 | Spring AI 客户端 |
|---|---|---|
| AI 对话 | step-3.7-flash | StepFunChatModel |
| AI 绘画 | 暂未接入 | 暂未接入 |
# 1. 申请密钥
阶跃星辰提供官方 API 服务,可以直接申请 API Key 使用。
① 在 阶跃星辰开放平台 (opens new window) 上,注册一个账号。
② 在 接口密钥 (opens new window) 页面,创建一个 API Key 密钥。
申请完成后,可以在我们系统的 [AI 大模型 -> 控制台 -> API 密钥] 菜单,进行密钥的配置,字段可以按下面填写:
- 名称:
阶跃星辰 - 所属平台:
StepFun - API 密钥:填写上一步创建的阶跃星辰 API Key
- 自定义 API URL:不填写,项目默认使用阶跃星辰官方地址
# 2. 模型配置
友情提示:
目前 ai_model 表中,已经预置了一些模型,可以直接使用!!!
# 2.1 AI 对话
使用 《AI 对话》 时,需要在 [AI 大模型 -> 控制台 -> 模型配置] 菜单,配置对应的聊天模型,字段可以按下面填写:
- 模型名称:
step-3.7-flash - 所属平台:
StepFun - 模型类型:
聊天 - 模型标识:
step-3.7-flash - API 密钥:选择前面配置的阶跃星辰密钥
- 回复数 Token 数:
256000
不同模型的 max_tokens(回复数 Token 数)上限不同,可以参考下表填写:
| 模型标识 | max_tokens 最大输出 Tokens |
|---|---|
step-3.7-flash | 256000 |
# 2.2 AI 绘图
TODO 等待 StepFun ImageModel 客户端!
# 3. 如何使用?
① 如果你的项目里需要直接通过 @Resource 注入 StepFunChatModel 等对象,需要把 application.yaml 配置文件里的 yudao.ai.stepfun 配置项,替换成你的!
yudao:
ai:
stepfun: # 阶跃星辰
enable: true
api-key: ${STEPFUN_API_KEY}
model: step-3.7-flash
② 如果你希望使用 [AI 大模型 -> 控制台 -> API 密钥] 菜单的密钥配置,则可以通过 AiModelService 的 #getChatModel(...) 方法,获取对应的模型对象。
① 和 ② 这两者的后续使用,就是标准的 Spring AI 客户端的使用,调用对应的方法即可。
另外,StepFunChatModelTests 里有对应的测试用例,可以参考。