【模型接入】通义千问

功能	模型	Spring AI 客户端
AI 对话	通义千问 (opens new window)	TongYiChatModel (opens new window)
AI 绘画	通义万象 (opens new window)	TongYiImagesModel (opens new window)

# 1. 申请密钥

通义千问有开源版本 (opens new window)，提供包括 18 亿、70 亿、140 亿和 720亿等多个规模的版本，所以我们可以私有化部署。

当然，能力更强的模型，就需要使用阿里云提供的大模型服务 (opens new window)。

下面，我们来看看这两种方式怎么申请（部署）？

友情提示：

一般情况下，建议先采用“方式一：申请阿里云密钥”，因为阿里云提供了一定的免费额度，具体可以看阿里云计费管理（需要登录） (opens new window)，搜“免费额度”或者“限时免费”关键字。

参考《阿里云大模型 —— 快速模型》 (opens new window) 文档，重点是“开通 DashScope 并创建 API-KEY (opens new window)”部分，其它都不用关注。一般 1-2 分钟就可以申请完成！

申请完成后，可以在我们系统的 [AI 大模型 -> 控制台 -> API 密钥] 菜单，进行密钥的配置。只需要填写“密钥”，不需要填写“自定义 API URL”（因为 Spring AI 默认官方地址）。如下图所示：

官方的密钥配置

① 访问 https://ollama.ai/download (opens new window)，下载对应系统 Ollama 客户端，然后安装。

② 安装完成后，在命令中执行 ollama run qwen2.5 命令，一键部署通义千问开源模型 (opens new window)，默认跑的是 qwen:7b 模型。

部署完成后，可以在我们系统的 [AI 大模型 -> 控制台 -> API 密钥] 菜单，进行密钥的配置。需要填写“密钥” + “自定义 API URL”（因为让 Spring AI 使用该地址）。如下图所示：

私有的密钥配置

注意：使用该方式时，后续配置模型名时，需要使用 qwen2.5 ！！！例如说：

私有的聊天模型

友情提示：

目前 ai_model 表中，已经预置了一些模型，可以直接使用！！！

使用《AI 对话》时，需要在 [AI 大模型 -> 控制台 -> 模型配置] 菜单，配置对应的聊天模型。

模型有：qwen-turbo、qwen-max、qwen-max-1201、qwen-max-longcontext、qwen-plus 等等，可通过阿里云计费管理（需要登录） (opens new window) 查看。

注意，每个模型标识的 max_tokens（回复数 Token 数）是不同的，可查看官方文档 (opens new window) 介绍，一般是 1500 或 2000。不确定的话，就填写 1500 先~跑通之后，再网上查查。

使用《AI 绘图》时，需要在 [AI 大模型 -> 控制台 -> 模型配置] 菜单，配置对应的图像模型。

模型有：wanx-v1、wanx-sketch-to-image-v1 等等。

① 如果你的项目里需要直接通过 @Resource 注入 TongYiChatModel、TongYiImageModel 等对象，需要把 application.yaml 配置文件里的 spring.ai.dashscope. 配置项，替换成你的！

ps：暂时不支持“方式二：私有化部署”。（后续会支持！）

spring:
  ai:
    dashscope: # 通义千问
    api-key: sk-71800982914041848008480000000000

② 如果你希望使用 [AI 大模型 -> 控制台 -> API 密钥] 菜单的密钥配置，则可以通过 AiModelService 的 #getChatModel(...) 或 #getImageModel(...) 方法，获取对应的模型对象。

① 和 ② 这两者的后续使用，就是标准的 Spring AI 客户端的使用，调用对应的方法即可。

另外，TongYiChatModelTests、TongYiImagesModelTest 里有对应的测试用例，可以参考。