AI编程大模型上线


为满足校内师生对智能辅助编程的需求,高性能计算中心搭建了AI编程大模型应用,后台模型使用的是qwen3-coder:30b,其具有卓越的代码能力,具有开源模型的 SOTA 效果(详情参见https://developer.aliyun.com/article/1673319),支持网页、客户端、cline插件及API调用四种使用方式,使用前均需在http://202.204.64.234:8080网站注册用户,后三种方式还需获取API密钥使用。AI编程大模型四种使用方法介绍如下:


1、网页使用方法

在浏览器访问Open WebUI网站,地址为http://202.204.64.234:8080,用户注册(图1)后登录,可以向大模型提问,返回输出结果(图2)。

图1 用户登录和注册

图2 编程大模型界面访问

创建API密钥

除网页直接访问外其他三种访问AI编程模型方式均需创建API密钥,方法为: 登录Open WebUI网站后,点击右上角圆形头像图标,选择设置,选择账号,点击API密钥,创建新安全密钥,最后点击保存,见图3。

图3 创建API密钥方法


2、客户端使用方法

可以任选Cherry Studio和ChatWise客户端工具,配置好模型地址后,即可在电脑上使用,以Cherry Studio客户端为例介绍如下:

进入设置页面,选择模型服务,选择OpenRouter,输入API密钥(从OpenWebUI网页复制粘贴),输入API地址:http://202.204.64.234:8080/api/,单击管理按钮,选择qwen3-code:30b模型。

图4 Cherry Studio客户端配置

然后在使用界面选择qwen3-code:30b|OpenRouter模型开始使用,效果如图5所示。

图5 Cherry Studio 客户端使用效果


3、VsCode cline插件使用方法

在VS Code软件的左侧栏,找到Cline图标并点击,然后点击右上角的齿轮设置图标,API Provider选择OpenAI Compatible,Base URL填http://202.204.64.234:8080/api/,Model填qwen3-code:30b,如下图所示,然后就可以用cline插件实现AI辅助编程功能了。

图6 VS Code 的cline插件配置


4、API调用使用方法

以Python语言为例,代码如下:

import requests

url = 'http://202.204.64.234:8080/api/chat/completions'

payload = {

"model":"qwen3-coder:30b",

"messages":[

{

"role": "user",

"content": "写一段读取csv文件的python代码"

}

]

}

headers = {

'Authorization': 'Bearer sk-b6fa99e7477449a49ff9f28aa1******',

'Content-Type': 'application/json'

}

response = requests.post(url, json=payload, headers=headers)

print('Status Code:', response.status_code)

try:

response_json = response.json()

print('Response Body:', response_json['choices'][0]['message'] ['content'])

except ValueError:

print("Response is not in JSON format")

使用Spyder编程工具效果如图 7所示。

图7 Python代码运行结果