AI编程大模型上线
时间: 2025-09-11 来源:
为满足校内师生对智能辅助编程的需求,高性能计算中心搭建了AI编程大模型应用,后台模型使用的是qwen3-coder:30b,其具有卓越的代码能力,具有开源模型的 SOTA 效果(详情参见https://developer.aliyun.com/article/1673319),支持网页、客户端、cline插件及API调用四种使用方式,使用前均需在http://202.204.64.234:8080网站注册用户,后三种方式还需获取API密钥使用。AI编程大模型四种使用方法介绍如下:
1、网页使用方法
在浏览器访问Open WebUI网站,地址为http://202.204.64.234:8080,用户注册(图1)后登录,可以向大模型提问,返回输出结果(图2)。
图1 用户登录和注册
图2 编程大模型界面访问
创建API密钥
除网页直接访问外其他三种访问AI编程模型方式均需创建API密钥,方法为: 登录Open WebUI网站后,点击右上角圆形头像图标,选择设置,选择账号,点击API密钥,创建新安全密钥,最后点击保存,见图3。
图3 创建API密钥方法
2、客户端使用方法
可以任选Cherry Studio和ChatWise客户端工具,配置好模型地址后,即可在电脑上使用,以Cherry Studio客户端为例介绍如下:
进入设置页面,选择模型服务,选择OpenRouter,输入API密钥(从OpenWebUI网页复制粘贴),输入API地址:http://202.204.64.234:8080/api/,单击管理按钮,选择qwen3-code:30b模型。
图4 Cherry Studio客户端配置
然后在使用界面选择qwen3-code:30b|OpenRouter模型开始使用,效果如图5所示。
图5 Cherry Studio 客户端使用效果
3、VsCode cline插件使用方法
在VS Code软件的左侧栏,找到Cline图标并点击,然后点击右上角的齿轮设置图标,API Provider选择OpenAI Compatible,Base URL填http://202.204.64.234:8080/api/,Model填qwen3-code:30b,如下图所示,然后就可以用cline插件实现AI辅助编程功能了。
图6 VS Code 的cline插件配置
4、API调用使用方法
以Python语言为例,代码如下:
import requests url = 'http://202.204.64.234:8080/api/chat/completions' payload = { "model":"qwen3-coder:30b", "messages":[ { "role": "user", "content": "写一段读取csv文件的python代码" } ] } headers = { 'Authorization': 'Bearer sk-b6fa99e7477449a49ff9f28aa1******', 'Content-Type': 'application/json' } response = requests.post(url, json=payload, headers=headers) print('Status Code:', response.status_code) try: response_json = response.json() print('Response Body:', response_json['choices'][0]['message'] ['content']) except ValueError: print("Response is not in JSON format") |
使用Spyder编程工具效果如图 7所示。
图7 Python代码运行结果