一、 配置模型API
EPAI兼容OpenAI API服务协议。调用EPAI的大模型服务,需要在EPAI的“模型服务中心-服务聚合”模块,获取BaseURL、API密钥、模型名。
● BaseURL:URL以EPAI访问IP为准
● API密钥:令牌里的API-KEY
● 模型名:填写EPAI里的模型名称
二、 Python代码调用
API规范
基础URL结构
1 GET /v1/models # 获取模型列表
2 POST /v1/chat/completions # 聊天完成接口
3 GET /health # 健康检查
HTTP头部要求
1 Content-Type: application/json
2 Authorization: Bearer YOUR_API_KEY
3 Accept: application/json
状态码规范
| 第 1 列 | 第 2 列 | 第 3 列 | 第 4 列 |
|---|---|---|---|
| 状态码 | 含义 | 使用场 | |
| 200 | 成功 | 正常响应 | |
| 400 | 请求错误 | 参数验证失败 | |
| 401 | 未授权 | API Key 无效 | |
| 404 | 未找到 | 路由不存在 | |
| 422 | 参数错误 | 请求格式错误 | |
| 500 | 服务器错误 | 内部处理异常 |
request body
| 第 1 列 | 第 2 列 | 第 3 列 | 第 4 列 | E |
|---|---|---|---|---|
| 参数 | 类型 | 必需 | 默认值 | 说明 |
| model | string | ✓ | - | 模型名称 |
| messages | array | ✓ | - | 对话消息列表 |
| stream | boolean | ✗ | false | 是否流式响应 |
| temperature | number | ✗ | 1.0 | 随机性控制 (0.0-2.0) |
| max_tokens | integer | ✗ | null | 最大生成 token 数 |
| top_p | number | ✗ | 1.0 | 核采样参数 (0.0-1.0) |
| frequency_penalty | number | ✗ | 0.0 | 频率惩罚 (-2.0-2.0) |
| presence_penalty | number | ✗ | 0.0 | 存在惩罚 (-2.0-2.0) |
| stop | string/array | ✗ | null | 停止序列 |
| user | string | ✗ | null | 用户标识 |
以下为调用示例代码
import requests
API_KEY=“YOUR_API_KEY” # 替换为实际API密钥
API_BASE=“http://219.146.237.10:32788/v1/chat/completions” # API基础地址
MODEL_NAME=“deepseek_r1_llama_70b” # 选择需要调用的模 型
# 请求头
headers = {
"Content-Type": "application/js on " ,<span lang="EN-US"></span> "Authorization": f"Bearer {API\_ KEY } "<span lang="EN-US"></span>}
# 请求数据
paylo a d= {
"model": MODEL \_ NAME,<span lang="EN-US"></span> " messa g es": \[<span lang="EN-US"></span> {"role": "system", "content": "You are a helpful assis t ant."},<span lang="EN-US"></span> {"role": "user", "content" : "你好,请 介 绍你自己 "} <span lang="EN-US"></span> \]<span lang="EN-US"> </span>}
try:
response=requests.post(API_BASE, headers=head ers, json=payload)<span lang="EN-US"></span> res ult=r esponse.json()<span lang="EN-US"></span> print("API响应状态:", r espon se.status_code)<span lang="EN-US"></span> print("回复内容:", result\['choices'\]\[0\]\[' message '\]\['content'\])<span lang="EN-US"></span>except requests.exceptio ns.Requ estExceptionase:
print (f"API请求失败: {e}")<span lang="EN-US"></span> ifhasattr(e, ' respons e') ande.response:<span lang="EN-US"></span> print ("错误详情: ", e.response.text)<span lang="EN-US"></span>
三、 程序辅助设计
在编程开发中,可在VSCode编辑器中安装Cline 插件,通过连接EPAI模型API获得智能代码生成、语法纠错、终端命令建议等辅助功能,且所有操作需用户授权,安全便捷。
步骤一
安装 Cline插件:打开 VSCode,点击左侧“Extensions”(扩展)图标,在搜索栏输入“Cline”,找到对应插件后点击“Install”完成安装,安装后左侧将新增Cline插件图标(机器人样式);
步骤二
配置API:点击 Cline插件图标,再点击右上角的“设置”(齿轮)按钮,进 入配置页面:
● “API Provider”:选择“OpenAI Compa tible”
● “BaseURL":填写 ”BaseURL+/v1/“
● “OpenAI Compatible API Key”:填写 API-KEY
● “Model ID”: 填写模型名(如qwen3_235b)
步骤三
点击“Save” 保存配置,即可在 Cline 对话框中与 AI 交互:输入编程需求, AI 将生成对应的代码建议;在编写代码时,也可选中代码片段提问,获取优化建议或错误排查方案。
四、文献阅读辅助
在科研学习中,可将API与文献管理软件如Zotero 结合,通过安装专用插件实现AI辅助的文献摘要、划线翻译与智能 问答,大幅减 少文献研读的时间成本。
步骤一
准备工具:下载安装 Zotero,官方下载地址:https://www.zotero.org/download/这是一款免费开源的学术文献管理 工具,支持文献导入、分类、引用等功能。
文献辅助阅读功能配置:下载 GPT 插件:访问 https://github.com/MuiseDestiny /zotero-gpt/releases
下载 “zotero-gpt.xpi” 文件;打开 Z oter o,点击顶部 “工具”→“插件”;
步骤二
在弹出界面点击齿轮图标,选择“Install Plugin From File…”,选中下载的插件文件完成安装,安装 后界面将显示“Awe some GPT”激活图标;
步骤三
回到Zotero软件的主界面,点击“编辑”标签下的“设置”,对“GPT”插件的API接口进行设置。
● “Base API”: 填写:“BaseUR L”
● “API Key”: 填写 API-KEY
● “Model”: 填写模型名(如qwen3_235b)
● 若需使用 embedding 功能, 勾选 “Using custom embeddings”;
完成设置后,在 Zotero 中打开文献,点击界面中的 “GPT” 图标 ,即可发起文献总结、针对文献内容提问等操作,助力快速理解文献核心观点。








