EPAI-大模型API服务使用说明

一、 配置模型API

EPAI兼容OpenAI API服务协议。调用EPAI的大模型服务,需要在EPAI的“模型服务中心-服务聚合”模块,获取BaseURL、API密钥、模型名。

● BaseURL:URL以EPAI访问IP为准

● API密钥:令牌里的API-KEY

● 模型名:填写EPAI里的模型名称

二、 Python代码调用

API规范

基础URL结构

1 GET /v1/models # 获取模型列表

2 POST /v1/chat/completions # 聊天完成接口

3 GET /health # 健康检查

HTTP头部要求

1 Content-Type: application/json

2 Authorization: Bearer YOUR_API_KEY

3 Accept: application/json

状态码规范

第 1 列 第 2 列 第 3 列 第 4 列
状态码 含义 使用场
200 成功 正常响应
400 请求错误 参数验证失败
401 未授权 API Key 无效
404 未找到 路由不存在
422 参数错误 请求格式错误
500 服务器错误 内部处理异常

request body

第 1 列 第 2 列 第 3 列 第 4 列 E
参数 类型 必需 默认值 说明
model string ✓ - 模型名称
messages array ✓ - 对话消息列表
stream boolean ✗ false 是否流式响应
temperature number ✗ 1.0 随机性控制 (0.0-2.0)
max_tokens integer ✗ null 最大生成 token 数
top_p number ✗ 1.0 核采样参数 (0.0-1.0)
frequency_penalty number ✗ 0.0 频率惩罚 (-2.0-2.0)
presence_penalty number ✗ 0.0 存在惩罚 (-2.0-2.0)
stop string/array ✗ null 停止序列
user string ✗ null 用户标识

以下为调用示例代码

import requests

API_KEY=“YOUR_API_KEY” # 替换为实际API密钥

API_BASE=“http://219.146.237.10:32788/v1/chat/completions” # API基础地址

MODEL_NAME=“deepseek_r1_llama_70b” # 选择需要调用的模 型

# 请求头

headers = {

"Content-Type": "application/js on " ,<span lang="EN-US"></span>

"Authorization": f"Bearer {API\_ KEY }  "<span lang="EN-US"></span>

}

# 请求数据

paylo a d= {

"model":  MODEL \_ NAME,<span lang="EN-US"></span>

" messa g es": \[<span lang="EN-US"></span>

    {"role": "system", "content": "You are a helpful  assis t ant."},<span lang="EN-US"></span>

    {"role": "user", "content" : "你好,请 介  绍你自己 "} <span lang="EN-US"></span> 

   \]<span lang="EN-US">  </span>

}

try:

response=requests.post(API_BASE, headers=head ers,   json=payload)<span lang="EN-US"></span>

res ult=r  esponse.json()<span lang="EN-US"></span>

print("API响应状态:", r espon  se.status_code)<span lang="EN-US"></span>

print("回复内容:", result\['choices'\]\[0\]\[' message '\]\['content'\])<span lang="EN-US"></span> 

except requests.exceptio ns.Requ estExceptionase:

 print  (f"API请求失败: {e}")<span lang="EN-US"></span>

ifhasattr(e, ' respons  e') ande.response:<span lang="EN-US"></span>

    print ("错误详情:  ", e.response.text)<span lang="EN-US"></span>

三、 程序辅助设计

在编程开发中,可在VSCode编辑器中安装Cline 插件,通过连接EPAI模型API获得智能代码生成、语法纠错、终端命令建议等辅助功能,且所有操作需用户授权,安全便捷。

步骤一

安装 Cline插件:打开 VSCode,点击左侧“Extensions”(扩展)图标,在搜索栏输入“Cline”,找到对应插件后点击“Install”完成安装,安装后左侧将新增Cline插件图标(机器人样式);

步骤二

配置API:点击 Cline插件图标,再点击右上角的“设置”(齿轮)按钮,进 入配置页面:

● “API Provider”:选择“OpenAI Compa tible”

● “BaseURL":填写 ”BaseURL+/v1/“

● “OpenAI Compatible API Key”:填写 API-KEY

● “Model ID”: 填写模型名(如qwen3_235b)

步骤三

点击“Save” 保存配置,即可在 Cline 对话框中与 AI 交互:输入编程需求, AI 将生成对应的代码建议;在编写代码时,也可选中代码片段提问,获取优化建议或错误排查方案。

四、文献阅读辅助

在科研学习中,可将API与文献管理软件如Zotero 结合,通过安装专用插件实现AI辅助的文献摘要、划线翻译与智能 问答,大幅减 少文献研读的时间成本。

步骤一

准备工具:下载安装 Zotero,官方下载地址:https://www.zotero.org/download/这是一款免费开源的学术文献管理 工具,支持文献导入、分类、引用等功能。

文献辅助阅读功能配置:下载 GPT 插件:访问 https://github.com/MuiseDestiny /zotero-gpt/releases

下载 “zotero-gpt.xpi” 文件;打开 Z oter o,点击顶部 “工具”→“插件”;

步骤二

在弹出界面点击齿轮图标,选择“Install Plugin From File…”,选中下载的插件文件完成安装,安装 后界面将显示“Awe some GPT”激活图标;

步骤三

回到Zotero软件的主界面,点击“编辑”标签下的“设置”,对“GPT”插件的API接口进行设置。

● “Base API”: 填写:“BaseUR L”

● “API Key”: 填写 API-KEY

● “Model”: 填写模型名(如qwen3_235b)

● 若需使用 embedding 功能, 勾选 “Using custom embeddings”;

完成设置后,在 Zotero 中打开文献,点击界面中的 “GPT” 图标 ,即可发起文献总结、针对文献内容提问等操作,助力快速理解文献核心观点。