一、准备
本项目使用 www.perfxcloud.net 大模型平台,网站上有详细的说明文档。
注意:PerfXCloud的API接口兼容 OpenAI 的ChatGPT,可以直接使用 OpenAI SDK或者其他中间件来访问 PerfXCloud。这使得开发者从ChatGPT或者其他平台切换到PerfXCloud变得非常非常容易。
1.如果还没有PerfXCloud的账号,可以登录网站创建一个。
2.PerfXCloud目前支持:
Qwen1.5-110B-Chat-GPTQ-Int4, Qwen1.5-72B-Chat-GPTQ-Int4, Qwen2-72B-Instruct-GPTQ-Int4, Meta-Llama-3-70B-Instruct-GPTQ-Int4, Qwen-14B-Chat-Int4, Meta-Llama-3-8B-Instruct,Llama3-Chinese_v2, chatglm3-6b,llama-3-8b, Qwen1.5-7B,Qwen2-7B,gpt2, SOLAR-10_7B-Instruct,llama-2-7b, PHI_1-5,opt-1b3, phi-2,internLM, Mistral-7B-Instruct, MindChat-Qwen-7B-v2,StarCoder-1B (还在持续更新中)
二、ChatGPT-Web
ChatGPT-Web 是一个基于 Express 和 Vue3 搭建的第三方 ChatGPT 前端页面,通过PerfXCloud API实现。这个项目的目标是让用户能够自定义提示词、访问提示词商店,并且无需 API 密钥。本项目基于https://github.com/Chanzhaoyu/chatgpt-web进行开发。
三、程序部署
Node
node 需要 ^16 || ^18 || ^19 版本(node >= 14 需要安装 fetch polyfill),使用 nvm 可管理本地多个 node 版本
node -v #查看版本号
PNPM
如果你没有安装过 pnpm
npm install pnpm -g
下载源码
git clone https://gitee.com/PerfXCloud-APP/chatgpt-web.git
cd chatgpt-web/
填写密钥
获取 PerfXCloud API 令牌并填写本地环境变量
# service/.env 文件
OPENAI_API_KEY=
OPENAI_API_BASE_URL='https://cloud.perfxlab.cn/v1'
OPENAI_API_MODE='Qwen2-72B-Instruct-GPTQ-Int4'
环境变量
API 可用:
OPENAI_API_MODEL 设置模型
OPENAI_API_BASE_URL 设置接口地址
OPENAI_API_DISABLE_DEBUG 设置接口关闭 debug 日志,可选,默认:empty 不关闭
通用:
AUTH_SECRET_KEY 访问权限密钥,可选
MAX_REQUEST_PER_HOUR 每小时最大请求次数,可选,默认无限
TIMEOUT_MS 超时,单位毫秒,可选
SOCKS_PROXY_HOST 和 SOCKS_PROXY_PORT 一起时生效,可选
SOCKS_PROXY_PORT 和 SOCKS_PROXY_HOST 一起时生效,可选
HTTPS_PROXY 支持 http,https, socks5,可选
ALL_PROXY 支持 http,https, socks5,可选
安装依赖
后端
进入文件夹 /service 运行以下命令
pnpm install
前端
根目录下运行以下命令
pnpm bootstrap
项目运行
后端服务
进入文件夹 /service 运行以下命令
pnpm start
前端网页
pnpm dev
以下命令部署完成后,打开项目的网页链接如下图:
项目演示视频
项目代码地址
项目在线体验连接