一、准备
本项目使用www.perfxcloud.net 大模型平台,网站上有详细的说明文档。
注意:PerfXCloud的API接口兼容 OpenAI 的ChatGPT,可以直接使用 OpenAI SDK或者其他中间件来访问 PerfXCloud。这使得开发者从ChatGPT或者其他平台切换到PerfXCloud变得非常非常容易。
- 如果还没有PerfXCloud的账号,可以登录网站创建一个。
- PerfXCloud目前支持 :Qwen1.5-110B-Chat-GPTQ-Int4, Qwen1.5-72B-Chat-GPTQ-Int4, Qwen2-72B-Instruct-GPTQ-Int4, Meta-Llama-3-70B-Instruct-GPTQ-Int4, Qwen-14B-Chat-Int4, Meta-Llama-3-8B-Instruct,Llama3-Chinese_v2, chatglm3-6b,llama-3-8b, Qwen1.5-7B,Qwen2-7B,gpt2, SOLAR-10_7B-Instruct,llama-2-7b, PHI_1-5,opt-1b3, phi-2,internLM, Mistral-7B-Instruct, MindChat-Qwen-7B-v2,StarCoder-1B (还在持续更新中)
![](https://pic4.zhimg.com/80/v2-48c026eaff97a08abc813cd6d1af1163_1440w.webp)
二、登录 dify
通过链接https://cloud.dify.ai/signin登录,进入到 Dify 控制台。
![](https://pic4.zhimg.com/80/v2-14d3b0d970964d008dcab42486025bcf_1440w.webp)
配置模型供应商
![](https://pic1.zhimg.com/80/v2-5f438669f8240da88a801bda42326b44_1440w.webp)
配置自定义供应商
点击模型供应商,拉到最下面,选择 OpenAI-API-compatible,点击添加模型按钮。
![](https://pic4.zhimg.com/80/v2-5c99648c8466f09eb3f6586251f23e97_1440w.webp)
以下的API Key 等信息均从 www.perfxcloud.net 大模型平台获取到:
- 获取到您创建的令牌 Key 填写到字段 “API Key” 中。
- 将您创建的令牌所需要使用的模型名称,填写到字段“模型名称”中。
- 将 PerfXCloud 的 API 地址 填写到字段“API endpoint URL”中。
- 点击保存,完成模型供应商配置。
![](https://pic2.zhimg.com/80/v2-602ce9ad139634f304441903e4207e69_1440w.webp)
创建应用
点击“创建空白应用”。
![](https://pic3.zhimg.com/80/v2-f23f681c362b076873ad20cf94ee0c32_1440w.webp)
编辑应用的图标和名称,可输入应用的描述,点击按钮“创建”。
![](https://pic3.zhimg.com/80/v2-18bc56739c74b89cc18c355b80ec148a_1440w.webp)
编排应用
点击右上角的按钮,弹出面板设置 PerfXCloud 令牌的模型,如下图所示。
![](https://pic4.zhimg.com/80/v2-e9b3f32d50436fef06042b6f3e004c77_1440w.webp)
创建知识库
输入您想创建应用的提示词。创建应用知识库,点击上下文面板的“添加”按钮,创建应用知识库,并上传知识库的文档。
当您编写完成提示词,完成知识库上传后,您可以在右侧“调试与预览”面板进行应用测试。
测试完成后,即可点击“发布”按钮发布您的应用。
聊天效果图如下
![](https://pic3.zhimg.com/80/v2-314eaeef39b477a9d521da7532d6bb5e_1440w.webp)
![](https://pic3.zhimg.com/80/v2-d72b551ade297d23921b51e398c740a6_1440w.webp)
本项目视频教程地址
-----------------------------------------全文完-----------------------------------------