如何使用Cloud实现一个TalkWithLLM

一、准备

本项目使用 www.perfxcloud.net 大模型平台，网站上有详细的说明文档。

注意：PerfXCloud的API接口兼容 OpenAI 的ChatGPT，可以直接使用 OpenAI SDK或者其他中间件来访问 PerfXCloud。这使得开发者从ChatGPT或者其他平台切换到PerfXCloud变得非常非常容易。

1.如果还没有PerfXCloud的账号，可以登录网站创建一个。

2.PerfXCloud目前支持：

Qwen1.5-110B-Chat-GPTQ-Int4, Qwen1.5-72B-Chat-GPTQ-Int4, Qwen2-72B-Instruct-GPTQ-Int4, Meta-Llama-3-70B-Instruct-GPTQ-Int4, Qwen-14B-Chat-Int4, Meta-Llama-3-8B-Instruct,Llama3-Chinese_v2, chatglm3-6b,llama-3-8b, Qwen1.5-7B,Qwen2-7B,gpt2, SOLAR-10_7B-Instruct,llama-2-7b, PHI_1-5,opt-1b3, phi-2,internLM, Mistral-7B-Instruct, MindChat-Qwen-7B-v2,StarCoder-1B （还在持续更新中）

​

二、TalkWithLLM

TalkWithLLM是一款创新的语音交互工具，它打破了传统文字输入的界限，让用户能够通过自然的语音对话方式与大型语言模型进行深入交流。

三、程序部署

下载源码

git clone  https://gitee.com/PerfXCloud-APP/talk-with-llm.git
cd talk-with-llm

安装依赖

pip install -r requirements.txt

依赖包解释

"TalkWithLLM" 项目使用了一系列依赖包和开发时的辅助工具。这里重点介绍核心的依赖包及其作用：

1. Openai：是 OpenAI 的 Python SDK，用于与 OpenAI 的 API 进行通信。在 TalkWithLLM 中，用于调用perfxcloud的大型语言模型。

2. pyttsx3:这是一个 Python 文本到语音转换库。它允许你将文本转换为语音，从而实现 TalkWithLLM 的语音生成功能。

3. speech_recognition:这是一个用于语音识别的 Python 库。它可以将语音转换为文本，从而使 TalkWithLLM 能够理解用户的语音输入。

配置api-key

在代码里面配置api-key （可以从www.perfxcloud.net 注册账号获取）

四、运行

python运行项目

python main.py

运行效果如下图

本项目视频教程地址：

本项目代码地址：