适合 GPU 在云端的场景。
负责接收客户端发送的音频数据，进行语音识别，然后把识别结果返回给客户端。
git clone https://github.com/ultrasev/stream-whisper
apt -y install libcublas11
cd stream-whisper
pip3 install -r requirements.txt注：
libcublas11是 NVIDIA CUDA Toolkit 的依赖，如果需要使用 CUDA Toolkit，需要安装。- 经 @muzian666 提示，aioredis 包目前仍然不支持 Python3.11，Python 版本建议 3.8 ~ 3.10
把 .env 文件中的 REDIS_SERVER 改成自己的 Redis 地址，然后运行 python3 -m src.server，服务端就启动了。
第一次执行时，会从 huggingface 上下载语音识别模型，需要等待一段时间。Huggingface 已经被防火墙特别对待了，下载速度很慢，建议使用代理。
负责录音，然后把音频数据发送给服务端，接收服务端返回的识别结果。
git clone https://github.com/ultrasev/stream-whisper
apt -y install portaudio19-dev
cd stream-whisper
pip3 install -r requirements.txt注：
portaudio19-dev是 pyaudio 的依赖，如果系统已安装，可以忽略。
同样需要把 .env 文件中的 REDIS_SERVER 改成自己的 Redis 地址，在本地机器上运行 python3 -m src.client，客户端就启动了。运行前先测试一下麦克风是否正常工作，确认能够正常录音。
如果本地有 GPU，可以直接运行 src/local_deploy.py，这样就可以在本地直接运行服务端和客户端了。
git clone https://github.com/ultrasev/stream-whisper
apt -y install portaudio19-dev libcublas11
python3 src/local_deploy.pydocker run -d --name whisper \
-e MODEL
-p 8000:8000 ghcr.io/ultrasev/whisper接口兼容 OpenAI 的 API 规范，可以直接使用 OpenAI 的 SDK 进行调用。
from openai import OpenAI
client = OpenAI(base_url="http://localhost:8000")
audio_file= open("/path/to/file/audio.mp3", "rb")
transcription = client.audio.transcriptions.create(
model="whisper-1",
file=audio_file
)
print(transcription.text)