GPTGateway下载GPTGateway源代码下载

GPTGateway

Ai源码

1.0.0

下载

GPT Gateway

创建的一个安息的Web服务，旨在提供一个简单的API，用于使用基于不同提供商的各种GPT模型生成文本。无论您是想将聊天完成介绍到应用程序中还是探索不同GPT模型的功能，该项目都可以覆盖。依靠Xtekky/gpt4free。

演示使用量

一个示例应用程序，以展示如何使用此API的演示。下面的应用程序将YouTube视频转换为可以编辑的Markdown博客。

demo.mp4

项目设置

 # Clone the repository
git clone https://github.com/nagarajpandith/GPTGateway.git

# Navigate to the project directory
cd GPTGateway

# Create a virtual environment
python3 -m venv venv

# Activate the virtual environment
source venv/bin/activate

# Install the required packages
pip3 install -r requirements.txt

创建.ENV文件并填充API_KEY var。

python3 app.py

本地用法

使用curl

curl -X POST -H " Content-Type: application/json " -d ' {"content": "YOUR_PROMPT", "api_key":"API_KEY_HERE", "provider": "PROVIDER_NAME", "stream": false} ' http://127.0.0.1:5000/chat_completion

使用任何API测试平台，例如Postman，Thunder Client等。

端点：http：//127.0.0.1：5000/chat_completion
身体示例：

{
  "content" : " YOUR_PROMPT " ,
  "api_key" : " API_KEY_HERE " ,
  "provider" : " PROVIDER_NAME " ,
  "stream" : false
}

笔记

您可以自己托管此API，但是如果您想使用已经托管的API，则可以直播在https://gptgateway.onrender.com上。

可用端点

端点	描述	方法	示例身体
`/chat_completion`	使用基于提供商的模型生成文本	邮政	`{"content": "YOUR_PROMPT", "api_key": "API_KEY_HERE", "provider": "PROVIDER_NAME", "stream": false}`
`/working_providers`	检索工作提供商列表	得到	`{}`

提示

提供商和流参数是可选的。如果未提供，则将默认提供商设置为“ bing”，默认流将设置为true。如果将流设置为false，则响应将以直接的最终输出格式为单位。

提供者测试结果

上次在9-12-2023上使用“流” = false测试

笔记

了解提供商及其模型是指这个。

状态值

两者：提供商在本地和托管API上都成功地工作。
本地：提供商仅在本地API上成功工作。
托管：提供商仅在托管API上成功工作。
无：提供者没有在本地或托管API上返回成功的响应。

自动测试

重要的

如果提供商不起作用，则可能是因为它需要特殊的ARG，例如auth ='cookie'或'jwt'，或者网络驱动程序无法连接，因为这里的大多数提供商需要网络刮擦或IP地址阻止等。因此，请不要将下面的结果视为最终真实源。要自己测试，请运行python3 test.py脚本。

提供者	本地/托管/两者	平均响应时间
aitianhuspace	没有任何	0.0000
Aichatonline	两个都	1.7414
诗人	没有任何	0.0000
bing	两个都	7.5283
chatbase	两个都	11.0944
查尔福莱	没有任何	0.0000
chatgpt4online	没有任何	0.0000
Chatgptai	两个都	4.0048
chatgptnext	两个都	1.1684
Deepinfra	两个都	2.9104
假货	没有任何	0.0000
gptalk	没有任何	0.0000
Geekgpt	托管	2.6676
gptchatly	没有任何	0.0000
gptforlove	没有任何	0.0000
GPTGO	当地的	1.0809
gpttalkru	两个都	1.3263
hashnode	两个都	14.0748
拥抱	没有任何	0.0000
考拉	当地的	2.3503
养育机器人	没有任何	0.0000
Llama2	没有任何	0.0000
myshell	当地的	9.0187
在线游戏	两个都	2.3497
Openaichat	没有任何	0.0000
困惑	当地的	10.8567
Phind	两个都	0.4872
pi	当地的	8.9026
坡	没有任何	0.0000
射线广播	没有任何	0.0000
RetryProvider	没有任何	0.0000
Talkai	当地的	13.3812
theb	没有任何	0.0000
thebapi	没有任何	0.0000
你	当地的	1.6147
yqcloud	没有任何	0.0000

手动测试

我手动测试了这些提供商，发现它们是最可靠和快速的提供商。

提供者	本地/托管/两者	平均响应时间
gpttalkru	两个都	2-3s
Geekgpt	两个都	6-8
Chatgptai	两个都	5s
chatgptnext	两个都	7-8
Aichatonline	当地的	4s
gptchatly	当地的	4-5
在线游戏	当地的	4s
bing	两个都	15-20
chatbase	两个都	12-13
考拉	当地的	4s
GPTGO	当地的	12s
你	当地的	10s
myshell	当地的	11s
pi	当地的	11s
困惑	当地的	14s
hashnode	两个都	18岁
Talkai	当地的	20年代
Deepinfra	两个都	31-47
theb	当地的	12s

重要的

要使Gptchatly工作，您需要手动绕过Cloudflare Captcha。
GPTTALKRU通常不提供正确的答案。需要详细的提示。

结论

只是一个爱好的项目，没有任何进一步发展的意图，因为它只是围绕GPT4Free项目的简单包装。就我个人而言，我不建议提供生产用途的提供商，它们可能随时会下降，而且非常不可靠。而是亲自托管任何开源LLM。我的个人选择是Mistral-7B，其性能要比Meta的Llama2-13b型号要好得多。在此处结帐开源LLMS和Arena排行榜的列表（由公众投票）。

展开

附加信息