GPTGateway
1.0.0
Служба Restful, созданная для предоставления простого API для генерации текста с использованием различных моделей GPT на основе различных поставщиков. Если вы хотите интегрировать завершение чата в свое приложение или изучить возможности различных моделей GPT, этот проект раскрывает вас. Полагается на xtekky/gpt4free.
Пример приложения для демонстрации демонстрации того, как можно использовать этот API. Приложение ниже преобразует видео на YouTube в блог Markdown, который можно отредактировать.
# Clone the repository
git clone https://github.com/nagarajpandith/GPTGateway.git
# Navigate to the project directory
cd GPTGateway
# Create a virtual environment
python3 -m venv venv
# Activate the virtual environment
source venv/bin/activate
# Install the required packages
pip3 install -r requirements.txtСоздайте файл .env и заполните API_KEY VAR.
python3 app.pycurl curl -X POST -H " Content-Type: application/json " -d ' {"content": "YOUR_PROMPT", "api_key":"API_KEY_HERE", "provider": "PROVIDER_NAME", "stream": false} ' http://127.0.0.1:5000/chat_completion{
"content" : " YOUR_PROMPT " ,
"api_key" : " API_KEY_HERE " ,
"provider" : " PROVIDER_NAME " ,
"stream" : false
}Примечание
Вы можете разместить этот API самостоятельно, но если вы хотите использовать уже размещенный API, он живет по адресу https://gptgateway.onrender.com.
| Конечная точка | Описание | Метод | Пример тела |
|---|---|---|---|
/chat_completion | Генерирует текст с использованием модели на основе поставщика | ПОЧТА | {"content": "YOUR_PROMPT", "api_key": "API_KEY_HERE", "provider": "PROVIDER_NAME", "stream": false} |
/working_providers | Получает список рабочих поставщиков | ПОЛУЧАТЬ | {} |
Кончик
Параметры поставщика и потока являются необязательными. Если не предоставлено, поставщик по умолчанию устанавливается на «Bing», а поток по умолчанию устанавливается на TRUE. Если поток устанавливается на false, ответ будет в прямом конечном формате вывода.
Последнее тестирование 9-12-2023 с использованием «потока» = false
Примечание
Знать поставщиков и их модели ссылаются на это.
Значения статуса
Важный
Если поставщик не работает, это, вероятно, потому, что ему нужны специальные аргументы, такие как Auth = 'cookie' или 'JWT' или WebDriver не подключается, поскольку для большинства поставщиков здесь или блокировки IP -адреса необходимо скрепить веб -съемки или не рассматривать приведенные ниже результаты как конечный источник правды. Чтобы проверить это самостоятельно, запустите сценарий python3 test.py
| Поставщик | Локальный/размещен/оба | Среднее время ответа |
|---|---|---|
| Aitianhuspace | Никто | 0,0000 |
| Aichatonline | Оба | 1.7414 |
| Бард | Никто | 0,0000 |
| Бинг | Оба | 7.5283 |
| Чатбаза | Оба | 11.0944 |
| Chatforai | Никто | 0,0000 |
| Chatgpt4online | Никто | 0,0000 |
| Chatgptai | Оба | 4.0048 |
| Chatgptnext | Оба | 1.1684 |
| Deepinfra | Оба | 2.9104 |
| Fakegpt | Никто | 0,0000 |
| Gptalk | Никто | 0,0000 |
| Geekgpt | Размещен | 2.6676 |
| GptChatly | Никто | 0,0000 |
| Gptforlove | Никто | 0,0000 |
| GPTGO | Местный | 1.0809 |
| Gpttalkru | Оба | 1.3263 |
| Hashnode | Оба | 14.0748 |
| Huggingchat | Никто | 0,0000 |
| Коала | Местный | 2.3503 |
| Liaobots | Никто | 0,0000 |
| Лама2 | Никто | 0,0000 |
| Myshell | Местный | 9.0187 |
| OnlineGPT | Оба | 2.3497 |
| OpenAichat | Никто | 0,0000 |
| Searphexityai | Местный | 10.8567 |
| Финд | Оба | 0,4872 |
| Пик | Местный | 8.9026 |
| Поэ | Никто | 0,0000 |
| Raycast | Никто | 0,0000 |
| RetryProvider | Никто | 0,0000 |
| Говорить | Местный | 13.3812 |
| Куча | Никто | 0,0000 |
| Тибапи | Никто | 0,0000 |
| Ты | Местный | 1.6147 |
| Yqcloud | Никто | 0,0000 |
Я проверил этих поставщиков вручную, и я считаю их самыми надежными и быстрыми.
| Поставщик | Локальный/размещен/оба | Среднее время ответа |
|---|---|---|
| Gpttalkru | Оба | 2-3 с |
| Geekgpt | Оба | 6-8 с |
| Chatgptai | Оба | 5 с |
| Chatgptnext | Оба | 7-8 с |
| Aichatonline | Местный | 4S |
| GptChatly | Местный | 4-5 с |
| OnlineGPT | Местный | 4S |
| Бинг | Оба | 15-20 |
| Чатбаза | Оба | 12-13 с |
| Коала | Местный | 4S |
| GPTGO | Местный | 12 с |
| Ты | Местный | 10 -е годы |
| Myshell | Местный | 11 с |
| Пик | Местный | 11 с |
| Searphexityai | Местный | 14 с |
| Hashnode | Оба | 18 с |
| Говорить | Местный | 20 -е годы |
| Deepinfra | Оба | 31-47 |
| Куча | Местный | 12 с |
Важный
Просто хобби проекта для прохождения времени, не намерения дальнейшего развития, так как это просто простая обертка вокруг проекта GPT4Free. Лично я бы не рекомендовал использование поставщиков для производства, они могут пройти в любой момент и очень ненадежны. Вместо этого проводят любой из LLM с открытым исходным кодом самостоятельно. Моим личным выбором был бы Мистраль-7B, который работает значительно лучше, чем модель Meta Llama2-13B. Список заказа LLMS с открытым исходным исходным кодом здесь и таблица лидеров арены здесь (проголосовало общественность).
