one api

Китайский |

Развернуть в Зебур

Сервер Zeabur находится за границей, который автоматически решает проблему сети, и бесплатной суммы достаточно для личного использования.

1. Во -первых, разделите копию кода.
2. Перейдите в Зебур, войдите в систему и введите консоли.
3. Создайте новый проект, выберите Marketplace в обслуживании -> Добавьте сервис, выберите MySQL и запишите параметры подключения (имя пользователя, пароль, адрес, порт).
4. Скопируйте параметры ссылки и запустите базу данных Создать create database `one-api` .
5. Затем в обслуживании -> Добавить сервис, выберите GIT (для первого использования требуется авторизация) и выберите хранилище вилки.
6. Deploy начнется автоматически и отмените первым. Перейдите к переменной ниже, добавьте PORT со значением 3000 , добавьте SQL_DSN со значением <username>:<password>@tcp(<addr>:<port>)/one-api и сохранение. Обратите внимание, что если SQL_DSN не заполнен, данные не будут сохраняться, а данные будут потеряны после перераспределения.
7. Выберите RedPloy.
8. Перейдите в домены ниже и выберите подходящий префикс доменного имени, например, «My-One-API», и окончательное доменное имя-«My-One-API.ZEABUR.APP», или вы можете использовать свое собственное доменное имя.
9. Подождите, пока развертывание завершит, нажмите сгенерированное доменное имя, чтобы ввести One API.

Развернуть для рендера

Render предоставляет бесплатные кредитные ограничения, которые могут дополнительно увеличить кредитный лимит после обязательства карты.

Рендеринг может напрямую развернуть изображения Docker без необходимости репозитория вилки: https://dashboard.render.com

Конфигурация

Сама система вне коробки.

Вы можете настроить его, установив переменные среды или параметры командной строки.

После запуска системы используйте пользователь root для входа в систему и внести дополнительную конфигурацию.

ПРИМЕЧАНИЕ . Если вы не знаете значение элемента конфигурации, вы можете временно удалить значение, чтобы увидеть дальнейший текст.

Как использовать

Добавьте ключ API на страницу渠道, а затем добавьте новый токен доступа на страницу令牌.

Затем вы можете использовать свой токен для доступа к одному API, который такой же, как API OpenAI.

Вам необходимо установить базу API в качестве адреса развертывания вашего One API в различных местах, где используется API OpenAI, например: https://openai.justsong.cn , а ключ API - это токен, который вы генерируете в одном API.

Обратите внимание, что конкретный базовый формат API зависит от клиента, которого вы используете.

Например, официальная библиотека Openai:

OPENAI_API_KEY= " sk-xxxxxx "
OPENAI_API_BASE= " https://<HOST>:<PORT>/v1 " 

 График LR
    A (пользователь)
    A ---> | Запрос с ключом, распределенным одним API | B (один API)
    B -> | запрос на реле | C (OpenAI)
    B -> | запрос на реле | D (Azure)
    B -> | запрос на реле | E (другие нисходящие каналы формата API Openai)
    B-> | Речь и изменить корпус запроса и корпус возврата | F (вниз по течению в формате API непеная)

Вы можете указать, какой канал использовать для обработки этого запроса, добавив идентификатор канала после токена, например: Authorization: Bearer ONE_API_KEY-CHANNEL_ID . Обратите внимание, что токен, созданный пользователем администратора, должен потребоваться указать идентификатор канала.

Если не добавлено, несколько каналов будут использоваться при балансировке нагрузки.

Переменные среды

Один API .env переменные среды чтения из файлов .env .env.example

1. REDIS_CONN_STRING : Redis будет использоваться в качестве кэша после настройки.
   • Пример: REDIS_CONN_STRING=redis://default:redispw@localhost:49153
   • Если задержка доступа к базе данных очень низкая, нет необходимости включать REDIS, а после его включения будет происходить задержка данных.
2. SESSION_SECRET : После настройки будет использоваться фиксированная клавиша сеанса, так что файлы cookie of Worged-In Election все еще будут действительны после перезапуска системы.
   • Пример: SESSION_SECRET=random_string
3. SQL_DSN : указанная база данных будет использоваться вместо SQLITE после настройки, используйте MySQL или PostgreSQL.
   • пример:
     • Mysql: SQL_DSN=root:123456@tcp(localhost:3306)/oneapi
     • PostgreSQL: SQL_DSN=postgres://postgres:123456@localhost:5432/oneapi (адаптация, обратная связь приветствуется)
   • Обратите внимание, что вам нужно oneapi установить базу данных.
   • При использовании локальной базы данных: можно добавить команду развертывания --network="host" чтобы программы в контейнере могли получить доступ к MySQL на хосте.
   • При использовании базы данных Cloud: если облачный сервер должен проверить идентификацию, вам необходимо добавить ?tls=skip-verify в параметрах соединения.
   • Пожалуйста, измените следующие параметры в соответствии с конфигурацией базы данных (или сохраните значение по умолчанию):
     • SQL_MAX_IDLE_CONNS : максимальное количество подключений на холостом ходу, по умолчанию составляет 100 .
     • SQL_MAX_OPEN_CONNS : максимальное количество открытых соединений, по умолчанию составляет 1000 .
       • Если ошибка Error 1040: Too many connections , пожалуйста, уменьшите значение надлежащим образом.
     • SQL_CONN_MAX_LIFETIME : максимальный жизненный цикл соединения, по умолчанию 60 , в минутах.
4. LOG_SQL_DSN : после настройки для таблицы logs будет использоваться отдельная база данных.
5. FRONTEND_BASE_URL : после настройки запрос страницы перенаправления будет запрошен на указанный адрес, только из настройки сервера.
   • Пример: FRONTEND_BASE_URL=https://openai.justsong.cn
6. MEMORY_CACHE_ENABLED : false кэширования памяти приведет к определенной задержке true обновлении квоты false .
   • Пример: MEMORY_CACHE_ENABLED=true
7. SYNC_FREQUENCY : частота конфигураций, синхронизированная с базой данных с включенным кэшем, в секундах по умолчанию составляет 600 секунд.
   • Пример: SYNC_FREQUENCY=60
8. NODE_TYPE : После настройки будут master slave узла master
   • Пример: NODE_TYPE=slave
9. CHANNEL_UPDATE_FREQUENCY : после настройки баланс канала будет регулярно обновляться, за минуты, и если он не будет установлен, он не будет обновлен.
   • Пример: CHANNEL_UPDATE_FREQUENCY=1440
10. CHANNEL_TEST_FREQUENCY : После настройки канал будет регулярно проверяться, устройство - минуты, и если он не будет установлен, проверка не будет проведена. +Пример: CHANNEL_TEST_FREQUENCY=1440
11. POLLING_INTERVAL : интервал запроса, когда баланс канала обновления пакетного обновления и доступность тестирования в секунды, без интервала по умолчанию.
    • Пример: POLLING_INTERVAL=5
12. BATCH_UPDATE_ENABLED : включить агрегацию обновления базы данных true которая вызовет определенную задержку false обновлении квоты false .
    • Пример: BATCH_UPDATE_ENABLED=true
    • Если у вас слишком много подключений к базе данных, вы можете попробовать включить эту опцию.
13. BATCH_UPDATE_INTERVAL=5 : интервал времени для обновлений партии Агрегат, в секундах по умолчанию составляет 5 .
    • Пример: BATCH_UPDATE_INTERVAL=5
14. Ограничение частоты запроса:
    • GLOBAL_API_RATE_LIMIT : Глобальный предел скорости API (кроме запросов ретрансляции), максимальное количество запросов в течение трех минут после одного IP, по умолчанию составляет 180 .
    • GLOBAL_WEB_RATE_LIMIT : Глобальный лимит веб -ставки, максимальное количество запросов в течение трех минут от одного IP, по умолчанию составляет 60 .
15. Настройки кеша энкодера:
    • TIKTOKEN_CACHE_DIR : Когда программа начинается, некоторые общие кодировки слов будут загружены онлайн, например: gpt-3.5-turbo .
    • DATA_GYM_CACHE_DIR : В настоящее время эта функция конфигурации согласуется с TIKTOKEN_CACHE_DIR , но приоритет не такой высокий, как есть.
16. RELAY_TIMEOUT : настройка тайм -аута реле установлена ​​за секунды, а время ожидания не установлено по умолчанию.
17. RELAY_PROXY : используйте этот прокси, чтобы запросить API после настройки.
18. USER_CONTENT_REQUEST_TIMEOUT : тайм -аут для загрузки контента, загруженного пользователем, за секунды.
19. USER_CONTENT_REQUEST_PROXY : после настройки используйте этот прокси, чтобы запросить контент, загруженный пользователем, например, изображения.
20. SQLITE_BUSY_TIMEOUT : SQLITE LOCK WATICS для настройки тайм -аута, единица составляет миллисекунды, по умолчанию 3000 .
21. GEMINI_SAFETY_SETTING : настройка безопасности Gemini, default BLOCK_NONE .
22. GEMINI_VERSION : версия Gemini, используемая одним API, по умолчанию в v1 .
23. THEME : Настройки темы системы по умолчанию по default , пожалуйста, обратитесь к конкретным необязательным значениям здесь.
24. ENABLE_METRIC : Чтобы отключить канал в соответствии с показателем успеха запроса, он не включен по умолчанию, а дополнительные значения являются true и false .
25. METRIC_QUEUE_SIZE : размер очереди статистики успеха запроса, по умолчанию 10 .
26. METRIC_SUCCESS_RATE_THRESHOLD : порог успеха запроса по умолчанию составляет 0.8 .
27. INITIAL_ROOT_TOKEN : если это значение установлено, токен пользователя root со значением переменной среды будет автоматически создан при первой загрузке системы.
28. INITIAL_ROOT_ACCESS_TOKEN : если это значение установлено, токен управления системой автоматически создается, когда система впервые запускается.
29. ENFORCE_INCLUDE_USAGE : следует ли заставить использовать использование для возврата в модели потока, оно не включено по умолчанию, необязательные значения являются true и false .

Параметры командной строки

1. --port <port_number> : указывает номер порта, который слушает сервер, по умолчанию 3000 .
   • Пример: --port 3000
2. --log-dir <log_dir> : укажите папку logs .
   • Пример: --log-dir ./logs
3. --version : распечатайте номер версии системы и выход.
4. --help : проверьте справку об использовании команды и описание параметров.

Демо

Онлайн демо

Обратите внимание, что этот демонстрационный сайт не предоставляет внешние услуги: https://openai.justsong.cn

Экраншот дисплей

Часто задаваемые вопросы

1. Каков кредитный лимит? Как это рассчитать? Есть ли какие -либо проблемы с расчетом квоты одного API?
   • Credit = увеличение группировки* Увеличение модели* (номер токена TIP + Полный номер токена* Завершение увеличения)
   • Коэффициент завершения устанавливается до 1,33 для GPT3,5 и 2 для GPT4, что согласуется с должностным лицом.
   • Если это не потоковой режим, официальный интерфейс вернет общий потребляемый токен, но вы должны обратить внимание на различные показатели потребления подсказок и завершения.
   • Обратите внимание, что увеличение по умолчанию одного API является официальным увеличением, которое было скорректировано.
2. Почему квота учетной записи недостаточна?
   • Пожалуйста, проверьте, является ли ваш токен достаточным, это отдельно от предела учетной записи.
   • Предел токена предназначен только для пользователя, чтобы установить максимальное использование, и пользователи могут установить его свободно.
3. Совет: нет каналов?
   • Пожалуйста, проверьте настройки группировки пользователя и группировки каналов.
   • и настройки модели канала.
4. Ошибка теста канала: invalid character '<' looking for beginning of value
   • Это связано с тем, что возвратная стоимость не является законным JSON, а HTML -страницей.
   • Весьма вероятно, что IP или прокси -узлы вашего сайта развертывания были запрещены CloudFlare.
5. CHATGPT Следующая веб -ошибка: Failed to fetch
   • Не устанавливайте BASE_URL при развертывании.
   • Проверьте, правильно ли заполнены ваш адрес интерфейса и ключ API.
   • Проверьте, включен ли HTTPS, и браузер будет перехватывать HTTP -запросы под доменным именем HTTPS.
6. Ошибка:当前分组负载已饱和，请稍后再试
   • Вверх по течению 429.
7. Будут ли мои данные потеряны после обновления?
   • Если использовать MySQL, это не так.
   • При использовании SQLite вам необходимо установить объем сохранялся файл базы данных One-API.DB в соответствии с командой развертывания, которую я дал, в противном случае данные будут потеряны после перезапуска контейнера.
8. Нужно ли вносить изменения в базу данных перед обновлением?
   • Как правило, это нет необходимости, и система автоматически регулирует ее во время инициализации.
   • При необходимости я объясню это в журнале обновления и дам скрипт.
9. Ошибка была зарегистрирована после того, как вручную изменяла базу данных:数据库一致性已被破坏，请联系管理员?
   • Это идентификатор канала, который обнаруживает, что некоторые записи в таблице способностей не существуют.
   • Для каждого канала поддерживаемые модели должны иметь запись специальной таблицы способностей, которая указывает на то, что канал поддерживает модель.

Связанные проекты

• FASTGPT: система вопросов и ответов базы знаний, основанная на модели LLM с большой языком
• CHATGPT NEXT WEB: Имейте собственное кроссплатформенное приложение CHATGPT с одним щелчком
• VCHART: Это не только многопользовательская библиотека диаграммы, но и яркий и гибкий рассказчик данных.
• VMIND: Это не только автоматически, но и очень умная. Решение с открытым исходным кодом интеллектуальной визуализации.

Уведомление

Этот проект является открытым исходным кодом, используя протокол MIT. Если вы не хотите сохранять атрибуцию, вы должны сначала получить разрешение.

Это также применимо к проектам второго ухода на основе этого проекта.

Согласно Соглашению MIT, пользователи должны нести риски и обязанности использования этого проекта за свой счет, и разработчики этого проекта с открытым исходным кодом не имеют ничего общего с этим.