one api

Chino |

Desplegar en Zeacur

El servidor de Zeacur está en el extranjero, que resuelve automáticamente el problema de la red, y la cantidad gratuita es suficiente para uso personal.

1. Primero, bifurca una copia del código.
2. Vaya a Zeacur, inicie sesión e ingrese la consola.
3. Cree un nuevo proyecto, seleccione el mercado en el servicio -> Agregar servicio, seleccione MySQL y registre los parámetros de conexión (nombre de usuario, contraseña, dirección, puerto).
4. Copie los parámetros del enlace y ejecute Crear base de datos create database `one-api` .
5. Luego, en el servicio -> Agregar servicio, seleccione Git (se requiere la autorización para el primer uso) y seleccione su repositorio de bifurcaciones.
6. Implementar comenzará automáticamente y cancelará primero. Vaya a la variable a continuación, agregue un PORT con un valor de 3000 , agregue un SQL_DSN con un valor de <username>:<password>@tcp(<addr>:<port>)/one-api , y guardar. Tenga en cuenta que si no se completa SQL_DSN , los datos no se persistirán y los datos se perderán después de la redistribución.
7. Seleccione Redeploy.
8. Vaya a los dominios a continuación y seleccione un prefijo de nombre de dominio adecuado, como "My-One-Api", y el nombre de dominio final es "my-one-api.zeebur.app", o puede tocar su propio nombre de dominio.
9. Espere a que se complete la implementación, haga clic en el nombre de dominio generado para ingresar a la API.

Desplegar para renderizar

Render proporciona límites de crédito gratuitos, lo que puede aumentar aún más el límite de crédito después de vincular la tarjeta.

Render puede implementar directamente las imágenes de Docker sin el repositorio de la horquilla de necesidad: https://dashboard.render.com

Configuración

El sistema en sí está fuera de la caja.

Puede configurarlo configurando variables de entorno o parámetros de línea de comando.

Una vez que se inicia el sistema, use root para iniciar sesión en el sistema y realice una configuración adicional.

Nota : Si no conoce el significado de un elemento de configuración, puede eliminar temporalmente el valor para ver un texto adicional.

Cómo usar

Agregue su clave API a渠道y luego agregue un nuevo token de acceso a令牌.

Luego puede usar su token para acceder a la API, que es la misma que la API de OpenAI.

Debe establecer la base de la API como la dirección de implementación de su única API en varios lugares donde se usa la API de OpenAI, por ejemplo: https://openai.justsong.cn , y la clave de la API es el token que genera en la única API.

Tenga en cuenta que el formato de base de API específico depende del cliente que esté utilizando.

Por ejemplo, la biblioteca oficial de OpenAI:

OPENAI_API_KEY= " sk-xxxxxx "
OPENAI_API_BASE= " https://<HOST>:<PORT>/v1 " 

 Gráfico LR
    A (usuario)
    A ---> | Solicitar con clave distribuida por una API | B (una API)
    B -> | Solicitud de retransmisión | C (OpenAi)
    B -> | solicitud de retransmisión | D (Azure)
    B -> | Solicitud de retransmisión | E (otros canales aguas abajo del formato de API de OpenAI)
    B-> | Relé y modifique el cuerpo de solicitud y el cuerpo de retorno | F (canal aguas abajo en formato de API no openai)

Puede especificar qué canal usar para manejar esta solicitud agregando la ID del canal después del token, por ejemplo: Authorization: Bearer ONE_API_KEY-CHANNEL_ID . Tenga en cuenta que el token creado por el usuario del administrador debe ser necesario para especificar la ID del canal.

Si no se agrega, se utilizarán varios canales en el equilibrio de carga.

Variables de entorno

La API admite las variables de entorno .env lectura de .env.example archivos .env .

1. REDIS_CONN_STRING : Redis se usará como caché después de configurar.
   • Ejemplo: REDIS_CONN_STRING=redis://default:redispw@localhost:49153
   • Si la latencia de acceso a la base de datos es muy baja, no hay necesidad de habilitar Redis, y el retraso de datos se producirá después de habilitarla.
2. SESSION_SECRET : después de la configuración, se utilizará una clave de sesión fija, de modo que las cookies del usuario iniciado aún sean válidas después de que se reinicie el sistema.
   • Ejemplo: SESSION_SECRET=random_string
3. SQL_DSN : la base de datos especificada se usará en lugar de SQLite después de configurar, use MySQL o PostgreSQL.
   • ejemplo:
     • Mysql: SQL_DSN=root:123456@tcp(localhost:3306)/oneapi
     • PostgreSQL: SQL_DSN=postgres://postgres:123456@localhost:5432/oneapi (adaptación, retroalimentación es bienvenida)
   • Tenga en cuenta que debe establecer la base de datos oneapi por adelantado.
   • Si usa una base de datos local: el comando de implementación se puede agregar --network="host" para que los programas en el contenedor puedan acceder a MySQL en el host.
   • Si usa la base de datos en la nube: si el servidor en la nube necesita verificar la identidad, debe agregar ?tls=skip-verify en los parámetros de conexión.
   • Modifique los siguientes parámetros de acuerdo con la configuración de su base de datos (o mantenga el valor predeterminado):
     • SQL_MAX_IDLE_CONNS : el número máximo de conexiones inactivas, el valor predeterminado es 100 .
     • SQL_MAX_OPEN_CONNS : el número máximo de conexiones abiertas, el valor predeterminado es 1000 .
       • Si un error Error 1040: Too many connections , reduzca el valor adecuadamente.
     • SQL_CONN_MAX_LIFETIME : el ciclo de vida máximo de una conexión, el valor predeterminado es 60 , en minutos.
4. LOG_SQL_DSN : después de la configuración, se utilizará una base de datos separada para la tabla logs .
5. FRONTEND_BASE_URL : después de la configuración, la solicitud de la página de redirección se solicitará a la dirección especificada, solo desde la configuración del servidor.
   • Ejemplo: FRONTEND_BASE_URL=https://openai.justsong.cn
6. MEMORY_CACHE_ENABLED : false el almacenamiento en caché false true memoria causará un cierto retraso en la actualización de la cuota del usuario.
   • Ejemplo: MEMORY_CACHE_ENABLED=true
7. SYNC_FREQUENCY : la frecuencia de configuraciones sincronizadas con la base de datos con caché habilitado, en segundos, el valor predeterminado es de 600 segundos.
   • Ejemplo: SYNC_FREQUENCY=60
8. NODE_TYPE : después de la configuración, master especificará el tipo master nodo slave
   • Ejemplo: NODE_TYPE=slave
9. CHANNEL_UPDATE_FREQUENCY : después de la configuración, el balance del canal se actualizará regularmente, en minutos y, si no está configurado, no se actualizará.
   • Ejemplo: CHANNEL_UPDATE_FREQUENCY=1440
10. CHANNEL_TEST_FREQUENCY : después de la configuración, el canal se verificará regularmente, la unidad es de minutos y, si no está configurado, la inspección no se llevará a cabo. +Ejemplo: CHANNEL_TEST_FREQUENCY=1440
11. POLLING_INTERVAL : el intervalo de solicitud cuando el equilibrio del canal de actualización por lotes y la disponibilidad de pruebas, en segundos, sin intervalo de forma predeterminada.
    • Ejemplo: POLLING_INTERVAL=5
12. BATCH_UPDATE_ENABLED : habilitar la false de actualización de la base de datos true false causará un cierto retraso en la actualización de la cuota del usuario.
    • Ejemplo: BATCH_UPDATE_ENABLED=true
    • Si tiene demasiadas conexiones de bases de datos, puede intentar habilitar esta opción.
13. BATCH_UPDATE_INTERVAL=5 : El intervalo de tiempo para actualizaciones por lotes el agregado, en segundos, el valor predeterminado es 5 .
    • Ejemplo: BATCH_UPDATE_INTERVAL=5
14. Límite de frecuencia de solicitud:
    • GLOBAL_API_RATE_LIMIT : Límite de tasa de API global (excepto las solicitudes de retransmisión), el número máximo de solicitudes dentro de los tres minutos de una sola IP, el valor predeterminado es 180 .
    • GLOBAL_WEB_RATE_LIMIT : límite de velocidad web global, el número máximo de solicitudes dentro de los tres minutos de una sola IP, el valor predeterminado es 60 .
15. Configuración de caché del codificador:
    • TIKTOKEN_CACHE_DIR : cuando se inicia el programa, algunas codificaciones de palabras comunes se descargarán en línea, como: gpt-3.5-turbo .
    • DATA_GYM_CACHE_DIR : Actualmente, esta función de configuración es consistente con TIKTOKEN_CACHE_DIR , pero la prioridad no es tan alta como es.
16. RELAY_TIMEOUT : la configuración de tiempo de espera de relé se establece en segundos, y el tiempo de tiempo de espera no se establece de forma predeterminada.
17. RELAY_PROXY : use este proxy para solicitar la API después de la configuración.
18. USER_CONTENT_REQUEST_TIMEOUT : el tiempo de espera para descargar contenido cargado por el usuario, en segundos.
19. USER_CONTENT_REQUEST_PROXY : después de la configuración, use este proxy para solicitar el contenido cargado por el usuario, como las imágenes.
20. SQLITE_BUSY_TIMEOUT : SQLITE LOCK espera la configuración del tiempo de espera, la unidad es milisegundos, el valor predeterminado es 3000 .
21. GEMINI_SAFETY_SETTING : la configuración de seguridad de Gemini, predeterminado BLOCK_NONE .
22. GEMINI_VERSION : la versión Gemini utilizada por una API, predeterminada a v1 .
23. THEME : La configuración del tema del sistema, predeterminado es default , consulte los valores opcionales específicos aquí.
24. ENABLE_METRIC : si se debe deshabilitar el canal de acuerdo con la tasa de éxito de la solicitud, no está habilitado de forma predeterminada, y los valores opcionales son true y false .
25. METRIC_QUEUE_SIZE : el tamaño de la cola de estadísticas de tasa de éxito de la solicitud, el valor predeterminado es 10 .
26. METRIC_SUCCESS_RATE_THRESHOLD : el umbral de tasa de éxito de la solicitud es 0.8 por defecto.
27. INITIAL_ROOT_TOKEN : si este valor se establece, un token de usuario root con el valor de la variable de entorno se creará automáticamente cuando el sistema se inicie por primera vez.
28. INITIAL_ROOT_ACCESS_TOKEN : si este valor se establece, un token de administración del sistema se crea automáticamente cuando se inicia el sistema.
29. ENFORCE_INCLUDE_USAGE : si forzar el uso para devolver en el modelo de transmisión, no está habilitado de forma predeterminada, los valores opcionales son true y false .

Parámetros de línea de comando

1. --port <port_number> : especifica el número de puerto al que el servidor escucha, el valor predeterminado es 3000 .
   • Ejemplo: --port 3000
2. --log-dir <log_dir> : especifique la carpeta de logs .
   • Ejemplo: --log-dir ./logs
3. --version : imprima el número de versión del sistema y la salida.
4. --help : verifique la ayuda de uso del comando y la descripción del parámetro.

Manifestación

Demostración en línea

Tenga en cuenta que este sitio de demostración no proporciona servicios externos: https://openai.justsong.cn

Pantalla de captura de pantalla

Preguntas frecuentes

1. ¿Cuál es el límite de crédito? ¿Cómo calcularlo? ¿Hay algún problema con el cálculo de la cuota de una API?
   • Crédito = aumento de agrupación* aumento del modelo* (número de token de punta + número de token completo* aumento de finalización)
   • La relación de finalización se fija a 1.33 para GPT3.5 y 2 para GPT4, que es consistente con el funcionario.
   • Si se trata de modo no transmisión, la interfaz oficial devolverá el token total consumido, pero debe prestar atención a las diferentes tasas de consumo de indicaciones y finalización.
   • Tenga en cuenta que el aumento predeterminado de una API es el aumento oficial, que se ha ajustado.
2. ¿Por qué la cuota de cuenta es insuficiente?
   • Verifique si su límite de token es suficiente, esto está separado del límite de cuenta.
   • El límite del token es solo para que el usuario establezca el uso máximo, y los usuarios pueden configurarlo libremente.
3. Consejo: ¿No hay canales disponibles?
   • Verifique la configuración de agrupación de usuarios y agrupación de canales.
   • y la configuración del modelo del canal.
4. Error de prueba del canal: invalid character '<' looking for beginning of value
   • Esto se debe a que el valor de retorno no es un JSON legal, sino una página HTML.
   • Es muy probable que el nodo IP o proxy de su sitio de implementación haya sido prohibido por CloudFlare.
5. CHATGPT Siguiente error web: Failed to fetch
   • No establezca BASE_URL al implementar.
   • Verifique si su dirección de interfaz y la clave API se completan correctamente.
   • Verifique si HTTPS está habilitado y el navegador interceptará las solicitudes HTTP bajo el nombre de dominio HTTPS.
6. Error:当前分组负载已饱和，请稍后再试
   • Canal aguas arriba 429.
7. ¿Se perderán mis datos después de actualizar?
   • Si usa MySQL, no lo hará.
   • Si usa SQLite, debe montar el volumen persistido de un archivo de base de datos One-Api.db de acuerdo con el comando de implementación que di; de lo contrario, los datos se perderán después de que se reinicie el contenedor.
8. ¿Necesito hacer cambios en la base de datos antes de actualizar?
   • En general, no es necesario, y el sistema lo ajustará automáticamente durante la inicialización.
   • Si es necesario, lo explicaré en el registro de actualizaciones y le daré el script.
9. Se informó un error después de modificar manualmente la base de datos:数据库一致性已被破坏，请联系管理员?
   • Esta es la identificación del canal que detecta que algunos registros en la tabla de habilidades no existen.
   • Para cada canal, los modelos compatibles deben tener un registro de una tabla de habilidad especial que indique que el canal admite el modelo.

Proyectos relacionados

• FastGPT: sistema de preguntas y respuestas de la base de conocimiento basado en el modelo de lenguaje grande LLM
• CHATGPT Siguiente web: tenga su propia aplicación de chatgpt multiplataforma con un solo clic
• VCHART: No solo es una biblioteca de gráficos de múltiples envejecimiento de la caja, sino que también es un narrador de datos vívido y flexible.
• VMind: No solo es automático, también es muy inteligente. Solución de visualización inteligente de código abierto.

Aviso

Este proyecto es de código abierto utilizando el protocolo MIT. Si no desea retener la atribución, primero debe obtener autorización.

También es aplicable a proyectos de segunda departamento basados ​​en este proyecto.

Según el acuerdo del MIT, los usuarios deben asumir los riesgos y responsabilidades de usar este proyecto a su propio costo, y los desarrolladores de este proyecto de código abierto no tienen nada que ver con esto.