one api

Chinois | l'anglais |

Déployer à Zeabour

Le serveur de Zeau est à l'étranger, ce qui résout automatiquement le problème du réseau, et le montant gratuit est suffisant pour un usage personnel.

1. Premièrement, fourchez une copie du code.
2. Allez à Zeabour, connectez-vous et entrez dans la console.
3. Créez un nouveau projet, sélectionnez Marketplace dans Service -> Ajouter un service, sélectionnez MySQL et enregistrez les paramètres de connexion (nom d'utilisateur, mot de passe, adresse, port).
4. Copiez les paramètres de liaison et exécutez la base de données Créer une base de données create database `one-api` .
5. Ensuite, dans le service -> Ajouter le service, sélectionnez Git (l'autorisation est requise pour la première utilisation) et sélectionnez votre référentiel de fourche.
6. Le déploiement démarrera automatiquement et annulera d'abord. Accédez à la variable ci-dessous, ajoutez un PORT avec une valeur de 3000 , ajoutez un SQL_DSN avec une valeur de <username>:<password>@tcp(<addr>:<port>)/one-api et enregistrez. Notez que si SQL_DSN n'est pas rempli, les données ne seront pas persistées et les données seront perdues après le redéploiement.
7. Sélectionnez REDEPLOY.
8. Allez dans les domaines ci-dessous et sélectionnez un préfixe de nom de domaine approprié, tel que "My-One-API", et le nom de domaine final est "My-one-API.zeAbur.App", ou vous pouvez prendre votre propre nom de domaine.
9. Attendez que le déploiement se termine, cliquez sur le nom de domaine généré pour entrer la seule API.

Déploier pour rendre

Render fournit des limites de crédit gratuites, qui peuvent encore augmenter la limite de crédit après avoir lié la carte.

Render peut déployer directement des images Docker sans le référentiel de fourche nécessité: https://dashboard.render.com

Configuration

Le système lui-même est hors de la boîte.

Vous pouvez le configurer en définissant des variables d'environnement ou des paramètres de ligne de commande.

Après le début du système, utilisez root pour vous connecter au système et effectuer une configuration supplémentaire.

Remarque : Si vous ne connaissez pas la signification d'un élément de configuration, vous pouvez temporairement supprimer la valeur pour voir un texte invite supplémentaire.

Comment utiliser

Ajoutez votre touche API à渠道, puis ajoutez un nouveau jeton d'accès à令牌.

Ensuite, vous pouvez utiliser votre jeton pour accéder à la seule API, qui est la même que l'API OpenAI.

Vous devez définir la base API comme l'adresse de déploiement de votre seule API à divers endroits où l'OpenAI API est utilisée, par exemple: https://openai.justsong.cn , et la clé de l'API est le jeton que vous générez dans la seule API.

Notez que le format de base API spécifique dépend du client que vous utilisez.

Par exemple, la bibliothèque officielle d'Openai:

OPENAI_API_KEY= " sk-xxxxxx "
OPENAI_API_BASE= " https://<HOST>:<PORT>/v1 " 

 graphique LR
    A (utilisateur)
    A ---> | Demande avec clé distribuée par une API | B (une API)
    B -> | Demande de relais | C (Openai)
    B -> | demande de relais | D (azure)
    B -> | Demande de relais | E (autres canaux en aval du format API OpenAI)
    B -> | relais et modifiez le corps de demande et le corps de retour | F (canal en aval au format API non openai)

Vous pouvez spécifier le canal à utiliser pour gérer cette demande en ajoutant l'ID de canal après le jeton, par exemple: Authorization: Bearer ONE_API_KEY-CHANNEL_ID . Notez que le jeton créé par l'utilisateur de l'administrateur doit être nécessaire pour spécifier l'ID de canal.

S'il n'est pas ajouté, plusieurs canaux seront utilisés dans l'équilibrage de la charge.

Variables d'environnement

La seule API prend .env charge les variables d'environnement de lecture à partir .env.example fichiers .env .

1. REDIS_CONN_STRING : redis sera utilisé comme cache après le réglage.
   • Exemple: REDIS_CONN_STRING=redis://default:redispw@localhost:49153
   • Si la latence d'accès à la base de données est très faible, il n'est pas nécessaire d'activer Redis et le retard de données se produira après l'avoir activé.
2. SESSION_SECRET : Après le réglage, une clé de session fixe sera utilisée, de sorte que les cookies de l'utilisateur connecté seront toujours valides après le redémarrage du système.
   • Exemple: SESSION_SECRET=random_string
3. SQL_DSN : La base de données spécifiée sera utilisée à la place de SQLite après le réglage, utilisez MySQL ou PostgreSQL.
   • exemple:
     • Mysql: SQL_DSN=root:123456@tcp(localhost:3306)/oneapi
     • PostgreSQL: SQL_DSN=postgres://postgres:123456@localhost:5432/oneapi (adaptation, les commentaires sont les bienvenus)
   • Notez que vous devez établir à l'avance la base de données oneapi .
   • Si vous utilisez une base de données locale: la commande de déploiement peut être ajoutée --network="host" afin que les programmes dans le conteneur puissent accéder à MySQL sur l'hôte.
   • Si vous utilisez la base de données Cloud: si le serveur Cloud doit vérifier l'identité, vous devez ajouter ?tls=skip-verify dans les paramètres de connexion.
   • Veuillez modifier les paramètres suivants en fonction de la configuration de votre base de données (ou conserver la valeur par défaut):
     • SQL_MAX_IDLE_CONNS : Le nombre maximum de connexions inactifs, par défaut est 100 .
     • SQL_MAX_OPEN_CONNS : Le nombre maximum de connexions ouvertes, la valeur par défaut est 1000 .
       • Si une erreur Error 1040: Too many connections , veuillez réduire la valeur de manière appropriée.
     • SQL_CONN_MAX_LIFETIME : Le cycle de vie maximal d'une connexion, la valeur par défaut est 60 , en minutes.
4. LOG_SQL_DSN : Après le réglage, une base de données distincte sera utilisée pour le tableau logs .
5. FRONTEND_BASE_URL : Après le réglage, la demande de page de redirection sera demandée à l'adresse spécifiée, uniquement à partir des paramètres du serveur.
   • Exemple: FRONTEND_BASE_URL=https://openai.justsong.cn
6. MEMORY_CACHE_ENABLED : Activer la mise false cache de mémoire entraînera true certain retard false la mise à jour du quota utilisateur.
   • Exemple: MEMORY_CACHE_ENABLED=true
7. SYNC_FREQUENCY : La fréquence des configurations synchronisée avec la base de données avec le cache activé, en secondes, par défaut est 600 secondes.
   • Exemple: SYNC_FREQUENCY=60
8. NODE_TYPE : Après le master , le type master nœud sera spécifié slave
   • Exemple: NODE_TYPE=slave
9. CHANNEL_UPDATE_FREQUENCY : Après le réglage, le solde de la chaîne sera mis à jour régulièrement, en quelques minutes, et s'il n'est pas défini, il ne sera pas mis à jour.
   • Exemple: CHANNEL_UPDATE_FREQUENCY=1440
10. CHANNEL_TEST_FREQUENCY : Après le réglage, le canal sera vérifié régulièrement, l'unité est de minutes et si elle n'est pas définie, l'inspection ne sera pas effectuée. + Exemple: CHANNEL_TEST_FREQUENCY=1440
11. POLLING_INTERVAL : l'intervalle de demande lorsque le lot de mise à jour l'équilibre du canal et la disponibilité des tests, en secondes, sans intervalle par défaut.
    • Exemple: POLLING_INTERVAL=5
12. BATCH_UPDATE_ENABLED : Activer l'agrégation de mise à jour de false base de données, true false entraînera un certain retard dans la mise à jour du quota utilisateur.
    • Exemple: BATCH_UPDATE_ENABLED=true
    • Si vous avez trop de connexions de base de données, vous pouvez essayer d'activer cette option.
13. BATCH_UPDATE_INTERVAL=5 : L'intervalle de temps pour le lot met à jour l'agrégat, en secondes, par défaut est 5 .
    • Exemple: BATCH_UPDATE_INTERVAL=5
14. Limite de fréquence de demande:
    • GLOBAL_API_RATE_LIMIT : limite de taux Global API (sauf les demandes de relais), le nombre maximum de demandes dans les trois minutes suivant une seule IP, la valeur par défaut est 180 .
    • GLOBAL_WEB_RATE_LIMIT : limite de taux Web globale, le nombre maximum de demandes dans les trois minutes suivant une seule IP, la valeur par défaut est 60 .
15. Paramètres de cache de l'encodeur:
    • TIKTOKEN_CACHE_DIR : Lorsque le programme commence, certains encodages de mots communs seront téléchargés en ligne, tels que: gpt-3.5-turbo .
    • DATA_GYM_CACHE_DIR : Actuellement, cette fonction de configuration est cohérente avec TIKTOKEN_CACHE_DIR , mais la priorité n'est pas aussi élevée qu'elles l'est.
16. RELAY_TIMEOUT : le paramètre de délai de relais est défini en secondes et le délai d'expiration n'est pas défini par défaut.
17. RELAY_PROXY : utilisez ce proxy pour demander l'API après le réglage.
18. USER_CONTENT_REQUEST_TIMEOUT : le délai de téléchargement du contenu téléchargé par l'utilisateur, en quelques secondes.
19. USER_CONTENT_REQUEST_PROXY : Après le réglage, utilisez ce proxy pour demander le contenu téléchargé par l'utilisateur, tels que les images.
20. SQLITE_BUSY_TIMEOUT : Sqlite Lock attend le paramètre de délai d'expiration, l'unité est des millisecondes, la valeur par défaut est 3000 .
21. GEMINI_SAFETY_SETTING : le paramètre de sécurité des gemini, par défaut BLOCK_NONE .
22. GEMINI_VERSION : la version Gemini utilisée par une API, par défaut à v1 .
23. THEME : Paramètres de thème du système, par défaut est default , veuillez vous référer aux valeurs facultatives spécifiques ici.
24. ENABLE_METRIC : s'il faut désactiver le canal en fonction du taux de réussite de la demande, il n'est pas activé par défaut, et les valeurs facultatives sont true et false .
25. METRIC_QUEUE_SIZE : La taille de la file d'attente des statistiques du taux de réussite de la demande, la valeur par défaut est 10 .
26. METRIC_SUCCESS_RATE_THRESHOLD : Le seuil de taux de réussite de la demande est 0.8 par défaut.
27. INITIAL_ROOT_TOKEN : Si cette valeur est définie, un jeton d'utilisateur racine avec la valeur de la variable d'environnement sera automatiquement créé lorsque le système sera démarré pour la première fois.
28. INITIAL_ROOT_ACCESS_TOKEN : Si cette valeur est définie, un jeton de gestion du système est automatiquement créé lorsque le système est démarré pour la première fois.
29. ENFORCE_INCLUDE_USAGE : Que ce soit pour forcer l'utilisation pour revenir dans le modèle de flux, il n'est pas activé par défaut, les valeurs facultatives sont true et false .

Paramètres de ligne de commande

1. --port <port_number> : spécifie le numéro de port auquel le serveur écoute, la valeur par défaut est 3000 .
   • Exemple: --port 3000
2. --log-dir <log_dir> : spécifiez le dossier logs .
   • Exemple: --log-dir ./logs
3. --version : imprimez le numéro de version système et sortez.
4. --help : vérifiez l'aide d'utilisation de la commande et la description des paramètres.

Démo

Démo en ligne

Notez que ce site de démonstration ne fournit pas de services externes: https://openai.justsong.cn

Affichage de capture d'écran

Questions fréquemment posées

1. Quelle est la limite de crédit? Comment le calculer? Y a-t-il un problème avec le calcul du quota d'une API?
   • CRÉDIT = GRASSION GRANGIFICATION * GRANGIFICATION DU MODÈLE * (Numéro de jeton de pointe + Numéro de jeton complet * Bragnification d'achèvement)
   • Le taux d'achèvement est fixé à 1,33 pour GPT3,5 et 2 pour GPT4, ce qui est cohérent avec le fonctionnaire.
   • S'il s'agit d'un mode non stream, l'interface officielle renverra le jeton total consommé, mais vous devez prêter attention aux différents taux de consommation des invites et de l'achèvement.
   • Notez que le grossissement par défaut d'une API est le grossissement officiel, qui a été ajusté.
2. Pourquoi le quota du compte est-il insuffisant?
   • Veuillez vérifier si votre limite de jeton est suffisante, ceci est distinct de la limite du compte.
   • La limite de jeton est uniquement pour l'utilisateur de définir l'utilisation maximale et les utilisateurs peuvent le définir librement.
3. Astuce: pas de canaux disponibles?
   • Veuillez vérifier les paramètres du regroupement des utilisateurs et du regroupement de canaux.
   • et les paramètres du modèle du canal.
4. Erreur de test de canal: invalid character '<' looking for beginning of value
   • En effet, la valeur de retour n'est pas un JSON légal, mais une page HTML.
   • Il est très probable que le nœud IP ou proxy de votre site de déploiement ait été interdit par CloudFlare.
5. Chatgpt Erreur Web suivante: Failed to fetch
   • Ne définissez pas BASE_URL lors du déploiement.
   • Vérifiez si votre adresse d'interface et votre clé API sont remplies correctement.
   • Vérifiez si HTTPS est activé et le navigateur interceptera les demandes HTTP sous le nom de domaine HTTPS.
6. Erreur:当前分组负载已饱和，请稍后再试
   • Canal en amont 429.
7. Mes données seront-elles perdues après la mise à niveau?
   • Si vous utilisez MySQL, ce n'est pas le cas.
   • Si l'utilisation de SQLite, vous devez monter le fichier de base de données un-API.DB persistant du volume en fonction de la commande de déploiement que j'ai donnée, sinon les données seront perdues après le redémarrage du conteneur.
8. Dois-je apporter des modifications à la base de données avant la mise à niveau?
   • Généralement, il n'est pas nécessaire et le système l'ajustera automatiquement lors de l'initialisation.
   • Si nécessaire, je l'expliquerai dans le journal de mise à jour et donnerai le script.
9. Une erreur a été signalée après avoir modifié manuellement la base de données:数据库一致性已被破坏，请联系管理员?
   • Il s'agit de l'ID de canal qui détecte que certains enregistrements dans la table des capacités n'existent pas.
   • Pour chaque canal, les modèles pris en charge doivent avoir un enregistrement d'une table de capacité spéciale qui indique que le canal prend en charge le modèle.

Projets connexes

• FastGPT: Système de questions / réponses de base de connaissances basée sur le modèle LLM de grande langue
• Chatgpt Next Web: Ayez votre propre application Chatgpt multiplateforme en un clic
• VCHART: Non seulement c'est une bibliothèque de graphiques multiples hors de la boîte, mais elle est également un conteur de données vivant et flexible.
• VMIND: Non seulement il est automatique, mais il est également très intelligent. Solution de visualisation intelligente open source.

Avis

Ce projet est open source à l' aide du protocole MIT. Si vous ne souhaitez pas conserver l'attribution, vous devez d'abord obtenir l'autorisation.

Il s'applique également aux projets de deuxième département basés sur ce projet.

Selon l'accord du MIT, les utilisateurs doivent supporter les risques et les responsabilités d'utiliser ce projet à leur propre discrétion, et les développeurs de ce projet open source n'ont rien à voir avec cela.