one api

Chinesisch |

Bereitstellung in Zier

Der Server von ZEABUR befindet sich im Ausland, das das Netzwerkproblem automatisch löst, und der freie Betrag reicht für den persönlichen Gebrauch aus.

1. Geben Sie zunächst eine Kopie des Codes.
2. Gehen Sie zu Zier, melden Sie sich an und geben Sie die Konsole ein.
3. Erstellen Sie ein neues Projekt, wählen Sie den Marktplatz in Service -> Service hinzufügen, MySQL auswählen und die Verbindungsparameter (Benutzername, Kennwort, Adresse, Port) aufzeichnen.
4. Kopieren Sie die Linkparameter und führen Sie die Datenbank erstellen create database `one-api` .
5. Dann im Service -> Service hinzufügen, wählen Sie Git (Autorisierung ist für die erste Verwendung erforderlich) und wählen Sie Ihr Gabel -Repository aus.
6. Die Bereitstellung startet automatisch und storniert zuerst. Gehen Sie unten zu Variable, fügen Sie einen PORT mit einem Wert von 3000 hinzu, fügen Sie einen SQL_DSN mit einem Wert von <username>:<password>@tcp(<addr>:<port>)/one-api und speichern Sie. Beachten Sie, dass, wenn SQL_DSN nicht ausgefüllt ist, die Daten nicht bestehen bleiben und die Daten nach der Umschichtung verloren gehen.
7. Wählen Sie Redeploy.
8. Gehen Sie zu den Domänen unten und wählen Sie ein geeignetes Domain-Name-Präfix wie "my-one-api" aus, und der endgültige Domain-Name lautet "my-on-api.zeabur.app", oder Sie können Ihren eigenen Domain-Namen cnamen.
9. Warten Sie, bis die Bereitstellung abgeschlossen ist. Klicken Sie auf den generierten Domänennamen, um die One -API einzugeben.

Zum Rendern einsetzen

Render liefert kostenlose Kreditlimits, wodurch das Kreditlimit nach der Bindung der Karte weiter erhöht wird.

Render kann Docker -Bilder direkt bereitstellen, ohne dass Fork Repository erforderlich ist: https://dashboard.render.com

Konfiguration

Das System selbst ist nicht in die Box.

Sie können es konfigurieren, indem Sie Umgebungsvariablen oder Befehlszeilenparameter einstellen.

Verwenden Sie nach dem Start des Systems root Stammbenutzer, um sich beim System anzumelden und weitere Konfiguration zu erstellen.

Hinweis : Wenn Sie die Bedeutung eines Konfigurationselements nicht kennen, können Sie den Wert vorübergehend löschen, um weitere Eingabeaufforderung zu sehen.

Wie man benutzt

Fügen Sie Ihre API -Taste zur渠道hinzu und fügen Sie dann ein neues Zugriffs -Token zur令牌-Seite hinzu.

Dann können Sie Ihr Token verwenden, um auf die eine API zugreifen zu können, die der OpenAI -API entspricht.

Sie müssen die API -Basis als Bereitstellungsadresse Ihrer One -API an verschiedenen https://openai.justsong.cn festlegen, an denen OpenAI -API verwendet wird, z.

Beachten Sie, dass das spezifische API -Basisformat von dem von Ihnen verwendeten Client abhängt.

Zum Beispiel die offizielle Bibliothek von OpenAI:

OPENAI_API_KEY= " sk-xxxxxx "
OPENAI_API_BASE= " https://<HOST>:<PORT>/v1 " 

 Graph LR
    A (Benutzer)
    A ---> | Anfrage mit Schlüssel, die von einer API | b (eine API) verteilt wird,
    B -> | Relaisanfrage | C (OpenAI)
    B -> | Relaisanfrage | D (Azure)
    B -> | Relaisanforderung | e (andere nachgeschaltete Kanäle des OpenAI -API -Formats)
    B-> | Relais und modifizieren Sie den Anforderungskörper und die Rückgabekörper | f (nachgeschalteter Kanal im Nicht-OpenAI-API-Format)

Sie können angeben, welchen Kanal diese Anforderung verwendet werden soll Authorization: Bearer ONE_API_KEY-CHANNEL_ID indem Sie die Kanal-ID nach dem Token hinzufügen, z. Beachten Sie, dass das vom Administratorbenutzer erstellte Token zur Angabe der Kanal -ID erforderlich sein muss.

Wenn nicht hinzugefügt, werden mehrere Kanäle im Lastausgleich verwendet.

Umgebungsvariablen

Die One -API unterstützt die Leseberechnungsvariablen aus .env .env.example .env

1. REDIS_CONN_STRING : Redis wird nach der Einstellung als Cache verwendet.
   • Beispiel: REDIS_CONN_STRING=redis://default:redispw@localhost:49153
   • Wenn die Datenbankzugriffslatenz sehr niedrig ist, müssen Redis nicht aktiviert werden, und nach der Aktivierung erfolgt die Datenverzögerung.
2. SESSION_SECRET : Nach der Einstellung wird ein fester Sitzungsschlüssel verwendet, damit die Cookies des protokollierten Benutzers nach dem Neustart des Systems weiterhin gültig sind.
   • Beispiel: SESSION_SECRET=random_string
3. SQL_DSN : Die angegebene Datenbank wird nach dem Einstellen anstelle von SQLite verwendet. Verwenden Sie MySQL oder PostgreSQL.
   • Beispiel:
     • MySQL: SQL_DSN=root:123456@tcp(localhost:3306)/oneapi
     • Postgresql SQL_DSN=postgres://postgres:123456@localhost:5432/oneapi
   • Beachten Sie, dass Sie die oneapi im Voraus festlegen müssen.
   • Wenn Sie eine lokale Datenbank verwenden: Der Befehl für die Bereitstellung kann hinzugefügt werden --network="host" damit Programme im Container auf MySQL auf dem Host zugreifen können.
   • Wenn die Cloud-Datenbank verwendet wird: Wenn der Cloud-Server die Identität überprüfen muss, müssen Sie in den Verbindungsparametern hinzufügen ?tls=skip-verify
   • Bitte ändern Sie die folgenden Parameter entsprechend Ihrer Datenbankkonfiguration (oder behalten Sie den Standardwert):
     • SQL_MAX_IDLE_CONNS : Die maximale Anzahl von Leerlaufverbindungen beträgt 100 .
     • SQL_MAX_OPEN_CONNS : Die maximale Anzahl offener Verbindungen, Standardeinstellung ist 1000 .
       • Wenn ein Error 1040: Too many connections , reduzieren Sie bitte den Wert angemessen.
     • SQL_CONN_MAX_LIFETIME : Der maximale Lebenszyklus einer Verbindung, Standardeinstellung beträgt 60 in Minuten.
4. LOG_SQL_DSN : Nach der Einstellung wird eine separate Datenbank für die logs verwendet.
5. FRONTEND_BASE_URL : Nach der Einstellung wird die Anforderung zur Umleitungsseiten an die angegebene Adresse nur aus den Servereinstellungen angefordert.
   • Beispiel: FRONTEND_BASE_URL=https://openai.justsong.cn
6. MEMORY_CACHE_ENABLED : true Caching von false führt zu einer bestimmten Verzögerung false der Aktualisierung der Benutzerquote.
   • Beispiel: MEMORY_CACHE_ENABLED=true
7. SYNC_FREQUENCY : Die mit der Datenbank mit aktivierte Konfigurationen synchronisierte Konfigurationen beträgt die Standardeinstellung in Sekunden 600 Sekunden.
   • Beispiel: SYNC_FREQUENCY=60
8. NODE_TYPE : Nach der Einstellung master slave Knotentyp angegeben master
   • Beispiel: NODE_TYPE=slave
9. CHANNEL_UPDATE_FREQUENCY : Nach der Einstellung wird die Kanalbilanz regelmäßig in Minuten aktualisiert, und wenn sie nicht festgelegt ist, wird er nicht aktualisiert.
   • Beispiel: CHANNEL_UPDATE_FREQUENCY=1440
10. CHANNEL_TEST_FREQUENCY : Nach der Einstellung wird der Kanal regelmäßig überprüft, das Gerät ist Minuten und wenn er nicht eingestellt ist, wird die Inspektion nicht durchgeführt. +Beispiel: CHANNEL_TEST_FREQUENCY=1440
11. POLLING_INTERVAL : Das Anforderungsintervall beim Batch -Update -Kanalbilanz und die Verfügbarkeit von Testen in Sekunden ohne standardmäßig ohne Intervall.
    • Beispiel: POLLING_INTERVAL=5
12. BATCH_UPDATE_ENABLED : Aktivieren true false Datenbank -Batch -Aktualisierung false die eine bestimmte Verzögerung in der Aktualisierung der Benutzerquote verursacht.
    • Beispiel: BATCH_UPDATE_ENABLED=true
    • Wenn Sie zu viele Datenbankverbindungen haben, können Sie diese Option aktivieren.
13. BATCH_UPDATE_INTERVAL=5 : Das Zeitintervall für Batch -Updates Das Aggregat, in Sekunden, beträgt die Standardeinstellung 5 .
    • Beispiel: BATCH_UPDATE_INTERVAL=5
14. Frequenzlimit anfordern:
    • GLOBAL_API_RATE_LIMIT : Global API -Ratenlimit (außer Relay -Anforderungen), die maximale Anzahl der Anforderungen innerhalb von drei Minuten von einer einzigen IP, standardmäßig 180 .
    • GLOBAL_WEB_RATE_LIMIT : Global Web -Rate -Grenze, die maximale Anzahl von Anforderungen innerhalb von drei Minuten von einer einzigen IP, Standardeinstellung 60 .
15. Encoder -Cache -Einstellungen:
    • TIKTOKEN_CACHE_DIR : Wenn das Programm startet, werden einige gemeinsame Wortcodierungen online heruntergeladen, z. B. gpt-3.5-turbo .
    • DATA_GYM_CACHE_DIR : Derzeit stimmt diese Konfigurationsfunktion mit TIKTOKEN_CACHE_DIR überein, aber die Priorität ist nicht so hoch wie sie ist.
16. RELAY_TIMEOUT : Die Timeout -Einstellung von Relay ist in Sekunden festgelegt und die Zeitüberschreitungszeit wird standardmäßig nicht festgelegt.
17. RELAY_PROXY : Verwenden Sie diesen Proxy, um die API nach der Einstellung anzufordern.
18. USER_CONTENT_REQUEST_TIMEOUT : Die Zeitleiterin zum Herunterladen von Inhalten vom Benutzer in Sekunden.
19. USER_CONTENT_REQUEST_PROXY : Verwenden Sie diesen Proxy nach dem Einstellen, um den vom Benutzer hochgeladenen Inhalte wie Bilder anzufordern.
20. SQLITE_BUSY_TIMEOUT 3000
21. GEMINI_SAFETY_SETTING : Die Sicherheitseinstellung von Gemini, Standard BLOCK_NONE .
22. GEMINI_VERSION : Die von einer API verwendete Gemini -Version, standardmäßig v1 .
23. THEME : Die Themeneinstellungen des Systems sind default . Weitere Informationen finden Sie in den spezifischen optionalen Werten.
24. ENABLE_METRIC : Ob der Kanal entsprechend der Anforderungserfolgsrate deaktiviert werden soll, er ist standardmäßig nicht aktiviert und die optionalen Werte sind true und false .
25. METRIC_QUEUE_SIZE : Die Anforderungserfolgsrate -Statistik -Warteschlangengröße ist 10 .
26. METRIC_SUCCESS_RATE_THRESHOLD : Die Anforderungserfolgsrate beträgt 0.8 standardmäßig.
27. INITIAL_ROOT_TOKEN : Wenn dieser Wert festgelegt ist, wird ein Stammbenutzer -Token mit dem Wert der Umgebungsvariablen automatisch erstellt, wenn das System zum ersten Mal gestartet wird.
28. INITIAL_ROOT_ACCESS_TOKEN : Wenn dieser Wert festgelegt ist, wird automatisch ein Systemverwaltungs -Token erstellt, wenn das System zum ersten Mal gestartet wird.
29. ENFORCE_INCLUDE_USAGE : Ob die Verwendung zur Rückgabe im Stream -Modell erzwingen soll, ist es standardmäßig nicht aktiviert, optionale Werte sind true und false .

Befehlszeilenparameter

1. --port <port_number> : Gibt die Portnummer an, auf die der Server hört, der Standardwert ist 3000 .
   • Beispiel: --port 3000
2. --log-dir <log_dir> : Geben Sie den logs an.
   • Beispiel: --log-dir ./logs
3. --version : Drucken Sie die Systemversionsnummer und beenden Sie.
4. --help : Überprüfen Sie die Befehlsnutzungshilfe und Parameterbeschreibung.

Demo

Online -Demo

Beachten Sie, dass diese Demonstrationsstelle keine externen Dienste anbietet: https://openai.justsong.cn

Screenshot Display

Häufig gestellte Fragen

1. Was ist das Kreditlimit? Wie berechnet man es? Gibt es ein Problem mit der Quotenberechnung einer API?
   • Credit = Gruppierungsvergrößerung* Modellvergrößerung* (Tipp -Token -Nummer + Vollständige Token -Nummer* Abschlussvergrößerung)
   • Das Abschlussverhältnis ist für GPT4 auf 1,33 für GPT4 und 2 festgelegt, was mit dem Beamten übereinstimmt.
   • Wenn es sich um den Nichtstrommodus handelt, gibt die offizielle Schnittstelle das gesamte konsumierte Token zurück. Sie sollten jedoch auf die unterschiedlichen Verbrauchsraten von Eingabeaufforderungen und Fertigstellung achten.
   • Beachten Sie, dass die Standardvergrößerung einer API die offizielle Vergrößerung ist, die angepasst wurde.
2. Warum ist die Kontoquote unzureichend?
   • Bitte prüfen Sie, ob Ihr Token -Grenzwert ausreicht. Dies ist vom Kontolimit getrennt.
   • Das Token -Limit ist nur, damit der Benutzer die maximale Nutzung festlegt, und Benutzer können sie frei festlegen.
3. Tipp: Keine Kanäle verfügbar?
   • Bitte überprüfen Sie die Einstellungen für die Gruppierung von Benutzern und die Kanalgruppierung.
   • und die Modelleinstellungen des Kanals.
4. Kanal -Testfehler: invalid character '<' looking for beginning of value
   • Dies liegt daran, dass der Rückgabewert kein legaler JSON ist, sondern eine HTML -Seite.
   • Es ist sehr wahrscheinlich, dass der IP- oder Proxy -Knoten Ihrer Bereitstellungsstelle von CloudFlare verboten wurde.
5. CHATGPT Nächster Webfehler: Failed to fetch
   • Setzen Sie BASE_URL bei der Bereitstellung nicht.
   • Überprüfen Sie, ob Ihre Schnittstellenadresse und Ihre API -Schlüssel korrekt ausgefüllt sind.
   • Überprüfen Sie, ob HTTPS aktiviert ist und der Browser HTTP -Anforderungen unter dem Namen HTTPS -Domänennamen abfangen.
6. Fehler:当前分组负载已饱和，请稍后再试
   • Upstream -Kanal 429.
7. Werden meine Daten nach dem Upgrade verloren gehen?
   • Wenn Sie MySQL verwenden, wird dies nicht der Fall.
   • Wenn Sie SQLite verwenden, müssen Sie das von mir angegebene Bereitstellungsbefehl festgelegte Ein-api.db-Datenbankdatei montieren. Andernfalls gehen die Daten nach dem Neustart des Containers verloren.
8. Muss ich vor dem Upgrade Änderungen an der Datenbank vornehmen?
   • Im Allgemeinen ist es nicht erforderlich, und das System passt es automatisch während der Initialisierung an.
   • Bei Bedarf werde ich es im Update -Protokoll erläutern und das Skript geben.
9. Nach manuellem Ändern der Datenbank wurde ein Fehler gemeldet:数据库一致性已被破坏，请联系管理员?
   • Dies ist die Kanal -ID, die feststellt, dass einige Datensätze in der Fähigkeitstabelle nicht vorhanden sind.
   • Für jeden Kanal müssen die unterstützten Modelle eine spezielle Fähigkeitstabelle aufzeichnen, die angibt, dass der Kanal das Modell unterstützt.

Verwandte Projekte

• FASTGPT: Q & A -Systeme für Wissensbasis basieren auf LLM großes Sprachmodell
• Chatgpt Nächstes Web: Haben Sie Ihre eigene plattformübergreifende Chatgpt-Anwendung mit einem Klick
• VCHART: Es ist nicht nur eine Multi-End-Diagrammbibliothek außerhalb der Box, sondern auch ein lebendiger und flexibler Datenerzähler.
• VMIND: Es ist nicht nur automatisch, es ist auch sehr klug. Open Source Intelligent Visualisierungslösung.

Beachten

Dieses Projekt ist Open Source unter Verwendung des MIT -Protokolls. Wenn Sie die Zuschreibung nicht beibehalten möchten, müssen Sie zunächst die Autorisierung einholen.

Es gilt auch für Projekte der zweiten Abteilung, die auf diesem Projekt basieren.

Nach der MIT -Vereinbarung müssen Benutzer die Risiken und Verantwortlichkeiten der Verwendung dieses Projekts auf eigene Kosten tragen, und die Entwickler dieses Open -Source -Projekts haben nichts damit zu tun.