azure openai gpt4 chat

Azure-Openai-GPT4-Chat

Chatgpt-ähnliches Streaming-Chat-Bot, das von Azure Openai und GPT-4 betrieben wird

Hinweis: Projekt- und Dokumentation in Arbeit

Um

Dies ist eine einfache Chat-App, die Nachrichten mit einer GPT-4-Modellbereitstellung an und von einer Azure OpenAI Services-Instanz streamiert

Voraussetzungen

• Node.js> = 20.x (mit npm> = v10.x)
• Azure -Abonnement
  • Azure OpenAI Access aktiviert
  • Azure OpenAI-Dienste, die zusammen mit einem GPT-4-Modell eingesetzt werden
    • API -Schlüssel für den bereitgestellten Dienst

Vor Ort laufen

1. Clone Repo git clone https://github.com/cu-cit-cloud-team/azure-openai-gpt4-chat.git
2. Geben Sie die Verzeichnis cd azure-openai-gpt4-chat
3. Kopieren .env.local.example in .env.local und füllen Sie Werte aus
4. Wenn Sie lokal installierte node.js verwenden:
   1. Installieren Sie die Abhängigkeiten npm install
   2. Rennen Sie das Projekt lokal npm run dev
5. Wenn Sie DevContainer verwenden:
   1. Open in DevContainer (Abhängigkeiten automatisch installiert)
   2. Project npm run dev ausführen
6. Besuchen Sie http://localhost:3001 in Ihrem Browser
7. ctrl + c , um zu stoppen

Merkmale

• Chatten Sie mit einem Azure OpenAI GPT-4-Modell
• Chat-Antworten streamen in Echtzeit für eine Chatgpt-ähnliche Erfahrung
• Verwendet textarea für die Eingabe für Multi-Line-Unterstützung
  • Fokus textarea auf Seite laden
  • textarea -automatisch respektiert beim Typen automatisch
  • enter die Taste ein, um die Nachricht einzureichen
  • shift + enter für eine neue Zeile
• Ladeanzeige neben der Chat -Antwort, bis es fertig ist
• Formatcodeblöcke und andere Markdowns innerhalb von Chat -Nachrichten schön
• Der aktuelle Chat -History wird im lokalen Speicher des Browsers gespeichert
• Systemnachricht anzeigen/bearbeiten für die Chat -Sitzung (z. B. "Sie sind ein hilfreicher KI -Assistent").
• Chat -Sitzungsparameter anzeigen/bearbeiten (z. B. Temperatur, Top p usw.)
• Live -Token -Anzahl (verwendet/verbleibend) für Nachrichten- und Systemnachricht angezeigt
• Ändern Sie das Azure OpenAI-Modell (GPT-4, GPT-3,5 usw.)
• Laden Sie den aktuellen Chat -History als JSON herunter
• Löschen Sie den aktuellen Chat -Historie
  • Tastaturverknüpfung ( cmd + esc ) Wenn textarea Fokus hat
• Kopieren Sie die vollständigen Nachrichten und Antworten in die Zwischenablage
  • Kopieren Sie einzelne Code -Snippets (innerhalb der Antworten) in Zwischenablage
• Löschen Sie einzelne Nachrichten und Antworten aus dem Chat -Verlauf
• Stoppen Sie die Antwort, die derzeit streamen (nützlich für lange Antworten, die nicht erforderlich sind)
• Letzte Antwort regenerieren
• Gehostet über den Azure App -Dienst
  • Mit GitHub -Aktionen integriert/bereitgestellt
  • Azure App Service App, die über die Anzeige an nur unser Team gesperrt ist
  • Versucht, Benutzer aus der Anmeldetuession zu identifizieren und die Chat -Sitzung zu personalisieren
• Verwendet die relative Zeit für Chat -Nachrichtenzeitstempel
  • Die relative Zeit hat Tooltip mit vollem Zeitstempel
  • Tooltip zeigt Zeit für den selben Tag und das vollständige Datum/die volle Uhrzeit, wenn sie älter als "heute"
• Themenwechsler mit mehreren hellen und dunklen Themen
  • Standardeinstellungen zu light oder dark basierend auf Systempräferenzen
• Responsive Layout
• DevContainer für die lokale Entwicklung

Roadmap

Geplant

• Keine neuen Funktionen, die sich derzeit in der Entwicklung befinden

Potenzial

• Chat -Sitzung von JSON importieren
• Mehrere Chat -Sitzungen
  • Seitenleiste mit scrollierbarer und filterbarer Liste der Chat -Sitzungen
  • Stateful über lokale Lagerung
  • Löschen Sie einzelne Chat -Sitzungen
  • Exportieren Sie einzelne Chat -Sitzungen nach JSON
  • Chat -Sitzungen von JSON importieren

Verwendung

• Reagieren
  • JavaScript -Framework
• Weiter.js
  • Rahmen reagieren
• Vercel ai sdk
  • JS-Bibliothek für AI-betriebene UIS
• Langchain.js
  • JS-Bibliothek für die Interaktion mit LLMs (z. B. GPT-4)
• Rückenwind -CSS
  • CSS -Framework
• Daisyui
  • Komponentenbibliothek für Rückenwind -CSS
• Azure Openai Service
  • API- und Modellbereitstellungen (GPT-4 und GPT-3.5)
• Azure App Service
  • Anwendungshosting und Benutzerauthentifizierung
• GitHub -Aktionen/Workflows
  • Erstellen/veröffentlichen Sie den Azure App -Service
  • Benachrichtigungen erstellen
  • GH -Release erstellen
  • Abhängigkeitsaktualisierungen