azure openai gpt4 chat

azure-openai-gpt4-chat

Bot de chat en streaming de type chatppt alimenté par Azure Openai et GPT-4

Remarque: Projet et documentation en cours

À propos

Il s'agit d'une application de chat simple qui diffuse des messages vers et depuis une instance Azure Openai Services à l'aide d'un déploiement de modèle GPT-4

Condition préalable

• Node.js> = 20.x (avec npm> = v10.x)
• Abonnement Azure
  • Azure Openai Access activé
  • Services Azure Openai déployés avec un modèle GPT-4
    • Clé API pour le service déployé

Courir localement

1. Clone Repo git clone https://github.com/cu-cit-cloud-team/azure-openai-gpt4-chat.git
2. Entrez le répertoire cd azure-openai-gpt4-chat
3. Copier .env.local.example à .env.local et remplir les valeurs
4. Si vous utilisez Node.js installé localement:
   1. Installer les dépendances npm install
   2. Exécuter le projet localement npm run dev
5. Si vous utilisez DevContainer:
   1. Ouvert dans DevContainer (dépendances installées automatiquement)
   2. Exécuter le projet npm run dev
6. Visitez http://localhost:3001 dans votre navigateur
7. ctrl + c pour s'arrêter

Caractéristiques

• Discuter avec un modèle Azure Openai GPT-4
• Réponses de chat Stream en temps réel pour une expérience de type chatppt
• Utilise textarea pour les entrées pour la prise en charge multi-lignes
  • Focus textarea sur le chargement de la page
  • textarea a automatiquement rédige comme vous tapez
  • enter la clé pour soumettre le message
  • shift + enter pour une nouvelle ligne
• Indicateur de chargement à côté de la réponse du chat jusqu'à ce qu'il soit terminé
• Formats Blocs de code et autres marques à l'intérieur des messages de chat bien
• L'historique actuel du chat est stocké dans le stockage local du navigateur
• Afficher / modifier le message du système pour la session de chat (par exemple "vous êtes un assistant AI utile")
• Afficher / modifier les paramètres de session de chat (par exemple, température, haut P, ​​etc.)
• Nombre de jetons en direct (utilisé / restant) affiché pour le message et le message système
• Modifier le modèle Azure Openai (GPT-4, GPT-3.5, etc.)
• Télécharger l'historique actuel du chat en tant que JSON
• Effacer l'historique actuel du chat
  • Raccourci clavier ( cmd + esc ) lorsque textarea est concentré
• Copiez des messages complets et des réponses au presse-papiers
  • Copiez des extraits de code individuels (dans les réponses) au presse-papiers
• Supprimer les messages et les réponses individuels de l'historique du chat
• Arrêtez la réponse qui est actuellement en streaming (utile pour de longues réponses qui ne sont pas nécessaires)
• Régénérer la dernière réponse
• Hébergé via le service d'application Azure
  • Construit / déployé avec des actions github
  • L'application Azure App Service est verrouillée via l'annonce à notre équipe
  • Essaie d'identifier l'utilisateur à partir de la session de connexion et de personnaliser la session de chat
• Utilise du temps relatif pour les horodatages du message de chat
  • Le temps relatif a une infraction avec un horodatage complet
  • L'infiltration affiche du temps pour le jour même et la date / temps complète si plus ancien que "aujourd'hui"
• Changeur de thème avec plusieurs thèmes clairs et sombres
  • Par défaut est light ou dark en fonction de la préférence du système
• Disposition réactive
• DevContainer pour le développement local

Feuille de route

Prévu

• Aucune nouvelle fonctionnalité actuellement en cours de développement

Potentiel

• Session de chat d'importation de JSON
• Sessions de chat multiples
  • Barre latérale avec une liste de séances de chat défiles et filtrables
  • État via le stockage local
  • Supprimer les séances de chat individuelles
  • Exporter des sessions de chat individuelles vers JSON
  • Importer des sessions de chat de JSON

Usages

• Réagir
  • Framework JavaScript
• Next.js
  • REACT Framework
• SDK Vercel AI
  • Bibliothèque JS pour UI alimentée par AI
• Langchain.js
  • Bibliothèque JS pour interagir avec LLMS (par exemple GPT-4)
• CSS du vent arrière
  • Cadre CSS
• marguerite
  • Bibliothèque de composants pour le vent arrière CSS
• Service Azure Openai
  • Déploiements API et modèle (GPT-4 et GPT-3.5)
• Service d'application Azure
  • Hébergement d'applications et authentification des utilisateurs
• Actions / flux de travail GitHub
  • Construire / publier sur Azure App Service
  • Construire des notifications
  • Créer une version GH
  • Mises à jour de la dépendance