node red contrib croq api

Node-rouge-Contrib-Croq-API

Un nœud rouge de nœud pour interagir avec l' API GROQ .
Actuellement, il ne prend en charge que les appels API synchrones.

Caractéristiques

• Interagissez facilement avec l'API GROQ pour les compléments basés sur le chat.
• Personnalisez le modèle, la température et les limites de jeton.
• Nécessite une clé API: procurez-vous la vôtre de la console GroqCloud.
• Implémentation légère à l'aide du module https natif de Node.js.

Installation

Installez les nœuds directement via le gestionnaire de palette intégré de Node-Red.

Nœuds

• CROQ : appelle l'API.
• Invite : aide à construire l'invite.
• Modèles : récupère les modèles disponibles.

Usage

1. Faites glisser le nœud CROQ de la palette dans votre espace de travail rouge-rouge.
2. Double-cliquez sur le nœud pour ouvrir le panneau de configuration:
   • Entrez votre clé API Groq . Si vous n'en avez pas, visitez la console Groqcloud pour la générer. Vous devrez créer un compte GROQ. L'utilisation est limitée mais libre dans les limites définies.
   • Spécifiez un modèle dans le nœud ou dans la charge utile d'entrée, par exemple, llama3-8b-8192 .
   • Définir éventuellement les valeurs pour la température et les jetons maximaux.
3. Utilisez le nœud du modèle pour récupérer une liste des modèles disponibles.
4. Utilisez le nœud de l'invite pour configurer une invite structurée en plusieurs parties et passez-la au nœud CROQ en tant que msg.prompt .
5. Le nœud CROQ renvoie la réponse de l'API dans msg.payload .

Exemple de flux

L'exemple de flux montre comment utiliser les nœuds ensemble:

Vous pouvez l'importer du référentiel pour commencer rapidement.