node red contrib croq api

nodo-rojo-confuntrib-croq-api

Un nodo de nodo-rojo para interactuar con la API Groq .
Actualmente, solo admite llamadas de API sincrónicas.

Características

• Interactúa fácilmente con la API Groq para completar el chat.
• Personalice el modelo, la temperatura y los límites del token.
• Requiere una clave API: obtenga la tuya de la consola GroqCloud.
• Implementación liviana utilizando el módulo https nativo de Node.js.

Instalación

Instale los nodos directamente a través del Administrador de paletas incorporado de Node-Red.

Nodos

• CROQ : Llama a la API.
• Aviso : ayuda a construir el mensaje.
• Modelos : recupera los modelos disponibles.

Uso

1. Arrastre el nodo CROQ desde la paleta en su espacio de trabajo de Node-Red.
2. Haga doble clic en el nodo para abrir el panel de configuración:
   • Ingrese su clave API Groq . Si no tiene uno, visite la consola GroqCloud para generarla. Deberá crear una cuenta Groq. El uso es restringido pero gratuito dentro de los límites definidos.
   • Especifique un modelo en el nodo o en la carga útil de entrada, por ejemplo, LLAMA3-8B-8192 .
   • Opcionalmente, establece valores para la temperatura y tokens máximos.
3. Use el nodo modelo para recuperar una lista de modelos disponibles.
4. Use el nodo de solicitud para configurar una solicitud estructurada de varias partes y pasarlo al nodo CROQ como msg.prompt .
5. El nodo CROQ devuelve la respuesta API en msg.payload .

Flujo de ejemplo

El flujo de ejemplo demuestra cómo usar los nodos juntos:

Puede importarlo del repositorio para comenzar rápidamente.