node red contrib croq api

Node-Red-Contrib-Croq-api

Um nó vermelho-nó para interagir com a API Groq .
Atualmente, ele suporta apenas chamadas de API síncronas.

Características

• Interaja facilmente com a API GROQ para conclusões baseadas em bate-papo.
• Personalize os limites do modelo, temperatura e token.
• Requer uma chave da API: obtenha a sua no console GroqCloud.
• Implementação leve usando o módulo https nativo do Node.JS.

Instalação

Instale os nós diretamente através do gerente de paleta embutido do Node-Red.

Nós

• CROQ : chama a API.
• Prompt : ajuda a construir o prompt.
• Modelos : recupera modelos disponíveis.

Uso

1. Arraste o nó CROQ da paleta para o seu espaço de trabalho Node-vermelho.
2. Clique duas vezes no nó para abrir o painel de configuração:
   • Digite sua tecla API GROQ . Se você não tiver um, visite o console GroqCloud para gerá -lo. Você precisará criar uma conta Groq. O uso é restrito , mas livre dentro dos limites definidos.
   • Especifique um modelo no nó ou na carga útil de entrada, por exemplo, LLAMA3-8B-8192 .
   • Opcionalmente defina valores para temperatura e tokens máximos.
3. Use o nó do modelo para recuperar uma lista de modelos disponíveis.
4. Use o nó rápido para configurar um prompt estruturado em várias partes e passe-o para o nó CROQ como msg.prompt .
5. O nó CROQ retorna a resposta da API no msg.payload .

Exemplo de fluxo

O exemplo do fluxo demonstra como usar os nós juntos:

Você pode importá -lo do repositório para começar rapidamente.