node red contrib croq api

Узел-красный контриб-Крок-Апи

Узел-красный узел для взаимодействия с API GROQ .
В настоящее время он поддерживает только синхронные вызовы API.

Функции

• Легко взаимодействовать с API Groq для завершения на основе чата.
• Настройте ограничения модели, температуру и токена.
• Требуется ключ API: Получите свой из консоли Groqcloud.
• Легкая реализация с использованием нативного https модуля Node.js.

Установка

Установите узлы непосредственно через встроенный диспетчер палитры Node-Red.

Узлы

• Croq : вызывает API.
• Подсказка : помогает построить подсказку.
• Модели : извлекает доступные модели.

Использование

1. Перетащите узел Croq из палитры в рабочую область узла.
2. Дважды щелкните узел, чтобы открыть панель конфигурации:
   • Введите свой ключ API Groq . Если у вас его нет, посетите консоль Groqcloud, чтобы сгенерировать ее. Вам нужно будет создать учетную запись Groq. Использование ограничено , но свободно в определенных пределах.
   • Укажите модель в узле или во входной полезной нагрузке, например, Llama3-8B-8192 .
   • Необязательно установленные значения для температуры и максимальных токенов.
3. Используйте узел модели , чтобы получить список доступных моделей.
4. Используйте узел приглашения , чтобы настроить многочасовую структурированную подсказку и передать его к узлу Croq в качестве msg.prompt .
5. Узел Croq возвращает ответ API в msg.payload .

Пример потока

Пример потока демонстрирует, как использовать узлы вместе:

Вы можете импортировать его из репозитория, чтобы начать быстро.