Groq API

Assistant de chat API GROQ

L'assistant de chat API GROQ est un outil qui utilise l'API GROQ pour créer un assistant de chat capable de générer des réponses aux requêtes ou invites utilisateur. Il tire parti de modèles de grandes langues (LLM) pour fournir des réponses informatives et contextuellement pertinentes, ce qui le rend adapté à une variété d'applications telles que le support client, la récupération des informations et les interfaces conversationnelles.

Installation

Pour exécuter ce projet, vous devez installer les dépendances nécessaires. Exécutez la commande suivante dans votre cahier Colab:

 ! pip install -q -U langchain langchain_core langchain_groq gradio

Commencer:

Pour utiliser ce cahier, vous devrez avoir ce qui suit:

• Python 3.6+
• Compte Google Colab
• Clé API Groq (vous pouvez vous inscrire à un compte gratuit sur Groq.ai)

Usage

1. Initialisez le modèle:

 from google . colab import userdata
groq_api_key = userdata . get ( 'GROQ_API_KEY' )

from langchain_groq import ChatGroq

chat = ChatGroq (
    api_key = groq_api_key ,
    model_name = "mixtral-8x7b-32768"
)

2. Créez une chaîne:

 from langchain_core . output_parsers import StrOutputParser

chain = prompt | chat | StrOutputParser ()

response = chain . invoke ({ "text" : "Why is the sky blue?" })
print ( response )

3. Créez une application:

 import gradio as gr

def fetch_response ( user_input ):
    chat = ChatGroq (
        api_key = groq_api_key ,
        model_name = "mixtral-8x7b-32768"
    )
    system = "You are a helpful assistant."
    human = "{text}"

    prompt = ChatPromptTemplate . from_messages (
        [
            ( "system" , system ), ( "human" , human )
        ]
    )
    chain = prompt | chat | StrOutputParser ()
    output = chain . invoke ({ "text" : user_input })
    return output

user_input = "Why is the sky blue?"

fetch_response ( user_input )

4. Créez une interface:

 iface = gr . Interface (
    fn = fetch_response ,
    inputs = "text" ,
    outputs = "text" ,
    title = "Groq Chatbot" ,
    description = "Ask a question and get a response."
)

iface . launch ()

Référence de l'API

• ChatGroq: cette classe initialise l'API GROQ pour les fonctionnalités de chat. Il nécessite une clé API et un nom de modèle comme paramètres.
• ChatPromptTemplate: cette classe crée un modèle d'invite de chat pour interagir avec l'API GROQ.
• StroutputParser: cette classe analyse la réponse de sortie de l'API GROQ dans un format de chaîne.

Notes supplémentaires

• Le code est divisé en plusieurs sections, y compris les instructions d'installation, les importations, l'initialisation du modèle et la fonction principale.
• Assurez-vous d'avoir un GROQ_API_KEY valide pour accéder à l'API GROQ.
• La bibliothèque gradio est utilisée pour créer une interface pour le chatbot.
• Le lien d'actions fourni expire en 72 heures. Pour l'hébergement permanent et les mises à niveau GPU, envisagez de déployer dans des espaces à l'aide de gradio deploy du terminal.

Remerciements

• Documentation de l'API GROQ
• Documentation de Langchain
• Documentation Gradio

Auteurs

• @Shubham Bhatia

Retour

Si vous avez des commentaires, veuillez me contacter à [email protected]