Groq API

Asisten Obrolan API Groq

Asisten Obrolan API GROQ adalah alat yang memanfaatkan API GROQ untuk membuat asisten obrolan yang mampu menghasilkan respons terhadap kueri atau petunjuk pengguna. Ini memanfaatkan model bahasa besar (LLM) untuk memberikan jawaban yang informatif dan relevan secara kontekstual, membuatnya cocok untuk berbagai aplikasi seperti dukungan pelanggan, pengambilan informasi, dan antarmuka percakapan.

Instalasi

Untuk menjalankan proyek ini, Anda perlu menginstal dependensi yang diperlukan. Jalankan perintah berikut di Colab Notebook Anda:

 ! pip install -q -U langchain langchain_core langchain_groq gradio

Memulai:

Untuk menggunakan buku catatan ini, Anda harus memiliki yang berikut:

• Python 3.6+
• Akun Google Colab
• Kunci API GROQ (Anda dapat mendaftar untuk akun gratis di Groq.ai)

Penggunaan

1. Inisialisasi model:

 from google . colab import userdata
groq_api_key = userdata . get ( 'GROQ_API_KEY' )

from langchain_groq import ChatGroq

chat = ChatGroq (
    api_key = groq_api_key ,
    model_name = "mixtral-8x7b-32768"
)

2. Buat rantai:

 from langchain_core . output_parsers import StrOutputParser

chain = prompt | chat | StrOutputParser ()

response = chain . invoke ({ "text" : "Why is the sky blue?" })
print ( response )

3. Bangun aplikasi:

 import gradio as gr

def fetch_response ( user_input ):
    chat = ChatGroq (
        api_key = groq_api_key ,
        model_name = "mixtral-8x7b-32768"
    )
    system = "You are a helpful assistant."
    human = "{text}"

    prompt = ChatPromptTemplate . from_messages (
        [
            ( "system" , system ), ( "human" , human )
        ]
    )
    chain = prompt | chat | StrOutputParser ()
    output = chain . invoke ({ "text" : user_input })
    return output

user_input = "Why is the sky blue?"

fetch_response ( user_input )

4. Buat antarmuka:

 iface = gr . Interface (
    fn = fetch_response ,
    inputs = "text" ,
    outputs = "text" ,
    title = "Groq Chatbot" ,
    description = "Ask a question and get a response."
)

iface . launch ()

Referensi API

• ChatGROQ: Kelas ini menginisialisasi API GROQ untuk fungsi obrolan. Ini membutuhkan kunci API dan nama model sebagai parameter.
• ChatPromptTemplate: Kelas ini membuat templat prompt obrolan untuk berinteraksi dengan API GROQ.
• StroutputParser: Kelas ini menguraikan respons output dari API GROQ ke dalam format string.

Catatan tambahan

• Kode ini dibagi menjadi beberapa bagian, termasuk instruksi instalasi, impor, inisialisasi model, dan fungsi utama.
• Pastikan Anda memiliki GROQ_API_KEY yang valid untuk mengakses API GROQ.
• Perpustakaan gradio digunakan untuk membuat antarmuka untuk chatbot.
• Tautan saham yang disediakan berakhir dalam 72 jam. Untuk hosting permanen dan upgrade GPU, pertimbangkan untuk digunakan ke ruang menggunakan gradio deploy dari Terminal.

Ucapan Terima Kasih

• Dokumentasi API GROQ
• Dokumentasi Langchain
• Dokumentasi Gradio

Penulis

• @Shubham Bhatia

Masukan

Jika Anda memiliki umpan balik, hubungi saya di [email protected]