تنزيل Groq API - تنزيل رمز مصدر Groq API

Groq API

كود الذكاء الاصطناعي

1.0.0

تنزيل

مساعد دردشة API Groq

يعد API API Assistant GROQ أداة تستخدم واجهة برمجة تطبيقات GROQ لإنشاء مساعد دردشة قادر على توليد ردود على استعلامات المستخدم أو المطالبات. إنه يعزز نماذج اللغة الكبيرة (LLMS) لتوفير إجابات إعلامية وذات صلة بالسياق ، مما يجعلها مناسبة لمجموعة متنوعة من التطبيقات مثل دعم العملاء واسترجاع المعلومات والواجهات المحادثة.

تثبيت

لتشغيل هذا المشروع ، تحتاج إلى تثبيت التبعيات اللازمة. قم بتشغيل الأمر التالي في دفتر كولاب الخاص بك:

 ! pip install -q -U langchain langchain_core langchain_groq gradio

ابدء:

لاستخدام دفتر الملاحظات هذا ، ستحتاج إلى الحصول على ما يلي:

بيثون 3.6+
حساب جوجل كولاب
مفتاح Groq API (يمكنك الاشتراك في حساب مجاني في groq.ai)

الاستخدام

1. تهيئة النموذج:

 from google . colab import userdata
groq_api_key = userdata . get ( 'GROQ_API_KEY' )

from langchain_groq import ChatGroq

chat = ChatGroq (
    api_key = groq_api_key ,
    model_name = "mixtral-8x7b-32768"
)

2. إنشاء سلسلة:

 from langchain_core . output_parsers import StrOutputParser

chain = prompt | chat | StrOutputParser ()

response = chain . invoke ({ "text" : "Why is the sky blue?" })
print ( response )

3. بناء تطبيق:

 import gradio as gr

def fetch_response ( user_input ):
    chat = ChatGroq (
        api_key = groq_api_key ,
        model_name = "mixtral-8x7b-32768"
    )
    system = "You are a helpful assistant."
    human = "{text}"

    prompt = ChatPromptTemplate . from_messages (
        [
            ( "system" , system ), ( "human" , human )
        ]
    )
    chain = prompt | chat | StrOutputParser ()
    output = chain . invoke ({ "text" : user_input })
    return output

user_input = "Why is the sky blue?"

fetch_response ( user_input )

4. إنشاء واجهة:

 iface = gr . Interface (
    fn = fetch_response ,
    inputs = "text" ,
    outputs = "text" ,
    title = "Groq Chatbot" ,
    description = "Ask a question and get a response."
)

iface . launch ()

مرجع API

Chatgroq: تهيئة هذه الفئة واجهة برمجة تطبيقات Groq لوظائف الدردشة. يتطلب مفتاح API واسم النموذج كمعلمات.
ChatPromptTemplate: ينشئ هذا الفئة قالب محادثة للمشاريع للتفاعل مع واجهة برمجة تطبيقات GROQ.
StroutputParser: تقوم هذه الفئة بتوزيع استجابة الإخراج من واجهة برمجة تطبيقات Groq في تنسيق سلسلة.

ملاحظات إضافية

ينقسم الرمز إلى عدة أقسام ، بما في ذلك تعليمات التثبيت والواردات والتهيئة النموذجية والوظيفة الرئيسية.
تأكد من أن لديك GROQ_API_KEY صالح للوصول إلى واجهة برمجة تطبيقات GROQ.
تُستخدم مكتبة gradio لإنشاء واجهة لـ chatbot.
ينتهي رابط المشاركة المقدم في 72 ساعة. لاستضافة الاستضافة الدائمة وترقيات GPU ، فكر في نشر المساحات باستخدام gradio deploy من Terminal.