Groq API
1.0.0
ผู้ช่วยแชท GROQ API เป็นเครื่องมือที่ใช้ GROQ API เพื่อสร้างผู้ช่วยแชทที่สามารถสร้างการตอบสนองต่อการสืบค้นหรือพรอมต์ของผู้ใช้ มันใช้ประโยชน์จากแบบจำลองภาษาขนาดใหญ่ (LLMS) เพื่อให้คำตอบที่ให้ข้อมูลและเกี่ยวข้องกับบริบททำให้เหมาะสำหรับแอปพลิเคชันที่หลากหลายเช่นการสนับสนุนลูกค้าการดึงข้อมูลและอินเทอร์เฟซการสนทนา
ในการเรียกใช้โครงการนี้คุณต้องติดตั้งการพึ่งพาที่จำเป็น เรียกใช้คำสั่งต่อไปนี้ในสมุดบันทึก colab ของคุณ:
! pip install -q -U langchain langchain_core langchain_groq gradioในการใช้สมุดบันทึกนี้คุณจะต้องมีสิ่งต่อไปนี้:
from google . colab import userdata
groq_api_key = userdata . get ( 'GROQ_API_KEY' )
from langchain_groq import ChatGroq
chat = ChatGroq (
api_key = groq_api_key ,
model_name = "mixtral-8x7b-32768"
) from langchain_core . output_parsers import StrOutputParser
chain = prompt | chat | StrOutputParser ()
response = chain . invoke ({ "text" : "Why is the sky blue?" })
print ( response ) import gradio as gr
def fetch_response ( user_input ):
chat = ChatGroq (
api_key = groq_api_key ,
model_name = "mixtral-8x7b-32768"
)
system = "You are a helpful assistant."
human = "{text}"
prompt = ChatPromptTemplate . from_messages (
[
( "system" , system ), ( "human" , human )
]
)
chain = prompt | chat | StrOutputParser ()
output = chain . invoke ({ "text" : user_input })
return output
user_input = "Why is the sky blue?"
fetch_response ( user_input ) iface = gr . Interface (
fn = fetch_response ,
inputs = "text" ,
outputs = "text" ,
title = "Groq Chatbot" ,
description = "Ask a question and get a response."
)
iface . launch ()GROQ_API_KEY ที่ถูกต้องเพื่อเข้าถึง GROQ APIgradio ใช้เพื่อสร้างอินเทอร์เฟซสำหรับ chatbotgradio deploy จากเทอร์มินัล หากคุณมีข้อเสนอแนะใด ๆ โปรดติดต่อฉันที่ [email protected]
