Groq API 다운로드 Groq API 소스 코드 다운로드

Groq API

AI 소스 코드

1.0.0

다운로드

Groq API 채팅 어시스턴트

Groq API 채팅 어시스턴트는 Groq API를 사용하여 사용자 쿼리 또는 프롬프트에 대한 응답을 생성 할 수있는 채팅 어시스턴트를 만드는 도구입니다. LLM (Large Language Model)을 활용하여 유익하고 상황에 맞는 답변을 제공하여 고객 지원, 정보 검색 및 대화 인터페이스와 같은 다양한 응용 프로그램에 적합합니다.

설치

이 프로젝트를 실행하려면 필요한 종속성을 설치해야합니다. Colab 노트에서 다음 명령을 실행하십시오.

 ! pip install -q -U langchain langchain_core langchain_groq gradio

시작하기 :

이 노트를 사용하려면 다음이 필요합니다.

파이썬 3.6+
Google Colab 계정
Groq API 키 (Groq.ai에서 무료 계정에 가입 할 수 있음)

용법

1. 모델 초기화 :

 from google . colab import userdata
groq_api_key = userdata . get ( 'GROQ_API_KEY' )

from langchain_groq import ChatGroq

chat = ChatGroq (
    api_key = groq_api_key ,
    model_name = "mixtral-8x7b-32768"
)

2. 체인 만들기 :

 from langchain_core . output_parsers import StrOutputParser

chain = prompt | chat | StrOutputParser ()

response = chain . invoke ({ "text" : "Why is the sky blue?" })
print ( response )

3. 앱 빌드 :

 import gradio as gr

def fetch_response ( user_input ):
    chat = ChatGroq (
        api_key = groq_api_key ,
        model_name = "mixtral-8x7b-32768"
    )
    system = "You are a helpful assistant."
    human = "{text}"

    prompt = ChatPromptTemplate . from_messages (
        [
            ( "system" , system ), ( "human" , human )
        ]
    )
    chain = prompt | chat | StrOutputParser ()
    output = chain . invoke ({ "text" : user_input })
    return output

user_input = "Why is the sky blue?"

fetch_response ( user_input )

4. 인터페이스 생성 :

 iface = gr . Interface (
    fn = fetch_response ,
    inputs = "text" ,
    outputs = "text" ,
    title = "Groq Chatbot" ,
    description = "Ask a question and get a response."
)

iface . launch ()

API 참조

chatgroq : 이 클래스는 채팅 기능을 위해 Groq API를 초기화합니다. API 키와 모델 이름을 매개 변수로 필요로합니다.
ChatPromptTemplate : 이 클래스는 Groq API와 상호 작용하기위한 채팅 프롬프트 템플릿을 만듭니다.
Stroutputparser : 이 클래스는 Groq API의 출력 응답을 문자열 형식으로 구문 분석합니다.

추가 메모

코드는 설치 지침, 가져 오기, 모델 초기화 및 기본 기능을 포함한 여러 섹션으로 나뉩니다.
Groq API에 액세스 할 수있는 유효한 GROQ_API_KEY 가 있는지 확인하십시오.
gradio 라이브러리는 챗봇의 인터페이스를 만드는 데 사용됩니다.
공유 링크는 72 시간 안에 만료되었습니다. 영구 호스팅 및 GPU 업그레이드의 경우 터미널에서 gradio deploy 사용하여 공간에 배포하는 것을 고려하십시오.