คุณสามารถเริ่มต้นเซิร์ฟเวอร์ API โดยใช้คอนเทนเนอร์ Docker หรือการโคลนนิ่งด้วยตนเองและสร้างที่เก็บนี้
การตั้งค่าด้วยตนเอง: โคลนที่เก็บนี้ในเครื่องในเครื่องของคุณและเริ่มเซิร์ฟเวอร์ Python Fast API เลือกติดตั้งและตั้งค่า Mongo DB
การตั้งค่าคอนเทนเนอร์ dev: คอนเทนเนอร์ dev ช่วยให้คุณสามารถตั้งค่าสภาพแวดล้อมโดยอัตโนมัติ ใช้การตั้งค่านี้เพื่อติดตั้งและเรียกใช้บริการคอนเทนเนอร์ในสภาพแวดล้อมที่แยกได้พร้อมส่วนขยายที่ติดตั้งไว้ล่วงหน้า คุณยังสามารถเปิดรหัส GitHub ในสภาพแวดล้อมระยะไกล/เบราว์เซอร์โดยใช้ความลับในการส่งปุ่ม API แบบจำลอง
ตั้งค่า python virtualenv และติดตั้งการพึ่งพา
python -m venv --prompt agent-builder-api venv
source venv/bin/activate
# venv/Scripts/activate (Windows)
pip install -r requirements.txtตั้งค่าชื่อรุ่นและคีย์ API ในไฟล์ . env
OPENAI_API_KEY = " sk---- "
MODEL_NAME = " openai "เริ่มเซิร์ฟเวอร์ในเทอร์มินัลใหม่
python -m agentbuilder.mainสำหรับการจัดการการพึ่งพาอย่างละเอียดให้ใช้บทกวีเพื่อเลือกและเลือกแพ็คการพึ่งพาตามคุณสมบัติผู้ให้บริการและเครื่องมือ LLM ของคุณ
ทำตามคู่มือคำแนะนำอย่างเป็นทางการเพื่อติดตั้งบทกวี
เลือกและเลือกแพ็คการพึ่งพาเพื่อติดตั้ง
poetry install --extras " openai gemini cohere anthropic mongodb vectordb langgraph "ตั้งค่าชื่อรุ่นและคีย์ API ในไฟล์ . env
OPENAI_API_KEY = " sk---- "
MODEL_NAME = " openai "เริ่มเซิร์ฟเวอร์ในเทอร์มินัลใหม่
poetry run start-serverบันทึก
บทกวีจะสร้างสภาพแวดล้อมเสมือนจริงสำหรับเรา
โดยค่าเริ่มต้นข้อมูลจะถูกเก็บไว้เป็นไฟล์ JSON เปิดใช้งานการจัดเก็บใน Mongo DB โดยการตั้งค่า URL โดยใช้ตัวแปรสภาพแวดล้อม
MONGODB_URL = " mongodb://localhost:27017/llmdb "เปิดใช้งานคอนเทนเนอร์ dev ใน vscode โดยทำตามขั้นตอนในเอกสารอย่างเป็นทางการ
คลิกที่ป้ายด้านล่างเพื่อเรียกใช้บริการในสภาพแวดล้อมที่แยกได้ในเครื่องท้องถิ่น
สิ่งนี้จะโคลน repo และเริ่มบริการ API และ Mongo DB Container
เคล็ดลับ
ใช้ URL MongoDB: // MongoDB: 27017/LLMDB ในส่วนขยาย Mongo DB VSCODE เพื่อดูข้อมูลการจัดเก็บ
ดำเนินการ f1> dev containers: แนบไปยังคอนเทนเนอร์ที่รัน .. และเลือก Agent-Builder-Container
ตั้งค่าชื่อรุ่นและคีย์ API ในไฟล์ . env
OPENAI_API_KEY = " sk---- "
MODEL_NAME = " openai " แพ็คการพึ่งพาช่วยให้การติดตั้งแพ็คเกจละเอียดตามความต้องการของคุณ ใช้ตัวแปรสภาพแวดล้อม extra_deps ในไฟล์ Docker-compose เพื่ออัปเดต
สคริปต์ Install-extra-deps.sh สามารถใช้ในโหมด DEV Container ได้หากไม่สามารถใช้งานได้
ตัวอย่างเช่นการกำหนดค่าสภาพแวดล้อมด้านล่างจะติดตั้งการพึ่งพาสำหรับรุ่นราศีเมถุน, Mongo DB, กราฟ Langchain และ Vectordb
EXTRA_DEPS : " gemini,mongodb,langgraph,vectordb " เคล็ดลับ
เริ่มต้นด้วยชุดการพึ่งพาพื้นฐานเพื่อรองรับโมเดลของคุณและเพิ่มคุณสมบัติอื่น ๆ เพิ่มขึ้น
รุ่นต่อไปนี้ได้รับการสนับสนุนโดยแพ็คการพึ่งพา
| แบบอย่าง | แพ็คการพึ่งพา | ชื่อคีย์ Env |
|---|---|---|
| เปิด AI | Openai | openai_api_key |
| ราศีเมถุน | ราศีเมถุน | google_api_key |
| กัน | กัน | cohere_api_key |
| มานุษยวิทยา | มานุษยวิทยา | anthropic_api_key |
เครื่องมือที่กำหนดค่าล่วงหน้าบางอย่างต้องการการพึ่งพาเพิ่มเติมหรือปุ่ม API เพื่อเปิดใช้งาน
| เครื่องมือ | แพ็คการพึ่งพา | ชื่อคีย์ Env |
|---|---|---|
| internet_search | - | tavily_api_key |
| vectorstore_search | เวกเตอร์ | EMBED_MODEL_NAME |
เพิ่มเครื่องมือหรือชุดเครื่องมือที่กำหนดเองโดยใช้โมดูลโรงงานเครื่องมือ ( AgentBuilder/Factory/Tool_Factory )
สร้างเครื่องมือของคุณ
AgentBuilder/Tools/my_custom_tool.py
from pathlib import Path
from langchain_core . tools import tool
from pydantic import BaseModel , Field
@ tool
def my_custom_tool ( a : int , b : int ):
"""Custom Tool Description"""
return a + b
my_custom_tool . name = "custom_tool_name"
my_custom_tool . description = "Custom Tool Description"
class field_inputs ( BaseModel ):
a : int = Field ( description = "First input" )
b : int = Field ( description = "Second input" )
my_custom_tool . args_schema = sum_inputs
my_custom_tool . metadata = { "file_path" : str ( Path ( __file__ ). absolute ())}เพิ่มเครื่องมือของคุณในวิธี get_all_tools ในโมดูล tool_factory
AgentBuilder/Factory/Tool_factory.py
def get_all_tools()->Sequence[BaseTool]:
return get_vectordb_tools()+ get_websearch_tools() + json_tools + [
directly_answer_tool,
weather_clothing_tool,
temperature_tool,
temperature_sensor_tool,
sum_tool,greeting_tool,
git_diff_tool,
repl_tool,
+ my_custom_tool
]ตัวแทนสามารถสร้างได้โดยใช้ส่วนขยาย UI หรือประกาศในรหัส เพิ่มตัวแทนของคุณโดยใช้โมดูล Agent Factory ( AgentBuilder/Factory/Agent_Factory )
สร้างตัวแทนของคุณ
def my_agent ():
return AgentParams (
name = "my_agent" ,
preamble = "You are a powerful agent that uses tools to answer Human questions" ,
tools = [ "my_custom_tool" ],
agent_type = 'tool_calling'
)เพิ่มเอเจนต์ของคุณในวิธี get_all_agents
def get_all_agents():
return [
default_agent(),
weather_agent(),
python_agent(),
git_agent(),
+ my_agent()
]ปรับแต่งเวิร์กโฟลว์เอเจนต์ของคุณโดยใช้พรอมต์และกราฟที่กำหนดเอง กรองเอเจนต์โดยใช้ชื่อตัวแทนเพื่อใช้การปรับแต่ง
ตัวอย่างเช่นรหัสต่อไปนี้ใช้เวิร์กโฟลว์กราฟตัวสร้างสำหรับเอเจนต์ชื่อ "graph_agent"
def get_agent_builder ( params : AgentBuilderParams ):
agent_name = params . name
match agent_name :
case "graph_agent" :
from agentbuilder . agents . BaseGraphAgentBuilder import BaseGraphAgentBuilder
return BaseGraphAgentBuilder ( params )
case _ :
return BaseAgentBuilder ( params )สำคัญ
ต้องติดตั้งแพ็คการพึ่งพา "langgraph" สำหรับ basegraphagentbuilder
อัปเดตการกำหนดค่าโมเดลโดยใช้ตัวแปรสภาพแวดล้อม
สนับสนุนรูปแบบ {Provider}/{modelName}
ราศีเมถุน
สร้างคีย์ API https://aistudio.google.com/app/apikey
MODEL_NAME = " gemini/gemini-pro "
EMBED_MODEL_NAME = " gemini/embedding-001 "
GOOGLE_API_KEY = <GOOGLE_API_KEY>กัน
สร้างคีย์ API https://dashboard.cohere.com/api-keys
MODEL_NAME = " cohere/command "
EMBED_MODEL_NAME = " cohere/embed-english-v3.0 "
COHERE_API_KEY = <COHERE_API_KEY>เปิด AI
สร้างคีย์ API https://platform.openai.com/docs/quickstart/account-setup
MODEL_NAME = " openai/gpt-4o "
EMBED_MODEL_NAME = " openai/text-embedding-3-large "
OPENAI_API_KEY = <OPENAI_API_KEY>มานุษยวิทยา
สร้างคีย์ API https://www.anthropic.com/ และ https://www.voyageai.com/
MODEL_NAME = " anthropic/claude-3-opus-20240229 "
EMBED_MODEL_NAME = " voyageai/voyage-2 "
ANTHROPIC_API_KEY = <ANTHROPIC_API_KEY>
VOYAGE_API_KEY = <VOYAGE_API_KEY>โอลลา
ใช้โมเดลท้องถิ่นสำหรับการโทรฟังก์ชั่น
เคล็ดลับ
ใช้ประเภทตัวแทนแชท JSON เพื่อความเข้ากันได้ดีขึ้นกับรุ่นท้องถิ่น
ติดตั้ง Ollama และดึงรุ่น
ollama pull mistral:v0.3ตั้งค่าตัวแปรสภาพแวดล้อม
MODEL_NAME = " ollama/mistral:v0.3 "