หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>โค้ดแหล่งที่มา AI
ดาวน์โหลด

การแสดงแบบไดนามิก


การแจ้งเตือนแบบไม่กี่แบบไดนามิกเป็นแพ็คเกจ Python ที่เลือกตัวอย่าง N แบบไดนามิกที่อยู่ใกล้กับงานหรือแบบสอบถามของผู้ใช้จากฐานความรู้ (คล้ายกับ RAG) เพื่อรวมไว้ในพรอมต์ สิ่งนี้จะช่วยให้ตัวอย่างที่เกี่ยวข้องและให้ข้อมูลกับ LLM โดยไม่จำเป็นต้องปรับแต่ง LLM เพื่อเรียนรู้และแยกรูปแบบจากชุดข้อมูล ซึ่งหมายถึงต้นทุนการคำนวณที่ลดลงและทรัพยากร คุณเพียงแค่ต้องรวบรวมตัวอย่างที่เกี่ยวข้องกับงานของคุณและอาจไม่ชัดเจนสำหรับ LLM

คุณสมบัติที่สำคัญ

  • เร็วกว่าการปรับแต่ง LLM
  • ประสิทธิภาพที่ดีกว่าพรอมช็อตแบบคงที่
  • ทำงานกับข้อมูลน้อยกว่าการปรับแต่งโมเดล

เริ่มต้นอย่างรวดเร็ว

ด้วย pip: 

 pip install dynamic_prompting

หรือติดตั้งจากแหล่งที่มา 

 git clone https://github.com/ElmiraGhorbani/dynamic_prompting

pip install -e .

การอนุมาน

การตั้งค่ารุ่นแรก:

นางแบบ Llama3

  1. เยี่ยมชมเว็บไซต์ Meta Llama (https://llama.meta.com/llama-downloads) และลงทะเบียนเพื่อดาวน์โหลดรุ่น/s

  2. เมื่อลงทะเบียนแล้วคุณจะได้รับอีเมลพร้อม URL เพื่อดาวน์โหลดรุ่น คุณจะต้องใช้ URL นี้เมื่อคุณเรียกใช้สคริปต์ Download.sh

  3. เมื่อคุณได้รับอีเมลนำทางไปยังที่เก็บ Llama ที่ดาวน์โหลดมาแล้วและเรียกใช้สคริปต์ Download.sh

    • ตรวจสอบให้แน่ใจว่าได้ให้สิทธิ์การดำเนินการกับสคริปต์ download.sh
    • ในระหว่างกระบวนการนี้คุณจะได้รับแจ้งให้ป้อน URL จากอีเมล
    • อย่าใช้ตัวเลือก“ การคัดลอกลิงค์”; คัดลอกลิงค์จากอีเมลด้วยตนเอง

เมื่อคุณดาวน์โหลดโมเดลแล้วใส่ไว้ในโฟลเดอร์นี้

มิฉะนั้นคุณสามารถใช้วิธีนี้: 

 - Step 1: Go to your Hugging Face account “Settings” and then “Access Tokens” on the left column, and copy the token you need.

- Step 2: On your terminal, export your token starting with “HF_”. Use a distinct name (for example, HF_TOKEN) for each token you export. 
You may add this line to your ~/.bashrc if you do not want to export it every time you start a session.

 export HF_TOKEN="HF_XXXXXXXXXXXXX"

โมเดลการฝังข้อความ

คลาส EMBEDDINGS ได้รับการออกแบบมาเพื่อเชื่อมต่อกับโมเดลการฝังข้อความ มีผู้ให้บริการโมเดลการฝังจำนวนมาก (Openai, Cohere, Hugging Face, ฯลฯ ) ปัจจุบันคลาสนี้มีอินเทอร์เฟซมาตรฐานสำหรับ MXBAI-EMBED-LARGE-V1 , BGE-SMALL-EN-V1.5 และ NOMIC-EMBED-TEXT-V1.5

เริ่มต้นใช้งาน

ในการเริ่มต้นดาวน์โหลดโมเดลและวางไว้ในโฟลเดอร์นี้ 


git lfs install
รูปแบบที่มีชื่อเสียง 

git clone https://huggingface.co/nomic-ai/nomic-embed-text-v1.5

cd nomic-embed-text-v1.5

git lfs fetch
รุ่น BGE 

git clone https://huggingface.co/BAAI/bge-small-en-v1.5

cd bge-small-en-v1.5

git lfs fetch
โมเดล MxBai 

git clone https://huggingface.co/mixedbread-ai/mxbai-embed-large-v1

cd mxbai-embed-large-v1

git lfs fetch

การสาธิต

ตรวจสอบตัวอย่าง iipynb

ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด