NanoLLM
1.0.0
การอนุมานในท้องถิ่นที่ดีที่สุดสำหรับ LLMs ด้วย API แบบ HuggingFace สำหรับการวัดปริมาณแบบจำลองการมองเห็น/ภาษาตัวแทนหลายรูปแบบการพูด, เวกเตอร์ DB และ RAG
บันทึก
ดู dusty-nv.github.io/NanoLLM สำหรับเอกสารและ Jetson AI Lab สำหรับบทช่วยสอน
รุ่นล่าสุด: 24.7 ( dustynv/nano_llm:24.7-r36.2.0 )