ToK

Trove of Knowledge (TOK)

Trove of Knowledge (TOK) เป็น แอพพลิเคชั่นการดึง (RAG) ที่ มีคุณภาพสูง และขยายได้ อย่างเต็มที่ ซึ่งใช้ประโยชน์จากโมเดล AI และดัชนีเพื่อสอบถามเอกสารและสร้างการตอบสนองที่แม่นยำตามบริบท ด้วย TOK คุณสามารถอัปโหลดเอกสารและรับคำตอบที่มีข้อมูลเพิ่มเติมที่เหมาะกับการสืบค้นของคุณ นอกจากนี้แอปจะจัดเก็บแชทของคุณโดยอัตโนมัติช่วยให้คุณกลับมาทบทวนและสนทนาต่อได้ตลอดเวลา

สารบัญ

• - คุณสมบัติ
• ข้อกำหนดเบื้องต้น
• เริ่มต้น
• การใช้งาน
• - ตัวอย่างวิดีโอ
• - ทัวร์ชมภาพ
• ผลลัพธ์

คุณสมบัติ

• ? ️ ท้องถิ่นอย่างสมบูรณ์ปลอดภัยและมุ่งเน้นความเป็นส่วนตัว: TOK ทำให้มั่นใจได้ว่าการดำเนินการทั้งหมดจะดำเนินการในท้องถิ่นทำให้ข้อมูลของคุณเป็นส่วนตัวและปลอดภัย
• การอัปโหลดเอกสารอเนกประสงค์: อัปโหลดเอกสารข้อความและโฟลเดอร์ประเภทต่าง ๆ เพื่อสร้างดัชนีสำหรับการตอบกลับ AI ที่ได้รับการแจ้งเพิ่มเติม
• ️ การกำหนดข้อมูลเมตาเสริม: ปรับปรุงการอัปโหลดเอกสารด้วยข้อมูลเมตาที่กำหนดเองทำให้ข้อมูลของคุณเป็นระเบียบและเข้าถึงได้มากขึ้น
• การตั้งค่า UI ที่ครอบคลุม: เข้าถึงและแก้ไขการตั้งค่าที่สำคัญได้อย่างง่ายดายเช่นตัวเลือก chunking อุณหภูมิขนาดหน้าต่างบริบทและโหมดแชทผ่านส่วนต่อประสานผู้ใช้
• ✍ พรอมต์แบบกำหนดเอง: เพิ่มและใช้พรอมต์ส่วนบุคคลสำหรับทั้งรุ่นภาษาขนาดใหญ่ (LLM) และเครื่องมือแชทการปรับการตอบสนองต่อความต้องการของคุณ
• แชทอย่างต่อเนื่องพร้อมชื่อเรื่อง: การแชทจะถูกบันทึกด้วยชื่อที่ปรับแต่งได้ช่วยให้คุณกลับมาอีกครั้งและดำเนินการต่อในภายหลัง
• ประวัติการแชทแบบถาวร: เข้าถึงและตรวจสอบการสนทนาที่ผ่านมาได้ตลอดเวลา
• - การเลือกแบบจำลองจาก Ollama: เลือกและดึงโมเดล AI โดยตรงจาก Ollama สำหรับงานและการตั้งค่าที่เฉพาะเจาะจง
• ⏳ การตอบสนองการสตรีมมิ่งด้วยตัวอย่างสมาร์ท: สัมผัสกับการตอบสนองแบบเรียลไทม์ด้วยการจัดรูปแบบสมาร์ทเอาท์พุทโดยเฉพาะอย่างยิ่งสำหรับตัวอย่างโค้ด
• - Extensible: ขยายฟังก์ชั่นของ Tok ได้อย่างง่ายดายด้วยคุณสมบัติหรือการรวมเข้าด้วยกัน

ข้อกำหนดเบื้องต้น

ในการเรียกใช้ TOK คุณจะต้องติดตั้งสองการพึ่งพา:

• Ollama: อำนวยความสะดวกในการดาวน์โหลดแบบจำลองการให้บริการและการโหลดอุปกรณ์อัจฉริยะ ( ที่จำเป็น )
• Neo4J เดสก์ท็อป: ใช้สำหรับเวกเตอร์ชั้นนำและร้านค้ากราฟ ( ติดตั้งหากทำงานโดยไม่มี Docker / กับ EXE ในรุ่นหรือเพื่อวัตถุประสงค์ในการวิจัย )

การตั้งค่า neo4j (ถ้าติดตั้งเดสก์ท็อป Neo4J)

1. ดาวน์โหลดและติดตั้ง Neo4J Desktop
2. เพิ่ม เส้นทาง Neo4J bin ไปยังตัวแปรสภาพแวดล้อม เส้นทาง ของระบบของคุณ สิ่งนี้ช่วยให้ TOK สามารถเข้าถึง Neo4J ได้
   • ตัวอย่างเส้นทาง bin สำหรับ windows: pathtouser.Neo4jDesktoprelate-datadbmssyour-current-dbmsbin

• (สำหรับ windows) เปิดใช้งาน Neo4J CLI โดยเรียกใช้คำสั่งต่อไปนี้ในคำสั่งพรอมต์หรือ PowerShell สำหรับ Windows:

  neo4j windows-service install

โปรดผ่านลิงค์นี้เพื่อทำตามขั้นตอนข้างต้นสำหรับ Arch อื่น ๆ (และสำหรับการอ้างอิง)

เริ่มต้น

คุณมีสองตัวเลือกหลักในการเรียกใช้ TOK:

ตัวเลือกที่ 1: Running Tok กับ Docker (แนะนำ)

1. ตรวจสอบให้แน่ใจว่าคุณติดตั้งนักเทียบท่าและนักเทียบท่าที่ติดตั้งบนเครื่องของคุณ
2. โคลนที่เก็บ:

   git clone https://github.com/gurveervirk/ToK.git

3. นำทางไปยังไดเรกทอรีที่มีไฟล์ docker-compose.yml :

    cd ToK/docker

4. ให้บริการ Ollama ในระบบท้องถิ่นของคุณ ( แอพอาจให้บริการโดยอัตโนมัติ )

   ollama serve

5. เริ่มแอปพลิเคชันด้วย Docker Compose:

   docker-compose up -d

ตัวเลือกที่ 2: Running Tok Executable (เลิกใช้แล้ว) (ไม่ได้รับการดูแลอีกต่อไป)

1. เยี่ยมชมหน้ารีลีสและดาวน์โหลด ToK.exe ล่าสุดไปยังตำแหน่ง/ไดเรกทอรี (แอพสร้างไฟล์และโฟลเดอร์ที่จำเป็นสำหรับการทำงานที่ถูกต้อง)

2. แก้ไขการตั้งค่าโดยเรียกใช้แอปหนึ่งครั้งและคลิกที่ไอคอนการตั้งค่าที่มุมขวาบน:

   • ชื่อผู้ใช้: แทนที่ด้วยชื่อผู้ใช้ฐานข้อมูล Neo4J ของคุณ
   • รหัสผ่าน: แทนที่ด้วยรหัสผ่านที่คุณตั้งไว้ในโครงการ NEO4J ของคุณ
   • URI: แทนที่ด้วย URI ของโครงการ Neo4J ของคุณ

   หมายเหตุ: ชื่อผู้ใช้เริ่มต้นและ URI เป็นค่าเริ่มต้นสำหรับ DB Neo4J นอกจากนี้คุณยังสามารถแก้ไขได้ใน settings.json สร้างโดยแอป

เสร็จแล้ว! ตอนนี้คุณพร้อมที่จะเริ่มใช้ TOK

การใช้งาน

หลังจากเสร็จสิ้นการตั้งค่า:

1. เปิด ตัว TOK
2. เลือกที่จะแชทโดยตรงกับบอทหรืออัปโหลดเอกสารโดยใช้ปุ่มบนขวาเพื่อการตอบกลับแบบสอบถามที่ปรับปรุงแล้ว
3. เพลิดเพลินไปกับประสบการณ์ที่ไร้รอยต่อในการโต้ตอบกับผู้ช่วยผู้ช่วย AI ที่ขับเคลื่อนด้วย AI ซึ่งช่วยให้ข้อมูลของคุณเป็นส่วนตัวและปลอดภัย

หมายเหตุ: ในการสร้างการแชทใหม่ทันทีหลังจากแจ้งเอ็นจิ้น LLM / แชทการแชทล่าสุดอาจไม่ปรากฏในแถบด้านข้างพร้อมกับการแชทไม่พร้อมใช้งานไม่กี่วินาที นี่อาจเป็นเพราะการแชทใหม่ที่ถูกเก็บไว้ด้วยชื่อที่สร้างขึ้น LLM

ตัวอย่างวิดีโอ

ดูวิดีโอด้านล่างเพื่อดู TOK ในการดำเนินการ:

ทัวร์ชมภาพ

สำรวจคุณสมบัติหลักและส่วนต่อประสานผู้ใช้ของ TOK ผ่านภาพด้านล่าง:

อัปโหลดโมดอล

การตั้งค่าโมดอล

แจ้งเป็นโมดอล

ผลลัพธ์

แอพนี้ได้รับการทดสอบอย่างประสบความสำเร็จในชุดย่อยของชุดข้อมูล Triviaqa และผลลัพธ์มีดังนี้:

โปรดค้นหารหัสสำหรับผลลัพธ์ข้างต้นในลิงค์นี้

ประวัติดาว