หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

ข้อสังเกต: ไม่ได้รับการดูแลอีกต่อไป

ลาก่อนทุกคน!

อย่างที่คุณอาจสังเกตเห็นภูมิทัศน์ของ LLMs มีการเปลี่ยนแปลงอย่างมากในช่วงไม่กี่เดือนที่ผ่านมา ด้วยการเปิดตัวโมเดลที่มีโทเค็นมากกว่า 100,000 โทเค็นของหน่วยความจำบริบทและผู้เล่นรายใหญ่เช่น Openai, Google และมานุษยวิทยารวม RAG เข้ากับเว็บไซต์อย่างเป็นทางการของพวกเขาโดยตรงฉันรู้สึกว่า repo นี้มีจุดประสงค์

ฉันยังมุ่งเน้นไปที่โครงการอื่น ๆ และจัดลำดับความสำคัญชีวิตส่วนตัวและความเป็นอยู่ที่ดีของจิตใจ เป็นผลให้ฉันไม่สามารถอุทิศเวลาในการอัปเดต repo นี้ซึ่งเห็นได้ชัดจากการขาดการกระทำในช่วงไม่กี่เดือนที่ผ่านมา

เมื่อมองย้อนกลับไป repo นี้ถูกสร้างขึ้นในขั้นต้นเพื่อจัดการกับข้อ จำกัด ของบริบท 4096 GPT-3 เนื่องจากขนาดบริบทนั้นเล็กเกินไป อย่างไรก็ตามด้วยความก้าวหน้าใน LLMS และการเกิดขึ้นของ GUIS ที่ดีกว่าฉันเชื่อว่าบริบทที่สูงขึ้นตอนนี้ดีกว่าที่จะใช้ Embeddings สำหรับ RAG

หากคุณกำลังมองหา LLM Guis ที่ยอดเยี่ยมนี่คือคำแนะนำชั้นนำของฉัน:

  • sillytavern - เหมาะสำหรับ Bot fooking การสวมบทบาทและแม้กระทั่งมีการสนับสนุนผ้าขี้ริ้ว!
  • Lobechat - เหมาะสำหรับการใช้งาน LLM ที่มีวัตถุประสงค์ทั่วไปแม้ว่ามันจะไม่มีผ้าขี้ริ้วก็ตาม
  • BetterChatgpt - อีกตัวเลือกที่ยอดเยี่ยมสำหรับการใช้งาน LLM ที่มีวัตถุประสงค์ทั่วไปซึ่งออกแบบมาโดยเฉพาะสำหรับ OpenAI แม้ว่าจะไม่ได้รับการดูแลอย่างแข็งขัน UI นั้นคล้ายกับเว็บไซต์ Chatgpt ดั้งเดิมอย่างใกล้ชิด

(กรุณาไม่ได้รับ repo นี้?)

bot bot cli

เรียกใช้ gpt-3.5-turbo หรือรุ่น GPT อื่น ๆ ( text-davinci-003 ) ด้วยโปรแกรมนี้!
ใช้ gpt-4 หรือ gpt-4-32k เพื่อใช้รุ่น GPT-4 ใหม่หากคุณมีการเข้าถึง
คุณสามารถสลับโมเดลในไฟล์ config.json
มันเหมือนกับ https://chat.openai.com/ แต่ใน CMD ของคุณและดีกว่า (ในแง่ของหน่วยความจำ)
คุณสามารถเพิ่มพรอมต์เริ่มต้นที่กำหนดเองและบันทึก/โหลดประวัติการแชทของคุณ!
ดาวน์โหลดและดับเบิลคลิกที่ GPT3Bot.exe หรือ run.bat เพื่อเรียกใช้โปรแกรม!
ใน Linux และ MacOS คุณสามารถเรียกใช้ ./GPT3Bot เพื่อเรียกใช้โปรแกรม

คลิกเพื่อดาวน์โหลด: รีลีสที่เสถียร | การพัฒนาสร้าง
โปรดตรวจสอบ Wiki สำหรับข้อมูลเพิ่มเติม: คลิกฉัน

คุณสมบัติ/คู่มือ:

  1. รองรับหน่วยความจำระยะยาว! กดขีด จำกัด บริบทโทเค็น 4096 ต่อไปหรือไม่? ไม่ต้องกังวลอีกต่อไปกับบอท CLI นี้ มันมีหน่วยความจำบริบทที่ไม่มีที่สิ้นสุดเกือบ (ถ้าคุณมีพื้นที่ดิสก์ที่ไม่มีที่สิ้นสุด LOL) ขอบคุณ Embeddings! หากคุณต้องการดูว่าโปรแกรมนี้จัดการกับการฝังตัวภายในได้อย่างไรให้ตั้งค่า debug_reference เป็น true ใน config.json !
  2. ถาม - ตอบพร้อมเอกสารที่กำหนดเอง! คุณสามารถโหลดเอกสารที่กำหนดเองและดำเนินการถามตอบกับพวกเขาโปรดตรวจสอบ Wiki สำหรับข้อมูลเพิ่มเติม
  3. คุณสามารถใช้ /stop เพื่อจบและบันทึกการแชท
  4. คุณสามารถใช้ /undo เพื่อยกเลิกพรอมต์สุดท้ายของคุณ
  5. คุณสามารถใช้ /reset เพื่อรีเซ็ตการแชททั้งหมดของคุณ
  6. คุณสามารถใช้ /dump เพื่อถ่ายโอนประวัติการแชทของคุณไปยังไฟล์. txt ภายในโฟลเดอร์ dump
  7. คุณสามารถวางไฟล์. txt ในโฟลเดอร์ "เริ่มต้น" เพื่อตั้งค่าพรอมต์เริ่มต้นที่แตกต่างกันและคุณสามารถใช้ชื่อไฟล์เพื่อโหลดเมื่อคุณเปิดโปรแกรม เพียงกด ENTER โดยตรงหลังจากที่คุณเปิดโปรแกรมจากนั้นป้อนชื่อไฟล์พรอมต์เริ่มต้นแล้วกด ENTER เพื่อโหลด
  8. หลังจากที่คุณดำเนินการ /stop โปรแกรมจะขอให้คุณป้อนชื่อไฟล์เพื่อบันทึก คุณสามารถกด Enter โดยตรงเพื่อข้ามสิ่งนี้และไม่บันทึกการแชท หากคุณป้อนข้อความอื่น ๆ จากนั้นกด Enter การแชทจะถูกบันทึกลงใน JSON ในโฟลเดอร์ "บันทึก" เมื่อคุณเปิดโปรแกรมในครั้งต่อไปคุณสามารถป้อน "S" (ซึ่งหมายถึงบันทึก) กด Enter จากนั้นพิมพ์ชื่อไฟล์ JSON ของแชทที่บันทึกไว้เพื่อโหลดแชทที่บันทึกไว้
  9. ไฟล์กำหนดค่าง่ายใน config.json สามารถแก้ไขได้อย่างง่ายดาย
  10. แตกต่างจากบอทอื่น ๆ อันนี้สตรีมจริง ซึ่งหมายความว่าจะแสดงผลลัพธ์ทันทีที่โทเค็นถูกส่งจาก API (เช่นเดียวกับเว็บไซต์ของ Chatgpt) ไม่จำเป็นต้องรอจนกว่าการตอบกลับทั้งหมดจะถูกสร้างขึ้น!
  11. เมื่อการตอบกลับถูกสตรีมคุณสามารถกด Ctrl+C เพื่อยกเลิกสตรีม
  12. ใช้พร็อกซีระบบโดยอัตโนมัติ หมายเหตุ: คุณสมบัตินี้รองรับ Windows เท่านั้นเนื่องจากมีข้อผิดพลาดในไลบรารีพร็อกซีของฉันที่ทำให้มันไม่สามารถรวบรวมบน Linux และ MacOS ได้
  13. การรองรับอินพุตหลายตัวคุณต้องกด Ctrl+N หรือ Alt+Enter เพื่อป้อนบรรทัดใหม่
  14. การสนับสนุนการวาง CTRL+V คุณสามารถวางข้อความจากคลิปบอร์ดของคุณได้โดยกด Ctrl+V
  15. การสนับสนุน UTF-8 เต็มคุณสามารถพิมพ์ภาษาใดก็ได้ที่คุณต้องการ!
  16. เต็มไปด้วยสี (ถ้าเทอร์มินัลของคุณรองรับ)!
  17. Fine Tune Helper คุณสามารถปรับรุ่นฐานได้ง่ายขึ้น (สำหรับผู้ใช้มืออาชีพเท่านั้น)
  18. นักแปลอัตโนมัติคุณสามารถแปลไฟล์ข้อความโดยอัตโนมัติ

เขียนใน C ++ (ห้องสมุดที่ใช้: Boost, Curl, Nlohmann/Json, Libproxy, CPP-terminal, FTXUI, ONETBB, คลิป, CPP-TIKTOKEN, PCRE2, UTF8PROC)

ระบบปฏิบัติการที่รองรับ:

  • Windows 10/11 64 บิต
  • Linux 64- บิต (ทดสอบบน Ubuntu 20.04 & Centos 8) (จะไม่ทำงานกับ Ubuntu 18.04, Centos 7 และต่ำกว่าเพราะพวกเขาไม่สนับสนุน C ++ 17)
  • MacOS 64 บิต (ไม่ได้ทดสอบ แต่ควรใช้งานกับ MacOS 12 และสูงกว่า)
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด