หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

ช่างพูด

Chatty เป็น AI ส่วนตัวของคุณที่ใช้ประโยชน์จาก WebGPU ในการเรียกใช้รูปแบบภาษาขนาดใหญ่ (LLMS) โดยธรรมชาติและเป็นส่วนตัวในเบราว์เซอร์ของคุณนำคุณลักษณะที่หลากหลายที่สุดในเบราว์เซอร์ AI

คุณสมบัติ

  • ความเป็นส่วนตัวในเบราว์เซอร์: ทุกรุ่น AI ทำงานในเครื่อง (ฝั่งไคลเอ็นต์) บนฮาร์ดแวร์ของคุณเพื่อให้มั่นใจว่าข้อมูลของคุณจะถูกประมวลผลบนพีซีของคุณเท่านั้น ไม่มีการประมวลผลฝั่งเซิร์ฟเวอร์!
  • ออฟไลน์: เมื่อการดาวน์โหลดครั้งแรกของโมเดลถูกประมวลผลคุณจะสามารถใช้งานได้โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ตที่ใช้งานอยู่
  • ประวัติการแชท: เข้าถึงและจัดการประวัติการสนทนาของคุณ
  • รองรับรุ่นโอเพนซอร์ซใหม่: แชทกับโมเดลโอเพนซอร์ซยอดนิยมเช่น Gemma, Llama2 & 3 และ Mistral!
  • การออกแบบที่ตอบสนอง: หากโทรศัพท์ของคุณรองรับ WebGL คุณจะสามารถใช้ Chatty ได้เช่นเดียวกับที่คุณทำบนเดสก์ท็อป
  • UI ที่ใช้งานง่าย: ได้รับแรงบันดาลใจจากอินเทอร์เฟซ AI ยอดนิยมเช่น Gemini และ Chatgpt เพื่อเพิ่มความคล้ายคลึงกันในประสบการณ์ผู้ใช้
  • Markdown & Code Highlight: ข้อความที่ส่งคืนเนื่องจาก Markdown จะแสดงเป็นเช่นนั้นและข้อความที่มีรหัสจะถูกเน้นเพื่อการเข้าถึงได้ง่าย
  • แชทกับไฟล์: โหลดไฟล์ (PDF & ไฟล์ที่ไม่ใช่ไบนารีทั้งหมด - แม้แต่ไฟล์รหัส) และถามคำถามรุ่นเกี่ยวกับพวกเขา - ท้องถิ่นอย่างสมบูรณ์! เอกสารของคุณไม่เคยได้รับการประมวลผลนอกสภาพแวดล้อมในพื้นที่ของคุณด้วย Xenovatransformerembeddings & MemoryVectorstore
  • การสนับสนุนหน่วยความจำที่กำหนดเอง: เพิ่มคำแนะนำ/หน่วยความจำที่กำหนดเองเพื่อให้ AI ให้คำตอบที่ดีขึ้นและเป็นส่วนตัวมากขึ้น
  • ข้อความแชทส่งออก: สร้างและบันทึกข้อความแชทของคุณอย่างราบรื่นในรูปแบบ JSON หรือ MARKDOWN
  • การสนับสนุนการป้อนข้อมูลด้วยเสียง: ใช้การโต้ตอบด้วยเสียงเพื่อโต้ตอบกับโมเดล
  • สร้างคำตอบใหม่: ไม่ใช่คำตอบที่คุณหวังไว้ใช่ไหม? งอกใหม่อย่างรวดเร็วโดยไม่ต้องเขียนพรอมต์ของคุณอีกครั้ง
  • โหมดแสงและมืด: สลับระหว่างโหมดแสงและมืด

ดูตัวอย่าง

chatty-vid-preview.mp4

ทำไม

โครงการนี้หมายถึงความพยายามที่ใกล้เคียงที่สุดในการนำความเป็นอยู่ที่ความเป็นอยู่และการใช้งานจากอินเทอร์เฟซ AI ยอดนิยมเช่น CHATGPT และ Gemini มาสู่ประสบการณ์ในเบราว์เซอร์

การสนับสนุนเบราว์เซอร์

โดยค่าเริ่มต้น WebGPU จะเปิดใช้งานและรองรับทั้งใน Chrome และ Edge อย่างไรก็ตามมันเป็นไปได้ที่จะเปิดใช้งานใน Firefox และ Firefox ทุกคืน ตรวจสอบความเข้ากันได้ของเบราว์เซอร์สำหรับข้อมูลเพิ่มเติม

วิธีการติดตั้ง

หากคุณเพียงแค่ต้องการลองใช้แอพมันมีชีวิตอยู่ในเว็บไซต์นี้

นี่คือแอปพลิเคชันถัดไป JS และต้องการ Node.js (18+) และ NPM ที่ติดตั้งเพื่อเรียกใช้โครงการในเครื่อง

ติดตั้งจากแหล่งที่มา

หากคุณต้องการตั้งค่าและเรียกใช้โครงการในเครื่องให้ทำตามขั้นตอนด้านล่าง:

1. โคลนที่เก็บไปยังไดเรกทอรีบนพีซีของคุณผ่านพรอมต์คำสั่ง: 

 git clone https://github.com/addyosmani/chatty

2. เปิดโฟลเดอร์: 

 cd chatty

3. ติดตั้งการพึ่งพา: 

 npm install

4. เริ่มเซิร์ฟเวอร์การพัฒนา: 

 npm run dev

5. ไปที่ LocalHost: 3000 และเริ่มแชท!

นักเทียบท่า

บันทึก

DockerFile ยังไม่ได้รับการปรับให้เหมาะสมสำหรับสภาพแวดล้อมการผลิต หากคุณต้องการทำด้วยตัวเองให้ชำระเงินตัวอย่าง nextjs 

 docker build -t chattyui .
docker run -d -p 3000:3000 chattyui

หรือใช้ docker-compose : 

 docker compose up

หากคุณมีการเปลี่ยนแปลงและต้องการสร้างใหม่คุณสามารถเรียกใช้ docker-compose up --build

แผนงาน

  • การฝังไฟล์หลายไฟล์: ความสามารถในการฝังไฟล์หลายไฟล์แทนที่จะเป็นหนึ่งครั้งในแต่ละเซสชัน
  • ระบบการจัดการพรอมต์: เลือกและเพิ่มระบบที่แตกต่างกันเพื่อใช้ในเซสชันอย่างรวดเร็ว

การบริจาค

การมีส่วนร่วมเป็นมากกว่าการต้อนรับ! อย่างไรก็ตามโปรดตรวจสอบให้แน่ใจว่าได้อ่านแนวทางการสนับสนุนก่อน :)

ข้อกำหนดของฮาร์ดแวร์

บันทึก

ในการเรียกใช้โมเดลอย่างมีประสิทธิภาพคุณจะต้องมี GPU ที่มีหน่วยความจำเพียงพอ รุ่น 7B ต้องการ GPU ที่มีหน่วยความจำประมาณ 6GB ในขณะที่รุ่น 3B ต้องการประมาณ 3GB

รุ่นที่เล็กกว่าอาจไม่สามารถประมวลผลไฟล์ฝังได้อย่างมีประสิทธิภาพเท่ากับรุ่นที่ใหญ่กว่า

กิตติกรรมประกาศและเครดิต

Chatty ถูกสร้างขึ้นโดยใช้โครงการ WebLLM โดยใช้ HuggingFace, Open Source LLMS และ Langchain เราต้องการรับทราบผลงานที่ยอดเยี่ยมของพวกเขาและขอบคุณชุมชนโอเพ่นซอร์ส

ผู้เขียน

Chatty ถูกสร้างและดูแลโดย Addy Osmani & Jakob Hoeg Mørk

ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด