story chat v1

موقع تويتر

---

خيال قصة قصة

AI RAG chatbot لقصص الخيال.

إنه مدعوم بمؤشر Llama ، معا من الذكاء الاصطناعي ، معا التضمينات و next.js. يدمج القصص في story/data وتخزن التضمين في story/cache كقاعدة بيانات المتجهات محليًا. ثم تلعب دورها كشخصية القصة والإجابة على أسئلة المستخدمين.

ما هو Llamaindex؟

وراء الكواليس ، يثري Llamaindex النموذج الخاص بك بمصادر بيانات مخصصة من خلال الجيل المعزز للاسترجاع (RAG).

مبسطة بشكل مفرط ، تتكون هذه العملية عمومًا من مرحلتين:

• مرحلة الفهرسة. يعد Llamaindex قاعدة المعرفة عن طريق تناول البيانات وتحويلها إلى مستندات. إنه يحلل البيانات الوصفية من تلك المستندات (النص ، والعلاقات ، وما إلى ذلك) إلى العقد وإنشاء مؤشرات قابلة للاستعلام من هذه القطع إلى قاعدة المعرفة.

• مرحلة الاستعلام. يتم استرداد السياق ذي الصلة من قاعدة المعرفة لمساعدة النموذج في الاستجابة للاستعلامات. تضمن مرحلة الاستعلام أن النموذج يمكنه الوصول إلى البيانات غير المدرجة في بيانات التدريب الأصلية.

المصدر: STEMPLIT

ابدء

انسخ ملف .example.env في .env واستبدل معًا TOGETHER_API_KEY بملفك الخاص. حدد قيمة Dummy OpenAI_API_KEY في هذا .env للتأكد من أنه يعمل (اختراق مؤقت)

كيف

1. تثبيت التبعيات.

npm install

2. قم بتشغيل التطبيق وأرسل عناوين URL الخاصة بك إلى http://localhost:3200/api/generate .

npm run dev

3. أرسل رسائل إلى chatbot الخاص بك على صفحة الويب أو من خلال API.

• صفحة الويب: http://localhost:3200/
• API: http://localhost:3200/api/chat

وهو يدعم استجابة التدفق أو استجابة JSON.