EdgeChains
0.30.1
انضم إلى Discord - نحن واحدة من أكثر مجموعات Dev ودية وأجمل في الذكاء الاصطناعي!
على عكس الكثير من الأطر - قمنا ببناءها على رأس Honojs و Jsonnet ، وكلاهما تم تصميمه بواسطة CloudFlare و Google على التوالي. لذلك حتى لو كنت لا تثق بي ... يمكنك الوثوق بهم ؛)
نحن لا نبني نكهة JSON الخاصة بنا أو DSL محددة (وهي هشة بطبيعتها) ونمنح U خطوات تجميع. مكتباتنا الأساسية هي الصخور صلبة ومستقرة.
في Edgechains ، نتبع مقاربة فريدة من نوعها في الذكاء الاصطناعي - نعتقد أن الذكاء الاصطناعى التوليدي يمثل تحديًا لإدارة النشر والتكوين بدلاً من تحدي نمط تصميم واجهة المستخدم والمكتبة. نحن نبني على رأس التقنية التي حلت هذه المشكلة في مجال مختلف - إدارة التكوين Kubernetes - ونحضر ذلك إلى الذكاء الاصطناعي. تم تصميم Edgechains على رأس Jsonnet ، الذي تم تصميمه في الأصل بواسطة Google استنادًا إلى تجربتهم في إدارة كمية هائلة من رمز التكوين في البنية التحتية Borg.
يعطيك Edgechains:
يعتقد معظم الأشخاص الجدد في الذكاء الاصطناعى التوليدي أن طريقة استخدام Openai أو LLMs الأخرى هي ببساطة طرح سؤال عليها وجعلها الرد سحريًا. الجواب مختلف للغاية ومعقد.
تحتاجك AI و Openai و LLMS لكتابة موجهتك بطرق محددة للغاية. كل من هذه الطرق لكتابة المطالبات متورطة للغاية ومعقدة للغاية - من المعقد للغاية في الواقع أن هناك أوراق بحثية منشورة لهذا الغرض. على سبيل المثال:
علاوة على ذلك ، تعمل هذه التقنيات السريعة على نوع واحد من LLMs ، ولكن لا تعمل على LLMs الأخرى. على سبيل المثال ، يجب إعادة كتابة المطالبات والسلاسل المكتوبة بطريقة محددة لـ GPT-3.5. هذا يتسبب في انفجار العدد ، مما يجعلها تحديًا للإصدار وإدارتها.
يطالب التغيير مع مرور الوقت. وهذا ما يسمى الانجراف السريع. هناك ما يكفي من الأبحاث المنشورة لإظهار كيف يتغير سلوك Chatgpt. يجب أن تكون البنية التحتية الخاصة بك قادرة بما يكفي لإصدار/تغيير مع هذا الانجراف. إذا كنت تستخدم المكتبات ، حيث يتم إخفاء المطالبات تحت العديد من الطبقات ، فستجد أنه من المستحيل القيام بذلك. سوف تعفن رمز الإنتاج الخاص بك بمرور الوقت ، حتى لو لم تفعل شيئًا.
-كيف يتغير سلوك شاتغبت بمرور الوقت؟
أحد التحديات الكبيرة في الإنتاج هو كيفية الاستمرار في اختبار المطالبات والسلاسل والتكرار عليها بسرعة. إذا كانت مطالباتك تجلس تحت العديد من طبقات المكتبات والتجريدات ، فهذا أمر مستحيل. ولكن إذا كانت مطالباتك تعيش خارج الكود وتتصري ، فمن السهل القيام بذلك. في الواقع ، في Edgechains ، يمكنك الحصول على منطقك المطري والسلسلة بالكامل في S3 أو API.
كل مطالبة أو سلسلة لها تكلفة رمزية مرتبطة به. قد تعتقد أن مطالبة معينة جيدة جدًا ... لكنها قد تستهلك كمية كبيرة من الرموز. على سبيل المثال ، تستهلك مطالبات النمط الفكر على الأقل 3x على الأقل حيث أن العديد من الرموز المميزة للإخراج كطالب عادية. يجب أن يكون لديك تتبع وقياس دقيق في إطار عملك لتتمكن من إدارة هذا. edgechains لديه هذا بني في.
git clone https://github.com/arakoodev/EdgeChains/
cd EdgeChains
يوفر هذا القسم تعليمات للمطورين حول كيفية الاستفادة من الدردشة مع ميزة PDF. باتباع هذه الخطوات ، يمكنك دمج الوظائف بسلاسة في مشاريعك.
cd JS/edgechains/examples/chat-with-pdf/
npm install
secrets.jsonnet local SUPABASE_API_KEY = "your supabase api key here";
local OPENAI_API_KEY = "your openai api key here";
local SUPABASE_URL = "your supabase url here";
{
"supabase_api_key":SUPABASE_API_KEY,
"supabase_url":SUPABASE_URL,
"openai_api_key":OPENAI_API_KEY,
}
create table if not exists documents (
id bigint primary key generated always as identity,
content text,
embedding vector (1536)
);
create or replace function public.match_documents (
query_embedding vector(1536),
similarity_threshold float,
match_count int
)
returns table (
id bigint,
content text,
similarity float
)
language sql
as $$
select
id,
content,
1- (documents.embedding <=> query_embedding) as similarity
from documents
where 1 - (documents.embedding <=> query_embedding) > similarity_threshold
order by documents.embedding <=> query_embedding
limit match_count;
$$;
بدء الخادم:
npm run start اضغط على نقطة GET .
http://localhost:3000/chatWithpdf ? question=who is nirmala sitarama
إذا كنت ترغب في المساهمة في Edgechains ، فتأكد من قراءة مساهمة CLA. يلتزم هذا المشروع بقواعد السلوك Edgechains. من خلال المشاركة ، من المتوقع أن تدعم هذا الرمز.
نستخدم مشكلات GitHub لتتبع الطلبات والأخطاء.
نود أن نعرب عن خالص امتناننا للأفراد والمشاريع التالية لمساهماتهم وإلهامهم:
Edgechains مرخصة بموجب ترخيص GNU Affero العام الإصدار 3.0 وكبرامج تجارية. للترخيص التجاري ، يرجى الاتصال بنا أو إثارة مشكلة في هذا github.
