mememo

Мемо

Библиотека JavaScript, которая приносит векторный поиск и тряпку в ваш браузер!

? ML Paper Reviewer	? Быстрое усилитель	? Ответственный помощник искусственного интеллекта

Что такое Mememo?

Mememo-это библиотека JavaScript, которая адаптирует современный приблизительный метод ближайшего соседа HNSW к средам браузера. Разработанный с современными и нативными веб-технологиями, такими как IndexedDB и веб-работники, наш инструментарий использует возможности аппаратного обеспечения на стороне клиента, чтобы позволить исследователям и разработчикам эффективно искать миллионы высокоразмерных векторов в браузерах. Mememo предоставляет новые захватывающие возможности для дизайна и исследования, такие как частное и персонализированное создание контента и интерактивное прототипирование, как показано в нашем примере Rag Playground.

Функции

Mememo-Demo.mp4

Начиная

Установка

Mememo поддерживает среды как браузера, так и Node.js. Чтобы установить Mememo, вы можете использовать npm :

npm install mememo

Векторный поиск и хранение в браузерах

Затем вы можете создать векторный индекс и выполнить приблизительный поиск ближайшего соседа через две функции:

 // Import the HNSW class from the MeMemo module
import { HNSW } from 'mememo' ;

// Creating a new index
const index = new HNSW ( { distanceFunction : 'cosine' } ) ;

// Inserting elements into our index in batches
let keys : string [ ] ;
let values : number [ ] [ ] ;
await index . bulkInsert ( keys , values ) ;

// Find k-nearest neighbors
let query : number [ ] ;
const { keys , distances } = await index . query ( query , k ) ; 

Разработка Мемемо

Клонировать или загрузить этот репозиторий:

git clone [email protected]:poloclub/mememo.git

Установите зависимости:

npm install

Используйте Vitest для модульного тестирования:

 npm run test

Разработка примеров Rag Playground

Клонировать или загрузить этот репозиторий:

git clone [email protected]:poloclub/mememo.git

Перейдите к папке примера:

 cd ./examples/rag-playground

Установите зависимости:

npm install

Затем запустите пояснитель ссуды:

 npm run dev

Перейдите в Localhost: 3000. Вы должны увидеть три объяснения, бегущих в вашем браузере :)

Кредиты

Mememo создан Джеем Вангом и Поло Чау.

Цитирование

Чтобы узнать больше о Mememo, ознакомьтесь с нашим исследовательским документом, опубликованным на Sigir'24.

 @inproceedings { wangMeMemoOndeviceRetrieval2024 ,
  title = { {{MeMemo}}: {{On-device Retrieval Augmentation}} for {{Private}} and {{Personalized Text Generation}} } ,
  booktitle = { Proceedings of the 47th {{International ACM SIGIR Conference}} on {{Research}} and {{Development}} in {{Information Retrieval}} } ,
  author = { Wang, Zijie J. and Chau, Duen Horng } ,
  year = { 2024 } ,
  urldate = { 2024-06-26 } ,
  langid = { english }
}

Лицензия

Программное обеспечение доступно по лицензии MIT.

Контакт

Если у вас есть какие -либо вопросы, не стесняйтесь открывать проблему или свяжитесь с Джеем Вангом.