usearch binary

Примеры поиска бинарного вектора для Usearch

Этот репозиторий содержит примеры для построения бинарных векторных индикаций для поиска векторов для встроенных в википедии, доступных на портале Huggingface:

• CO: Здесь
• MixedBread.ai

Заводящие примеры

Чтобы просмотреть результаты, ознакомьтесь с bench.ipynb . Чтобы повторить результаты, сначала загрузите данные:

$ pip install -r requirements.txt
$ python download.py
$ ls -alh mixedbread | head -n 1
> total 15G
$ ls -alh cohere | head -n 1
> total 15G

В обоих случаях встроения имеют 1024 измерения, каждый из которых представлен с одним битом, упакованным в 128-байтовые векторы. 32 ГБ ОЗУ рекомендуется для запуска сценариев.

Оптимизация

Знание длины встроений очень удобно для оптимизации. Если встраивание длится всего 1024 бита, нам нужно только 2 регистра ZMM для хранения всего вектора. Нам не нужно ни одного for -loops, тогда вся операция может быть развернута и вставлена.

 inline uint64_t hamming_distance ( uint8_t const * first_vector , uint8_t const * second_vector ) {
    __m512i const first_start = _mm512_loadu_si512 (( __m512i const * )( first_vector ));
    __m512i const first_end = _mm512_loadu_si512 (( __m512i const * )( first_vector + 64 ));
    __m512i const second_start = _mm512_loadu_si512 (( __m512i const * )( second_vector ));
    __m512i const second_end = _mm512_loadu_si512 (( __m512i const * )( second_vector + 64 ));
    __m512i const differences_start = _mm512_xor_epi64 ( first_start , second_start );
    __m512i const differences_end = _mm512_xor_epi64 ( first_end , second_end );
    __m512i const population_start = _mm512_popcnt_epi64 ( differences_start );
    __m512i const population_end = _mm512_popcnt_epi64 ( differences_end );
    __m512i const population = _mm512_add_epi64 ( population_start , population_end );
    return _mm512_reduce_add_epi64 ( population );
}

Чтобы запустить контрольные показатели ядра, используйте следующую команду:

$ python kernel.py

Чтобы запустить тесты по реальным данным:

$ python kernels.py --dir cohere --limit 1e6