vecdb

VECDB

Очень простая база данных векторного встраивания, вы можете сказать, что это хешаный стол, который позволяет вам найти элементы, похожие на элемент, который вы ищете.

Почему!

Я энтузиаст баз данных, и это для веселья и учебного проекта, который можно использовать в производстве;).

PS : Мне нравится повторно изобретать колесо в свободное время, потому что это мое свободное время!

Модель данных

Я использую модель {key => value} ,

• key должен быть уникальным значением, которое представляет элемент.
• value должно быть самим вектором (список поплавок).

Конфигурации

По умолчанию vecdb Поиск для config.yml в текущем рабочем каталоге. Но вы можете переопределить его, используя флаг --config /path/to/config.yml , предоставляя свой собственный путь файла.

 # http server related configs
server :
  # the address to listen on in the form of '[host]:port'
  listen : " 0.0.0.0:3000 "

# storage related configs
store :
  # the driver you want to use
  # currently vecdb supports "bolt" which is based on boltdb the in process embedded the database
  driver : " bolt "
  # the arguments required by the driver
  # for bolt, it requires a key called `database` points to the path you want to store the data in.
  args :
    database : " ./vec.db "

# embeddings related configs
embedder :
  # whether to enable the embedder and all endpoints using it or not
  enabled : true
  # the driver you want to use, currently vecdb supports gemini
  driver : gemini
  # the arguments required by the driver
  # currently gemini driver requires `api_key` and `text_embedding_model`
  args :
    # by default vecdb will replace anything between ${..} with the actual value from the ENV var
    api_key : " ${GEMINI_API_KEY} "
    text_embedding_model : " text-embedding-004 "

Компоненты

• Сырой векторный слой (низкий уровень)
  • Отправьте VectorWriteRequest для POST /v1/vectors/write когда у вас есть вектор и вы хотите хранить его где -нибудь.
  • Отправьте VectorSearchRequest для POST /v1/vectors/search когда у вас есть вектор и вы хотите перечислить все клавиши/идентификаторы векторов, заказанные косинусом в порядке убывания.
• Встроенный слой (необязательно)
  • Отправьте TextembeddingWriteRequest для POST /v1/embeddings/text/write когда у вас есть текст, и вы хотите, чтобы vecdb построил и сохранили вектор для вас, используя настроенный Embedder (Близнецы на данный момент).
  • Отправьте TextembeddingsearchRequest, чтобы POST /v1/embeddings/text/search когда у вас есть текст и вы хотите, чтобы vecdb построил вектор и поиск ключей векторов для вас заказано по сходству косинуса в порядке убывания.

Запросы

VectorWriteRequest

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "key" : "product-id-1" , // should be unique and represents a valid value in your main data store (example: the row id in your mysql/postgres ... etc)
  "vector" : [ 1.929292 , 0.3848484 , - 1.9383838383 , ... ] // the vector you want to store 
}

VectorSearchRequest

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "vector" : [ 1.929292 , 0.3848484 , - 1.9383838383 , ... ] , // you will get a list ordered by cosine-similarity in descending order
  "min_cosine_similarity" : 0.0 , // the more you increase, the fewer data you will get
  "max_result_count" : 10 // max vectors to return (vecdb will first order by cosine similarity then apply the limit)
}

TextembeddingWriteRequest

Если вы установили embedder.enabled true .

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "key" : "product-id-1" , // should be unique and represents a valid value in your main data store (example: the row id in your mysql/postgres ... etc)
  "content" : "This is some text representing the product" // this will be converted to a vector using the configured embedder 
}

TextembeddingsearchRequest

Если вы установили embedder.enabled true .

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "content" : "A Product Text" , // you will get a list ordered by cosine-similarity in descending order
  "min_cosine_similarity" : 0.0 , // the more you increase, the fewer data you will get
  "max_result_count" : 10 // max vectors to return (vecdb will first order by cosine similarity then apply the limit)
}

Скачать/установить

• Бинарный
• Docker Image