vecdb

VECDB

Um banco de dados de incorporação de vetor muito simples, você pode dizer que é uma mesa de hash que permite encontrar itens semelhantes ao item que você está procurando.

Por que!

Sou um entusiasta dos bancos de dados, e este é um projeto de diversão e aprendizado que pode ser usado na produção;).

PS : Gosto de reinventar a roda no meu tempo livre, porque é o meu tempo livre!

Modelo de dados

Estou usando o modelo {key => value} ,

• key deve ser um valor exclusivo que represente o item.
• value deve ser o próprio vetor (lista de carros alegóricos).

Configurações

Por padrão, vecdb procura config.yml no diretório de trabalho atual. Mas você pode substituí -lo usando o sinalizador --config /path/to/config.yml , fornecendo seu próprio caminho de arquivo personalizado.

 # http server related configs
server :
  # the address to listen on in the form of '[host]:port'
  listen : " 0.0.0.0:3000 "

# storage related configs
store :
  # the driver you want to use
  # currently vecdb supports "bolt" which is based on boltdb the in process embedded the database
  driver : " bolt "
  # the arguments required by the driver
  # for bolt, it requires a key called `database` points to the path you want to store the data in.
  args :
    database : " ./vec.db "

# embeddings related configs
embedder :
  # whether to enable the embedder and all endpoints using it or not
  enabled : true
  # the driver you want to use, currently vecdb supports gemini
  driver : gemini
  # the arguments required by the driver
  # currently gemini driver requires `api_key` and `text_embedding_model`
  args :
    # by default vecdb will replace anything between ${..} with the actual value from the ENV var
    api_key : " ${GEMINI_API_KEY} "
    text_embedding_model : " text-embedding-004 "

Componentes

• Camada de vetores brutos (baixo nível)
  • Envie o VectorWriteRequest para POST /v1/vectors/write quando tiver um vetor e deseja armazená -lo em algum lugar.
  • Envie o VettorSearchRequest para POST /v1/vectors/search quando você tem um vetor e deseja listar todas as chaves/ids de vetores semelhantes encomendados pela similaridade de cosseno na ordem descendente.
• Camada de incorporação (opcional)
  • Envie o textembeddingWriteReQuest para POST /v1/embeddings/text/write quando você tiver um texto e deseja que vecdb construa e armazene o vetor para você usar o incorporador configurado (Gêmeos por enquanto).
  • Envie textembeddingSearchRequest para POST /v1/embeddings/text/search quando você tiver um texto e deseja que vecdb crie um vetor e pesquise as chaves de vetores semelhantes para você encomendado pela similaridade de cosseno na ordem descendente.

Solicitações

VectorWriteRequest

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "key" : "product-id-1" , // should be unique and represents a valid value in your main data store (example: the row id in your mysql/postgres ... etc)
  "vector" : [ 1.929292 , 0.3848484 , - 1.9383838383 , ... ] // the vector you want to store 
}

VectorSearchRequest

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "vector" : [ 1.929292 , 0.3848484 , - 1.9383838383 , ... ] , // you will get a list ordered by cosine-similarity in descending order
  "min_cosine_similarity" : 0.0 , // the more you increase, the fewer data you will get
  "max_result_count" : 10 // max vectors to return (vecdb will first order by cosine similarity then apply the limit)
}

TextembeddingWriteRequest

Se você definir embedder.enabled como true .

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "key" : "product-id-1" , // should be unique and represents a valid value in your main data store (example: the row id in your mysql/postgres ... etc)
  "content" : "This is some text representing the product" // this will be converted to a vector using the configured embedder 
}

TextembeddingSearchRequest

Se você definir embedder.enabled como true .

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "content" : "A Product Text" , // you will get a list ordered by cosine-similarity in descending order
  "min_cosine_similarity" : 0.0 , // the more you increase, the fewer data you will get
  "max_result_count" : 10 // max vectors to return (vecdb will first order by cosine similarity then apply the limit)
}

Baixar/instalar

• Binário
• Imagem do Docker