vecdb

VECDB

In einem sehr einfachen Vektor-Einbettungsdatenbank können Sie sagen, dass es sich um einen Hash-Tisch handelt, mit dem Sie Elemente finden können, die dem Artikel ähnlich sind, nach dem Sie suchen.

Warum!

Ich bin ein Enthusiast von Datenbanken, und dies ist ein Spaß- und Lernprojekt, das in der Produktion verwendet werden könnte.

PS : Ich mag es, das Rad in meiner Freizeit erneut zu erfinden, weil es meine Freizeit ist!

Datenmodell

Ich verwende das Modell {key => value} ,

• key sollte ein eindeutiger Wert sein, der das Element darstellt.
• value sollte der Vektor selbst sein (Liste der Schwimmer).

Konfigurationen

Standardmäßig sucht vecdb nach config.yml im aktuellen Arbeitsverzeichnis. Sie können es jedoch mit dem Flag --config /path/to/config.yml überschreiben, indem Sie Ihren eigenen benutzerdefinierten Dateipfad bereitstellen.

 # http server related configs
server :
  # the address to listen on in the form of '[host]:port'
  listen : " 0.0.0.0:3000 "

# storage related configs
store :
  # the driver you want to use
  # currently vecdb supports "bolt" which is based on boltdb the in process embedded the database
  driver : " bolt "
  # the arguments required by the driver
  # for bolt, it requires a key called `database` points to the path you want to store the data in.
  args :
    database : " ./vec.db "

# embeddings related configs
embedder :
  # whether to enable the embedder and all endpoints using it or not
  enabled : true
  # the driver you want to use, currently vecdb supports gemini
  driver : gemini
  # the arguments required by the driver
  # currently gemini driver requires `api_key` and `text_embedding_model`
  args :
    # by default vecdb will replace anything between ${..} with the actual value from the ENV var
    api_key : " ${GEMINI_API_KEY} "
    text_embedding_model : " text-embedding-004 "

Komponenten

• Rohvektoren Schicht (niedrigem Niveau)
  • Senden Sie VectorWriterequest an POST /v1/vectors/write wenn Sie einen Vektor haben, und möchten ihn irgendwo speichern.
  • Senden Sie VectorSearchRequest an POST /v1/vectors/search wenn Sie einen Vektor haben, und möchten alle Schlüssel/IDs der ähnlichen Vektoren auflisten, die durch Cosinus -Ähnlichkeit in absteigender Reihenfolge bestellt werden.
• Schicht einbetten (optional)
  • Senden Sie textembeddingWriterequest an POST /v1/embeddings/text/write wenn Sie einen Text haben und den vecdb den Vektor für Sie mit dem konfigurierten Embedder (vorerst) erstellen und speichern.
  • Senden Sie textembeddingSearchRequest an POST /v1/embeddings/text/search wenn Sie einen Text haben und vecdb einen Vektor erstellen und nach ähnlichen Vektorenschlüssel für Sie nach Cosinus -Ähnlichkeit in absteigender Reihenfolge suchen.

Anfragen

VectorWriterequest

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "key" : "product-id-1" , // should be unique and represents a valid value in your main data store (example: the row id in your mysql/postgres ... etc)
  "vector" : [ 1.929292 , 0.3848484 , - 1.9383838383 , ... ] // the vector you want to store 
}

VectorsearchRequest

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "vector" : [ 1.929292 , 0.3848484 , - 1.9383838383 , ... ] , // you will get a list ordered by cosine-similarity in descending order
  "min_cosine_similarity" : 0.0 , // the more you increase, the fewer data you will get
  "max_result_count" : 10 // max vectors to return (vecdb will first order by cosine similarity then apply the limit)
}

Textembedingwriterequest

Wenn Sie embedder.enabled auf true festlegen.

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "key" : "product-id-1" , // should be unique and represents a valid value in your main data store (example: the row id in your mysql/postgres ... etc)
  "content" : "This is some text representing the product" // this will be converted to a vector using the configured embedder 
}

TextembedDingSearchRequest

Wenn Sie embedder.enabled auf true festlegen.

 {
  "bucket" : "BUCKET_NAME" , // consider it a collection or a table
  "content" : "A Product Text" , // you will get a list ordered by cosine-similarity in descending order
  "min_cosine_similarity" : 0.0 , // the more you increase, the fewer data you will get
  "max_result_count" : 10 // max vectors to return (vecdb will first order by cosine similarity then apply the limit)
}

Herunterladen/installieren

• Binär
• Docker -Bild