ahnlich Download - ahnlich Source code download

ahnlich

Anderer Quellcode

Heimdall, open the bifrost

Herunterladen

Ahnlich

Euen HINWEIS: Ahnlich ist noch nicht produktionsbereit und testet immer noch und kann daher Veränderungen auftreten.

"Ähnlich" bedeutet ähnlich auf Deutsch. Es umfasst mehrere Tools für die Verwendung und Entwicklung, wie z. B.:

ahnlich-db : In-Memory-Vektor-Schlüsselwertspeicher zum Speichern von Emettendings/Vektoren mit entsprechenden Metadaten (Schlüsselwertkarten). Es ist ein leistungsstarkes System, mit dem KI/ML-Ingenieure ähnliche Vektoren mit linearen (Cosinus, euklidischen) oder nichtlinearen Ähnlichkeitsalgorithmen (Cosinus, Euklidan) speichern und durchsuchen können. Es nutzt auch die Suche in Metadatenwerten, um Einträge mithilfe von Metadatenwerten herauszufiltern. Ein einfaches Beispiel kann so aussehen wie

 GETSIMN 2 WITH [0.2, 0.1] USING cosinesimilarity IN my_store WHERE (page != hidden)

// example query
get_sim_n(
    store="my_store",
    search_input=[0.2, 0.1],
    closest_n=2,
    algorithm=CosineSimilarity,
    condition=Predicate::NotEquals{
      key="page",
      value="hidden",
  },
)

ahnlich-ai : AI-Proxy zur Kommunikation mit ahnlich-db , Empfang von Roheingaben, Umwandlung in Einbettungen und Speichern innerhalb der DB. Es erweitert die Funktionen, indem es Entwicklern/Ingenieuren ermöglicht, Abfragen mit RAW -Eingaben wie Bildern/Text im selben Speicher auszugeben. Es verfügt über mehrere Off-the-Shelf-Modelle, die für den Store-Index und die Abfrage ausgewählt werden können.

 CREATESTORE my_store QUERYMODEL all-minilm-l6-v2 INDEXMODEL all-minilm-l6-v2

// example query
create_store(
    store="my_store",
    index_model="all-minilm-l6-v2",
    query_model="all-minilm-l6-v2",
)

ahnlich-client-rs : Rust-Kunde für ahnlich-db und ahnlich-ai mit Unterstützung für Verbindungsbeamten.
ahnlich-client-py : Python-Kunde für ahnlich-db und ahnlich-ai mit Unterstützung für das Verbindungspooling.
ahnlich-cli : CLI für die Abfrage ahnlich-db und ahnlich-ai

Architektur

Architekturdiagramm

Verwendung

ahnlich-db , ahnlich-ai und ahnlich-cli werden zusammen mit Docker Images als Binärdateien für mehrere Plattformen veröffentlicht und veröffentlicht

Die DB kann ohne den KI -Proxy verwendet werden, um die generierte Vektor -Einbettungen zu kontrollieren, da alle Clients beide unterstützen

Dockerbilder.

Note :

Argumente und Befehle müssen in Zitate übergeben werden. EG: docker run <image_name> "ahnlich-db run --enable-tracing --port 8000"
Die CLI wird in die Docker -Bilder verpackt.

Installation

Binärdateien herunterladen

Sie können die Ahnlich -Binärdateien für ai und db von Github -Releases herunterladen.

wget :

wget https://github.com/deven96/ahnlich/releases/download/bin%2Fdb%2F0.0.0/aarch64-darwin-ahnlich-db.tar.gz

Extrahieren Sie die Datei:

tar -xvzf aarch64-darwin-ahnlich-db.tar.gz

Laufen Sie die Binärdatei:
```
./ahnlich-db  
```

Ersetzen Sie aarch64-darwin-ahnlich-db.tar.gz durch den entsprechenden Dateinamen für Ihre Architektur. Laden Sie für ai die entsprechende ai -Binärin herunter, extrahieren Sie sie und führen Sie sie mit ./ahnlich-ai .

Verwenden von Docker

Sie können die vorgefertigten Docker -Bilder für Ahnlich ziehen:

Ahnlich AI :

docker pull ghcr.io/deven96/ahnlich-ai:latest

Ahnlich DB :

docker pull ghcr.io/deven96/ahnlich-db:latest

Beispiel Docker Compose

Im Folgenden finden Sie ein Beispiel docker-compose.yaml -Konfiguration, um sowohl ahnlich-db als auch ahnlich-ai mit Verfolgung auszuführen:

 services :
  ahnlich_db :
    image : ghcr.io/deven96/ahnlich-db:latest
    command : >
      "ahnlich-db run --host 0.0.0.0 
      --enable-tracing 
      --otel-endpoint http://jaeger:4317"
    ports :
      - " 1369:1369 "

  ahnlich_ai :
    image : ghcr.io/deven96/ahnlich-ai:latest
    command : >
      "ahnlich-ai run --db-host ahnlich_db --host 0.0.0.0 
      --supported-models all-minilm-l6-v2,resnet-50 
      --enable-tracing 
      --otel-endpoint http://jaeger:4317"
    ports :
      - " 1370:1370 "

  # optional jaeger service whenever --enable-tracing and
  # --otel-endpoint is used
  jaeger :
    image : jaegertracing/all-in-one:${JAEGER_VERSION:-latest}
    ports :
      - " 16686:16686 "
      - " 1888:1888 " # pprof extension
      - " 8888:8888 " # Prometheus metrics exposed by the collector
      - " 8889:8889 " # Prometheus exporter metrics
      - " 4317:4317 " # otlp grpc
      - " 4318:4318 " # otlp http

Im Folgenden finden Sie ein Beispiel docker-compose.yaml -Konfiguration mit Persistenz:

 services :
  ahnlich_db :
    image : ghcr.io/deven96/ahnlich-db:latest
    command : >
      "ahnlich-db run --host 0.0.0.0 
      --enable-persistence --persist-location /root/.ahnlich/data/db.dat 
      --persistence-interval 300"
    ports :
      - " 1369:1369 "
    volumes :
      - " ./data/:/root/.ahnlich/data " # Persistence Location

  ahnlich_ai :
    image : ghcr.io/deven96/ahnlich-ai:latest
    command : >
      "ahnlich-ai run --db-host ahnlich_db --host 0.0.0.0 
      --supported-models all-minilm-l6-v2,resnet-50 
      --enable-persistence --persist-location /root/.ahnlich/data/ai.dat 
      --persistence-interval 300"
    ports :
      - " 1370:1370 "
    volumes :
      - " ./ahnlich_ai_model_cache:/root/.ahnlich/models " # Model cache storage
      - " ./data/:/root/.ahnlich/data " # Persistence Location