qdrant on fly下載 - qdrant on fly源代碼下載

qdrant on fly

其他源碼

1.0.0

下載

fly.io上高度可用的QDrant群集

Qdrant是一個搜索引擎和數據庫，專門研究向量之間的相似性。它具有一個API，可讓您存儲，搜索和管理向量以及其他信息。 QDRANT旨在支持高級過濾功能，使其可用於神經網絡匹配，刻面搜索和其他應用程序等任務。

Qdrant是使用Rust編程語言構建的，該語言即使處理大量數據也可以確保快速可靠的性能。您可以使用QDRANT將嵌入式或神經網絡編碼器轉換為匹配，搜索，推薦等任務的強大應用程序。值得注意的是，矢量數據庫（尤其是QDRANT）已經看到了與現代LLM結合使用的矢量商店的普及。有關此的一個很好的例子，請參見Chatgpt檢索插件。

該存儲庫包含在fly.io組織的專用網絡上運行高度可用（HA）QDRANT群集所需的所有文件和配置，並使用對等通信和發現。

準備新的fly.io應用程序並部署第一個同行

首先在您的首選區域中創建新的飛行應用程序。在此存儲庫的叉子或克隆中執行以下命令。但首先，請確保在fly.toml文件中設置主要區域（和應用程序名稱）。

使用Fly CLI運行以下內容：

 fly launch --no-public-ips --from https://github.com/kylemclaren/qdrant-on-fly

該命令使用一台運行機器創建一個新的飛行應用程序和一個附加的音量。提示時，選擇yes將現有配置複製到新生成的應用程序。請勿創建PostgreSQL數據庫或Upstash Redis實例。

添加一個新的同伴

通過克隆第一台計算機來擴展群集。當前， fly scale count不支持具有持久存儲量的縮放機。我們將使用“飛行器克隆”來擴展我們的群集。

fly machine clone --region ord --select
fly status

在另一個區域添加同伴

通過將機器克隆到那裡，將設置擴展到另一個區域。現在，您應該在ord中有兩個同行，另一個在jnb中。

fly machine clone --region jnb --select
fly status

連接

從客戶端應用程序連接

同一組織中的飛行應用程序可以使用以下URI連接到您的QDRANT數據庫：

http:// < fly-app-name > .flycast:6333

首先，您需要將一個私人的Flycast IP地址分配給您的應用。您可以通過運行以下命令來執行此操作：

fly ips allocate-v6 --private

公共IP

如果您需要在Fly專用網絡以外公開訪問您的應用程序，則可以簡單地將公共IP分配給Fly應用程序，然後開始使用Fly Proxy按正常進行連接（即https://<fly-app-name>.fly.dev ）

警告如果這樣做，請務必設置QDRANT__SERVICE__API_KEY秘密。

從您本地機器連接到QDRANT

使用fly proxy將服務器端口轉發到您的本地系統：

fly proxy 6333:6333 -a < fly-app-name >

使用您喜歡的API測試工具（例如Postman或curl ）連接到轉發端口上的QDRANT實例。有關如何安全處理存儲矢量數據的量的更多詳細信息，請參閱卷文檔。

curl -H " Content-Type: application/json " http://localhost:6333/cluster | jq

結果

{
  "result" : {
    "status" : " enabled " ,
    "peer_id" : 8961156852769025 ,
    "peers" : {
      "8961156852769025" : {
        "uri" : " http://e286376be66286.vm.qdrant-6pn.internal:6335/ "
      },
      "6238012613461344" : {
        "uri" : " http://568370dc75418e.vm.qdrant-6pn.internal:6335/ "
      },
      "2504460418660966" : {
        "uri" : " http://148e722b75d789.vm.qdrant-6pn.internal:6335/ "
      }
    },
    "raft_info" : {
      "term" : 1314 ,
      "commit" : 3510 ,
      "pending_operations" : 0 ,
      "leader" : 8961156852769025 ,
      "role" : " Leader " ,
      "is_voter" : true
    },
    "consensus_thread_status" : {
      "consensus_thread_status" : " working " ,
      "last_update" : " 2023-06-20T22:23:48.543413978Z "
    },
    "message_send_failures" : {}
  },
  "status" : " ok " ,
  "time" : 4.125e-05
}