qdrant on fly

fly.io上高度可用的QDrant群集

Qdrant是一个搜索引擎和数据库，专门研究向量之间的相似性。它具有一个API，可让您存储，搜索和管理向量以及其他信息。 QDRANT旨在支持高级过滤功能，使其可用于神经网络匹配，刻面搜索和其他应用程序等任务。

Qdrant是使用Rust编程语言构建的，该语言即使处理大量数据也可以确保快速可靠的性能。您可以使用QDRANT将嵌入式或神经网络编码器转换为匹配，搜索，推荐等任务的强大应用程序。值得注意的是，矢量数据库（尤其是QDRANT）已经看到了与现代LLM结合使用的矢量商店的普及。有关此的一个很好的例子，请参见Chatgpt检索插件。

该存储库包含在fly.io组织的专用网络上运行高度可用（HA）QDRANT群集所需的所有文件和配置，并使用对等通信和发现。

---

准备新的fly.io应用程序并部署第一个同行

首先在您的首选区域中创建新的飞行应用程序。在此存储库的叉子或克隆中执行以下命令。但首先，请确保在fly.toml文件中设置主要区域（和应用程序名称）。

使用Fly CLI运行以下内容：

 fly launch --no-public-ips --from https://github.com/kylemclaren/qdrant-on-fly

该命令使用一台运行机器创建一个新的飞行应用程序和一个附加的音量。提示时，选择yes将现有配置复制到新生成的应用程序。请勿创建PostgreSQL数据库或Upstash Redis实例。

添加一个新的同伴

通过克隆第一台计算机来扩展群集。当前， fly scale count不支持具有持久存储量的缩放机。我们将使用“飞行器克隆”来扩展我们的群集。

1. fly machine clone --region ord --select
2. fly status

在另一个区域添加同伴

通过将机器克隆到那里，将设置扩展到另一个区域。现在，您应该在ord中有两个同行，另一个在jnb中。

1. fly machine clone --region jnb --select
2. fly status

连接

从客户端应用程序连接

同一组织中的飞行应用程序可以使用以下URI连接到您的QDRANT数据库：

http:// < fly-app-name > .flycast:6333

首先，您需要将一个私人的Flycast IP地址分配给您的应用。您可以通过运行以下命令来执行此操作：

fly ips allocate-v6 --private

公共IP

如果您需要在Fly专用网络以外公开访问您的应用程序，则可以简单地将公共IP分配给Fly应用程序，然后开始使用Fly Proxy按正常进行连接（即https://<fly-app-name>.fly.dev ）

警告如果这样做，请务必设置QDRANT__SERVICE__API_KEY秘密。

从您本地机器连接到QDRANT

1. 使用fly proxy将服务器端口转发到您的本地系统：

fly proxy 6333:6333 -a < fly-app-name >

2. 使用您喜欢的API测试工具（例如Postman或curl ）连接到转发端口上的QDRANT实例。有关如何安全处理存储矢量数据的量的更多详细信息，请参阅卷文档。

curl -H " Content-Type: application/json " http://localhost:6333/cluster | jq

结果

{
  "result" : {
    "status" : " enabled " ,
    "peer_id" : 8961156852769025 ,
    "peers" : {
      "8961156852769025" : {
        "uri" : " http://e286376be66286.vm.qdrant-6pn.internal:6335/ "
      },
      "6238012613461344" : {
        "uri" : " http://568370dc75418e.vm.qdrant-6pn.internal:6335/ "
      },
      "2504460418660966" : {
        "uri" : " http://148e722b75d789.vm.qdrant-6pn.internal:6335/ "
      }
    },
    "raft_info" : {
      "term" : 1314 ,
      "commit" : 3510 ,
      "pending_operations" : 0 ,
      "leader" : 8961156852769025 ,
      "role" : " Leader " ,
      "is_voter" : true
    },
    "consensus_thread_status" : {
      "consensus_thread_status" : " working " ,
      "last_update" : " 2023-06-20T22:23:48.543413978Z "
    },
    "message_send_failures" : {}
  },
  "status" : " ok " ,
  "time" : 4.125e-05
}

前往http：// localhost：6333/dashboard，查看新的qdrant dashbaord并与您的数据进行交互。

高级用法

数据存储

默认情况下，QDRANT数据和快照存储在/data/qdrant/ 。如果需要更改默认存储位置，则可以调整QDRANT__STORAGE__SNAPSHOTS_PATH和QDRANT__STORAGE__STORAGE_PATH变量fly.toml

QDrant碎片和复制

全球分布群

WIP

常问问题

这是个好主意吗？

可能不是¯_(ツ)_/¯

---

遇到麻烦？

如果您面临困难或有任何疑问，请随时在此处创建一个问题。

建议在提交问题之前启用调试记录： fly secrets set QDRANT__DEBUG=true QDRANT__LOG_LEVEL=DEBUG

另外，您可以在此处的社区页面上提出问题。

贡献

如果您想为该项目做出贡献，请分叉并随时发送拉动请求。