dfserver

其他资源 2025-08-15

dfserver

dfserver是一种开源的分布式后端AI管道服务器,用于构建自托管的分布式GPU群集,以运行稳定的扩散和各种AI映像或及时的建筑模型,但也有可能消耗大规模生产服务等。

给我们一个明星和您宝贵的反馈:)

消息

尝试稳定的扩散2实验工人:SD2.MD

该服务可以使用您的朋友共享的空闲幻想GPU来构建用于运行各种AI模型的GPU群集,或者只是在您自己的计算机上部署。将来,我们将根据每个GPU(Worker)的工作量进行计数和分配可能的收入。

我对dfserver有一个美丽的愿景,它可以是一个企业级服务应用程序,可以灵活地扩展管道以连接AI Image生成工作流程中不同任务的模型,例如用于支持多语言提示输入的DEEPL,或DD填充更多呈现的DD,以填充更多的呈现详细信息,同时填充详细信息,同时进行上升范围,等等。

很快将支持具有单个命令的多个图像的生成,并支持与Init-Image相关的功能。

dfserver管道服务器当前支持的任务

  • AI图像发生器:稳定的扩散1.4(负提示)和WAIFU扩散1.3
  • 图像升级(默认的RealEsrgan-X4Plus模型)
  • 猜测图像的提示(剪辑审讯器)
  • 及时构建辅助(通过使用200k提示并从Krea-ai Open-Prompts进行预处理的fineTunton。

系统拓扑

建筑学

任务序列图

开始

服务器先决条件

  • 兔子
  • Discord Developer帐户和Discord Bot令牌

工人先决条件

  • 一群幻想GPU的朋友?
  • Pytorch
  • 扩散器和模型

构建dfserver

要求:

  • 走1.18或更新
dfserver $ make linux-amd64 #or make linux-arm64">
$ git clone " https://gith**ub.*com/huo-ju/dfserver.git "
$ cd dfserver
$ make linux-amd64 # or make linux-arm64

dfserver配置

cp configs/config.toml.sample configs/config.toml

编辑config.toml,设置RabbitMQ的用户名/密码/主机地址/端口。

默认配置定义了一个稳定扩散AI工作的一个任务队列(名称为AI.SD14),一个Discord Bot Service,一个用于Discord的过程工作者(名称为Discord.Server1)

运行dfserver

./dist/linux_amd64/ dfserver --confpath=./configs

或通过Docker-Compose(因此您不需要特别安装RabbitMQ):

docker compose up -d

PS:在Docker-Compose启动之后,您仍然需要在RabbitMQ中为AI Worker设置用户。

AI工人安装

将PYWORKER DIR复制到GPU服务器,然后安装所有扩散器依赖项(NVIDIA驱动程序,Cuda,Pytorch,Models等...)。

 cd pyworker
pip install -r requirements.txt

AI工人配置

cp configs/sd14mega_config.ini.sample configs/sd14mega_config.ini 
# or
cp configs/realesrgan_config.ini.sample configs/realesrgan_config.ini
# or
cp configs/clipinterrogator_config.ini.sample configs/clipinterrogator_config.ini

编辑config.ini,设置RabbitMQ的用户名/密码/主机地址/端口。

经营AI工人

python worker.py sd14mega # stable-diffusion worker with community SD Mega pipeline
# or
python worker.py realesrgan # realesrgan upscaling worker
# or
python worker.py clipinterrogator # clip-interrogator worker

用法

将Discord Bot添加到您的疾病服务器中,然后输入提示。

例子:

!梦想可爱的贴纸设计AI Image Generator机器人管道服务,应用程序图标,在Appstore上流行,Pixiv上的趋势,超详细,尖锐

带负的提示(扩散器> = V0.4.0):

!玫瑰的梦bouquet |红玫瑰:-1 |

AI任务将由Discord Bot从用户输入收集,并发布到RabbitMQ,然后由AI Worker(在GPU服务器上运行)获取该任务。

结果(生成的图像)将发布回兔子,由过程工作者(Discord.Server1)获取,并发送回用户。

在启动时运行dfserver和AIWorker,请参阅部署中的SystemD脚本

托多

  • ✔️响应错误消息给用户
  • ✔️更多的人工智能工人,例如:高档工人
  • []多GPU工人支持
  • ✔️初始图像
  • []面具/涂料

学分

  • 稳定性
  • 用于剪贴式式饰物的药物精神病
  • @catmus
下载源码

通过命令行克隆项目:

git clone https://github.com/huo-ju/dfserver.git