helix
1.4.3 - Image inference quick fix
SaaS•私人部署•文档•Discord
不和谐
私人Genai堆栈。在您自己的数据中心或VPC中部署最好的打开AI,并保留完整的数据安全和控制。
包括对抹布的支持,API呼叫和微调模型,就像Drag'n'drop一样容易。通过编写Helix.yaml来构建和部署LLM应用程序。
寻找私人Genai平台?从语言模型到图像模型等等,Helix以符合人体工程学的可扩展方式为您的业务带来了最好的开源AI,同时优化了GPU内存和延迟之间的权衡。
使用我们的Quickstart安装程序:
curl -sL -O https://get.helix.ml/install.sh
chmod +x install.sh
sudo ./install.sh
安装程序将在更改系统之前提示您。默认情况下,仪表板将在http://localhost:8080上提供。
要设置带有DNS名称的部署,请参见./install.sh --help或阅读详细的文档。我们已经为您记录了轻松的TLS终止。
每个跑步者文档附上自己的GPU跑步者或使用任何外部OpenAI兼容的LLM。
使用我们的掌舵图表:
有关本地开发,请参阅《 Helix局部开发指南》。
Helix已获得与Docker Desktop类似的许可证的许可。您可以免费运行源代码(在此存储库中):
如果您不在这些条款之外,请与我们联系,讨论购买大量商业用途的许可证。如果您是一家有兴趣尝试Helix的大型公司的个人,那么在公司拥有或付费基础架构上部署到一个以上的GPU之前,这是很好的。
您不允许使用我们的代码来构建与我们竞争的产品。
欢迎对源代码的贡献,并通过贡献您确认您的更改将属于相同的许可证。
如果您想根据更允许的许可使用此代码的某些部分,请与您联系。