helix
1.4.3 - Image inference quick fix
SaaS•私人部署•文檔•Discord
不和諧
私人Genai堆棧。在您自己的數據中心或VPC中部署最好的打開AI,並保留完整的數據安全和控制。
包括對抹布的支持,API呼叫和微調模型,就像Drag'n'drop一樣容易。通過編寫Helix.yaml來構建和部署LLM應用程序。
尋找私人Genai平台?從語言模型到圖像模型等等,Helix以符合人體工程學的可擴展方式為您的業務帶來了最好的開源AI,同時優化了GPU內存和延遲之間的權衡。
使用我們的Quickstart安裝程序:
curl -sL -O https://get.helix.ml/install.sh
chmod +x install.sh
sudo ./install.sh
安裝程序將在更改系統之前提示您。默認情況下,儀表板將在http://localhost:8080上提供。
要設置帶有DNS名稱的部署,請參見./install.sh --help或閱讀詳細的文檔。我們已經為您記錄了輕鬆的TLS終止。
每個跑步者文檔附上自己的GPU跑步者或使用任何外部OpenAI兼容的LLM。
使用我們的掌舵圖表:
有關本地開發,請參閱《 Helix局部開髮指南》。
Helix已獲得與Docker Desktop類似的許可證的許可。您可以免費運行源代碼(在此存儲庫中):
如果您不在這些條款之外,請與我們聯繫,討論購買大量商業用途的許可證。如果您是一家有興趣嘗試Helix的大型公司的個人,那麼在公司擁有或付費基礎架構上部署到一個以上的GPU之前,這是很好的。
您不允許使用我們的代碼來構建與我們競爭的產品。
歡迎對源代碼的貢獻,並通過貢獻您確認您的更改將屬於相同的許可證。
如果您想根據更允許的許可使用此代碼的某些部分,請與您聯繫。