cog comfyui
1.0.0
Exécutez des flux de travail Comfyui sur Replicat:
Nous recommandons:
Nous avons essayé d'inclure bon nombre des poids des modèles les plus populaires et des nœuds personnalisés:
Soulevez un problème pour demander plus de nœuds ou de modèles personnalisés, ou utilisez l'onglet train sur Replicat pour utiliser vos propres poids (voir ci-dessous).
Vous aurez besoin de la version API de votre flux de travail Comfyui. Ceci est différent de la version JSON couramment partagée, elle ne comprend pas d'informations visuelles sur les nœuds, etc.
Pour obtenir votre API JSON:
Si votre modèle prend des entrées, comme des images pour IMG2IMG ou ControlNet, vous avez 3 options:
Modifiez votre fichier API JSON pour pointer une URL:
- "image": "/your-path-to/image.jpg",
+ "image": "https://example.com/image.jpg", Vous pouvez également télécharger un seul fichier d'entrée lors de l'exécution du modèle.
Ce fichier sera enregistré en input.[extension] - par exemple input.jpg . Il sera placé dans le répertoire input Comfyui, vous pouvez donc référencer dans votre workflow avec:
- "image": "/your-path-to/image.jpg",
+ "image": "image.jpg", Ceux-ci seront téléchargés et extraits dans le répertoire input . Vous pouvez ensuite les référencer dans votre flux de travail en fonction de leurs chemins relatifs.
Donc un fichier zip contenant:
- my_img.png
- references/my_reference_01.jpg
- references/my_reference_02.jpg
Peut être utilisé dans le flux de travail comme:
"image": "my_img.png",
...
"directory": "references",
Avec toutes vos entrées mises à jour, vous pouvez désormais exécuter votre flux de travail.
Certains workflows enregistrent des fichiers temporaires, par exemple des images de contrôle prétraitées. Vous pouvez également les retourner en activant l'option return_temp_files .
Le modèle any-comfyui-workflow sur reproduction est un modèle public partagé. Cela signifie que de nombreux utilisateurs y enverront des workflows qui pourraient être très différents des vôtres. L'effet de cela sera que le serveur ComfyUI interne peut avoir besoin d'échanger des modèles dans et hors mémoire, ce qui peut ralentir votre temps de prédiction.
Comfyui et ses nœuds personnalisés sont également à jour continuellement. Bien que cela signifie que les dernières versions fonctionnent généralement, s'il y a des modifications de rupture des nœuds personnalisés, votre flux de travail peut cesser de fonctionner.
Si vous avez votre propre instance dédiée, vous le ferez:
Pour obtenir les meilleures performances du modèle, vous devez exécuter une instance dédiée. Vous avez 3 choix:
Aller à:
https://replicate.com/deployments/create
Sélectionnez fofr/any-comfyui-workflow comme modèle que vous souhaitez déployer. Choisissez vos instances matérielles et min et max, et vous êtes prêt à partir. Vous serez épinglé à la version que vous déployez. Lorsque any-comfyui-workflow est mis à jour, vous pouvez tester votre flux de travail avec, puis vous déployer à nouveau à l'aide de la nouvelle version.
Vous pouvez en savoir plus sur les déploiements dans les documents répétés:
https://replicate.com/docs/deployments
Vous pouvez utiliser ce référentiel comme modèle pour créer votre propre modèle. Cela vous donne un contrôle complet sur la version Comfyui, les nœuds personnalisés et l'API que vous utiliserez pour exécuter le modèle.
Vous devrez vous familiariser avec Python, et vous aurez également besoin d'un GPU pour pousser votre modèle à l'aide de COG. La réplique a un bon guide de démarrage: https://replicate.com/docs/guides/push-a-model
Le modèle kolors en réplique est un bon exemple à suivre:
Il a été créé à partir de ce dépôt, puis déployé à l'aide de COG. Vous pouvez parcourir les validations de ce dépôt pour voir ce qui a été changé et comment, mais largement:
scripts/prepare_template.py est exécuté en premier, pour supprimer des exemples et un passe-partout inutilecustom_nodes.json est modifié pour ajouter ou supprimer les nœuds personnalisés dont vous avez besoin, en vous assurant également d'ajouter ou de supprimer leurs dépendances de cog.yaml./scripts/install_custom_nodes.py pour installer les nœuds personnalisés (ou ./scripts/reset.py pour réinstaller Comfyui et tous les nœuds personnalisés)workflow_api.jsonpredict.py est mis à jour avec une nouvelle API et la méthode update_workflow est modifiée afin qu'elle modifie les bonnes parties du JSONcog predict -i option_name=option_value -i another_option_name=another_option_value sur un GPUcog push r8.im/your-username/your-model-nameVisitez l'onglet Train sur Replicat:
https://replicate.com/fofr/any-comfyui-workflow/train
Ici, vous pouvez donner des URL publiques ou privées aux poids sur HuggingFace et Civitai. Si les URL sont privées ou ont besoin d'authentification, assurez-vous d'inclure une clé API ou un jeton d'accès.
Vérifiez les journaux de formation pour voir quels noms de fichiers utiliser dans votre workflow JSON. Par exemple:
Downloading from HuggingFace:
...
Size of the tar file: 217.88 MB
====================================
When using your new model, use these filenames in your JSON workflow:
araminta_k_midsommar_cartoon.safetensors
Après avoir suivi la formation, vous aurez votre propre modèle Comfyui avec vos poids personnalisés chargés pendant la configuration du modèle. Pour empêcher les autres de l'utiliser, vous pouvez le rendre privé. Les modèles privés sont facturés différemment des modèles publics sur la réplique.
Cloner ce référentiel:
git clone --recurse-submodules https://github.com/fofr/cog-comfyui.gitExécutez le script suivant pour installer tous les nœuds personnalisés:
./scripts/install_custom_nodes.pyVous pouvez afficher la liste des nœuds dans custom_nodes.json
sudo cog run -p 8188 bashL'exécution de cette commande démarre le conteneur COG et vous permet d'y accéder
cd ComfyUI/
python main.py --listen 0.0.0.0http://<gpu-machines-ip>:8188 Lorsque vous avez passé http://<gpu-machines-ip>:8188 Vous verrez la forme Web de Comfyui classique!
