cog comfyui
1.0.0
Запустите Comfyui Workflows на Replicate:
Мы рекомендуем:
Мы старались включить многие из самых популярных весов модели и пользовательских узлов:
Поднимите проблему, чтобы запросить больше пользовательских узлов или моделей, или используйте вкладку train на репликате, чтобы использовать свои собственные веса (см. Ниже).
Вам понадобится версия API вашего рабочего процесса Comfyui. Это отличается от общей общей версии JSON, она не включает в себя визуальную информацию об узлах и т. Д.
Чтобы получить свой API JSON:
Если ваша модель принимает входные данные, например, изображения для img2img или controlnet, у вас есть 3 параметра:
Измените свой файл API JSON, чтобы указать на URL:
- "image": "/your-path-to/image.jpg",
+ "image": "https://example.com/image.jpg", Вы также можете загрузить один входной файл при запуске модели.
Этот файл будет сохранен как input.[extension] - например, input.jpg . Он будет помещен в каталог input Comfyui, так что вы можете ссылаться на свой рабочий процесс с:
- "image": "/your-path-to/image.jpg",
+ "image": "image.jpg", Они будут загружены и извлечены в каталог input . Затем вы можете ссылаться на них в своем рабочем процессе на основе их относительных путей.
Итак, zip -файл, содержащий:
- my_img.png
- references/my_reference_01.jpg
- references/my_reference_02.jpg
Может быть использован в рабочем процессе, как:
"image": "my_img.png",
...
"directory": "references",
При обновлении всех ваших входов вы можете запустить свой рабочий процесс.
Некоторые рабочие процессы сохраняют временные файлы, например, предварительно обработанные изображения ControlNet. Вы также можете вернуть их, включив опцию return_temp_files .
Модель any-comfyui-workflow на Replicate является общей публичной моделью. Это означает, что многие пользователи будут отправлять на него рабочие процессы, которые могут сильно отличаться от вас. Эффект этого будет заключаться в том, что внутренний сервер Comfyui может потребоваться обменять модели в памяти и вне памяти, это может замедлить ваше время прогноза.
Comfyui и его пользовательские узлы также постоянно обновляются. Хотя это означает, что новейшие версии обычно работают, если есть нарушающие изменения в пользовательских узлах, то ваш рабочий процесс может прекратить работать.
Если у вас есть собственный специальный экземпляр, вы будете:
Чтобы получить наилучшую производительность от модели, вы должны запустить выделенный экземпляр. У вас есть 3 варианта:
Перейти к:
https://replicate.com/deployments/create
Выберите fofr/any-comfyui-workflow в качестве модели, которую вы хотели бы развернуть. Выберите свое оборудование, мин и максимальные экземпляры, и вы готовы к работе. Вы будете прикреплены к версии, из которой вы развернете. Когда обновляется any-comfyui-workflow , вы можете протестировать свой рабочий процесс с ним, а затем развернуть снова, используя новую версию.
Вы можете прочитать больше о развертываниях в репликационных документах:
https://replicate.com/docs/deployments
Вы можете использовать этот репозиторий в качестве шаблона для создания собственной модели. Это дает вам полный контроль над версией Comfyui, пользовательскими узлами и API, который вы используете для запуска модели.
Вам нужно быть знакомы с Python, и вам также понадобится графический процессор, чтобы подтолкнуть вашу модель с помощью COG. Replicate имеет хорошее руководство по началу работы: https://replicate.com/docs/guides/push-model
Модель kolors на Replicate является хорошим примером:
Он был создан из этого репо, а затем развернуто с помощью CoG. Вы можете пройти через это репо, чтобы увидеть, что изменилось и как, но широко:
scripts/prepare_template.py запускаются первым, чтобы удалить примеры и ненужную шаблонcustom_nodes.json изменен, чтобы добавить или удалить пользовательские узлы, которые вам нужны, чтобы также добавить или удалить их зависимости из cog.yaml./scripts/install_custom_nodes.py для установки пользовательских узлов (или ./scripts/reset.py , чтобы переустановить comfyui и все пользовательские узлы)workflow_api.jsonpredict.py update_workflowcog predict -i option_name=option_value -i another_option_name=another_option_value на GPUcog push r8.im/your-username/your-model-nameПосетите вкладку «Поезд» на Replicate:
https://replicate.com/fofr/any-comfyui-workflow/train
Здесь вы можете дать публичные или частные URL -адреса весам на Huggingface и Civitai. Если URL -адреса являются частными или нуждаются в аутентификации, обязательно включите ключ API или токен доступа.
Проверьте журналы обучения, чтобы увидеть, какие имена файлов использовать в вашем рабочем процессе JSON. Например:
Downloading from HuggingFace:
...
Size of the tar file: 217.88 MB
====================================
When using your new model, use these filenames in your JSON workflow:
araminta_k_midsommar_cartoon.safetensors
После обучения у вас будет собственная модель Comfyui с вашими индивидуальными весами, загруженными во время настройки модели. Чтобы другие не использовали его, вы можете сделать это частным. Частные модели по -разному выставлены на публичные модели на репликации.
Клонировать это хранилище:
git clone --recurse-submodules https://github.com/fofr/cog-comfyui.gitЗапустите следующий скрипт для установки всех пользовательских узлов:
./scripts/install_custom_nodes.pyВы можете просмотреть список узлов в custom_nodes.json
sudo cog run -p 8188 bashЗапуск этой команды запускает контейнер COG и позвольте вам получить доступ к нему
cd ComfyUI/
python main.py --listen 0.0.0.0http://<gpu-machines-ip>:8188 Когда вы зайдете http://<gpu-machines-ip>:8188 вы увидите классическую веб-форму Comfyui!
