前述
上手 ComfyUI 可能会有一定难度,主要是因为涉及到以下几个方面:工作流管理、模型管理和节点(插件)管理。每一个部分的细节都很复杂,不是一两篇文章可以完全覆盖的。尤其是工作流管理,不同业务场景下的配置需求和调整细节有所不同。如果您希望深入学习,建议去 bilibili 或 YouTube 查看相关视频教程。
常用目录说明
在 ComfyUI 项目中,不同的目录具有各自特定的功能和用途。这个简单介绍以下几个重要目录的作用:
工作流目录:/app/ComfyUI/my_workflows
模型存放目录:/app/ComfyUI/models
自定义节点目录:/app/ComfyUI/custom_nodes
/app/ComfyUI/my_workflows
目录:
作用: 该目录用于存储用户创建的工作流(workflows)文件。
详细描述:
- 工作流管理: 用户可以将自定义的图像生成流程保存为工作流文件,并存储在该目录中。
- 共享与重用: 存储在这个目录中的工作流文件可以方便地进行导入和导出,便于用户分享与重用工作流设置。
- 项目文件: 每个工作流文件通常包含了节点的配置和连接信息,确保图像生成过程的可复现性。
/app/ComfyUI/models
目录:
作用: 该目录用于存储各类预训练模型和用户下载的模型。
详细描述:
- 模型文件管理: 所有用于图像生成和处理的模型文件(如 Stable Diffusion 模型)都存储在这个目录中。
- 多模型支持: 用户可以将下载的不同版本或类型的模型文件放置在此目录,以便在 ComfyUI 中进行切换和应用。
- 环境配置: 确保在不同的工作流中使用一致的模型,避免重新下载和配置模型所带来的麻烦。
/app/ComfyUI/custom_nodes
目录:
作用: 该目录用于存储用户自定义的节点(Custom Nodes)。
详细描述:
- 扩展功能: 用户可以通过创建自定义节点来扩展 ComfyUI 的功能。这些节点可以实现特定的图像处理或生成功能,满足特殊需求。
- 模块化设计: 自定义节点存储在这个目录中,并可以被方便地调用和重用,增强了系统的可扩展性和灵活性。
- 插件形式: 自定义节点类似于插件,用户可以将编写好的代码文件放置在此目录中,使其在 ComfyUI 中生效并显示在节点列表中。
模型管理
在成功部署 ComfyUI 环境后,系统中默认是没有预装模型的。用户需要将所需的模型文件下载并保存至对应目录下,也可以通过 ComfyUI-Manager WebUI 安装模型。对于存储在 GitHub 或 Civitai 的模型,用户可能需要手动下载并放置到指定位置。
目前比较火🔥的 AI 绘图大模型下载网站:
- Civitai:Civitai: The Home of Open-Source Generative AI,完全免费的 AI 绘画视频模型平台。
- CVAI:CVAI – SD模型下载社区,,国内用户做的 SD 模型下载社区,需要登录、配有 VIP 专属下载。
- LiblibAI:LiblibAI-哩布哩布AI – 中国领先的AI创作平台,访问速度快,作品墙、提示词参考,微信扫码登录即可下载模型。
- TusiArt:TusiArt,主要以二次元和写实为主。
- TensorArt:Tensor.Art,需要科学上网,通过 Google、Discord、邮箱登录。
模型存储路径:
- 大模型:
/app/ComfyUI/models/checkpoints
- VAE 模型:
/app/ComfyUI/models/vae
- Lora 模型:
/app/ComfyUI/models/loras
- ControlNet 模型 :
/app/ComfyUI/models/controlnet
各类模型的作用:
-
大模型(Checkpoints)
- 作用: 大模型通常是指预训练的深度学习模型,比如 Stable Diffusion 模型。这些模型提供了基础的图像生成和处理能力,支持各种应用场景。
- 使用方法: 用户将下载的大模型文件放置在
/app/ComfyUI/models/checkpoints
目录,然后在 ComfyUI 中选择相应的模型进行图像生成。
-
VAE 模型
- 作用: VAE(变分自编码器)模型在生成任务中用于编码和解码图像数据,提供更高质量的图像生成效果。它们通常用于增强大模型的输出质量。
- 使用方法: 用户需将 VAE 模型文件存储在
/app/ComfyUI/models/vae
目录,在工作流中选择并加载相应的 VAE 模型以提升图像质量。
-
Lora 模型
- 作用: Lora(Low-Rank Adaptation)模型是一种轻量级的适应性模型,主要用于微调和特定任务的优化。它们可以在不改变大模型结构的情况下,快速适应新任务或数据。
- 使用方法: 用户将 Lora 模型文件存放在
/app/ComfyUI/models/loras
目录,根据具体任务需求加载相应的 Lora 模型进行微调或优化。
-
ControlNet 模型
- 作用: ControlNet 是一种专门用于控制神经网络生成过程的模型,旨在提供更多的控制维度和精细化调节。允许用户在图像生成过程中施加更加精细的控制。例如,用户可以控制图像的结构、纹理或特定特征,以生成更符合特定需求的图像。
- 使用方法: 用户将 ControlNet 模型文件存放在
/app/ComfyUI/models/controlnet
目录,根据具体任务需求加载相应的 ControlNet 模型增强图像生成的质量和多样性。
通过合理配置和使用这些模型,用户可以充分利用 ComfyUI 提供的灵活性和扩展性,满足各种图像生成和处理需求。
模型的安装有两种方式:
- 通过 WebUI 直接安装。
- 通过 CLI 命令行安装。
CLI 命令行安装可以参考:Rocky Linux 9 AI 系列 012 — 安装大模型拉取工具 Git-LFS – Rocky Linux,WebUI 安装参考【WebUI 模型及插件管理】章节。
节点管理
相对于叫节点管理,木子更愿意叫插件管理。
常用插件
- ComfyUI WebGUI: GitHub – ltdrdata/ComfyUI-Manager,通过 WebUI 进行工作流配置、插件安装、模型管理等。
- ComfyUI-Manager 语言包:GitHub – AIGODLIKE/AIGODLIKE-ComfyUI-Translation,将 ComfyUI-Manager 翻译成英语、中文、法语、德语、日语、韩语等。
- ComfyUI WorkSpace Manager:GitHub – 11cafe/comfyui-workspace-manager,通过 WebUI 进行工作流目录
/app/ComfyUI/my_workflows
管理。 - ComfyUI-Inspyrenet-Rembg:GitHub – john-mnz/ComfyUI-Inspyrenet-Rembg 去除图片背景。
- ComfyUI-Crystools:GitHub – crystian/ComfyUI-Crystools 用于监控 ComfyUI 的 CPU、内存、GPU 等资源使用情况。
- ComfyUI-BRIA_AI-RMBG:GitHub – ZHO-ZHO-ZHO/ComfyUI-BRIA_AI-RMBG 去除图片背景。
- ComfyUI-InstantID:GitHub – ZHO-ZHO-ZHO/ComfyUI-InstantID 将人物照片转成卡通照片。
- ComfyUI_CatVTON_Wrapper:GitHub – chflame163/ComfyUI_CatVTON_Wrapper 用于人物换装。
- ComfyUI_LayerStyle:GitHub – chflame163/ComfyUI_LayerStyle 实现类似 Photoshop 的合成图层和蒙版功能。
- ComfyUI-Inpaint-Nodes:GitHub – Acly/comfyui-inpaint-nodes 移除图片中指定的物品,并根据图片当前的周边环境,进行自然修复处理。
- rgthree-comfy:GitHub – rgthree/rgthree-comfy: Making ComfyUI more comfortable! 更好的编排和管理工作流。
- ComfyUI_IPAdapter_plus:GitHub – cubiq/ComfyUI_IPAdapter_plus 用于将两个图片进行融合。比如:将一个人的脸换到另一个人的身上。
- ComfyUI_Controlnet_AUX:GitHub – Fannovel16/comfyui_controlnet_aux 动漫风、赛博朋克风。
其它相关插件,可以在网上自行搜索,参考:GitHub – WASasquatch/comfyui-plugins。
安装插件
插件的安装有两种方式:
- 通过 WebUI 直接安装。
- 通过 CLI 命令行安装。
这是以 CLI 安装或更新 ComfyUI-Manager 插件为例,WebUI 安装参考【WebUI 模型及插件管理】章节。
# 安装 ComfyUI-Manager 插件
git clone https://github.com/ltdrdata/ComfyUI-Manager.git /app/ComfyUI/custom_nodes/ComfyUI-Manager
pip install --no-cache-dir -i https://pypi.tuna.tsinghua.edu.cn/simple -r /app/ComfyUI/custom_nodes/ComfyUI-Manager/requirements.txt
# 更新 ComfyUI-Manager 插件
git pull https://github.com/ltdrdata/ComfyUI-Manager.git /app/ComfyUI/custom_nodes/ComfyUI-Manager
pip install --no-cache-dir -i https://pypi.tuna.tsinghua.edu.cn/simple -r /app/ComfyUI/custom_nodes/ComfyUI-Manager/requirements.txt
ComfyUI-Manager 中文语言包设置,如下图所示,点击设置 — AGL — Locale:
WebUI 模型及节点管理
模型和节点管理,除了上面提到的,基于命令行去安装以外,还可以通过 WebUI 进行管理。
点击 WebUI 右下角的【管理器(Manager)】,打开如下界面,点击【节点管理】或【模型管理】,即可进入对应管理界面。
节点管理:进行相关插件的安装,可以直接搜索安装,也可以指定 Git 地址进行安装。同时可以进行禁用、卸载、升级等操作。
点击对应 Title,进入对应 Github 的项目页面。
模型管理:直接搜索安装。