Rocky Linux 9 AI 系列 015 — ComfyUI 模型与插件管理

前述

上手 ComfyUI 可能会有一定难度,主要是因为涉及到以下几个方面:工作流管理、模型管理和节点(插件)管理。每一个部分的细节都很复杂,不是一两篇文章可以完全覆盖的。尤其是工作流管理,不同业务场景下的配置需求和调整细节有所不同。如果您希望深入学习,建议去 bilibili 或 YouTube 查看相关视频教程。

常用目录说明

在 ComfyUI 项目中,不同的目录具有各自特定的功能和用途。这个简单介绍以下几个重要目录的作用:

工作流目录/app/ComfyUI/my_workflows
模型存放目录/app/ComfyUI/models
自定义节点目录/app/ComfyUI/custom_nodes

/app/ComfyUI/my_workflows 目录:

作用: 该目录用于存储用户创建的工作流(workflows)文件。
详细描述:

  • 工作流管理: 用户可以将自定义的图像生成流程保存为工作流文件,并存储在该目录中。
  • 共享与重用: 存储在这个目录中的工作流文件可以方便地进行导入和导出,便于用户分享与重用工作流设置。
  • 项目文件: 每个工作流文件通常包含了节点的配置和连接信息,确保图像生成过程的可复现性。

/app/ComfyUI/models 目录:

作用: 该目录用于存储各类预训练模型和用户下载的模型。
详细描述:

  • 模型文件管理: 所有用于图像生成和处理的模型文件(如 Stable Diffusion 模型)都存储在这个目录中。
  • 多模型支持: 用户可以将下载的不同版本或类型的模型文件放置在此目录,以便在 ComfyUI 中进行切换和应用。
  • 环境配置: 确保在不同的工作流中使用一致的模型,避免重新下载和配置模型所带来的麻烦。

/app/ComfyUI/custom_nodes 目录:

作用: 该目录用于存储用户自定义的节点(Custom Nodes)。
详细描述:

  • 扩展功能: 用户可以通过创建自定义节点来扩展 ComfyUI 的功能。这些节点可以实现特定的图像处理或生成功能,满足特殊需求。
  • 模块化设计: 自定义节点存储在这个目录中,并可以被方便地调用和重用,增强了系统的可扩展性和灵活性。
  • 插件形式: 自定义节点类似于插件,用户可以将编写好的代码文件放置在此目录中,使其在 ComfyUI 中生效并显示在节点列表中。

模型管理

在成功部署 ComfyUI 环境后,系统中默认是没有预装模型的。用户需要将所需的模型文件下载并保存至对应目录下,也可以通过 ComfyUI-Manager WebUI 安装模型。对于存储在 GitHub 或 Civitai 的模型,用户可能需要手动下载并放置到指定位置。

目前比较火🔥的 AI 绘图大模型下载网站:

  1. Civitai:Civitai: The Home of Open-Source Generative AI,完全免费的 AI 绘画视频模型平台。
  2. CVAI:CVAI – SD模型下载社区,,国内用户做的 SD 模型下载社区,需要登录、配有 VIP 专属下载。
  3. LiblibAI:LiblibAI-哩布哩布AI – 中国领先的AI创作平台,访问速度快,作品墙、提示词参考,微信扫码登录即可下载模型。
  4. TusiArt:TusiArt,主要以二次元和写实为主。
  5. TensorArt:Tensor.Art,需要科学上网,通过 Google、Discord、邮箱登录。

模型存储路径:

  1. 大模型: /app/ComfyUI/models/checkpoints
  2. VAE 模型: /app/ComfyUI/models/vae
  3. Lora 模型: /app/ComfyUI/models/loras
  4. ControlNet 模型 : /app/ComfyUI/models/controlnet

各类模型的作用:

  • 大模型(Checkpoints)

    • 作用: 大模型通常是指预训练的深度学习模型,比如 Stable Diffusion 模型。这些模型提供了基础的图像生成和处理能力,支持各种应用场景。
    • 使用方法: 用户将下载的大模型文件放置在 /app/ComfyUI/models/checkpoints 目录,然后在 ComfyUI 中选择相应的模型进行图像生成。
  • VAE 模型

    • 作用: VAE(变分自编码器)模型在生成任务中用于编码和解码图像数据,提供更高质量的图像生成效果。它们通常用于增强大模型的输出质量。
    • 使用方法: 用户需将 VAE 模型文件存储在 /app/ComfyUI/models/vae 目录,在工作流中选择并加载相应的 VAE 模型以提升图像质量。
  • Lora 模型

    • 作用: Lora(Low-Rank Adaptation)模型是一种轻量级的适应性模型,主要用于微调和特定任务的优化。它们可以在不改变大模型结构的情况下,快速适应新任务或数据。
    • 使用方法: 用户将 Lora 模型文件存放在 /app/ComfyUI/models/loras 目录,根据具体任务需求加载相应的 Lora 模型进行微调或优化。
  • ControlNet 模型

    • 作用: ControlNet 是一种专门用于控制神经网络生成过程的模型,旨在提供更多的控制维度和精细化调节。允许用户在图像生成过程中施加更加精细的控制。例如,用户可以控制图像的结构、纹理或特定特征,以生成更符合特定需求的图像。
    • 使用方法: 用户将 ControlNet 模型文件存放在 /app/ComfyUI/models/controlnet 目录,根据具体任务需求加载相应的 ControlNet 模型增强图像生成的质量和多样性。

通过合理配置和使用这些模型,用户可以充分利用 ComfyUI 提供的灵活性和扩展性,满足各种图像生成和处理需求。

模型的安装有两种方式:

  1. 通过 WebUI 直接安装。
  2. 通过 CLI 命令行安装。

CLI 命令行安装可以参考:Rocky Linux 9 AI 系列 012 — 安装大模型拉取工具 Git-LFS – Rocky Linux,WebUI 安装参考【WebUI 模型及插件管理】章节。

节点管理

相对于叫节点管理,木子更愿意叫插件管理。

常用插件

  1. ComfyUI WebGUI: GitHub – ltdrdata/ComfyUI-Manager,通过 WebUI 进行工作流配置、插件安装、模型管理等。
  2. ComfyUI-Manager 语言包:GitHub – AIGODLIKE/AIGODLIKE-ComfyUI-Translation,将 ComfyUI-Manager 翻译成英语、中文、法语、德语、日语、韩语等。
  3. ComfyUI WorkSpace Manager:GitHub – 11cafe/comfyui-workspace-manager,通过 WebUI 进行工作流目录 /app/ComfyUI/my_workflows 管理。
  4. ComfyUI-Inspyrenet-Rembg:GitHub – john-mnz/ComfyUI-Inspyrenet-Rembg 去除图片背景。
  5. ComfyUI-Crystools:GitHub – crystian/ComfyUI-Crystools 用于监控 ComfyUI 的 CPU、内存、GPU 等资源使用情况。
  6. ComfyUI-BRIA_AI-RMBG:GitHub – ZHO-ZHO-ZHO/ComfyUI-BRIA_AI-RMBG 去除图片背景。
  7. ComfyUI-InstantID:GitHub – ZHO-ZHO-ZHO/ComfyUI-InstantID 将人物照片转成卡通照片。
  8. ComfyUI_CatVTON_Wrapper:GitHub – chflame163/ComfyUI_CatVTON_Wrapper 用于人物换装。
  9. ComfyUI_LayerStyle:GitHub – chflame163/ComfyUI_LayerStyle 实现类似 Photoshop 的合成图层和蒙版功能。
  10. ComfyUI-Inpaint-Nodes:GitHub – Acly/comfyui-inpaint-nodes 移除图片中指定的物品,并根据图片当前的周边环境,进行自然修复处理。
  11. rgthree-comfy:GitHub – rgthree/rgthree-comfy: Making ComfyUI more comfortable! 更好的编排和管理工作流。
  12. ComfyUI_IPAdapter_plus:GitHub – cubiq/ComfyUI_IPAdapter_plus 用于将两个图片进行融合。比如:将一个人的脸换到另一个人的身上。
  13. ComfyUI_Controlnet_AUX:GitHub – Fannovel16/comfyui_controlnet_aux 动漫风、赛博朋克风。

其它相关插件,可以在网上自行搜索,参考:GitHub – WASasquatch/comfyui-plugins

安装插件

插件的安装有两种方式:

  1. 通过 WebUI 直接安装。
  2. 通过 CLI 命令行安装。

这是以 CLI 安装或更新 ComfyUI-Manager 插件为例,WebUI 安装参考【WebUI 模型及插件管理】章节。

# 安装 ComfyUI-Manager 插件
git clone https://github.com/ltdrdata/ComfyUI-Manager.git /app/ComfyUI/custom_nodes/ComfyUI-Manager
pip install --no-cache-dir -i https://pypi.tuna.tsinghua.edu.cn/simple -r /app/ComfyUI/custom_nodes/ComfyUI-Manager/requirements.txt

# 更新 ComfyUI-Manager 插件
git pull https://github.com/ltdrdata/ComfyUI-Manager.git /app/ComfyUI/custom_nodes/ComfyUI-Manager
pip install --no-cache-dir -i https://pypi.tuna.tsinghua.edu.cn/simple -r /app/ComfyUI/custom_nodes/ComfyUI-Manager/requirements.txt

ComfyUI-Manager 中文语言包设置,如下图所示,点击设置 — AGL — Locale:

WebUI 模型及节点管理

模型和节点管理,除了上面提到的,基于命令行去安装以外,还可以通过 WebUI 进行管理。
点击 WebUI 右下角的【管理器(Manager)】,打开如下界面,点击【节点管理】或【模型管理】,即可进入对应管理界面。

节点管理:进行相关插件的安装,可以直接搜索安装,也可以指定 Git 地址进行安装。同时可以进行禁用、卸载、升级等操作。
点击对应 Title,进入对应 Github 的项目页面。

模型管理:直接搜索安装。

Avatar photo

关于 木子

Founder of the Rocky Linux Chinese community, MVP、VMware vExpert、TVP, advocate for cloud native technologies, with over ten years of experience in site reliability engineering (SRE) and the DevOps field. Passionate about Cloud Computing、Microservices、CI&CD、DevOps、Kubernetes, currently dedicated to promoting and implementing Rocky Linux in Chinese-speaking regions.
用一杯咖啡支持我们,我们的每一篇[文档]都经过实际操作和精心打磨,而不是简单地从网上复制粘贴。期间投入了大量心血,只为能够真正帮助到您。
暂无评论

发送评论 编辑评论


				
|´・ω・)ノ
ヾ(≧∇≦*)ゝ
(☆ω☆)
(╯‵□′)╯︵┴─┴
 ̄﹃ ̄
(/ω\)
∠( ᐛ 」∠)_
(๑•̀ㅁ•́ฅ)
→_→
୧(๑•̀⌄•́๑)૭
٩(ˊᗜˋ*)و
(ノ°ο°)ノ
(´இ皿இ`)
⌇●﹏●⌇
(ฅ´ω`ฅ)
(╯°A°)╯︵○○○
φ( ̄∇ ̄o)
ヾ(´・ ・`。)ノ"
( ง ᵒ̌皿ᵒ̌)ง⁼³₌₃
(ó﹏ò。)
Σ(っ °Д °;)っ
( ,,´・ω・)ノ"(´っω・`。)
╮(╯▽╰)╭
o(*////▽////*)q
>﹏<
( ๑´•ω•) "(ㆆᴗㆆ)
😂
😀
😅
😊
🙂
🙃
😌
😍
😘
😜
😝
😏
😒
🙄
😳
😡
😔
😫
😱
😭
💩
👻
🙌
🖕
👍
👫
👬
👭
🌚
🌝
🙈
💊
😶
🙏
🍦
🍉
😣
Source: github.com/k4yt3x/flowerhd
颜文字
Emoji
小恐龙
花!
上一篇
下一篇