github地址:GitHub - city96/ComfyUI-GGUF: GGUF Quantization support for native ComfyUI models 量化模型地址:https://huggingface.co/city96/FLUX.1-dev-gguf 量化后flux.1 dev模型大小大约为7G 关于gguf 量化模型更多讨论参考:https://www.reddit.com/r/StableDiffusion/comments/1eslcg0/excuse_me_gguf...
GGUF 版本的出现解决了这一问题,使得 Flux 可以在低显存设备上运行。 原始版本显存需求:Flux.1 Dev 和 Schnell 的原始版本需要 16GB 以上的显存,文件大小通常为 23.8GB。 GGUF 版本显存需求:GGUF 版本通过量化技术,显存需求大幅降低,最低仅需 6GB 显存即可运行。 3. GGUF 版本的量化级别 GGUF 版本有多...
对于GGUF 模型,先将主模型安装到 models\Stable-diffusion 文件夹中, ae.safetensors 放入 models\VAE 文件夹(注意 vae 尾缀必须为 safetensors ),clip-l 和 t5xxl 放入models\text_encoder文件夹。然后启动程序,选择 flux 界面。相关的生成参数如下: 大模型:flux1-dev-Q4_0.gguf vae/text_encoder: ae.sa...
https://promptingpixels.com/flux-gguf/ 导入工作流后,输入提示词: asuper sexy gal holdingasign that says "ComfyUI Mac" 意思是性感女子举着一个牌子,上面写着 ComfyUI Mac 此时,可以直接执行工作流,程序返回: ggml_sd_loader:131440501425Requestedtoload FluxClipModel_ Loading1newmodel loaded completely0...
幸好还有@City96 大神开发的 3 个 GGUF 量化版本。其中 Q8 的出图效果、速度都优于 fp8,需要 12GB 以上的显存;而 Q4 版本 8G 显存就能带动,生成质量比 NF4 好一些。 对于comfyui用户来说,要使用这个模型,依然需要安装一个拓展插件:② ComfyUI-GGUF:https://github.com/city96/ComfyUI-GGUF (用于加载 ...
为了方便区分,大家最好下载后重新命名,比如 flux1-dev-fp8-kijai 和 flux1-dev-fp8。 目前以上所有模型都可以在 ComfyUI 中运行,NF4 和 GGUF 也支持在新版的 WebUI Forge 中使用。下面介绍一下如何在 ComfyUI 和 WebUI Forge 中安装使用最新的 NF4 和 GGUF Q4 模型。 二、在 ComfyUI 中使用新版模型 ...
最后是@City96开发的三个GGUF量化版本。Q8版本的图像输出和速度比FP8更好,需要超过12GB的VRAM;Q4版本可以在8GB VRAM上运行,并且生成质量略好于NF4。 注意:这些量化版本的使用许可与原模型一致,即Dev不用于商业用途,而Schnell可用于商业用途。 FLUX.1 fp8 版本由 Kijai 对于大多数用户来说,流畅运行官方模型可能颇...
kk635241 铁杆吧友 8 4G显存确实小了点,非要跑flux建议用GGUFQ3Q4,搭配TeaCache这类加速技术。https://hf-mirror.com/city96/FLUX.1-dev-gguf/tree/mainhttps://github.com/likelovewant/sd-forge-teacache.git 4楼2025-02-19 13:07 回复 扫二维码下载贴吧客户端 下载贴吧APP看高清直播、视频!贴吧...
如何用ComfyUI运行FLUX GGUF文件模型 FLUX.1 和 schnell 开源的文本到图像生成模型提供了卓越的质量,其性能与专有模型不相上下。 不过,运行这些新模型,尤其是FLUX.1 dev版本,需要16到24GB的VRAM来运行未压缩的完整模型——这对于很多人来说是不可轻易获得的。
ComfyUI 是采用基于节点的图形界面,用户可以通过连接不同的节点来构建图像生成工作流程。它支持多种 AI 模型,且具有高度的可扩展性。目前flux的gguf Q4版暂时只支持在comfyUI中使用。 目前有许多大神提供了整合包,也可以采用官方在github上的项目ComfyUI(作者:comfyanonymous),只需一键下载后,点击里面的运行文件即可...