GGUF
Zuntan's picture
Update README.md
172b3f5 verified
|
raw
history blame
No virus
1.51 kB
---
license: other
license_name: flux-1-dev-non-commercial-license
license_link: https://huggingface.co/black-forest-labs/FLUX.1-dev/blob/main/LICENSE.md
---
[EasyForge](https://github.com/Zuntan03/EasyForge) の [flux_tool](https://x.com/Zuntan03/status/1830170076441407862) で [iNiverse Mix Flux v1.1](https://civitai.com/models/226533?modelVersionId=784664) を [Hyper Flux](https://huggingface.co/black-forest-labs/FLUX.1-dev) で 8steps 生成に対応して、GGUF と nf4 に変換したモデルです。
Geforce RTX 3060 12GB で、速度重視の nf4 なら 30秒、高品質の Q8_0 なら 45秒で生成できます。
Flux Dev 用 の LoRA も使えます。
![](./iNiverse-nf4.png)
![](./iNiverse-Q8_0.png)
## レシピ
`*.bat` は [EasyForge](https://github.com/Zuntan03/EasyForge) の `flux_tool/` にあります。
1. `ExtractLora-FluxD-fp16.bat` を実行して、iNiverse から LoRA を Dim `128` で抽出
2. `ModelMergeLora.bat` を実行して、[flux1-dev-hyper8.safetensors](https://huggingface.co/Zuntan/dist/blob/main/flux1-dev-hyper8.safetensors) に抽出した LoRA を重み `1.0` でマージ
3. `ConvertGguf.bat` を実行して、マージモデルの `Q8_0`, `Q6_K`, `Q4_KS` に変換
4. [Forge](https://github.com/lllyasviel/stable-diffusion-webui-forge) の [`Checkpoint Merger`](https://github.com/lllyasviel/stable-diffusion-webui-forge/discussions/1224#discussioncomment-10384104) で `nf4``nf4-AIO(All-in-One, t5xxl_fp16, ae, clip_l 込み)` に変換