GGUF
File size: 1,510 Bytes
7044e0e
 
 
 
 
a26b51e
172b3f5
 
bb4a6ca
172b3f5
 
a26b51e
7044e0e
 
 
 
172b3f5
7044e0e
 
a26b51e
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
---
license: other
license_name: flux-1-dev-non-commercial-license
license_link: https://huggingface.co/black-forest-labs/FLUX.1-dev/blob/main/LICENSE.md
---
[EasyForge](https://github.com/Zuntan03/EasyForge) の [flux_tool](https://x.com/Zuntan03/status/1830170076441407862) で [iNiverse Mix Flux v1.1](https://civitai.com/models/226533?modelVersionId=784664) を [Hyper Flux](https://huggingface.co/black-forest-labs/FLUX.1-dev) で 8steps 生成に対応して、GGUF と nf4 に変換したモデルです。  
Geforce RTX 3060 12GB で、速度重視の nf4 なら 30秒、高品質の Q8_0 なら 45秒で生成できます。  
Flux Dev 用 の LoRA も使えます。

![](./iNiverse-nf4.png)  
![](./iNiverse-Q8_0.png)

## レシピ

`*.bat` は [EasyForge](https://github.com/Zuntan03/EasyForge) の `flux_tool/` にあります。

1. `ExtractLora-FluxD-fp16.bat` を実行して、iNiverse から LoRA を Dim `128` で抽出
2. `ModelMergeLora.bat` を実行して、[flux1-dev-hyper8.safetensors](https://huggingface.co/Zuntan/dist/blob/main/flux1-dev-hyper8.safetensors) に抽出した LoRA を重み `1.0` でマージ
3. `ConvertGguf.bat` を実行して、マージモデルの `Q8_0`, `Q6_K`, `Q4_KS` に変換
4. [Forge](https://github.com/lllyasviel/stable-diffusion-webui-forge) の [`Checkpoint Merger`](https://github.com/lllyasviel/stable-diffusion-webui-forge/discussions/1224#discussioncomment-10384104) で `nf4``nf4-AIO(All-in-One, t5xxl_fp16, ae, clip_l 込み)` に変換