카테고리
FLUX.1-dev
-
FLUX-dev 메모리를 줄인 Diffusers 양자화 비교
Diffusers가 FLUX-dev에서 bitsandbytes 4-bit·8-bit와 BF16을 비교한 수치를 정리합니다. BF16은 31.447 GB였고, 4-bit는 12.584 GB, 8-bit는 19.273 GB였습니다. 측정은 1x NVIDIA H100 80GB GPU에서 이뤄졌습니다.
카테고리
Diffusers가 FLUX-dev에서 bitsandbytes 4-bit·8-bit와 BF16을 비교한 수치를 정리합니다. BF16은 31.447 GB였고, 4-bit는 12.584 GB, 8-bit는 19.273 GB였습니다. 측정은 1x NVIDIA H100 80GB GPU에서 이뤄졌습니다.