bitsandbytes

Diffusers가 FLUX-dev에서 bitsandbytes 4-bit·8-bit와 BF16을 비교한 수치를 정리합니다. BF16은 31.447 GB였고, 4-bit는 12.584 GB, 8-bit는 19.273 GB였습니다. 측정은 1x NVIDIA H100 80GB GPU에서 이뤄졌습니다.

더 읽기 →