CUBE SUGAR CONTAINER

NVIDIA が提案しているテンソルのデータ形式 (フォーマット) に NVFP4 がある。 NVFP4 を使うと、テンソルを表現するのに必要なビット数を小さく抑えられる。 なおかつ、テンソルの要素として FP32 や FP16/BF16 をそのまま使う場合と比べたときの性能の劣化を抑えられる。 また、NVIDIA の Blackwell アーキテクチャ以降…