Intel Habana Gaudi2 と NVIDIA A100を比較してみる

はじめに 昨日、 Gaudi2 のコスパについてみてみました。今日は、Gaudi2 と A100 の性能比較をもうちょっとしてみます。 Gaudi2 : BF16=400 TFLOP/s, HBM=96GB, 2450GB/s (4.166) A100 : BF16=312 TFLOP/s, HBM=80GB, 2039GB/s (3.9) メモリ帯域とメモリ容量は、Gaudi 2の方がいいですね。 学習になると、1個のデバイスだ…