Vengineerの妄想

はじめに このブログでもNVIDIAの強みの一つである NVLink & IB。IBについては、買収したMellanoxの技術です。 NVLink にてGPU間を直接接続し、IBにてNode間接続を行う。 NVLinkに関しては、v4 は 256個のGPUが接続できる。v5 は 576個のGPUが接続できる。 ただし、NVLink は NVIDIAが提供しているプロダクトのみに利用で…