TuringがLLM専用アクセラレータHummingbirdを作る理由を聴いて

はじめに 下記の投稿にあるように、TURINGがLLM専用アクセラレータ(Hummingbird)について説明する会に参加しました。 TuringではLLM専用半導体アクセラレーター開発プロジェクト「Hummingbird」を立ち上げて、半導体ですぐれた業績を収めた方をリーダーに現在進めています。Hummingbirdの方向性は・LLM推論のみ・int4ベー…