fltech - 富士通研究所の技術ブログ

1bit量子化で広がるLLMの可能性：高速・省メモリ化の最前線 こんにちは。富士通株式会社 人工知能研究所の酒井です。本ブログでは「1bit量子化」について、分かりやすく紹介します。本技術開発の背景には、巨大化する生成AIモデルと、それに伴う計算資源の課題があります。今回、人工知能研究所はこの問題を解決する画期的…