8月18日に東京大学松尾研究室が日英2ヶ国語対応の大規模言語モデルWeblab-10Bを公開しました。 今まで、無料Colabではメモリが足りなかったため、このモデルは利用できなかったのですが、今回、軽量な4bit量子化モデルが公開されたため、早速試してみることにしました。 なお、最近、transformersがAutoGPTQを統合したため…