ao-Karasu:最先端の72B日本語LLM開発|Lightblue

はじめに 私たちLightblueの自然言語処理チーム(LLab)は、新しい最先端の日本語の大規模言語モデル(LLM)を開発しました!この記事では、このモデルの開発概要、できることとできないこと、そして今後の改善のための取り組みについてお話しします。 モデルの開発 ベースモデル 最高の日本語性能を持つLLMを開発する際…