日本語モデルの長文QA性能の比較|oshizo

現在2023/12/28ですが、最近Swallow-13b、nekomata-14b、ELYZA-japanese-Llama-2-13bといくつか13b級のモデルがリリースされました。 (モデルを公開してくださっている皆様、ありがとうございます!) 類似検索などで取得した文脈に対するQAやチャット(いわゆるRAG)に興味があり、長いコンテキストをうまく考慮できる…