Technically Impossible

RAGのembedさえ整えば、1B級モデルでも精度維持できるのではないか？というアイデアが浮かんだ。たとえ話として擬人化すれば、体系化された知識に乏しい書生に資料を渡し、考える前に資料を調べて話をさせる、といったところだろうか。前回*1示したのは、SML (Small Language Model)のおかげで、GPU無し、RAM=8GBの環境で…