OpenAI、LLMの「幻覚」についての論文公開 「評価方法の抜本的見直し」を提言

OpenAIはLLMの「幻覚」に関する論文を公開した。幻覚の原因は、学習データにパターンがない事実の学習の難しさと、不確実性を示すより推測を促す現在の評価方法にあると分析する。対策として、評価方法自体を抜本的に見直し、不確実性を示す行動を評価する仕組みが必要だと主張した。