エンジニアの思い立ったが吉日
id:hiros1192
ChatGPTがゴブリンに取り憑かれた理由——強化学習の「報酬ハッキング」が招いたAIの奇妙な暴走
AIが突然「ゴブリン」と「グレムリン」を連発し始めたら、あなたはどう思うだろうか。 「そんな映画みたいなこと、本当に起きるの?」と思うかもしれない。でも2025年末から2026年にかけて、ChatGPTで実際に起きた。それもOpenAI社内の調査によって「ゴブリンという単語の使用率が175%増加した」という数値まで出るほど、…