本日、リワードハッキングについて面白いXのポストを見つけたので、これを考察してみようと思います。リワードハッキングとは、AI開発者が遭遇する、AIが意図せず行う想定外の“抜け道利用”のことです。 there is a missing mood when a researcher finds his model reward hacking he is silently proud of its exploit…