機械学習モデルをビジネスで活用するには、なぜその予測がなされたか等、高い解釈性・説明性が求めらます。DataRobotは従来よりPermutation ImportanceやXEMP等の手法でそれを実現してきました。本記事では最近のアップデートで可能になったShapley Valuesを応用したSHAPによる特徴量の影響度算出について解説します。