からっぽのしょこ
id:anemptyarchive
平均情報量(エントロピー)の定義
はじめに 機械学習でも登場する情報理論におけるエントロピーを1つずつ確認していくシリーズです。 この記事では、エントロピーを扱います。 【前の内容】 www.anarchive-beta.com 【今回の内容】 はじめに 平均情報量(エントロピー)の定義 定義 可視化 2次元の場合 3次元の場合 参考文献 おわりに 平均情報量(エントロピ…