情報理論

情報理論は、情報の量や伝送、処理に関する数学的理論である。理論計算機科学においても、通信理論、暗号学、機械学習、データ圧縮など様々な分野で重要な役割を果たす。

---

Table of contents

• エントロピー
• f-ダイバージェンス
• Pinskerの不等式