2017年6月12日 / 最終更新日時 : 2017年6月12日 馬場真哉 数学基礎 情報理論の基礎~情報量の定義から相対エントロピー、相互情報量まで~ 最終更新:2017年6月12日 この記事では「情報量をどのように定義するか」という問題への回答としての、情報エントロピー、そして、相対エントロピー(別名:カルバック・ライブラーの情報量)や相互情報量の導入とその解釈の仕方 […]