I 情報理論とそれに関連したトピックをとりあげ講義する。確率と統計第一の知識を仮定する。
II 情報量,エントロピー,符号化理論,マルコフ連鎖
通信やコミュニケーション手段の基礎となる情報理論の入門として,シャノンの通信の理論と符合理論に基づき,情報量と情報源,情報源の符合化,情報伝送の理論と通信ネットワークのモデル化等について講義する予定である.
1. 情報理論とは?
2. 情報量,情報源とエントロピー
3. 符合の性質と構成法
4. 情報源符合化
5. 通信路と相互情報量
6. 通信路符合化
7. 情報セキュリティ技術
参考書等
テキストは指定しないが,参考書として次のものを挙げておく:
・ N. Abramson, “Information Theory and Coding,” McGraw-Hill (邦訳あり).
・ 今井秀樹, “情報理論,” 昭晃堂.
確率論の基礎知識があれば望ましいが, 必要に応じて適宜説明するのでこの知識がなくて
も受講可能である.
期末試験により評価する.