2023年度 情報統計力学   Statistical Mechanics for Information Processing

文字サイズ 

アップデートお知らせメールへ登録 お気に入り講義リストに追加
開講元
数理・計算科学コース
担当教員名
髙邉 賢史 
授業形態
講義    (対面型)
メディア利用科目
曜日・時限(講義室)
月3-4(W8E-308(W834))  木3-4(W8E-308(W834))  
クラス
-
科目コード
MCS.M422
単位数
2
開講年度
2023年度
開講クォーター
4Q
シラバス更新日
2023年3月20日
講義資料更新日
-
使用言語
英語
アクセスランキング
media

講義の概要とねらい

統計力学は理論物理学の一分野であり,マクロな熱力学をミクロの視点から理解するために構築された.統計力学は他の物理学の諸分野と同様に物質等のモノを扱う理論として進展してきた.一方で,興味深いことに統計力学は情報科学というコトを扱う分野にも非常に強力なツールであることが1970年代から明らかとなってきた.本講義では,物理学を未修の学生にもできるだけ分かりやすく,平衡統計力学の基本知識を身に着けることを目標とする.特に,情報科学と密接な関係にある統計力学の道具であるマルコフ連鎖モンテカルロ法と平均場近似(確率伝搬法)について学習する.また,それらの情報科学の諸分野,例えばランダムグラフ理論,誤り訂正符号,組合せ最適化,等への応用についても紹介する.

到達目標

以下の項目について習得し,情報科学との関連性を身に着ける:
1. カノニカル分布,分配関数,自由エネルギー,イジングモデル,相転移現象等の平衡統計力学の基本的な概念
2. マルコフ連鎖モンテカルロ法の基本的な理論と実装方法
3. 平均場近似と組合せ最適化等への応用

キーワード

統計力学,分配関数,マルコフ連鎖モンテカルロ法,確率伝搬法

学生が身につける力(ディグリー・ポリシー)

専門力 教養力 コミュニケーション力 展開力(探究力又は設定力) 展開力(実践力又は解決力)

授業の進め方

資料に沿って講義を行う.

授業計画・課題

  授業計画 課題
第1回 イントロダクション 統計力学に関する基礎知識(カノニカル分布,自由エネルギー等)と他分野との関わりを学ぶ.
第2回 イジングモデルと相転移 イジングモデルや平均場近似,相転移現象について学ぶ.
第3回 マルコフ連鎖モンテカルロ法 (1) マルコフ連鎖モンテカルロ法の基礎理論について学ぶ.
第4回 マルコフ連鎖モンテカルロ法 (2) 代表的なギブスサンプリングやメトロポリス・ヘイスティングス法について学ぶ.
第5回 先進的なマルコフ連鎖モンテカルロ法 シミュレーティッド・アニーリングやレプリカ交換法について学ぶ.
第6回 グラフとランダムグラフ グラフ理論の基礎とランダムグラフの定義や相転移現象について学ぶ.
第7回 木上の確率伝搬法 木上の厳密な平均場近似(確率伝搬法)について学ぶ.
第8回 ループのあるグラフに対する確率伝搬法 ループのあるグラフに対する確率伝搬法の性質について学ぶ.
第9回 確率伝搬法の解析手法 確率伝搬法に関する相転移現象を解析するキャビティ法について学ぶ.
第10回 情報理論との関わり 通信路や誤り訂正符号について学ぶ.
第11回 誤り訂正符号との関わり 低密度パリティ検査符号に対する確率伝搬復号について学ぶ.
第12回 組合せ最適化との関わり 組合せ最適化問題に対する統計力学の応用について学ぶ.
第13回 機械学習との関わり 統計力学とベイズ推定との関わりについて学ぶ.
第14回 まとめ 本講義のおさらいをする.

授業時間外学修(予習・復習等)

学修効果を上げるため,教科書や配布資料等の該当箇所を参照し,毎授業授業内容に関する 予習と復習(課題含む)をそれぞれ概ね100分を目安に行うこと.

教科書

資料を使用するため指定しない

参考書、講義資料等

M. Mézard and A. Montanari, “Information, Physics, and Computation,” Oxford University Press, 2009.

成績評価の基準及び方法

レポートによって評価する.

関連する科目

  • MCS.T212 : 確率論基礎
  • MCS.T403 : 統計的学習理論

履修の条件(知識・技能・履修済科目等)

(古典的)確率論,統計学に関する基本的な知識を有していることが望ましい.統計力学を含む物理学の知識は問わない.

このページのトップへ