情報統計力学   Statistical Mechanics of Information Processing

文字サイズ 

担当教員
樺島 祥介 
使用教室
金3-4(G512)  
単位数
講義:2  演習:0  実験:0
講義コード
94022
シラバス更新日
2013年9月20日
講義資料更新日
2013年9月20日
学期
後期

講義概要

統計力学,特にスピングラス理論における概念・計算技法の情報科学への応用について述べる。講義の流れとしてははじめの3,4回を使ってスピングラス理論の解説を行った後,個別問題へのその応用について言及する。トピックスとしては

1)連想記憶モデル,2)パーセプトロンの学習問題,3)スペクトル拡散符号,4)誤り訂正符号,5)公開鍵暗号,6)画像修復問題,7)論理式充足問題などを予定している(全てを取り上げる訳ではない)。統計力学の知識は特に要求しない。講義形式を予定しているが場合によってはゼミ形式で行うこともある。

講義の目的

ゲノム解析やデータマイニングなど大規模な統計計算の需要が急増している.しかしながら,従来の統計学は主に確率変数

の少ない少数自由度のモデルを中心に発展してきたため,これら本質的に大自由度とならざるを得ない統計的情報処理に

関する理論構築はこれからの課題である.本講義では,大自由度統計モデルに特有な性質・現象の本質を「解析的に解ける

モデル」を通して理解していく統計力学的手法について,このような接近法が成功している具体例を示しながら詳解する.

講義計画

1. 導入編:統計力学的接近法が活用されている情報科学の問題例

2. 技術編1:レプリカ法の数理

3. 技術編2:確率近似アルゴリズムとしての平均場近似法

4. 実践編:具体的問題への応用

教科書・参考書等

主に担当教官が作成したオリジナル資料を使用する.

参考書等
参考書としては難易度・内容とも多岐にわたるが

1. 樺島祥介 「学習と情報の平均場理論」(岩波書店 物理の世界)

2.伊庭幸人 「ベイズ統計と統計物理」(岩波書店 物理の世界)

3. 西森秀稔 「スピングラス理論と情報統計力学」(岩波書店 新物理学選書)

4. 堀口剛,佐野雅己 「情報数理物理」(講談社サイエンティフィック)

5.樺島祥介,上田修功 「平均場近似・EM法・変分ベイズ法」(岩波書店 統計科学のフロンティア11)

など.

関連科目・履修の条件等

確率・統計に関する基礎的な事項を履修していることが望ましい.学部において統計力学など多体問題・協力現象の解析法に
関する科目を履修している必要はありませんが,鞍点法,複素積分など解析的計算技法を履修している受講者はより深い
理解が得られると思います.

成績評価

成績は数回のレポート提出によって決める.

担当教員の一言

共通した数理を押さえることで多様な対象にアプローチすることが出来るシステム論的な視点を強調したい.統計力学はその視点を強力にサポートする道具である.

その他

【講義に関する連絡等】
随時 http://www.sp.dis.titech.ac.jp/~kaba/INFOPHYS/H20 (学内からのみアクセス可)を通して行います.

このページのトップへ