2021年度 統計数理   Theory of Statistical Mathematics

文字サイズ 

アップデートお知らせメールへ登録 お気に入り講義リストに追加
開講元
数理・計算科学コース
担当教員名
金森 敬文 
授業形態
講義    (ZOOM)
曜日・時限(講義室)
火7-8  金7-8  
クラス
-
科目コード
MCS.T507
単位数
2
開講年度
2021年度
開講クォーター
1Q
シラバス更新日
2021年3月19日
講義資料更新日
-
使用言語
英語
アクセスランキング
media

講義の概要とねらい

統計学と機械学習の理論に関する発展的話題を学ぶ.具体的には,カーネル法と呼ばれるノンパラメトリック学習の方法,学習誤差・予測誤差の統計的性質,ラデマッハ複雑度による予測誤差の評価法などを理解する.

到達目標

【到達目標】統計学や機械学習は,データから有用な情報を引き出し,予測や意思決定に役立てる研究分野である. 講義では,方法論を知識として得るだけでなく,それら手法の正当性など背景となる理論を学ぶ. 広く様々な問題に各種手法を適用し,また自ら新しい手法を構築できるようになることが到達目標である.
【テーマ】講義では,統計学の発展的な手法を,様々な応用分野との関連を踏まえながら学ぶ.特に機械学習との関連を重視し,統計学・機械学習の双方で中心的な話題を紹介する.

キーワード

機械学習,統計学,カーネル法,予測誤差,ラデマッハ複雑度,統計的一致性

学生が身につける力(ディグリー・ポリシー)

専門力 教養力 コミュニケーション力 展開力(探究力又は設定力) 展開力(実践力又は解決力)

授業の進め方

スライドを用いてオンラインで講義を進める.

授業計画・課題

  授業計画 課題
第1回 イントロダクション 機械学習の問題設定を例を通して理解する.
第2回 回帰分析 回帰分析の統計的モデリング,カーネル法,正則化,カーネルリッジ回帰を理解する.
第3回 カーネル法の理論 I:正定値カーネル 正定値行列を復習し,正定値カーネルの定義を理解する.その性質と例を学ぶ.
第4回 カーネル法の理論 II:再生核ヒルベルト空間 再生核ヒルベルト空間による統計的モデリングについて学ぶ.
第5回 スプライン平滑化とカーネル法I ノンパラメトリック法であるスプライン平滑化とカーネル法の関連を学ぶ.
第6回 スプライン平滑化とカーネル法II B-スプライン法,多次元スプライン回帰などを学ぶ
第7回 判別分析とカーネル法 判別問題に対するカーネル法であるサポートベクトルマシンを学ぶ.
第8回 確率論の復習 機械学習で用いられる確率論を復習する.
第9回 確率不等式 機械学習で用いられる確率不等式を理解する.
第10回 統計的学習理論の問題設定 統計的学習理論の問題設定を理解する.仮説集合,学習誤差,予測誤差,ベイズ誤差,ベイズルールなどの基礎事項を学ぶ.
第11回 予測誤差とモデル選択 統計的学習における予測誤差とモデル選択の方法を学ぶ.
第12回 ラデマッハ複雑度 統計モデルの複雑度を測るラデマッハ複雑度について学ぶ.
第13回 一様大数の法則と学習アルゴリズムの統計的一致性 大数の法則の拡張である一様大数の法則を学び,学習アルゴリズムの統計的一致性を証明する.
第14回 まとめ 講義内容をまとめる

授業時間外学修(予習・復習等)

学修効果を上げるため,教科書や配布資料等の該当箇所を参照し,「毎授業」授業内容に関する予習と復習(課題含む)をそれぞれ概ね100分を目安に行うこと。

教科書

特になし

参考書、講義資料等

講義資料を配布する.
参考書:Shai Shalev-Shwartz and Shai Ben-David, Understanding Machine Learning: From Theory to Algorithms, Cambridge University Press, 2014.

成績評価の基準及び方法

レポート

関連する科目

  • MCS.T223 : 数理統計学
  • MCS.T402 : 数理最適化理論
  • MCS.T403 : 統計的学習理論

履修の条件(知識・技能・履修済科目等)

統計および確率論の基礎を知っていることが望ましい.

このページのトップへ