統計的信号処理は、情報通信,計測制御,画像,音声,医療など,幅広い分野で利用されており,特に様々な制約から観測データに相当量のノイズが混入することが不可避な分野において必須となる信号処理技術です。
本講義では,従来学んできた,統計や線形代数の知識を用いて,より高度な信号処理を行うために必要となる数学理論を,応用と関連づけながら学びます。具体的な講義項目は,ノイズの確率モデル,最小二乗推定の確率的意味,最尤推定法,ベイズ推定,EMアルゴリズム,線形動的システムなどです。
【到達目標】 本講義を履修することによって,以下の能力を身につけることを目標としています。
1)統計的信号処理技術の基礎となるパラメータ推定手法や最尤推定法などの数学理論を修得する。
2)統計的ノイズを含む観測システムに対するパラメータ推定技法を学び、これらの手法を情報通信工学分野で応用できるようになる。
ベクトル型確率変数,確率密度分布,線形逆問題,最尤推定,線形最小二乗法,正則化,劣決定系,ベイズ推定,EMアルゴリズム,カルマンフィルタ
✔ 専門力 | 教養力 | コミュニケーション力 | ✔ 展開力(探究力又は設定力) | ✔ 展開力(実践力又は解決力) |
週に2回の講義を行う。
授業計画 | 課題 | |
---|---|---|
第1回 | 信号処理における確率・統計 | なぜ信号処理に確率・統計が必要か。 |
第2回 | 多変数確率分布,ベクトル型確率変数 | 信号やノイズを確率変数で表現せよ。線形変換された確率変数の統計量を求めよ。 |
第3回 | 多次元正規分布 | 多次元正規分布において、共分散行列の固有値展開の意味を説明せよ。 |
第4回 | 未知量の推定,最尤推定 | ベクトル型確率変数における統計量の最尤推定量を求めよ。 |
第5回 | 線形逆問題と最小二乗法 | 線形逆問題における最小二乗解を導出せよ。 |
第6回 | ノイズ応答 | 観測データがノイズを含む場合、最小二乗解に含まれる誤差はどのようになるか。 |
第7回 | 正則化を用いた推定 | ノイズの影響を受けにくい推定を行う方法にはどのようなものがあるか。 |
第8回 | 劣決定系における推定解 | ミニマムノルム解とは何か。 |
第9回 | ベイズ推定 | 事前分布、事後分布の関係を理解し、ベイズ推定と最尤推定の違いを説明せよ。 |
第10回 | ベイズ線形回帰 | 最小二乗解とベイズ推定解との関係を説明せよ。 |
第11回 | ウィーナ―フィルタ | ウィーナ―フィルタと統計推定法との関係を明らかにせよ。 |
第12回 | 線形システムにおける期待値最大化アルゴリズム | 観測されない確率変数に確率モデルが依存する場合の統計推定法を説明せよ。 |
第13回 | 線形予測 | 時系列データに対して,線形予測モデルを推定せよ。 |
第14回 | スペクトル推定 | 線形予測で推定されたモデルを用いて、時系列データのスペクトル情報を推定せよ。 |
第15回 | カルマンフィルタ | 統計的ノイズを含む観測値から動的システムの状態を推定せよ |
関原健介著 『統計的信号処理 信号・ノイズ・推定を理解する』 共立出版
補足のための資料を配布する。
学習目標の達成度を前半部(統計的信号処理の基礎)と後半部(ベイズ推定とその応用)の2回の試験に分けて評価する.
ICT.M202 (確率と統計(情報通信)), ICT.S302 (関数解析と逆問題)を受講していることが望ましい。