「EEE.M251: 電気電子インフォマティクス基礎I」で学んだ機械学習の各手法に加えて、本科目(EEE.M252)では、深層学習についての各種アルゴリズムを学ぶ。深層学習の基本概念への理解は、将来的に電気電子系諸分野の研究開発を行う上で重要となる。
本講義を履修することで、次の能力を修得する。
1) 深層学習における種々のアルゴリズムについて理解を深める。
2) Pythonを用いた簡単な実装ができるようになる。
AI、深層学習、Python
✔ 専門力 | 教養力 | コミュニケーション力 | ✔ 展開力(探究力又は設定力) | 展開力(実践力又は解決力) |
✔ 電気電子分野の応用専門力 |
各回の講義ではT2SCHOLAにアップしたスライド資料を用いて説明を行う。また、Pythonを用いた演習を4回ほど行う。
授業計画 | 課題 | |
---|---|---|
第1回 | ニューラルネットワークの基礎 | 深層学習の全体概要について理解を深める。 |
第2回 | 誤差逆伝播法と勾配消失問題 | ニューラルネットワークにおけるトレーニングアルゴリズムについて学ぶ |
第3回 | 深層化ネットワークのための各種技術 | 深層化したネットワークに用いられる代表的な収束手法について学ぶ |
第4回 | 畳み込みニューラルネット(CNN) 1 | 画像データ処理のための畳み込みニューラルネット(CNN)の基礎について学ぶ |
第5回 | 畳み込みニューラルネット(CNN) 2 | 画像データ処理のための畳み込みニューラルネット(CNN)の基礎について学ぶ |
第6回 | <演習> PythonによるCNNの実装1 | PyTorchを用いたCNNの実装について演習を行う(環境構築やライブラリ、基本構文など) |
第7回 | <演習> PythonによるCNNの実装2 | PyTorchを用いたCNNの実装について演習を行う(実際にCNNを構築してみる) |
第8回 | 再帰的ニューラルネット(RNN) | 時系列データ処理のための再帰的ニューラルネットについて学ぶ |
第9回 | アテンション機構とTransformer 1 | アテンション機構とTransformerの詳細を解説する |
第10回 | アテンション機構とTransformer 2 | アテンション機構とTransformerの詳細を解説する |
第11回 | <演習> Pythonによるアテンション機構の実装 1 | PyTorchを用いたTransformerの実装について演習を行う |
第12回 | <演習> Pythonによるアテンション機構の実装 2 | PyTorchを用いたTransformerの実装について演習を行う |
第13回 | 敵対的生成ネットワーク(GAN)と変分オートエンコーダ(VAE) | GANとオートエンコーダを用いた表現学習と生成型学習について学ぶ |
第14回 | 拡散モデル(Diffusion Model)1 | データ生成技術の新しい展開を学ぶ |
第15回 | 拡散モデル(Diffusion Model)2 | データ生成技術の新しい展開を学ぶ |
基本的に授業の予習は必要としないが、授業で説明した概要を踏まえた上で、参考書の該当箇所に目をとおして理解を深めることを強く勧める。
特にないが、参考書1番目のファイアーサラマンダーを強く勧める。
scikit-learn、Keras、TensorFlowによる実践機械学習(Aurélien Géron著)(オライリー)
機械学習エンジニアのためのTransformers ―最先端の自然言語処理ライブラリによるモデル開発(Lewis Tunstall, Leandro von Werra, Thomas Wolf著)(オライリー)
拡散モデル データ生成技術の数理(岡野原大輔 著)(岩波書店)
深層学習に関する理解度を評価するために、以下で成績を付ける。
毎回の出席レポート(40%)
中間:Pythonを用いたプログラムの提出(30%)
期末試験(30%)
EEE.M251 電気電子インフォマティクス基礎I: 必須
EEE.M221 計算アルゴリズムとプログラミング: 必須
EEE.M231 応用確率統計: 推奨