2024/09/05 (木)13:00-14:30 14:40-16:10 講義棟504室
2024/09/06 (金)13:00-14:30 14:40-16:10 講義棟504室
(以下アップデートしてゆきます。最新版はリロードして見てください。)
Outline
導入 学習とデザインの統計力学:機械学習、生物進化
ランダム系の物理とのつながり(スピングラス、構造ガラス,…)
単体パーセプトロンによる学習の統計力学
(1) 丸暗記 (ランダム制約充足問題)
(2) 教師-生徒シナリオ (統計的推定問題)
多層パーセプトロン(MLP)への拡張
(0) 1+$\infty$次元スピングラスの転送行列とMLP - カオス効果と表現能力の高さ
(1) MLPによる学習の統計力学:1+$\infty$次元スピングラス転送行列のアンサンブル
(2) 空間的に不均一な学習(濡れ転移、空間変化するレプリカ対称性の破れ)
MNISTデータに付加したノイズ除去のタスクを学習した場合の例 (学習シミュレーション)
展望
講義スライド
講義ノート