2024/09/05 (木)13:00-14:30 14:40-16:10 講義棟504室

2024/09/06 (金)13:00-14:30 14:40-16:10 講義棟504室

(以下アップデートしてゆきます。最新版はリロードして見てください。)

Outline

  1. 導入 学習とデザインの統計力学:機械学習、生物進化

             ランダム系の物理とのつながり(スピングラス、構造ガラス,…)
    
  2. 単体パーセプトロンによる学習の統計力学

    (1) 丸暗記 (ランダム制約充足問題)

    (2) 教師-生徒シナリオ (統計的推定問題)

  3. 多層パーセプトロン(MLP)への拡張

    (0) 1+$\infty$次元スピングラスの転送行列とMLP - カオス効果と表現能力の高さ

    (1) MLPによる学習の統計力学:1+$\infty$次元スピングラス転送行列のアンサンブル

    (2) 空間的に不均一な学習(濡れ転移、空間変化するレプリカ対称性の破れ)

  4. MNISTデータに付加したノイズ除去のタスクを学習した場合の例 (学習シミュレーション)

  5. 展望

講義スライド

lecture.pdf

講義ノート

広島市立大学情報科学研究科集中講義202409.pdf