数値解析セミナー
過去の記録 ~05/01|次回の予定|今後の予定 05/02~
開催情報 | 火曜日 16:30~18:00 数理科学研究科棟(駒場) 002号室 |
---|---|
担当者 | 齊藤宣一、柏原崇人 |
セミナーURL | https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/ |
2024年01月09日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
松原崇 氏 (大阪大学大学院基礎工学研究科)
微分方程式の数値解法に学ぶ・使う・代わる深層学習 (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
松原崇 氏 (大阪大学大学院基礎工学研究科)
微分方程式の数値解法に学ぶ・使う・代わる深層学習 (Japanese)
[ 講演概要 ]
ニューラルネットワークは,今日の深層学習ブームにおいて画像処理や自然言語処理を高度化できる技術とみなされている.しかし歴史を振り返ると,力学系のモデル化や制御にも長年使われていたことが分かる.かつてのそれは単なる表層的な近似でしかなかったが,近年,他の応用と同様にいくつかのブレークスルーと再発見があった.1つ目は,ニューラルネットワークの挙動そのものがある種の力学系の模倣になっているという新しい視点である.これはニューラルネットワークの情報処理メカニズムの解析に繋がるとともに,微分方程式の数値解法に学んだ新しいネットワークアーキテクチャの設計を可能にする.2つ目は,ニューラルネットワークを微分方程式の解関数の基底として使う方法である.誤差逆伝播法のおかげで,データ同化やシステム同定が容易となった.最後に数値解法そのものに取って代わろうとする野心的な試みがある.本発表では,これらのアプローチを俯瞰的に紹介する.
[ 参考URL ]ニューラルネットワークは,今日の深層学習ブームにおいて画像処理や自然言語処理を高度化できる技術とみなされている.しかし歴史を振り返ると,力学系のモデル化や制御にも長年使われていたことが分かる.かつてのそれは単なる表層的な近似でしかなかったが,近年,他の応用と同様にいくつかのブレークスルーと再発見があった.1つ目は,ニューラルネットワークの挙動そのものがある種の力学系の模倣になっているという新しい視点である.これはニューラルネットワークの情報処理メカニズムの解析に繋がるとともに,微分方程式の数値解法に学んだ新しいネットワークアーキテクチャの設計を可能にする.2つ目は,ニューラルネットワークを微分方程式の解関数の基底として使う方法である.誤差逆伝播法のおかげで,データ同化やシステム同定が容易となった.最後に数値解法そのものに取って代わろうとする野心的な試みがある.本発表では,これらのアプローチを俯瞰的に紹介する.
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/