数値解析セミナー
過去の記録 ~09/10|次回の予定|今後の予定 09/11~
開催情報 | 火曜日 16:30~18:00 数理科学研究科棟(駒場) 002号室 |
---|---|
担当者 | 齊藤宣一、柏原崇人 |
セミナーURL | https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/ |
2024年04月24日(水)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
橋本悠香 氏 (NTTネットワークサービスシステム研究所)
Koopman作用素を用いたニューラルネットワークの汎化誤差解析 (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
橋本悠香 氏 (NTTネットワークサービスシステム研究所)
Koopman作用素を用いたニューラルネットワークの汎化誤差解析 (Japanese)
[ 講演概要 ]
汎化性能(未知のデータに対してモデルがフィットするかどうか)の解析は,ニューラルネットワークにおける重要なトピックのうちの1つである.既存研究では,重み行列の低ランク性が,モデルの汎化性能を向上させるという解析が多い.しかし,必ずしも低ランク性のみが汎化性能を向上させる要因となるわけではなく,高ランクの重み行列によっても汎化性能の向上が起こる場合があることが,経験的には知られている.本発表では,Koopman作用素と呼ばれる線形作用素を用いてニューラルネットワークにおける合成の構造を表現することで,汎化性能の解析を行う.特に,高ランクの重み行列に焦点を当て,高ランクの重み行列によってニューラルネットワークの汎化性能が向上する仕組みを明らかにする.
[ 参考URL ]汎化性能(未知のデータに対してモデルがフィットするかどうか)の解析は,ニューラルネットワークにおける重要なトピックのうちの1つである.既存研究では,重み行列の低ランク性が,モデルの汎化性能を向上させるという解析が多い.しかし,必ずしも低ランク性のみが汎化性能を向上させる要因となるわけではなく,高ランクの重み行列によっても汎化性能の向上が起こる場合があることが,経験的には知られている.本発表では,Koopman作用素と呼ばれる線形作用素を用いてニューラルネットワークにおける合成の構造を表現することで,汎化性能の解析を行う.特に,高ランクの重み行列に焦点を当て,高ランクの重み行列によってニューラルネットワークの汎化性能が向上する仕組みを明らかにする.
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/