本文印刷
全画面プリント
数値解析セミナー
過去の記録 ～04/22｜次回の予定｜今後の予定 04/23～
| 開催情報 | 火曜日 16:30～18:00 数理科学研究科棟(駒場) 002号室 |
|---|---|
| 担当者 | 齊藤宣一、柏原崇人 |
| セミナーURL | https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/ |
過去の記録
2025年04月22日(火)
16:30-18:00 数理科学研究科棟(駒場) 126号室
※普段と開催場所が異なりますのでご注意ください
谷口靖憲 氏 (東京大学大学院数理科学研究科)
A Hyperelastic Extended Kirchhoff–Love Shell Model: Formulation and Isogeometric Discretization (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
※普段と開催場所が異なりますのでご注意ください
谷口靖憲 氏 (東京大学大学院数理科学研究科)
A Hyperelastic Extended Kirchhoff–Love Shell Model: Formulation and Isogeometric Discretization (Japanese)
[ 講演概要 ]
アイソジオメトリック解析 (IGA) の普及によって、それまで有限要素解析で特別な処理が必要であった高階微分を含む方程式を直接実装することが可能となった。薄肉構造物の力学定式化・計算法であるKirchhoff–Love (KL) シェルモデルはその中でも代表的なものであり、IGAと組み合わせることで有力な計算手段となっている。近年では工業製品における薄肉構造にとどまらず、心臓弁のような柔らかく、構造表面から厚み方向に血流による圧力を受けるような現象まで、その適用範囲を広げている。
発表では、近年講演者を中心に開発した「拡張Kirchhoff–Loveシェルモデル」について、定式化とIGAによる数値解析例を中心に紹介する。本モデルは、回転自由度を持たない従来のIGAシェルと同じ表現において、慣例的に用いられてきた平面応力状態仮定をやめ、新たに厚み方向垂直応力を導入することで、心臓弁のような３次元応力状態を再現可能なモデルである。
[ 参考URL ]アイソジオメトリック解析 (IGA) の普及によって、それまで有限要素解析で特別な処理が必要であった高階微分を含む方程式を直接実装することが可能となった。薄肉構造物の力学定式化・計算法であるKirchhoff–Love (KL) シェルモデルはその中でも代表的なものであり、IGAと組み合わせることで有力な計算手段となっている。近年では工業製品における薄肉構造にとどまらず、心臓弁のような柔らかく、構造表面から厚み方向に血流による圧力を受けるような現象まで、その適用範囲を広げている。
発表では、近年講演者を中心に開発した「拡張Kirchhoff–Loveシェルモデル」について、定式化とIGAによる数値解析例を中心に紹介する。本モデルは、回転自由度を持たない従来のIGAシェルと同じ表現において、慣例的に用いられてきた平面応力状態仮定をやめ、新たに厚み方向垂直応力を導入することで、心臓弁のような３次元応力状態を再現可能なモデルである。
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2025年04月15日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
伊藤優司 氏 (株式会社豊田中央研究所)
不確実性や未知要素をもつシステムの制御 (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
伊藤優司 氏 (株式会社豊田中央研究所)
不確実性や未知要素をもつシステムの制御 (Japanese)
[ 講演概要 ]
化学・生物・人・社会・交通流等、世の中の多くの現象・システムは不確かさや未知の要素を持つ。これらを適切に解析・誘導・制御するため、確率論やデータに基づく制御理論が古くから整備されてきている。不確かさは確率パラメータとして表現する事ができ、時変なパラメータ、時不変なパラメータ、それらの混在等で分類する事ができ、各々に適した解析手法や制御設計手法が提案されている。また、未知の要素に対処するため、近年は機械学習分野で発展したモデルを用いたデータ駆動型の制御理論も盛んに研究されている。本講演では、講演者のこれまでの研究成果を中心に、不確実性や未知要素に対する制御理論の一部を紹介する。
[ 参考URL ]化学・生物・人・社会・交通流等、世の中の多くの現象・システムは不確かさや未知の要素を持つ。これらを適切に解析・誘導・制御するため、確率論やデータに基づく制御理論が古くから整備されてきている。不確かさは確率パラメータとして表現する事ができ、時変なパラメータ、時不変なパラメータ、それらの混在等で分類する事ができ、各々に適した解析手法や制御設計手法が提案されている。また、未知の要素に対処するため、近年は機械学習分野で発展したモデルを用いたデータ駆動型の制御理論も盛んに研究されている。本講演では、講演者のこれまでの研究成果を中心に、不確実性や未知要素に対する制御理論の一部を紹介する。
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2024年11月27日(水)
16:30-18:00 数理科学研究科棟(駒場) 002号室
中野張 氏 (東京科学大学情報理工学院)
シュレディンガー問題と拡散生成モデル (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
中野張 氏 (東京科学大学情報理工学院)
シュレディンガー問題と拡散生成モデル (Japanese)
[ 講演概要 ]
シュレディンガー問題とは，終端分布の制約付き確率制御問題のうちエントロピー最小のものを求める問題のことをいう．これは元々は，初期分布と終端分布が固定された粒子群の中で最も起こりやすい時間発展は何か，というE. シュレディンガーにより1931年，1932年に提示された問題に端を発している．シュレディンガー問題の理論は，確率制御との関連のみならず，可逆過程（reciprocal process），逆時間拡散過程，確率力学などの理論を生み出しながら発展してきた．他方，拡散生成モデルとは，拡散過程を利用した深層生成モデルのことであり，特に，Denoising Diffusion Probabilistic Model (DDPM)と呼ばれる拡散モデルは，近年，画像生成AIの基盤モデルとして採用され大きな注目を集めている．拡散モデルは所与のデータ分布にノイズを加えていく過程でデータ分布に関連するスコア関数を学習させ，このスコア関数を用いて逆時間で拡散過程を現在に「戻す」という手続きにより実現されている．拡散生成モデルが登場して程なくしてシュレディンガー問題との関係が指摘され，最近では生成モデルへの応用という観点からシュレディンガー問題が再注目されている．本講演の前半では，シュレディンガー問題と拡散生成モデルの関連について，歴史的・技術的観点から概説し，シュレディンガー問題の生成モデルへの今後の応用可能性について述べたい．後半では，DDPMの収束についての理論的結果を報告する．具体的には，データ分布の密度関数に対する適当な正則性条件と，ノイズスケジュールのパラメーター，スコア推定誤差，ノイズ推定関数の漸近挙動の仮定の下で，DDPMにより構成された確率変数の分布列が，時間ステップ数の極限において，目標分布に弱収束することを示す．
[ 参考URL ]シュレディンガー問題とは，終端分布の制約付き確率制御問題のうちエントロピー最小のものを求める問題のことをいう．これは元々は，初期分布と終端分布が固定された粒子群の中で最も起こりやすい時間発展は何か，というE. シュレディンガーにより1931年，1932年に提示された問題に端を発している．シュレディンガー問題の理論は，確率制御との関連のみならず，可逆過程（reciprocal process），逆時間拡散過程，確率力学などの理論を生み出しながら発展してきた．他方，拡散生成モデルとは，拡散過程を利用した深層生成モデルのことであり，特に，Denoising Diffusion Probabilistic Model (DDPM)と呼ばれる拡散モデルは，近年，画像生成AIの基盤モデルとして採用され大きな注目を集めている．拡散モデルは所与のデータ分布にノイズを加えていく過程でデータ分布に関連するスコア関数を学習させ，このスコア関数を用いて逆時間で拡散過程を現在に「戻す」という手続きにより実現されている．拡散生成モデルが登場して程なくしてシュレディンガー問題との関係が指摘され，最近では生成モデルへの応用という観点からシュレディンガー問題が再注目されている．本講演の前半では，シュレディンガー問題と拡散生成モデルの関連について，歴史的・技術的観点から概説し，シュレディンガー問題の生成モデルへの今後の応用可能性について述べたい．後半では，DDPMの収束についての理論的結果を報告する．具体的には，データ分布の密度関数に対する適当な正則性条件と，ノイズスケジュールのパラメーター，スコア推定誤差，ノイズ推定関数の漸近挙動の仮定の下で，DDPMにより構成された確率変数の分布列が，時間ステップ数の極限において，目標分布に弱収束することを示す．
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2024年10月16日(水)
16:30-18:00 数理科学研究科棟(駒場) 002号室
中井 拳吾 氏 (岡山大学学術研究院)
偏った時系列データを用いた機械学習による時間発展モデリング (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
中井 拳吾 氏 (岡山大学学術研究院)
偏った時系列データを用いた機械学習による時間発展モデリング (Japanese)
[ 講演概要 ]
リザーバーコンピューティングと呼ばれる機械学習手法が決定論的ダイナミクスのモデリングに有効であり、単に時系列予測能力が高いだけではなく力学系構造の再現性なども明らかになってきている。本講演の前半では、時系列データの学習の難しさやリザーバーコンピューティングによる学習の仕組みを説明し、周辺の問題や研究のモチベーションについて紹介する。後半では、準備できるデータが少ない場合やデータに偏りがある場合のアトラクターや不変密度分布等の再現性などの結果を紹介する。時間が許せば、現在考えている問題についても触れる。
本講演は、一橋大学の斉木吉隆氏との共同研究に基づく。
[ 参考URL ]リザーバーコンピューティングと呼ばれる機械学習手法が決定論的ダイナミクスのモデリングに有効であり、単に時系列予測能力が高いだけではなく力学系構造の再現性なども明らかになってきている。本講演の前半では、時系列データの学習の難しさやリザーバーコンピューティングによる学習の仕組みを説明し、周辺の問題や研究のモチベーションについて紹介する。後半では、準備できるデータが少ない場合やデータに偏りがある場合のアトラクターや不変密度分布等の再現性などの結果を紹介する。時間が許せば、現在考えている問題についても触れる。
本講演は、一橋大学の斉木吉隆氏との共同研究に基づく。
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2024年07月09日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
水曜日の開催ではありませんので、ご注意ください。
Bernardo Cockburn 氏 (University of Minnesota)
The transformation of stabilizations into spaces for Galerkin methods for PDEs (English)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
水曜日の開催ではありませんので、ご注意ください。
Bernardo Cockburn 氏 (University of Minnesota)
The transformation of stabilizations into spaces for Galerkin methods for PDEs (English)
[ 講演概要 ]
We describe a novel technique which allows us to transform the terms which render Galerkin methods stable into spaces (JJIAM, 2023). We begin by applying this technique to show that the Continuous and Discontinuous Galerkin (DG) methods for ODEs produce the very same approximation of the time derivative, and use this to obtain superconvergence points of the DG method. We then apply this technique to mixed methods for second-order elliptic equations to show that they can always be recast as hybridizable DG (HDG) methods. We then show that this recating makes the implementation from 10% to 20% better for polynomial degrees ranging from 1 to 20.We end by sketching or ongoing and future work.
[ 参考URL ]We describe a novel technique which allows us to transform the terms which render Galerkin methods stable into spaces (JJIAM, 2023). We begin by applying this technique to show that the Continuous and Discontinuous Galerkin (DG) methods for ODEs produce the very same approximation of the time derivative, and use this to obtain superconvergence points of the DG method. We then apply this technique to mixed methods for second-order elliptic equations to show that they can always be recast as hybridizable DG (HDG) methods. We then show that this recating makes the implementation from 10% to 20% better for polynomial degrees ranging from 1 to 20.We end by sketching or ongoing and future work.
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2024年05月29日(水)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
早川知志 氏 (ソニーグループ株式会社)
ランダム凸包とカーネル求積 (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
早川知志 氏 (ソニーグループ株式会社)
ランダム凸包とカーネル求積 (Japanese)
[ 講演概要 ]
確率測度の離散近似の代表例として、古典的には低次モーメントのマッチングによるcubature（立体求積）がある。これは一般の空間においても有限個の可積分関数の積分値を保つような離散化として導入でき、ランダムサンプリングによるナイーブな構成が考えられる。講演の前半では、この確率的構成の成功確率を定式化したものとして、ランダム凸包が空間上の点を含む確率についてのバウンドを与える。後半ではさらに、この一般化cubatureの問題が（被積分関数のクラスとして再生核ヒルベルト空間を想定する）カーネル求積問題に実用的なアルゴリズムとともに応用できることをみる。
講演内容は次の学位論文にもとづく：
https://ora.ox.ac.uk/objects/uuid:15008016-2418-4c9a-a2f7-c9515a0657b1
[ 参考URL ]確率測度の離散近似の代表例として、古典的には低次モーメントのマッチングによるcubature（立体求積）がある。これは一般の空間においても有限個の可積分関数の積分値を保つような離散化として導入でき、ランダムサンプリングによるナイーブな構成が考えられる。講演の前半では、この確率的構成の成功確率を定式化したものとして、ランダム凸包が空間上の点を含む確率についてのバウンドを与える。後半ではさらに、この一般化cubatureの問題が（被積分関数のクラスとして再生核ヒルベルト空間を想定する）カーネル求積問題に実用的なアルゴリズムとともに応用できることをみる。
講演内容は次の学位論文にもとづく：
https://ora.ox.ac.uk/objects/uuid:15008016-2418-4c9a-a2f7-c9515a0657b1
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2024年05月15日(水)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
榊原航也 氏 (金沢大学理工研究域)
離散最適輸送問題の Bregman ダイバージェンスによる正則化 (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
榊原航也 氏 (金沢大学理工研究域)
離散最適輸送問題の Bregman ダイバージェンスによる正則化 (Japanese)
[ 講演概要 ]
最適輸送理論は確率測度間の距離を測ることを可能とし，数学や物理学，経済学，統計学，コンピュータ科学，機械学習等，数多くの分野への応用を持つ．有限集合上での最適輸送問題を考えると，これは線型計画問題に他ならず，組合せ論的アルゴリズムや内点法など，様々な数値計算手法が提案されてきたが，計算量の問題により高次元の場合には求解が難しいことが知られている．その中で，2013年に M. Cuturi はコスト函数に Kullback–Leibler（KL）ダイバージェンスを足し合わせる正則化（エントロピー正則化）を考え，Sinkhorn アルゴリズムに基づいた「光速」な数値計算法を提唱した．このアルゴリズムの誕生以降，最適輸送は機械学習分野で盛んに用いられるようになり，近年では改めて大きな注目を集めている．
エントロピー正則化の有効性が分かった上で，数学的にも応用的にも以下のような疑問が生じる．
・KL ダイバージェンス以外での正則化は可能か？
・他の正則化を用いた際，正則化パラメータを 0 にする極限での元の最適輸送問題の最適コストへの収束オーダーはどのように評価できるか？
・KL ダイバージェンスの場合よりも収束が速い正則化項は存在するか？
本講演では，上記の疑問に答えるべく，KL ダイバージェンスを含むクラスである Bregman ダイバージェンスを用いた正則化を考える．ある性質を満たす Bregman ダイバージェンスを用いる場合，KL ダイバージェンスを用いた場合よりも収束が速くなることを示し，そのような具体例を数値実験とともに提示する．時間が許せば，現在考えている問題や将来的な応用の可能性についても触れたい．
本講演は，高津飛鳥氏（東京都立大学），保國惠一氏（筑波大学）との共同研究に基づく．また，本講演の内容は以下のプレプリントにまとまっている．
K. Morikuni, K. Sakakibara, and A. Takatsu. Error estimate for regularized optimal transport problems via Bregman divergence. arXiv:2309.11666
[ 参考URL ]最適輸送理論は確率測度間の距離を測ることを可能とし，数学や物理学，経済学，統計学，コンピュータ科学，機械学習等，数多くの分野への応用を持つ．有限集合上での最適輸送問題を考えると，これは線型計画問題に他ならず，組合せ論的アルゴリズムや内点法など，様々な数値計算手法が提案されてきたが，計算量の問題により高次元の場合には求解が難しいことが知られている．その中で，2013年に M. Cuturi はコスト函数に Kullback–Leibler（KL）ダイバージェンスを足し合わせる正則化（エントロピー正則化）を考え，Sinkhorn アルゴリズムに基づいた「光速」な数値計算法を提唱した．このアルゴリズムの誕生以降，最適輸送は機械学習分野で盛んに用いられるようになり，近年では改めて大きな注目を集めている．
エントロピー正則化の有効性が分かった上で，数学的にも応用的にも以下のような疑問が生じる．
・KL ダイバージェンス以外での正則化は可能か？
・他の正則化を用いた際，正則化パラメータを 0 にする極限での元の最適輸送問題の最適コストへの収束オーダーはどのように評価できるか？
・KL ダイバージェンスの場合よりも収束が速い正則化項は存在するか？
本講演では，上記の疑問に答えるべく，KL ダイバージェンスを含むクラスである Bregman ダイバージェンスを用いた正則化を考える．ある性質を満たす Bregman ダイバージェンスを用いる場合，KL ダイバージェンスを用いた場合よりも収束が速くなることを示し，そのような具体例を数値実験とともに提示する．時間が許せば，現在考えている問題や将来的な応用の可能性についても触れたい．
本講演は，高津飛鳥氏（東京都立大学），保國惠一氏（筑波大学）との共同研究に基づく．また，本講演の内容は以下のプレプリントにまとまっている．
K. Morikuni, K. Sakakibara, and A. Takatsu. Error estimate for regularized optimal transport problems via Bregman divergence. arXiv:2309.11666
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2024年04月24日(水)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
橋本悠香 氏 (NTTネットワークサービスシステム研究所)
Koopman作用素を用いたニューラルネットワークの汎化誤差解析 (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
橋本悠香 氏 (NTTネットワークサービスシステム研究所)
Koopman作用素を用いたニューラルネットワークの汎化誤差解析 (Japanese)
[ 講演概要 ]
汎化性能（未知のデータに対してモデルがフィットするかどうか）の解析は，ニューラルネットワークにおける重要なトピックのうちの1つである．既存研究では，重み行列の低ランク性が，モデルの汎化性能を向上させるという解析が多い．しかし，必ずしも低ランク性のみが汎化性能を向上させる要因となるわけではなく，高ランクの重み行列によっても汎化性能の向上が起こる場合があることが，経験的には知られている．本発表では，Koopman作用素と呼ばれる線形作用素を用いてニューラルネットワークにおける合成の構造を表現することで，汎化性能の解析を行う．特に，高ランクの重み行列に焦点を当て，高ランクの重み行列によってニューラルネットワークの汎化性能が向上する仕組みを明らかにする．
[ 参考URL ]汎化性能（未知のデータに対してモデルがフィットするかどうか）の解析は，ニューラルネットワークにおける重要なトピックのうちの1つである．既存研究では，重み行列の低ランク性が，モデルの汎化性能を向上させるという解析が多い．しかし，必ずしも低ランク性のみが汎化性能を向上させる要因となるわけではなく，高ランクの重み行列によっても汎化性能の向上が起こる場合があることが，経験的には知られている．本発表では，Koopman作用素と呼ばれる線形作用素を用いてニューラルネットワークにおける合成の構造を表現することで，汎化性能の解析を行う．特に，高ランクの重み行列に焦点を当て，高ランクの重み行列によってニューラルネットワークの汎化性能が向上する仕組みを明らかにする．
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2024年03月13日(水)
16:30-17:30 オンライン開催
David Sommer 氏 (Weierstrass Institute for Applied Analysis and Stochastics)
Approximating Langevin Monte Carlo with ResNet-like neural network architectures (English)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
David Sommer 氏 (Weierstrass Institute for Applied Analysis and Stochastics)
Approximating Langevin Monte Carlo with ResNet-like neural network architectures (English)
[ 講演概要 ]
We analyse a method to sample from a given target distribution by constructing a neural network which maps samples from a simple reference distribution, e.g. the standard normal, to samples from the target distribution. For this, we propose using a neural network architecture inspired by the Langevin Monte Carlo (LMC) algorithm. Based on LMC perturbation results, approximation rates of the proposed architecture for smooth, log-concave target distributions measured in the Wasserstein-2 distance are shown. The analysis heavily relies on the notion of sub-Gaussianity of the intermediate measures of the perturbed LMC process. In particular, we derive bounds on the growth of the intermediate variance proxies under different assumptions on the perturbations. Moreover, we propose an architecture similar to deep residual neural networks (ResNets) and derive expressivity results for approximating the sample to target distribution map.
[ 参考URL ]We analyse a method to sample from a given target distribution by constructing a neural network which maps samples from a simple reference distribution, e.g. the standard normal, to samples from the target distribution. For this, we propose using a neural network architecture inspired by the Langevin Monte Carlo (LMC) algorithm. Based on LMC perturbation results, approximation rates of the proposed architecture for smooth, log-concave target distributions measured in the Wasserstein-2 distance are shown. The analysis heavily relies on the notion of sub-Gaussianity of the intermediate measures of the perturbed LMC process. In particular, we derive bounds on the growth of the intermediate variance proxies under different assumptions on the perturbations. Moreover, we propose an architecture similar to deep residual neural networks (ResNets) and derive expressivity results for approximating the sample to target distribution map.
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2024年03月13日(水)
17:30-18:30 オンライン開催
Andreas Rathsfeld 氏 (Weierstrass Institute for Applied Analysis and Stochastics)
Analysis of the Scattering Matrix Algorithm (RCWA) for Diffraction by Periodic Surface Structures (English)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
Andreas Rathsfeld 氏 (Weierstrass Institute for Applied Analysis and Stochastics)
Analysis of the Scattering Matrix Algorithm (RCWA) for Diffraction by Periodic Surface Structures (English)
[ 講演概要 ]
The scattering matrix algorithm is a popular numerical method for the diffraction of optical waves by periodic surfaces. The computational domain is divided into horizontal slices and, by a clever recursion, an approximated operator, mapping incoming into outgoing waves, is obtained. Combining this with numerical schemes inside the slices, methods like RCWA and FMM have been designed.
The key for the analysis is the scattering problem with special radiation conditions for inhomogeneous cover materials. If the numerical scheme inside the slices is the FEM, then the scattering matrix algorithm is nothing else than a clever version of a domain decomposition method.
[ 参考URL ]The scattering matrix algorithm is a popular numerical method for the diffraction of optical waves by periodic surfaces. The computational domain is divided into horizontal slices and, by a clever recursion, an approximated operator, mapping incoming into outgoing waves, is obtained. Combining this with numerical schemes inside the slices, methods like RCWA and FMM have been designed.
The key for the analysis is the scattering problem with special radiation conditions for inhomogeneous cover materials. If the numerical scheme inside the slices is the FEM, then the scattering matrix algorithm is nothing else than a clever version of a domain decomposition method.
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2024年01月09日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
松原崇 氏 (大阪大学大学院基礎工学研究科)
微分方程式の数値解法に学ぶ・使う・代わる深層学習 (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
松原崇 氏 (大阪大学大学院基礎工学研究科)
微分方程式の数値解法に学ぶ・使う・代わる深層学習 (Japanese)
[ 講演概要 ]
ニューラルネットワークは，今日の深層学習ブームにおいて画像処理や自然言語処理を高度化できる技術とみなされている．しかし歴史を振り返ると，力学系のモデル化や制御にも長年使われていたことが分かる．かつてのそれは単なる表層的な近似でしかなかったが，近年，他の応用と同様にいくつかのブレークスルーと再発見があった．１つ目は，ニューラルネットワークの挙動そのものがある種の力学系の模倣になっているという新しい視点である．これはニューラルネットワークの情報処理メカニズムの解析に繋がるとともに，微分方程式の数値解法に学んだ新しいネットワークアーキテクチャの設計を可能にする．２つ目は，ニューラルネットワークを微分方程式の解関数の基底として使う方法である．誤差逆伝播法のおかげで，データ同化やシステム同定が容易となった．最後に数値解法そのものに取って代わろうとする野心的な試みがある．本発表では，これらのアプローチを俯瞰的に紹介する．
[ 参考URL ]ニューラルネットワークは，今日の深層学習ブームにおいて画像処理や自然言語処理を高度化できる技術とみなされている．しかし歴史を振り返ると，力学系のモデル化や制御にも長年使われていたことが分かる．かつてのそれは単なる表層的な近似でしかなかったが，近年，他の応用と同様にいくつかのブレークスルーと再発見があった．１つ目は，ニューラルネットワークの挙動そのものがある種の力学系の模倣になっているという新しい視点である．これはニューラルネットワークの情報処理メカニズムの解析に繋がるとともに，微分方程式の数値解法に学んだ新しいネットワークアーキテクチャの設計を可能にする．２つ目は，ニューラルネットワークを微分方程式の解関数の基底として使う方法である．誤差逆伝播法のおかげで，データ同化やシステム同定が容易となった．最後に数値解法そのものに取って代わろうとする野心的な試みがある．本発表では，これらのアプローチを俯瞰的に紹介する．
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2023年11月14日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
古川賢 氏 (理化学研究所)
いくつかの力学系とそのデータ同化による予測について (Japanese)
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
古川賢 氏 (理化学研究所)
いくつかの力学系とそのデータ同化による予測について (Japanese)
[ 講演概要 ]
データ同化による力学系の予測について得られた２つの結果を紹介する．前半では，2次元3種のオートマトンのカオス的な離散力学系を導入し，その離散力学系の時間発展を粒子フィルターによるデータ同化によって予測する方法とその結果について紹介する．後半では，プリミティブ方程式のナッジングによるデータ同化にまつわる問題について紹介する．特に，データ自身の持つ情報量とデータ同化によって得られる近似解(予測)のもつ情報量の関係性を正則性の観点から特徴づける．
[ 参考URL ]データ同化による力学系の予測について得られた２つの結果を紹介する．前半では，2次元3種のオートマトンのカオス的な離散力学系を導入し，その離散力学系の時間発展を粒子フィルターによるデータ同化によって予測する方法とその結果について紹介する．後半では，プリミティブ方程式のナッジングによるデータ同化にまつわる問題について紹介する．特に，データ自身の持つ情報量とデータ同化によって得られる近似解(予測)のもつ情報量の関係性を正則性の観点から特徴づける．
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
2023年10月24日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
田中一成 氏 (早稲田大学国際理工学センター)
ニューラルネットワークによる微分方程式解の包含と優解劣解法の再考 (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
田中一成 氏 (早稲田大学国際理工学センター)
ニューラルネットワークによる微分方程式解の包含と優解劣解法の再考 (Japanese)
[ 講演概要 ]
講演の前半では、微分方程式の解をニューラルネットワークを用いて厳密に包含する手法を紹介する。
この手法は、特定のコスト関数で方程式の優解劣解を学習し、その結果として得られるニューラルネットワークで表現された関数の組が真の解を包み込むことを事後的に確認するものである。
手法の紹介は常微分方程式の初期値問題や境界値問題を例に展開するが、楕円型・放物型偏微分方程式に対しても適用可能であることを示す。
前半の内容は矢田部浩平氏（東京農工大学）との共同研究に基づくものである。
講演の後半では楕円型境界値問題に対する優解劣解法そのものに焦点を当てる。
伝統的な優解劣解の定義では、暗に関数の滑らかさが要求されるため、優解劣解を区分線形関数を用いることができなかった。
この課題を克服するためには、優解劣解が満たすべき条件を緩めることが必要である。
そこで、変分不等式と限定されたテスト関数を使用して優解劣解を再定義し、単純な線形補間を用いて真解を包含する優解劣解が構築可能であることを示す。
これはReLUのような必ずしも滑らかでない活性化関数を用いる場合でも、前半で紹介した手法が有効であることを示唆する。
後半の内容は松江要氏（九州大学）ならびに落合啓之氏（九州大学）との共同研究に基づく。
[ 参考URL ]講演の前半では、微分方程式の解をニューラルネットワークを用いて厳密に包含する手法を紹介する。
この手法は、特定のコスト関数で方程式の優解劣解を学習し、その結果として得られるニューラルネットワークで表現された関数の組が真の解を包み込むことを事後的に確認するものである。
手法の紹介は常微分方程式の初期値問題や境界値問題を例に展開するが、楕円型・放物型偏微分方程式に対しても適用可能であることを示す。
前半の内容は矢田部浩平氏（東京農工大学）との共同研究に基づくものである。
講演の後半では楕円型境界値問題に対する優解劣解法そのものに焦点を当てる。
伝統的な優解劣解の定義では、暗に関数の滑らかさが要求されるため、優解劣解を区分線形関数を用いることができなかった。
この課題を克服するためには、優解劣解が満たすべき条件を緩めることが必要である。
そこで、変分不等式と限定されたテスト関数を使用して優解劣解を再定義し、単純な線形補間を用いて真解を包含する優解劣解が構築可能であることを示す。
これはReLUのような必ずしも滑らかでない活性化関数を用いる場合でも、前半で紹介した手法が有効であることを示唆する。
後半の内容は松江要氏（九州大学）ならびに落合啓之氏（九州大学）との共同研究に基づく。
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2023年10月17日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
奥村真善美 氏 (甲南大学知能情報学部)
空間2次元における動的境界条件下のCahn-Hilliard方程式に対する構造保存スキームについて (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
奥村真善美 氏 (甲南大学知能情報学部)
空間2次元における動的境界条件下のCahn-Hilliard方程式に対する構造保存スキームについて (Japanese)
[ 講演概要 ]
偏微分方程式の初期値境界値問題において, 動的境界条件を課した問題が幅広く研究されている. この境界条件は, 領域内部と境界の相互作用を表現するために導入された条件であり, 条件内に未知関数の時間微分を含む. それゆえ, 代表的な境界条件と異なり, 動境界条件は, 領域内部の力学系と同時に境界上でも同種, あるいは異種の力学系を考察することができ, その境界値問題は領域内部の方程式と境界上の方程式の連立系と見なすこともできる. 近年, 相分離現象を記述するCahn-Hilliard方程式に対し, 境界上でもCahn-Hilliard方程式を考察する動的境界条件を課したモデルがGoldstein-Miranville-Schimperna (GMS)やLiu-Wu (LW)によって提唱された. 両者は化学ポテンシャルの外向き単位法線方向微分の扱いが異なっており, GMSモデルでは領域内部と境界の質量和が保存するという保存則, LWモデルでは内部と境界それぞれで質量が保存するという保存則が成り立つ. さらにはいずれのモデルにおいても領域内部と境界のエネルギーの総和が減衰するという総エネルギー散逸則が成り立つことにも注意したい. これらの性質は数値計算においても重要な意味を持ち, その構造をスキームが離散的に再現することで, 安定な計算が可能になるなどの様々な恩恵がある. 本研究では, 先行研究を踏まえ, これらの性質を離散的に再現する構造保存スキームを構成した. 本講演では, それらの構造保存スキームを紹介するとともに, GMSモデル対する構造保存スキームに焦点を当て, その可解性について得られた結果を報告する. また, 両モデルの保存則の違いに起因する, 数値解の挙動の違いも興味深く, その数値計算例も紹介する.
本研究は深尾武史氏(龍谷大学)との共同研究に基づく.
[ 参考URL ]偏微分方程式の初期値境界値問題において, 動的境界条件を課した問題が幅広く研究されている. この境界条件は, 領域内部と境界の相互作用を表現するために導入された条件であり, 条件内に未知関数の時間微分を含む. それゆえ, 代表的な境界条件と異なり, 動境界条件は, 領域内部の力学系と同時に境界上でも同種, あるいは異種の力学系を考察することができ, その境界値問題は領域内部の方程式と境界上の方程式の連立系と見なすこともできる. 近年, 相分離現象を記述するCahn-Hilliard方程式に対し, 境界上でもCahn-Hilliard方程式を考察する動的境界条件を課したモデルがGoldstein-Miranville-Schimperna (GMS)やLiu-Wu (LW)によって提唱された. 両者は化学ポテンシャルの外向き単位法線方向微分の扱いが異なっており, GMSモデルでは領域内部と境界の質量和が保存するという保存則, LWモデルでは内部と境界それぞれで質量が保存するという保存則が成り立つ. さらにはいずれのモデルにおいても領域内部と境界のエネルギーの総和が減衰するという総エネルギー散逸則が成り立つことにも注意したい. これらの性質は数値計算においても重要な意味を持ち, その構造をスキームが離散的に再現することで, 安定な計算が可能になるなどの様々な恩恵がある. 本研究では, 先行研究を踏まえ, これらの性質を離散的に再現する構造保存スキームを構成した. 本講演では, それらの構造保存スキームを紹介するとともに, GMSモデル対する構造保存スキームに焦点を当て, その可解性について得られた結果を報告する. また, 両モデルの保存則の違いに起因する, 数値解の挙動の違いも興味深く, その数値計算例も紹介する.
本研究は深尾武史氏(龍谷大学)との共同研究に基づく.
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2023年06月27日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
山田俊皓 氏 (一橋大学大学院経済学研究科)
ディープラーニングと確率論的方法を用いた高次元偏微分方程式の数値計算法について (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
山田俊皓 氏 (一橋大学大学院経済学研究科)
ディープラーニングと確率論的方法を用いた高次元偏微分方程式の数値計算法について (Japanese)
[ 講演概要 ]
近年、ディープラーニングは高次元の偏微分方程式を「次元の呪い」の影響を受けずに数値的に解く技術としても著しく発展している。本講演では、ディープラーニングと確率論的な方法、特に確率微分方程式の数値解法を融合させた収束の速い高次元偏微分方程式の数値計算法について紹介する。講演では、偏微分方程式の数値計算においてディープラーニングが確率論的方法とどのように結び付くか解説し、様々な偏微分方程式に対する数値計算例をアルゴリズムとともに紹介する予定である。また、理論・応用面において現在のところどこまで分かっていてどのような課題があるかについて触れ、今後の展望について述べたい。
[ 参考URL ]近年、ディープラーニングは高次元の偏微分方程式を「次元の呪い」の影響を受けずに数値的に解く技術としても著しく発展している。本講演では、ディープラーニングと確率論的な方法、特に確率微分方程式の数値解法を融合させた収束の速い高次元偏微分方程式の数値計算法について紹介する。講演では、偏微分方程式の数値計算においてディープラーニングが確率論的方法とどのように結び付くか解説し、様々な偏微分方程式に対する数値計算例をアルゴリズムとともに紹介する予定である。また、理論・応用面において現在のところどこまで分かっていてどのような課題があるかについて触れ、今後の展望について述べたい。
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2023年06月06日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
畔上秀幸 氏 (名古屋産業科学研究所)
形状最適化問題の正則性と数値解の関連について (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
畔上秀幸 氏 (名古屋産業科学研究所)
形状最適化問題の正則性と数値解の関連について (Japanese)
[ 講演概要 ]
偏微分方程式が定義された領域を設計対象にした最適化問題を形状最適化問題とよぶことにする．この問題に対する解の存在を保証するためには偏微分方程式の解に正則性が必要となる．一方，関数空間上の勾配法や Newton 法に従って有限要素法で数値解を求めると理論的な制限を超えて良好な解が得られるときと異常をきたす場合がある．いくつかの数値例を紹介し，理論の役割について皆さんと一緒に考えてみたい．
[ 参考URL ]偏微分方程式が定義された領域を設計対象にした最適化問題を形状最適化問題とよぶことにする．この問題に対する解の存在を保証するためには偏微分方程式の解に正則性が必要となる．一方，関数空間上の勾配法や Newton 法に従って有限要素法で数値解を求めると理論的な制限を超えて良好な解が得られるときと異常をきたす場合がある．いくつかの数値例を紹介し，理論の役割について皆さんと一緒に考えてみたい．
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2023年05月23日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
今泉允聡 氏 (東京大学大学院総合文化研究科)
深層学習と過剰パラメータの理論 (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
今泉允聡 氏 (東京大学大学院総合文化研究科)
深層学習と過剰パラメータの理論 (Japanese)
[ 講演概要 ]
深層学習の統計・学習理論的な解析に関する研究トピックを紹介する。深層学習とは多層ニューラルネットワークをモデルとして用いた統計手法であり、このモデルは深層構造（モデルが多数の写像の合成で構成されること）や大自由度（モデルの学習できるパラメータが非常に多いこと）という特徴を持っている。データの不確実性が深層学習に与える影響を評価するには、これらの特徴を適切に扱うことが重要である。本講演では、(i)深層構造を持つモデルの優位性および劣位性とそれを改善する学習手法、(ii)深層モデルの不確実性を損失曲面の形状を用いて評価する理論、および(iii)大自由度モデルの漸近的な解析（過剰パラメータの理論）を深層構造に拡張する試みを紹介する。
[ 参考URL ]深層学習の統計・学習理論的な解析に関する研究トピックを紹介する。深層学習とは多層ニューラルネットワークをモデルとして用いた統計手法であり、このモデルは深層構造（モデルが多数の写像の合成で構成されること）や大自由度（モデルの学習できるパラメータが非常に多いこと）という特徴を持っている。データの不確実性が深層学習に与える影響を評価するには、これらの特徴を適切に扱うことが重要である。本講演では、(i)深層構造を持つモデルの優位性および劣位性とそれを改善する学習手法、(ii)深層モデルの不確実性を損失曲面の形状を用いて評価する理論、および(iii)大自由度モデルの漸近的な解析（過剰パラメータの理論）を深層構造に拡張する試みを紹介する。
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2023年05月16日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
清水雄貴 氏 (東京大学大学院数理科学研究科)
基本解近似解法によるPlateau問題の数値解析 (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
清水雄貴 氏 (東京大学大学院数理科学研究科)
基本解近似解法によるPlateau問題の数値解析 (Japanese)
[ 講演概要 ]
針金の形状を変えずとも，異なる形状の石鹸膜が張られることがある．それでは，針金の形状から，それが張る石鹸膜の形状には何種類あるか特定できないだろうか．
Jordan閉曲線がどのような形状であれ，それを境界とする極小曲面は少なくとも一つは存在する．一方，境界の全曲率が4π以下であるなど，形状に関する十分条件が満たされる場合には，解の一意性が従う．解が複数ある場合には，安定な極小曲面やgenericには解は有限個であるが，そうでない場合には解の有限性自体が難問であり，具体的な個数が得られているのは，現状では特定の境界に関する場合のみに限られている．このように，境界形状と解の個数の関係性は極小曲面の幾何解析学において困難だが重要な問題の一つとして位置づけられている．
こうした状況を鑑み，数値計算によりその関係性を見出すことが期待される．極小曲面を何らかの汎函数の最適化問題の停留点として数値的に求めることを想定すると，与えられたJordan閉曲線を境界にもつ，全ての極小曲面を計算するには，(1)最適化問題の初期値に応じて，異なる極小曲面に収束し，(2)無作為かつ多数の初期値に対する収束極限が得られるほど高速で，(3)それらを区別できるほど高精度な，数値解法が必要となる．
本講演では，基本解近似解法を用いることで上記三点を達成する数値解法を提案し，その収束誤差解析を行う．また，いくつかの数値例を通じて，境界形状と個数の関係性について論じる．本研究は榊原航也氏（金沢大学）との共同研究に基づく．
参考文献：K. Sakakibara and Y. Shimizu, Numerical analysis for the Plateau problem by the method of fundamental solutions, preprint (arXiv:2212.06508)
[ 参考URL ]針金の形状を変えずとも，異なる形状の石鹸膜が張られることがある．それでは，針金の形状から，それが張る石鹸膜の形状には何種類あるか特定できないだろうか．
Jordan閉曲線がどのような形状であれ，それを境界とする極小曲面は少なくとも一つは存在する．一方，境界の全曲率が4π以下であるなど，形状に関する十分条件が満たされる場合には，解の一意性が従う．解が複数ある場合には，安定な極小曲面やgenericには解は有限個であるが，そうでない場合には解の有限性自体が難問であり，具体的な個数が得られているのは，現状では特定の境界に関する場合のみに限られている．このように，境界形状と解の個数の関係性は極小曲面の幾何解析学において困難だが重要な問題の一つとして位置づけられている．
こうした状況を鑑み，数値計算によりその関係性を見出すことが期待される．極小曲面を何らかの汎函数の最適化問題の停留点として数値的に求めることを想定すると，与えられたJordan閉曲線を境界にもつ，全ての極小曲面を計算するには，(1)最適化問題の初期値に応じて，異なる極小曲面に収束し，(2)無作為かつ多数の初期値に対する収束極限が得られるほど高速で，(3)それらを区別できるほど高精度な，数値解法が必要となる．
本講演では，基本解近似解法を用いることで上記三点を達成する数値解法を提案し，その収束誤差解析を行う．また，いくつかの数値例を通じて，境界形状と個数の関係性について論じる．本研究は榊原航也氏（金沢大学）との共同研究に基づく．
参考文献：K. Sakakibara and Y. Shimizu, Numerical analysis for the Plateau problem by the method of fundamental solutions, preprint (arXiv:2212.06508)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2023年04月25日(火)
16:30-18:00 数理科学研究科棟(駒場) 002号室
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
大城泰平 氏 (東京大学大学院情報理工学系研究科)
微分代数方程式に対する組合せ的前処理法 (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
ハイブリッド開催です。参加の詳細は参考URLをご覧ください。
大城泰平 氏 (東京大学大学院情報理工学系研究科)
微分代数方程式に対する組合せ的前処理法 (Japanese)
[ 講演概要 ]
微分代数方程式(DAE)とは，常微分方程式と代数方程式の要素を併せ持つ方程式である．DAEの数値解析にあたっては，矛盾のない初期値を定めることが難しいという問題や，微分指数とよばれる特性量が高い場合に数値的な求解が難しくなるという問題など，特有の困難が生じる．多くのDAEソルバでは組合せ最適化技法に基づいた前処理法が実装されており，矛盾のない初期値設定や微分指数の低いDAEへの変形に利用することができる．しかしながら，組合せ的前処理法はシステムヤコビアンとよばれる行列が非正則なDAEに対しては失敗してしまう．本公演では，DAEに対する組合せ的前処理法を概観したのち，非正則なシステムヤコビアンをもつDAEを正則なDAEに変形する「組合せ緩和法」を紹介する．
[ 参考URL ]微分代数方程式(DAE)とは，常微分方程式と代数方程式の要素を併せ持つ方程式である．DAEの数値解析にあたっては，矛盾のない初期値を定めることが難しいという問題や，微分指数とよばれる特性量が高い場合に数値的な求解が難しくなるという問題など，特有の困難が生じる．多くのDAEソルバでは組合せ最適化技法に基づいた前処理法が実装されており，矛盾のない初期値設定や微分指数の低いDAEへの変形に利用することができる．しかしながら，組合せ的前処理法はシステムヤコビアンとよばれる行列が非正則なDAEに対しては失敗してしまう．本公演では，DAEに対する組合せ的前処理法を概観したのち，非正則なシステムヤコビアンをもつDAEを正則なDAEに変形する「組合せ緩和法」を紹介する．
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
2021年07月06日(火)
16:30-18:00 オンライン開催
速水謙 氏 (国立情報学研究所 (名誉教授))
最小二乗問題の反復解法とその応用 (Japanese)
https://forms.gle/B5Hwxa7o8F36hZKr7
速水謙 氏 (国立情報学研究所 (名誉教授))
最小二乗問題の反復解法とその応用 (Japanese)
[ 講演概要 ]
前半では、内部反復前処理を用いたクリロフ部分空間法とその線形計画問題の主双対内点法への応用を紹介する。従来困難とされていた内点法最終段階での悪条件・特異な最小二乗問題を頑健・高精度・高速に解くことにより、反復法の線形ソルバーで広範囲のLPベンチマーク問題に対してSDPT3, SeDuMi, PDCO(LSMR)などの標準的なpublic domain solverより高性能な結果を得た[1]。更に最小二乗問題の解法を高速化するために、内部反復前処理のNE-SOR法の代わりにKaczmarz型の反復解法を用い、外部反復のGMRES法の代わりにflexible GMRES法を用いた解法とその有効性を紹介する[2]。
後半では、薬物動態モデルのパラメタ推定で生じる非線形最小二乗問題の複数の解を同時に求めるCluster Gauss-Newton(CGN)法を紹介する[3]。複数の初期解から出発し、目的関数の微分情報を用いずに(derivative-free)非線形最小二乗問題の複数の近似解を従来の解法よりも高速により多く求めることができ、薬学研究の現場で用いられている。
参考文献：
[1] Cui, Y., ·Morikuni, K., Tsuchiya, T., and Hayami, K., Implementation of interior-point methods for LP based on Krylov subspace iterative solvers with inner-iteration preconditioning, Computational Optimization and Applications, Vol. 74, No. 1, pp. 143-176, 2019. https://doi.org/10.1007/s10589-019-00103-y
[2] Du, Y., Hayami, K., Zheng, N., Morikuni, K., and Yin, J.-F., Kaczmarz-type inner-iteration preconditioned flexible GMRES methods for consistent linear systems, SIAM Journal on Scientific Computing, (to appear), 22pp., https://arxiv.org/abs/2006.10818
[3] Aoki, Y., Hayami, K., Toshimoto, K., and Sugiyama, Y., Cluster Gauss-Newton method - An algorithm for finding multiple approximate minimisers of nonlinear least squares problems with applications to parameter estimation of pharmacokinetic models, Optimization and Engineering, (2020), 31pp. https://doi.org/10.1007/s11081-020-09571-2
[ 参考URL ]前半では、内部反復前処理を用いたクリロフ部分空間法とその線形計画問題の主双対内点法への応用を紹介する。従来困難とされていた内点法最終段階での悪条件・特異な最小二乗問題を頑健・高精度・高速に解くことにより、反復法の線形ソルバーで広範囲のLPベンチマーク問題に対してSDPT3, SeDuMi, PDCO(LSMR)などの標準的なpublic domain solverより高性能な結果を得た[1]。更に最小二乗問題の解法を高速化するために、内部反復前処理のNE-SOR法の代わりにKaczmarz型の反復解法を用い、外部反復のGMRES法の代わりにflexible GMRES法を用いた解法とその有効性を紹介する[2]。
後半では、薬物動態モデルのパラメタ推定で生じる非線形最小二乗問題の複数の解を同時に求めるCluster Gauss-Newton(CGN)法を紹介する[3]。複数の初期解から出発し、目的関数の微分情報を用いずに(derivative-free)非線形最小二乗問題の複数の近似解を従来の解法よりも高速により多く求めることができ、薬学研究の現場で用いられている。
参考文献：
[1] Cui, Y., ·Morikuni, K., Tsuchiya, T., and Hayami, K., Implementation of interior-point methods for LP based on Krylov subspace iterative solvers with inner-iteration preconditioning, Computational Optimization and Applications, Vol. 74, No. 1, pp. 143-176, 2019. https://doi.org/10.1007/s10589-019-00103-y
[2] Du, Y., Hayami, K., Zheng, N., Morikuni, K., and Yin, J.-F., Kaczmarz-type inner-iteration preconditioned flexible GMRES methods for consistent linear systems, SIAM Journal on Scientific Computing, (to appear), 22pp., https://arxiv.org/abs/2006.10818
[3] Aoki, Y., Hayami, K., Toshimoto, K., and Sugiyama, Y., Cluster Gauss-Newton method - An algorithm for finding multiple approximate minimisers of nonlinear least squares problems with applications to parameter estimation of pharmacokinetic models, Optimization and Engineering, (2020), 31pp. https://doi.org/10.1007/s11081-020-09571-2
https://forms.gle/B5Hwxa7o8F36hZKr7
2021年06月22日(火)
17:00-18:30 オンライン開催
鈴木大慈 氏 (東京大学大学院情報理工学系研究科)
深層ニューラルネットワークの近似理論と適応能力 (Japanese)
https://forms.gle/HwetNGXCzbCyMC7B7
鈴木大慈 氏 (東京大学大学院情報理工学系研究科)
深層ニューラルネットワークの近似理論と適応能力 (Japanese)
[ 講演概要 ]
ReLU活性化関数を用いた深層ニューラルネットワークの学習能力について，特にスパース推定との関係を通して理論解析結果を述べる．深層学習の学習能力の高さは，その基底を対象の関数に合わせて生成するところにあり，それはモデルが非凸であることが本質的に重要である．これはスパース推定による基底選択と共通点が多く，縮小ランク回帰やL0-正則化学習といった，モデルが非凸であるスパース推定と結び付けてその優位性を調べることが可能である．本研究では，そのような視点に基づき，深層学習のBesov空間における近似精度および推定精度を解析する．また，非等方的平滑性や変動平滑性を持つBesov空間といった種々のBesov空間の変種における近似理論およびそれを用いた推定理論を紹介し，深層学習がいかに対象の関数の情報を用いてその他の推定量を優越しうるかを説明する．時間があれば，無限次元勾配ランジュバン動力学を用いた勾配法の離散時間近似および収束理論も紹介し，それを用いた推定量の推定精度解析と深層学習の特徴量学習による優位性についても述べる．
[ 参考URL ]ReLU活性化関数を用いた深層ニューラルネットワークの学習能力について，特にスパース推定との関係を通して理論解析結果を述べる．深層学習の学習能力の高さは，その基底を対象の関数に合わせて生成するところにあり，それはモデルが非凸であることが本質的に重要である．これはスパース推定による基底選択と共通点が多く，縮小ランク回帰やL0-正則化学習といった，モデルが非凸であるスパース推定と結び付けてその優位性を調べることが可能である．本研究では，そのような視点に基づき，深層学習のBesov空間における近似精度および推定精度を解析する．また，非等方的平滑性や変動平滑性を持つBesov空間といった種々のBesov空間の変種における近似理論およびそれを用いた推定理論を紹介し，深層学習がいかに対象の関数の情報を用いてその他の推定量を優越しうるかを説明する．時間があれば，無限次元勾配ランジュバン動力学を用いた勾配法の離散時間近似および収束理論も紹介し，それを用いた推定量の推定精度解析と深層学習の特徴量学習による優位性についても述べる．
https://forms.gle/HwetNGXCzbCyMC7B7
2021年06月08日(火)
16:30-18:00 オンライン開催
曽我幸平 氏 (慶應義塾大学理工学部)
Action minimizing random walks and numerical analysis of Hamilton-Jacobi equations (Japanese)
https://forms.gle/kjhqne4nV6fqEFWB8
曽我幸平 氏 (慶應義塾大学理工学部)
Action minimizing random walks and numerical analysis of Hamilton-Jacobi equations (Japanese)
[ 講演概要 ]
1階のHamilton-Jacobi方程式は様々な文脈で現れる完全非線形PDEであり，粘性解と呼ばれる弱解クラスで盛んに研究されている．例えば，解析力学の一部として1997年に登場した弱KAM理論においては，1階のHamilton-Jacobi方程式の粘性解だけでなくその1階微分と特性曲線の情報が本質的に活用される．1階のHamilton-Jacobi方程式の解を具体的に構成する手法(粘性消去法/割引消去法/離散近似法など)はよく知られているが，粘性解・1階微分・特性曲線の全てを同時に構成することは非自明である．本講演では，一般の空間次元で時間依存するTonelli型のHamiltonianが生成するHamilton-Jacobi方程式に対して，最も初等的な差分法によって，粘性解・1階微分・特性曲線の全てを同時に構成する手法を紹介する．収束証明のポイントは，離散近似問題を非一様ランダムウォークの最適制御問題に書き直し，変分法と確率論の議論を援用することである．時間が許せば，弱KAM理論への応用についても触れる．
[ 参考URL ]1階のHamilton-Jacobi方程式は様々な文脈で現れる完全非線形PDEであり，粘性解と呼ばれる弱解クラスで盛んに研究されている．例えば，解析力学の一部として1997年に登場した弱KAM理論においては，1階のHamilton-Jacobi方程式の粘性解だけでなくその1階微分と特性曲線の情報が本質的に活用される．1階のHamilton-Jacobi方程式の解を具体的に構成する手法(粘性消去法/割引消去法/離散近似法など)はよく知られているが，粘性解・1階微分・特性曲線の全てを同時に構成することは非自明である．本講演では，一般の空間次元で時間依存するTonelli型のHamiltonianが生成するHamilton-Jacobi方程式に対して，最も初等的な差分法によって，粘性解・1階微分・特性曲線の全てを同時に構成する手法を紹介する．収束証明のポイントは，離散近似問題を非一様ランダムウォークの最適制御問題に書き直し，変分法と確率論の議論を援用することである．時間が許せば，弱KAM理論への応用についても触れる．
https://forms.gle/kjhqne4nV6fqEFWB8
2021年05月11日(火)
16:30-18:00 オンライン開催
土屋卓也 氏 (愛媛大学理工学研究科)
異方的なメッシュ上での有限要素誤差解析について (Japanese)
https://forms.gle/CoaM4vSE1GvDRuDR6
土屋卓也 氏 (愛媛大学理工学研究科)
異方的なメッシュ上での有限要素誤差解析について (Japanese)
[ 講演概要 ]
有限要素誤差解析においては、使われるメッシュに形状正則性の仮定を通常課す。しかし、形状正則でないメッシュ上でも誤差評価が得られる場合があることが以前より知られていた。この講演では、形状正則性を満たさない単体（三角形、または四面体）要素からなるメッシュ上で、どのような誤差解析が行われるかを概観する。特に、最近得られた不連続Galerkin法の誤差評価、および四面体上のLagrange補間誤差評価について説明する。
[ 参考URL ]有限要素誤差解析においては、使われるメッシュに形状正則性の仮定を通常課す。しかし、形状正則でないメッシュ上でも誤差評価が得られる場合があることが以前より知られていた。この講演では、形状正則性を満たさない単体（三角形、または四面体）要素からなるメッシュ上で、どのような誤差解析が行われるかを概観する。特に、最近得られた不連続Galerkin法の誤差評価、および四面体上のLagrange補間誤差評価について説明する。
https://forms.gle/CoaM4vSE1GvDRuDR6
2021年04月27日(火)
16:30-18:00 オンライン開催
高安亮紀 氏 (筑波大学システム情報系)
非線形熱方程式の複素時間領域における解の精度保証付き数値計算
(Japanese)
https://forms.gle/qW5ktphBB6dsh8Np7
高安亮紀 氏 (筑波大学システム情報系)
非線形熱方程式の複素時間領域における解の精度保証付き数値計算
(Japanese)
[ 講演概要 ]
本講演では、複素時間領域における非線形熱方程式の初期値境界値問題の解を厳密に包含する数値計算手法を紹介する。フーリエ・チェビシェフ級数を用いて得られた数値解における線形化問題の解作用素（発展作用素）を用いて簡易ニュートン写像を定義し、その不動点の局所一意存在を数値検証することで、初期値境界値問題の解の厳密な包含を得る。さらに解の時間局所存在を繰り返し検証し、長い時間区間における解の厳密な求積を行う。そして、我々の厳密な求積法の応用として、非線形熱方程式の分岐特異点の存在および解の時間大域存在を計算機援用証明した結果についても詳述する。
本講演はJean-Philippe Lessard (McGill Univ.)、Jonathan Jaquette (Boston Univ.)、岡本久（学習院大学）各氏との共同研究に基づく。
[ 参考URL ]本講演では、複素時間領域における非線形熱方程式の初期値境界値問題の解を厳密に包含する数値計算手法を紹介する。フーリエ・チェビシェフ級数を用いて得られた数値解における線形化問題の解作用素（発展作用素）を用いて簡易ニュートン写像を定義し、その不動点の局所一意存在を数値検証することで、初期値境界値問題の解の厳密な包含を得る。さらに解の時間局所存在を繰り返し検証し、長い時間区間における解の厳密な求積を行う。そして、我々の厳密な求積法の応用として、非線形熱方程式の分岐特異点の存在および解の時間大域存在を計算機援用証明した結果についても詳述する。
本講演はJean-Philippe Lessard (McGill Univ.)、Jonathan Jaquette (Boston Univ.)、岡本久（学習院大学）各氏との共同研究に基づく。
https://forms.gle/qW5ktphBB6dsh8Np7
2021年01月12日(火)
16:30-18:00 オンライン開催
谷口隆晴 氏 (神戸大学 大学院 システム情報学研究科)
DGNet: エネルギー保存・散逸則を保つ深層物理モデリングとそれに関する理論・応用 (Japanese)
https://forms.gle/DpuhGupZ7NYbot5d7
谷口隆晴 氏 (神戸大学 大学院 システム情報学研究科)
DGNet: エネルギー保存・散逸則を保つ深層物理モデリングとそれに関する理論・応用 (Japanese)
[ 講演概要 ]
近年，深層学習を利用して時間発展データから，そのダイナミクスを記述する微分方程式を学習する技術に注目が集まっている．特に，モデル化対象の現象がハミルトン力学で記述できると考えられる場合には，Greydanus らによって，その構造をモデルに組み込んだハミルトニアンニューラルネットワークと呼ばれる方法が提案されている．
本研究では，ハミルトニアンニューラルネットワークをエネルギー保存・散逸型数値解法の導出法である離散勾配法と連携させることにより，エネルギー保存・散逸則を保つニューラルネットワークモデルを提案する．また，それに関する理論や応用についても述べる．本研究は，松原崇，石川歩惟，小松瑞果，寺川峻平らとの共同研究を含む．
[ 参考URL ]近年，深層学習を利用して時間発展データから，そのダイナミクスを記述する微分方程式を学習する技術に注目が集まっている．特に，モデル化対象の現象がハミルトン力学で記述できると考えられる場合には，Greydanus らによって，その構造をモデルに組み込んだハミルトニアンニューラルネットワークと呼ばれる方法が提案されている．
本研究では，ハミルトニアンニューラルネットワークをエネルギー保存・散逸型数値解法の導出法である離散勾配法と連携させることにより，エネルギー保存・散逸則を保つニューラルネットワークモデルを提案する．また，それに関する理論や応用についても述べる．本研究は，松原崇，石川歩惟，小松瑞果，寺川峻平らとの共同研究を含む．
https://forms.gle/DpuhGupZ7NYbot5d7
