数値解析セミナー
過去の記録 ~05/01|次回の予定|今後の予定 05/02~
開催情報 | 火曜日 16:30~18:00 数理科学研究科棟(駒場) 002号室 |
---|---|
担当者 | 齊藤宣一、柏原崇人 |
セミナーURL | https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/ |
2024年11月27日(水)
16:30-18:00 数理科学研究科棟(駒場) 002号室
中野張 氏 (東京科学大学情報理工学院)
シュレディンガー問題と拡散生成モデル (Japanese)
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/
中野張 氏 (東京科学大学情報理工学院)
シュレディンガー問題と拡散生成モデル (Japanese)
[ 講演概要 ]
シュレディンガー問題とは,終端分布の制約付き確率制御問題のうちエントロピー最小のものを求める問題のことをいう.これは元々は,初期分布と終端分布が固定された粒子群の中で最も起こりやすい時間発展は何か,というE. シュレディンガーにより1931年,1932年に提示された問題に端を発している.シュレディンガー問題の理論は,確率制御との関連のみならず,可逆過程(reciprocal process),逆時間拡散過程,確率力学などの理論を生み出しながら発展してきた.他方,拡散生成モデルとは,拡散過程を利用した深層生成モデルのことであり,特に,Denoising Diffusion Probabilistic Model (DDPM)と呼ばれる拡散モデルは,近年,画像生成AIの基盤モデルとして採用され大きな注目を集めている.拡散モデルは所与のデータ分布にノイズを加えていく過程でデータ分布に関連するスコア関数を学習させ,このスコア関数を用いて逆時間で拡散過程を現在に「戻す」という手続きにより実現されている.拡散生成モデルが登場して程なくしてシュレディンガー問題との関係が指摘され,最近では生成モデルへの応用という観点からシュレディンガー問題が再注目されている.本講演の前半では,シュレディンガー問題と拡散生成モデルの関連について,歴史的・技術的観点から概説し,シュレディンガー問題の生成モデルへの今後の応用可能性について述べたい.後半では,DDPMの収束についての理論的結果を報告する.具体的には,データ分布の密度関数に対する適当な正則性条件と,ノイズスケジュールのパラメーター,スコア推定誤差,ノイズ推定関数の漸近挙動の仮定の下で,DDPMにより構成された確率変数の分布列が,時間ステップ数の極限において,目標分布に弱収束することを示す.
[ 参考URL ]シュレディンガー問題とは,終端分布の制約付き確率制御問題のうちエントロピー最小のものを求める問題のことをいう.これは元々は,初期分布と終端分布が固定された粒子群の中で最も起こりやすい時間発展は何か,というE. シュレディンガーにより1931年,1932年に提示された問題に端を発している.シュレディンガー問題の理論は,確率制御との関連のみならず,可逆過程(reciprocal process),逆時間拡散過程,確率力学などの理論を生み出しながら発展してきた.他方,拡散生成モデルとは,拡散過程を利用した深層生成モデルのことであり,特に,Denoising Diffusion Probabilistic Model (DDPM)と呼ばれる拡散モデルは,近年,画像生成AIの基盤モデルとして採用され大きな注目を集めている.拡散モデルは所与のデータ分布にノイズを加えていく過程でデータ分布に関連するスコア関数を学習させ,このスコア関数を用いて逆時間で拡散過程を現在に「戻す」という手続きにより実現されている.拡散生成モデルが登場して程なくしてシュレディンガー問題との関係が指摘され,最近では生成モデルへの応用という観点からシュレディンガー問題が再注目されている.本講演の前半では,シュレディンガー問題と拡散生成モデルの関連について,歴史的・技術的観点から概説し,シュレディンガー問題の生成モデルへの今後の応用可能性について述べたい.後半では,DDPMの収束についての理論的結果を報告する.具体的には,データ分布の密度関数に対する適当な正則性条件と,ノイズスケジュールのパラメーター,スコア推定誤差,ノイズ推定関数の漸近挙動の仮定の下で,DDPMにより構成された確率変数の分布列が,時間ステップ数の極限において,目標分布に弱収束することを示す.
https://sites.google.com/g.ecc.u-tokyo.ac.jp/utnas-bulletin-board/