教授
小林俊行
（リー群の無限次元表現，不連続群論）
1. 簡約リー群のユニタリ表現論
ユニタリ表現論においては，表現の誘導と制限という２つの大きなテーマがある．
1次元表現からの「誘導」は等質空間上の大域解析と等価であり Gelfand, Harish-Chandra,
大島氏等により大きく発展してきた．一方，「誘導」に較べて「制限」の理論は特殊な事例を除き，未開拓のままであった．
筆者は1990年代に，ユニタリ表現の制限に関する種々の "悪い" 現象を調べ，逆に，"良い振舞いをする"
クラスが意外にも豊富にあることを発見し，離散的分岐則の理論として発表した([A])．その後，この理論を用いて，例外型リー群の既約ユニタリ表現(Gross,
Wallach)や等質空間上の離散系列表現が新しく構成され，またモジュラー多様体の位相的性質の知見が得られる(織田孝幸氏と共同)など，関連分野への応用も拡がりつつある([1,
9])．
さて，表現論が "道具" として最も効力を発揮するのは，既約分解の重複度が1になる場合であり
(ここでの視点によるとTaylor展開やFourier変換も重複度1の既約分解である)，歴史的にも様々な手法によって多くの例が発見されてきた．最近，筆者は，複素多様体における可視的な作用という概念を導入し，この視点から重複度が1になる表現を統一的に理解しようと試みている
([4, 5, 7])．
2.非可換調和解析
保型形式の整数論で重要なWeil表現は，表現論の立場からはメタプレクティック群の最も小さいユニタリ表現(極小表現)といえる．ローレンツ群$O(p,q)$の極小表現は
1990年代にKostant等により代数的手法を用いて発見された．この表現は，他の既約表現から "孤立"
しているが故に，思いがけない場面に登場する可能性も秘めている．そこで代数的な表現論の立場にとどまらず，解析・幾何的な種々のモデルを構築し，それらを通じて，他分野との新しい繋がりを見出したいと考えている．
その一つとして，筆者とØrstedは，擬リーマン多様体上の山辺作用素の大域解の空間に共形変換群の
(無限次元)表現を構成し，特に，偶数次元のEuclid空間における定数係数のウルトラ双曲型偏微分方程式の大域解の共形不変な保存量を得た([3,
8])．これは，極小表現の理論から内在的に存在していることが予知され，佐藤超関数のアイディアを使って構成された．さらに，極小表現の反転や複素半群への解析接続として得られる作用素を具体的に求め，`特殊関数'に関する種々の積分公式の群論的証明を与えた
(真野元氏との共同)．
3. 非リーマン等質空間における不連続群
20世紀の幾何学の発展において，リーマン幾何は局所から大域への大きな流れにのったが，その他の幾何構造，特に(計量が正定値とは限らない)擬リーマン幾何についてはその流れに乗り遅れた感がある．
筆者は，「局所的に等質な幾何構造をもつ多様体が大域的にどのような制約を受けるか」という観点で，1980年代後半ごろから，一般の擬リーマン等質空間の不連続群論の基盤づくりに着手した．計量が不定値の空間においては離散群の等長な作用が必ずしも真性不連続ではないことに起因し，古くから研究されていたリーマン対称空間の不連続群論とは著しく異なる現象(Calabi-Markus現象,
高次元での剛性の破れ，…)
が見出された．さらに，コンパクトなClifford-Klein形の存在問題については，最近，離散群，エルゴード理論，シンプレクティック幾何，調和写像，ユニタリ表現論などの発想に基づいた研究も行われ始めるなど，他分野との新しい接点がうまれつつある．筆者はこの新しい領域において，重要と思われる未解決問題と今後の展望を著し([2])，また，コンパクトな局所（擬リーマン）対称空間の存在問題に関する現時点での成果を執筆中である
(A. Borel の追悼論文集に寄稿予定)．
参考文献
- Branching problems of unitary representations, Proceedings of the
International Congress of Mathematicians, Vol. II (Beijing, 2002), 615-627.
- `` Discontinuous groups for non-Riemannian homogeneous spaces'' ,
Mathematics Unlimited - 2001 and Beyond, (eds. B. Engquist and W. Schmid),
(2001), 723-748, Springer-Verlag, Berlin; 邦訳 `` 非リーマン等質空間の不連続群論''
『数学の最前線 21世紀への挑戦』 第１巻, (2002), 18-73.
- Analysis on minimal representations of $O(p,q)$, Part I,
Realization and conformal geometry, Adv. Math., 180 (2003),
486--512; Part II, Branching laws, Adv. Math., 180
(2003), 513--550; Part III, Ultra-hyperbolic equations on
$\mathbb{R}^{p-1,q-1}$, Adv. Math., 180 (2003), 551--595. (with
B. Ørsted)
- Mulitiplicity-free representations and visible actions on complex
manifolds, RIMS Preprint 1484, pp.53, to appear in Publ. RIMS,
41 (2005).
- Geometry of multiplicity-free representations of $GL(n)$, visible actions
on flag varieties, and triunity, Acta Appl. Math., 81 (2004),
129--146.
- Integral formulas of the minimal representations of $O(p,2)$, Acta
Appl. Math., 83 (2005), 103--113. (with G. Mano)
- Multiplicity one theorem in the orbit method, A volume in memory of
Professor F. Karpelevi\v{c}, (ed. S. Gindikin), Amer. Math. Soc. Transl.
Ser.2, 210 (2003), 161--169. (with S. Nasrin)
- Conformal geometry and analysis on minimal representations, Lecture Notes
of the Winter School 2002 on Geometry and Physics, Czech Republic; Rend.
Circ. Mat. Palermo (2) Suppl., 71 (2003), 15--40.
- Lectures on Restrictions of Unitary Representations, Lie Theory:
Unitary Representations and Compactifications of Symmetric Spaces, (J.-P.
Anker and B. Ørsted, Eds.) Progr. Math. 229,, Birkh\"auser (2005), ISBN
0-8176-3526-2, (European School およびハーバード大学での講義録).
- リー群と表現論, 岩波書店 (2005)， 644頁 (大島利雄氏との共著). ISBN4-00-006142-9
[2000年以前からの引用]
- "Discrete decomposability of the restriction of $A_{\mathfrak q}(\lambda)$
with respect to reductive subgroups, Part I, Invent. Math.,
117 (1994), 181--205; Part II, --- micro-local analysis and
asymptotic $K$-support", Ann. of Math., 147 (1998), 709--729;
Part III, --- restriction of Harish-Chandra modules and associated
varieties", Invent. Math., 131 (1998), 229--256.