CONFORMAL GEOMETRY AND MINIMAL

UNIPOTENT REPRESENTATIONS

小林俊行 (Toshiyuki Kobayashi)

東京大学数理科学研究科

\underline{1.} Bargman, Gelfand らに始まる実半単純リー群の既約ユニタリ表現の研究は, 約半世紀経った現在において, まだ完全な分類は完成していない. しかし, ７０年代後半から８０年代に Zuckerman, Vogan, Wallach などによりユニタリ性を保つ函手という強力な代数的手法が開発された結果, 現在のユニタリ表現の分類理論において, 無限次元表現の中でも「小さな」ユニタリ表現が, 特に神秘的でかつ重要な役割を担っているように思われる (ユニタリ表現論の 80 年代および 90 年代の発展については, 例えば概説記事 [6] やそこにあげた文献を参照されたい) 。

C 型の split リー群であるメタプレクティック群 Mp(n, ℝ) では, 古くから知られている Segal-Shale-Weil 表現 (oscillator 表現) が「極小」のユニタリ表現である。８０年代後半に Kostant, Kazhdan は D 型の split リー群である SO(4, 4) に「極小」ユニタリ表現の構成に成功した [7] 。その後, SO(p, q) (p + q ∈ 2ℕ) の「極小」ユニタリ表現の構成が, 退化主系列の組成列の研究や Mp(n, ℝ) における dual pair の Howe 対応などの手法を用いて試みられている。

\underline{2.} この報告のテーマは

i) conformal geometry を用いた「極小」ユニタリ表現を幾何的に構成し, ii) reductive dual pair O(p, q) ⊃ O(p′, q′) × O(p′′, q′′) に関する分岐則を求める

ことである。

簡約群の極小表現の構成は, 一般に困難な問題であり, 90 年代になって, 主として代数的な手法によって盛んに研究されている (Kostant, Binegar-Zierau, Huang-Zhu, Torasso, Kazhdan など) 。 (i) はそれらとは独立に, 幾何的な考察によって, 驚くべきほど素朴な構成法を与えるものである。すなわち, 球面の直積 S^{p−1} × S^{q−1} という簡単な空間の conformal geometry から intrinsic に定義される無限次元表現が, O(p, q) の極小表現になる。

(ii) は, 整数論で重要なテータ対応 (Howe 対応) を Weil 表現以外の極小表現へ拡張する実験的な試みでもある。また, (ii) において p′′ = 0 の場合は, [2,4,5] における「離散的分岐則」 ( 「対称性の破れ」の記述において連続スペクトラムが存在しない) の重要な例を与える。 (ii) の証明には, (i) の幾何的な構成法が本質的に用いられる。

∗ 研究集会「 Lie 群と幾何学」 1998 年 12 月 21 日-24 日, 横浜市立大学

Typeset by AMS-TEX

\underline{3.} (M, g_{M}) を符号 (p, n − p) の n-次元擬リーマン多様体とし, Δ_{M} をラプラス-ベルトラミ作用素とする。偏微分作用素 Δ_{M} は p = 0, n のとき楕円型, p = 1, n − 1 のとき双曲型, それ以外の一般の場合はウルトラ双曲型になることに注意しよう。 K_{M} を擬リーマン多様体 Mのスカラー曲率とし, 山辺作用素を

Δ̃_{M} := Δ_{M} − \frac{n − 2}{4(n − 1)}K_{M}.

と定義する。さて, (M, g_{M}) の共形変換群を

G := Conf(M, g_{M}) ≡ (M, g_{M}) の conformal diffeomorphisms のなす群

と書こう。このとき, 定義から G × M 上の正値関数 Ω であって

h^{∗}g_{M} = Ω(h, ·)^{2}g_{M} (h ∈ G)

となるものが存在する。そこで, f ∈ Ker Δ̃_{M} ⊂ C^{∞}(M), h ∈ G に対し

ϖ(h^{−1})f ∈ C^{∞}(M)

を

(ϖ(h^{−1})f)(x) := Ω(h, x)^{\frac{n−2}{2}} f(h · x) x ∈ M

という式で定義しよう。このとき, 山辺作用素の共形変換による変換公式より

ϖ(h^{−1})f ∈ Ker Δ̃_{M}

が成り立ち, 次の命題が得られる。

命題 A. (ϖ, Ker Δ̃_{M}) は G の表現となる。

注意. n = 2 のときは, Ker Δ̃_{M} = Δ_{M} となり, 命題 A は「等角写像は調和関数を調和関数に移す」という良く知られた事実に対応する。

ここでのポイントは, 擬リーマン多様体 M に対して, 共形変換群 Conf(M) の内在的な表現が一つ定まったことである。この表現の functorial 性質が, 後で述べる分岐則の決定において重要な役割を果たすことになる。

\underline{4.} 球面の直積 M = S^{p−1} × S^{q−1} に符号 (p − 1, q − 1) の標準的な擬リーマン計量を (第一成分が正定値, 第二成分が負定値になるように) いれる。 ℝ^{p+q} の錐

Ξ := {(x, y) ∈ ℝ^{p+q} : ∥x∥ = ∥y∥ ≠ 0}

への, 擬直交群 O(p, q) の自然な作用を考える。この作用はスカラー倍と可換なので, O(p, q) は商空間

M = S^{p−1} × S^{q−1} ≃ Ξ/ℝ_{+}^{×}

にも自然に作用する。この作用は上記の擬リーマン計量に関して共形的 (conformal) な変換となることが初等的な計算で確かめられる。例. p = 3, q = 1 の場合は, O(3, 1) は SL(2, ℂ) に局所同型であり, M は ℙ^{1}ℂ に局所同型である。この場合は, SL(2, ℂ) の Riemann 球面への一次分数変換

ℙ^{1}ℂ → ℙ^{1}ℂ, z ↦ \frac{az + b}{cz + d}

が等角写像であるという, 良く知られた事実に相当する。

そこで, 上記の命題を適用すると極小ユニタリ表現の幾何的構成を与えることができる。すなわち, 次の定理が成り立つ。

定理 B. (小林-Ørsted) 1) p + q ∈ 2ℕ, p, q ≥ 2 p + q > 4 のとき (ϖ, Ker Δ̃_{M}) は O(p, q) の既約表現となる。

2) Ker Δ̃_{M} の稠密な部分空間を完備化して, O(p, q) の既約ユニタリ表現 (これも ϖ と書く) が得られる。

3) 得られた既約ユニタリ表現 ϖ は O(p, q) の極小表現である。

ここで, 無限次元ユニタリ表現が「極小」というためには, 無限次元表現の「大きさ」を定義しなければならない。そのための大雑把な測定法として, 「どのような次元の多様体上の関数空間で定義された表現であるか」という量 (Gelfand-Kirillov 次元) を用いるのが有効である。定理 B における表現の Gelfand-Kirillov 次元は p + q − 3 になることが示される。

\underline{5.} 擬直交群 O(p, q) の Lie 代数を 𝔤_{0} := 𝔬(p, q) とし, その双対空間の元 f_{1}, f_{2} ∈ \sqrt{−1}𝔬(p, q)^{∗} を

⟨f_{1}, X⟩ := −\sqrt{−1}X_{12}, ⟨f_{2}, X⟩ := −\sqrt{−1}X_{p+1,p+2}, (X = (X_{ij})_{1≤i,j≤p+q} ∈ 𝔤_{0})

という式によって定める。

楕円型軌道 Ad^{∗}(G)λf_{i} (i = 1, 2) (λ > 0, λ ∈ ℤ+ \frac{p+q}{2} ) は, p+q−2 次元の complex quadric の開集合として実現され, G が双正則に作用するような非コンパクトな複素多様体の構造を持つ。等質多様体として表せば,

Ad^{∗}(G)λf_{i} ≃ O(p, q)/(SO(2) × O(p − 2, q)) ↪ O(p + q)/(SO(2) × O(p − 2 + q))

が, その埋め込み (Borel embedding) である。

例. p = 2, q = 1 の場合は, 上記の Borel embedding は

上半空間 ⊂ ℙ^{1}ℂ

という埋め込みに対応している。

さらに, λ によって, この非コンパクトな複素多様体上の O(p, q)-共変正則直線束 L_{λ} を定義する (正確なパラメータのずらし方などは [3, 6] 参照) 。そこで, 正則直線束 L_{λ} に係数を持つ Dolbeault cohomology 群を考えよう。この cohomology 群は, 一般に無限次元のベクトル空間である。 Borel-Weil-Bott 定理の非コンパクト複素多様体への拡張である Schmid-Wong の幾何的な結果と, Zuckerman-Vogan derived functor module による代数的表現論の結果 ([1,6] の文献表を参照) を用いると, この Dolbeault cohomology について次のことがわかる:

「正則直線束のパラメータ λ が非負であれば, p − 2 次以外の cohomology 以外はすべて消滅し, p − 2 次の cohomology 群は O(p, q) の既約ユニタリ表現を与える。」

このようにして得られた O(p, q) の既約ユニタリ表現π_{+,λ}^{p,q} (i = 1 のとき), π_{−,λ}^{p,q} (i = 2 のとき) と書く。パラメータ集合として次の可算集合を導入する:

B(p, q) := \{ \begin{matrix}\{λ ∈ ℤ + \frac{p+q}{2} : λ > 1\} & (p > 1, q ≠ 0), \\ \{λ ∈ ℤ + \frac{p+q}{2} : λ > 1, λ ≥ \frac{p}{2} − 1\} & (p > 1, q = 0), \\ ∅ & (p = 1) or (p = 0). \end{matrix}

例. S^{p−1} 上の λ − \frac{p}{2} + 1 次球面調和関数空間上への直交群 O(p) の自然な表現は, q = 0 の場合にλ ∈ B(p, 0) に対応する表現 π_{+,λ}^{p,0} に他ならない。一方, p > 1, q > 0 の場合は, π_{+,λ}^{p,q} は無限次元表現であり, 双曲多様体に対する球面調和関数とでもいうべき空間を表現空間として実現することもできる。

\underline{6.} 群 G のユニタリ表現 π を部分群 G′に制限したときのπ|_{G′} の既約分解を具体的に与える (分岐則を決定する) という問題は表現論の基本問題の一つであるが, 一般に, π が無限次元で G′ が非コンパクトな場合は, 難しい問題で, 多くの重要な場合が未解決である。

ここでは, 分岐則を決定する新しい手法として, 共形変換を用いる例を大まかに述べよう。

まず, 定理 B において, 極小ユニタリ表現 ϖ を conformal geometry を用いて幾何的に構成した。この構成法が共形変換に内在的なものであることから, 局所共形同型な開集合 (双曲多様体) に同じ表現を構成することができる。従って, この双曲多様体の等長変換群にもとの表現を制限したときの分岐則は, この開集合上の関数を具体的に記述することによって, 非常に自然な形で幾何的な説明を与えることができる (表現の分岐則と球関数の漸近挙動に関する解析的なアイディアは[7] を用いる) 。

以上のアイディアに沿って得られる結果を群論的に記述しよう。

以下, p + q ∈ 2ℕ を仮定する。 p′ + p′′ = p, q′ + q′′ = q のとき G = O(p, q) の部分群 G′ を

G′ := G′_{1} × G′_{2} = O(p′, q′) × O(p′′, q′′)

と定義する。 G′_{1} と G′_{2} は互いに可換な G の部分群である。

定理 C. G の既約ユニタリ表現 ϖ を G′ に制限して G′ の既約ユニタリ表現に分解すると,

\begin{matrix}∑ & ⊕ \\ λ∈B(p′,q′)∩B(q′′,p′′) \end{matrix}π_{+,λ}^{p′,q′} ⊠ π_{−,λ}^{p′′,q′′} ⊕ \begin{matrix}∑ & ⊕ \\ λ∈B(q′,p′)∩B(p′′,q′′) \end{matrix}π_{−,λ}^{p′,q′} ⊠ π_{+,λ}^{p′′,q′′}

が離散スペクトラムとして現れる。

定理 D. 1) p′, q′, p′′, q′′ の少なくとも一つが 0 のとき, 制限 ϖ|_{G′} の既約分解は離散的である (連続スペクトラムが現れない) 。

2) q′′ ≥ 2, q′ + q′′ = q のとき

ϖ^{p,q}|_{O(p,q′)×O(q′′)} ≃ ∞ ; \begin{matrix}∑ & ⊕ \\ l=0 \end{matrix}π_{+,l+ \frac{q′′}{2} −1}^{p,q′} ⊠ π_{−,l+ \frac{q′′}{2} −1}^{0,q′′}.

特に, 定理 D における既約分解の公式は, C 型の群の Weil 表現 (極小表現) に対する Howe 対応 (dual pair 対応) と似た性格を持っている。すなわち, D 型の群 G = O(p, q) の極小表現に対する dual pair 対応として, G の互いに可換な部分群 G′_{1} と G′_{2} の既約ユニタリ表現の部分集合の間に, 一対一の対応を与えている。

References

[1] A. Knapp and D. Vogan, Cohomological Induction and Unitary Representations, Princeton University Press, 1995.

[2] T. Kobayashi, Discrete decomposability of the restriction of A_{𝔮}(λ) with respect to reductive subgroups and its applications, Invent. Math. 117 (1994), 181–205.

[3] T. Kobayashi and B. Ørsted, Conformal geometry and branching laws for unitary representations attached to minimal nilpotent orbits, C. R. A. S. Paris 326 (1998), 925–930.

[4] T. Kobayashi, Discrete decomposability of the restriction of A_{𝔮}(λ) with respect to reductive subgroups II —— micro-local analysis and asymptotic K-support, Annals of Math. 147 (1998), 709–729.

[5] T. Kobayashi, Discrete decomposability of the restriction of A_{𝔮}(λ) with respect to reductive subgroups III — restriction of Harish-Chandra modules and associated varieties, Inventiones Mathematicae 131 (1998), 229–256.

[6] T. Kobayashi, 離散と連続 — 無限次元表現の分岐則とその応用, 企画特別講演, 日

本数学会 (名城大学 3 月 26 日–3 月 29 日) (1998), 35–54.

[7] T. Kobayashi, Discrete series representations for the orbit spaces arising from two involutions of real reductive Lie groups, J. Funct. Anal. 152 (1998), 100–135.

[8] B. Kostant, The vanishing scalar curvature and the minimal unitary representation of SO(4, 4), Operator Algebras, Unitary Representations, Enveloping Algebras, and Invariant Theory (Connes et al, eds.), vol. 92, Birkhäuser, Boston, 1990, pp. 85–124.

153-8914 東京都目黒区駒場 3-8-1 東京大学大学院数理科学研究科

E-mail address: toshi@ms.u-tokyo.ac.jp