球等質多様体上の調和解析入門^{∗}

小林俊行 (Toshiyuki Kobayashi)

東京大学数理科学研究科 & Mittag-Leffler 研究所

目次

1) 実簡約リー群の表現論入門

2) 球等質空間上の非可換調和解析 I (誘導表現と重複度)

3) 球等質空間上の非可換調和解析 II (表現の制限と重複度)

§1. 実簡約リー群の表現論入門

G を実簡約線型リー群 (real reductive linear Lie group) とする。すなわち, G は GL(n, ℝ) の閉部分群であって,

\{ \begin{matrix}· g が G の元ならば, 転置行列^{t}g もまた G の元である。 \\ · G の連結成分は, 高々有限個。 \end{matrix}

という 2 つの性質を満たすものとする。

例. GL(n, ℝ), SL(n, ℝ), O(p, q), U(p, q), Sp(p, q), SO^{∗}(2n), SU^{∗}(2n), Sp(n, ℝ), SL(n, ℂ), SO(n, ℂ), ... は実簡約線型リー群の例である。

さらに, 実簡約線型リー群 G の中心が離散群のとき G は実半単純線型リー群という。上の例で言えば, Sp(p, q), SL(n, ℝ), SL(n, ℂ) は実半単純リー群である。一方, U(p, q) や GL(n, ℝ), GL(n, ℂ) は実半単純リー群でない。実半単純線型リー群と実簡約線型リー群の表現論に本質的な差異はないが, ℝ やトーラス 𝕋 を含めて見た方が良いので, ここでは実簡約線型リー群の表現を述べる。

∗ 95 年 1 月 (立教大学) および 8 月 (長野の山形) での講演記録。

Typeset by AMS-TEX

実簡約線型リー群の表現について何が既知であり, 何が未解決であるか現状を大まかに解説しよう。

Ĝ_{ad} ⋯ G の既約 (admissible) 表現全体^{1}
Ĝ ⋯ G の既約ユニタリ表現全体
Ĝ_{f} ⋯ G の既約有限次元表現全体

とする。このとき

Ĝ ⊂ Ĝ_{ad} ⊃ Ĝ_{f}

である。

例 1.1. G = ℝ の場合。 (GL(1, ℝ) の連結成分を加法群とみれば, 前ページの実簡約線型リー群の定義に当てはまっている。 )

ζ ∈ ℂ に対し,

χ_{ζ}: ℝ → GL(1, ℂ) ≃ ℂ^{×} x ↦ e^{xζ}

とおくと, G = ℝ の一次元表現が定義される。 G の任意の既約な admissible 表現は一次元に限られる。従って, Ĝ_{ad} = Ĝ_{f} ≃ ℂ となる。更に,

χ_{ζ} がユニタリ⇔ |χ_{ζ}(x)| = 1 (∀x ∈ G = ℝ)
⇔ ζ ∈ \sqrt{−1}ℝ

なので, Ĝ ≃ \sqrt{−1}ℝ となる。まとめると,

Ĝ_{ad} ≃ ℂ
/_{⌣}^{/}  \\
Ĝ ≃ \sqrt{−1}ℝ  Ĝ_{f} ≃ ℂ

となる。

例 1.2. G = SO(2) ≃ S^{1} の場合。

Ĝ_{ad} ≃ ℤ
//  \\
Ĝ ≃ ℤ Ĝ_{f} ≃ ℤ

1正確には, 同値類全体という意味であるが, 無限次元位相空間が表現空間の場合, 「表現の同型」の然るべき定義を選ばなければならない。詳しくは注意 1.4 参照。 n ∈ ℤ ≃ Ĝ_{ad} に対し,

χ_{n}: S^{1} → GL(1, ℂ) ≃ ℂ^{×}
z ↦ z^{n}

とおくと, G ≃ S^{1} の一次元表現が定義される。さらに, G の任意の既約表現は上の形に限る。上の表現はすべてユニタリであることに注意しよう。従って, Ĝ_{ad} = Ĝ = Ĝ_{f} ≃ ℤ である。

例 1.3. G = SL(2, ℝ)

ごく粗雑な書き方をすれば, Ĝ ⊂ Ĝ_{ad} ⊃ Ĝ_{f} を記述するパラメータ空間は

Ĝ_{ad} ≒ ℂ ∪ ℤ ∪ ℕ_{+}
/ ⌣/  \⌣ \
Ĝ ≒ (ℝ ∪ \sqrt{−1}(−1, 1)) ∪ ℤ ∪ \{1\}  Ĝ_{f} ≃ ℕ_{+}

という感じになる^{1}。上の図式を簡単に眺めてみよう。

i) SL(2, ℝ) の既約 admissible 表現は, 大雑把には有限個の系列にわかれ^{2}, 各系列は連続濃度, あるいは可算個のパラメータをもつ既約表現の family からなる。

ii) 例えば, Ĝ_{ad} のパラメータ空間で ℂ と表した表現は主系列表現, ℤ と表した表現は (反) 正則離散系列 (およびその極限), ℕ_{+} と表した表現は既約有限次元表現 (SL(2, ℝ) の場合は次元でパラメトライズされる) と呼ばれる表現の系列である。

iii) 主系列表現のパラメータ ℂ は G = SL(2, ℝ) に含まれる可換な部分リー群

\{( \begin{matrix}a & 0 \\ 0 & a^{−1} \end{matrix} ) : a > 0\} ≃ ℝ の既約な admissible x ↦ e^{xζ} (ζ ∈ ℂ) 全体のパラメータ

空間 ℝ̂_{ad} ≃ ℂ (例 1.1) に, 離散系列のパラメータ ℤ は SL(2, ℝ) に含まれる可換な部分リー群 SO(2) ≃ S^{1} の既約な admissible 表現 z ↦ z^{n} (n ∈ ℤ) 全体のパラメータ空間 Ŝ^{1}_{ad} ≃ ℤ (例 1.2) に, それぞれ, ほぼ対応している^{3}。

iv) (iii) で述べたことは, coadjoint orbit の幾何的量子化 (geometric quantization) として得られる表現の構成, すなわち前者は real parabolic induction, 後者は cohomological parabolic induction として, Levi 部分群からの「ある種の誘導表現」で (ほぼ) 既約な表現が構成されることで説明される。 1話を簡略化するためにかなり不正確に書いている。 2パラメータが特異な表現では系列という考え方は不自然になる。 3既約性, 表現の同型, Cartan の連結成分など多くの細かい問題をすべて無視している。 v) SL(2, ℝ) の既約ユニタリな有限次元表現は自明な表現に限ることは容易にわかる。す

なわち, Ĝ ∩ Ĝ_{f} = { 自明な表現} 。上の記号では自明な表現は 1 と表記している。例 1.1, 例 1.2, 例 1.3 はそれぞれ可換リー群, コンパクトリー群, 非コンパクト単純

リー群の典型例である。それぞれの例を一般化して述べたものが以下の例 1.1′, 例 1.2′, 例 1.3′ である。例 1.1′. G が可換 Lie 群の場合。

Ĝ_{ad}
/_{⌣}^{/}  \\
Ĝ  Ĝ_{f}

例 1.2′. G はコンパクトリー群の場合。

Ĝ_{ad} ; //  \\ ; Ĝ  Ĝ_{f}

すなわちコンパクト群の任意の既約表現は有限次元であり, しかも, ユニタリ化可能でもある。例 1.3′. G = 非コンパクト連結単純リー群の場合。

Ĝ_{ad} ; ∪ ∤ ∪ ∤ ; Ĝ ≠ Ĝ_{f}

G の既約ユニタリ表現は自明な一次元表現を除いてすべて無限次元である。すなわち, Ĝ ∩ Ĝ_{f} = { 自明な表現} 。注意 1.4 (admissible 表現, 表現の同値の定義について; 詳しくは [Kn], [V2], [Wal1], [Wal3], [War] などの教科書参照). 非コンパクトなリー群の表現の大部分は無限次元表現である。無限次元表現を考える際, 表現空間には位相を入れて考える。すなわち,

G の連続な表現 (ρ, V) とは,

\{ \begin{matrix}V & : 完備局所凸線型位相空間 \\ ρ & : G → GL(V) は代数的準同型 \\ G & × V → V は連続 \end{matrix}

の 3 つの条件が満たされているときをいう。表現 (ρ, V) が既約であるとは, V の\underline{閉}不変部分空間が \{0\} か V に限ることとする。この一見自然な定義で表現論を考えると, 表現論は代数的というより関数解析的な部

分に多く関わってしまう。すなわち, 捉えたいと考えるリー群の表現の性質を越え, 位相線型空間論固有の問題が混ざってしまう。例えば, 線型空間の位相によっては, 可換リー群 ℝ に無限次元の既約表現が存在することが知られている。 (ただし, ユニタリに限定すれば変な現象はおこらない) 。そこで, うんと妥協して,

1. 考える表現のクラスを制限したうえで,

2. 表現の同値類を考えるとき (適当な意味で) 位相を忘れるという方向で, 「既約表現」を分類しようというのが, Harish-Chandra によって提唱され, 現在主に行われている考え方である。 1 が admissible 表現 (あとの用語では K-admissible) と呼ばれるもので, 2 は (𝔤, K)-加群の考え方である。 Harish-Chandra はその初期の研究で, admissible な表現を考える限りにおいて, 既約性やユニタリ化可能性が, 考えている完備局所凸位相線型空間の位相とは関わりなく, その (𝔤, K)-加群という代数的な性質にのみよることを証明した。ここで, 表現 (ρ, V) が admissible であるというのは, 次の条件がなりたつときをいう。

dim Hom_{K}(τ, V) < ∞ が任意のτ ∈ K̂ に対して成り立つ.

このとき,

Image φ (φ ∈ Hom_{K}(τ, V) τ ∈ K̂)

の有限和で生成される V の部分空間を V_{K} と書く。 V_{K} は V の稠密な部分空間であり, リー環 𝔤 および K が作用する。これを (ρ, V) の (𝔤, K)-加群 (Lepowsky(’73) の用語で underlying (𝔤, K)-module of (ρ, V)) という。本質的に同型な表現はさまざまな位相の線型空間に実現することができるが^{4}, underlying (𝔤, K)-module は一意であるというのが重要な点である。既約な admissible 表現全体に, (𝔤, K)-加群としての同型によって同値類を定めたものを Ĝ_{ad} として定義する。

例 1.5. (𝔤, K)-加群の例を, 最も単純な場合にみてみよう。

G = SU(1, 1) = \{( \begin{matrix}α & β \\ β̄ & ᾱ \end{matrix} ) : |α|^{2} − |β|^{2} = 1\}
V = L^{2}(S^{1})

4その最大のものの存在が Schmid の maximal globalization である.

とおく。 V を表現空間とする G の表現を

g · f(z) = f(\frac{αz + β}{β̄z + ᾱ}) z ∈ S^{1}, g^{−1} = ( \begin{matrix}α & β \\ β̄ & ᾱ \end{matrix} ) ∈ SU(1, 1)

で定義する。 (V は既約表現ではなく, 有限個の組成列をもつ表現である。 ) この表現の微分表現を定義するために, V = L^{2}(S^{1}) の部分空間

V_{K} := { ∑ ; 有限和a_{n} e^{inθ}}

を考える。 V_{K} は G の作用で不変ではないが,

\{ \begin{matrix}Lie 環 𝔤 = Lie (G) \\ 極大コンパクト群 K = S(U(1) × U(1)) \end{matrix}

の作用では閉じており, また V の中で稠密であることは Fourier 級数の性質よりただちにわかる。

次に, V = L^{2}(S^{1}) の部分空間を考える。

V_{1} = C^{∞}(S^{1})
V_{2} = A(S^{1})

とすると, V, V_{1}, V_{2} は

V ⫌ V_{1} ⫌ V_{2}

でそれぞれ自然な位相で完備局所凸線型位相空間となる。これらには, 表現論的には本質的な差異はない。実際, K -有限ベクトルの空間は V_{K} = (V_{1})_{K} = (V_{2})_{K} となる。注意 1.4 で述べたように無限次元表現を考えるときは V, V_{1}, V_{2} 等は同値であるとみなす。

\underline{分類について}

Ĝ_{ad}
/ ⌣/  \⌣\
Ĝ  Ĝ_{f}

のそれぞれについて分類の現状を述べる。 \underline{Ĝ_{ad}(G の既約表現の同値類)}: 分類済み。三つの方法が知られている。

1) Langlands の行列要素の漸近挙動によるもの ([La], [KZ]), 2) Vogan の minimal K-type 理論及び Vogan-Zuckerman の導来函手加群を用いるもの ([V1], [V2]),

3) Beilinson - Bernstein の旗多様体上の D - 加群を用いるもの ([BeBe])

(ただし, パラメータが特異な表現については, D-加群を用いて既約 (𝔤, K)-加群の分類を遂行した文献は知られていないようである。 ) \underline{Ĝ(G の既約ユニタリ表現の同値類)}: 一部しか分類されていない。

例えば, 解決ずみである SL(n, ℝ), SL(n, ℂ) の既約ユニタリ表現の分類の歴史 SL(2, ℝ) Bargman; SL(2, ℂ) Gelfand-Naimark (1947 頃) SL(3, ℝ) Vakhutinski; SL(3, ℂ) Tsuchikawa (1968 頃) SL(n, ℝ), SL(n, ℂ) Vogan (1987 頃) を見てもわかるように, GL の場合でも相当年月のかかる問題であった。

現在, 既約ユニタリ表現が分類されているもののうち, 文献にあるものは, 以下の群である (例えば [V4], [Ba], [V6] 及びそこにある文献参照) 。 SO(n, 1), SU(n, 1), Sp(n, 1), F_{4(−20)}, G_{2}(ℝ) など ℝ-rank が低い場合や SL(n, ℂ), SO(n, ℂ), Sp(n, ℂ), SU^{∗}(2n), SL(n, ℝ).

一方, 古典型の半単純リー群でも SO(p, q), SU(p, q), Sp(p, q) (p, q大) や Sp(n, ℝ), SO^{∗}(2n) といったリー群の既約ユニタリ表現は分類は未完成である。 \underline{Ĝ_{f}(G の既約有限次元表現の同値類)}: 分類済み。

Cartan-Weyl の highest weight theory で分類される (∼ 1925) 。すなわち, 既約有限次元表現は Borel subalgebra の 1 次元表現によって分類される (例えば, [H] などの標準的な教科書参照) 。

簡単に復習をしよう。 G_{ℂ} は 𝔤 ⊗ ℝ をリー環とする単連結な複素リー群で, G は G_{ℂ} の部分群として実現されていると仮定する。 (ρ, V) が G の既約有限次元表現とすると, この表現を G_{ℂ} の Borel 部分群 B に制限したとき V には既約な部分空間が丁度 1 次元存在する。この 1 次元表現が G の有限次元既約表現をパラメトライズするのである。逆に, Borel subalgebra の 1 次元表現から G の既約有限次元表現を構成する方法には, Verma module の既約商加群をとる方法や, Borel-Weil-Bott による幾何的構成法などが知られている。

§2. 球等質空間上の非可換調和解析 I (誘導表現と重複度)

球等質空間 (spherical homogeneous space) とは, 何だろうか？どのような性質で特徴づけられるべき等質空間なのかを理解しよう。その理解の中で, 球等質空間および, それより (広い or 狭い) 等質空間のクラスを合計４種類導入する。そのいずれもが, 色々な形に姿を変えて自然に現れる。その側面を紹介したい。

\begin{matrix}幾何 & ⟷ & 解析 \\ M(多様体) & C^{∞}(M) \end{matrix}

という対応を, 群の作用をこみにして表せば, 次の対応になる。

群作用のある多様体 ⟷ 表現論
G ^{⌢}⟩M  ↔ G ^{⌢}⟩C^{∞}(M)
を理解したい。を理解したい。

右側を記述するために基礎となるのは C^{∞}(M) の中に実現されている G の既約表現を記述することである。その, もっとも簡単な手がかりとして, 次元

Hom_{𝔤,K}(π_{K}, C^{∞}(M)) (π ∈ Ĝ_{ad})

を, M が等質多様体 G/H の場合に調べる。 (もう少し一般の設定として, C^{∞}(M) の代わりに, M 上の G-共変ベクトル束の切断についても, 同様の事を考える。 )

以下, G は ℝ 上定義された実簡約代数群, H は ℝ 上定義された G の代数部分群とする。 (τ, V) を H の admissible な表現とするとき C^{∞}(G ×_{H} V) を G/H 上の G-共変ベクトル束 G ×_{H} V の C^{∞}-切断全体の作る Frechét 空間とする。

m_{𝔤,K}(π, τ) := dim Hom_{𝔤,K}(π, C^{∞}(G ×_{H} V))

とおく。

例 2.1. τ = 1 (H の自明な 1 次元表現) 。 M = G/H とすると,

m_{𝔤,K}(π, 1) = dim Hom_{𝔤,K}(π, C^{∞}(M))

例 2.2. (Frobenius の相互律) G はコンパクトと仮定する。 τ ∈ Ĥ, π ∈ Ĝ とするとき,

m_{𝔤,K}(π, τ) =[π|_{H}; τ] := dim Hom_{H}(τ, π|_{H})
=G の既約表現 π を部分群 H に制限して,

H の既約表現に分解したとき, τ が現れる重複度。

組 (G, H) に関する, 表現論的な性質, あるいは幾何的な性質, 新谷関数などの関数空間における性質などをそれぞれ４種類 1, 2, 3, 4 考えよう。

B_{ℂ} は G_{ℂ} の Borel 部分群, P_{G} は G の放物型部分群, P_{H} は (H が簡約部分群の場合) H の放物型部分群とする。以下, 性質 2,4 を考える場合は H を簡約部分群と仮定する。

イ) (表現論的性質)

1. m_{𝔤,K}(π, τ) < ∞  3. sup_{π∈Ĝ_{ad}} m_{𝔤,K}(π, τ) < ∞
(∀τ ∈ Ĥ_{f}, ∀π ∈ Ĝ_{ad})  (∀τ ∈ Ĥ_{f})
2. m_{𝔤,K}(π, τ) < ∞  4. sup_{π∈Ĝ_{ad}} m_{𝔤,K}(π, τ) < ∞
(∀τ ∈ Ĥ_{ad}, ∀π ∈ Ĝ_{ad})  (∀τ ∈ Ĥ_{ad})

ロ) 幾何的性質

\begin{matrix}1. #(H\G/P_{G}) < ∞ & 3. #(H_{ℂ}\G_{ℂ}/B_{G}) < ∞ \\ 2. #(P_{H}\G/P_{G}) < ∞ & 4. #(B_{H}\G_{ℂ}/B_{G}) < ∞ \end{matrix}

上の諸条件を同等な性質で見かけ上強いものや見かけ上弱いもののいくつかを書き留めよう。

イ′) 表現論的性質

1. sup_{τ∈Ĥ_{f}} \frac{1}{dim τ} m_{𝔤,K}(π, τ) < ∞ 3. sup_{τ∈Ĥ_{f}} sup_{π∈Ĝ_{ad}} \frac{1}{dim τ} m_{𝔤,K}(π, τ) < ∞
(∀π ∈ Ĝ_{ad})
2. sup_{τ∈Ĥ_{ad}}m_{𝔤,K}(π, τ) < ∞  4. sup_{τ∈Ĥ_{ad}} sup_{π∈Ĝ_{ad}}m_{𝔤,K}(π, τ) < ∞
(∀π ∈ Ĝ_{ad})

ロ′) 幾何的性質

\begin{matrix}1. G/P_{G} には & 3. G_{ℂ}/B_{G} には \\ H の開軌道が存在する。 & H_{ℂ} の開軌道が存在する。 \\ 2. G/P_{G} には & 4. G_{ℂ}/B_{G} には \\ P_{H} の開軌道が存在する。 & B_{H} の開軌道が存在する。 \end{matrix}

ハ) 有限次元表現のみで記述される性質

1.  3. sup_{τ∈Ĥ_{f}} sup_{π∈Ĝ_{f}} \frac{1}{dim τ} [π|_{H} : τ] = 1
2.  4. sup_{τ∈Ĥ_{f}} sup_{π∈Ĝ_{f}}[π|_{H} : τ] = 1

さて, リー環の包絡環 U(𝔤) の中心について簡単な復習をしよう。

Z(𝔤) := 𝔤 ⊗_{ℝ} ℂ の包絡環 U(𝔤) の中心

≃ 群多様体 G 上の G × G-不変微分作用素環

とおく。例 2.3. 𝔤 ≃ ℝ^{n} (可換リー代数) のとき,

Z(𝔤) ≃ ℝ^{n} 上の定数係数偏微分作用素環= ℂ[\frac{∂}{∂x_{1}} , ⋯, \frac{∂}{∂x_{n}}].

𝔤 ≃ 𝔰𝔩(2, ℝ) のとき,

Z(𝔤) ≃ ℂ[Δ] (Δ はカシミール作用素).

𝔤 が一般の簡約リー代数の場合も同様に, Z(𝔤) は多項式環と同型な環であり, その生成元の個数は, 𝔤 の極大可換な部分代数の次元, すなわち rank 𝔤 と一致する (Harish-Chandra ’51) 。 Z(𝔤) から ℂ への ℂ-代数としての準同型写像全体をHom_{ℂ- alg.}(Z(𝔤), ℂ) と表す。 λ ∈ Hom_{ℂ- alg.}(Z(𝔤), ℂ), μ ∈ Hom_{ℂ- alg.}(Z(𝔥), ℂ) に対して

C^{∞}(G; λ) := {f ∈ C^{∞}(G) : Z · f = λ(Z)f, ∀Z ∈ Z(𝔤)} ,

C^{∞}(K\G/H; λ) := {f ∈ C^{∞}(G; λ) : f(kgh) = f(g), ∀g ∈ G, ∀k ∈ K, ∀h ∈ H}

Sh(μ, λ) := {f ∈ C^{∞}(K\G/H ∩ K; λ) : f · Z′ = μ(Z′)f, ∀Z′ ∈ Z(𝔥)} ,

と書こう。^{5} ニ) 関数空間の次元についての性質

1. dim C^{∞}(K\G/H; λ) < ∞  3. sup_{λ∈Hom_{ℂ-alg.}(Z(𝔤),ℂ)} dim C^{∞}(K\G/H; λ) < ∞
(∀λ ∈ Hom_{ℂ-alg.}(Z(𝔤), ℂ))
2. dim Sh(μ, λ) < ∞  4. supμ∈Hom_{ℂ-alg.}(Z(𝔥),ℂ) λ∈Hom_{ℂ-alg.}(Z(𝔤),ℂ) dim Sh(μ, λ) < ∞
(∀λ ∈ Hom_{ℂ-alg.}(Z(𝔤), ℂ),
∀μ ∈ Hom_{ℂ-alg.}(Z(𝔥), ℂ))

次の定理は, コンパクトな場合の結果 ([Br, BLV, Kr1, Kr2, Se, Vi, VK]) から, 非コンパクトな場合の結果 ([Bi, M2, O2, Ya] およびその後の発展) までをまとめたものである。

定理 2.4. G を ℝ 上の定義された簡約線型群, H を ℝ 上定義された G の代数部分群とする。このとき, 番号 1,2,3,4 に対応する (イ), (イ’), (ロ), (ロ’), (ハ), (ニ) で述べられた (G, H) に関する各条件は, 各番号ごとにそれぞれ同値である。 (ただし, 番号 2,4 では H は簡約と仮定する。 )

定義 2.5. 組 (G, H) が性質 3, すなわち (イ), (イ’), (ロ), (ロ’), (ハ), (ニ) における性質３のどれか一つ (⇔ 全部) を満たすとき等質空間 G/H を

5Sh(μ, λ) という記号は, 村瀬氏による示唆で「新谷関数の空間」を表す。 \underline{球等質空間 (spherical homogeneous space)}という。また, G/H 上の G-不変な微分作用素の環 𝔻(G/H) が可換であるということとも同値であることが知られている。注意 2.6. 性質 3, 4 は組 (G, H) の複素化 (G_{ℂ}, H_{ℂ}) のみによって定まる性質である。ただし, (イ) や (ニ) では, 性質 3, 4 が組 (G, H) の複素化 (G_{ℂ}, H_{ℂ}) のみによって決まるというのは, 明らかなことではなく, 定理の一部である。注意 2.7. G がコンパクトの場合の球等質空間については, Vinberg, Kimelfeld, Servedio, Brion, Luna, Vust などによる多くの研究が知られている。これらについては同じ冊子の佐藤文広氏の球等質空間に関する原稿が参考になると思います。また, CIMPA 講義録 [Ko3] ６章４. ３節にも, コンパクトな球等質空間について知られている諸結果とできるだけ簡潔と思われる証明を紹介したサーベイ (約３ページ) があります。 \underline{証明について}

i) 素朴には, 有限群の場合と同じように G の既約表現 ≒ C^{∞}(G/P).

dim Hom(C^{∞}(G/P), C^{∞}(G/H)) = 核関数の空間の次元
≒ ♯(diag(G)\G × G/H × P) = ♯(H\G/P).

と考えれば良い。実際, 性質 1 の (イ) ⇒ (ロ) はこの考え方で証明される。 ii) 逆に, (ロ) ⇒ (イ) は, 有限群の場合とは異なり, 多様体上の関数空間を考えるため,

上の素朴な考え方だけでは正当化できない。正当化のための手法は, ７０年代後半から８０年代前半にかけて実半単純リー群の表現論で発展した理論 (境界値写像および minimal K-type 理論) を用いる ([V1], [O1] 等) 。

iii) 性質 1 の (ロ)′ ⇒ (イ) は, 山下氏による代数的な証明 (少し定式化が違う)([Y]) および大島氏等による主系列の空間への境界値写像を用いた証明 (重複度の評価を含む)([O2]) が知られている。

iv) 性質 3 の (ロ)′ ⇒ (イ) を示すためには, (iii) による重複度の評価と「主系列表現の中に含まれる既約表現の個数を一様評価する」ことが重要となる。後者は, Vogan の minimal K-type 理論と Zuckerman の translation を用いて証明できる。

v) 性質 4 については, 有限次元表現の制限に関する重複度の評価が鍵となる。これについては, 放物型部分群に対して Borel-Weil の定理をあてはめることによって, リー環の問題に帰着する。

vi) (ロ) と (ロ)′ については, 性質３の場合は Servedio によって証明された[Se] 。より一般の性質 1 の場合は, 松木氏のランク１の切り口による induction の手法を用いて証明される ([Bi],[M2]) 。 vii) 性質 (ハ) やその他の性質の同値性は主にコンパクト群の場合に帰着する (注意 2.7

参照) 。

次に例を述べよう。

例 2.8.1. G: コンパクト群の場合。

G = P_{G} なので, 幾何的性質 (ロ) の 1,2 は自動的に満たされる。一方, 性質 3,4 は部分群 H によって満たされることも満たされないこともある。

\begin{matrix}1. ◯ & 3. △ \\ 2. ◯ & 4. △ \end{matrix}

例 2.8.2. H = K (G の極大コンパクト部分群) の場合。

岩澤分解 G = KAN = KP_{G} より, H = K は実旗多様体 G/P_{G} に推移的に作用するので, (ロ) の性質 1 は満たされる。また H はコンパクトなので, P_{H} = H(= K) となり従って性質 2 も満たされる。松木氏の結果より幾何的性質 (ロ) の 3 も満たされる ([M1]) 。性質 4 は G によって満たされる場合とそうでない場合がある。

\begin{matrix}1. ◯ & 3. ◯ \\ 2. ◯ & 4. △ \end{matrix}

例 2.8.3. H = N (G の極大 unipotent 部分群) の場合。 G の Bruhat 分解より組 (G, N) は性質 (ロ) の 1 を満たすことがわかる。更に,

組 (G, N) が性質 3 を満たす⇔ ℝ-rank G = rank G (即ち, G は split).

表現論的性質の (イ) は Whittaker 関数の空間への既約表現の埋め込みが有限次元であることを保証する。 G が split のときは Whittaker 関数の次元の一様有界性が成り立つ (cf.

Lynch [Ly]) 。 (なお, (G, N) は reductive な組ではないので, 2, 4 の性質は考えない。 )

\begin{matrix}1. ◯ & 3. △ \\ 2. — & 4. — \end{matrix}

例 2.8.4. (G, H) が半単純対称対 (あるいは簡約対称対) の場合。

(ロ) の性質 1, 3 は松木氏の結果によりそれぞれ成立する ([M1]) 。 2,4 は成り立つときも成り立たない場合もある。

\begin{matrix}1. ◯ & 3. ◯ \\ 2. △ & 4. △ \end{matrix}

例 2 ∼ 4 をまとめて,

{H = N の \atop 場合} Bruhat ; ⟶ ; 分解  1  ⟵ {3 \atop 球等質空間}松木 ; ⟵ ; 分解{(G, H) が \atop 対称対の場合}
↑  ↑
2  ⟵  4
岩澤↑分解

{H = K の \atop 場合}

例 2.8.5. 群多様体の場合: G/H ≃ G_{1} × G_{1}/ diag G_{1} (G_{1} は単純リー群) とする。この場合は, 例 2.8.4 の特別な場合であるが, もう少し詳しく見てみよう。例 2.8.4 と同じように 1,3 は常に成り立つ。

\begin{matrix}1. ◯ & 3. ◯ \\ 2. △ & 4. △ \end{matrix}

2 が成り立つ⇔ G はコンパクト, または SO(n, 1) と局所的に同型
4 が成り立つ⇔ G は SL(2, ℝ), SU(2), SL(2, ℂ) のどれかと局所的に同型

(性質 2 と表現のテンソル積との関連については注意 3.7 参照) 。

例 2.8.6. 最後に, 非対称対のもっとも簡単な場合を述べよう。 G/H = G_{1} × G_{1} × G_{1}/ diag G_{1} (G_{1} は単純リー群) のとき,

\begin{matrix}1. △ & 3. △ \\ 2. △ & 4. × \end{matrix}

1 が成り立つ⇔ G はコンパクト, または SO(n, 1) と局所的に同型,
2 が成り立つ⇔ G_{1} はコンパクト,
3 が成り立つ⇔ G は SL(2, ℝ), SU(2), SL(2, ℂ) のどれかと局所的に同型.

なお, 4 を満たすような単純リー群 G_{1} は存在しない。 SL(2) のときに性質 3 の幾何的な判定条件 (ロ′) は満たされるのは次の良く知られ

た事実に他ならない: 「 Gauss 平面 P^{1}ℂ の相異なる 3 点は一次分数変換で 0, 1, ∞ という 3 点に移すことができる」言い換えると, 「 SL(2, ℂ) × SL(2, ℂ) × SL(2, ℂ) は P^{1}ℂ × P^{1}ℂ × P^{1}ℂ に開軌道をもつ」。

例 2.8.7. 性質 3, 4 をもつ組の分類について

注意 2.6 に述べたように, 性質 3,4 は複素化 (G_{ℂ}, H_{ℂ}) のみによる。 H が簡約の場合 [Kr3], [Br] によって性質３を満たす (G_{ℂ}, H_{ℂ}) が分類されている。その主なものは, 複素半単純対称対 (例 2.8.4 およびその後の図参照) であるが, そのほか, SL(2n+1, ℂ)/Sp(n, ℂ), SO(2n + 1, ℂ)/GL(n, ℂ), SO(7, ℂ)/G_{2}(ℂ) などが非対称な例である。

(G, H) が性質 4 を満たす。

⇔(G_{ℂ}, H_{ℂ}) は局所的に\{ \begin{matrix}(SL(n, ℂ), GL(n − 1, ℂ)) \\ (SO(n, ℂ), SO(n − 1, ℂ)) \\ 自明な組 \end{matrix}の直積と同型。

注意. (𝔰𝔬(8, ℂ), 𝔰𝔭𝔦𝔫(7, ℂ)) は外部自己同型によって, (𝔰𝔬(8, ℂ), 𝔰𝔬(7, ℂ)) にうつる。これも, 上の右側に含めて考えることにする。

§3. 球等質空間上の非可換調和解析 II (制限と重複度)

§2 の双対である, 表現の制限についての結果と, それを応用した球等質空間の非可換調和解析について説明する。

この節では, H は簡約部分群とする。また考える表現はユニタリ表現のみを考える。まず離散的直和として現れる表現についての条件を考えよう。 π ∈ Ĝ, τ ∈ Ĥ とする。

[π|_{H} : τ] := dim Hom_{H}(τ, π_{|H})

とおく。次の性質を考えよう。ホ) unitary 表現の部分群への制限

1.  3.

2. [π|_{H} : τ] < ∞  4. sup_{τ∈Ĥ}sup_{π∈Ĝ}[π|_{H} : τ] < ∞
(∀τ ∈ Ĥ, ∀π ∈ Ĝ) (sup_{π∈Ĝ}[π|_{H} : τ] < ∞ (∀τ ∈ Ĥ)) とも同値

定理 3.1. 定理 2.4 の (イ)-(ニ) における同値な性質 2 (または 4) が成り立てば, (ホ) の性質 2 (または 4) が成り立つ。例 3.2. 例 2.8.2 でみたように, H = K (G の極大コンパクト部分群) の場合性質 2 が常に満たされる。この場合の定理 3.1 (の性質２の部分) は, 「実簡約線型リー群の任意の既約ユニタリ表現を G の極大コンパクト部分群 K に制限したときに, 各 K-type は有限重複度で現れる」という Harish-Chandra の定理に対応している。

例 3.3. 定理 3.1 の性質 4 における制限の重複度の一様有界性は, ℝ 上での Kirillov 予想 ((G_{ℂ}, H_{ℂ}) = (SL(n, ℂ), GL(n − 1, ℂ)) のとき) および Gross-Prasad 予想 ((G_{ℂ}, H_{ℂ}) = (SO(n, ℂ), SO(n − 1, ℂ)) のとき) を (弱い形であるが) 肯定的な形で支持していると見なせる (例 2.8.7 参照) 。

上の定理 3.1 は, π ∈ Ĝ に依存しない一般論であったが, もう少し精密に, 表現 π ∈ Ĝ と H の組み合わせによって制限の重複度が有限次元になるかのはいつかを考えよう。

定義 3.2. π ∈ Ĝ が H-admissible であるとは, 次の２条件が成り立つこととする。

i) [π_{|H} : τ] < ∞ がすべての τ ∈ Ĥ に対して成り立ち, ii) π ≃ Σ_{τ∈Ĥ}^{⊕}[π_{|H} : τ] τ (ユニタリ同値) 。

1 節で述べた SL(2, ℝ) の離散系列の一般化である表現の族 (Vogan-Zuckerman 導来函手加群) を考えよう (例 1.3 の注意 (iv)) 。 𝔱 を 𝔨 の Cartan subalgebra, \overline{C} を Δ^{+}(𝔨, 𝔱) に関する dominant Weyl chamber としよう。 λ ∈ \sqrt{−1}𝔱^{∗} が適当な lattice に入っているとき余随伴軌道 Ad^{∗}(G) · λ ≃ G/G(λ) には, 複素構造が入り, その Dolbeault コホモロジーの稠密な部分空間にユニタリ表現 Π(G, λ) が定義される (cf. [V2], [V3], [Wal2]) 。 \sqrt{−1}𝔱^{∗} の閉錐を

C_{+}(λ) := { ∑_{β∈Δ(𝔲(λ)∩𝔭,𝔱)} n_{β} β : n_{β} ≥ 0}

と定義する (詳しくは [Ko1] 参照) 。

次に, H を G の部分群とする。 (𝔥 ∩ 𝔨)^{⊥} := Ker (𝔨^{∗} → (𝔥 ∩ 𝔨)^{∗}) とおき,

\overline{C}(𝔥) := \overline{C} ∩ Ad^{∗}(K)\sqrt{−1}(𝔥 ∩ 𝔨)^{⊥} ⊂ \sqrt{−1}𝔱^{∗}

とおく。ここで, (例えば Killing 形式を用いて) 𝔱^{∗} ⊂ 𝔨^{∗} とみなした。特に\overline{C}(𝔨) = \{0\}, \overline{C}(0) = \overline{C} である。つぎは, [Ko2] における主定理の一般化である:

定理 3.2. \overline{C}(𝔥) ∩ C_{+}(λ) = \{0\} ならば, G の (ほぼ既約な) ユニタリ表現 Π(G, λ) は, H-admissible である。

この結果を用いてさまざまな群作用をもつ部分多様体を調べることができる。例えば, 数論に関係のある一つの応用として, modular symbols の Hodge 成分についてのある種の消滅定理が得られる ([KO]) 。ここでは, 非対称球等質空間の離散系列の存在問題への応用を述べよう。最初に球等質空間の重要な例である対称空間の離散系列表現に関する結果をまとめると: 定理 3.3 ([MO], [FJ], [V5]). 半単純対称空間 G/H の任意の離散系列表現 π は G(λ)/G(λ) ∩ H がコンパクトトーラスとなる楕円型の元 λ ∈ \sqrt{−1}(𝔨/𝔥 ∩ 𝔨)^{∗} (⊂ \sqrt{−1}𝔨^{∗}) によって π = Π(G, λ) と表される. さらに, このような λ の存在条件は rank G/H = rank K/H ∩ K である.

非対称な球等質多様体上の離散系列は殆ど何もわかっていない。その手がかりとして, どのような非対称な球等質多様体に離散系列が存在するかを考える。定理 3.2, 定理 3.3, 定理 2.4 の系として得られる結果を, 例 2.8.7 で述べた非対称な複素球等質多様体の実形の例にそくして紹介する。例 3.4 (非対称型の球等質空間の離散系列の存在問題, [Ko2] Corollary 5.6).

Disc(SU(2p − 1, 2q)/Sp(p − 1, q)) ≠ ∅ (∀p, q),
Disc(SO(2p − 1, 2q)/U(p − 1, q)) ≠ ∅ if q ∈ 2ℤ,
Disc(SO(4, 3)/G_{2}(ℝ))  ≠ ∅.

最後に §2, §3 で述べた結果に関連する予想を書こう: 予想 3.5. H が G において簡約と仮定する。定理 2.4 における (イ)-(ニ) の同値な条件 1,2,4 と (ホ) の 1,2,4 は同値である。さらに, (イ)-(ニ) の性質 3 は (ホ) の性質 3 を導く。

\begin{matrix}1. Cartan 分解 G = KAH が & 3. L^{2}(G/H) の離散系列の重複度は \\ 存在する。 & 1 である。 \\ 2. G の既約ユニタリ表現の & 4. G の既約ユニタリ表現の \\ H への制限は & H への制限は \\ 重複度有限で分解される。 & 重複度有界で分解される。 \end{matrix}

注意 3.6. (ホ) の性質 1 が成り立てば (イ)-(ニ) の性質 1 が成り立つことは正しい。

注意 3.7. G が単純リー群のとき, 次の定理が成り立つ (小林 ’89):

「 G のユニタリ主系列同士のテンソル積を G の既約ユニタリ表現に分解したとき重複度

有限で分解される⇔ G はコンパクトリー群または SO_{0}(n, 1) と局所的に同型. 」

これは, 例 2.8.5 と合わせると, 上の予想の性質 2 を部分的に支持していることがわかる。

注意 3.8. 半単純対称空間については, 性質 3 に関する予想 3.5 はすべての古典型およ

び多くの例外型について正しいことが知られている。

注意 3.9. 予想 3.5 の性質 4 は, 例 3.3 で述べたように Kirillov 予想や Gross-Prasad 予

想と密接に関連している。

References

[Ba] D.Barbasch, The unitary dual for complex classical Lie groups, Invent. Math. 96 (1989), 103-176.

[BeBe] A.Beilinson and J.Bernstein, Localisation de 𝔤-modules, C. R. Acad. Sci. Paris (1981), 15-18.

[Bi] F. Bien, Orbits, multiplicities and differential operators, Representation Theory of Groups and Algebras, Contemporary Math. 145 (1994), A.M.S., 199–227.

[Br] M. Brion, Classification des espaces homogènes sphériques, Compos. Math. 63 (1987), 189– 208.

[BLV] M.Brion, D.Luna and Th.Vust, Espaces homogenes spheriques, Invent. Math. 84-3 (1986), 617–632.

[FJ] Flensted-Jensen, Analysis on Non-Riemannian Symmetric Spaces, Conf. Board, 61, A.M.S., 1986.

[GG] I.M.Gelfand and M.I.Graev, Geometry of homogeneous spaces, representations of groups in homogeneous spaces, and related questions of integral geometry, Transl. II. Ser., A.M.S. 37 (1964), 351-429.

[GS] V.Guillemin and S.Sternberg, Multiplicity free spaces, J. Differential Geometry 19 (1984), 31-56.

[H] J.E.Humphreys, Introduction to Lie algebras and Representation Theory, Springer Verlag, 1972.

[Kn] T.Knapp, Representation Theory of Semisimple Groups, an overview based on examples, Princeton Math. Series 36, 1986.

[KZ] A.Knapp and G.J.Zuckerman, Classification of irreducible tempered representations of semisimple groups, Ann. Math. 116 (1982), 381-501.

[Ko1] T.Kobayashi, 簡約型等質多様体上の調和解析とユニタリ表現論, 数学 46 (1994), 岩

波書店, 124-143.

[Ko2] , Discrete decomposability of the restriction of A_{𝔮}(λ) with respect to reductive subgroups and its applications, Invent. Math. 117 (1994), 181-205.

[Ko3] , Convex domains and the Fourier transform on spaces of constant curvature, Travaux en Cours, Hermann, Paris, 1995.

[KO] T.Kobayashi and T.Oda, The middle Hodge components of certain modular symbols on arithmetic quotients of type IV bounded symmetric domain, (in preparation).

[Kr1] M. Krämer, Über Untergruppen kompacter Liegruppen als Isotopiegruppen bei linearen Aktionen, Math. Z. 147 (1976), 207–224.

[Kr2] , Multiplicity free subgroups of compact connected Lie groups, Archiev Math. 27 (1976), 28–36.

[Kr3] , Sphärische Untergruppen in kompakten zusammenhängenden Liegruppen, Compositio Math. 38-2 (1979), 129-153.

[La] R.Langlands, On the classification of irreducible representations of real algebraic groups, mimeographed notes (1973).

[Ly] T. E. Lynch, Generalized Whittaker vectors and representation theory, Thesis, M.I.T., 1979.

[M1] T. Matsuki, Orbits on affine symmetric spaces under the action of minimal parabolic subgroups 79 (1979), J. Math. Soc. Japan, 499-511.

[M2] , Orbits on flag manifolds, Proceedings of the International Congress of Mathematicians, Kyoto 1990, Vol. II (1991), Springer-Verlag, pp. 807–813.

[MO] T.Matsuki and T.Oshima, A description of discrete series for semisimple symmetric spaces, Advanced Studies in Pure Math. 4 (1984), 331-390.

[O1] T. Oshima, Boundary value problems for systems of linear partial differential equations with regular singularities, Advanced Studies in Pure Math. 4 (1984), 391–432.

[O2] , Multiplicities of representations on homogeneous spaces, Abstracts from the conference ‘Harmonic Analysis on Lie Groups held at Sandbjerg Gods’, August 26-30, 1991, edited by N. V. Pedersen (1991), Mathematical Institute, Copenhagen University, 43–45.

[Se] Servedio, Prehomogeneous vector spaces and varieties, Trans. Amer. Math. Soc. 176 (1973), 421-444.

[Vi] É. B. Vinberg, Complexity of action of reductive groups, Funct. Anal. Appl. 20 (1986), 1–11.

[VK] É. B. Vinberg and B. N. Kimelfeld, Homogeneous domains on flag manifolds and spherical subgroups of semisimple Lie groups, Funct. Anal. Appl. 12 (1978), 168–174.

[V1] D. A. Vogan, The algebraic structure of the representations of semisimple Lie group I, Ann. of Math. 109 (1979), 1–60.

[V2] , Representations of Real Reductive Lie Groups, Progress in Math. 15, Birkhäuser, 1981.

[V3] , Unitarizability of certain series of representations, Ann. of Math. (1984), 141-187.

[V4] , The unitary dual of GL(n) over an archimedean field, Invent.Math. (1986), 449-505.

[V5] , Irreducibility of discrete series representations for semisimple symmetric spaces, Advanced Studies in Pure Math. 14 (1988), 191-221.

[V6] , The unitary dual of G_{2}, Invent. Math. (1994).

[Wal1] N.R.Wallach, Representations of semi-simple Lie groups, Proc. Canad. Math. Cong. (1977), 154-245.

[Wal2] , On the unitarizability of derived functor modules, Invent.Math. 78 (1984), 131-141.

[Wal3] , Real Reductive Groups I, II, Pure and Appl. Math. 132, vol. 132, Academic Press, 1988, 1992.

[War] G.Warner, Harmonic Analysis on Semisimple Lie Groups I, II, Springer Verlag, Berlin, 1972.

[Y] H. Yamashita, Criteria for the finiteness of restriction on U(𝔤)-modules to subalgebras and applications to Harish-Chandra modules, J. Funct. Annal. 121 (1994), 296–329.

Department of Mathematical Sciences University of Tokyo Komaba, Meguro, Tokyo 153 Japan

current address:

Institut Mittag-Leffler

Auravägen 17

S-182 62 Djursholm, Sweden

E-mail address: toshi@tansei.cc.u-tokyo.ac.jp