線形代数の量子化と積分幾何

東京大学大学院数理科学研究科大島利雄

1. 序

空間（多様体）の対称性，等質性が群によって記述されると考えたとき，その空間上の関数やその空間上のベクトル束の切片としての関数の空間の解析においては，可能ならば群の作用で分かりやすいものに分解して考えること（線形代数で言えば，固有空間分解）が基本的である．

空間が多様体である場合は，関数の全体は一般に無限次元であるため，群の作用で不変な微分方程式系の解空間として，この「分かりやすい空間」を記述することが多い．さらにその中の特徴的な関数を選び出すときにも微分方程式系が重要な役割を果たすことが多い．

そのような微分方程式系を見える形で具体的に構成することが，解析（微分方程式論）の立場から望まれる．微分方程式系は幾何学的な対象物の「量子化」という見方で自然に捕らえれ，具体的に構成できることを，例で，特に GL(n) の場合を基本に述べる． GL(n) は，最も基本的な Lie 群（すなわち群でかつ多様体）であるとともに，線形代数における様々な結果がそのまま有効な空間である．量子化という考えで構成されて得られた微分方程式系が， GL(n, ℂ) の実型の様々な等質空間の解析に普遍的に有効なことを解説したい．

群の多様体への作用を通じて，群は多様体上の関数の空間に作用している．その作用を無限小に表したものが Lie 環による作用であり，これは幾何学的には多様体上のベクトル場であって，解析的には 1 階の微分作用素である．これらから生成される微分作用素の環を代数的に扱う概念が，普遍包絡環であり，目的とする微分方程式系は，この普遍包絡環の中で考えることが出来る．「分かりやすい空間」が，群の作用でそれ以上細分できない場合，すなわち既約表現の場合，それらを零化する普遍包絡環の元全体は，原始イデアルとよばれ，空間の群不変性から，群の作用で不変なイデアル（両側イデアル）になっている．

普遍包絡環の古典極限は Lie 環上の多項式の環と考えることができ，普遍包絡環の両側イデアルは群の作用で不変な多項式環のイデアルに対応するので，「原始イデアル」を群の作用で不変な最小の集合，すなわち，共役類に対応するイデアルの「量子化」として捕らえ，その生成系を具体的に与えることを試みる．

GL(n, ℂ) 上の G の作用を，左からかける作用とすると， G の作用で不変なベクトル場は X ∈ M(n, ℂ) を使って φ(x) ↦ \frac{d}{dt}φ(xe^{tX})|_{t=0} = \frac{d}{dt}φ(x + txX)|_{t=0} と書けるので， M(n, ℂ) の元とこの不変ベクトル場を同一視する（ℂ のときは，正則というカテゴリで考える． ℝ のときは通常の意）． (i, j) 成分のみが 1 で他が 0 の行列単位を E_{ij} とおくと， (∑_{ν, μ=1}^{n} x_{νμ}E_{νμ})E_{ij} = ∑_{ν=1}^{n} x_{νi}E_{νj} であるから，この同一視で

(1.1)  E_{ij} = ∑_{ν=1}^{n} x_{νi} \frac{∂}{∂x_{νj}}

となり，交換関係（Lie 括弧式）

(1.2)  [E_{ij}, E_{kℓ}] = δ_{jk}E_{iℓ} − δ_{ℓi}E_{kj}

を満たす．すなわち 𝔤 を G = GL(n, ℂ) の Lie 環 𝔤𝔩_{n} とすると 𝔤 ≃ M(n, ℂ) = ∑_{i, j=1}^{n} ℂE_{ij} である．

日本数学会，企画特別講演， 2004 年 3 月 28 日，於筑波大学; 2005 年 2 月加筆（§10）

G 上の関数 φ に対する g ∈ G の作用は π_{g}φ(x) = φ(g^{−1}x) となるが， X ∈ M(n, ℂ) から定まる 1 パラメータ群 t ↦ e^{−tX} が引き起こすベクトル場を L_{X} と書くと，それは右不変ベクトル場となる． X = E_{ij} のときに具体的に書くと

(1.3)  L_{E_{ij}} = − ∑_{ν=1}^{n} x_{jν} \frac{∂}{∂x_{iν}}

となる． n × n 行列で表示すれば

(1.4)  (E_{ij}) = ^{t}(x_{ij})(\frac{∂}{∂x_{ij}} ), ^{t}(L_{E_{ij}}) = −(x_{ij}) ^{t}(\frac{∂}{∂x_{ij}} ).

𝔤 で生成される G 上の（左不変）微分作用素環は，代数的には普遍包絡環 U(𝔤) と呼ばれ， 𝔤 のテンソル代数 ∑_{m=0}^{∞} ⨂^{m} 𝔤 を交換関係 X ⊗ Y − Y ⊗ X − [X, Y] （X, Y ∈ 𝔤）で生成される両側イデアルで割った商代数である．

g ∈ G による作用は U(𝔤) における同型写像 Ad(g) を誘導し， X ∈ M(n, ℂ) ≃ 𝔤 への作用は， X ↦ Ad(g)X = gXg^{−1} と表せる．

2. 量子化，斉次化普遍包絡環

普遍包絡環の古典極限は， 𝔤 = M(n, ℂ) 上の多項式環 P (𝔤) と考えられ，幾何学的対象は 𝔤 とそこにおける Ad(g) の作用である．量子化は，「運動」で不変な「積分」を（微分）作用素に持ち上げることに対応する．我々の枠組みでは， A ∈ M(n, ℂ) を通る運動は A ↦ A(t) = Ad(e^{tX})A （X ∈ 𝔤）となるので， A の共役類（の閉包）の定義イデアルに「対応する」 U(𝔤) の G 不変イデアルを「量子化」と考えることができる． 𝔤 とその双対空間 𝔤^{∗} を 𝔤 上の非退化な対称形式

(2.1)  ⟨X, Y ⟩ = Trace XY

によって同一視することによって P (𝔤) を 𝔤 上の対称代数 S(𝔤) と同一視すると

V_{A} = ⋃_{g∈G} Ad(g)A ⟶ \overline{V}_{A} の（G 不変）定義イデアル ⊂ S(𝔤)
⋮  ↓^{量子化}
U(𝔤) または G_{ℝ} の表現 ⟵  U(𝔤) の（G 不変）イデアル

量子化 U(𝔤) と古典極限 S(𝔤) とを同時に考えるため斉次化普遍包絡環（cf. [O5]）

(2.2)  U^{ϵ}(𝔤) := (∑_{k=0}^{∞} ⨂^{k} 𝔤) /⟨X ⊗ Y − Y ⊗ X − ϵ[X, Y]; X, Y ∈ 𝔤⟩

を考える． ϵ は，複素数，あるいは全ての元と可換な不定元とみなす． U(𝔤) = U^{1}(𝔤)， S(𝔤) = U^{0}(𝔤) であるが， ϵ ≠ 0 ならば U^{1}(𝔤) ∋ X ↦ ϵX は U^{ϵ}(𝔤) の上への同型となっている．

この斉次化普遍包絡環においては， 𝔤 の元と同様に ϵ も 1 次の元と考えることにより，定義 (2.2) の分母は斉次イデアルになる．よって ϵ を不定元と見なしたときの U^{ϵ}(𝔤) = U(𝔤)[ϵ] においては， (Poincaré-Birkhoff-Witt の定理による）基底の取り方によらず斉次イデアルの概念が定義される．

まず V_{A} の定義イデアルが出発点になる．別の最も単純化した例，たとえば ℂ^{n} に座標の交換として n 次対称群 𝔖_{n} が作用している場合を考察してみよう．

λ = (λ_{1}, …, λ_{n}) ∈ ℂ が一般のときは， 𝔖_{n}λ は n! 個の点からなり

(2.3)  s_{j}(x) − s_{j}(λ)  (j = 1, …, n, s_{j}(x) = ∑_{1≤i_{1}<···<i_{j}≤n} x_{i_{1}} ⋯ x_{i_{j}})

は，その定義イデアルの生成系となる（S_{j}(x) = ∑_{i=1}^{n} x_{i}^{j} でもよい）．

その他，このイデアルに入っている元として以下のものがある．

∏_{i=1}^{n}(x_{i} − λ_{j}) (j = 1, …, n), (2.4)

∏_{j=1}^{n}(x_{i} − λ_{j}) (i = 1, …, n). (2.5)

λ が generic ならば (2.4) も生成元になっていることに注意しよう．退化した場合は，

例えば λ = (\underbrace{μ, …, μ}_{k}, \underbrace{ν, …, ν}_{n−k}) ならば\frac{n!}{k!(n−k)!} 個の点からなり，イデアルは異なる．

このとき (2.4) や (2.5) に対するものは実質的な意味を持ち，次の元がイデアルに入る．

\begin{matrix}(x_{i_{1}} − μ) ⋯ (x_{i_{n−k+1}} − μ), (x_{j_{1}} − ν) ⋯ (x_{j_{k+1}} − ν) \\ (1 ≤ i_{1} < ⋯ < i_{n−k+1} ≤ n, 1 ≤ j_{1} < ⋯ < j_{k+1} ≤ n), \end{matrix} (2.6)

(x_{i} − μ)(x_{i} − ν) (i = 1, …, n) (2.7)

μ ≠ ν とすると， (2.6) が，あるいは (2.7) と j = 1 の (2.3) がイデアルを生成する．

注意 2.1. (2.3) の最も一般の量子化は， 𝔖_{n} 不変な完全積分可能量子系と考えられ，それは [OS] により分類された（cf. [OP]， [O7])．一方，その解空間（波動関数）については，あまり解明されていない（特殊化した場合として， Heckman-Opdam の超幾何関数 [HO] は研究が進んでいる）．自明な量子化，すなわち (2.3) の x_{i} を\frac{∂}{∂x_{i}} に置き換えた場合は，解空間は指数多項式で張られ， 𝔖_{n} の作用は正則表現と同型となるが， (x, λ) に関して整関数となる大域的な基底が， [O2] により構成されている（λ = 0 のときの解は 𝔖_{n} 調和多項式と呼ばれる）．

3. 共役類， Generalized Verma Modules

正整数 n の順序づけられた正整数への分割 {n′_{1}, …, n′_{L}} に対し

(3.1)  \begin{cases}n_{j} & = n′_{1} + ⋯ + n′_{j} (1 ≤ j ≤ L), n_{0} = 0, \\ Θ & = \{n_{1}, n_{2}, …, n_{L}\}, \\ ι_{Θ}(ν) & = j if n_{j−1} < ν ≤ n_{j} (1 ≤ ν ≤ n) \end{cases}

とおく．この分割を Θ = {n_{1} < n_{2} < ⋯ < n_{L} = n} という n で終わる正整数の増加列で表す． 𝔤 の部分空間（部分 Lie 代数になる） 𝔫_{Θ}, 𝔫̄_{Θ}， 𝔪_{Θ} をそれぞれ ι_{Θ}(i) > ι_{Θ}(j)， ι_{Θ}(i) < ι_{Θ}(j) および ι_{Θ}(i) = ι_{Θ}(j) の条件を満たす E_{ij} で張られる空間とし， 𝔭_{Θ} = 𝔪_{Θ} + 𝔫_{Θ}， 𝔪_{Θ}^{k} = ∑_{ι_{Θ}(i)=ι_{Θ}(j)=k} ℂE_{ij}， 𝔫 = ∑_{1≤j<i≤n} ℂE_{ij}, 𝔫̄ = ∑_{1≤i<j≤n} ℂE_{ij}， 𝔞 = ∑_{j=1}^{n} ℂE_{jj} および 𝔭 = 𝔞 + 𝔫 とおく．このとき 𝔪_{Θ} = 𝔪_{Θ}^{1} ⊕ ⋯ ⊕ 𝔪_{Θ}^{L} となり， 𝔭 は Borel 部分代数と呼ばれ， Θ を動かすと 𝔭_{Θ} はこの Borel 部分代数を含む放物型部分代数全体を動く．ここで 𝔭_{Θ} = {X ∈ 𝔤; ⟨X, Y ⟩ = 0 (∀Y ∈ 𝔫_{Θ})} となっていることに注意． λ = (λ_{1}, …, λ_{L}) ∈ ℂ^{L} を固定し， 𝔤 の affine 部分空間

(3.2) \begin{aligned}A_{Θ,λ} & := ∑_{j=1}^{n} λ_{ι_{Θ}(j)}E_{jj} + 𝔫_{Θ} \\ & = \{(\begin{matrix}λ_{1}I_{n′_{1}} & & & & 0 \\ A_{21} & λ_{2}I_{n′_{2}} \\ A_{31} & A_{32} & λ_{3}I_{n′_{3}} \\ ⋮ & ⋮ & ⋮ & ... \\ A_{L1} & A_{L2} & A_{L3} & ⋯ & λ_{L}I_{n′_{L}} \end{matrix} ); A_{ij} ∈ M(n′_{i}, n′_{j}; ℂ)\} . \end{aligned}

を考える． I_{m} はサイズ m の単位行列で， M(k, ℓ; ℂ) は k × ℓ 複素行列の空間である．注意 3.1. A_{Θ,λ} の一般元はただ一つの共役類に対応し，その Jordan 標準型は

(3.3) ⨁_{μ∈ℂ, 1≤k≤n} J(#{i; λ_{i} = μ かつ n_{i} ≥ k}, μ)

ここで J(m, μ) = (\begin{matrix}μ & & & 0 \\ 1 & μ \\ & ... & ... \\ & & 1 & μ \end{matrix}) ∈ M(m, ℂ)

となる．特に，任意の Jordan 標準型は，適当に Θ と λ とを取ることにより，上の形で得られる.

古典極限の場合，すなわち f ∈ U^{0}(𝔤) = S(𝔤) がこの共役類の上で消える条件は， ϵ = 0 とおいた以下のものである．

f( ⋃_{g∈G} Ad(g)A_{Θ,λ}) = 0 ⟺ ( Ad(g)f)(A_{Θ,λ}) = 0  (∀g ∈ G)
⟺ Ad(g)f ∈ J_{Θ}^{ϵ}(λ)  (∀g ∈ G)

⟺ f ∈ ⋂_{g∈G} Ad(g)J_{Θ}^{ϵ}(λ)

⟺ f ∈ Ann_{G} (M_{Θ}^{ϵ}(λ))

ここで

J_{Θ}^{ϵ}(λ) := ∑_{X∈𝔭_{Θ}} U^{ϵ}(𝔤)(X − λ_{Θ}(X)),
M_{Θ}^{ϵ}(λ) := U^{ϵ}(𝔤)/J_{Θ}^{ϵ}(λ),
Ann (M_{Θ}^{ϵ}(λ)) := {D ∈ U^{ϵ}(𝔤); DM_{Θ}^{ϵ}(λ) = 0},
I_{Θ}^{ϵ}(λ) := Ann_{G} (M_{Θ}^{ϵ}(λ)) := {D ∈ U^{ϵ}(𝔤); Ad(g)D ∈ Ann (M_{Θ}^{ϵ}(λ)) (∀g ∈ G)}

であって， 𝔭_{Θ} から ℂ への線形写像（Lie 環の 1 次元表現となる） λ_{Θ} は

(3.4)  λ_{Θ}(Y + ∑_{k=1}^{L} X_{k}) := ∑_{k=1}^{L} λ_{k} Trace(X_{k}) for X_{k} ∈ 𝔪_{Θ}^{k} and Y ∈ 𝔫_{Θ}.

と定義される． ϵ = 1 のときは，上付きの 1 を略して M_{Θ}(λ) = M_{Θ}^{1}(λ) のように表記する．従って， A_{Θ,λ} が定める共役類 V_{A_{Θ,λ}} の定義イデアル ⋂_{g∈G} Ad(g)J_{Θ}^{0}(λ) の量子化とは， ⋂_{g∈G} Ad(g)J_{Θ}(λ) = Ann_{G}(M_{Θ}(λ)) = Ann(M_{Θ}(λ)) のことである．

よって我々の目標は I_{Θ}^{ϵ}(λ) の良い生成元を具体的に構成することとなる． M_{Θ}(λ) は 𝔪_{Θ} の指標 λ_{Θ} から誘導されたスカラー型の一般 Verma 加群と呼ばれ，それは Verma 加群

(3.5)  M(λ_{Θ}) := U(𝔤)/J(λ_{Θ}),
J^{ϵ}(λ_{Θ}) := ∑_{X∈𝔭} U^{ϵ}(𝔤)(X − λ_{Θ}(X)) and J(λ_{Θ}) = J^{1}(λ_{Θ}).

の商 𝔤 加群となる（Θ = {1, 2, …, n} のとき 𝔭_{Θ} = 𝔭 で， M^{ϵ}(λ_{Θ}) を M^{ϵ}(λ) と書く）．

問題． ϵ = 0 のときは，共役類の閉包の定義イデアルの良い生成元を， ϵ = 1 のときはスカラー型一般 Verma 加群の零化イデアルの良い生成元を求めよ．

斉次化普遍包絡環を使うことにより，この問題の解を同時に与える．

4. 固有値，行列式，不変元， Harish-Chandra 同型

n 次正方行列の共役類における不変量で最も基本的なものは， n 個の固有値の集合で，それは順序を除いて定まるから対称式における固有値の値が不変量である． U^{0}(𝔤) の G 不変元は，共役類の上で一定の値を取り，その全体 Z^{0}(𝔤) から求めるイデアルに入る最も基本的な元が構成される．ここで， Z^{ϵ}(𝔤) = {D ∈ U^{ϵ}(𝔤); Ad(g)D = D (∀g ∈ G)} ϵ = 1 の場合は，シュアーの補題により， Z(𝔤) の元が 𝔤 の “既約表現の空間”にスカラーで作用するが，そのスカラー（無限小指標という）が固有値の量子化とみなせる．

(Ad(g)E_{ij}) = ^{t}g^{−1} 𝔼^{t}g と作用するので（𝔼 = (E_{ij}) とおいた），

(4.1)  Z_{k} := Trace 𝔼^{k}  (k = 1, 2, …)

とおくと Z_{k} ∈ Z^{ϵ}(𝔤) が分かる（cf. Gelfand の構成 [Ge]）． ϵ = 0 では，固有値の k 次のベキ和の値をとる関数となることに注意．一般の行列は対角化できるので，不変元の値は対角行列での値を見ることによって得られる．それを量子化したものは次の Harish-Chandra 写像である

(4.2) γ : U^{ϵ}(𝔤) ∋ D → Γ(D) ∈ U^{ϵ}(𝔞) = S(𝔞)  (D − Γ(D) ∈ 𝔫̄U^{ϵ}(𝔤) + U^{ϵ}(𝔤)𝔫)

すなわち U^{ϵ}(𝔤) = U^{ϵ}(𝔫̄) ⊗ U^{ϵ}(𝔞) ⊗ U^{ϵ}(𝔫) の分解に関する U^{ϵ}(𝔞) への射影で， 𝔞 は可換なので， U^{ϵ}(𝔞) = S(𝔞)．さらに D′ = D + ⟨D, ϵρ := ϵ ∑_{j=1}^{n}(j − \frac{n+1}{2})E_{jj}⟩ とおいて Γ(D) = γ(D)′ と定義すると，以下の Harish-Chandra 同型（環同型）が得られる．

(4.3)  Γ : Z^{ϵ}(𝔤) ≃ S(𝔞)^{𝔖_{n}}.

このことから Z^{ϵ}(𝔤) は Z_{1}, …, Z_{n} で生成されることが分かる．なお， Γ(Z_{k}) を計算することは自明ではない（§7 および [Go1] 参照）．

一方，固有値の基本対称式を与える行列式の量子化は [Ca1] により 100 年以上前に構成されていて，容易に γ(det(𝔼, t)) = ∏_{i=1}^{n}(E_{ii} − t + ϵ(n − i)) が得られる：

(4.4)  det(𝔼, t) := det(E_{ij} − t + ϵ(n − i)δ_{ij}) ∈ Z^{ϵ}(𝔤)  (∀t ∈ ℂ).

非可換環の元を成分とする上記の行列式は，次の列行列式として定義する．

(4.5)  det(A_{ij}) = ∑_{σ∈𝔖_{n}} sgn(σ)A_{σ(1)1} ⋯ A_{σ(n)n}.

実際以下の Capelli 恒等式と E_{ij} ↦ E_{ij} − tδ_{ij} という自己同型から (4.4) が分かる．

(4.6)  det(x_{ij}) det(\frac{∂}{∂x_{ij}} ) = det(E_{ij} − iδ_{ij}).

注意 4.1. i) (4.4) の t^{k} の係数を Δ_{k} とおくと

(4.7)  Z^{ϵ}(𝔤) = ℂ[Z_{1}, …, Z_{n}] = ℂ[Δ_{1}, …, Δ_{n}].

ii) (4.1) の構成は，一般の簡約 Lie 環に拡張される（cf. §7）．一方， (4.4) は， 𝔬_{n} の場合に拡張がある（cf. [HU]， [Wa]）

iii) 一般の行列（半単純元）は対角化可能で，対角成分を λ = (λ_{1}, …, λ_{n}) とおいたとき，対応するイデアルは， ϵ = 0 のときの

(4.8)  I_{λ}^{ϵ} := {D ∈ U^{ϵ}(𝔤); ⟨γ(Ad(g)D), λ⟩ = 0 (∀g ∈ G)}

となる．

Verma 加群 M(λ) は最大の 𝔤 部分空間を持つので，それによる商を L(λ) とおくと， I_{λ} = Ann (L(λ)) となる． {I_{λ}; λ ∈ ℂ^{n}} は 𝔤 の原始イデアルの全体となることが知られている（[Du]）．

w ∈ 𝔖_{n} に対し w.λ = w(λ + ϵρ) − ϵρ とおくと， ϵ = 0 あるいは generic な λ に関しては I_{w.λ} = I_{λ} であるが，一般にはこれは正しくない（特に λ = ρ のときなど）．

V_{{1,...,n},λ} ⇒ 表現空間 λ (Z_{1}, …, Z_{n}) G ⇒ B(G) イデアルでの記述

iv) Verma 加群 M^{ϵ}(λ) の零化イデアル Ann_{G}(M^{ϵ}(λ)) は D − ⟨γ(D), λ⟩ （D ∈ Z^{ϵ}(𝔤)）で（すなわち 𝔤𝔩_{n} のとき Δ_{k} − ⟨γ(Δ_{k}), λ⟩ （k = 1, …, n）で）生成される．

5. 小行列式， Generalized Capelli Elements

行列の共役類を記述するには，小行列の rank あるいは，小行列式が用いられる．たとえば

(5.1)  A_{\{k,n\}}(μ, ν) = \binom{μI_{k}}{∗ νI_{n−k}}

の場合， rank(A_{{k,n}}(μ, ν) − μ) ≤ n − k, rank(A_{{k,n}}(μ, ν) − ν) ≤ k であるから， ϵ = 0 のとき (E_{ij} − μ) の n − k + 1 次の小行列式は V_{A_{{k,n}}(μ,ν)} の上で消える．小行列式の量子化を

(5.2) D_{\{i_{1},...,i_{m}\}\{j_{1},...,j_{m}\}}^{ϵ}(t) := det(E_{i_{p},i_{q}} + (ϵ(m − q) − t)δ_{i_{p}i_{q}})\begin{matrix}1≤p≤m \\ 1≤q≤m \end{matrix} ∈ U^{ϵ}(𝔤)

と定義し, Capelli 要素と呼ぼう．この量子化小行列式は行や列の添え字の入れ替えに対して，通常の行列式のときと同様に符号が変化し， {D_{IJ}^{ϵ}; #I = #J = m, I, J ⊂ {1, …, n}} で張られる空間は G 不変になり（G の作用は ϵ に依らない），また [x_{ij}, ∂_{μν}] = −ϵδ_{iμ}δ_{jν} とするとき， Capelli 恒等式の一般化 [O4]

(5.3)

det(∑_{ν=1}^{n} x_{νi_{k}}∂_{νj_{ℓ}} + ϵ(m − ℓ)δ_{i_{k}j_{ℓ}})\begin{matrix}1≤k≤m \\ 1≤ℓ≤m \end{matrix}

= ∑_{1≤ν_{1}<···<ν_{m}≤n} det(x_{ν_{p}i_{q}})\begin{matrix}1≤p≤m \\ 1≤q≤m \end{matrix} · det(∂_{ν_{p}i_{q}})\begin{matrix}1≤p≤m \\ 1≤q≤m \end{matrix}

が成り立つ．ここで最も大事なことは， ∀ϵ に対して

(5.4) D_{IJ}^{ϵ}(μ), D_{I′J′}^{ϵ}(ν + kϵ) (#I = #J = n − k + 1, #I′ = #J′ = k + 1)

が I_{Θ}^{ϵ}(λ) の元となることである（cf. (2.6)）．また ϵ = 0 のときは μ ≠ ν ならば逆にこれらが I_{Θ}^{ϵ}(λ) を生成している．実は，一般に

(5.5)  μ − ν ∉ {ϵ, 2ϵ, …, (n − 1)ϵ}

ならば I_{Θ}^{ϵ}(λ) を生成していることが言える．

しかしながら，古典極限での μ = ν のように固有値が重なった場合も含めて全ての場合を扱うためには単因子の考えが必要で，それらの概念の量子化を定義しよう．

6. 行列式因子，単因子

定義 6.1 ([O5]). M_{Θ}^{ϵ}(λ) と m = 1, …, n に対して以下の多項式と整数を定義し

(6.1)  \begin{cases}d_{m}^{ϵ}(x) := d_{m}^{ϵ}(x; Θ, λ) = ∏_{j=1}^{L} (x − λ_{j} − ϵn_{j−1})^{(n′_{j}+m−n)}, \\ d_{m} = d_{m}(Θ) := deg_{x} d_{m}^{ϵ}(x; Θ, λ) = ∑_{j=1}^{L} max\{n′_{j} + m − n, 0\}, \\ e_{m}^{ϵ}(x) := e_{m}^{ϵ}(x; Θ, λ) = d_{m}^{ϵ}(x)/d_{m−1}^{ϵ}(x), \\ q^{ϵ}(x) := q^{ϵ}(x; Θ, λ) = ∏_{j=1}^{L} (x − λ_{j} − ϵn_{j−1}). \end{cases}

d_{m}^{ϵ}(x) を M_{Θ}^{ϵ}(λ) の m 次行列式因子, {e_{m}^{ϵ}(x); 1 ≤ m ≤ n} を M_{Θ}^{ϵ}(λ) の単純単因子, q^{ϵ}(x) を M_{Θ}^{ϵ}(λ) の最小多項式， d_{n}^{ϵ}(x) を M_{Θ}^{ϵ}(λ) の特性多項式と呼ぶ．ここで

(6.2)  z^{(ℓ)} := \begin{cases}z(z − ϵ) ⋯ (z − ϵ(ℓ − 1)) & if ℓ > 0, \\ 1 & if ℓ ≤ 0. \end{cases}

注意 6.2. ϵ = 0 のときは，定義 6.1 は行列 A_{Θ,λ} に対する線形代数における定義と一致するので，それらの概念を U^{ϵ}(𝔤) へ量子化したものと考えることが出来る．たとえば d_{m}^{0}(x) は，行列 xI_{n} − A_{Θ,λ} の m 次小行列式の最大公約元である．

定理 6.3 ([O5]). d_{m}^{ϵ}(x) = ∏_{ν=1}^{k_{m}}(x − λ_{m,ν})^{N_{m,ν}} （ν ≠ ν′ ⇒ λ_{m,ν} ≠ λ_{m,ν′}）と表し

(6.3)  V_{Θ}^{ϵ}(λ) := ∑_{m=1}^{n} ∑_{ν=1}^{k_{m}} ∑_{j=0}^{N_{m,ν}−1} ∑_{#I=#J=m} ℂ(\frac{d^{j}}{dx^{j}} D_{IJ}^{ϵ}(x))|_{x=λ_{m,ν}}

と定義すると， I_{Θ}^{ϵ}(λ) = U^{ϵ}(𝔤)V_{Θ}^{ϵ}(λ)．特に d_{n}^{ϵ}(x) = 0 が重根を持たない（すなわち，無限小指標が regular）か， ϵ = 0 かつ異なる Jordan 細胞の固有値が異なるならば

(6.4)  I_{Θ}^{ϵ}(λ) = ∑_{k=1}^{L} ∑_{#I=#J=n+1−n′_{k}} U^{ϵ}(𝔤)D_{IJ}^{ϵ}(λ_{k} + ϵn_{k−1}).

注意 6.4. i) I_{Θ}^{ϵ}(λ) ⊃ I_{Θ′}^{ϵ}(λ′) ⇔ d_{m}^{ϵ}(x; Θ, λ)|d_{m}^{ϵ}(x; Θ′, λ′) (m = 1, …, n) （ϵ = 0 ならば上記は） ⇔ A_{Θ,λ} ⊂ \overline{⋃_{g∈G} Ad(g)A_{Θ′,λ′}} ϵ = 0, λ = 0 ならば，ベキ零軌道の閉包の包含関係となり，よく知られた結果「 ⇔ d_{m}(Θ) ≤ d_{m}(Θ′) （m = 1, …, n）」に一致する． ii) ϵ = 0, λ = 0 （すなわちベキ零軌道）のとき，定理 6.3 は，谷崎 [Ta1] によって予想され， [We] によって証明された． (6.3) は，この谷崎基底の量子化といえる．

ϵ = 0, λ = 0, Θ = {n} は，ベキ零元全体の集合で，イデアルは定数項のない不変式で生成されることが [Ko] によって示された． GL(n) の場合の特殊性として，ベキ零軌道の閉包は全て normal variety となることが知られている（[KP]）．

7. 特性多項式，最小多項式

(5.1) の A_{{k,n}}(μ, ν) の最小多項式は (x − μ)(x − ν) となるので (𝔼 − μ)(𝔼 − ν) の各成分は V_{A_{{k,n}}(μ,ν)} 上で消える．実際， μ ≠ ν ならば， n^{2} 個の成分と Trace 𝔼 − kμ − (n − k)ν によって I_{{k,n}}^{0}(μ, ν) が生成される（cf. (2.7). ただし， μ = ν のとき正しくないことは，これらが k に依らなくなることから分かる）．この最小多項式の量子化を考えよう（この例の場合では (x − μ)(x − ν − ϵk））．この概念は，任意の簡約 Lie 環とその忠実表現の場合に拡張されるので，より一般的な形で述べよう．

定義 7.1 ([O6]). （簡約 Lie 環） 𝔤 の忠実な表現 π : 𝔤 → M(N, ℂ) ≃ End(ℂ^{N}) によって 𝔤 ⊂ M(N, ℂ) とみなす． M(N, ℂ) 上の ⟨X, Y ⟩ = Trace XY という非退化対称 2 次形式の 𝔤 への制限も非退化とする（𝔤 が半単純なら常に正しい）．この 2 次形

式に関する M(N, ℂ) から 𝔤 への射影を π^{∗} とし， 𝔽_{π} = (π^{∗}(E_{ij}))\begin{matrix}1≤i≤N \\ 1≤j≤N \end{matrix} ∈ M(N, 𝔤)

とおく．このとき Z^{ϵ}(𝔤)[x] の元 q(x) で q(𝔽_{π}) = 0 を満たす最小次数のものを 𝔽_{π} の（または π の）特性多項式と定義し， q_{π}(x) と書く．

また 𝔤 加群 V に対し， q(𝔽)V = 0 を満たす ℂ 係数の多項式 q(x) で次数が最小で，最高時の係数が 1 となるものを (π, V) に対する最小多項式と定義し， q_{π,V} (x) と書く．

定理 7.2. i) 𝔤 = 𝔤𝔩_{n} で， π を自然表現とすると

(7.1)  q_{π}(x) = det(x − E_{ij} − ϵ(n − i)δ_{ij})\begin{matrix}1≤i≤n \\ 1≤j≤n \end{matrix} ∈ ℤ^{ϵ}(𝔤)[x],
(7.2)  q_{π}(𝔼) = 0  (Cayley-Hamilton),
(7.3)  q_{π,M_{Θ}^{ϵ}(λ)} = ∏_{j=1}^{L}(x − λ_{j} − ϵn_{j−1}).

ii) q_{π,M_{Θ}^{ϵ}(λ)}(𝔼) の N^{2} 個の成分で張られる空間を L_{Θ}^{ϵ}(λ) とおくと， L_{Θ}^{ϵ}(λ) は G 不変空間で， λ が generic ならば（たとえば， M_{Θ}^{ϵ}(λ) の無限小指標が regular なら十分） I_{Θ}^{ϵ}(λ) は L_{Θ}^{ϵ}(λ) と Δ_{k} − λ_{Θ}(γ(Δ_{k})) （k = 1, …, L − 1）で生成される．

注意 7.3. i) V の 𝔤 加群としての長さが有限，あるいは V が無限小指標を持つならば，最小多項式は存在する． ii) 𝔤 が GL(n) の Lie 環で π を恒等写像（自然表現）とし， V = M_{Θ}^{0}(λ) とおくと， q_{π,M_{Θ}^{0}(λ)}(x) は線形代数の意味での A_{Θ,λ} の最小多項式となる．

iii) O(n) の Lie 環 𝔬_{n} の自然表現を π とすると 𝔽_{π} = (\frac{E_{ij}−E_{ji}}{2} )\begin{matrix}1≤i≤n \\ 1≤j≤n \end{matrix}.

iv) Trace 𝔽_{π}^{k} ∈ Z^{ϵ}(𝔤) となるが， γ(Trace 𝔽_{π}^{k}) は [Go1] により計算された．また， q_{π}(x) は [Go2] で一般的に計算された（これは， q_{π,M^{ϵ}(λ)}(x) の計算，あるいは Cayley-Hamilton （の一般化）と同値（cf. [OO]））．

v) §6 で構成した生成元との関係は，不変元に関して [I1]， [Um] そうでない例は [Sg]. vi) 𝔤 が古典型で π が自然表現のときの q_{π,M_{Θ}^{ϵ}(λ)} は [O6] により，一般の場合は（例外型も含め） [OO] により具体的な公式が与えられた．

8. 旗多様体， Grassmann 多様体， Poisson 変換， Penrose 変換

U^{ϵ}(𝔤) の両側イデアルに対し， 2 つの異なる生成系を具体的に構成した．この両側イデアルは， Verma 加群とスカラー型一般 Verma 加群との Gap を埋めることが分かり，その事実は応用上重要である．

定理 8.1 ([O5], [OO]). λ が generic ならば（必要十分条件が得られているが，少なくとも無限小指標が regular ならば），

(8.1)  J_{Θ}^{ϵ}(λ) = I_{Θ}^{ϵ}(λ) + J^{ϵ}(λ_{Θ})  (GAP).

以降， G を GL(n) または SL(n) の実型 GL(n, ℂ)， GL(n, ℝ), U(p, q)， SU^{∗}(n) のいずれか（あるいは，一般の半単純 Lie 群）としよう． G の極小放物型部分群 P とそれを含む一般の放物型部分群 P_{Θ} に対し，等質空間 G/P_{Θ} を一般旗多様体という． P_{Θ} の 1 次元表現 λ から誘導された線形束の切片の空間

(8.2)  B(G/P_{Θ}; λ) := {f ∈ B(G); f(gp) = λ(p)^{−1}f(g) (∀p ∈ P_{Θ})}

を考察する． P_{Θ} の Lie 環の複素化は §2 で考察した放物型部分代数 𝔭_{Θ} となり， λ は 𝔭_{Θ} の 1 次指標に対応する．このことから以下が分かる．

(8.3) Ann(B(G/P_{Θ}; λ)) := {D ∈ U(𝔤); L_{D}f = 0 (∀f ∈ B(G/P; λ))} = I_{Θ}(λ).

よって B(G/P_{Θ}; λ) から他の G 等質空間上の関数の空間，あるいは，その上のベクトル束の切片の空間への G 順同型写像（G/P_{Θ} はコンパクトなので，通常は積分作用素として与えられる）の像は， I_{Θ}(λ) から誘導される微分方程式系を満たすことが分かる．実際この微分方程式系が像の特徴付けを与えることが期待できることが多く，以下に見るように，積分幾何における多くの例がこの枠組みで説明でき，さらに，自然に一般化される．

\underline{Poisson 変換}． G を中心が有限な連結実半単純 Lie 群， K を G の極大コンパクト部分群とするとき

\begin{aligned}P_{Θ,λ} : B(G/P_{Θ}; λ) & & → (⊂ B(G/P; λ_{Θ}) ⟶^{P_{λ_{Θ}}}) A(G/K; M_{λ}). \\ & f & ↦ (P_{λ}f)(g) = ∫_{K} f(gk)dk \end{aligned} ; (8.4)

を Poisson 変換と呼ぶ．ここで M_{λ} は， λ で定まる Riemann 対称空間上の不変微分作用環の極大イデアルで（G が古典型なら， Z(𝔤) の極大イデアル，すなわち Ann(M(λ_{Θ})) に対応）， A(G/K; M_{λ}) はその解空間．なお G/P_{Θ} は， Riemann 対称空間 G/K を適当に実現すると，その境界に現れる（cf. [Sa]）．

P_{Θ} が極小放物型部分群のときは， Poisson 変換は A(G/K; M_{λ}) の上への位相同型となることが Helgason [H1] により予想され（G = SL(2, ℝ), λ = 0 の場合は，単位円板における調和関数の Poisson 積分になる），一般の G に対して [K–] で generic な λ に対して正しいことが（そのための必要十分条件と共に）示された．

特に λ = 0 の場合は常に正しいが，一般の放物型部分群の場合について，特に有界対称領域の Shilov 境界の場合など， Stein の問題として多くの研究があり，より多くの方程式（最初に研究を行った Hua の方程式と呼ぶことがある）の解空間として特徴づけがなされてきた（[BV]， [La]， [KM], [Sh1]， [Sh2] など）． λ = 0 の場合，方程式があまり具体的ではないが，一般的に [Jn] で与えられた（特徴付ける方程式系の存在自体は， [K–] を仮定すれば自明）．

一般の P_{Θ} と λ に対し，像を特徴づける方程式を具体的に与えることは， §8 までに述べたことと [K–] とを合わせれば，自明なこととなってしまう．すなわち， I_{Θ}(λ) を像は満たすが， (8.1) の条件は， B(G/P; λ_{Θ}) の元で I_{Θ}(λ) を満たすものの全体が B(G/P_{Θ}; λ) であることを意味するからである．よって，これらの条件が成立すれば（λ が generic ならよい．特に λ = 0 はよい）， §6 や §7 で構成した U(𝔤) の元が， P_{Θ,λ} の像を特徴づける方程式系を与え， P_{Θ,λ} はその解空間の上への位相同型になる（I_{Θ}(λ) が U(𝔤) の両側イデアルであることが重要）．

注意 8.2. i) 知られている Hua 型の方程式は， §7 の最小多項式から定義されるものに一致することが示され，特に Shilov 境界の場合は， tube 領域かどうかで 2 階の方程式系か 3 階の方程式系かに分かれる（最小多項式の次数）．また，さらに不変微分作用素系を加える必要があるかどうかの問題があったが，それも我々の枠組みの中では自然に解決される．特に SU(m, n) の Shilov 境界では， m = n のとき 2 階， m ≠ n のとき 3 階であるが， G 不変な生成元の空間を K の表現で分解することにより， m ≠ n のときも 2 階の方程式系に帰着できる現象（[BV] で示された）も一般化して解明される．なお，この項については [OSh] を参照．

ii) 古典型の実 Lie 群の極大放物型部分群（複素化は極大とは限らないことに注意）の 1 次元表現から誘導した空間の零化イデアルの生成元は，自然表現に対する §7 の最小多項式型の場合， 2 階以下の微分方程式系または 3 階以下の微分方程式系となる．例外型で最小次元表現の場合は，一般的にはより高い階数になる．

iii) 解の関数空間に制限をつけない場合を述べたが，制限を付けた場合と境界値との対応については，様々な空間において [BOS] で扱われた．

iv) Helgason の予想を解くことが，筆者が表現論に足を踏み入れるきっかけとなったが，一般の境界に対する Poisson 積分の像の決定問題に当初興味を持ち，いくつかの例で行列式型の微分方程式系が像を特徴づけていることを，境界への誘導方程式を計算することによって示した（[O1]）．ここに述べた内容は，筆者が昔扱った問題の再考，というのが研究の動機のひとつであった．

\underline{Penrose 変換}． G_{ℂ} を複素簡約 Lie 群， G を G_{ℂ} の実型， P_{ℂ} を G_{ℂ} の放物型部分群， V を旗多様体におけるある G 軌道， O_{λ} を G_{ℂ}/P_{ℂ} 上のある正則線形束の層とする．このとき T_{P en} : H_{V}^{∗} (G_{ℂ}/P_{ℂ}, O_{λ}) → S という G 写像を Penrose 変換と呼ぶことにすると，像は §6 あるいは §7 で構成した微分方程式系を満たす．通常 S は， Riemann 対称空間などの G の等質空間上のベクトル束の切片の空間に取られる．

例えば， G = U(n, n) で Θ = {k, 2n} に対応する GL(n, ℂ) の複素旗多様体（すなわち Grassmann 多様体 Gr_{k}(ℂ^{n})）で， V を開 G 軌道， S を有界対称領域のあるベクトル束とする設定の場合が [Se] により考察され，像が §6 の形の微分方程式系の正則関数解の空間に一致することが示されている（なお，このパラメータの場合， (5.3) が成り立つので，定数係数の k + 1 次の行列式型の微分方程式系で表わせる）． n = 2， k = 1 の場合が元々の Penrose 変換である．

体 𝔽 上の Grassmann 多様体 Gr_{k}(𝔽^{n}) とは， n 次元 𝔽 ベクトル空間 𝔽^{n} の k 次元部分空間全体の作る多様体で，一般旗多様体の重要な例となっている． 𝔽 = ℝ では

Gr_{k}(ℝ^{n}) := {k 次元部分空間⊂ ℝ^{n}} (実 Grassmann 多様体)

M^{o}(n, k; ℝ) := \{X = (\begin{matrix}x_{11} & ⋯ & x_{1k} \\ ⋮ & ⋯ & ⋮ \\ x_{n1} & ⋯ & x_{nk} \end{matrix}) ∈ M(n, k; ℝ); rank X = k\}

= M^{o}(n, k; ℝ)/GL(k, ℝ).

G = GL(n, ℝ) が Gr_{k}(ℝ^{n}) に左から作用し

Gr_{k}(ℝ^{n}) = GL(n, ℝ)/P_{k,n}  (= O(n)/O(k) × O(n − k))

P_{k,n} := \{p = (\begin{matrix}g_{1} & 0 \\ y & g_{2} \end{matrix}); g_{1} ∈ GL(k, ℝ), g_{2} ∈ GL(n − k, ℝ), y ∈ M(n − k, k, ℝ)\}

B(G/P_{k,n}; λ) := {f ∈ B(G); f(xp) = f(x) | det g_{1}|^{λ_{1}}| det g_{2}|^{λ_{2}}, ∀p ∈ P_{k,n}}
(= B(O(n)/O(k) × O(n − k))
= {f ∈ B(M^{o}(n, k; ℝ)); f(Xg_{1}) = f(X) | det g_{1}|^{−λ_{1}}, ∀g_{1} ∈ GL(k, ℝ)}
(x → ^{t}x^{−1} → X)

特に Gr_{1}(𝔽^{n}) は射影空間 ℙ^{n−1}(𝔽) である． 𝔽 = ℝ の場合は Θ = {k, n}， 𝔽 = ℂ の場合は Θ = {k, n} × {k, n} となり， Ann(B(Gr_{k}(𝔽^{n}); λ)) の元として §6 で構成された行列式型の k + 1 階と n − k + 1 階の微分方程式系， §7 で構成された最小多項式に対応する 2 階の微分方程式系と Trace に対応する Z(𝔤) の中の 1 階の微分方程式を満たす．

9. Radon 変換，概均質ベクトル空間，超幾何関数

B(G/P_{Θ}; λ) から B(G/P_{Θ′}; λ′) への G 写像があったとき，それは積分変換となるが，それが部分多様体における積分となっている場合を（退化系列の間の)Radon 変換型 G 写像と呼ぶことにする． Grassmann 多様体の間の Radon 変換（0 < k < ℓ < n）

R_{ℓ}^{k} : B(Gr_{k}(ℝ^{n})) ∋ ϕ ↦ (R_{ℓ}^{k}ϕ)(x) = ∫_{O(ℓ)/O(k)×O(ℓ−k)} ϕ(xy)dy ∈ B(Gr_{ℓ}(ℝ^{n}))

は， GL(n, ℝ) の作用の自然な作用により

(9.1)  R_{ℓ}^{k} : B(G/P_{k,n}; (ℓ, 0)) → B(G/P_{ℓ,n}; (k, 0))

という G 写像とみなせることが重要である． k + ℓ < n の場合は dim Gr_{k}(ℝ^{n}) < dim Gr_{ℓ}(ℝ^{n}) であり，このときも I_{Θ}(λ) によって像が特徴づけられることが正しい．定理 9.1 ([O4]). 0 < k < ℓ < n， k + ℓ < n ならば R_{ℓ}^{k} は M^{0}(n, ℓ; ℝ) 上の次の微分方程式系の解空間の上への G 位相同型となる．

\{Φ((x_{ij})\begin{matrix}1≤i≤ℓ \\ 1≤j≤n \end{matrix}) ∈ B(M^{0}(n, ℓ; ℝ));
Φ(xg) = | det g|^{−k}Φ(x) for g ∈ GL(ℓ, ℝ),
det(\frac{∂}{∂x_{i_{μ}j_{ν}}} )\begin{matrix}1≤μ≤k+1 \\ 1≤ν≤k+1 \end{matrix}Φ(x) = 0 (Capelli 型作用素)
for 1 ≤ i_{1} < ⋯ < i_{k+1} ≤ n, 1 ≤ j_{1} < ⋯ < j_{k+1} ≤ ℓ}.

ここで M^{0}(n, ℓ; ℝ) = {A ∈ M(n, ℓ; ℝ); rank A = ℓ}．

注意 9.2. i) ℂ 上でも定理 9.1 と同様の結果が成り立つ（[Hi]） ii) 若干異なる像の特徴付けが [Ka] で，逆写像が [Ka], [GR] などで考察されている．

定義 9.3 ([O4]). G を実半単純 Lie 群， P_{Θ} を放物型部分群， Q_{j} （j = 1, 2）を一般旗多様体 G/P_{Θ} 上に開軌道をもつ G の閉部分空間， λ， μ_{j} を P_{Θ}， Q_{j} の 1 次元表現とし， ϕ_{j} を以下を満たす G 上の関数とする．

\begin{aligned}ϕ_{1}(q_{1}xp) & = μ_{1}(q_{1})λ(p)ϕ_{1}(x) (q_{1} ∈ Q_{1}, p ∈ P_{Θ}), \\ ϕ_{2}(q_{2}xp) & = μ_{2}(q_{2})λ(p)ϕ_{2}(x) (q_{2} ∈ Q_{2}, p ∈ P_{Θ}, λ^{∗} = −λ − 2ρ|_{P_{Θ}}) \end{aligned} ; (9.2)

このとき次の関数を超幾何関数と定義する．

(9.3)  Φ_{ϕ_{1},ϕ_{2}}(x) := ∫_{K} ϕ_{1}(xk)ϕ_{2}(k)dk (= ∫_{K} ϕ(k)ϕ_{2}(x^{−1}k)dk)

注意 9.4. i) Φ_{ϕ_{1},ϕ_{2}}(x) は多くの微分方程式を満たす．すなわち左からの Q_{1} の Lie 環の作用，右からの Q_{2} の Lie 環の作用， §6 や §7 で考察した I_{Θ}(λ) であり，それらをあわせて超幾何微分方程式系と呼ぼう．それの解空間が有限次元となり， (9.2) を満たす ϕ_{1}, ϕ_{2} による積分表示 (9.3) によって全ての解が表示されることが期待される．

ii) Q_{1} = Q_{2} = K で μ_{j} が自明表現のときは， Φ_{ϕ_{1},ϕ_{2}}(x) は帯球関数となり，その積分表示とそれを特徴づける微分方程式とが得られていることに他ならない． P_{Θ} が極小でない場合は， Lauricella の F_{D} などが現れる [Kr]）．

iii) Q_{1} = K, Q_{2} = N のときは， Φ_{ϕ_{1},ϕ_{2}}(x) は §10 の Whittaker vector になる.

P = P_{k,n}， Q_{2} = P_{ℓ,n}， λ = (ℓ, 0)， μ_{2} = (−k, 0)，さらに ϕ_{2} を R_{ℓ}^{k} の核関数とおいて定理 9.1 を適用すると，以下が直ちに分かる．

定理 9.5. H は GL(n, ℝ) 上の連結閉部分群で，その複素化 H_{ℂ} のベクトル空間 V への表現があって， (H_{ℂ} × GL(k, ℂ), V × ℂ^{k}) が概均質ベクトル空間（すなわち，開軌道をもつ）とする（ℓ = 1 なら (H_{ℂ}, V) が任意の概均質ベクトル空間でよい）．このとき，超幾何微分方程式系の全ての解は， (9.2) の ϕ_{1}，すなわちこの概均質ベクトル空間の相対不変超関数によって一意的に (9.3) の積分表示をもつ．

定理 9.5 において， k = 1 とおき，自明な概均質ベクトル空間 (GL(1, ℂ), ℂ) の n 個の直和 (H = GL(1) × ⋯ × GL(1), ℂ^{n}) としたものが青本-Gelfand の超幾何関数 [Ao], [GG] となる．その例で今まで述べたことを座標を使って書くと，積分表示は

Φ(α, x) = ∫_{t_{1}^{2}+···+t_{ℓ}^{2}=1} ∏_{j=1}^{n} |∑_{ν=1}^{ℓ} t_{ν}x_{jν} |_{±}^{α_{j}} ω (α_{1} + α_{2} + ⋯ + α_{n} = −ℓ).

となり，超幾何微分方程式系は

∑_{j=1}^{ℓ} x_{ij} \frac{∂Φ}{∂x_{ij}} = α_{j}Φ  for 1 ≤ i ≤ n  （左からの H の作用） ,

∑_{ν=1}^{n} x_{νi} \frac{∂Φ}{∂x_{νj}} = −kδ_{ij}Φ  for 1 ≤ i, j ≤ ℓ  （右からの GL(ℓ, ℝ) の作用） ,

\frac{∂^{2}Φ}{∂x_{i_{1}j_{1}}x_{i_{2}j_{2}}} = \frac{∂^{2}Φ}{∂x_{i_{2}j_{1}}x_{i_{1}j_{2}}} for 1 ≤ i_{1} < i_{2} ≤ n, 1 ≤ j_{1} < j_{2} ≤ ℓ （Capelli 型） .

注意 9.6. i) 最後の例で， n = 4, ℓ = 2 のときが Gauss の超幾何関数になる．

ii) 定理 9.5 において，概均質ベクトル空間の G 軌道の数が有限となる場合は，超幾何微分方程式系がホロノミックとなること（特に解空間は有限次元）が [Ta2] により示された．

iii) Penrose 変換の場合も，付随して超幾何関数を考えることができる [Se]．

10. Whittaker Vectors

G = KAN を G の岩澤分解としたとき， N の指標 χ に対して定義される空間

(10.1)  B(G/N; χ) := {f ∈ B(G); f(gn) = χ(n)^{−1}f(g) (∀n ∈ N)}

への G の表現 V の実現を考えよう．

G = GL(n, ℝ) のとき K = O(n) で， A = {exp(∑_{j=1}^{n} t_{j}E_{jj}); t_{j} ∈ ℝ}, N = {exp(∑_{i>j} t_{ij}E_{ij}); t_{ij} ∈ ℝ} としてよい．このとき

(10.2)  χ(exp(∑_{i>j} t_{ij}E_{ij})) = e^{\sqrt{−1}(c_{1}t_{21}+c_{2}t_{32}+···+c_{n−1}t_{nn−1})}

と表せる（c_{j} ∈ ℝ）．たとえば，退化系列表現 B(G/P_{Θ}; λ) の B(G/N; χ) への実現を考えるには， O(n)-不変な B(G/N; χ) の元，すなわち Whittaker vector

(10.3)  \begin{cases}u(kgn) = χ(n)^{−1}u(g) & (∀k ∈ O(n), ∀n ∈ N), \\ Du = 0 & (∀D ∈ I_{Θ}(λ)) \end{cases}

を調べればよい． G の岩澤分解から u は A への制限 v = u|_{A} で定まるが， I_{Θ}(λ) が具体的に分かっているので， v の満たす方程式も具体的に与えられる．

Grassmann 多様体上の退化系列表現 V = B(G/P_{k,n}; (λ, μ)) （2 ≤ 2k ≤ n）の場合は， 0 でない v の存在条件は

(10.4) c_{i}c_{i+1} = c_{i_{1}}c_{i_{2}} ⋯ c_{i_{k+1}} = 0  (1 ≤ i < n, 1 ≤ i_{1} < i_{2} < ⋯ < i_{k+1} ≤ n)

となることが方程式から分かり，たとえば

(10.5)  \begin{cases}c_{i} = 0 & (i = 2, 4, …, 2k, 2k + 1, 2k + 2, …, n), \\ c_{2j−1} ≠ 0 & (j = 1, …, k) \end{cases}

ととると， v の満たす方程式として以下が得られる．

\begin{cases}E_{i}v = μv  (i = 2k + 1, 2k + 2, …, n), \\ (E_{2j−1} + E_{2j})v = (λ + μ − 2j + k + 1)v, \\ ((\frac{E_{2j−1}−E_{2j}}{2} )^{2} − (\frac{E_{2j−1}−E_{2j}}{2} ) − c_{2j−1}^{2}e^{2(t_{2j−1}−t_{2j})})v = \frac{λ−μ−k+1}{2}(\frac{λ−μ−k+1}{2} − 1)v, \\ だだし j = 1, …, k, E_{ν} = \frac{∂}{∂t_{ν}} (ν = 1, …, n). \end{cases}

よって実現の重複度は 2^{k} であるが， moderate な増大度の実現は一意で，対応する Whittaker vector は，第 2 種変形 Bessel 関数によって具体的に表せることが分かる．

References

[Ao] K. Aomoto, On the structure of integrals of power products of linear functions, Sc. Papers Coll. Gen. Education, Univ. of Tokyo 27(1977), 49–61.

[BOS] S. Ben Saïd, T. Oshima and N. Shimeno, Fatou’s theorems and Hardy-type spaces for eigenfunctions of the invariant differential operators on symmetric spaces, Intern. Math. Research Notice 16(2003), 915–931.

[BV] N. Berline and M. Vergne, Equations du Hua et noyau de Poisson, Lect. Note. in Math. 880(1981), 1–51.

[Ca1] A. Capelli, Üeber die Zurückführung der Cayley’schen Operation Ω auf gewöhnliche Polar-Operationen, Math. Ann. 29(1887), 331-338.

[Ca2] , Sur les opérations dans la théorie des formes algébriques, Math. Ann. 37(1890), 1–37.

[DP] C. DeConcini and C. Procesi, Symmetric functions, conjugacy classes and the flag variety, Invent. Math. 64(1981), 203–219.

[Du] M. Duflo, Sur la classification des idéaux primitifs dans l’algèbre enveloppante d’une algèbre de Lie semi-simple, Ann. of Math. 105(1977), 107–120.

[Ge] I. M. Gelfand, Center of the infinitesimal group ring, Mat. Sb., Nov. Ser. 26(68)(1950), 103–112; English transl. in “Collected Papers”, Vol. II, pp.22–30.

[GG] I. M. Gelfand and S. I. Gelfand, Generalized hypergeometric equations, Soviet Math. Dokl 33(1986), 643–646.

[Go1] M. D. Gould, A trace formula for semi-simple Lie algebras, Ann. Inst. Henri Poincaré, Sect. A 32(1980), 203–219.

[Go2] , Characteristic identities for semi-simple Lie algebras, J. Austral. Math. Soc. Ser. B 26(1985), 257–283.

[GR] E. L. Grinberg and B. Lubin, Radon inversion and Grassmannians via Gårding-Gindikin fractional integrals, to appear in Ann. of Math.

[HO] G. J. Heckman and E. M. Opdam, Root system and hypergeometric functions. I, Comp. Math. 64(1987), 329–352.

[H1] S. Helgason, A duality for symmetric spaces with applications to group representations II, Advances in Math., 22(1976), 187–219.

[H2] , The Radon transform (2nd ed.), Birkhäuser, Boston, 1999.

[Hi] T. Higuchi, Generalized Capelli Operator を用いた Grassmann 多様体上の Radon 変換の特徴付け, 東京大学修士論文, 2004

[HU] R. Howe and T. Umeda, The Capelli identity, the double commutation theorem, and multiplicity free actions, Math. Ann. 290(1991), 565–619.

[I1] M. Itoh, Explicit Newton’s formula for 𝔤𝔩_{n}, J. Alg. 208(1998), 687–697.

[I2] , The Capelli elements for the orthogonal Lie algebras, J. Lie Theory 10(2000), 463–489.

[IU] M. Itoh and T. Umeda, On the central elements in the universal enveloping algebra of the orthogonal Lie algebras, Compositio Math. 127(2001), 333–359.

[Jn] K. D. Johnson, Generalized Hua operators and parabolic subgroups, Ann. of Math. 120(1984), 477–495.

[Ka] T. Kakehi, Integral geometry on Grassmannian manifolds and calculus of invariant differential operators, J. Funct. Anal., 168(1999), 1–45.

[K–] M. Kashiwara, A. Kowata, K. Minemura, K. Okamoto, T. Oshima and M. Tanaka, Eigenfunctions of invariant differential operators on a symmetric space, Ann. of Math. 107(1978), 1–39.

[Kr] A. Korányi, Hua-type integrals, hypergeometric functions and symmetric polynomials, International symposium in memory of Hua Loo Keng, vol. II, Analysis, Science Press, Beijing and Springer-Verlag, Berlin, 1991, pp.169–180.

[KM] A. Korányi and P. Malliavin, Poisson formula and compound diffusion associated to an overdetermined elliptic system on the Siegel half plane of rank two, Acta Math. 134(1975), 185–209.

[Ko] B. Kostant, Lie group representations on polynomial rings, Amer. J. Math. 85(1963), 327–404.

[Ko2] , On the tensor product of a finite and an infinite dimensional representation, J. Funct. Anal. 20(1975), 257–285.

[KP] H. Kraft and C. Procesi, Closures of conjugacy classes of matrices are normal, Invent. Math. 53(1979), 227–247.

[La] M. Lassale, Les équations de Hua d’un domaine borneé symétrique de type tube, Invent. Math. 77(1984), 129–161.

[Od1] H. Oda, Annihilator operators of the degenerate principal series for simple Lie groups of type (B) and (D), 東京大学博士論文, 2000, 数理解析研究所講究録 1183(2001), 74–93.

[OO] H. Oda and T. Oshima, Minimal polynomials and annihilators of generalized Verma modules of the scalar type, math.RT/0411006, Journal of Lie Theory 16(2006), 155-219.

[OP] M. A. Olshanetsky and A. M. Perelomov, Quantum integrable systems related to Lie algebras, Phys. Rep. 94(1983), 313–404.

[O1] T. Oshima, 対称空間の種々の境界に対する境界値問題, 数理解析研究所講究録 281(1976), 211–226.

[O2] , Asymptotic behavior of spherical functions on semisimple symmetric spaces, Advanced Studies in Pure Math. 14 (1988), 561–601.

[O3] , Capelli identities, degenerate series and hypergeometric functions, Proceedings of a symposium on Representation Theory at Okinawa, 1995, 1–19.

[O4] , Generalized Capelli identities and boundary value problems for GL(n), Structure of Solutions of Differential Equations, World Scientific, 1996, 307–335.

[O5] , A quantization of conjugacy classes of matrices, Adv. in Math. 196(2005), 124-146.

[O6] , Annihilators of generalized Verma modules of the scalar type for classical Lie algebras, UTMS 2001-29, preprint, 2001.

[O7] , Completely integrable systems associated with classical root systems, preprint, 2005, math-ph/0502028.

[OS] T. Oshima and H. Sekiguchi, Commuting families of differential operators invariant under the action of a Weyl group, J. Math. Sci. Univ. Tokyo 2(1995), 1–75.

[OSh] T. Oshima and N. Shimeno, Boundary value problems on Riemannian symmetric spaces of the noncompact type, in preparation.

[Sg] H. Sakaguchi, グラスマン多様体に付随した U(𝔤) 加群について, 東京大学修士論文, 1999.

[Sa] I. Satake, On realizations and compactifications of symmetric spaces, Ann. of Math. 71(1960), 77–110.

[Se] H. Sekiguchi, The Penrose transform for certain non-compact homogeneous manifolds of U(n, n), J. Math. Sci. Univ. Tokyo 3(1996), 655-697.

[Sh1] N. Shimeno, Boundary value problems for the Shilov boundary of a bounded symmetric domain of tube type, J. of Funct. Anal. 140(1996), 124-141.

[Sh2] , Boundary value problems for various boundaries of Hermitian symmetric spaces, J. of Funct. Anal. 170(2000), 265-285.

[Ta1] T. Tanisaki, Defining ideals of the closure of conjugacy classes and representation of the Weyl groups, Tohoku Math. J. 34(1982), 575–585.

[Ta2] , Hypergeometric systems and Radon transforms for Hermitian symmetric spaces, Adv. Studies in Pure Math. 26(2000), 235–263.

[Um] T. Umeda, Newton’s formula for 𝔤𝔩_{n}, Proc. Amer. Math. Soc. 126 (1998), 3169–3175.

[Wa] A. Wachi, 直交 Lie 環の普遍包絡環における列行列を用いた中心元, 数理解析研究所講究録 1348(2003), 185–198.

[We] J. Weyman, The equations of conjugacy classes of nilpotent matrices, Invent. Math. 98(1989), 229–245.