对称空间上的调和分析和表示论是 Fourier 级数和 Fourier 变换等经典理论的一个深远推广, 目前正在蓬勃地发展. 该领域的主要研究内容是有限维或无限维 Hilbert 空间中的群表示理论, 相关的研究成果极大地推动了数学物理等相关领域的发展. 设 $\mathcal{X}$ 是一个对称空间, 李群 $G$ 在 $\mathcal{X}$ 上具有迁徙性, $\mathcal{X}$ 上有 $G$ 不变的 Haar 测度, 则存在一个 $G$ 在 Hilbert 空间 $L^2(\mathcal{X})$ 上的表示, 使得此表示是一个酉表示. 对称空间上调和分析和表示论的主要研究内容之一是分解酉表示, 将其分解成不可约子表示的直和. 在 $G$ 上附加一些适当的条件, 将酉表示的分解转化为连续部分和离散部分的直和, 得到抽象的 Plancherel 公式, 从而达到解决问题之目的. 一般情形下, 酉表示的分解依赖于 $G$ 的结构. 因此限定 $G$ 和 $\mathcal{X}$ 的结构是有必要的.

取 $G$ 是一个实半单李群, $H$ 是 $G$ 的一个闭子群, $\mathcal{X}=G/H$ 是一个半单对称空间. 如果半单对称空间 $\mathcal{X}$ 有足够好的条件, 则李群 $G$ 的酉表示分解由连续和离散两部分构成. 一般而言, 由于半单对称空间的结构相当复杂, 考虑酉表示的不可约分解时, 往往得不到具体的连续部分, 进而很多学者转向比较简单的离散部分的分解.

本文主要考虑仿射对称空间 $SO^*(6)/SO(3,\mathbb{C})$ 的离散序列. 主要的方法是利用群之间的局部同构关系, 转化为 $SU(1,3)/SO(1,3)$ 上考虑其离散序列, 得到对应的离散序列. 本文主要利用调和分析的方法得到了全纯离散序列的具体形式.

定理 1.1 仿射对称空间 $SO^*(6)/SO(3,\mathbb{C})$ 存在循环向量生成的全纯离散序列表示.

定义李群

其中 $SL(6,\,\mathbb{C})$ 是行列式为 1 的 $6\times 6$ 复矩阵构成的特殊线性群, $g^t,\,\bar g$ 是 $g$ 的转置和共轭. 取 $SU(3,\,3)$ 的一个特殊线性李群为

其对应的极大紧子群定义为

群 $SO^{*}(6)$ 的李代数定义为

李代数 $\mathfrak{so}^\ast(6)$ 在 Cartan 对合 $\theta$ (即, 对于任意的 $X\in \mathfrak{so}^\ast(6)$, 有 $\theta(X)=-\bar X^t$)意义下有 Cartan 分解 $\mathfrak{so}^\ast(6)=\mathfrak{k} \oplus \mathfrak{p}$, 其中

李代数 $\mathfrak{so}^\ast(6)$ 还有一个非 Cartan 对合 $\tau$ 意义下的分解 $\mathfrak{so}^\ast(6)=\mathfrak{h}\oplus \mathfrak{q},$ 其中

此外, 为了方便讨论, 再定义一个李群

李群 $SU(1,3)$ 的极大紧子群定义为

群 $SU(1,\,3)$ 的李代数 $\mathfrak{su}(1,3)$ 有 Cartan 分解 $\widetilde{{\mathfrak{k}}}\oplus\widetilde{{\mathfrak{p}}},$ 其中 $\exp\widetilde{{\mathfrak{k}}}=S(U(1)\times U(3))$.

根据文献 [1, P519] 可知, $\mathfrak{so}^\ast(6)\cong \mathfrak{su}(1,\,3)$ 和 $\mathfrak{k}\cong\widetilde{{\mathfrak{k}}}$, 得到以下两个对称空间局部同构

利用 Harish-Chandra 嵌入, 有

这里存在一个全纯等距映射 $F:\ \mathcal{B}\to\mathcal{D}$ 满足条件 $F(0)=0$ 和$[(1-|z|^2)]^2=\det (I_3-\overline{F(z)}^tF(z)),$

莫毅明^[2]证明了 $\mathcal{D}$ 与 $\mathcal{B}$ 是等距等价的.

为了方便讨论, 我们将在 $\mathcal{B}$ 上给出本文所需的分析工具.

假定 $\nu\in\mathbb{R}$, 考虑加权平方可积空间 $L^{2,\,\nu}(\mathcal{B})$:

其中 $c_{\nu}$ 是一个亚纯系数, 且满足 $\|1\|_{L^{2,\,\nu}(\mathcal{B})}=1$, d$z$ 是 $\mathbb{C}^3$ 上的 Lebesgue 测度.

定义 $L^{2,\,\nu}(\mathcal{B})$ 在群 $SU(1,\,3)$ 作用下的射影表示为

其中 $g^{-1}=\left(\begin{array}{cc} a & b \\ c & d \\ \end{array} \right)\in SU(1,\,3)$, 且 $g^{-1}\cdot z=(az+b)(cz+d)^{-1}$.

假定 $\nu\equiv m>3$, 则定义 $L^{2,\,\nu}(\mathcal{B})$ 上的(全纯闭子空间)加权 Bergman 空间

其中 $\mathcal{O}(\mathcal{B})$ 是 $\mathcal{B}$ 上的全纯函数构成的集合, 且带有正规化的加权测度

定义 $\mathfrak{h}$ 的李群为 $SO(3,\,\mathbb{C}).$

引理 3.1^[3] $SO^{*}(6)/SO(3,\,\mathbb{C})$ 是 Hermite 型仿射对称空间.

证 只需证明以下两个条件

(i) $\mathfrak{h}_\mathbb{C}$ 中没有包含 $\mathfrak{g}_\mathbb{C}$ 的非平凡理想, 其中 $\mathfrak{h}_\mathbb{C}$ 和 $\mathfrak{g}_\mathbb{C}$ 是李代数 $\mathfrak{h}$ 和 $\mathfrak{g}$ 的复化;

(ii) 设 $\mathfrak{c}_{\mathbb{C}}$ 是$\mathfrak{q}_\mathbb{C}\cap\mathfrak{k}_\mathbb{C}$ 的中心, 则$\mathfrak{c}_{\mathbb{C}}$ 在 $\mathfrak{q}_\mathbb{C}$ 上有非平凡的中心化子 $Z_{\mathfrak{q}_\mathbb{C}}(\mathfrak{c}_\mathbb{C})=\mathfrak{q}_\mathbb{C}\cap\mathfrak{k}_\mathbb{C}$.

设 $\mathfrak{so}^\ast(6)$ 是 $SO^{*}(6)$ 的李代数, 在 Cartan 对合和非 Cartan 对合下的分解为 $\mathfrak{so}^\ast(6)=\mathfrak{k}\oplus\mathfrak{p}=\mathfrak{h}\oplus\mathfrak{q},$ 其中 $\mathfrak{k},\mathfrak{p},\mathfrak{h},\mathfrak{q}$ 见 (2.1), (2.2) 和 (2.3) 式. 注意到, $\mathfrak{so}^\ast(6)_\mathbb{C}=\mathfrak{so}(6,\,\mathbb{C})$. 根据 $\mathfrak{h}$ 的复化 $\mathfrak{h}_\mathbb{C}$, 容易得到 $\mathfrak{h}_\mathbb{C}$ 中没有包含 $\mathfrak{so}^\ast(6)$ 的非平凡理想, 即条件 (i) 是自然成立的. 注意到, $\mathfrak{k}\cap \mathfrak{q}$ 的复化为

这就暗示了 $\mathfrak{q}^{\mathbb{C}}_{k}$ 有非平凡的中心:

因此上面的条件 (ii) 成立, 从而 $SO^{*}(6)/SO(3,\,\mathbb{C})$ 是 Hermite 型仿射对称空间.

引理 3.2 两个仿射对称空间 $SO^\ast(6)/SO(3,\,\mathbb{C})$ 和 $SU(1,\,3)/SO(1,\,3)$ 局部同构.

证 根据 $\mathfrak{so}^\ast(6)$ 的非 Cartan 对合分解 $\mathfrak{so}^\ast(6)=\mathfrak{h}\oplus \mathfrak{q},$ 利用文献 [1, p446] 或文献 [3, p157], 有 $\mathfrak{h}\cong \mathfrak{so}(3,\,\mathbb{C})$. 定义 $\mathfrak{h}$ 的李群为 $SO(3,\,\mathbb{C})$, 则对应的李群有局部同构 (参见文献 [1, pp520, 522]), $SO(3,\,\mathbb{C})\cong SO(1,\,3),$ 其中

再次利用 $\mathfrak{so}^\ast(6)\cong \mathfrak{su}(1,\,3)$, 可知 $SO^\ast(6)/SO(3,\,\mathbb{C})\cong SU(1,\,3)/SO(1,\,3)$. 引理证毕.

设 $L^2(\mathcal{X})_d$ 是半单对称空间 $X$ 上的平方可积空间 $L^2(\mathcal{X})$ 的闭子集, 将其定义为离散序列. 1984年, Oshima 和 Matsuki^[4]在 Flensted-Jenson^[5]的工作基础上, 得到离散序列存在的条件

引理 3.3 (i) 假设对称空间 $\mathcal{X}$ 不存在紧的 Cartan 子空间, 则 $L^2(\mathcal{X})_d=0.$

(ii) 假设 $\mathcal{X}$ 中存在一个紧的 Cartan 子空间, 则有

其中 $\mathcal{P}$ 是所有离散序列表示的参数集, $A(\omega)$ 是一个 $L^2(\mathcal{X})_d$ 酉嵌入.

文献 [4] 中, Oshima 和 Matsuki 并没有证明 $A(\omega)$ 是不可约的. 1988 年, Vogan^[6]在引理 3.3 的基础上, 利用 Zuckerman 函子得到结论

引理 3.4 引理 3.3 中的 $A(\omega)$ 要么是不可约的, 要么是 0.

引理 3.3 和引理 3.4 是通过代数的方法来证明的, 因此只能得到抽象的离散序列. 下文将要展开讨论具体的离散序列.

对于任意的 $g\in SU(1,\,3)$, 设 $\mathcal{H}_{m}^{\infty}$ 是 $\pi_m(g)$ 作用在 $\mathcal{H}_{m}$ 上关于 $g$ 是无穷可微的函数构成的空间. 定义 $\mathcal{H}_{m}^{-\infty}$ 是 $\mathcal{H}_{m}^{\infty}$ 的前对偶空间. 容易得到 $\mathcal{H}_{m}^{\infty}\subset \mathcal{H}_{m}\subset \mathcal{H}_{m}^{-\infty}$ (具体证明参见文献 [7, p135]). 下面我们将要具体构造 $\mathcal{H}_{m}^{\infty}$.

引理 3.5 设 $z_1,\,z_2,\,z_3\in\mathbb{C}$, 定义 Schur 函数

则

其中, 若 $\ell\neq 2$, $b_{(\lambda_1,\,\lambda_2,\,\lambda_3)}=0,$ 若 $\ell=2$,

对于 $i=1,2,3$ 和 $\widetilde{\lambda}_i=\lambda_i+3-i$,

定义 Laplace-Beltrami 算子

同文献 [8] 或文献 [9] 的证明, 当 $\ell=\sum\limits_{i=1}^3\lambda_i$, 有

当 $n\in\mathbb{Z}_+$,

对于任意 $z\in \mathcal{B}$ 和任意 $n\in\mathbb{Z}_+$, 通过 Laplace 方程的正则化理论, 得到 $\mathcal{H}_m$ 的光滑子空间:

其中

因此 $\mathcal{H}_m^\infty$ 是 $(\mathfrak{su}(1,\,3),\,S(U(1)\times U(3))$-模.

引理 3.6^[10] 设 $\ell\ge0$ 和 $a_\ell=\frac{\Gamma(\rho+\ell)}{\Gamma(\rho)\Gamma(\ell+1)},$ 其中 $\Gamma(\alpha)$ 是 Gamma 函数且 $\mathrm{Re}\rho>0$. 则, 对于 $|w|<1$, $(1-w)^{-\rho}=\sum\limits_{\ell\ge0}a_\ell {w^\ell}.$

引理 3.7 设 $z\in \mathcal{B}$, 对于任意 $m>3$, 定义分布向量

则 $v_0(z)\in \mathcal{H}^{-\infty}_m.$

证 利用射影表示 (2.5) 式的定义, 容易得到 $v_0$ 是 $SO(1,\,3)$-不变的分布向量. 对于 $z\in\mathcal{B}$, 有 $zz^t=z_1^2+z_2^2+z_3^2$. 利用引理 3.5 和引理 3.6, 分布 $v_0(z)$ 通过 $S_{(\lambda_1,\,\lambda_2,\,\lambda_2)}(z_1,\,z_2,\,\,z_3)$ 展开成收敛幂级数, 其对应的幂级数的系数满足缓增条件, 所以它在 $\mathcal{H}^\infty_m$ 上定义了一个连续线性泛函. 通过引理 3.6 及以上符号, 有 $v_0(z)\in \mathcal{H}^{-\infty}_m$. 引理证毕.

李代数 $\mathfrak{su}(1,3)$ 在不同的对合作用之后具有以下分解

其中 $\mathfrak{g}_+=(\widetilde{\mathfrak{h}}\cap\widetilde{\mathfrak{k}})\cap(\widetilde{\mathfrak{q}} \cap\widetilde{\mathfrak{p}})$ 和 $\mathfrak{g}_-=(\widetilde{\mathfrak{h}}\cap\widetilde{\mathfrak{p}}) \cap(\widetilde{\mathfrak{q}}\cap\widetilde{\mathfrak{k}}).$

且

则

取 $\widetilde{\mathfrak{p}}\cap\widetilde{\mathfrak{q}}$ 的极大阿贝尔子代数为

正根系为

定义正定 Weyl 房为 $\mathfrak{a}^+=\{t\in {\mathfrak{a}}:\,t_{1}>0\}.$ 记符号 $A^+=\exp\mathfrak{a}^+$. 设 $L=K\cap SO(1,\,3)$, 则 $L$ 是 $G_+$($G_+$ 是 $\mathfrak{g}_+$ 的李群)的极大紧子群. 因为 $(\widetilde{\mathfrak{h}}\cap\widetilde{\mathfrak{k}})\oplus (\widetilde{\mathfrak{p}}\cap\widetilde{\mathfrak{q}})$ 是 $\mathfrak{g}_+$ 的 Cartan 分解, 加上 $L$ 的共轭类以后, 我们可以将 $G_+$ 唯一的分解为 $L\overline {A^+}L$, 其中 $\overline{A^+}$ 是 $A^+$ 的闭包. 与 $\mathfrak{g}_+$ 中的限制性根系 $\Delta^+_1=\{t_1\}$ 相关的 Weyl 群是

其中 $N_L(\mathfrak{a})$ 和 $Z_L(\mathfrak{a})$ 分别是 $\mathfrak{a}$ 在 $L$ 中的正规化子和中心化子.

引理 3.8^[7] 设 $A=\exp\mathfrak{a}$. 对于任意 $g\in SU(1,\,3)$, 有分解 $g=kah$, 其中 $k\in K$,$a\in A$ 和 $h\in SO(1,\,3)$, 且 $a$ 在 $W_{L}$ 的共轭意义下是唯一的, 其中 $W_L$ 见 (8) 式, 则映射

是 $K/Z_{L}(\mathfrak{a})\times \overline{A^+}\to\mathcal{X}$ 的到上映射. 此外, $K/Z_{L}(\mathfrak{a})\times {A^+}$ 微分同胚于 $\mathcal{X}$ 中的开稠密子集

定义 4.1 设 $\Phi$ 是群 $G$ 在 Hilbert 空间 $H$ 上的酉表示, 且 $g \in G$. 若向量 $\Phi(g)v$ 的线性张成在 $H$ 中是稠密的, 则称 $v \in H$ 是循环向量.

命题 4.1 在 $\mathfrak{su}(1,3)$ 中, 重数

为 $p_{t_k}=2,p_{2t_{k}}=0,p_{t_k \pm t_l }=0,$ $q_{t_k}=2,q_{2t_{k}}=1,q_{t_k \pm t_l }=0$.

证 设 $t={\rm}t_1$, $\beta\in \mathbb{R}$, $\gamma\in M_{1,2}(\mathbb{R})$, $\delta_2\in M_{1,2}(\mathbb{R})$, $\delta_3\in M_{2,2}(\mathbb{R})$ 且 $\delta_3=-\delta^t_3$. 利用 $\mathfrak{g}_+$ 和 $\mathfrak{a}$ 的定义, 有

其中 $X\in \mathfrak{a}$, $Y\in \mathfrak{g}_+$, $\kappa(t)$ 是 $\mathrm{ad}_X$ 作用下的特征值. 直接计算可得

矩阵空间 $M_{1,2}(\mathbb{R})$ 的基是 $S_{1,1}=(1,\,0),\,S_{1,2}=(0,\,1)$. 容易计算得到 $\gamma=S_{1,m}$, $1\le m\le 2$; $\delta_2=S_{1,m}$, $1\le m\le2$ 和 $\delta_3=\mathbf{0}$. 从而有 $\kappa(t)=\pm t_1,$ 则 $\mathfrak{g}^+$ 中的根系为 $\Delta_1=\{\pm t_1\}$, 没有 $\pm t_{2k}$ 和 $\pm(t_k\pm t_l)$ 的根. 而且, $\pm t_1$ 的根向量为

从而 $\pm t_1$ 对应的根向量空间的维数为 $2$, 其它为零. 同理可得 $q_{t_k}=2,q_{2t_{k}}=1,q_{t_k \pm t_l }=0$. 命题得证.

设

其中 $\Delta^+$, $p_\kappa$ 和 $q_\kappa$ 见 (9) 式, $Y\in\mathfrak{a}^+$, $C_\kappa$ 是一个正常数 (在下面的 (4.2) 式为隐藏条件) 和 $Y$ 的无关.

设 $x_0=eSO(1,\,3)$, 其中 $e$ 是 $SU(1,\,3)$ 的单位元, 利用引理 3.8 和 $\mathcal{X}=K\exp(\mathfrak{a}^+)\cdot x_0$, 有

其中 d$k$ 定义为在 $K$ 上的标准 Haar 测度, $Y\in\mathfrak{a}^+$ 和

对于任意的 $g\in SU(1,\,3)$ 和 $f\in\mathcal{H}_m^{-\infty}$, 定义逆步表示

命题 4.2 设 $A=\exp \mathfrak{a}$, $v_0$ 是 $SO(1,\,3)$-不变分布向量 (同 (5) 式) 和 $\pi_m^\vee$ 逆步表示 (同 (11) 式). 对于任意的 $a_t\in A$, 有 $\overline{\pi^\vee_m(a_t)v_0(0)}=\langle 1,\,\pi^\vee_m(a_t)v_0\rangle =\cosh^{-\frac{m}2}(2t).$

证 设极大阿贝尔子代数 $\mathfrak{a}\subset \widetilde{\mathfrak{q}}\cap \widetilde{{\mathfrak{p}}}$ 见 (3.3) 式, 那么 $A=\exp \mathfrak{a}$ 是 $a_t$ 的所有集合,

其中 $t\in\mathbb{R}$. 利用 (2.5), (3.2) 式和加权 Bergmann 空间的定义, 容易得到

这就完成了命题的证明.

定理 4.1 设 $m>3,$ 则

其中 ${\rm d}\mu_0(t)$ 见 (4.2) 式.

证 利用 (4.2) 式, 有

而且, 对于 $\mathrm{Re}(\alpha)>-1$ 和 $\mathrm{Re}(\beta-\alpha)>0$, 定义

从而, $\alpha=2$ 和 $\beta=m-1$, 证明了

证毕.

定理 1.1 的证明 对于任意的 $ka_t\in KA$, 只需找到全纯离散序列 $\langle 1,\,\pi^\vee_m(ka_t)v_0\rangle$ 即可. 现在设变换 $\mathcal{I}_m=\langle 1,\,\pi^\vee_m(x)v_0\rangle.$ 设 $x=ka_tx_0$, 其中

这里 $k_1={\rm e}^{{\rm i}\theta_1}$, $k_2\in U(3)$ 且 ${\rm e}^{{\rm i}\theta_1}\det k_2=1$. 取 $k_2$ 的第一行第一列的元素为 ${\rm e}^{{\rm i}\theta_2}$, 利用 (2.4), (4.4) 式和引理 3.6, 再结合 $|\tanh t|^2<1$, 可以得到

现在证明 $\mathcal{I}_m1\in L^2(\mathcal{X})$. 利用 (4.2) 式, 定理 4.1 和 (4.5) 式, 可得

如果 $m>3$ 和 $m\in\mathbb{Z}_+$, 利用特征标的正交性质, 得到 $\mathcal{I}_m1\in L^2(\mathcal{X})$. 又因为标量函数 $1$ 是 $\mathcal{H}_m$ 中的最低 $K$-型并且标量函数 $1$ 是一个循环向量 $\mathcal{H}_m$, 也就是说向量 $\pi_m(g)1$ 的线性张成, 对于任意 $g\in SU(1,\,3)$ 在 $\mathcal{H}_m$ 是稠密的, 见文献 [5]. 从而, 对任意 $ka_t\in KA$, 将 $\mathcal{I}_m1(ka_t\cdot x_0)$ 映射为 $L^2(\mathcal{X})$ 上的函数. 如果 $m>3$ 且 $m\in\mathbb{Z}_+$, 容易证明 $L^{2}(SU(1,3)/SO(1,3))$ 的闭子空间

是不可约的, 并且 $\mathcal{E}_{m}$ 的重数是 $1$. 定理 1.1 证毕.

本文主要研究的是 Hermite 型仿射对称空间 $SO^\ast(6)/SO(3,\,\mathbb{C})$ 上的离散序列. 主要借助李群的局部同构, 将秩一的仿射对称空间 $SO^\ast(6)/SO(3,\mathbb{C})$ 转化为具有 Hermite 结构的仿射对称空间 $SU(1,3)/SO(1,3)$, 并且具体构造了分布函数、Fréchet 表示的逆步表示, 从而得到了该文意义下具体的离散序列.