记$H^2$为单位圆盘${\mathbb{D}}=\{z:|z|<1\}$上的Hardy空间. Hardy空间由${\mathbb{D}}$上具有平方可和系数的解析函数构成, 也可用$L^2:=L^2(\partial {\mathbb{D}})$的闭子空间来定义, 即解析多项式的闭线性张成空间, 其中$\partial{\mathbb{D}}$为单位圆周. Hardy空间$H^2$为再生解析函数Hilbert空间, 其内积为

其中${\rm d}\sigma$为单位圆周$\partial{\mathbb{D}}$上规范化的Haar测度; $H^2$的再生核为

记$P$为$L^2$到$H^2$上的正交投影, 则

记$L^\infty$为$\partial {\mathbb{D}}$上本性有界可测函数全体. Hardy空间$H^2$上符号为$\varphi\in L^\infty$的Toeplitz算子$T_{\varphi}$定义为

符号为$\varphi$的(小) Hankel算子$H_\varphi$定义为

其中$U: L^2\rightarrow L^2$为酉算子, 定义为$Uf(z)=\bar{z}f(\bar{z}), z\in {\mathbb{D}}.$易见$T_\varphi$和$H_\varphi$都是$H^2$上的有界线性算子. Toeplitz算子$T_{\varphi}$和Hankel算子$H_{\varphi}$已经被广泛地研究了很长时间^{[1-2, 12]}. 最近对$T_{\varphi}$和$H_{\varphi}$压缩到模空间上的截断Toeplitz算子和截断Hankel算子的性质的研究越来越多^{[7, 13-14]}, 并取得了很多深刻的结果.

记$H^\infty$为${\mathbb{D}}$上有界解析函数全体. 若$\theta\in H^{\infty}$在单位圆周$\partial{\mathbb{D}}$上几乎处处有$|\theta|=1$, 则称$\theta$为内函数, 相应的模空间$K_\theta$是$\theta H^2$在$H^2$中的正交补, 即$K_\theta=H^2\ominus\theta H^2$. $H^2$上的单侧移位$S$是自变量相乘的算子, 即$Sf(z)=zf(z).$$S$的伴随算子$S^\ast$称为后移算子. 可以简单计算得到$S^\ast f(z)=\frac{f(z)-f(0)}{z}.$模空间在后移$S^\ast$作用下不变. 模空间是一个再生解析函数Hilbert空间, 其再生核为

由于$K_{w}^\theta$是有界的, 因而集合$K_{\theta}^\infty=K_\theta\cap H^\infty$在$K_\theta$中是稠的.

对$\varphi\in L^\infty$, 模空间$K_\theta$上的截断Toeplitz算子(TTO) $A_\varphi$定义为

其中$P_\theta$是$L^2$到$K_\theta$上的正交投影. $A_\varphi$是$T_\varphi$在模空间$K_\theta$上的压缩, 即$A_\varphi=P_\theta T_{\varphi}|_{K_\theta}$. 最早系统研究这类算子的是Sarason^[13]; 之后Sedlock定义了Sedlock类代数^[14], 系统研究了截断Toeplitz算子的代数性质. 由Gu^[7]引入截断(小) Hankel算子(THO) $B_\varphi$

其为$H_\varphi$在模空间$K_\theta$上的压缩, 即$B_\varphi=P_\theta H_{\varphi}|_{K_\theta}$.

需要注意的是, 当$\varphi\in H^\infty$, 即$\varphi$为有界解析函数, $H_ \varphi=B_ \varphi=0$, 即Hankel算子和截断Hankel算子的性质只跟其符号函数的共轭解析部分有关.

令${\cal H}$表示复可分Hilbert空间, $B({\cal H})$表示${\cal H}$上所有有界线性算子组成的代数. 共轭线性映射$C: {\cal H}\rightarrow {\cal H}$称为复共轭, 若其满足

(1) $\langle Cf, Cg\rangle=\langle g, f\rangle, {\quad} \forall f, g\in {\cal H}$;

(2) $C^2=I$, 即$C$是对合.

若$T\in B({\cal H})$满足$CT=T^\ast C$, 则称$T$是$C$ -对称的, 或$T$关于复共轭$C$是复对称的, 简称$T$是复对称的. Hilbert空间上的复对称算子是复对称矩阵的一般推广, 由Garcia和Putinar开始研究^[5], 之后涌现了一大批抽象复对称算子的结构理论和具体算子的复对称性研究成果^{[3-4, 6, 10-11, 15-16]}. 复对称算子类包含大量的例子, 包括所有的正规算子, 以及有限Toeplitz矩阵, 截断Toeplitz算子, 调和Bergman空间上的Toeplitz算子和Volterra积分算子等.

本文研究模空间上截断Hankel算子关于给定复共轭的复对称性, 得到了完全刻画. 所得结果表明, 截断Hankel算子$B_ \varphi$的复对称, 有些仅与导出模空间$K_\theta$的内函数$\theta$有关(见定理2.1), 有些则与内函数$\theta$及算子的符号函数$\varphi$密切相关(见定理2.2, 定理2.3).

定义$J: L^2\to L^2$为$J f=f^*$, 其中$f^*(z)=\overline{f(\bar z)}$. 容易验证$J$是$L^2$上的一个复共轭. 内函数$\theta$称为实对称的, 若存在$\alpha\in \partial{\mathbb{D}}$满足$\theta^*=\alpha\theta$. 当$\alpha=1$时, 文献[9]给出了两个截断Hankel算子乘积为截断Toeplitz算子的充要条件.

下面引理的证明, 用到酉算子$U: L^2\to L^2$, $Uf(z)=\bar z \hat{f}(z)$, 其中$\hat{f}(z)=f(\bar z)$. 容易验证$U^*=U$并且$U(I-P)=PU$. 因此Hankel算子$B_ \varphi$也可以表示为

其中$M_ \varphi$为乘法算子$M_ \varphi f= \varphi f$.

引理2.1  对非常数内函数$\theta$, $J$为$K_\theta\to K_{\theta^*}$的共轭线性映射. 特别的, 若$\theta$为实对称的, 则$J$为$K_\theta$上的复共轭.

证  只需证$f\in K_\theta$当且仅当$f^*\in K_{\theta^*}$. 事实上, 由于对每个$g\in H^2$等价于$g^*\in H^2$, 于是由

可知, $f^*\perp \theta^* H^2$当且仅当$f\perp \theta H^2$. 故$f\in K_\theta$当且仅当$f^*\in K_{\theta^*}$.

当考虑Hankel算子$B_ \varphi$的复对称性时, 要考察$B_ \varphi$的共轭算子. 直接验证可得$B^*_ \varphi=B_{ \varphi^*}$. 故若$B_ \varphi$是$C$ -对称的, 即满足$CB_ \varphi =B_{ \varphi^*}C$.

下面定理说明, 当模空间$K_\theta$由实对称的内函数$\theta$给出时, 其上的每个截断Hankel算子都是关于复共轭$J$为复对称的, 即满足$JB_ \varphi J=B_{\varphi^*}$.

定理2.1  令$\theta$是一个非常数内函数且是实对称的, 则$B_\varphi$在$K_\theta$上是$J$ -对称的.

证  由引理2.1可知$J$为$K_\theta$上的复共轭. 对任意的$f, g\in K_\theta$, 由于

以及

故得到$J B_ \varphi=B_{ \varphi^*}J$, 因此$B_ \varphi$是$J$ -对称的.

已知模空间上的每个截断Toeplitz算子$A_ \varphi$都是$C_\theta$ -对称的, 其中复共轭$C_\theta: K_\theta\to K_\theta$定义为$C_\theta f=\theta \bar z\bar f$ (参见文献[13]). 一个自然的问题是: $B_ \varphi$是否$C_\theta$ - 对称? 下面的定理给出了截断Hankel算子$B_ \varphi$为$C_\theta$ -对称的充要条件, 结果表明并不是每个$B_ \varphi$都是关于复共轭$C_\theta$是复对称的. 对函数集合$E$, 记$\overline{E}=\{\bar f: f\in E\}$.

定理2.2  令$\theta$为非常数内函数. 则$B_\varphi$为$C_\theta$ -对称当且仅当

证  先证明必要性. 若$B_\varphi$关于复共轭$C_\theta$是复对称的, 则$B_\varphi C_\theta =C_\theta B_{\varphi^*}$. 对任意$f, g\in K_\theta$, 有

由于

且

于是得到

对任意的$f, g\in K_\theta$成立. 即知对任意$f\in K_\theta$, 我们有$P_\theta((\hat \varphi\hat\theta- \varphi\theta)f^*)=0$.

在引理2.1中已证明$f\in K_\theta$当且仅当$f^*\in K_{\theta^*}$, 因此综上可知

根据文献[8,定理2.1], 上式成立当且仅当$\hat{\varphi}\hat{\theta}-\varphi\theta \in\overline{\theta^{*} H^{2}}+\theta H^{2}.$

充分性由必要性的证明即可得. 故定理得证.

下面引入另一个复共轭. 令$b\in {\mathbb{D}}$, $\varphi _b (z)=\frac{b-z}{1-\bar{b}z}$, 则$\varphi_b$为Mobious变换. 取$b\in {\mathbb{D}}, \beta \in \partial{\mathbb{D}}$使得$\beta b=\bar{b}$, 定义共轭线性映射

其中$e_b=\frac{K_b}{\|K_b\|}$为Hardy空间$H^2$的规范再生核, 则可直接验证$C_{b, \beta}$为$L^{2}$上的一个复共轭^[3]. 令$f^\sharp=\overline{f(\overline{\beta \varphi_b})}$. 注意到当$b=0, \beta=-1$时, $f^\sharp=f^*$.

引理2.2  设$a_j\in {\mathbb{D}}$, $j=1, 2, \ldots, n$. 令$\theta=\prod\limits_{j=1}^n \varphi_{a_j}$为有限$\rm Blaschke$乘积, $\alpha\in \partial{\mathbb{D}}$. 则$\theta^{\sharp}=\alpha\theta$当且仅当

此时$C_{b, \beta}$为$K_\theta$上的复共轭.

证  直接计算有

由于$\bar b=\beta b$, 可得

于是我们有

故要使$\theta^{\sharp}=\alpha\theta$, 则仅需满足$\{a_j\}=\{\varphi_b(\overline{\beta a_j})\}$且$\prod\limits_{j=1}^n (-\beta)\frac{1-\overline{a_j}b}{1-a_j\bar{b}}=\alpha$. 因此, $\theta^{\sharp}=\alpha\theta$当且仅当$\{a_j\}=\{\varphi_b(\overline{\beta a_j})\}$且$\prod\limits_{j=1}^n \frac{1-a_j \bar{b}}{1-\overline{a_j}b}=\bar\alpha(-\beta)^{n}$.

当$\theta^{\sharp}=\alpha\theta$时, $K_{\theta^\sharp}=K_\theta$. 要证$C_{b, \beta}$为$K_\theta$上的复共轭, 只需说明当$f\in K_\theta$时$C_{b, \beta} f\in K_{\theta^\sharp}$. 事实上, 对任意$f\in K_\theta$, $g\in H^2$, 可得

上式即表明$C_{b, \beta}f\perp \theta^\sharp H^2$当且仅当$f\perp \theta H^2$, 因此$C_{b, \beta}f\in K_{\theta^\sharp}$.

已知模空间$K_\theta$为有限维当且仅当内函数$\theta$为有限Blaschke乘积. 下面定理给出某些特殊的有限维模空间上一类截断Hankel算子的复对称性. 从定理的证明过程可知, 对于一般的有限维模空间, 其上截断Hankel算子复对称性的刻画会变得非常复杂.

定理2.3  设$\bar \varphi\in H^\infty$, $\theta=\prod\limits_{j=1}^n \varphi_{a_j}$, $a_j\neq a_k$ ($j\neq k$), 满足$\theta^{\sharp}=\alpha\theta$, 其中$\alpha\in \partial{\mathbb{D}}$. 则$B_\varphi$在$n$维模空间$K_\theta$上$C_{b, \beta}$ -对称当且仅当对任意的$\ell, j$, 有

$\rm (1)$当$\overline{a_\ell}\ne \varphi_b({ \overline{\beta a_{j}}})$, $\overline{a_\ell}\ne \varphi_{\bar{b}}(\beta \overline{a_{j}})$时

$\rm (2)$当$\overline{a_\ell}= \varphi_b({ \overline{\beta a_{j}}})$, $\overline{a_\ell}\ne \varphi_{\bar{b}}(\beta \overline{a_{j}})$时

$\rm (3)$当$\overline{a_\ell}\ne \varphi_b({ \overline{\beta a_{j}}})$, $\overline{a_\ell}= \varphi_{\bar{b}}(\beta \overline{a_{j}})$时

$\rm (4)$当$\overline{a_\ell}= \varphi_b({ \overline{\beta a_{j}}})$, $\overline{a_\ell}= \varphi_{\bar{b}}(\beta \overline{a_{j}})$时

证  首先假设$B_{\varphi}$关于复共轭$C_{b, \beta}$是复对称, 则$B_\varphi C_{b, \beta}=C_{b, \beta} B_{\varphi^{\ast}}$. 对$f, g\in K_\theta$,

故得到

直接计算有

取$f=K_{a_j},$则

因此

取$g=K_{a_\ell},$则由(2.1) 式得到

化简得

由于

则(2.2) 式可化为

其中

(1) 当$\overline{a_{\ell}}\neq a_{j}'$且$\overline{a_\ell}\ne a_j''$时, 由于对常数$c, d\in {\mathbb{D}}$且$\overline{d}\ne c$, 有

则(2.3) 式化为

利用再生核的性质$\langle h, K_a \rangle=h(a)$, $h\in H^2$, 则上式化为

由于

结合$a_{j}'=\varphi_b(\overline{\beta a_j})$及$a_{j}''=\varphi_{\bar{b}}(\beta \overline{a_{j}})$, 则(2.4) 式化为

(2) 当$\overline{a_{\ell}}= a_{j}'$而$\overline{a_\ell}\ne a_j''$时, (2.3) 式左边的内积由再生核性质$\langle h, \frac z{(1-\bar a z)^2} \rangle=h'(a)$, $h\in H^2$, 可得为$\hat \varphi'(a_\ell)$, 于是结合情形(1), (2.3) 式可化为

(3) 当$\overline{a_{\ell}}\ne a_{j}'$而$\overline{a_{\ell}}= a_{j}''$时, (2.3) 式右边的内积可以化为

同样由再生核性质$\langle h, \frac z{(1-\bar a z)^2} \rangle=h'(a)$, $h\in H^2$, 上式即为

于是结合情形(1), (2.3) 式可化为

(4) 当$\overline{a_{\ell}}= a_{j}'$且$\overline{a_{\ell}}= a_{j}''$时, 由情形(2) 和(3) 即可知(4) 成立.

综上所述, 必要性得证. 注意到$K_\theta$由$n$个再生核$\{K_{a_j}, j=1, 2, \ldots, n\}$线性张成, 因此由必要性证明亦可知充分性成立. 定理得证.

上面定理中的几种情形不一定全部出现, 如下面的推论.

推论2.1  设$\bar \varphi\in H^\infty$, $b\in {\mathbb{D}}$为实数, $\theta=\prod\limits_{j=1}^n \varphi_{a_j}$, $a_j\neq a_k$ ($j\neq k$), 满足$\theta^{\sharp}=\alpha\theta$, 其中$\alpha\in \partial{\mathbb{D}}$. 则$B_\varphi$在$K_\theta$上$C_{b, 1}$ -对称当且仅当对任意的$\ell, j$,

$\rm (1)$当$a_\ell\ne \varphi_b(a_j)$时

$\rm (2)$当$a_\ell= \varphi_b(a_j)$时