由算子 $A$、$B$ 形成的换位子是算子理论中十分重要的课题, 它涉及到 Hilbert 空间和算子理论中的许多概念. 比如在文献 [1⇓-3] 中给出当 $B=A^*$ 时, $[A,A^*]=AA^*-A^*A$ 称为 $A$ 的自换位子. 当某个有界线性算子的自换位子等于零、非负或者半定时, 可以定义该算子为正规 (或正常) 算子、亚正规 (或亚正常) 算子或者半正规 (或半正常) 算子.除此之外, 换位子不仅在量子力学、微分扰动、奇异积分变换和雅可比行列式等有重要应用, 还在 Lie 代数以及群论领域中具有十分重要的地位.比如, Lie 括号就是换位子, 参见文献 [4]. 因此, 换位子的研究具有一定的意义.

1952 年, Halmos 在文献 [5⇓-7]中研究什么样的算子能形成换位子以及换位子在群论和环论中的两种形式: $AB-BA$ (加法换位子) 和 $ABA^{-1}B^{-1}$ (乘法换位子). 1992 年 Maher 在文献 [8] 中研究了换位子、自换位子的趋近问题.2007 年, Kittaneh 在文献 [9]中研究换位子不等式及其应用. 至今换位子的研究仍受到广泛的关注. 共轭算子在线性代数的背景下提出, 它不仅在算子理论中扮演着不可或缺的角色, 在其它方面也有重要的作用.比如在连续时间线性系统的理论中, Hankel 算子的共轭算子在输入--输出映射和状态空间设置方面具有重要的应用, 参见文献 [10]. 因此共轭算子的研究无论在理论还是实际应用中都是非常重要的. 但是, 当 $A$、$B$ 无界时, 它的换位子的共轭算子未见其报道.

我们熟知, 对于一般的无界稠定算子 $C$、$D$ 而言, 如果 $C+D$、$CD$ 稠定, 则只能满足关系式

和

也就是说当 $A$、$B$ 无界时, 换位子 $AB-BA$ 的共轭, 一般情况下只能满足

因此, 本文通过两类方法去刻画换位子的共轭算子. 首先通过定义一种 $2 \times 2$ 算子矩阵

且$\left(\begin{array}{cc} x \\ y \\\end{array}\right)\rightarrow \left(\begin{array}{cc} -Px+y \\ x+Qy \\\end{array}\right), x \in D(P), y\in D(Q),$ 其中 $P$, $Q$ 是 Hilbert 空间 $X$ 中的稠定线性算子, $D(M_{P,Q})=D(P)\times D(Q).$再利用算子矩阵值域的方法去刻画换位子的共轭算子.最后利用谱理论的知识给出关系式

成立的充分条件. 本文中的 $X$ 均为无穷维 Hilbert 空间.

定义 2.1^[11] 设 $X$ 为 Banach 空间, $T$: $\mathcal{D}(T)\subseteq X \rightarrow X$ 为稠定线性算子, 称复子集 $\rho(T)=\{\lambda\in \mathbb{C}: (T-\lambda I )^{-1}\mbox{ 存在且} (T-\lambda I )^{-1}\mbox{ 是有界算子}\}$ 为 $T$ 的预解集, $\rho(T)$ 中的 $\lambda$ 称为 $T$ 的正则点. $T$ 的谱集 $\sigma(T)$ 为 $\rho(T)$ 在复平面 $\mathbb{C}$ 中的补集, 即 $\sigma(T)$=$\mathbb{C} \setminus \rho(T)$.

当 $\lambda\in \sigma (T)$ 时, 有如下三种可能

此外, 根据值域的稠定性以及闭性, 对于点谱和剩余谱还可以进一步细分

定义 2.2^[12] 设 $T$ 为 Hilbert 空间 $X$ 中稠定线性算子, $T$ 的共轭算子 $T^*$ 定义为从 $D(T^*)$ 到 $X$ 的映射

其中

且 $T^*y=y^*.$

注 2.1 当 $T$ 是稠定时, $y^*$ 是唯一的. 但 $T^*$ 不一定是稠定的, $T^*$ 是稠定的当且仅当 $T$ 是可闭的.

定义 2.3^[13] Hilbert 空间 $X$ 中的线性算子 $T$ 的图$G(T)$ 定义为

$G(T)$ 是乘积空间 $X\times X$ 中的子集. 其中 $X\times X$ 也是内积空间, 其内积定义为

引理 2.1^[12] 设 $C$、$D$ 是 Hilbert 空间 $X$ 的稠定线性算子, 则

(1) 如果 $C+D$ 稠定, 则 $(C+D)^*\supset C^*+D^*;$

(2) 如果 $CD$ 稠定, 则 $(CD)^*\supset D^*C^* ;$

(3) 若 $C \in B(X),$ 则 $(C+D)^*=C^*+D^*.$

引理 2.2^[13] 令 $B$: $D(B)\subset X_1 \rightarrow X_2$ 和 $A :D(A) \subset X_2\rightarrow X_3$ 是稠定闭线性算子且 $AB$ 也稠定, 则有如下结论

(1) 如果 $A\in B(X_1,X_2),$ 则 $(AB)^*=B^*A^*$;

(2) 如果 $B\in B(X_1,X_2),$ 则 $(AB)^*=B^*A^*$ 成立当且仅当 $B^*A^*$ 是闭算子.

引理 2.3 令 $B: \mathcal{D}(B) \subset X_1 \rightarrow X_2$ 和 $A: \mathcal{D}(A) \subset X_2 \rightarrow X_3$ 是稠定闭线性算子, 如果算子 $AB$ 也稠定且 $B^{-1} \in B(X_2,X_1),$ 则 $(AB)^*=B^*A^*.$

证 只需证明 $\mathcal{D}[(AB)^*]\subset \mathcal{D}(B^*A^*),$ 令 $x^* \in \mathcal{D}[(AB)^*],$ 则存在 $f \in X,$ 使得对任意的 $x \in \mathcal{D}(AB),$ 有

考虑 $\mathcal{D}(AB)=B^{-1}\mathcal{D}(A),$ 即得对任意的 $g\in \mathcal{D}(A),$ 有

这蕴含 $x^*\in \mathcal{D}(A^*).$ 且

从而 $A^*x^* \in \mathcal{D}(B^*), \mbox{即 } \mathcal{D}[(AB)^*]\subset \mathcal{D}(B^*A^*).$ 结论得证.

引理 2.4 如果 $T=\left(\begin{array}{cc} 0 & A \\ B & 0 \end{array}\right)$是稠定闭算子, 且 $AB$ 、$BA$ 稠定, 则 $\rho (T)=\{\lambda \in \mathbb{C} : \lambda ^2 \in \rho (AB) \cap \rho (BA)\}.$

证 不妨设 $\lambda \in \rho (T)\backslash {\{0\}},$ 则考虑到

其中 $J=\left(\begin{array}{cc} I & 0 \\ 0 & -I \\ \end{array} \right), J^{-1}=J^*=J,$ 即得 $-\lambda \in \rho (T).$ 而

于是 $\lambda ^2 \in \rho (AB) \cap \rho (BA)\}.$

反之, 当 $\lambda\in \{ \lambda \in \mathbb{C}:\lambda ^2 \in \rho (AB) \cap \rho (BA)\}$ 时, 考虑到

得 $T-\lambda$ 是满射. 再考虑到

得 $T-\lambda$ 是单射, 于是 $\lambda \in \rho (T).$

定理 3.1 令 $A$, $B$ 是 $X$ 中的稠定闭线性算子, $AB$ 、$BA$ 、$(AB-BA)$ 稠定, 若 $B$ 可逆, $\mathcal{R}(A) \subset \mathcal{D}(B),$且 $\mathcal{D}(AB)\subset \mathcal{D}(BA),$$G[(AB)^*]\subseteq \mathcal{R}(M_{AB,(AB-BA)^*+(BA)^*}),$其中

则 $[A,B]^*=-[A^*,B^*]$.

证 首先证明 $[A,B]^*=(AB)^*-(BA)^*.$ 显然 $(AB-BA)+BA\subset AB,$ 又因为 $\mathcal{D}(AB)\subset \mathcal{D}(BA),$ 所以 $\mathcal{D}(AB)\subset( \mathcal{D}(BA)\cap \mathcal{D}(AB)),$ 则可得到

两边取共轭有

现只需要证明 $\mathcal{D}((AB)^*)\subset \mathcal{D}[(AB-BA)^*+(BA)^*].$对任意的 $y\in \mathcal{D}((AB)^*),$ 有$\langle y,(AB)^*y\rangle \in G[(AB)^*],$ 由假设条件知, 存在 $v \in \mathcal{D}(AB), x \in \mathcal{D}[(AB-BA)^*+(BA)^*],$ 使得

可得到

进而得

可得 $v=0, y=x \in \mathcal{D}[(AB-BA)^*+(BA)^*].$ 即 $[A,B]^*=(AB)^*-(BA)^*.$

最后证明 $(AB)^*=B^*A^*, (BA)^*=A^*B^*.$ 因为 $B$ 是可逆的, 则 $(AB)^*=B^*A^*.$$B^{-1}BA\subset A$ 是显然的, 又因为 $\mathcal{R}(A)\subset \mathcal{D}(B)$, 可得到 $B^{-1}BA=A,$ 两边取共轭有

右侧与 $B^*$ 作用后得

即 $(BA)^*\subset A^*B^*$, 于是 $(BA)^*= A^*B^*$. 综上所述 $[A,B]^*=-[A^*,B^*]$.

定理 3.2 令 $A$、$B$ 是 $X$ 中的稠定闭线性算子, $AB$ 、$BA$ 、$(AB-BA)$ 稠定, 若 $A$ 可逆, $\mathcal{R}(B) \subset \mathcal{D}(A),$ 且 $\mathcal{D}(BA)\subset \mathcal{D}(AB), G(-(BA)^*)\subseteq \mathcal{R}(M _{-BA,(AB-BA)^*-(AB)^*}),$ 其中

则

证 由定理 3.1 可类似证明.

定理 3.3 令 $A, B$ 是 $X$ 中的稠定闭线性算子, $AB$、$BA$、$(AB-BA)$ 稠定, 若 $B$ 可逆, $(AB^{-1})^*B^*$ 是闭算子, $\mathcal{D}(B)\subset \mathcal{D}(A), \mathcal{R}(AB^{-1})\subset \mathcal{D}(B)$, $\mathcal{R}(B^*)\subset \mathcal{D}(A^*)$, 则 $[A,B]^*=-[A^*,B^*]$.

证 由假设条件 $\mathcal{D}(B)\subset \mathcal{D}(A), \mathcal{R}(AB^{-1})\subset \mathcal{D}(B),$ 可知 $BAB^{-1}$ 有界.因为 $B$ 是可逆的, 故 $AB-BA=(A-BAB^{-1})B,$ 两边取共轭有

结论得证.

定理 3.4 令 $A$, $B$ 是 $X$ 中的稠定闭线性算子, $AB$、$BA$、$(AB-BA)$ 稠定, 若 $A$ 可逆, $(BA^{-1})^*A^*$ 是闭算子, $\mathcal{D}(A)\subset \mathcal{D}(B), \mathcal{R}(BA^{-1})\subset \mathcal{D}(A)$, $\mathcal{R}(A^*)\subset \mathcal{D}(B^*)$, 则 $[A,B]^*=-[A^*,B^*]$.

证 由假设条件 $\mathcal{D}(A)\subset \mathcal{D}(B), \mathcal{R}(BA^{-1})\subset \mathcal{D}(A),$ 可知 $ABA^{-1}$ 有界.因为 $A$ 是可逆的, 故 $AB-BA=(ABA^{-1}-B)A,$ 两边取共轭有

结论得证.

定理 3.5 $\rho (AB) \cap(\rho (B^*A^*))^*\neq \emptyset,$$\rho(BA) \cap (\rho (A^*B^*))^* \neq \emptyset,$ 其中 $(\rho (B^*A^*))^*=\{\overline{\lambda}|\lambda \in \rho(B^*A^*)\}, (\rho(A^*B^*))^*=\{\overline{\lambda}|\lambda \in \rho(A^*B^*)\},$ 且 $\rho (AB-BA)\neq \emptyset,$ 算子 $(AB)^*-(BA)^*$ 是闭算子且满足 $\sigma_{r,1}[(AB)^*-(BA)^*]= \emptyset,$ 则 $[A,B]^*=-[A^*,B^*]$.

证 首先证 $(AB)^*=B^*A^*.$令 $\lambda \in \rho (AB)\cap (\rho(B^*A^*))^*$, 则 $\overline{\lambda} \in \rho [(AB)^*], \overline{\lambda} \in \rho(B^*A^*).$ 因此对任意的 $x^* \in \mathcal{D}[(AB)^*]$, 由于 $(B^*A^*- \overline{ \lambda} I)$ 是满射, 则存在 $\widetilde{x}\in \mathcal{D}(B^*A^*)$ 有

由于 $(AB)^*|_{\mathcal{D}(B^*A^*)}=B^*A^*,$ 故 $[(AB)^*-\overline{ \lambda} ](x^*-\widetilde{x})=0,$ 因此 $x^*=\widetilde{x} \in \mathcal{D}(B^*A^*),$ 即 $(AB)^*=B^*A^*.$ 同理可证 $(BA)^*=A^*B^*$.

最后证明 $[A,B]^*=(AB)^*-(BA)^*$, 只需证 $\mathcal{D}[(AB-BA)^*] \subset \mathcal{D}[(AB)^*-(BA)^*]$. 由于 $\rho (AB-BA)\neq \emptyset,$任意取 $\lambda \in \rho (AB-BA)$, 则 $\overline{\lambda} \in \rho [(AB-BA)^*]$, 由预解集的定义可知, $[(AB-BA)^*-\overline{\lambda}]$ 是单射且其逆有界.又由 $(AB-BA)^*|_{D[(AB)^*-(BA)^*]}=(AB)^*-(BA)^*,$ 即 $[((AB)^*-(BA)^*)-\overline{\lambda}]$ 是单射且其逆有界. 因此 $\overline{\lambda} \in \rho[(AB)^*-(BA)^*] \cup \sigma_{r,1}[(AB)^*-(BA)^*]$,由于 $\sigma_{r,1}[(AB)^*-(BA)^*]= \emptyset,$ 故 $\overline{\lambda} \in \rho[(AB)^*-(BA)^*]$. 因此对任意的 $y^* \in D[(AB-BA)^*],$ 存在 $\widetilde{y}\in D[(AB)^*-(BA)^*]$ 有

由于 $(AB-BA)^*|_{D[(AB)^*-(BA)^*]}=(AB)^*-(BA)^*,$ 故 $[(AB-BA)^*-\overline{ \lambda} ](y^*-\widetilde{y})=0,$因此 $y^*=\widetilde{y} \in D[(AB)^*-(BA)^*],$ 即 $D[(AB-BA)^*] \subset D[(AB)^*-(BA)^*]$. 则$[A,B]^*=-[A^*,B^*].$ 结论得证.

定理 3.6 $\rho(AB) \cap \rho (BA) \neq \emptyset,$$\rho (AB-BA)\cap (\rho[(AB)^*-(BA)^*])^* \neq\emptyset,$ 其中$(\rho[(AB)^*-(BA)^*])^*=\{\overline{\lambda}|\lambda \in \rho[(AB)^*-(BA)^*]\},$ 则 $[A,B]^*=-[A^*,B^*]$.

证 当 $\rho(AB) \cap \rho (BA) \neq \emptyset$ 时, 由引理 2.4 知 $\rho (T) \neq \emptyset,$ 其中

令 $\lambda \in \rho (T),\mbox{则} \lambda ^2\in \rho (AB)\cap \rho (BA).$又因为 $\lambda \in \rho (T)$ 当且仅当 $\overline{\lambda} \in \rho (T^*),$

则 $\overline{\lambda ^2} \in \rho (A^*B^*)\cap \rho (B^*A^*).$再由定理 $3.5$ 知 $(BA)^*=A^*B^*$, $(AB)^*=B^*A^*,$$[A,B]^*=(AB)^*-(BA)^*.$ 综上所述 $[A,B]^*=-[A^*,B^*].$

下面举例子来说明结果的有效性.

例 3.1 $A=\left( \begin{array}{cc} 0 & I \\ -I & 0 \\ \end{array} \right),B=\left( \begin{array}{cc} S & 0 \\ 0 & -S \\ \end{array} \right)$, 其中 $S$ 是 Hilbert 空间 $X$ 中的可逆稠定闭线性自伴算子, $I$ 是定义在全空间上的单位算子. 在所设条件下, $A$, $B$, $AB$, $BA$, $AB-BA$ 是自伴算子, $AB$, $BA$, $(AB-BA)$ 是可逆的, 且 $0 \in(\rho(AB)\cap \rho(BA)), 0\in \rho(AB-BA),$$\sigma_r(AB-BA)=\emptyset.$ 因此由定理 $3.5$ 的条件可知, $[A,B]^*=-[A^*,B^*].$

另一方面, 经直接计算得

且

这说明定理 3.5 的结论是有效的.