Thom的杰出的横截性定理常常用来刻画稳定性, 在几何和非线性微分方程中也有着重要的应用^[1-3].Zeidler在文献[4]中指出横截性是当代数学最重要的概念之一.

设$M, N$为$C^r\, (r\geq 1)$Banach流形, $P$是$N$的子流形, $f:M\rightarrow N$为$C^r$映射. 那么$f$称为是在$N$中与$P$横截, 并记为$f\pitchfork P\,$${\rm mod}$$N,$当且仅当对任意的$y\in f(M)\cap P,$

对任意的$x$满足$f(x) = y,$原像集$(f'(x))^{-1}(TP_{f(x)})$分裂切空间$TM_x$, 其中${\rm Im}(f'(x))$表示映射$f'(x)$的像集.

方程$F(u, s) = 0$的解曲线$u(s)$与参数$s$有关, 当$s$达到某些临界值时, 分歧现象有可能发生, 见文献[5-6].单特征根处的分歧现象是非常重要的.总所周知, 带有狄利克雷边值条件的有界区间上的二阶常微分方程的全部特征值都是单特征值, 但是偏微分方程的特征值就不全是单特征值了, 例如, 球上的Laplacian算子的特征值. 张恭庆在文献[7]中建立了如下的横截性定理来确定对于大多数带有光滑边界的有界开区域, 全部二阶带有狄里克莱边值的偏微分方程的特征值是单重特征值. 定理中的$\theta$是正则值.

横截性定理^[7]:令$F(u, s):X\times S\rightarrow Z$为$C^r$映射, 其中$X, Z$是Banach空间, $S$为$C^r$ Banach流形. 设$F(u, s)\pitchfork \{\theta\},$$f_s(u) = F(u, s)$为Fredholm映射. 那么存在剩余集$\Sigma\subset S,$使得对于任意的$s\in \Sigma$, 有$f_s\pitchfork \{\theta\}.$

本文的研究动机之一是要在横截性条件不成立的时候, 即${{\rm Im}}(f'(x))+TP_{f(x)}\neq TN_{f(x)}$时, 推广上述横截性定理, 此时$f$与$P$是广义横截而非横截. 并且推广后的横截性定理不仅在$\theta$是正则值的时候成立, 在$\theta$是一类临界值的时候也成立.

定义1.1(广义横截性)^[9-10]   令$f:M\rightarrow N$为$C^{r}$映射并且$P$为$N$的子流形. 那么$f$是广义横截于$P$的, 并且记为$f\pitchfork_GP$ mod $N,$如果对于任意的$x_0\inf^{-1}(P)$, 如下的两个条件成立:

(i) 对任意的$x\in f^{-1}(P),$${\rm Im}(f'(x))+TP_{f(x)},$$(f'(x))^{-1}(TP_{f(x)})$与$TP_{f(x)}$分别分裂$TN_{f(x)}, TM_x$与${\rm Im}(f'(x))+TP_{f(x)};$

(ii) 对任意的$x_0\in f^{-1}(P),$存在着$x_0$的邻域$U_0$和$T_{U_0}M$的子丛$\bigcup\limits_{x\in U_{0}}m_{x}$使得$m_{x_0}$是$(f'(x_0))^{-1}(TP_{f(x_0)})$的拓扑补空间, 并且对任意的$x \in U_0,$有$(f'(x))^{-1}(TP_{f(x)})+m_x = TM_x.$

以下是本文的主要定理.

定理1.1  令$M, N, S$为Banach流形, $\hat{\theta}\in N.$设$F\in C^r(M\times S, N)$满足: $(1)\ F\pitchfork_G \{\hat{\theta}\},$$(2)$对任意的$s\in S, \, f_s(u) = F(u, s)$是指标满足$\max \{0,$${\rm ind}$$(f_s)\}<r$的Fredholm映射.那么必存在剩余集$\Sigma \subset S,$$\Sigma$是可数的开稠子集的并, 使得对任意的$s\in\Sigma,$$f_s\pitchfork_G\{\hat{\theta}\}.$

在这一节中, 将介绍广义逆, 广义正则值和广义横截性等基本工具.

研究广义横截性的重要工具之一是Banach空间中线性算子的广义逆. 记$X, Y$为赋范线性空间, $B(X, Y)$为由$X$到$Y$的所有有界线性算子构成的算子空间. 对任意的$T\in B(X, Y),$如果零空间${\rm N}(T)$与像空间${\rm R}(T)$分别在$X$与$Y$是拓扑可补的. 那么必然存在着算子$T$的线性投影广义逆$T^+\in B(Y, X)$使得

其中$I_X$为$X$上的恒同算子, $P$与$Q$分别是由$X$与$Y$到${\rm N}(T)$与${\rm R}(T)$上的连续线性算子.在Hilbert空间中线性算子广义逆的研究, 较Banach空间中线性算子广义逆的研究，具有更多的有趣的成果.

令$M, N$为$C^k$-Banach流形, $k\geq 1$. 那么$f:M\rightarrow N$称为是$C^r(r\leq k)$的, 是指对于每一个$x\in M$和$M, N$的容许图卡$(U, \varphi), (V, \psi)$, 且$x\in U, f(x)\in V$, $\overline{f} = \psi\circ f\circ\varphi^{-1}:X_\varphi\rightarrow Y_\psi$在点$x_\varphi = \varphi(x)$处是$C^r$的, 这里$X_\varphi$与$Y_\psi$分别是$M$和$N$的图卡空间.$\overline{f}$称为是$f$的表示.

映射$f:M\rightarrow N$在点$x$处的线性化$f'(x)$是从$TM_x$到$TN_{f(x)}$的切映射, 这里$TM_x$是Banach流形$M$在点$x$的切空间, $TN_{f(x)}$是Banach流形$N$在点$f(x)$的切空间. 显然, 切映射是线性连续的.若$\overline{f}$是$f$在容许图卡$(U, \varphi)$和$(V, \psi)$下的表示, $x\in U, f(x)\in V.$则

是切映射

的表示, 其中$\overline{f}'(x_\varphi)$是$\overline{f}$的Fr${\rm \acute{e}}$chet导数.

局部精细点^[11]. 设$M, N$为$C^k$-Banach流形$(k\geq 1),$$f:M\rightarrow N$为$C^1$映射. 点$x_0\in M$称为是映射$f$的局部精细点, 当且仅当$x^0_{\varphi} = \varphi(x_0)$是$f$的表示$\overline{f}$的局部精细点, 其中$\overline{f} = \psi\circ f\circ\varphi^{-1}$, $(U, \varphi)$是$M$在$x$的图卡, $(V, \psi)$是$N$在$y = f(x)$的图卡. 即存在着$\overline{f}'(x_\varphi^0)$的有界广义逆$(\overline{f}'(x_\varphi^0))^+$使得对点$x^{0}_{\varphi}$附近的点$x_\varphi \in \varphi(U)$处有

引理2.1^[11]   $M, N$为$C^r\, (r\geq 1)$ Banach流形, $f:M\rightarrow N$为$C^1$映射. $y\in N$为$f$的广义正则值是指$f^{-1}(y)$是空集或者仅仅由$f$的局部精细点组成. 那么原像集$S = f^{-1}(y)$是$M$的子流形且具有切空间$TS_x = {{\rm Ker}}(f'(x)),$对任意的$x\in S.$

$y\in F$是$f$的正则值, 意味着$f^{-1}(y)$为空集或者仅仅由$f$的正则点组成, 那么$y$必为$f$的广义正则值. 称广义正则值的补集为强临界值.

引理2.2^[10]   $M, N$为$C^k$ Banach流形, $f:M\rightarrow N$为$C^{r}$映射, 且$P$为$N$的子流形. 如果$f\pitchfork_GP$${\rm mod}$$N,$那么原像集$S = f^{-1}(P)$是$M$的子流形, 且对于任意的$x\in S$具有切空间

如果$P$仅由单点集$y\in N$构成, 那么$f$广义横截于$P$当且仅当$y$是$f$的广义正则值.

令$X = \{(u, s)|u^2+s^2\neq 0, \, u, s\in {{\Bbb R}} \}, Y = \{(y_1, y_2)|y_i\in {{\Bbb R}} , i = 1, 2\}, F:X\rightarrow Y$为

那么$F(u, s)$与$P = \{\theta\}$在$Y$中是广义横截而非横截.

证   由于

那么Rank$F'(u, s) = 1<2.$$F$不是满射, 且$F$没有正则点和非平凡的正则值. 记$\theta = (0, 0)\in Y,$$P = \{\theta\}.$对任意的$(u, s)\in F^{-1}(\theta) = \{(u, s)\mid u^2+s^2 = 1\},$$\theta = (0, 0)$为临界值, $TP_{F(u, s)} = TP_{(0, 0)} = 0,$那么Im$F(u, s)+TP_{F'(u, s)}\varsubsetneqq Y.$即, $F(u, s)$与$P = \{\theta\}$在$Y$中不是横截的.

事实上, $F(u, s)$与$P = \{\theta\}$在$Y$中是广义横截的.对于$z>-1,$$F^{-1}(e^{z+1}-e, z) = \{p = (u, s)\mid u^2+s^2-1 = z\}$仅仅由$F(u, s)$的局部精细点组成. 即, $(e^{z+1}-e, z)$是$F(u, s)$的广义正则值. 特别的, 我们得到$F(u, s)$的临界值$\theta = (0, 0)$是$F(u, s)$的广义正则值. 由引理2.2, 有

证毕.

映射$F(u, s) = (e^{u^2+s^2}-e, u^2+s^2-1)$在$(u, s, y_2)$ -空间和在$(u, s, y_1)$ -空间上的投影曲面分别如图 1, 图 2所示. $F(u, s)$与平面$s = 0$和$s = 1$的交线是两条空间曲线. 这两条空间曲线在$(u, y_1, y_2)$ -空间中的投影图如图 3所示.

对于强临界值, Sard-Smale引理也成立.

引理3.1  设$X$为可分Banach空间且$Y$为Banach空间. 令$f\in C^r(U, Y)$为Fredholm映射, 其中$U\subset X$为开集. 如果$r>\max\{0, {\rm ind}(f)\},$那么强临界值的集合是第一纲集.

证   强临界值集合是临界值集合的子集. 由Sard-Smale引理, 引理3.1成立.

定义3.1  映射$f:M\rightarrow N$在$x$点称为是Fredholm算子当且仅当线性化$f'(x):TM_x \rightarrow TN_{f(x)}$是Fredholm算子, 这里$TM_x$和$TN_{f(x)}$为$M$在$x$和$N$在$f(x)$的切空间, 即, ${\rm Im}(f'(x))$是闭集, $\dim {{\rm Ker}}(f'(x))<\infty$且${{\rm codimIm}}(f'(x))<\infty.$

映射$f$的指标定义为

这里$(U, \varphi)$是$M$在$x_0$的容许图卡, $(V, \psi)$是$N$在$f(x_0)$的容许图卡, $x_\varphi \in X_\varphi.$若${{\rm ind}}\overline{f}'(x_\varphi)$是整数常数, 那么就记为${\rm ind}(f).$

由下面的交换图(图 4)易得, Fredholm算子不依赖于容许图卡$(U_j, \varphi_j)$和$(V_j, \psi_j)$的选取, 这里$j = 1, 2.$

令$\overline{f}$为$f$在容许图卡$(U, \varphi)$和$(V, \psi)$下的表示, $\widetilde{f}$为$f$在另一对容许图卡$(U_1, \varphi_1)$与$(V_1, \psi_1)$下的表示.

显然

对任意的$x_{\varphi_1}\in \varphi(U\cap U_1)$成立, 且

其中$y_\psi = \psi(y),$因此

其中$y_\psi = \psi(y).$

由于$\psi, \psi_1, \varphi, \varphi_1$为容许图卡映射, 他们是$C^k(k\geq 1)$微分同胚映射, 而且, $(\psi_1\circ\psi^{-1})'$与$(\varphi\circ\varphi_1^{-1})'$也是微分同胚映射, 那么

(i) ${{\rm Im}}\widetilde{f}'(x_{\varphi_1})$在$Y_{\psi_1}$中是闭的当且仅当${{\rm Im}}\overline{f}'(x_\varphi)$在$Y_\psi$中是闭的.

(ii) $\dim{{\rm Ker}}\widetilde{f}'(x_{\varphi_1}) = \dim{{\rm Ker}}\overline{f}'(x_\varphi).$

(iii) ${{\rm codimIm}}\widetilde{f}'(x_{\varphi_1}) = {{\rm codimIm}}\overline{f}'(x_\varphi).$

因此, Banach流形间的Fredholm算子的概念是合理的.

以下是本文主要定理(定理1.1)的证明.

证   令$V = F^{-1}(\hat{\theta})$, 由引理$2.2$, 易得$V$是$X$的子流形, 这里$F\pitchfork_G\{\hat{\theta}\}.$

定义嵌入映射: $i:V\rightarrow X\times S,$与投影映射$\pi :X\times S\rightarrow S,$和$p:X\timesS\rightarrow X.$这些映射都限制在$V$上. 则$\pi\circ i$为指标是${\rm ind}(\pi\circi) = {\rm ind}(f_s)$的Fredholm映射.

事实上, 由于$F\pitchfork_G\{\hat{\theta}\},$根据引理$2.2$知$\hat{\theta}$是$F$的广义正则值. 那么, 由引理$2.1$有${{\rm Ker}}(F^{'}(v)) = T_v(V),$于是

对任意的$v = (x, s)\in T_v(V)$成立.

因为$F\pitchfork_G\{\hat{\theta}\},$有如下的直和分解

其中$F^{'}(v):Y\rightarrow Z$为同构. 由于$f_s^{'}(x)$为Fredholm映射, 有直和分解

使得$f_s^{'}:Y_1\rightarrow Z_1.$因此$Y = Y_1\oplus Y_2,$这里$T_s(S) =$${\rm Im}$$(\pi\circ i)^{'}(v)\oplus Y_2.$

由$F^{'}(v) = f_s^{'}(x)\oplus \partial_sF(v),$有$\partial_sF(v):Y_2\rightarrow Z_2$为同构.因而

所以, ${{\rm ind}}(f_s) = {{\rm ind}}(\pi\circ i).$

由引理$3.1$, $\pi \circ i$的广义正则值集合$\Sigma\subset S$是一个剩余集. 接下来, 只需说明对广义正则值$s\in\Sigma,$$f_s\pitchfork_G\{\hat{\theta}\}.$这意味着$\hat{\theta}$是$f_s$的广义正则值, 即$f_s^{-1}(\hat{\theta})$为空集或者仅由$f_s$的广义正则点组成.

若$f_s^{-1}(\hat{\theta})$为空集, 则定理显然成立. 因此只需考虑$f_s^{-1}(\hat{\theta})\neq\phi$的时候, 接下来说明对任意的$x_0\in f_s^{-1}(\hat{\theta}),$$x_0$为$f_s$的局部精细点.

对任意的$s\in \Sigma \subset S$, $v_0 = (x_0, \, s) \inf^{-1}_s(\hat{\theta})\times \Sigma \subset M\times S.$根据$F\pitchfork_G\{\hat{\theta}\},$对任意的$v_0$的容许图卡$(U, \varphi)$和$\hat{\theta}$的容许图卡$(V, \psi)$, $\varphi(v_0)$是$F$的表示$\overline{F}(v)$的局部精细点.即存在着$\overline{F}'(v_\varphi)$的广义逆算子$\overline{F}'(v_\varphi^0)^+$, 使得

其中$v_\varphi = \varphi(v), \, v_\varphi^0 = \varphi(v_0).$因此

且

根据式(3.1)与(3.2) 有

另一方面, 有

现在考虑${{\rm Ker}}(\overline{F}'(v_\varphi^0)^+)$的结构:若$\overline{f_s}'(x^0_\varphi) = 0,$则

若$\partial_s\overline{F}(v^0_\varphi) = 0,$则

若$\overline{f_s}'(x^0_\varphi)\neq0,$且$\partial_s\overline{F}(v^0_\varphi)\neq0,$则记${{\rm Ker}}(\overline{F}'(v_\varphi^0)^+)$为${{\rm Ker}}_{span}$, 于是

零空间${{\rm Ker}}(\overline{F}'(v_\varphi^0)^+)$由

张成, 这意味着

即

由式(3.3)和(3.4) 有

这意味着$x_0$是$f_s$的局部精细点. 即对任意的$s\in \Sigma$有$f_s\pitchfork_G\{\hat{\theta}\}.$定理1.1证毕.