本文考虑如下的椭圆方程

$$\begin{equation} \left\{\begin{array}{ll}-\Delta u=\lambda u+u^{2^*-1},&\mbox{在$\Omega$内,}\\ u>0,&\mbox{在$\Omega$内,}\\ u=\mu g,&\mbox{在 $\partial\Omega$上,} \end{array}\right.% \eqno(5) \end{equation}$$

$({\cal P}_{\lambda,\mu})$

其中$\Omega\subset{\mathbb R}^N(N\geq3)$是一个带光滑边界的有界区域, $2^*:=2N/(N-2)$是Sobolev临界指数,$\lambda,\mu\geq0$是两个参数, $g(x)\in H^{1/2}(\partial\Omega)\cap C(\partial\Omega)$.

由经典的椭圆正则性理论(参看文献[14])可知, 椭圆方程$({\cal P}_{\lambda,\mu})$的所有解都是$C^1$的. 因此当$\min\{g(x),0\}\not=0$且$\mu>0$,椭圆方程$({\cal P}_{\lambda,\mu})$没有解. 故在如下的条件下研究$({\cal P}_{\lambda,\mu})$解的存在性是自然的

$(G)$ $g(x)\geq0$且$g(x)\not\equiv0$.

由于椭圆方程$({\cal P}_{\lambda,0})$非零解的存在性最早是在文献[6] 中被Brézis和Nirenberg所研究,故椭圆方程$({\cal P}_{\lambda,0})$ 也在文献中被称为Brézis-Nirenberg 方程. 在文献[6]中,Brézis 和Nirenberg证明了在$N\geq4$的条件下$({\cal P}_{\lambda,0})$存在一个非 零解当且仅当$\lambda\in(0,\lambda_1)$,其中$\lambda_1$是$-\Delta$在$L^2(\Omega)$ 中的第一特征值. Brézis和Nirenberg还证明了在$N=3$的条件下, 存在$\lambda^*\in(0,\lambda_1)$使得$({\cal P}_{\lambda,0})$在 $\lambda\in(\lambda^*,\lambda_1)$时存在一个非零解. 而当$N=3$且$\lambda\geq\lambda_1$时,Brézis和Nirenberg证明了 $({\cal P}_{\lambda,0})$不存在解. 若$\Omega$是${\mathbb R}^3$中的一个球, 则Brézis和Nirenberg在文献[6]中进一步证明了$\lambda^*=\frac14\lambda_1$ 且当$\lambda\in(0,\lambda^*]$时$({\cal P}_{\lambda,0})$也不存在解. 在Brézis和Nirenberg的工作[6]问世以后, 国内外的许多数学家都对Brézis-Nirenberg方程进行了研究, 参看文献[2, 11, 12, 20, 22]以及其中的参考文献.

当$\mu>0$且$g(x)$满足条件$(G)$时,$({\cal P}_{\lambda,\mu})$是一类含非齐次 Dirichlet边值的椭圆方程. 由于$({\cal P}_{\lambda,\mu})$和Brézis-Nirenberg方 程$({\cal P}_{\lambda,0})$有着比较紧密的联系,故本文将椭圆方程$({\cal P}_{\lambda,\mu})$ 称为含非齐次Dirichlet边值的Brézis-Nirenberg方程.

在过去的十年中,含非齐次Dirichlet边值的椭圆方程受到了国际上从事微分方程研究工 作的数学家们的广泛关注. 从我们掌握的文献来看,绝大多数的工作都是对含非齐次Dirichlet 边值的次临界的椭圆方程的无穷多解的存在性所展开的,参看文献[5, 10, 15, 18] 以及其中的参考文献,而文献中很少有关于类似于$({\cal P}_{\lambda,\mu})$的含非齐次Dirichlet边值的临界的椭圆方程解的存在性和多重性的结果. 因此,本文将研究$({\cal P}_{\lambda,\mu})$解的存在性和多重性.

众所周知,若$v$是如下椭圆方程的解

$$\begin{equation} \left\{\begin{array}{ll}-\Delta v=\lambda(v+\mu\varphi)+(v+\mu\varphi)^{2^*-1}, &\mbox{在$\Omega$内,}\\ v>0,&\mbox{在$\Omega$内,}\\ v=0,&\mbox{ 在$\partial\Omega$上,} \end{array}\right. \end{equation}$$

$({\cal Q}_{\lambda,\mu})$

则$u=v+\varphi$是方程$({\cal P}_{\lambda,\mu})$的解, 其中$\varphi$满足如下的方程 $$\left\{\begin{array}{ll}\Delta\varphi=0,&\mbox{在$\Omega$内,}\\ \varphi=g,&\mbox{ 在$\partial\Omega$上.}\end{array}\right.$$ 而根据极大值原理,反之亦然. 因此,研究$({\cal P}_{\lambda,\mu})$ 解的存在性和多重性等价于研究$({\cal Q}_{\lambda,\mu})$解的存在性和多重性.

显然,方程$({\cal Q}_{\lambda,\mu})$在Sobolev空间$H_0^1(\Omega)$中有变分结构, 其对应泛函为 $$I_{\lambda,\mu}(v)=\frac12\int_\Omega|\nabla v|^2{\rm d}x-\frac\lambda2\int_\Omega|v +\mu\varphi|^2{\rm d}x-\frac1{2^*}\int_\Omega|v+\mu\varphi|^{2^*}{\rm d}x.$$ 因此,本文将利用变分方法研究方程$({\cal Q}_{\lambda,\mu})$解的存在性和多重性.

Nehari流形是利用变分方法研究具有变分结构的椭圆方程解的存在性和多重性的重要工具之一 (参看文献[19, 21]). 令${\cal N}_{\lambda,\mu}:= \{u\in H_0^1(\Omega)\backslash\{0\}: I_{\lambda,\mu}'(u)u=0\}$是泛函 $I_{\lambda,\mu}(u)$的Nehari流形,则一个众所周知的事实是,Nehari流形 ${\cal N}_{\lambda,\mu}$的性质和其纤维丛映射$T_{\lambda,\mu,u}(t)$的性质密切相关, 其中纤维丛映射$T_{\lambda,\mu,u}(t)$定义为$T_{\lambda,\mu,u}(t):=I_{\lambda,\mu}(tu)$, $t>0$. 纤维丛映射最早是由Drábek和Pohozaev 在文献[13]中引入到具有变分结构的椭圆方程解的存在性和多重性的研究中的. 随后在文献[7,8]中,泛函的纤维丛映射被进一步的研究和拓展. 显然,$T_{\lambda,\mu,u}'(t)=0$等价于$tu\in{\cal N}_{\lambda,\mu}$. 特别的,$T_{\lambda,\mu,u}'(1)=0$当且仅当$u\in{\cal N}_{\lambda,\mu}$. 由于对所有的$u\in H_0^1(\Omega)$来说,我们都有$T_{\lambda,\mu,u}\in C^2({\mathbb R}^+,{\mathbb R})$. 因此我们很自然的可以将Nehari流形分成如下的三个部分 $${\cal N}_{\lambda,\mu}^+:=\{u\in{\cal N}_{\lambda,\mu} : T_{\lambda,\mu,u}''(1)>0\};$$ $${\cal N}_{\lambda,\mu}^-:=\{u\in{\cal N}_{\lambda,\mu} : T_{\lambda,\mu,u}''(1)<0\};$$ $${\cal N}_{\lambda,\mu}^0:=\{u\in{\cal N}_{\lambda,\mu} : T_{\lambda,\mu,u}''(1)=0\}.$$ 应用纤维丛映射方法研究方程$({\cal Q}_{\lambda,\mu})$解的存在性和多重性的关键是证明 $H_0^1(\Omega)$中的单位球面和${\cal N}_{\lambda,\mu}^-$拓扑同胚. 然而当$\mu>0$ 时, $|u+\mu\varphi|^{2^*}$不能被$|u|$的某些齐次项所控制,因此通常的用于证明 $H_0^1(\Omega)$中的单位球面和${\cal N}_{\lambda,\mu}^-$拓扑同胚的方法在研究方程 $({\cal Q}_{\lambda,\mu})$解的存在性和多重性的并不适用. 此外, 方程$({\cal Q}_{\lambda,\mu})$解对应于泛函$I_{\lambda,\mu}(v)$的正的临界点. 而即使我们可以证明某个$v_{\lambda,\mu}$是$I_{\lambda,\mu}(v)$在 ${\cal N}_{\lambda,\mu}^+$或者${\cal N}_{\lambda,\mu}^-$上的极小点, 我们也很难直观的断言$|v_{\lambda,\mu}|$仍然是$I_{\lambda,\mu}(v)$ 在${\cal N}_{\lambda,\mu}^+$或者${\cal N}_{\lambda,\mu}^-$上的极小点. 因此,为了克服上述的困难,我们需要对泛函$I_{\lambda,\mu}(v)$ 做一些细致的分析和复杂的估计.

本文的第一个结果如下.

定理1.1 假设条件$(G)$成立且$N\geq4$. 则

(a) 当$\lambda\in[\lambda_1,+\infty)$且$\mu\geq0$时, 方程$({\cal P}_{\lambda,\mu})$没有解.

(b) 对任意的$\lambda\in(0,\lambda_1)$,存在$0<\mu_\lambda^{*}\leq\mu^* (\lambda)<+\infty$使得方程$({\cal P}_{\lambda,\mu})$在$\mu\in(0,\mu_\lambda^{*})$ 时存在两个解,在$\mu\in[\mu_\lambda^{*},\mu^*(\lambda)]$时存在一个解, 在$\mu>\mu^*(\lambda)$时不存在解.

众所周知,有界区域上的椭圆方程非零解的个数常常会受到区域拓扑性质的影响, 参看文献[16, 21]. 受上述文献的启发,我们在本文中还获得了如下的结果.

定理1.2 假设条件$(G)$成立且$N\geq4$. 若区域$\Omega$满足如下的条件

$(D)$ 存在$\delta_0\in(0,1)$使得$\overline{B}_{\frac1\delta_0}\backslash B_{\delta_0}\subset \Omega$且$B_{\frac{\delta_0}2}\cap \Omega=\emptyset$, 其中${B_r}: = \{ x \in {{\rm{R}}^N}:|x| < r\}$.则存在${\lambda _*} \in (0,{\lambda _1})$以及${\mu _*} > 0$使得方程 $({\cal P}_{\lambda,\mu})$在$\lambda\in(0,\lambda_*)$且$\mu\in(0,\mu_{*})$时存在三个解. 进一步的,若$\delta_0$充分小,则方程 $({\cal P}_{\lambda,\mu})$在$\lambda\in(0,\lambda_*)$且$\mu\in(0,\mu_{*})$时存在四个解.

在本文中,我们分别记$H_0^1(\Omega)$和$L^p(\Omega)$中的通常范数为$\|\cdot\|$和$\|\cdot\|_p$. 而$C$则用来表示正常数.

在本章中,我们将讨论方程$({\cal Q}_{\lambda,\mu})$的非存在性结果. 对任意的$\lambda\in(0,\lambda_1)$,我们考虑如下的算子 $${\cal H}_\lambda(v,\mu)=-\Delta v-\lambda(v+\mu\varphi)-(v+\mu\varphi)^{2^*-1}.$$ 显然,${\cal H}_\lambda(v,\mu)$在$H_0^1(\Omega)\times{\mathbb R}$上 是良定义的且满足${\cal H}_{\lambda}(0,0)=0$以及 $\frac{{\rm d}{\cal H}_{\lambda}}{{\rm d}v}(0,0) ={\rm id}-\lambda{\cal F}$,其中${\cal F}$是$H_0^1(\Omega)$到$L^2(\Omega)$上的嵌入映射. 由于$\lambda\in(0,\lambda_1)$,故根据隐函数定理,存在$\mu^{0}(\lambda)>0$ 以及$H_0^1(\Omega)\times{\mathbb R}$上的一条连续曲线$(v_\mu,\mu)$满足$v_0=0$ 且当$0\leq\mu\leq\mu^{0}(\lambda)$时,有${\cal H}_{\lambda}(v_\mu,\mu)=0$. 故对任意的$\lambda\in(0,\lambda_1)$,我们可以定义 $$\mu^*(\lambda):=\sup\{\mu: \mu>0\mbox{ 和 $({\cal Q}_{\lambda,\mu})$ 存在一个解} \}.$$ 显然,$\mu^*(\lambda)\geq\mu^{0}(\lambda)>0$.

引理2.1 假设条件$(G)$成立. 则对任意的$\lambda\in(0,\lambda_1)$,有$\mu^*(\lambda)<+\infty$.

证 假设结论不成立. 则存在$\lambda_0\in(0,\lambda_1)$使得$\mu^*(\lambda_0)=+\infty$. 故存在$\mu_n\to+\infty$使得方程$({\cal Q}_{\lambda_0,\mu_n})$对任意的$n\in{\mathbb N}$ 都存在一个解$u_{\mu_n}$. 由于$u_{\mu_n}$是方程$({\cal Q}_{\lambda_0,\mu_n})$的一个解, 故在方程$({\cal Q}_{\lambda_0,\mu_n})$两边同时乘以$\lambda_1$的特征函数$e_1$并积分, 我们可得 $$(\lambda_1-\lambda_0)\int_\Omega u_{\mu_n} e_1{\rm d}x\geq\lambda_0\mu_n\int_\Omega\varphi e_1{\rm d}x+\int_{{\cal A}_{\lambda_0,n}}u_{\mu_n}^{2^*-1}e_1{\rm d}x,$$ 其中${\cal A}_{\lambda_0,n}:=\{x\in\Omega: u_{\mu_n}> (\lambda_1-\lambda_0)^{\frac{1}{2^*-2}}\}$. 另一方面, $$(\lambda_1-\lambda_0)\int_\Omega u_{\mu_n} e_1{\rm d}x\leq(\lambda_1-\lambda_0) \int_{{\cal A}_{\lambda_0,n}} u_{\mu_n} e_1{\rm d}x+(\lambda_1-\lambda_0)^{\frac{2^*-1} {2^*-2}}\int_\Omega e_1{\rm d}x.$$ 于是,

$$\begin{equation}\label{eq016} \int_{{\cal A}_{\lambda_0,n}}\big((\lambda_1-\lambda_0)u_{\mu_n}-u_{\mu_n}^{2^*-1} \big)e_1{\rm d}x+\int_\Omega (\lambda_1-\lambda_0)^{\frac{2^*-1}{2^*-2}}e_1{\rm d}x-\lambda_0\mu_n\int_\Omega\varphi e_1{\rm d}x\geq0. \end{equation}$$

(2.1)

注意到$\int_{{\cal A}_{\lambda_0,n}}\big((\lambda_1-\lambda)u_{\mu_n}- u_{\mu_n}^{2^*-1}\big)e_1{\rm d}x<0$. 因此,由条件$(G)$和极大值原理不难发现,公式(2.1)在$n$ 很大时是不可能成立的.

命题2.1 假设条件$(G)$成立. 则

(1) 当$\lambda\in[\lambda_1,+\infty)$和$\mu\geq0$时, 方程$({\cal Q}_{\lambda,\mu})$没有解.

(2) 对任意的$\lambda\in(0,\lambda_1)$, 方程$({\cal Q}_{\lambda,\mu})$在$\mu\in(0,\mu^*(\lambda)]$时存在一个解, 在$\mu>\mu^*(\lambda)$时不存在解.

证 根据条件$(G)$和极大值原理,我们可知$\varphi\geq0$. 因此在方程$({\cal Q}_{\lambda,\mu})$两边同时乘以$e_1$,则不难发现结论$(1)$是成立的. 对任意的$\lambda\in(0,\lambda_1)$,由$\mu^*(\lambda)$的定义和上下解方法 (参看文献[9])可知,当$\mu\in(0,\mu^*(\lambda))$时, 方程$({\cal Q}_{\lambda,\mu})$存在一个解. 通过取极限,我们不难发现, 方程$({\cal Q}_{\lambda,\mu})$在$\mu=\mu(\lambda)^*$时也存在一个解. 因此,结合引理2.1可知结论$(2)$是成立的.

在本章中,我们将研究Nehari流形${\cal N}_{\lambda,\mu}$的 结构以及纤维丛映射$T_{\lambda,\mu,v}(t)$的性质.

引理3.1 对任意的$0<\lambda<\lambda_1$,存在$\mu_\lambda^0>0$使得当$\mu\in(0,\mu_\lambda^0)$时,有如下的结论

(1) 若$v\not=0$且$\lambda\mu\int_\Omega\varphi v{\rm d}x+\mu^{2^*-1} \int_\Omega\varphi^{2^*-1}v{\rm d}x\leq0$,则存在唯一的$t_{\lambda,\mu}^-(v)>0$使得 $t_{\lambda,\mu}^-(v)v\in{\cal N}_{\lambda,\mu}^-$.

(2) 若$v\not=0$且$\lambda\mu\int_\Omega\varphi v{\rm d}x+\mu^{2^*-1} \int_\Omega\varphi^{2^*-1}v{\rm d}x>0$,则存在唯一的$t_{\lambda,\mu}^-(v)> t_{\lambda,\mu}^+(v)>0$使得$t_{\lambda,\mu}^+(v)v\in{\cal N}_{\lambda,\mu}^+$ 且$t_{\lambda,\mu}^-(v)v\in{\cal N}_{\lambda,\mu}^-$. 进一步的, $I_{\lambda,\mu}(t_{\lambda,\mu}^+(v)v)=\min\limits_{0\leq t\leq t_{\lambda,\mu}^-(v)}I_{\lambda,\mu}(tv)$.

(3) ${\cal N}_{\lambda,\mu}^{0}=\emptyset$.

(4) $\mbox{dist}({\cal N}_{\lambda,\mu}^-, {\cal N}_{\lambda,\mu}^+):=\inf\{\|v-z\|:v\in{\cal N}_{\lambda,\mu}^-, z\in{\cal N}_{\lambda,\mu}^+\}>C(1-\frac{\lambda}{\lambda_1})^{\frac{1}{2^*-2}}>0$.

证 显然,对任意的$0\not=v\in H_0^1(\Omega)$,有

$$T_{\lambda,\mu,v}'(t)=t\|v\|^2-\lambda\int_\Omega(tv+\mu\varphi)v{\rm d}x- \int_\Omega|tv+\mu\varphi|^{2^*-2}(tv+\mu\varphi)v{\rm d}x$$ 以及 $$T_{\lambda,\mu,v}''(t)=\|v\|^2-\lambda\|v\|_2^2-(2^*-1)\int_\Omega|tv+\mu \varphi|^{2^*-2}v^2{\rm d}x.$$ 由于$\lambda<\lambda_1$,故存在$\mu_\lambda^1>0$使得当$\mu\in(0,\mu_\lambda^1)$ 时有$(1-\frac{\lambda}{\lambda_1})S-(2^*-1)2^{2^*-2}\mu^{2^*-2}\|\varphi\|_{2^*}^{2^*}>0$, 其中$S$是最佳Sobolev嵌入常数且可以由如下的式子表出 $S=\inf\limits_{u\in H_0^1(\Omega)\backslash\{0\}}\frac{\|u\|^2}{\|u\|_{2^*}^2}$. 令 $$t_0(v)=\bigg(\frac{\|v\|^2-\lambda\|v\|_2^2-(2^*-1)2^{2^*-2}\mu^{2^*-2}\int_\Omega| \varphi|^{2^*-2}v^2{\rm d}x} {(2^*-1)2^{2^*-2}\|v\|_{2^*}^{2^*}}\bigg)^{\frac{1}{2^*-2}},$$ 则当$t\in(0,t_0(v))$时有$T_{\lambda,\mu,v}''(t)>0$. 为了清楚起见, 我们将下面的证明分成三个断言.

断言1 存在$\mu_\lambda^2\in(0,\mu_\lambda^1)$使得当$\mu\in(0,\mu_\lambda^2)$时有 $T_{\lambda,\mu,v}'(t_0(v))>0$.

事实上,若$\lambda\mu\int_\Omega\varphi v{\rm d}x+\mu^{2^*-1}\int_\Omega\varphi^{2^*-1}v{\rm d}x\leq0$, 则$T_{\lambda,\mu,v}'(0)\geq0$. 由于当$\lambda\in(0,\lambda_1)$,$\mu\in(0, \mu_\lambda^1)$且$t\in(0,t_0(v))$时有$T_{\lambda,\mu,v}''(t)>0$, 故当$\lambda\in(0,\lambda_1)$且$\mu\in(0,\mu_\lambda^1)$时有 $T_{\lambda,\mu,v}'(t_0(v))>0$. 另一方面, 若$\lambda\mu\int_\Omega\varphi v{\rm d}x+\mu^{2^*-1}\int_\Omega\varphi^{2^*-1}v{\rm d}x>0$, 则$T_{\lambda,\mu,v}'(0)<0$. 此时,通过直接计算可知 $$\begin{eqnarray*} &&T_{\lambda,\mu,v}'(t_0(v))\\ &=&t_0(v)(\|v\|^2-\lambda\|v\|_2^2)-\lambda\mu\int_\Omega \varphi v{\rm d}x-\int_\Omega|t_0(v)v+\mu\varphi|^{2^*-2}(t_0(v)v+\mu\varphi)v{\rm d}x\\ &\geq&t_0(v)(\|v\|^2-\lambda\|v\|_2^2)-\lambda\mu\int_\Omega\varphi v{\rm d}x-2^{2^*-2} (t_0(v)^{2^*-1}\|v\|_{2^*}^{2^*}+\int_\Omega|v||\mu\varphi|^{2^*-1}{\rm d}x)\\ &\geq&t_0(v)\Big(1-\frac{1}{2^*-1}\Big)(\|v\|^2-\lambda\|v\|_2^2)-\lambda\mu\int_\Omega\varphi v{\rm d}x-2^{2^*-2}\int_\Omega|v||\mu\varphi|^{2^*-1}{\rm d}x\\ &\geq&\bigg(C\Big(1-\frac{\lambda}{\lambda_1}\Big)-C_1\mu^{2^*-2}\bigg)^{\frac{1}{2^*-2}} \Big(1-\frac{\lambda}{\lambda_1}\Big)-C_1\mu^{2^*-1}-C_1\lambda\mu)\|v\|_{2^*}. \end{eqnarray*}$$ 因此,对任意的$\lambda\in(0,\lambda_1)$,存在$\mu_\lambda^2\in(0,\mu_\lambda^1)$ 使得当$\mu\in(0,\mu_\lambda^2)$时有$T_{\lambda,\mu,v}'(t_0(v))>0$.

断言2 对任意的$\lambda\in(0,\lambda_1)$,存在$\mu_\lambda^3\in(0, \mu_\lambda^2)$使得当$t\geq t_0(v)$,$\mu\in(0,\mu_\lambda^3)$且 $T_{\lambda,\mu,v}'(t)=0$时有$T_{\lambda,\mu,v}''(t)<0$.

事实上,若断言不成立,则存在$\lambda_0\in (0,\lambda_1)$以及$\mu_n\to0$ 使得对某些$t_n(v)\geq t_0(v)$有 $$T_{\lambda_0,\mu_n,v}'(t_n(v))=0\mbox{以及}T_{\lambda_0,\mu_n,v}''(t_n(v))\geq0.$$ 因此,由Young不等式可知

$$\begin{equation} 0\geq(2^*-1)t_n(v)^2\int_\Omega|t_n(v) v+\mu_n\varphi|^{2^*-2}v^2{\rm d}x-\lambda_0\mu_nt_n(v)\int_\Omega\varphi v{\rm d}x \nonumber\\ -\int_\Omega|t_n(v) v+\mu_n\varphi|^{2^*-2}(t_n(v)^2 v+t_n(v)\mu_n\varphi)v{\rm d}x \nonumber\\ \geq(2^*-2)t_n(v)^2\int_\Omega|t_n(v) v+\mu_n\varphi|^{2^*-2}v^2{\rm d}x-\lambda_0\mu_nt_n(v)\int_\Omega\varphi v{\rm d}x \nonumber\\ -\int_\Omega|t_n(v) v+\mu_n\varphi|^{2^*-2}t_n(v)\mu_n\varphi v{\rm d}x \nonumber\\ n(v)^{2^*}\|v\|_{2^*}^{2^*}-t_n(v) C_1\lambda_0\mu_n\|v\|_{2^*} -C_1\mu_n t_n(v)^{2^*-1}\|v\|_{2^*}^{2^*-1} \nonumber\\ -C_1\mu_n^{2^*-2}t_n(v)^2\|v\|_{2^*}^2-C_1\mu_n^{2^*-1}t_n(v)\|v\|_{2^*} \nonumber\\ n(v)^{2^*}\|v\|_{2^*}^{2^*}-C_1\mu_n^{2^*}-C_1(\lambda_0\mu_n)^{\frac{2^*}{2^*-1}}. \end{equation}$$

(3.1)

由于$t_n(v)\geq t_0(v)$,故我们可得$(t_n(v)\|v\|_{2^*})^{2^*}\geq C((1-\frac{\lambda_0}{\lambda_1})-C_1\mu_n^{2^*-2})^{\frac{2^*}{2^*-2}}$. 于是 $$\begin{eqnarray*} 0&\geq & C\bigg(\Big(1-\frac{\lambda_0}{\lambda_1}\Big)-C_1\mu_n^{2^*-2}\bigg)^{\frac{2^*}{2^*-2}}-C_1\mu_n^{2^*}-C_1(\lambda_0\mu_n)^{\frac{2^*}{2^*-1}} \\ &=&C\bigg(1-\frac{\lambda_0}{\lambda_1}+o_n(1)\bigg)^{\frac{2^*}{2^*-2}}+o_n(1). \end{eqnarray*}$$ 由于$\lambda_0<\lambda_1$,故上式在$n$充分大时是不可能成立的.

断言3 对任意的$\lambda>0$以及$\mu>0$,有 $\lim\limits_{t\to+\infty}T_{\lambda,\mu}'(t)=-\infty$.

事实上 $$\begin{eqnarray*} T_{\lambda,\mu}'(t)&=&t(\|v\|-\lambda\|v\|_2^2)-\lambda\mu\int_\Omega\varphi v{\rm d}x -\int_\Omega|tv+\mu\varphi|^{2^*-2}(tv+\mu\varphi)v{\rm d}x\\ &=&t(\|v\|-\lambda\|v\|_2^2)-\lambda\mu\int_\Omega\varphi v{\rm d}x-t^{2^*-1} \bigg(\int_\Omega|v|^{2^*}{\rm d}x+o_t(1)\bigg). \end{eqnarray*}$$ 由于$v\not=0$,$\lambda>0$且$\mu>0$,故$\lim\limits_{t\to+\infty}T_{\lambda,\mu}'(t)=-\infty$.

根据断言1和断言3,对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu_\lambda^2)$, 存在$t_{\lambda,\mu}^-(v)>t_0(v)$使得对任意的$v\in H_0^1(\Omega)\backslash\{0\}$, 有$t_{\lambda,\mu}^-(v)v\in{\cal N}_{\lambda,\mu}^-$. 根据断言2, 当$\lambda\in(0,\lambda_1)$且$\mu\in(0,\mu_\lambda^3)$ 时, $t_{\lambda,\mu}^-(v)$是唯一的. 进一步的, 若$\lambda\mu\int_\Omega\varphi v{\rm d}x+\mu^{2^*-1}\int_\Omega\varphi^{2^*-1}v{\rm d}x>0$, 则由断言1可知,对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu_\lambda^2)$, 存在唯一的$t_{\lambda,\mu}^+(v)\in(0,t_0(v))$使得$t_{\lambda,\mu}^+(v) v\in{\cal N}_{\lambda,\mu}^+$且 $$T_{\lambda,\mu}(t_{\lambda,\mu}^+(v))=\min_{0\leq t\leq t_{\lambda,\mu}^-(v)} T_{\lambda,\mu}(t).$$ 若存在$\lambda_0\in(0,\lambda_1)$以及$\mu_0\in(0,\mu_{\lambda_0}^3)$ 使得${\cal N}_{\lambda_0,\mu_0}^0\not=\emptyset$,则存在 $v_0\in{\cal N}_{\lambda_0,\mu_0}^0$. 这蕴含了$T_{\lambda_0,\mu_0,v_0}'(1)=0$且 $T_{\lambda_0,\mu_0,v_0}''(1)=0$. 由断言2可知,$1<t_0(v_0)$. 因此根据$t_0(v_0)$的选取可知,$T_{\lambda_0,\mu_0,v_0}''(1)>0$, 而这是矛盾的.于是当$\lambda\in(0,\lambda_1)$且$\mu\in(0,\mu_\lambda^3)$ 时恒有${\cal N}_{\lambda,\mu}^0=\emptyset$. 若存在$\lambda_0\in(0,\lambda_1)$ 以及$\mu_n\to0$使得$\lim\limits_{n\to\infty}$dist$({\cal N}_{\lambda_0,\mu_n}^+, {\cal N}_{\lambda_0,\mu_n}^-)=0$,则存在$v_n\in{\cal N}_{\lambda_0,\mu_n}^+$ 以及$z_n\in{\cal N}_{\lambda_0,\mu_n}^-$使得$\lim\limits_{n\to\infty}\|v_n-z_n\|=0$. 由于$v_n\in{\cal N}_{\lambda_0,\mu_n}^+$,故对任意的$n\in{\mathbb N}$, 有$T_{\lambda_0,\mu_n,v_n}'(1)=0$且$T_{\lambda_0,\mu_n,v_n}''(1)>0$. 类似于公式(3.1)的计算,对任意的$n\in{\mathbb N}$,我们可得

$$\begin{equation} {v_n}lt;C{((\frac{{{\lambda _1}}}{{{\lambda _1} - {\lambda _0}}})({({\lambda _0}{\mu _n})^{\frac{{{2^*}}}{{{2^*} - 1}}}} + \mu _n^{{2^*}}))^{\frac{1}{2}}} \end{equation}$$

(3.2)

另一方面,由于$z_n\in{\cal N}_{\lambda_0,\mu_n}^-$,故对任意的$n\in{\mathbb N}$, 有$T_{\lambda_0,\mu_n,z_n}'(1)=0$且$T_{\lambda_0,\mu_n,z_n}''(1)<0$. 这蕴含了对任意的$n\in{\mathbb N}$,有$1>t_0(z_n)$. 因此,对所有的$n\in{\mathbb N}$

$$\begin{equation} \|z_n\|>C\|t_0(z_n)z_n\|_{2^*}\geq \bigg(C\Big(1-\frac{\lambda_0}{\lambda_1}\Big)-C_1\mu_n^{2^*-2} \bigg)^{\frac{1}{2^*-2}} \end{equation}$$

(3.3)

结合公式(3.2)以及公式(3.3),我们可得 $$o_n(1)=\|v_n-z_n\|\geq\|z_n\|-\|v_n\|=C \Big(1-\frac{\lambda_0}{\lambda_1}+o_n(1)\Big)^{\frac{1}{2^*-2}}+o_n(1).$$ 而上式在$n$充分大时是矛盾的. 因此,对任意的$\lambda\in(0,\lambda_1)$, 存在$\mu_\lambda^4\leq\mu_\lambda^3$使得 $$\mbox{dist}({\cal N}_{\lambda,\mu}^-,{\cal N}_{\lambda,\mu}^+):= \inf\{\|v-z\|:v\in{\cal N}_{\lambda,\mu}^-,z\in{\cal N}_{\lambda,\mu}^+\}> C\Big(1-\frac{\lambda}{\lambda_1}\Big)^{\frac{1}{2^*-2}}>0.$$ 证毕.

引理3.2 对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu_\lambda^0)$, 有$\inf\limits_{{\cal N}_{\lambda,\mu}}I_{\lambda,\mu}(v)>-\infty$.

证 由引理3.1可知,对任意的$\lambda\in(0,\lambda_1)$以及 $\mu\in(0,\mu_\lambda^0)$,有${\cal N}_{\lambda,\mu}\not=\emptyset$. 令$v\in{\cal N}_{\lambda,\mu}$,则由Young不等式可知

$$\begin{equation} I_{\lambda,\mu}(v)=I_{\lambda,\mu}(v)-\frac12I_{\lambda,\mu}'(v)v \nonumber\\ =-\frac{\lambda\mu}{2}\int_\Omega\varphi v{\rm d}x-\frac{\lambda}{2}\|\mu\varphi\|_2^2+\frac12\int_\Omega|v+\mu\varphi|^{2^*-2}(v+\mu\varphi)v{\rm d}x -\frac{1}{2^*}\|v+\mu\varphi\|_{2^*}^{2^*} \nonumber\\ \geq\Big(\frac12-\frac{1}{2^*}\Big)\|v+\mu\varphi\|_{2^*}^{2^*}-\frac12\|v+\mu\varphi\|_{2^*}^{2^*-1}\|\mu\varphi\|_{2^*} -\frac{\lambda}{2}\|\mu\varphi\|_2^2-\frac{\lambda}{2}\|\mu\varphi\|_2\|v\|_2 \nonumber\\ \ge C\parallel v\parallel _{{2^*}}^{{2^*}} - C \end{equation}$$

(3.4)

这蕴含了$\inf\limits_{{\cal N}_{\lambda,\mu}}I_{\lambda,\mu}(v)>-C>-\infty$.

由引理3.2可知,当$\lambda\in(0,\lambda_1)$且$\mu\in(0,\mu_\lambda^0)$时, $m_{\lambda,\mu}^\pm=\inf\limits_{{\cal N}_{\lambda,\mu}^\pm}I_{\lambda,\mu}(v)$ 是良定义的. 进一步的,由引理3.1的$(4)$可知, 若$v_{\lambda,\mu}^\pm\in{\cal N}_{\lambda,\mu}^\pm$满足 $I_{\lambda,\mu}(v_{\lambda,\mu}^\pm)=m_{\lambda,\mu}^\pm$, 则$v_{\lambda,\mu}^\pm$也是$I_{\lambda,\mu}$在${\cal N}_{\lambda,\mu}$上的局部极小点.

引理3.3 对任意的$\lambda\in(0,\lambda_1)$,存在$\mu_\lambda^{*}\in(0,\mu_\lambda^0]$ 使得当$\mu\in(0,\mu_\lambda^*)$时有 $$m_{\lambda,\mu}^+\leq I_{\lambda,\mu}(0)<0<m_{\lambda,\mu}^-.$$

证 事实上,由引理3.1可知,对任意的$\lambda\in(0,\lambda_1)$, $\mu\in(0,\mu_\lambda^0)$以及$v\in H_0^1(\Omega)\backslash\{0\}$, 有$T_{\lambda,\mu,v}(t_{\lambda,\mu}^+(v))=\min\limits_{0\leq t\leq t_{\lambda,\mu}^-(v)}T_{\lambda,\mu,v}(t)\leq T_{\lambda,\mu,v}(0)$. 故 $$m_{\lambda,\mu}^+\leq I_{\lambda,\mu}(t_{\lambda,\mu}^+(v)v)=T_{\lambda,\mu,v}(t_{\lambda,\mu}^+(v))\leq T_{\lambda,\mu,v}(0)=I_{\lambda,\mu}(0)<0.$$ 若$v\in{\cal N}_{\lambda,\mu}^-$,则类似于公式(3.4)的计算,我们可得 $$I_{\lambda,\mu}(v)\geq C\|v\|_{2^*}^{2^*}-C_1\mu^{2^*}-C_1\lambda\mu^2-C_1(\lambda\mu)^{2^*/(2^*-1)}.$$ 由于$v\in{\cal N}_{\lambda,\mu}^-$,因此类似于公式(3.3)的计算, 我们可得$\|v\|_{2^*}\geq (C(1-\frac{\lambda}{\lambda_1})-C_1\mu^{2^*-2})^{1/(2^*-2)}$. 于是,对任意的$\lambda\in(0,\lambda_1)$,存在$\mu_\lambda^*\in(0,\mu_\lambda^0]$ 使得当$v\in{\cal N}_{\lambda,\mu}^-$时,有$I_{\lambda,\mu}(v)\geq C(1-\frac{\lambda} {\lambda_1})^{2^*/(2^*-2)}>0$. 这蕴含了$m_{\lambda,\mu}^->0$.

注3.1 由引理3.1和引理3.3可知,对任意的$\lambda\in(0,\lambda_1)$,$\mu\in(0,\mu_\lambda^*)$ 以及$v\in H_0^1(\Omega)\backslash\{0\}$,有$I_{\lambda,\mu}(t_{\lambda,\mu}^-(v)v) =\max\limits_{t\geq0}I_{\lambda,\mu}(tv)$.

在本章的最后,我们给出一个局部紧性引理.

引理3.4 假设$I_{\lambda,\mu}(v_n)=c+o_n(1)$且 $I_{\lambda,\mu}'(v_n)=o_n(1)$. 若 $c<\frac1N S^{N/2}+m_{\lambda,\mu}^+$,则存在$v_0\in H_0^1(\Omega)$ 使得在子列意义下有$\lim\limits_{n\to\infty}\|v_n-v_0\|=0$.

证 类似于公式(3.4)的计算,我们可知$\{v_n\}$在$L^{2^*}(\Omega)$中是有界的. 由于 $$\begin{eqnarray*} &&I_{\lambda,\mu}(v_n)-\frac{1}{2^*}I_{\lambda,\mu}'(v_n)v_n\\ &=&\Big(\frac12-\frac1{2^*}\Big)(\|v_n\|^2-\lambda\|v_n\|_2^2) -\Big(1-\frac1{2^*}\Big)\lambda\int_\Omega v_n\mu\varphi {\rm d}x-\frac\lambda2\|\mu\varphi\|_2^2\\ &&-\frac1{2^*}\int_\Omega|v_n+\mu\varphi|^{2^*-2}(v_n+\mu\varphi)\mu\varphi {\rm d}x\\ &\geq&\Big(\frac12-\frac1{2^*}\Big)\Big(1-\frac{\lambda}{\lambda_1}\Big)\|v_n\|^2-C\lambda\mu\|v_n\|_{2^*}-C\lambda\mu^2-C\mu^{2^*} -C\mu\|v_n\|_{2^*}^{2^*-1}, \end{eqnarray*}$$ 因此$\{v_n\}$在$H_0^1(\Omega)$中也是有界的. 不失一般性, 我们假设在$H_0^1(\Omega)$中有$v_n\rightharpoonup v_0$. 令$w_n=v_n-v_0$, 则在$H_0^1(\Omega)$中有$w_n\rightharpoonup0$. 由Brézis-Lieb引理和Sobolev嵌入定理可知

$$\begin{equation} I_{\lambda,\mu}(w_n)=\frac12\|w_n\|^2-\frac{\lambda}2\|w_n+\mu\varphi\|_2^2-\frac1{2^*}\|w_n+\mu\varphi\|_{2^*}^{2^*} \nonumber\\ =I_{\lambda,\mu}(v_n)-I_{\lambda,\mu}(v_0)+I_{\lambda,\mu}(0)+o_n(1) \nonumber\\ -\frac{\lambda}{2}\int_\Omega (|v_n-v_0+\mu\varphi|^2+|v_0+\mu\varphi|^2-|v_n+\mu\varphi|^2-|\mu\varphi|^2){\rm d}x \nonumber\\ -\frac1{2^*}\int_{\Omega}(|v_n-v_0+\mu\varphi|^{2^*}+|v_0+\mu\varphi|^{2^*}-|v_n+\mu\varphi|^{2^*}-|\mu\varphi|^{2^*}){\rm d}x \nonumber\\ =I_{\lambda,\mu}(v_n)-I_{\lambda,\mu}(v_0)+I_{\lambda,\mu}(0)+o_n(1) \nonumber\\ -\frac1{2^*}\int_{\Omega}(|w_n+\mu\varphi|^{2^*}-|w_n|^{2^*}-|\mu\varphi|^{2^*}){\rm d}x \nonumber\\ -\frac1{2^*}\int_{\Omega}(|v_0+\mu\varphi|^{2^*}+|w_n|^{2^*}-|w_n+v_0+\mu\varphi|^{2^*}){\rm d}x \nonumber\\ = {I_{\lambda ,\mu }}({v_n}) - {I_{\lambda ,\mu }}({v_0}) + {I_{\lambda ,\mu }}(0) + {o_n}(1) \end{equation}$$

(3.5)

另一方面,仍然根据Brézis-Lieb引理和Sobolev嵌入定理,我们可得

$$\begin{equation} I_{\lambda,\mu}'(w_n)w_n \nonumber\\ =I_{\lambda,\mu}'(v_n)v_n-I_{\lambda,\mu}'(v_0)v_0+o_n(1) -\int_\Omega|w_n+\mu\varphi|^{2^*-2}(w_n+\mu\varphi)w_n{\rm d}x \nonumber\\ +\int_\Omega(|v_n+\mu\varphi|^{2^*-2}(v_n+\mu\varphi)v_n-|v_0+\mu\varphi|^{2^*-2}(v_0+\mu\varphi)v_0){\rm d}x \nonumber\\ =I_{\lambda,\mu}'(v_n)v_n-I_{\lambda,\mu}'(v_0)v_0-\int_\Omega(|v_n-v_0+\mu\varphi|^{2^*}+|v_0+\mu\varphi|^{2^*}-|v_n+\mu\varphi|^{2^*}-|\mu\varphi|^{2^*}){\rm d}x \nonumber\\ +o_n(1)+\int_\Omega(|w_n+\mu\varphi|^{2^*-2}(w_n+\mu\varphi)-|\mu\varphi|^{2^*-1}-|v_n+\mu\varphi|^{2^*-2}(v_n+\mu\varphi))\mu\varphi {\rm d}x \nonumber\\ +\int_\Omega|v_0+\mu\varphi|^{2^*-2}(v_0+\mu\varphi)\mu\varphi {\rm d}x \nonumber\\ = {I^\prime }_{\lambda ,\mu }({v_n}){v_n} - {I^\prime }_{\lambda ,\mu }({v_0}){v_0} + {o_n}(1) \end{equation}$$

(3.6)

由于在$H_0^1(\Omega)$中$v_n\rightharpoonup v_0$且$I_{\lambda,\mu}'(v_n)=o_n(1)$, 故我们可得$I_{\lambda,\mu}'(v_0)=0$以及$I_{\lambda,\mu}'(w_n)w_n=o_n(1)$. 假设$\|w_n\|^2=b+o_n(1)$. 则由$I_{\lambda,\mu}'(w_n)w_n=o_n(1)$可知, $\|w_n\|_{2^*}^{2^*}=b+o_n(1)$. 因此,由Brézis-Lieb引理可知

$$\begin{equation} {I_{\lambda ,\mu }}({w_n}) = \frac{1}{N}b + {o_n}(1) + {I_{\lambda ,\mu }}(0) \end{equation}$$

(3.7)

注意到$v_0\not=0$且对任意的$\mu>0$有$I_{\lambda,\mu}'(v_0)=0$, 因此根据引理3.1的结论(3)以及引理3.3,我们可知$I_{\lambda,\mu}(v_0)\geq m_{\lambda,\mu}^+$. 故结合公式(3.5)以及公式(3.7),我们可以断言$b<S^{N/2}$. 另一方面,由直接计算可得 $$b^{2^*/2}S^{-2^*/2}+o_n(1)=\|w_n\|^{2^*}S^{-2^*/2}\geq\|w_n\|_{2^*}^{2^*}=b+o_n(1).$$ 故若$b\not=0$,则$b\geq S^{N/2}$. 因此$\lim\limits_{n\to\infty}\|v_n-v_0\|=0$.

在本章中,我们将应用纤维丛映射方法证明方程$({\cal Q}_{\lambda,\mu})$存在两个解.

引理4.1 对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu_\lambda^{*})$, 方程$({\cal Q}_{\lambda,\mu})$存在一个解$v_{\lambda,\mu}^+\in{\cal N}_{\lambda,\mu}^+$且 满足$I_{\lambda,\mu}(v_{\lambda,\mu}^+)=m_{\lambda,\mu}^+$.

证 由引理3.1可知,对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu_\lambda^*)$, ${\cal N}_{\lambda,\mu}^0=\emptyset$. 因此利用Ekeland变分原理可以证明(参看文献[19]), 存在$\{v_{\lambda,\mu}^n\}\subset{\cal N}_{\lambda,\mu}^+$使得$I_{\lambda,\mu} (v_{\lambda,\mu}^n)\to m_{\lambda,\mu}^+$且$I_{\lambda,\mu}'(v_{\lambda,\mu}^n)=o_n(1)$. 根据引理3.4,存在$v_{\lambda,\mu}^+$使得 $\lim\limits_{n\to\infty}\|v_{\lambda,\mu}^n-v_{\lambda,\mu}^+\|=0$. 这蕴含了$I_{\lambda,\mu}(v_{\lambda,\mu}^+)=m_{\lambda,\mu}^+$. 不失一般性,我们可以选取$v_{\lambda,\mu}^+\geq0$. 事实上, 若 $(v_{\lambda,\mu}^+)_-:=\min\{v_{\lambda,\mu}^+,0\}\not=0$, 则根据$\varphi\geq0$可知,$|\mu\varphi+v_{\lambda,\mu}^+|\leq\mu\varphi+ |v_{\lambda,\mu}^+|$. 因此,

$$\begin{equation} I_{\lambda,\mu}(v_{\lambda,\mu}^+) =\frac12\|v_{\lambda,\mu}^+\|^2-\frac\lambda2\|v_{\lambda,\mu}^++\mu\varphi\|_2^2- \frac1{2^*}\|v_{\lambda,\mu}^++\mu\varphi\|_{2^*}^{2^*} \nonumber\\ \geq\frac12\big\||v_{\lambda,\mu}^+|\big\|^2-\frac\lambda2\big\||v_{\lambda,\mu}^+|+\mu\varphi\big\|_2^2- \frac1{2^*}\big\||v_{\lambda,\mu}^+|+\mu\varphi\big\|_{2^*}^{2^*} \nonumber\\ = {I_{\lambda ,\mu }}(|v_{\lambda ,\mu }^ + |) \end{equation}$$

(4.1)

另一方面,由引理3.1可知,存在$0<t_{\lambda,\mu}^+(|v_{\lambda,\mu}^+|) <t_{\lambda,\mu}^-(|v_{\lambda,\mu}^+|)<+\infty$使得 $t_{\lambda,\mu}^+(|v_{\lambda,\mu}^+|)|v_{\lambda,\mu}^+|\in{\cal N}_{\lambda,\mu}^+$且 $t_{\lambda,\mu}^-(|v_{\lambda,\mu}^+|)|v_{\lambda,\mu}^+|\in{\cal N}_{\lambda,\mu}^-$. 显然,如下两种情况之一必定发生

(1) $t_{\lambda,\mu}^-(|v_{\lambda,\mu}^+|)<1$;

(2) $1\leq t_{\lambda,\mu}^-(|v_{\lambda,\mu}^+|)$.

若第一种情况发生,则根据$t_{\lambda,\mu}^-(|v_{\lambda,\mu}^+|) |v_{\lambda,\mu}^+|\in{\cal N}_{\lambda,\mu}^-$可知, $1>t_{\lambda,\mu}^-(|v_{\lambda,\mu}^+|)>t_0(|v_{\lambda,\mu}^+|)$. 于是 $$\big\||v_{\lambda,\mu}^+|\big\|_{2^*}>\big\|t_{\lambda,\mu}^-(|v_{\lambda,\mu}^+|)|v_{\lambda,\mu}^+|\big\|_{2^*}> \big\|t_0(|v_{\lambda,\mu}^+|)|v_{\lambda,\mu}^+|\big\|_{2^*}.$$ 另一方面,由于$v_{\lambda,\mu}^+\in{\cal N}_{\lambda,\mu}^+$, 故$1<t_0(v_{\lambda,\mu}^+)$. 因此 $$\big\||v_{\lambda,\mu}^+|\big\|_{2^*}=\|v_{\lambda,\mu}^+\|_{2^*}<\|t_0(v_{\lambda,\mu}^+)v_{\lambda,\mu}^+\|_{2^*}.$$ 于是$t_0(v_{\lambda,\mu}^+)>t_0(|v_{\lambda,\mu}^+|)$. 而根据$t_0(v)$的选取可知,$t_0(v_{\lambda,\mu}^+)=t_0(|v_{\lambda,\mu}^+|)$, 这是矛盾的. 因此第二种情况必定发生. 根据引理3.1的结论(2),我们可得 $$I_{\lambda,\mu}(t_{\lambda,\mu}^+(|v_{\lambda,\mu}^+|)|v_{\lambda,\mu}^+|)=\min_{0\leq t\leq t_{\lambda,\mu}^-(|v_{\lambda,\mu}^+|)}I_{\lambda,\mu}(t|v_{\lambda,\mu}^+|)\leq I_{\lambda,\mu}(|v_{\lambda,\mu}^+|).$$ 上式结合公式(4.1),蕴含了 $$m_{\lambda,\mu}^+=I_{\lambda,\mu}(v_{\lambda,\mu}^+)\geq I_{\lambda,\mu}(|v_{\lambda,\mu}^+|)\geq I_{\lambda,\mu}(t_{\lambda,\mu}^+(|v_{\lambda,\mu}^+|)|v_{\lambda,\mu}^+|)\geq m_{\lambda,\mu}^+,$$ 即,$I_{\lambda,\mu}(t_{\lambda,\mu}^+(|v_{\lambda,\mu}^+|)|v_{\lambda,\mu}^+|)= m_{\lambda,\mu}^+$. 由引理3.1的结论(3)和$(4)$可知,当$\lambda\in(0,\lambda_1)$且 $\mu\in(0,\mu_\lambda^*)$时,$t_{\lambda,\mu}^+(|v_{\lambda,\mu}^+|)|v_{\lambda,\mu}^+|$仍然是$I_{\lambda,\mu}$在${\cal N}_{\lambda,\mu}$上的局部极小点. 类似于文献[8,定理 2.3]的证明, 我们可得$I_{\lambda,\mu}'(t_{\lambda,\mu}^+(|v_{\lambda,\mu}^+|)|v_{\lambda,\mu}^+|)=0$. 因此,由极大值原理可知,存在$v_{\lambda,\mu}^+>0$使得当$\lambda\in(0,\lambda_1)$且 $\mu\in(0,\mu_\lambda^*)$时,有$I_{\lambda,\mu}(v_{\lambda,\mu}^+)=m_{\lambda,\mu}^+$ 且$I_{\lambda,\mu}'(v_{\lambda,\mu}^+)=0$.

引理4.2 对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu_\lambda^*)$, $t_{\lambda,\mu}^-(u)$作为$u$的函数在$H_0^1(\Omega)\backslash\{0\}$上是连续的. 进一步的,${\cal N}_{\lambda,\mu}^-=\{u\in H_0^1(\Omega)\backslash\{0\}: t_{\lambda,\mu}^-(\frac{u}{\|u\|})\frac{1}{\|u\|}=1\}$.

证 由于对任意的$u\in H_0^1(\Omega)\backslash\{0\}$,$t_{\lambda,\mu}^-(u)$都是唯一的, 因此$t_{\lambda,\mu}^-(u)$作为$u$的函数在$H_0^1(\Omega)\backslash\{0\}$上是连续的. 令$v=\frac{u}{\|u\|}$,则根据引理3.1,存在$t_{\lambda,\mu}^-(v)>0$使得 $t_{\lambda,\mu}^-(v)v\in{\cal N}_{\lambda,\mu}^-$,即 $t_{\lambda,\mu}^-(\frac{u}{\|u\|})\frac{u}{\|u\|}\in{\cal N}_{\lambda,\mu}^-$. 若$u\in{\cal N}_{\lambda,\mu}^-$,则由$t_{\lambda,\mu}^-(u)$的唯一性可知, $t_{\lambda,\mu}^-(\frac{u}{\|u\|})\frac{1}{\|u\|}=1$. 因此${\cal N}_{\lambda,\mu}^-\subset\{u\in H_0^1(\Omega)\backslash\{0\}: t_{\lambda,\mu}^-(\frac{u}{\|u\|})\frac{1}{\|u\|}=1\}$. 另一方面, 若$t_{\lambda,\mu}^-(\frac{u}{\|u\|})\frac{1}{\|u\|}=1$,则再一次根据引理3.1, 有 $u=t_{\lambda,\mu}^-(\frac{u}{\|u\|})\frac{u}{\|u\|}\in{\cal N}_{\lambda,\mu}^-$. 这蕴含了 ${\cal N}_{\lambda,\mu}^-=\{u\in H_0^1(\Omega)\backslash\{0\}: t_{\lambda,\mu}^-(\frac{u}{\|u\|})\frac{1}{\|u\|}=1\}$.

引理4.3 对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu_\lambda^*)$, 有$m_{\lambda,\mu}^-<m_{\lambda,\mu}^++\frac1N S^{N/2}$.

证 令$w_{\lambda,\mu,t}=v_{\lambda,\mu}^++tU_\lambda$,其中$U_\lambda$是 $({\cal P}_{\lambda,0})$的基态解. 为了清楚起见,接下来的证明将被分成如下三个断言.

断言1 当$\lambda\in(0,\lambda_1)$且$\mu\in(0,\mu_\lambda^*)$时, 存在$C_{\lambda,\mu}>0$ 使得$t_{\lambda,\mu}^-(\widetilde{w}_{\lambda,\mu,t})<C_{\lambda,\mu}$对任意的$t\geq0$成立, 其中$\widetilde{w}_{\lambda,\mu,t}=\frac{w_{\lambda,\mu,t}}{\|w_{\lambda,\mu,t}\|}$.

事实上,如果断言不成立,则根据引理4.2,存在$t_n\to+\infty$ 使得$t_{\lambda,\mu}^-(\widetilde{w}_{\lambda,\mu,t_n})\to+\infty$. 由Lebesgue控制收敛定理可知 $$\int_\Omega|\widetilde{w}_{\lambda,\mu,t_n}|^{2^*}{\rm d}x=\int_\Omega\frac{|v_{\lambda,\mu}^++t_nU_\lambda|^{2^*}} {\|v_{\lambda,\mu}^++t_nU_\lambda\|^{2^*}}{\rm d}x=\frac{\|U_\lambda\|^{2^*}_{2^*}}{\|U_\lambda\|^{2^*}}+o_n(1).$$ 上式结合引理3.3以及Lebesgue控制收敛定理蕴含了 $$\begin{eqnarray*} 0<I_{\lambda,\mu}(t_{\lambda,\mu}^-(\widetilde{w}_{\lambda,\mu,t_n})\widetilde{w}_{\lambda,\mu,t_n})\\ =\frac{(t_{\lambda,\mu}^-(\widetilde{w}_{\lambda,\mu,t_n}))^2}{2}\|\widetilde{w}_{\lambda,\mu,t_n}\|^2 -\frac\lambda2\int_\Omega (t_{\lambda,\mu}^-(\widetilde{w}_{\lambda,\mu,t_n})\widetilde{w}_{\lambda,\mu,t_n}+\mu\varphi)^2{\rm d}x\\ -\frac{1}{2^*}\int_\Omega(t_{\lambda,\mu}^-(\widetilde{w}_{\lambda,\mu,t_n})\widetilde{w}_{\lambda,\mu,t_n}+\mu\varphi)^{2^*}{\rm d}x\\ =\frac{(t_{\lambda,\mu}^-(\widetilde{w}_{\lambda,\mu,t_n}))^2}{2}(\|\widetilde{w}_{\lambda,\mu,t_n}\|^2-\lambda\|\widetilde{w}_{\lambda,\mu,t_n}\|_2^2+o_n(1))\\ -\frac{(t_{\lambda,\mu}^-(\widetilde{w}_{\lambda,\mu,t_n}))^{2^*}}{2^*}(\|\widetilde{w}_{\lambda,\mu,t_n}\|_{2^*}^{2^*}+o_n(1))\\ \leq\frac{(t_{\lambda,\mu}^-(\widetilde{w}_{\lambda,\mu,t_n}))^2}{2}(1+o_n(1)) -\frac{(t_{\lambda,\mu}^-(\widetilde{w}_{\lambda,\mu,t_n}))^{2^*}}{2^*} \bigg(\frac{\|U_\lambda\|^{2^*}_{2^*}}{\|U_\lambda\|^{2^*}}+o_n(1)\bigg). \end{eqnarray*}$$ 而上式在$n$充分大时是矛盾的.

断言2 对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu_\lambda^*)$,存在 $t_{\lambda,\mu}>0$使得$v_{\lambda,\mu}^++t_{\lambda,\mu} U_\lambda\in{\cal N}_{\lambda,\mu}^-$.

令 $${\cal A}_{\lambda,\mu}^-:=\bigg\{u\in H_0^1(\Omega)\backslash\{0\}: t_{\lambda,\mu}^-\Big(\frac{u}{\|u\|}\Big)\frac{1}{\|u\|}<1\bigg\}$$ 且 $${\cal A}_{\lambda,\mu}^+:=\bigg\{u\in H_0^1(\Omega)\backslash\{0\}: t_{\lambda,\mu}^-\Big(\frac{u}{\|u\|}\Big)\frac{1}{\|u\|}>1\bigg\}\cup\{0\}.$$ 由引理4.2可知, $H_0^1(\Omega)={\cal A}_{\lambda,\mu}^-\cup{\cal A}_{\lambda,\mu}^+ \cup{\cal N}_{\lambda,\mu}^-$. 根据引理3.1,我们不难发现 ${\cal N}_{\lambda,\mu}^+\subset {\cal A}_{\lambda,\mu}^+$. 特别的,有$v_{\lambda,\mu}^+\in {\cal A}_{\lambda,\mu}^+$. 另一方面,令 $$t_{\lambda,\mu}^1=\frac{C_{\lambda,\mu}+1+\|v_{\lambda,\mu}^+\|}{\|U_\lambda\|},$$ 其中$C_{\lambda,\mu}$是由断言1所给出的常数. 则根据断言1,有 $$\|v_{\lambda,\mu}^++t_{\lambda,\mu}^1U_\lambda\|^2\geq (t_{\lambda,\mu}^1\|U_\lambda\|-\|v_{\lambda,\mu}^+\|)^2= (C_{\lambda,\mu}+1)^2>\bigg(t\bigg(\frac{v_{\lambda,\mu}^+ +t_{\lambda,\mu}^1U_\lambda}{\|v_{\lambda,\mu}^++t_{\lambda,\mu}^1U_\lambda\|}\bigg)^-\bigg)^2.$$ 这蕴含了$t_{\lambda,\mu}^-\Big(\frac{v_{\lambda,\mu}^++t_{\lambda,\mu}^1U_\lambda} {\|v_{\lambda,\mu}^++t_{\lambda,\mu}^1U_\lambda\|}\Big)\frac{1} {\|v_{\lambda,\mu}^++t_{\lambda,\mu}^1U_\lambda\|}<1$, 即$v_{\lambda,\mu}^++t_{\lambda,\mu}^1U_\lambda\in{\cal A}_{\lambda,\mu}^-$. 由于$t_{\lambda,\mu}^-(u)$作为$u$的函数在$H_0^1(\Omega)\backslash\{0\}$上是连续的, 因此存在$t_{\lambda,\mu}\in(0,t_{\lambda,\mu}^1)$使得 $$v_{\lambda,\mu}^++t_{\lambda,\mu}U_\lambda\in \bigg\{u\in H_0^1(\Omega)\backslash\{0\}: t_{\lambda,\mu}^-\Big(\frac{u}{\|u\|}\Big)\frac{1}{\|u\|}=1\bigg\}.$$ 根据引理4.2, 我们可得$v_{\lambda,\mu}^++t_{\lambda,\mu}U_\lambda\in{\cal N}_{\lambda,\mu}^-$.

断言3 $I_{\lambda,\mu}(v_{\lambda,\mu}^++t_{\lambda,\mu}U_\lambda) <\frac1N S^{N/2}+m_{\lambda,\mu}^+$,其中$t_{\lambda,\mu}$由断言2所给出.

由于$v_{\lambda,\mu}^+$是方程$({\cal Q}_{\lambda,\mu})$的一个解,故我们可得 $$\begin{eqnarray*} &&I_{\lambda,\mu}(v_{\lambda,\mu}^++t_{\lambda,\mu}U_\lambda)\\ &=&I_{\lambda,\mu}(v_{\lambda,\mu}^+) +I_{\lambda,0}(t_{\lambda,\mu}U_\lambda)-\frac1{2^*}\int_\Omega( (v_{\lambda,\mu}^++t_{\lambda,\mu}U_\lambda+\mu\varphi)^{2^*} -2^*(v_{\lambda,\mu}^++\mu\varphi)^{2^*-1}t_{\lambda,\mu}U_\lambda){\rm d}x\\ &&-\frac1{2^*}\int_\Omega((t_{\lambda,\mu}U_\lambda)^{2^*}-(v_{\lambda,\mu}^+ +\mu\varphi)^{2^*}){\rm d}x. \end{eqnarray*}$$ 众所周知,$I_{\lambda,0}(t_{\lambda,\mu}U_\lambda)\leq I_{\lambda,0}(U_\lambda) <\frac1N S^{N/2}$ (参看文献[17]). 另一方面,由于对任意的$a>0$,$b>0$以及$p>1$, 都有$(a+b)^p-a^p-b^p-pa^{p-1}b\geq0$. 因此$I_{\lambda,\mu}(v_{\lambda,\mu}^+ +t_{\lambda,\mu}U_\lambda)<m_{\lambda,\mu}^++\frac1N S^{N/2}$.

现在,结合断言2和断言3可知,对任意的$\lambda\in(0,\lambda_1)$ 以及$\mu\in(0,\mu_\lambda^*)$,都有$m_{\lambda,\mu}^-<m_{\lambda,\mu}^++\frac1N S^{N/2}$.

引理4.4 对任意的$\lambda\in(0,\lambda_1)$和$\mu\in(0,\mu_\lambda^*)$, 方程$({\cal Q}_{\lambda,\mu})$存在一个解$v_{\lambda,\mu}^-$满足 $I_{\lambda,\mu}(v_{\lambda,\mu}^-)=m_{\lambda,\mu}^-$以及 $v_{\lambda,\mu}^-\in{\cal N}_{\lambda,\mu}^-$.

证 由引理3.1可知,对任意的$\lambda\in(0,\lambda_1)$和$\mu\in(0,\mu_\lambda^*)$, 都有${\cal N}_{\lambda,\mu}^0=\emptyset$. 因此利用Ekeland变分原理可以证明 (参看文献[19]),存在$\{v_{\lambda,\mu}^n\}\subset{\cal N}_{\lambda,\mu}^-$满足 $I_{\lambda,\mu}(v_{\lambda,\mu}^n)\to m_{\lambda,\mu}^-$以及 $I_{\lambda,\mu}' (v_{\lambda,\mu}^n)=o_n(1)$. 由引理4.3可知,$m_{\lambda,\mu}^-<\frac1N S^{N/2}+m_{\lambda,\mu}^+$. 因此根据引理3.4,存在$v_{\lambda,\mu}^-\in H_0^1(\Omega)$使得$\lim\limits_{n\to\infty}\|v_{\lambda,\mu}^n-v_{\lambda,\mu}^-\|=0$. 这蕴含了$I_{\lambda,\mu}(v_{\lambda,\mu}^-)=m_{\lambda,\mu}^-$且 $I_{\lambda,\mu}'(v_{\lambda,\mu}^-)=0$. 不失一般性,我们可以选取 $v_{\lambda,\mu}^-\geq0$. 事实上,由引理3.1可知,存在$t_{\lambda,\mu}^- (|v_{\lambda,\mu}^-|)>0$使得 $t_{\lambda,\mu}^-(|v_{\lambda,\mu}^-|)| v_{\lambda,\mu}^-|\in{\cal N}_{\lambda,\mu}^-$. 故由注3.1和类似于公式 (4.1)的计算可知, $$m_{\lambda,\mu}^-=I_{\lambda,\mu}(v_{\lambda,\mu}^-)\geq I_{\lambda,\mu}(t_{\lambda, \mu}^-(|v_{\lambda,\mu}^-|)v_{\lambda,\mu}^-)\geq I_{\lambda,\mu}(t_{\lambda,\mu}^- (|v_{\lambda,\mu}^-|)|v_{\lambda,\mu}^-|)\geq m_{\lambda,\mu}^-.$$ 这蕴含了$I_{\lambda,\mu}(t_{\lambda,\mu}^-(|v_{\lambda,\mu}^-|)|v_{\lambda,\mu}^-|) =m_{\lambda,\mu}^-$. 由于引理3.1的结论(4)成立,故$t_{\lambda,\mu}^-(|v_{\lambda,\mu}^-|) |v_{\lambda,\mu}^-|$仍然是$I_{\lambda,\mu}(v)$在${\cal N}_{\lambda,\mu}$上的一个局部极小点. 利用类似于文献[8,定理2.3]的证明,我们可得 $I_{\lambda,\mu}'(t_{\lambda,\mu}^-(|v_{\lambda,\mu}^-|)|v_{\lambda,\mu}^-|)=0$. 因此根据极大值原理,对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu_\lambda^*)$ 存在$v_{\lambda,\mu}^->0$使得$I_{\lambda,\mu}(v_{\lambda,\mu}^-)=m_{\lambda,\mu}^-$ 且$I_{\lambda,\mu}'(v_{\lambda,\mu}^-)=0$.

定理1.1的证明 由命题2.1, 引理4.1以及引理4.4可知,定理1.1是成立的.

在本章中,我们将利用畴数理论研究方程$({\cal Q}_{\lambda,\mu})$第三个解的存在性. 我们首先给出Lusternik-Schnirelman畴数的定义.

定义5.1 (i) 对任意的一个拓扑空间$X$, 我们称$X$中的闭子集$Y$可以连续收缩到$X$中的 某个点当且仅当存在一个连续映射 $$\xi:[0, 1]\times Y\to X$$ 使得对某个$x_0\in X$和任意的$x\in Y$有$\xi(0,x)=x$且$\xi(1,x)=x_0$.

(ii) 令 $$\begin{eqnarray*} \mbox{cat}(X):=\min&\Big\{&k\in{\mathbb N}: \mbox{ 存在闭子集}\ Y_1,\cdots,Y_k\subset X\\ &&\mbox{使得 $\bigcup\limits_{j=1}^kY_j=X $ 且对任意的}\ j=1,2,\cdots,k,\\ &&\mbox{都有 $ Y_j$ 可以连续收缩到$X$ 中的某个点}\Big\} .\end{eqnarray*}$$

若不存在有限多个$Y_1,\cdots,Y_k\subset X$使得$\bigcup\limits_{j=1}^kY_j=X$ 且对任意的$j=1,2,\cdots,k,$都有$Y_j$可以连续收缩到$X$中的某个点, 则我们记cat$(X)=\infty$.

其次,我们罗列一些在本章中需要用到的已知的结果.

引理5.1 (参见文献 [1,定理2.3]) 假设$X$是一个Hilbert流形且$F\in C^1(X,{\mathbb R})$. 若存在$c_0\in{\mathbb R}$以及$k\in{\mathbb N}$使得

(i) 对任意的$c\leq c_0$,$F(x)$满足Palais-Smale条件;

(ii) cat$(\{x\in X:F(x)\leq c_0\})\geq k$. 则$F(x)$在集合$\{x\in X: F(x)\leq c_0\}$上存在$k$个临界点.

引理5.2 (参见文献 [3,引理2.5]) 假设$X$是一个拓扑空间. 若存在两个连续的映射 $$\Phi: {\mathbb S}^{N-1}\to X,\quad\Psi:X\to {\mathbb S}^{N-1}$$ 使得$\Psi\circ\Phi$同伦于${\mathbb S}^{N-1}$上的单位映射,即存在一个连续的映射 $\zeta:[0, 1]\times {\mathbb S}^{N-1}\to {\mathbb S}^{N-1}$使得对任意的$x\in {\mathbb S}^{N-1}$,有$\zeta(0,x)=\Psi\circ\Phi(x)$以及$\zeta(1,x)=x$, 则cat$(X)\geq2$.

引理5.3 (参见文献[21,引理4.4]) 假设$\Omega$满足条件$(D)$,则存在$d_0>0$使得对任意的满足$I_{0,0}(v)\leq \frac1N S^{N/2}+d_0$的$v\in{\cal N}_{0,0}$,有 $$\int_{{\mathbb R}^N}\frac{x}{|x|}|\nabla v|^2{\rm d}x\not=0.$$

接着,我们给出两个在证明方程$({\cal Q}_{\lambda,\mu})$第三个解的存在性时非常重要的引理.

引理5.4 存在$\lambda^*\in(0,\lambda_1)$以及$\mu^{**}\in(0,\mu_\lambda^*)$使得对任意的 $\lambda\in(0,\lambda^*)$,$\mu\in(0,\mu^{**})$和满足 $I_{\lambda,\mu}(v)<m_{\lambda,\mu}^++\frac1N S^{N/2}$的$v\in{\cal N}_{\lambda,\mu}^-$,都有 $$\int_{{\mathbb R}^N}\frac{x}{|x|}|\nabla v|^2{\rm d}x\not=0.$$

证 假设$v\in{\cal N}_{\lambda,\mu}^-$且$I_{\lambda,\mu}(v)<m_{\lambda,\mu}^++\frac1N S^{N/2}$. 类似于公式(3.4)的计算,对任意的$\lambda\in(0,\lambda_1)$ 以及$\mu\in(0,\mu_\lambda^*)$, 根据引理3.3,我们可得 $$\begin{equation}\label{eq015} \frac1N S^{N/2}>I_{\lambda,\mu}(v)-\frac1{2^*}I_{\lambda,\mu}'(v)v\geq C\|v\|_{2^*}^{2^*}-C_1\mu^{2^*}-C_1\lambda\mu^2-C_1(\lambda\mu)^{2^*/(2^*-1)}. \end{equation}$$ 显然,存在$t_v>0$使得$t_vv\in{\cal N}_{0,0}$. 进一步的,由注3.1可知, 对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu_\lambda^*)$, 有$I_{\lambda,\mu}(v)\geq I_{\lambda,\mu}(t_vv)$. 由于$v\in{\cal N}_{\lambda,\mu}^-$, 类似于公式(3.3)的计算,对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu^*_\lambda)$, 我们可得$\|v\|_{2^*}\geq (C(1-\frac{\lambda}{\lambda_1})-C_1\mu^{2^*-2})^{1/(2^*-2)}>0$. 因此,存在$\lambda^0\in(0,\lambda_1)$以及$\mu^*>0$使得对任意的$\lambda\in(0, \lambda^0)$和$\mu\in(0,\mu^*)$,都有$\|v\|_{2^*}\geq C>0$. 这蕴含了存在$T>0$使得对任意的$\lambda\in(0,\lambda^0)$, $\mu\in(0,\mu^*)$以及$v\in{\cal N}_{\lambda,\mu}^-$,都有$t_v\leq T$. 另一方面,由于$t_vv\in{\cal N}_{0,0}$,故$\|t_vv\|_{2^*}\geq C>0$. 上式结合公式 (5.1),蕴含了存在$t_0>0$使得对任意的$\lambda\in(0,\lambda^0)$, $\mu\in(0,\mu^*)$以及$v\in{\cal N}_{\lambda,\mu}^-$,都有$t_0\leq t_v$. 于是,根据中值定理,我们可得 $$\begin{eqnarray*} I_{0,0}(t_vv)&=&I_{\lambda,\mu}(t_vv)+\frac\lambda2\|t_vv+\mu\varphi\|_2^2+\frac1{2^*}\int_\Omega(|t_vv+\mu\varphi|^{2^*}-|t_vv|^{2^*}){\rm d}x\\ &\leq&I_{\lambda,\mu}(v)+C(\lambda,\mu)\\ &\leq&\frac1N S^{N/2}+C(\lambda,\mu), \end{eqnarray*}$$ 其中$\lim\limits_{(\lambda,\mu)\to(0,0)}C(\lambda,\mu)\to0$. 故,存在$\lambda^*\in(0,\lambda^0]$以及$\mu^{**}\in(0,\mu^*]$ 使得对任意的$\lambda\in(0,\lambda^*)$,$\mu\in(0,\mu^{**})$和满足 $I_{\lambda,\mu}(v)<m_{\lambda,\mu}^++\frac1N S^{N/2}$的 $v\in{\cal N}_{\lambda,\mu}^-$,都有 $$I_{0,0}(t_vv)\leq \frac1N S^{N/2}+d_0.$$ 根据引理5.3,我们可知 $$t_v^2\int_{{\mathbb R}^N}\frac{x}{|x|}|\nabla v|^2{\rm d}x\not=0.$$ 由于对任意的$\lambda\in(0,\lambda^*)$,$\mu\in(0,\mu^{**})$以及 $v\in{\cal N}_{\lambda,\mu}^-$,我们有$t_v\geq t_0$. 因此对任意的$\lambda\in(0,\lambda^*)$,$\mu\in(0,\mu^{**})$和满足 $I_{\lambda,\mu}(v)<m_{\lambda,\mu}^++\frac1N S^{N/2}$的 $v\in{\cal N}_{\lambda,\mu}^-$,都有 $$\int_{{\mathbb R}^N}\frac{x}{|x|}|\nabla v|^2{\rm d}x\not=0.$$ 证毕.

令 $$U_{\varepsilon,\vec{y}}(x)=\frac{\phi(x)(N(N-2)\varepsilon)^{(N-2)/2}}{(\varepsilon^2+|x-(1-\varepsilon)\vec{y}|)^{(N-2)/2}},$$ 其中$\phi(x)\in C^\infty_0(\Omega,[0, 1])$是一个径项对称的函数且当 $2\delta_0\leq|x|\leq\frac1{2\delta_0}$时$\phi(x)\equiv1$,$\delta_0$由条件$(D)$所给出, $\vec{y}\in {\cal S}^{N-1}:=\{x\in{\mathbb R}^N: |x|=1\}$,$\varepsilon\in(0,1)$充分小.

引理5.5 存在$\varepsilon_0>0$,$\lambda_{**}^1\leq\lambda^*$和$\mu_{**}^1\leq\mu^{**}$ 使得对任意的$\varepsilon\in(0,\varepsilon_0)$,$\lambda\in(0,\lambda_{**}^1)$, $\mu\in(0,\mu_{**}^1)$以及$\vec{y}\in{\cal S}^{N-1}$, 都存在$t_{\lambda,\mu,\varepsilon}>0$满足$v_{\lambda,\mu}^++t_{\lambda,\mu, \varepsilon}U_{\varepsilon,\vec{y}}(x)\in{\cal N}_{\lambda,\mu}^-$. 进一步的,存在和$\varepsilon$ 无关的$t_{\lambda,\mu}^*>t_{\lambda,\mu}'>0$, 使得$t_{\lambda,\mu,\varepsilon}\in(t_{\lambda,\mu}',t_{\lambda,\mu}^*)$.

证 由文献[16,引理4.2]可知,存在$t_{\lambda,\mu}^{**}>0$以及$\varepsilon_1>0$ 使得对任意的$t\geq t_{\lambda,\mu}^{**}$和$\varepsilon\in(0,\varepsilon_1)$,有 $$\frac{\|v_{\lambda,\mu}^++tU_{\varepsilon,\vec{y}}\|_{2^*}^{2^*}}{\|v_{\lambda,\mu}^++tU_{\varepsilon,\vec{y}}\|^{2^*}} \geq\frac{2^*\|U_{\varepsilon,\vec{y}}\|_{2^*}^{2^*}}{\|U_{\varepsilon,\vec{y}}\|^{2^*}-\frac{2^*}{t^{2^*}}\|v_{\lambda,\mu}^+\|^{2^*}} =\frac{S^{N/2}+o(\varepsilon)}{(S^{N/2})^{2^*/2}+o(\varepsilon)-\frac{2^*}{t^{2^*}}\|v_{\lambda,\mu}^+\|^{2^*}}\geq C>0.$$ 因此,类似于引理4.3中断言1的证明,我们可得, 对任意的$t\geq t_{\lambda,\mu}^{**}$以及$\varepsilon\in(0,\varepsilon_1)$, 存在$T>0$使得$t_{\lambda,\mu}^-(\widetilde{w}_{t,\varepsilon})\leq T$,其中 $$\widetilde{w}_{t,\varepsilon}=\frac{v_{\lambda,\mu}^++tU_{\varepsilon,\vec{y}}}{\|v_{\lambda,\mu}^++tU_{\varepsilon,\vec{y}}\|}.$$ 令$t_{\lambda,\mu,\varepsilon}^*=\max \Big\{t_{\lambda,\mu}^{**}, \frac{T+1+\|v_{\lambda,\mu}^+\|}{\|U_{\varepsilon,\vec{y}}\|}\Big\}$,则再一次根据 文献[16,引理4.2], 存在$t_{\lambda,\mu}^*>0$使得对任意的$\varepsilon\in(0,\varepsilon_1)$, 有$t_{\lambda,\mu,\varepsilon}^*\leq t_{\lambda,\mu}^*$. 类似于引理4.3断言2的证明,我们可得 $$t_{\lambda,\mu}^-(\widetilde{w}_{t_{\lambda,\mu}^*,\varepsilon})\frac{1}{\|v_{\lambda,\mu}^++t_{\lambda,\mu}^*U_{\varepsilon,\vec{y}}\|}<1.$$ 因此,再一次使用类似于引理4.3断言2的证明,我们可得, 存在$t_{\lambda,\mu,\varepsilon}\leq t_{\lambda,\mu}^*$使得对任意的 $\vec{y}\in{\cal S}^{N-1}$,都有$v_{\lambda,\mu}^++t_{\lambda,\mu, \varepsilon}U_{\varepsilon,\vec{y}}\in{\cal N}_{\lambda,\mu}^-$. 进一步的,由于$v_{\lambda,\mu}^++t_{\lambda,\mu,\varepsilon}U_{\varepsilon, \vec{y}}\in{\cal N}_{\lambda,\mu}^-$,$v_{\lambda,\mu}^+\in{\cal N}_{\lambda,\mu}^+$且 $\|U_{\varepsilon,\vec{y}}\|_{2^*}^{2^*}=S^{N/2}+O(\varepsilon^N)$ (参看文献[16, 19, 21]),故类似于公式(3.2)和公式(3.3)的计算,我们可知 $$t_{\lambda,\mu,\varepsilon}\geq\frac{(C(1-\frac{\lambda}{\lambda_1})-C_1\mu^{2^*-2})^{\frac{2^*}{2^*-2}}-C_1\mu^{2^*}-C_1(\lambda\mu)^{\frac{2^*}{2^*-1}}}{S^{N/2}+O(\varepsilon^N)}.$$ 因此,存在$\varepsilon_0\leq\varepsilon_1$,$\lambda_{**}^1\leq\lambda^*$ 以及$\mu_{**}^1\leq\mu^{**}$使得对任意的$\varepsilon\in(0,\varepsilon_0)$, $\lambda\in(0,\lambda_{**}^1)$和$\mu\in(0,\mu_{**}^1)$, 都有$t_{\lambda,\mu,\varepsilon}>t_{\lambda,\mu}'>0$.

引理5.6 假设$\lambda\in(0,\lambda_{**}^1)$,$\mu\in(0,\mu_{**}^1)$且$N\geq4$. 则存在$\varepsilon^*\leq\varepsilon_0$使得对任意的$\varepsilon\in(0,\varepsilon^*)$ 以及$\vec{y}\in{\cal S}^{N-1}$,有$v_{\lambda,\mu}^++t_{\lambda,\mu,\varepsilon} U_{\varepsilon,\vec{y}}\in{\cal G}_{\lambda,\mu,\sigma_\varepsilon}$, 其中${\cal G}_{\lambda,\mu,\sigma_\varepsilon}:=\{u\in{\cal N}_{\lambda,\mu}^-:u\geq0, I_{\lambda,\mu}(u)<\frac1N S^{N/2}+m_{\lambda,\mu}^+-\sigma_\varepsilon\}$ 且$\lim\limits_{\varepsilon\to0}\sigma_\varepsilon=0$.

证 类似于引理4.3断言3的证明,我们可得 $$\begin{eqnarray*} I_{\lambda,\mu}(v_{\lambda,\mu}^++t_{\lambda,\mu,\varepsilon}U_{\varepsilon,\vec{y}}) &=&I_{\lambda,\mu}(v_{\lambda,\mu}^+)+ I_{\lambda,0}(t_{\lambda,\mu,\varepsilon}U_{\varepsilon,\vec{y}}) -\frac1{2^*}\int_\Omega|v_{\lambda,\mu}^++\mu\varphi+t_{\lambda,\mu,\varepsilon}U_{\varepsilon,\vec{y}}|^{2^*}{\rm d}x\\ &&+\frac1{2^*}\int_\Omega|t_{\lambda,\mu,\varepsilon}U_{\varepsilon,\vec{y}}|^{2^*}{\rm d}x+\frac1{2^*}\int_\Omega|v_{\lambda,\mu}^++\mu\varphi|^{2^*}{\rm d}x\\ &&+\int_\Omega(v_{\lambda,\mu}^++\mu\varphi)^{2^*-1}t_{\lambda,\mu,\varepsilon}U_{\varepsilon,\vec{y}}{\rm d}x. \end{eqnarray*}$$ 由于$t_{\lambda,\mu,\varepsilon}\in(t_{\lambda,\mu}',t_{\lambda,\mu}^*)$, 因此由一个众所周知的估计(参看文献[19])可知, $$\begin{eqnarray*} I_{\lambda,\mu}(v_{\lambda,\mu}^++t_{\lambda,\mu,\varepsilon}U_{\varepsilon,\vec{y}}) &\leq& m_{\lambda,\mu}^++\frac{t_{\lambda,\mu,\varepsilon}^2}{2}(\|U_{\varepsilon,\vec{y}}\|^2-\lambda\|U_{\varepsilon,\vec{y}}\|_2^2) -\frac{t_{\lambda,\mu,\varepsilon}^{2^*}}{2^*}\|U_{\varepsilon,\vec{y}}\|_{2^*}^{2^*}\\ &&-(t_{\lambda,\mu}')^{2^*-1}\int_\Omega(U_{\varepsilon,\vec{y}})^{2^*-1}(v_{\lambda,\mu}^++\mu\varphi){\rm d}x+o(\varepsilon^{(N-2)/2})\\ &\leq&m_{\lambda,\mu}^++\frac1N S^{N/2}-\varepsilon^{(N-2)/2}(D-o(1)), \end{eqnarray*}$$ 其中对$N\geq4$,有 $$D=(t_{\lambda,\mu}')^{2^*-1}(v_{\lambda,\mu}^+(\vec{y})+ \mu\varphi(\vec{y}))\int_{{\mathbb R}^N}\frac{(N(N-2))^{\frac{N+2}{2}}}{(1+|x|^2)^{(N+2)/2}}{\rm d}x.$$ 因此根据引理5.5,存在$\varepsilon^*\leq\varepsilon_0$ 使得对任意的$\varepsilon\in(0,\varepsilon^*)$以及$\vec{y}\in{\cal S}^{N-1}$, 都有 $v_{\lambda,\mu}^++t_{\lambda,\mu,\varepsilon}U_{\varepsilon, \vec{y}}\in{\cal G}_{\lambda,\mu,\sigma_\varepsilon}$, 其中当$\varepsilon\to0$时,$\sigma_\varepsilon=\varepsilon^{(N-2)/2}(D-o(1))\to0$.

现在,我们可以证明方程$({\cal Q}_{\lambda,\mu})$存在第三个解.

引理5.7 假设$\lambda\in(0,\lambda_{**}^1)$且$\mu\in(0,\mu_{**}^1)$. 则$({\cal Q}_{\lambda,\mu})$存在三个解.

证 由于对任意的$\lambda\in(0,\lambda_{**}^1)$以及$\mu\in(0,\mu_{**}^1)$, 引理5.4至引理5.6都成立,故利用引理5.2和类似于 文献[21,引理5.6]的证明,我们可得Cat$({\cal G}_{\lambda,\mu})\geq2$. 由引理5.1可知,方程$({\cal Q}_{\lambda,\mu})$在集合 ${\cal G}_{\lambda,\mu}$内有2个解. 结合引理3.3,引理4.1以及引理4.4可知, 当$\lambda\in(0,\lambda_{**}^1)$且$\mu\in(0,\mu_{**}^1)$时, 方程$({\cal Q}_{\lambda,\mu})$存在三个解.

在本章中,我们将参考文献[16]中的方法证明方程$({\cal Q}_{\lambda,\mu})$存在第四个解.

引理6.1 对任意的$\lambda\in(0,\lambda_1)$,存在$\mu_\lambda^{**}\in(0,\mu_\lambda^*)$ 以及$r_{\lambda}>0$使得

(1) $I_{\lambda,\mu}(v)$在$B(0,r_\lambda)$上是严格凸的, 其中$B(0,r):=\{u\in H_0^1(\Omega): \|u\|<r\}$.

(2) 对任意的$\mu\in(0,\mu_\lambda^{**})$, 有${\cal N}_{\lambda,\mu}^+\subset B(0,r_\lambda)$.

(3) $v_{\lambda,\mu}^+$是$I_{\lambda,\mu}(v)$在${\cal N}_{\lambda,\mu}^+$上的唯一的临界点.

证 (1) 直接计算可知 $$\begin{eqnarray*} I_{\lambda,\mu}''(u)(v,v)&=&\|v\|^2-\lambda\|v\|_2^2-(2^*-1)\int_{\Omega}|u+\mu\varphi|^{2^*-2}v^2{\rm d}x\\ & \geq&\Big(1-\frac{\lambda}{\lambda_1}\Big)S\|v\|_{2^*}^2-(2^*-1)2^{2^*-2}(S^{\frac{2^*-2}{2}}\|u\|^{2^*-2} +C\mu^{2^*-2})\|v\|_{2^*}^2\\ & =&\bigg(\Big(1-\frac{\lambda}{\lambda_1}\Big)S-(2^*-1)2^{2^*-2}(S^{\frac{2^*-2}{2}}\|u\|^{2^*-2} +C\mu^{2^*-2})\bigg)\|v\|_{2^*}^2. \end{eqnarray*}$$ 因此对任意的$\lambda\in(0,\lambda_1)$,存在$\mu_\lambda^{00}\in(0,\mu_\lambda^*)$ 使得对任意的$\mu\in(0,\mu_\lambda^{00})$都有 $$\Big(1-\frac{\lambda}{\lambda_1}\Big)S-(2^*-1)2^{2^*-2}C\mu^{2^*-2}> \frac12\Big(1-\frac{\lambda}{\lambda_1}\Big)S.$$ 令 $$r_\lambda=\bigg(\frac{\frac12\big(1-\frac{\lambda}{\lambda_1}\big)S}{(2^*-1) 2^{2^*-2}S^{\frac{2^*-2}{2}}}\bigg)^{1/(2^*-2)},$$ 则对任意的$u\in B(0,r_\lambda)$,$\mu\in(0,\mu_\lambda^{00})$以及 $v\in H_0^1(\Omega)\backslash\{0\}$,有$I_{\lambda,\mu}''(u)(v,v)>0$.

(2) 类似于公式(3.2)的计算,我们可得,对任意的$v\in{\cal N}_{\lambda,\mu}^+$,有 $$\|v\|\leq C\bigg(\Big(\frac{\lambda_1}{\lambda_1-\lambda}\Big) ((\lambda\mu_n)^{\frac{2^*}{2^*-1}}+\mu_n^{2^*})\bigg)^{\frac12}.$$ 因此存在$\mu_\lambda^{**}\in(0,\mu_\lambda^{00})$ 使得对任意的 $\mu\in(0,\mu_\lambda^{**})$,都有${\cal N}_{\lambda,\mu}^+\subset B(0,r_\lambda)$.

(3) 假设结论不成立,则${\cal N}_{\lambda,\mu}^+$中至少存在$v_{\lambda,\mu}^1$ 和$v_{\lambda,\mu}^2$两个$I_{\lambda,\mu}(v)$的临界点. 根据结论$(1)$,我们可知, 对任意的$\lambda\in(0,\lambda_1)$,$\mu\in(0,\mu_\lambda^{**})$, $w\in H_0^1(\Omega)\backslash\{0\}$以及$t\in[0, 1]$, 都有$I_{\lambda,\mu}''(tv_{\lambda,\mu}^1+(1-t)v_{\lambda,\mu}^2)(w,w)>0$. 结合Taylor公式可知,$I_{\lambda,\mu}(v_{\lambda,\mu}^1)>I_{\lambda,\mu} (v_{\lambda,\mu}^2)$ 以及$I_{\lambda,\mu}(v_{\lambda,\mu}^2)>I_{\lambda,\mu} (v_{\lambda,\mu}^1)$会同时成立. 而这是矛盾的.

我们还需要如下的局部紧性引理.

引理6.2 假设$v_n\geq0$,$v_n\in{\cal N}_{\lambda,\mu}^-$,$I_{\lambda,\mu}(v_n)=c+o_n(1)$且 $I_{\lambda,\mu}'(v_n)=o_n(1)$. 若$c\in(m_{\lambda,\mu}^++\frac1N S^{N/2}, m_{\lambda,\mu}^-+\frac1N S^{N/2})$,则存在$v_0\in{\cal N}_{\lambda,\mu}^-$ 使得对任意的$\lambda\in(0,\lambda_1)$以及$\mu\in(0,\mu_\lambda^{**})$, 在子列意义下都有$\lim\limits_{n\to\infty}\|v_n-v_0\|=0$.

证 类似于引理3.4的证明,我们可得,存在$v_0\in H_0^1(\Omega)$使得在$H_0^1(\Omega)$中, 有$v_n\rightharpoonup v_0$. 令$w_n=v_n-v_0$. 则根据公式(3.5) 以及Brézis-Lieb引理, 我们可得 $$I_{0,0}(w_n)=I_{\lambda,\mu}(v_n)-I_{\lambda,\mu}(v_0)+o_n(1).$$ 类似于公式(3.6)的计算,我们可得,对任意的$\psi\in H_0^1(\Omega)$,都有 $$I_{0,0}'(w_n)\psi=I_{\lambda,\mu}'(v_n)\psi-I_{\lambda,\mu}'(v_0)\psi+o_n(1).$$ 显然,$v_0$是$I_{\lambda,\mu}(v)$的一个临界点. 因此根据文献[17]中的结果, 存在$l\in{\mathbb N}$以及方程$({\cal Q}_{0,0})$的一个解$v^*$使得 $I_{0,0}(w_n)=I_{0,0}(v^*)+\frac lNS^{N/2}+o_n(1)$. 若$v_0\in{\cal N}_{\lambda,\mu}^+$, 则根据引理3.3,引理4.3以及引理6.1可知,$v^*\not=0$且$l=0$, 故$I_{0,0}(v^*)\geq\frac1N S^{N/2}$. 再一次使用文献[17]中的结果, 我们可知$\lim\limits_{n\to\infty}\|v_n-v_0+v^*\|=0$. 由于在$H_0^1(\Omega)$中, 有$v_n\rightharpoonup v_0$,故这是不可能的. 因此,必定有$v_0\in{\cal N}_{\lambda,\mu}^-$. 这蕴含了$I_{0,0}(w_n)<\frac 1NS^{N/2}+o_n(1)$. 由于当$v^*\not=0$时有 $I_{0,0}(v^*)\geq\frac 1NS^{N/2}$,故必定有$v^*=0$以及$l=0$. 再一次使用文献[17]中的结果可知,$\lim\limits_{n\to\infty}\|v_n-v_0\|=0$.

为了清楚起见,我们重新记$U_{\varepsilon,\vec{y}}(x)$以及$\phi(x)$为 $U_{\varepsilon,\vec{y}}^{\delta_0}(x)$和$\phi_{\delta_0}(x)$. 类似于文献[16], 我们记${\cal V}:=\{v\in H_0^1(\Omega): v\geq0,\|v\|_{2^*}=1\}$. 定义$\beta:{\cal V}\to{\mathbb R}^N$使得$\beta(v)=\int_{{\mathbb R}^Nn}x|v|^{2^*}{\rm d}x$, 其中$v$ 在$\Omega$以外恒等于$0$. 令${\cal A}_0:=\{v\in{\cal V}: \beta(v)=0\}$以及$c_*=\inf\limits_{v\in{\cal A}_0}\|v\|^2$, 则由文献[16,引理 5.4]可知,$c_*>S$. 根据文献[16,引理5.6], 存在$\varepsilon^{**}\in(0,\varepsilon^*)$使得对任意的$\varepsilon\in(0, \varepsilon^{**})$,有$\|U_{\varepsilon,\vec{y}}^{\delta_0}(x)\|_{D^{1,2} ({\mathbb R}^Nn)}^2\in(S,\frac{S+c_*}{2})$. 记$\overline{r}_*=1-\varepsilon^{**}$ 以及${\cal B}_{\overline{r}_*}:=\{(1-\varepsilon)\vec{y}\in{\mathbb R}^Nn: |(1-\varepsilon)\vec{y}|\leq\overline{r}_*,\vec{y}\in{\cal S}^{N-1}, 0<\varepsilon<1\}$. 定义$J_{\lambda,\mu}:{\cal V}\to{\mathbb R}^N$ 使得$J_{\lambda,\mu}(v)=I_{\lambda,\mu}(t^-_{\lambda,\mu}(v)v)$, 其中 $t^-_{\lambda,\mu}(v)$由引理3.1所给出. 令 $$\gamma_{\lambda,\mu}=\inf\limits_{{\cal F}}\sup_{{\cal B}_{\overline{r}_*}}J_{\lambda,\mu}(v),$$ 其中${\cal F}:=\{h\in C({\cal B}_{\overline{r}_*},{\cal V}): h|_{\partial {\cal B}_{\overline{r}_*}}=\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}(x)\}$, $\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}= \frac{U_{\varepsilon,\vec{y}}^{\delta_0}}{\|U_{\varepsilon,\vec{y}}^{\delta_0}\|_{2^*}}$.

引理6.3 对任意的$\delta_0\in(0,1)$和$\lambda\in(0,\lambda_1)$, 都有$J_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0})= \frac1N S^{N/2}+O(\varepsilon)+O(\mu)$对$\vec{y}\in{\cal S}^{N-1}$一致成立, 其中当$\varepsilon\to0$时$O(\varepsilon)\to0$且当$\mu\to0$时$O(\mu)\to0$.

证 由文献[16,引理 4.2]可知,当$\varepsilon\to0$时,对任意的$\delta_0\in(0,1)$, 有$\|U_{\varepsilon,\vec{y}}^{\delta_0}\|^2=S^{N/2}+o(\varepsilon)$, $\|U_{\varepsilon,\vec{y}}^{\delta_0}\|_{2^*}^{2^*}=S^{N/2}+o(\varepsilon)$且在 $H_0^1(\Omega)$中$U_{\varepsilon,\vec{y}}^{\delta_0}\rightharpoonup0$对 $\vec{y}\in{\cal S}^{N-1}$一致成立. 故根据 $t^-_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}) \widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}\in{\cal N}_{\lambda,\mu}^-$ 可知 $$\begin{eqnarray*} 0&=&t^-_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0})\|\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}\|^2-\lambda t^-_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0})\|\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}\|_2^2- \lambda\mu\int_\Omega\varphi \widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}{\rm d}x\\ &&-\int_\Omega(t^-_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0})\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0} +\mu\varphi)^{2^*-1}\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}{\rm d}x\\ &=&t^-_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0})(\|\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}\|^2-\lambda \|\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}\|_2^2-(t^-_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}))^{2^*-2} )+O(\varepsilon)+O(\mu). \end{eqnarray*}$$ 类似于公式(3.3)的计算,对任意的$\delta_0\in(0,1)$以及$\vec{y}\in{\cal S}^{N-1}$, 我们可得 $$t^-_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0})\geq (C+O(\varepsilon))(1-\frac{\lambda}{\lambda_1}+O(\mu))^{\frac{1}{2^*-2}}.$$ 因此,必然有 $$\|\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}\|^2-\lambda \|\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}\|_2^2-(t^-_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}))^{2^*-2} =O(\varepsilon)+O(\mu).$$ 这蕴含了$t^-_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0})= S^{1/(2^*-2)}+O(\varepsilon)+O(\mu)$. 于是对任意的$\delta_0\in(0,1)$以及 $\lambda\in(0,\lambda_1)$,有 $$\begin{eqnarray*} J_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0}) &=&\frac12(S^{(N-2)/2}+O(\varepsilon)+O(\mu)) \bigg(\frac{S^{N/2}+o(\varepsilon)}{S^{(N-2)/2}+o(\varepsilon)}\bigg) -\frac{\lambda(O(\varepsilon)+O(\mu))}{2(S^{(N-2)/2}+o(\varepsilon))}\\ &&-\frac1{2^*}(S^{N/2}+O(\varepsilon)+O(\mu))\\ &=&\frac1N S^{N/2}+O(\varepsilon)+O(\mu) \end{eqnarray*}$$ 对$\vec{y}\in{\cal S}^{N-1}$一致成立.

引理6.4 $m_{\lambda,\mu}^-=\frac1N S^{N/2}+O(\lambda)+O(\mu)$, 其中当$\lambda\to0$时$O(\lambda)\to0$且当$\mu\to0$时$O(\mu)\to0$.

证 根据引理3.3以及引理4.3,很容易证明$m_{\lambda,\mu}^-<\frac1N S^{N/2}$. 由于$v^-_{\lambda,\mu}\in{\cal N}_{\lambda,\mu}^-$是方程 $({\cal Q}_{\lambda,\mu})$的一个解, 故类似于公式(3.2)以及公式(3.4)的计算,我们可得 $$\bigg(C\Big(1-\frac{\lambda}{\lambda_1}\Big)-C_1\mu^{2^*-2}\bigg)^{1/(2^*-2)}\leq\|v^-_{\lambda, \mu}\|_{2^*}\leq C+C(\lambda,\mu),$$ 其中$\lim\limits_{(\lambda,\mu)\to(0,0)}C(\lambda,\mu)=0$. 显然存在$t^0_{\lambda,\mu}>0$使得$t^0_{\lambda,\mu}v^-_{\lambda,\mu}\in{\cal N}_{0,0}$. 由于 $(C(1-\frac{\lambda}{\lambda_1})-C_1\mu^{2^*-2})^{1/(2^*-2)}\leq\|v^-_{\lambda, \mu}\|_{2^*}$,故存在$T>0$使得对充分小的$\lambda$和$\mu$,有$t^0_{\lambda,\mu}\leq T$. 于是根据注3.1可知 $$m_{\lambda,\mu}^-=I_{\lambda,\mu}(v^-_{\lambda,\mu})\geq I_{\lambda,\mu}(t^0_{\lambda,\mu}v^-_{\lambda,\mu})\geq\frac1N S^{N/2}+O(\lambda)+O(\mu).$$ 证毕.

引理6.5 存在$\rho>0$,$\delta_*\in(0,1)$,$\lambda_{**}^2\in(0,\lambda_{**}^1)$以及 $\mu_{**}^2\in(0,\mu_{**}^1)$使得对任意的$\lambda\in(0,\lambda_*)$, $\mu\in(0,\mu_*)$和$\delta_0\in(0,\delta_*)$, 都有$\frac1N S^{N/2}<\gamma_{0,0}-\rho<\gamma_{\lambda,\mu}<\gamma_{0,0}+ \rho<\frac1N S^{N/2}+m_{\lambda,\mu}^-$.

证 类似于文献[16,引理5.10]的证明,我们可得存在$\delta_*\in(0,1)$ 使得对任意的$\delta_0\in(0,\delta_*)$,有$\gamma_{0,0}\in(\frac1N S^{N/2}, \frac2N S^{N/2})$. 于是存在$\rho>0$使得$\frac1N S^{N/2}<\gamma_{0,0} -\rho<\gamma_{0,0}+\rho<\frac2N S^{N/2}$. 由引理6.4可知, 存在$\lambda^1\in(0,\lambda_{**}^1)$以及 $\mu^1\in(0,\mu_{**}^1)$ 使得对任意的$\lambda\in(0,\lambda^1)$和$\mu\in(0,\mu^1)$, 都有$\gamma_0+\rho<\frac1N S^{N/2}+m_{\lambda,\mu}^-$. 另一方面, 对任意的 $d\in(0,1)$和$v\in{\cal V}$,由Young不等式可知 $$\begin{eqnarray*} J_{\lambda,\mu}(v)&=&I_{\lambda,\mu}(t^-_{\lambda,\mu}(v)v) \leq I_{0,0}(t^-_{\lambda,\mu}(v)v)+d\|t^-_{\lambda,\mu}(v)v\|_{2^*}^{2^*}+C(\lambda,\mu,d)\\ &\leq&I_{0,0}(t^+_{d}(v)v)+d\|t^+_{d}(v)v\|_{2^*}^{2^*}+C(\lambda,\mu,d)\\ &=&\Big(\frac{1}{1-d}\Big)^{\frac{N-2}{2}}\|v\|^2+C(\lambda,\mu,d)\\ &=&\Big(\frac{1}{1-d}\Big)^{\frac{N-2}{2}}J_{0,0}(v)+C(\lambda,\mu,d) \end{eqnarray*}$$ 且 $$\begin{eqnarray*} J_{\lambda,\mu}(v)&=&I_{\lambda,\mu}(t^-_{\lambda,\mu}(v)v) \geq I_{\lambda,\mu}(t^-_{d}(v)v)\\ &\geq&I_{0,0}(t^-_{d}(v)v)-d\|t^-_{d}(v)v\|_{2^*}^{2^*}-C(\lambda,\mu,d)\\ &=&\Big(\frac{1}{1+d}\Big)^{\frac{N-2}{2}}\|v\|^2-C(\lambda,\mu,d)\\ &=&\Big(\frac{1}{1+d}\Big)^{\frac{N-2}{2}}J_{0,0}(v)-C(\lambda,\mu,d), \end{eqnarray*}$$ 其中对固定的$d\in(0,1)$,有 $$\lim\limits_{(\lambda,\mu)\to(0,0)}C(\lambda,\mu,d)=0, I_{0,0}(t^+_{d}(v)v)+d\|t^+_{d}(v)v\|_{2^*}^{2^*}=\max\limits_{t\geq0}(I_{0,0}(tv)+ d\|tv\|_{2^*}^{2^*})$$ 且 $I_{0,0}(t^-_{d}(v)v)-d\|t^-_{d}(v)v\|_{2^*}^{2^*}= \max\limits_{t\geq0}(I_{0,0}(tv)-d\|tv\|_{2^*}^{2^*}).$ 根据$\gamma_{\lambda,\mu}$的定义, 我们可知 $$\Big(\frac{1}{1+d}\Big)^{\frac{N-2}{2}}\gamma_{0,0}- C(\lambda,\mu,d)\leq\gamma_{\lambda,\mu}\leq\Big(\frac{1}{1-d}\Big)^{\frac{N-2}{2}} \gamma_{0,0}+C(\lambda,\mu,d).$$ 因此存在$\lambda_{**}^2\in(0,\lambda^1)$ 以及$\mu_{**}^2\in(0,\mu^1)$使得$\gamma_0-\rho<\gamma_{\lambda,\mu}<\gamma_0+\rho$.

结合引理6.3和引理6.5,存在$\lambda_{*}\in(0,\lambda_{**}^2)$以及 $\mu_{*}\in(0,\mu_{**}^2)$使得对任意的$\lambda\in(0,\lambda_{*})$, $\mu\in(0,\mu_{*})$以及充分小的$\varepsilon$,有$\gamma_{\lambda,\mu} >J_{\lambda,\mu}(\widetilde{U}_{\varepsilon,\vec{y}}^{\delta_0})$. 故由极大极小原理(参看文献[4]),$\gamma_{\lambda,\mu}$是 $J_{\lambda,\mu}(v)$在${\cal V}$上的一个临界值,即存在$\{v_n\}\subset{\cal V}$使得 $$J_{\lambda,\mu}(v_n)=\gamma_{\lambda,\mu}+o_n(1),\quad \|J'_{\lambda,\mu}(v_n)\|_{T^*_{v_n}{\cal V}}=o_n(1),$$ 其中$T^*_{v_n}{\cal V}$是$T_{v_n}{\cal V}:=\{w\in H_0^1(\Omega): \int_{\Omega}( v_n)^{2^*-1}w=0\}$的共轭空间.

引理6.6 存在$v_{\lambda,\mu}^4\in{\cal N}_{\lambda,\mu}^-$使得对任意的$\lambda\in(0, \lambda_*)$和$\mu\in(0,\mu_*)$,有$I_{\lambda,\mu}(v_{\lambda,\mu}^4)= \gamma_{\lambda,\mu}$以及$I'_{\lambda,\mu}(v_{\lambda,\mu}^4)=0$.

证 根据隐函数定理,对任意的$h\in T_{v_n}{\cal V}$,有 $$J_{\lambda,\mu}'(v_n)h=((t^-_{\lambda,\mu})'(v_n)h)I_{\lambda,\mu}'(t^-_{\lambda,\mu}(v_n)v_n)v_n +t^-_{\lambda,\mu}(v_n)I_{\lambda,\mu}'(t^-_{\lambda,\mu}(v_n)v_n)h.$$ 根据引理3.1,对任意的$v_n$,有$t_{\lambda,\mu}^-(v_n)>0$. 由于$t^-_{\lambda,\mu}(v_n)v_n\in{\cal N}_{\lambda,\mu}^-$,故$I_{\lambda,\mu}'(t^-_{\lambda,\mu}(v_n)v_n)v_n=0$. 于是,对任意的$h\in T_{v_n}{\cal V}$,都有

$$\begin{equation}\label{eq901} J_{\lambda,\mu}'(v_n)h=t^-_{\lambda,\mu}(v_n)I_{\lambda,\mu}'(t^-_{\lambda,\mu}(v_n)v_n)h. \end{equation}$$

(6.1)

我们断言$\{t^-_{\lambda,\mu}(v_n)\}_{n\in{\mathbb N}}$有一个正的下界. 事实上,若在子列意义下$t^-_{\lambda,\mu}(v_n)\to0$. 则根据$t^-_{\lambda,\mu}(v_n)v_n\in{\cal N}_{\lambda,\mu}^-$以及$v_n\in{\cal V}$可知 $$t^-_{\lambda,\mu}(v_n)(\|v_n\|^2-\lambda\|v_n\|_2^2)=\lambda\mu\int_{\Omega}\varphi v_n{\rm d}x+\int_{\Omega}(\mu\varphi)^{2^*-1}v_n+o_n(1).$$ 因此, $$\frac1N S^{N/2}+o_n(1)\leq\gamma_{\lambda,\mu}+o_n(1)=J_{\lambda,\mu}(v_n)\leq-\frac{\lambda}{2}\|\mu\varphi\|_2^2+o_n(1)<o_n(1).$$ 而这是矛盾的. 注意到$H_0^1(\Omega)={\mathbb R}^N v_n\oplus T_{v_n}{\cal V}$且$I_{\lambda,\mu}'(t^-_{\lambda,\mu}(v_n)v_n)v_n=0$,故我们可知,对任意的$w\in H_0^1(\Omega)$,都有 $$I_{\lambda,\mu}'(t^-_{\lambda,\mu}(v_n)v_n)w=I_{\lambda,\mu}'(t^-_{\lambda,\mu}(v_n)v_n)h_w,$$ 其中$h_w$是$w$在$T_{v_n}{\cal V}$上的投影. 因此根据公式(6.1),我们可得 $$\begin{eqnarray*} \|I_{\lambda,\mu}'(t^-_{\lambda,\mu}(v_n)v_n)\| &=&\sup_{w\in H_0^1(\Omega)\backslash\{0\}}\frac{I_{\lambda,\mu}'(t^-_{\lambda,\mu}(v_n)v_n)w}{\|w\|}\\ &\leq&\sup_{w\in H_0^1(\Omega)\backslash\{0\}}\frac{I_{\lambda,\mu}'(t^-_{\lambda,\mu}(v_n)v_n)h_w}{\|h_w\|}\\ &=&\sup_{w\in H_0^1(\Omega)\backslash\{0\}}\frac{J_{\lambda,\mu}'(v_n)h_w}{t^-_{\lambda,\mu}(v_n)h_w}\\ &\leq& C\|J'_{\lambda,\mu}(v_n)\|_{T^*_{v_n}{\cal V}}=o_n(1). \end{eqnarray*}$$ 另一方面,根据$J_{\lambda,\mu}$的定义,很容易证明 $\lim\limits_{n\to\infty}I_{\lambda,\mu}(t^-_{\lambda,\mu}(v_n)v_n)=\gamma_{\lambda,\mu}$. 由引理6.2以及引理 6.5可知,对任意的$\lambda\in(0,\lambda_*)$, $\mu\in(0,\mu_*)$以及$\delta_0\in(0,\delta_*)$, 有$\lim\limits_{n\to\infty}t^-_{\lambda,\mu}(v_n)v_n= v_{\lambda,\mu}^4$. 显然,$v_{\lambda,\mu}^4$是方程$({\cal Q}_{\lambda,\mu})$的一个解且对任意的 $\lambda\in(0,\lambda_*)$,$\mu\in(0,\mu_*)$和$\delta_0\in(0,\delta_*)$, $v_{\lambda,\mu}^4$和引理4.1,引理4.4以及引理5.7中的解不同.

定理1.2的证明 由引理5.7以及引理6.6可知,定理1.2是成立的.