本文主要研究如下临界薛定谔-泊松方程

其中$\lambda>0, \mu>0$是两个参数, $p\in(4, 6)$, $V$满足以下假设:

($V_1$) $V(x)$是${{\Bbb R}} ^3$上的连续函数, 并且$V(x)\geq0$, $x\in{{\Bbb R}} ^3$.

($V_2$) 存在常数$M_0>0$使得集合$A: = \{x\in{{\Bbb R}} ^3: V(x)\leq M_0\}$非空, 并且其Lebesgue测度$m(A)<\infty$.

($V_3$) $\Omega: = int\{V^{-1}(0)\}$是一个非空光滑有界区域, 并且$\bar{\Omega} = V^{-1}(0)$. 不失一般性, 假设$0\in\Omega$.

在(1.1) 式中, 第一个方程是非线性薛定谔方程, 其中函数$\phi$满足第二个泊松方程, 因此上述方程一般被称为薛定谔-泊松方程. 这类方程与如下形式的薛定谔方程的驻波解$e^{-{\rm i}Et}u(x)$有关

其中$\widetilde{V}(x) = V(x)+E$, $f(\exp({\rm i}\theta)\xi) = \exp({\rm i}\theta)f(\xi)$, $\theta, \xi\in{{\Bbb R}}$. 有关这方面的内容, 可以参见文献[3, 8, 10, 14-15, 17, 20-21].

深井位势条件$(V_1)$–$(V_3)$由Bartsch和Wang^[5]提出, 当$\lambda\rightarrow \infty$时, 这些条件可以使解集中在势井的底部. 近年来, 带有深井位势的薛定谔方程吸引着广大数学工作者的研究兴趣, 在$f$满足不同的增长条件下, 许多结果得以建立^{[4, 13, 19, 22]}. 对于临界问题, Clapp等^[12]研究了高维情况下的薛定谔方程, 得到了多重正解的存在性定理. 对于任意$N\geq3$的维数, Alves等^[1]讨论了薛定谔方程正解个数与势井底部的拓扑关系. 特别地, 在次临界的条件下, 当位势分别是正的和变号的情况下, Jiang等^[16]和Zhao等^[24]研究了泊松薛定谔方程的解的存在性和解的渐近行为. 据我们所知, 对于带有深井位势的临界薛定谔泊松方程, 问题(1.1) 还没有结果. 在上述参考文献的启发下, 我们将讨论基态解的存在性及其渐近行为, 另外, 利用Ljusternik-Schnirelman理论, 解的多重性结果也的得以建立.

我们的主要结果如下：

定理1.1  在条件$(V_1)$–$(V_3)$下, 当$\lambda>0$充分大时, 方程(1.1) 至少有一个基态解$u_{\lambda}$. 对任意的$\lambda_n$, 当$\lambda_n\to +\infty$时, $\{u_{\lambda_n}\}$有一个子列在$H^1({{\Bbb R}} ^3)$中收敛到$u$, 并且$u$是如下极限方程的基态解

定理1.2  在条件$(V_1)$–$(V_3)$下, 存在$\lambda^*$, $\mu^*>0$, 使得当$\lambda\geq\lambda^*$, $\mu\leq\mu^*$时, 方程(1.1) 至少有${\rm cat}_{\bar{\Omega}}(\bar{\Omega})$个解.

首先给出一些记号. $B_{R}(x)$表示中心在$x\in{{\Bbb R}} ^3$半径为$R>0$的开球. $C>0$表示各种常数. $L^p({{\Bbb R}} ^3)$ ($1\leq p<+\infty$) 表示Lebesgue空间, 其范数定义为

Sobolev空间$H^1({{\Bbb R}} ^3)$的范数为

令

其内积和范数分别记

条件$(V_1)$和$(V_2)$保证了$E$是一个Hilbert空间^[23]. 不失一般性, 本文假设$\lambda\geq 1$. 则对任意的$u\in E$, 存在$\kappa>0$, 使得

空间${\cal D}^{1, 2}({{\Bbb R}} ^3)$是${\cal C}_0^\infty({{\Bbb R}} ^3)$关于范数$\big(\int_{{{\Bbb R}} ^3}(|\nabla u|^2{\rm d}x\big)^{\frac{1}{2}}$的完备空间. 对$u\in H^1({{\Bbb R}} ^3)$, 存在唯一的$\phi_u\in {\cal D}^{1, 2}({{\Bbb R}} ^3)$是下述方程的解

对于$\phi_u$, 可以用以下积分形式表示

这种形式被称为Riesz位势^[18]. 关于上述解$\phi_u$, 我们有如下一些后文需要用到的引理^[25].

引理2.1   对任意的$u\in H^1({{\Bbb R}} ^3)$,

(i) $\phi_u\geq0$;

(ii) $\phi_u:H^1({{\Bbb R}} ^3)\rightarrow {\cal D}^{1, 2}({{\Bbb R}} ^3)$是连续的, 并且把有界集映成有界集;

(iii) $\|\phi_u\|^2_{D^{1, 2}({{\Bbb R}} ^3)} = \int_{{{\Bbb R}} ^3}\phi_u u^2{\rm d}x\leq C|u|_{\frac{12}{5}}^4$;

(iv) 如果在$H^1({{\Bbb R}} ^3)$中, $u_n\rightharpoonup u$, 则在${\cal D}^{1, 2}({{\Bbb R}} ^3)$中, $\phi_{u_n} \rightharpoonup \phi_u$;

(v) 如果在$H^1({{\Bbb R}} ^3)$中, $u_n\rightarrow u$, 则在${\cal D}^{1, 2}({{\Bbb R}} ^3)$中, $\phi_{u_n} \rightarrow \phi_u$, 并且

定义$F:H^1({{\Bbb R}} ^3)\rightarrow {{\Bbb R}}$,

显然, 对任意的$y\in{{\Bbb R}} ^3$和$u\in H^1({{\Bbb R}} ^3)$, $F(u(\cdot+y)) = F(u)$. 另外, 类似于著名的Brezis-Lieb引理^[9], 我们有下面的引理.

引理2.2   假设在$H^1({{\Bbb R}} ^3)$中有$u_n\rightharpoonup u$, 且在${{\Bbb R}} ^3$中有$u_n\rightarrow u$ a.e., 则

(i) $F(u_n-u) = F(u_n)-F(u)+o(1)$;

(ii) 在$(H^1({{\Bbb R}} ^3))^{-1}$中, $F^\prime(u_n-u) = F^\prime(u_n)-F^\prime(u)+o(1)$.

类似于文献[8], 把$\phi = \phi_u$带入到(1.1) 中的第一个方程中, 可以得到一个非局部的半线性椭圆方程

相应的能量泛函

易证$I_{\lambda, \mu}$在$E$上良定义, 并且$I_{\lambda, \mu} \in C^1(E, {{\Bbb R}} ).$我们可以定义

引理2.3   对任意的$u\in {\cal N}_{\lambda, \mu}$, 存在与$\lambda$无关的$\sigma>0$, 使得

证  对任意的$u\in N_{\lambda, \mu}$, 假设$\|u\|_\lambda\leq 1$, 由(2.1) 式, 可以得到

那么第一个结果成立. 另一方面, 我们有

证毕.

引理2.4   对任意的$u\in E\setminus\{0\}$, 存在唯一的$t(u)>0$, 使得$t(u)u\in{\cal N}_{\lambda, \mu}$, 并且

证  对任意的$u\in E\setminus\left\{0\right \}$, 定义$g(t) = I_{\lambda, \mu}(tu), \ t\in[0, +\infty).$则

当$t>0$充分小时, $g(t)>0$; 当$t>0$充分大时, $g(t)<0$, 那么存在$t_0>0$, 使得

通过$g'(t_0) = 0$, 可得$t_0u\in {\cal N}_{\lambda, \mu}$.

假如存在$0<t_1<t_2$, 使得$t_1u\in {\cal N}_{\lambda, \mu}$, $t_2u\in {\cal N}_{\lambda, \mu}$. 那么

从而有

这导致了矛盾. 证毕.

引理2.5   对任意的$\lambda\geq 1$和$\mu>0$, 定义

其中

那么, $c_{\lambda, \mu} = c_{\lambda, \mu}^* = c_{\lambda, \mu}^{**}.$

证  分三步进行证明.

第一步  $c_{\lambda, \mu}^* = c_{\lambda, \mu}.$利用引理2.4, 有

第二步  $c_{\lambda, \mu}^*\geq c_{\lambda, \mu}^{**}.$利用引理2.4, 对任意的$u\in E\setminus\{0\}$, 存在充分大的$T$, 使得$I_{\lambda, \mu}(Tu)<0.$定义$\gamma(t) = tTu$, $t\in[0, 1]$. 那么$\gamma(t)\in \Gamma$, 从而有

所以$c_{\lambda, \mu}^*\geq c_{\lambda, \mu}^{**}$.

第三步  $c_{\lambda, \mu}^{**}\geq c_{\lambda, \mu}.$对任意的$u\in E\setminus \{0\}$, 当$\|u\|_\lambda$充分小时, 我们有

那么必定有$\gamma(t)\in \Gamma$与$N_{\lambda, \mu}$相交. 否则, 利用$\gamma(t)$的连续性, 用$\gamma(1)$代替$u$, (2.2) 式仍然成立, 从而可以得到

这与$\gamma(1)$的定义矛盾, 所以$c_{\lambda, \mu}^{**}\geq c_{\lambda, \mu}$. 证毕.

引理2.6  $I_{\lambda, \mu}$具有山路几何结构.

(1) 存在与$\lambda$无关的$a_0, r_0>0$使得当$u\in E$且$\|u\|_\lambda = r_0$时, $I_{\lambda, \mu}(u)\geq a_0$.

(2) 对任意的$u\in E\setminus\{0\}$, $\lim\limits_{t\to \infty}I_{\lambda, \mu}(tu) = -\infty.$

证  这个证明是标准的, 略去证明过程.

引理2.7  对任意的$\lambda\geq 1$, $\mu>0$, $c_{\lambda, \mu}< \frac{1}{3} S^{3/2}$.

证  这个证明是标准的, 略去证明过程.

引理2.8   $I_{\lambda, \mu}$的任意的$(PS)_{c_{\lambda, \mu}}$序列$\left\{u_n\right\}$是有界的, 并且

证  假设$\left\{u_n\right\}$是$I_{\lambda, \mu}$的$(PS)_{c_{\lambda, \mu}}$序列, 则有$I_{\lambda, \mu}(u_n)\to c_{\lambda, \mu}, I'_{\lambda, \mu}(u_n)\to 0 .$因此

从而有

那么$\left\{u_n\right\}$在$E$中是有界, 并且第二个结论成立. 证毕.

引理2.9   令$M>0$是个常数, 当$n\to\infty$时, $\lambda_n\rightarrow \infty$. 如果$\|u_n\|_{\lambda_n}\leq M$, 并且在$H^1({{\Bbb R}} ^3)$中有$u_n\rightharpoonup 0$, 那么$\lim\limits_{n\to \infty}\int_{{{\Bbb R}} ^3}|u_n|^{q}{\rm d}x = 0$, $2<q<6.$

证  对任意的$R>0$, 令

容易得到

和

利用内插不等式, 存在$\theta\in(0, 1)$, 使得

利用(2.3)和(2.4)式, 存在$C>0$, 使得

由假设$(V_2)$和(2.5)式, 对任意的$\epsilon>0,$存在$N_\epsilon, R_\epsilon>0$, 当$n\geq N_\epsilon$, $R\geq R_\epsilon$时, 有

固定$R_1>R_\epsilon$. 那么, 当$n\geq N_\epsilon$时, 我们有

由于在$H^1({{\Bbb R}} ^3)$中, $u_n\rightharpoonup 0$, 利用上述不等式可以得到

证毕.

为了给$c_{\lambda, \mu}$找一个新的上界, 我们需要研究"极限" 问题(1.3). 定义空间$H_0^1(\Omega)$的范数如下

相应的能量泛函

其中$F_0(u) = \frac{1}{4\pi}{{\int\!\!\!\int}}_{\Omega\times\Omega}\frac{u^2(x)u^2(y)}{|x-y|}{\rm d}x{\rm d}y$. 容易证明$I_{\mu}$在$H_0^1(\Omega)$上良定义, 并且$I_{\mu} \in C^1(H_0^1(\Omega), {{\Bbb R}} )$. 定义

注2.1   对于$c_{\mu}$, $I_{\mu}$, ${\cal N}_{\mu}$, 有类似于引理2.3到引理2.7的结果成立. 通过山路定理, 可以证明存在$u\in H_0^1(\Omega)$, 使得$I_{\mu}(u) = c_{\mu}$, $I'_{\mu}(u) = 0$.

引理2.10   对于$\lambda\geq 1$, $\mu>0$, $c_{\lambda, \mu}\leq c_{\mu}$.

证  对于$u\in {\cal N}_\mu$, 我们有

利用$V(x) = 0, x\in\Omega$, 以及$u = 0, x\in{{\Bbb R}} ^N\setminus\Omega,$上述等式可以写为

因此, $u\in {\cal N}_{\lambda, \mu}$. 另一方面, 我们有

从而, $c_{\lambda, \mu}\leq c_\mu$. 证毕.

推论2.1  由注2.1知, $c_\mu< \frac{1}{3}S^{\frac{3}{2}}$, 则对于$\lambda\geq 1$, $\mu>0$, 存在$\tau = \tau(\mu)>0,$使得$c_{\lambda, \mu}< \frac{1}{3}S^{\frac{3}{2}}-\tau$.

引理2.11   存在$\lambda^*>0$, 当$\lambda\geq\lambda^*$时, 对任意的$d_\lambda\in(0, \frac{1}{3}S^{\frac{3}{2}}-\tau)$, $I_{\lambda, \mu}$满足$(PS)_{d_\lambda}$条件.

证  令$\left\{u_n\right\}$是$I_{\lambda, \mu}$的$(PS)_{d_\lambda}$序列, 满足$I_{\lambda, \mu}(u_n)\to d_\lambda, I'_{\lambda, \mu}(u_n)\to 0.$利用引理2.8, $\left\{u_n\right\}$在$E$中有界. 因此, 存在$u\in E$, 在$E$中, $u_n\rightharpoonup u$, 在${{\Bbb R}} ^3$中, $u_n\to u, \hbox{a.e.}$, 在$L^{q}({{\Bbb R}} ^3), 2\leq q \leq 6$中, $u_n\rightharpoonup u$. 定义$v_n = u_n-u$. 利用引理2.2, $\{v_n\}$也是$I_{\lambda, \mu}$的$PS$序列, 并且$I_{\lambda, \mu}(v_n)\to d_\lambda-I_{\lambda, \mu}(u), I'_{\lambda, \mu}(v_n)\to 0,$则有

利用$\left\{v_n\right\}$的有界性, 可以假设

从而

如果$L^{(1)}_\lambda = 0$, 则$v_n\rightarrow 0$, 由此可以得到, 在$E$中, $u_n\rightarrow u$. 以下我们证明当$\lambda$充分大时, $L^{(1)}_\lambda = 0.$否则, 假设$\mu\int_{{{\Bbb R}} ^3}|v_n|^{p}{\rm d}x\to A_\lambda, \int_{{{\Bbb R}} ^3}|v_n|^6\to B_\lambda.$从而可以得到

类似于引理2.9的证明, 当$\lambda\rightarrow \infty$时, $A_\lambda = o_\lambda(1)$, $L^{(2)}_\lambda = o_\lambda(1)$. 所以

利用(2.7)式, 存在$C>0$, 使得

如果$L^{(1)}_\lambda\leq1,$在上述不等式中, 令$n\to \infty$, 则

因此, 存在与$\lambda$无关的$C>0$, 使得

利用$S$的定义, 我们有

令$n\to \infty$, 则

利用(2.11)–(2.13)式, 可以得到

由$I_{\lambda, \mu}(v_n)\to d_\lambda-I_{\lambda, \mu}(u)$, 我们有

令$n\rightarrow \infty$, 可以得到

注意$I'_{\lambda, \mu}(u) = 0$, 利用引理2.3, 可以得到$I_{\lambda, \mu}(u)\geq 0$. 从而

这是矛盾的. 证毕.

推论2.2   存在$\lambda^*>0$, 当$\lambda\geq\lambda^*$时, 对于$d_\lambda\in (0, \frac{1}{3}S^{\frac{3}{2}}-\tau)$, $I_{\lambda, \mu}$在${\cal N}_{\lambda, \mu}$上满足$(PS)_{d_\lambda}$条件.

引理2.12   如果$u$是$I_{\lambda, \mu}$在${\cal N}_{\lambda, \mu}$上的临界点, 则$u$是$I_{\lambda, \mu}$在$E$上的临界点.

证  这个证明是标准的, 略去证明过程.

引理3.1   当$\lambda$充分大时, 问题(1.1) 至少有一个基态解.

证  利用引理2.5和引理2.6, $I_{\lambda, \mu}$存在$(PS)_{c_{\lambda, \mu}}$序列$\left\{u_n\right\}$. 因此, 利用推论2.1和引理2.11, 当$\lambda$充分大时, 在子列意义下, 在$E$中, $u_n\rightarrow u$. 从而, $I_{\lambda, \mu}(u) = c_{\lambda, \mu}$, $I'_{\lambda, \mu}(u) = 0.$

定理1.1的证明   由引理3.1, 存在$u_n\in {\cal N}_{\lambda_n, \mu}$, 使得$I_{\lambda_n, \mu}(u_n) = c_{\lambda_n, \mu}$, $I'_{\lambda_n, \mu}(u_n) = 0$. 由引理2.8和引理2.10知, 存在$C>0$, 使得$\|u_n\|_{\lambda_n}\leq C.$因此, 注意到(2.1)式, 存在$u\in H^1({{\Bbb R}} ^3)$, 在$E$中, $u_n\rightharpoonup u$, 在${{\Bbb R}} ^3$中, $u_n\to u, \hbox{a.e.}$, 在$L^{q}({{\Bbb R}} ^3), 2\leq q \leq 6$中, $u_n\rightharpoonup u$.

第一步  $u|_{\Omega^c} = 0$, 其中$\Omega^c: = \{x\ |\ x\in{{\Bbb R}} ^3\setminus \Omega\}.$

否则, 存在测度不为零的紧子集$F\subset \Omega^c$, 满足$dist\{F, \partial\Omega\}>0$和$u|_F\neq 0$, 则$\int_{F}u^2_n{\rm d}x\to \int_F u^2{\rm d}x>0.$另外, 存在$\epsilon_0>0$, 使得$V(x)\geq \epsilon_0, x\in F.$

由$u_n$的选择知

因此

当$n\to\infty$时, $I_{\lambda_n, \mu}(u_n)\to\infty$, 这与引理2.7矛盾, 因此$u|_{\Omega^c} = 0$. 注意到$\Omega$为光滑区域, 从而$u \in H_0^1(\Omega)$.

第二步  $u\neq0.$

若不然, 利用引理2.9, 我们有$\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x = o_n(1)$, $F(u_n) = o_n(1)$. 由(3.1) 式知

假设$\|u_n\|^2_{\lambda_n}\to b, \ \int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x\to b.$利用引理2.3, $b\neq 0$. 由$S$的定义, 可以得到

令$n\to \infty$, 我们有$S^{\frac{3}{2}}\leq b$. 因此, 利用注2.1可以得到

这是矛盾的.

第三步  $I'_\mu(u) = 0.$

任取测试函数$\varphi\in {\cal C}_0^\infty(\Omega)$, 由$u_n$的选择知, $\langle I'_{\lambda_{n}, \mu}(u_n), \varphi\rangle = 0$. 因此有

令$n\to\infty$, 注意到$V(x) = 0, x\in\Omega$, 我们有

这意味着$\langle I'_\mu(u), \varphi\rangle = 0.$

第四步  $I_\mu(u) = c_\mu$.

由第三步的讨论知$u\in N_\mu$, 因此$I_\mu(u)\geq c_\mu$. 从而

因此, $I_\mu(u) = c_\mu$. 另外, 从上面的证明知

第五步  在$H^1({{\Bbb R}} ^3)$中, $u_n\rightarrow u$.

事实上, 从第四步的证明知, 在子列的意义下, 我们有

因此, $\|u_n-u\|_{\lambda_n}\to 0$. 从而有$\|u_n-u\|\to 0$. 定理1.1证毕.

为了研究$c_{\mu}$的性质, 需要分析$H_0^1(\Omega)$上面的能量泛函

可以定义

注4.1   对于$c_0$, $I_0$, ${\cal N}_0$, 有类似于从引理2.3到引理2.6的结果.

我们还需要空间$H_{0, rad}^1(B_r(0)): = \{u\in H_{0}^1(B_r(0))\ |\ u \ \mbox{关于原点径向对称}\}$, 其范数

对于$u\in H_{0, rad}^1(B_r(0))$, 引入能量泛函

其中$F_{0, r}(u) = \frac{1}{4\pi}{{\int\!\!\!\int}}_{B_r(0)\times B_r(0)}\frac{u^2(x)u^2(y)}{|x-y|}{\rm d}x{\rm d}y$. 类似地, 可以定义

和

注4.2   对于$c_{\mu, r}$, $I_{\mu, r}$, ${\cal N}_{\mu, r}$, 有类似于从引理2.3到引理2.7的结果. 利用山路定理, 可以证明存在$u\in H_{0, rad}^1(B_r(0))$, 使得$I_{\mu, r}(u) = c_{\mu, r}$和$I'_{\mu, r}(u) = 0$.

引理4.1   $\lim\limits_{\mu\to 0}c_{\mu} = c_0.$

证  只需要证明, 对任意的$\mu_n\to 0$, 有$\lim\limits_{n\to \infty}c_{\mu_n} = c_0$. 事实上, 利用$c_{\mu_n}$和$c_0$的定义, 可以得到$c_{\mu_n}\leq c_0$. 那么

另一方面, 利用注2.1, 存在$u_n\in H_0^1(\Omega)$, 使得$I_{\mu_n}(u_n) = c_{\mu_n}, \ I'_{\mu_n}(u_n) = 0$. 从注2.1知, 存在$t_n>0$, 满足$t_nu_n\in N_0$, 那么

因此

如果$t_n$是有界的, 我们有

则由(4.1)和(4.2)式可以得到结论.

现在证明$\{t_n\}$的有界性. 否则, $t_n\to \infty$. 由$u_n$的选择, 以及$c_{\mu_n}<\frac{1}{3}S^{\frac{3}{2}}$, 可以得到$\|u_n\|_0$是有界的. 因为$t_nu_n\in N_0$, 我们有

因此

利用$I'_{\mu_n}(u_n) = 0$, 可以得到

由(4.3) 式可以得到$\|u_n\|^2_0 = o_n(1)$. 从而$c_{\mu_n}\to 0$, 导出矛盾. 证毕.

引理4.2   $c_0 = \frac{1}{3}S^{3/2}.$

证  类似于引理2.7的证明, 可以得到$c_0\leq \frac{1}{3}S^{3/2}+o_\epsilon(1),$取极限, 则有$c_0\leq \frac{1}{3}S^{3/2}$. 另一方面, 存在$\{u_n\}\subset H_0^1(\Omega)$, 使得$I_{0}(u_n)\to c_{0}, \quad I'_{0}(u_n)\to 0.$利用$I'_{0}(u_n)\to 0$, 有

假设$\|u_n\|^2_0\to l_1, F_0(u_n)\to l_2, \int_{\Omega}|u_n|^{6}{\rm d}x\to l_3$, 那么, 我们有

利用$S$的定义, 可以得到$S(\int_{\Omega}|u_n|^{6}{\rm d}x)^{\frac{1}{3}}\leq\|u_n\|^2_0.$令$n\to \infty$, 则有

利用(4.4)和(4.5)式, 我们有

由$I_{0}(u_n)\to c_{0}$, 可以得到

注意到(4.6)式, 从上述不等式就可以得到$c_0\geq \frac{1}{3}S^{3/2}.$证毕.

引理4.3   对任意充分小的$r>0$, $\lim\limits_{\mu\to 0}c_{\mu} = \lim\limits_{\mu\to 0}c_{\mu, r} = \frac{1}{3}S^{3/2}.$

证  由引理4.1和引理4.2知$\lim\limits_{\mu\to 0}c_{\mu} = \frac{1}{3}S^{3/2}.$利用$c_{\mu, r}$的定义, 有

由于上述式子中最后一项不小于$c_\mu$, 则可以得到

另一方面, 类似于引理2.7的证明, 可以得到$c_{\mu, r}< \frac{1}{3}S^{3/2}.$从而有

因此, 对任意充分小的$r>0$, $\lim\limits_{\mu\to 0}c_{\mu, r} = \frac{1}{3}S^{3/2}.$证毕.

因为$\Omega$是光滑有界区域, 可以固定充分小的$r>0$, 使得

和

与$\Omega$同伦等价. 另外, 可以假设$B_r(0)\subset \Omega$.

对于$0\neq u\in L^6(\Omega)$, 定义

引理4.4  存在$\mu^*>0$, 当$\mu\in (0, \mu^*)$, $u\in {\cal N}_\mu$满足$I_\mu(u)\leq c_{\mu, r}+o_\mu(1)$时, 那么$\beta_0(u)\in \Omega^+_{r/2}$.

证  利用反证法. 假设存在$\mu_n\to 0$, $u_n\in {\cal N}_{\mu_n}$, $I_{\mu_n}(u_n)\leq c_{\mu_n, r}+o_n(1)$, 使得$\beta_0(u_n)\notin \Omega^+_{r/2}$. 利用$u_n\in {\cal N}_{\mu_n}$和$I_{\mu_n}(u_n)\leq c_{\mu_n, r}+o_n(1)$, 可以得到$\{u_n\}$在$H_0^1(\Omega)$中是有界的. 由$u_n\in {\cal N}_{\mu_n}$知

因此, 注意到$\mu_n\to 0$, 有

假设$\|u_n\|^2_0\to l_1$, $\int_{\Omega}|u_n|^{6}{\rm d}x\to l_2$, 则利用引理4.3, 有

利用$S$的定义, 可以得到$S(\int_{\Omega}|u_n|^{6}{\rm d}x)^{\frac{1}{3}}\leq\|u_n\|^2_0.$令$n\to \infty$, 我们有

由(4.7)式, 可以得到$\|u_n\|^2_0\leq\int_{\Omega}|u_n|^{6}{\rm d}x+o_n(1).$从而

利用(4.8)–(4.10)式, 可以得到$l_2 = l_1 = S^{3/2}$.

定义

那我们有$\int_{\Omega}|\omega_n|^{6}{\rm d}x = 1$, $\int_{\Omega}|\nabla\omega_n|^{6}{\rm d}x\to S.$由文献[2] 中的引理3.1知, 存在$(y_n, \lambda_n)\in{{\Bbb R}} ^N\times{{\Bbb R}} ^+$, 满足$\lambda_n\to 0$, $y_n\to y\in \bar{\Omega}$, 使得在$D^{1, 2}({{\Bbb R}} ^3)$中, 当$n\to\infty$时, 有

假设$\phi\in C_0^\infty({{\Bbb R}} ^3)$, 满足$\phi(x) = x$, $x\in \Omega$. 那么有

则有

这与我们的假设矛盾. 引理4.4证毕.

像文献[6], 选择$R>2\mbox{diam}(\Omega)$, 使得$\Omega\subset B_R(0)$. 定义

对于$u\in L^6({{\Bbb R}} ^3)\setminus\{0\}$, 定义

引理4.5   存在$\lambda^*>0$, $\mu^*>0$, 当$u\in {\cal N}_{\lambda, \mu}$, $I_{\lambda, \mu}(u)\leq c_{\mu, r}$时, 对任意的$\lambda\geq\lambda^*$, $\mu<\mu^*$, 那么$\beta(u)\in\Omega^+_r$.

证  反证. 假设对任意充分小的$\mu$, 存在$\lambda_n\to\infty$, $u_n\in {\cal N}_{\lambda_n, \mu}$, 满足$I_{\lambda_n, \mu}(u_n)\leq c_{\mu, r}$, 但是$\beta(u_n)\notin \Omega^+_r.$易证$\{\|u_n\|_{\lambda_n}\}$是有界的. 利用定理$1.1$中证明的  第一步, 可以得到$u\in H^1_0(\Omega)$, 在$E$中, $u_n\rightharpoonup u$, 在${{\Bbb R}} ^3$中, $u_n\to u, \hbox{a.e.}$, 在$L^{q}({{\Bbb R}} ^3), 2\leq q \leq 6$中, $u_n\rightharpoonup u$. 利用引理2.9, 则在$L^{q}({{\Bbb R}} ^3), \ 2< q < 6$中, $u_n\to u.$令$v_n = u_n-u$, 注意到$u_n\in {\cal N}_{\lambda_n, \mu}$, 则有

以下, 分两种情况.

情况1   $\mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x+\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x\leq F(u)+\int_{{{\Bbb R}} ^3}|\nabla u|^{2}{\rm d}x$.

利用(4.11)式, 则有

那么必定有$\int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x\to 0$. 否则, 存在$b>0$, 使得

利用$S$的定义, 以及(4.12)式, 我们有

因此, 利用(4.13)式, 可以得到$b\geq S^{\frac{3}{2}}$.

另一方面, 注意到$u_n\in {\cal N}_{\lambda_n, \mu}$, 有

由$I_{\lambda_n, \mu}(u_n)\leq c_{\mu, r}$和(4.13)式, 可以得到

从而有$c_{\mu, r}\geq\frac{1}{3}S^{\frac{3}{2}}$, 这是不对的. 因此, 在$L^6({{\Bbb R}} ^3)$中, $u_n\to u$, 则可以得到$\beta(u_n)\to\beta(u) = \beta_0(u)$. 利用(4.12)式, 我们有$u\in {\cal N}_\mu$, $I_{\mu}(u) = \lim\limits_{n\to\infty}I_{\lambda_n, \mu}(u_n)\leq c_{\mu, r}$. 再利用引理4.4, 则有$\beta(u)\in \Omega^+_{r/2}$, 这与我们的假设$\beta(u_n)\notin \Omega^+_r$矛盾.

情况2   $\mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x+\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x> F(u)+\int_{{{\Bbb R}} ^3}|\nabla u|^{2}{\rm d}x$.

在这种情况下, 存在$t_\mu\in(0, 1)$, 使得$t_\mu u\in {\cal N}_\mu$, 从而有

利用$u_n\in {\cal N}_{\lambda_n, \mu}$, 则有

因此

那么, 利用引理4.3, 我们有$t_\mu = 1+o_\mu(1)$. 从而有

注意到在$H^1({{\Bbb R}} ^3)$中, $u_n\rightharpoonup u$, 利用(4.15)式, 则有

所以有

那么, 对充分小的$\mu$和充分大的$n$, 我们有

利用$I_{\lambda_n, \mu}(u_n)\leq c_{\mu, r}$, 易知$I_{\mu}(t_\mu u)\leq c_{\mu, r}+o_\mu(1)$. 因此, 利用引理4.4, 可以得到$\beta(t_\mu u) = \beta_0(t_\mu u)\in \Omega^+_{r/2}$, 这与我们的假设$\beta(u_n)\notin \Omega^+_r$矛盾. 引理4.5证毕.

引理5.1^[11]   假设$I$是定义在$C^1$ Finsler流形$M$上的$C^1$泛函. 如果$I$下方有界并且满足$(PS)$条件, 那么$I$至少有$cat_MM$不同的临界点.

引理5.2^[7]   假设$\Gamma, \Omega^+, \Omega^-$是闭子集, 满足$\Omega^-\subset\Omega^+$, $\Phi:\Omega^-\rightarrow \Gamma,$$\beta:\Gamma\rightarrow \Omega^+$是两个连续映射, 使得$\beta\circ\Phi$与单位映射$Id:\Omega^-\rightarrow \Omega^+$同伦等价, 那么$cat_\Gamma\Gamma\geq cat_{\Omega^+}\Omega^-$.

定义$u_r\in H^1_0(B_r(0))$是泛函$I_{\mu, r}$的一个临界点, 满足

定义$\Psi_r\ :\ \Omega^-_r\to H^1_0(\Omega)$,

它是连续的, 并且满足

另外

定理1.2的证明   对于$\lambda>\lambda^*$和$\mu<\mu^*$, 定义两个映射

其中$I^{c_{\mu, r}}_{\lambda, \mu} = \{u\in {\cal N}_{\lambda, \mu}\ |\ I_{\lambda, \mu}\leq c_{\mu, r}\}$. 利用引理4.5和(5.2)式, 这两个定义是良好的. 因为对于$c\leq c_{\mu, r}$, $I_{\lambda, \mu}$在${\cal N}_{\lambda, \mu}$上满足$(PS)_c$条件. 利用引理5.1, $I_{\lambda, \mu}$在${\cal N}_{\lambda, \mu}$上至少有$cat_{I^{c_{\mu, r}}_{\lambda, \mu}} (I^{c_{\mu, r}}_{\lambda, \mu})$个临界点. 那么, (5.1) 式和引理5.2确保了$I_{\lambda, \mu}$在${\cal N}_{\lambda, \mu}$上至少有$cat_{\Omega^+_r} (\Omega^-_r)$个临界点, 从而, 在$E$上至少有$cat_{\overline{\Omega}} (\overline{\Omega})$个临界点. 因此, 问题(1.1) 至少有$cat_{\overline{\Omega}} (\overline{\Omega})$个解. 定理1.2证毕.