本文主要研究如下临界薛定谔-泊松方程

(1.1) $ \begin{equation} \left\{\begin{array}{ll} -\Delta u+\lambda V(x)u+\phi u = \mu |u|^{p-2}u+|u|^{4}u, & \quad x\in {{\Bbb R}} ^3, \\ -\Delta \phi = u^2, &\quad x\in {{\Bbb R}} ^3, \\ \end{array}\right. \end{equation} $

其中$ \lambda>0, \mu>0 $是两个参数, $ p\in(4, 6) $, $ V $满足以下假设:

($ V_1 $) $ V(x) $是$ {{\Bbb R}} ^3 $上的连续函数, 并且$ V(x)\geq0 $, $ x\in{{\Bbb R}} ^3 $.

($ V_2 $) 存在常数$ M_0>0 $使得集合$ A: = \{x\in{{\Bbb R}} ^3: V(x)\leq M_0\} $非空, 并且其Lebesgue测度$ m(A)<\infty $.

($ V_3 $) $ \Omega: = int\{V^{-1}(0)\} $是一个非空光滑有界区域, 并且$ \bar{\Omega} = V^{-1}(0) $. 不失一般性, 假设$ 0\in\Omega $.

在(1.1) 式中, 第一个方程是非线性薛定谔方程, 其中函数$ \phi $满足第二个泊松方程, 因此上述方程一般被称为薛定谔-泊松方程. 这类方程与如下形式的薛定谔方程的驻波解$ e^{-{\rm i}Et}u(x) $有关

(1.2) $ \begin{equation} {\rm i}\frac{\partial \Psi}{\partial t} = -\Delta\Psi+\widetilde{V}(x)\Psi-f(|\Psi|), \ \ x\in {{\Bbb R}} ^3 \times {{\Bbb R}} , \end{equation} $

其中$ \widetilde{V}(x) = V(x)+E $, $ f(\exp({\rm i}\theta)\xi) = \exp({\rm i}\theta)f(\xi) $, $ \theta, \xi\in{{\Bbb R}} $. 有关这方面的内容, 可以参见文献[3, 8, 10, 14-15, 17, 20-21].

深井位势条件$ (V_1) $–$ (V_3) $由Bartsch和Wang^[5]提出, 当$ \lambda\rightarrow \infty $时, 这些条件可以使解集中在势井的底部. 近年来, 带有深井位势的薛定谔方程吸引着广大数学工作者的研究兴趣, 在$ f $满足不同的增长条件下, 许多结果得以建立^{[4, 13, 19, 22]}. 对于临界问题, Clapp等^[12]研究了高维情况下的薛定谔方程, 得到了多重正解的存在性定理. 对于任意$ N\geq3 $的维数, Alves等^[1]讨论了薛定谔方程正解个数与势井底部的拓扑关系. 特别地, 在次临界的条件下, 当位势分别是正的和变号的情况下, Jiang等^[16]和Zhao等^[24]研究了泊松薛定谔方程的解的存在性和解的渐近行为. 据我们所知, 对于带有深井位势的临界薛定谔泊松方程, 问题(1.1) 还没有结果. 在上述参考文献的启发下, 我们将讨论基态解的存在性及其渐近行为, 另外, 利用Ljusternik-Schnirelman理论, 解的多重性结果也的得以建立.

我们的主要结果如下：

定理1.1  在条件$ (V_1) $–$ (V_3) $下, 当$ \lambda>0 $充分大时, 方程(1.1) 至少有一个基态解$ u_{\lambda} $. 对任意的$ \lambda_n $, 当$ \lambda_n\to +\infty $时, $ \{u_{\lambda_n}\} $有一个子列在$ H^1({{\Bbb R}} ^3) $中收敛到$ u $, 并且$ u $是如下极限方程的基态解

(1.3) $ \begin{equation} \left\{\begin{array}{ll} -\Delta u+\phi u = \mu |u|^{p-2}u+|u|^{4}u, & \quad x\in \Omega, \\ -\Delta \phi = u^2, &\quad x\in \Omega.\\ \end{array}\right. \end{equation} $

定理1.2  在条件$ (V_1) $–$ (V_3) $下, 存在$ \lambda^* $, $ \mu^*>0 $, 使得当$ \lambda\geq\lambda^* $, $ \mu\leq\mu^* $时, 方程(1.1) 至少有$ {\rm cat}_{\bar{\Omega}}(\bar{\Omega}) $个解.

首先给出一些记号. $ B_{R}(x) $表示中心在$ x\in{{\Bbb R}} ^3 $半径为$ R>0 $的开球. $ C>0 $表示各种常数. $ L^p({{\Bbb R}} ^3) $ ($ 1\leq p<+\infty $) 表示Lebesgue空间, 其范数定义为

$ |u|_p = \Big(\int_{{{\Bbb R}} ^3}|u|^p{\rm d}x\Big)^{\frac{1}{p}}. $

Sobolev空间$ H^1({{\Bbb R}} ^3) $的范数为

$ \|u\| = \Big(\int_{{{\Bbb R}} ^3}(|\nabla u|^2+u^2){\rm d}x\Big)^{1/2}. $

令

$ E = \Big\{u\in H^1({{\Bbb R}} ^3)\ |\ \int_{{{\Bbb R}} ^3}V(x)u^2{\rm d}x<\infty\Big\}, $

其内积和范数分别记

$ (u, v)_\lambda = \int_{{{\Bbb R}} ^3}(\nabla u\nabla v+\lambda V(x)uv){\rm d}x\ \ \ \mbox{和}\ \ \ \|u\|_\lambda = \Big(\int_{{{\Bbb R}} ^3}(|\nabla u|^2+\lambda V(x)u^2){\rm d}x\Big)^{1/2}. $

条件$ (V_1) $和$ (V_2) $保证了$ E $是一个Hilbert空间^[23]. 不失一般性, 本文假设$ \lambda\geq 1 $. 则对任意的$ u\in E $, 存在$ \kappa>0 $, 使得

(2.1) $ \begin{equation} \|u\|_\lambda\geq\kappa\|u\|. \end{equation} $

空间$ {\cal D}^{1, 2}({{\Bbb R}} ^3) $是$ {\cal C}_0^\infty({{\Bbb R}} ^3) $关于范数$ \big(\int_{{{\Bbb R}} ^3}(|\nabla u|^2{\rm d}x\big)^{\frac{1}{2}} $的完备空间. 对$ u\in H^1({{\Bbb R}} ^3) $, 存在唯一的$ \phi_u\in {\cal D}^{1, 2}({{\Bbb R}} ^3) $是下述方程的解

$ -\Delta\phi = u^2, \ \ \ x\in {{\Bbb R}} ^3. $

对于$ \phi_u $, 可以用以下积分形式表示

$ \begin{eqnarray*} \phi_u(x) = \frac{1}{4\pi}\int_{{{\Bbb R}} ^3}\frac{ u^2(y)}{|x-y|}{\rm d}y, \quad x\in {{\Bbb R}} ^3, \end{eqnarray*} $

这种形式被称为Riesz位势^[18]. 关于上述解$ \phi_u $, 我们有如下一些后文需要用到的引理^[25].

引理2.1   对任意的$ u\in H^1({{\Bbb R}} ^3) $,

(i) $ \phi_u\geq0 $;

(ii) $ \phi_u:H^1({{\Bbb R}} ^3)\rightarrow {\cal D}^{1, 2}({{\Bbb R}} ^3) $是连续的, 并且把有界集映成有界集;

(iii) $ \|\phi_u\|^2_{D^{1, 2}({{\Bbb R}} ^3)} = \int_{{{\Bbb R}} ^3}\phi_u u^2{\rm d}x\leq C|u|_{\frac{12}{5}}^4 $;

(iv) 如果在$ H^1({{\Bbb R}} ^3) $中, $ u_n\rightharpoonup u $, 则在$ {\cal D}^{1, 2}({{\Bbb R}} ^3) $中, $ \phi_{u_n} \rightharpoonup \phi_u $;

(v) 如果在$ H^1({{\Bbb R}} ^3) $中, $ u_n\rightarrow u $, 则在$ {\cal D}^{1, 2}({{\Bbb R}} ^3) $中, $ \phi_{u_n} \rightarrow \phi_u $, 并且

$ \int_{{{\Bbb R}} ^3}\phi_{u_n}u_n^2{\rm d}x\rightarrow \int_{{{\Bbb R}} ^3}\phi_u u^2{\rm d}x. $

定义$ F:H^1({{\Bbb R}} ^3)\rightarrow {{\Bbb R}} $,

$ F(u) = \int_{{{\Bbb R}} ^3}\phi_u u^2{\rm d}x. $

显然, 对任意的$ y\in{{\Bbb R}} ^3 $和$ u\in H^1({{\Bbb R}} ^3) $, $ F(u(\cdot+y)) = F(u) $. 另外, 类似于著名的Brezis-Lieb引理^[9], 我们有下面的引理.

引理2.2   假设在$ H^1({{\Bbb R}} ^3) $中有$ u_n\rightharpoonup u $, 且在$ {{\Bbb R}} ^3 $中有$ u_n\rightarrow u $ a.e., 则

(i) $ F(u_n-u) = F(u_n)-F(u)+o(1) $;

(ii) 在$ (H^1({{\Bbb R}} ^3))^{-1} $中, $ F^\prime(u_n-u) = F^\prime(u_n)-F^\prime(u)+o(1) $.

类似于文献[8], 把$ \phi = \phi_u $带入到(1.1) 中的第一个方程中, 可以得到一个非局部的半线性椭圆方程

$ -\Delta u+\lambda V(x)u+\phi_u u = \mu |u|^{p-2}u+|u|^{4}u, \; \; \ x\in{{\Bbb R}} ^3. $

相应的能量泛函

$ \begin{eqnarray*} I_{\lambda, \mu}(u) = \frac{1}{2}\|u\|^2_\lambda+\frac{1}{4}F(u)-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x-\frac{1}{6}\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x. \end{eqnarray*} $

易证$ I_{\lambda, \mu} $在$ E $上良定义, 并且$ I_{\lambda, \mu} \in C^1(E, {{\Bbb R}} ). $我们可以定义

$ \begin{eqnarray*} {\cal N}_{\lambda, \mu} = \{u\in E\setminus \{0\}\ |\ \langle I'_{\lambda, \mu}(u), u\rangle = 0\}. \end{eqnarray*} $

引理2.3   对任意的$ u\in {\cal N}_{\lambda, \mu} $, 存在与$ \lambda $无关的$ \sigma>0 $, 使得

$ \begin{eqnarray*} \|u\|_\lambda>\sigma \quad\mbox{和}\quad I_{\lambda, \mu}(u)\geq\frac{p-2}{2p}\sigma^2. \end{eqnarray*} $

证  对任意的$ u\in N_{\lambda, \mu} $, 假设$ \|u\|_\lambda\leq 1 $, 由(2.1) 式, 可以得到

$ \begin{eqnarray*} \|u\|^2_\lambda+F(u) = \mu\int_{{{\Bbb R}} ^3} |u|^p{\rm d}x+\int_{{{\Bbb R}} ^3}|u|^6{\rm d}x\leq C(\|u\|^p_\lambda+\|u\|^6_\lambda). \end{eqnarray*} $

那么第一个结果成立. 另一方面, 我们有

$ \begin{eqnarray*} I_{\lambda, \mu}(u)& = &\frac{1}{2}\|u\|^2_\lambda+\frac{1}{4}F(u)-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x-\frac{1}{6}\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x\\ &\geq&\frac{1}{2}\|u\|^2_\lambda+\frac{1}{4}F(u)-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x-\frac{1}{p}\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x\\ & = &\frac{1}{2}\|u\|^2_\lambda+\frac{1}{4}F(u)-\frac{1}{p}(\|u\|^2_\lambda+F(u))\\ &\geq&(\frac{1}{2}-\frac{1}{p})\|u\|^2_\lambda\geq\frac{p-2}{2p}\sigma^2. \end{eqnarray*} $

证毕.

引理2.4   对任意的$ u\in E\setminus\{0\} $, 存在唯一的$ t(u)>0 $, 使得$ t(u)u\in{\cal N}_{\lambda, \mu} $, 并且

$ I_{\lambda, \mu}(t(u)u) = \max\limits_{t\geq0}I_{\lambda, \mu}(tu). $

证  对任意的$ u\in E\setminus\left\{0\right \} $, 定义$ g(t) = I_{\lambda, \mu}(tu), \ t\in[0, +\infty). $则

$ g(t) = \frac{t^2}{2}\|u\|^2_\lambda+\frac{t^4}{4}F(u)-\frac{t^p\mu}{p}\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x-\frac{t^6}{6}\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x. $

当$ t>0 $充分小时, $ g(t)>0 $; 当$ t>0 $充分大时, $ g(t)<0 $, 那么存在$ t_0>0 $, 使得

$ g'(t_0) = 0\quad \hbox{和}\quad g(t_0) = \max\limits_{t\geq 0}g(t) = \max\limits_{t\geq 0}I_{\lambda, \mu}(tu). $

通过$ g'(t_0) = 0 $, 可得$ t_0u\in {\cal N}_{\lambda, \mu} $.

假如存在$ 0<t_1<t_2 $, 使得$ t_1u\in {\cal N}_{\lambda, \mu} $, $ t_2u\in {\cal N}_{\lambda, \mu} $. 那么

$ \frac{1}{t_1^2}\|u\|^2_{\lambda}+F(u) = t_1^{p-4}\mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x+t_1^2\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x, $

$ \frac{1}{t_2^2}\|u\|^2_{\lambda}+F(u) = t_2^{p-4}\mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x+t_2^2\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x. $

从而有

$ (\frac{1}{t_1^2}-\frac{1}{t_2^2})\|u\|^2_{\lambda} = (t_1^{p-4}-t_2^{p-4})\mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x+(t_1^2-t_2^2)\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x, $

这导致了矛盾. 证毕.

引理2.5   对任意的$ \lambda\geq 1 $和$ \mu>0 $, 定义

$ c_{\lambda, \mu} = \inf\limits_{u\in {\cal N}_{\lambda, \mu}}I_{\lambda, \mu}(u), \quad c_{\lambda, \mu}^* = \inf\limits_{u\in E\setminus\{0\}}\max\limits_{t\geq0}I_{\lambda, \mu}(tv), \quad c_{\lambda, \mu}^{**} = \inf\limits_{\gamma\in \Gamma}\sup\limits_{t\in [0, 1]}I_{\lambda, \mu}(\gamma(t)), $

其中

$ \Gamma = \{\gamma(t)\in C([0, 1], E)\ |\ \gamma(0) = 0, \ I_{\lambda, \mu}(\gamma(1))<0\}. $

那么, $ c_{\lambda, \mu} = c_{\lambda, \mu}^* = c_{\lambda, \mu}^{**}. $

证  分三步进行证明.

第一步  $ c_{\lambda, \mu}^* = c_{\lambda, \mu}. $利用引理2.4, 有

$ c_{\lambda, \mu}^* = \inf\limits_{u\in E\setminus\{0\}}\max\limits_{t\geq0}I_{\lambda, \mu}(tu) = \inf\limits_{u\in E\setminus\{0\}}I_{\lambda, \mu}(t(u)u) = \inf\limits_{u\in {\cal N}_{\lambda, \mu}}I_{\lambda, \mu}(u) = c_{\lambda, \mu}. $

第二步  $ c_{\lambda, \mu}^*\geq c_{\lambda, \mu}^{**}. $利用引理2.4, 对任意的$ u\in E\setminus\{0\} $, 存在充分大的$ T $, 使得$ I_{\lambda, \mu}(Tu)<0. $定义$ \gamma(t) = tTu $, $ t\in[0, 1] $. 那么$ \gamma(t)\in \Gamma $, 从而有

$ c_{\lambda, \mu}^{**} = \inf\limits_{\gamma\in \Gamma}\sup\limits_{t\in [0, 1]}I_{\lambda, \mu}(\gamma(t))\leq \sup\limits_{t\in [0, 1]}I_{\lambda, \mu}(\gamma(t))\leq \max\limits_{t\geq0}I_{\lambda, \mu}(tu). $

所以$ c_{\lambda, \mu}^*\geq c_{\lambda, \mu}^{**} $.

第三步  $ c_{\lambda, \mu}^{**}\geq c_{\lambda, \mu}. $对任意的$ u\in E\setminus \{0\} $, 当$ \|u\|_\lambda $充分小时, 我们有

(2.2) $ \begin{equation} \|u\|^2_\lambda+F(u)>\mu\int_{{{\Bbb R}} ^3}|u|^p{\rm d}x+\int_{{{\Bbb R}} ^3}|u|^6{\rm d}x. \end{equation} $

那么必定有$ \gamma(t)\in \Gamma $与$ N_{\lambda, \mu} $相交. 否则, 利用$ \gamma(t) $的连续性, 用$ \gamma(1) $代替$ u $, (2.2) 式仍然成立, 从而可以得到

$ \begin{eqnarray*} I_{\lambda, \mu}(\gamma(1))& = &\frac{1}{2}\|\gamma(1)\|^2_\lambda+\frac{1}{4}F(\gamma(1))-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|\gamma(1)|^{p}{\rm d}x-\frac{1}{6}\int_{{{\Bbb R}} ^3}|\gamma(1)|^{6}{\rm d}x\\ &\geq&\frac{1}{2}\|\gamma(1)\|^2_\lambda+\frac{1}{4}F(\gamma(1))-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|\gamma(1)|^{p}{\rm d}x-\frac{1}{p}\int_{{{\Bbb R}} ^3}|\gamma(1)|^{6}{\rm d}x\\ &\geq&\frac{1}{2}\|\gamma(1)\|^2_\lambda+\frac{1}{4}F(\gamma(1))-\frac{1}{p}(\|\gamma(1)\|^2_\lambda+F(\gamma(1)))\\ &\geq&(\frac{1}{2}-\frac{1}{p})\|\gamma(1)\|^2_\lambda>0, \end{eqnarray*} $

这与$ \gamma(1) $的定义矛盾, 所以$ c_{\lambda, \mu}^{**}\geq c_{\lambda, \mu} $. 证毕.

引理2.6  $ I_{\lambda, \mu} $具有山路几何结构.

(1) 存在与$ \lambda $无关的$ a_0, r_0>0 $使得当$ u\in E $且$ \|u\|_\lambda = r_0 $时, $ I_{\lambda, \mu}(u)\geq a_0 $.

(2) 对任意的$ u\in E\setminus\{0\} $, $ \lim\limits_{t\to \infty}I_{\lambda, \mu}(tu) = -\infty. $

证  这个证明是标准的, 略去证明过程.

引理2.7  对任意的$ \lambda\geq 1 $, $ \mu>0 $, $ c_{\lambda, \mu}< \frac{1}{3} S^{3/2} $.

证  这个证明是标准的, 略去证明过程.

引理2.8   $ I_{\lambda, \mu} $的任意的$ (PS)_{c_{\lambda, \mu}} $序列$ \left\{u_n\right\} $是有界的, 并且

$ \limsup\limits_{n\to \infty} \|u_n\|_{\lambda}\leq \sqrt{\frac{2p}{p-2}c_{\lambda, \mu}}. $

证  假设$ \left\{u_n\right\} $是$ I_{\lambda, \mu} $的$ (PS)_{c_{\lambda, \mu}} $序列, 则有$ I_{\lambda, \mu}(u_n)\to c_{\lambda, \mu}, I'_{\lambda, \mu}(u_n)\to 0 . $因此

$ \begin{eqnarray*} c_{\lambda, \mu}+o(1)+o(1)\|u_n\|_\lambda & = &I_{\lambda, \mu}(u_n)-\frac{1}{p}\langle I'_{\lambda, \mu}(u_n), v_n\rangle \\ & = &(\frac{1}{2}-\frac{1}{p})\|u_n\|^2_\lambda+(\frac{1}{4}-\frac{1}{p})F(u_n)+(\frac{1}{p}-\frac{1}{6})\int_{{{\Bbb R}} ^3}u_n^6{\rm d}x. \end{eqnarray*} $

从而有

$ (\frac{1}{2}-\frac{1}{p})\|u_n\|^2_\lambda\leq c_{\lambda, \mu}+o(1)+o(1)\|u_n\|_\lambda. $

那么$ \left\{u_n\right\} $在$ E $中是有界, 并且第二个结论成立. 证毕.

引理2.9   令$ M>0 $是个常数, 当$ n\to\infty $时, $ \lambda_n\rightarrow \infty $. 如果$ \|u_n\|_{\lambda_n}\leq M $, 并且在$ H^1({{\Bbb R}} ^3) $中有$ u_n\rightharpoonup 0 $, 那么$ \lim\limits_{n\to \infty}\int_{{{\Bbb R}} ^3}|u_n|^{q}{\rm d}x = 0 $, $ 2<q<6. $

证  对任意的$ R>0 $, 令

$ A(R): = \left\{x\in{{\Bbb R}} ^3| |x|\geq R, \ V(x)\geq M_0\right\}, \ B(R): = \left\{x\in{{\Bbb R}} ^3| |x|\geq R, \ V(x)\leq M_0\right\}. $

容易得到

(2.3) $ \begin{eqnarray} \int_{A(R)}u^2_n{\rm d}x &\leq& \frac{1}{\lambda_nM_0} \int_{A(R)}\lambda_n V(x)u^2_n{\rm d}x{}\\ &\leq &\frac{1}{\lambda_nM_0} \int_{A(R)}(|\nabla u_n|^2+\lambda_n V(x)u^2_n){\rm d}x{}\\ & = &\frac{1}{\lambda_nM_0}\|u_n\|^2_{\lambda_n}\leq\frac{1}{\lambda_nM_0}M^2 \end{eqnarray} $

和

(2.4) $ \begin{eqnarray} \int_{B(R)}u^2_n{\rm d}x&\leq& [m(B(R))]^{\frac{2}{3}}\Big(\int_{{{\Bbb R}} ^3}u^6_n {\rm d}x\Big)^{\frac{1}{3}}{}\\ &\leq& [m(B(R))]^{\frac{2}{3}}S^{-1}\int_{{{\Bbb R}} ^3}|\nabla u_n|^2{\rm d}x{}\\ &\leq& M^2S^{-1}[m(B(R))]^{\frac{2}{3}}. \end{eqnarray} $

利用内插不等式, 存在$ \theta\in(0, 1) $, 使得

$ \begin{eqnarray*} \int_{B_R^c}|u_n|^{q}{\rm d}x&\leq& \Big(\int_{B_R^c}|u_n|^2{\rm d}x\Big)^{\frac{q\theta}{2}} \Big(\int_{B_R^c}| u_n|^{6} {\rm d}x\Big)^\frac{q(1-\theta)}{6}\\ &\leq &S^{-\frac{q(1-\theta)}{2}} \Big(\int_{B_R^c}|u_n|^2{\rm d}x\Big)^{\frac{q\theta}{2}} \Big(\int_{{{\Bbb R}} ^N}|\nabla u_n|^2 {\rm d}x\Big)^\frac{q(1-\theta)}{2}\\ &\leq & S^{-\frac{q(1-\theta)}{2}}M^{q(1-\theta)} \Big(\int_{A(R)}|u_n|^2{\rm d}x+\int_{B(R)}| u_n|^2{\rm d}x\Big)^{\frac{q\theta}{2}}. \end{eqnarray*} $

利用(2.3)和(2.4)式, 存在$ C>0 $, 使得

(2.5) $ \begin{equation} \int_{B_R^c}|u_n|^{q}{\rm d}x\leq C\Big(\frac{1}{\lambda_n}+[m(B(R))]^{\frac{2}{3}}\Big). \end{equation} $

由假设$ (V_2) $和(2.5)式, 对任意的$ \epsilon>0, $存在$ N_\epsilon, R_\epsilon>0 $, 当$ n\geq N_\epsilon $, $ R\geq R_\epsilon $时, 有

(2.6) $ \begin{equation} \int_{B_R^c}|u_n|^{q}{\rm d}x\leq \epsilon, \end{equation} $

固定$ R_1>R_\epsilon $. 那么, 当$ n\geq N_\epsilon $时, 我们有

$ \int_{{{\Bbb R}} ^3}|u_n|^{q}{\rm d}x = \int_{B_{R_1}}|u_n|^{q}{\rm d}x+\int_{B^c_{R_1}}|u_n|^{q}{\rm d}x\leq \int_{B_{R_1}}|u_n|^{q}{\rm d}x+\epsilon. $

由于在$ H^1({{\Bbb R}} ^3) $中, $ u_n\rightharpoonup 0 $, 利用上述不等式可以得到

$ \lim\limits_{n\to \infty}\int_{{{\Bbb R}} ^3}|u_n|^{q}{\rm d}x = 0. $

证毕.

为了给$ c_{\lambda, \mu} $找一个新的上界, 我们需要研究"极限" 问题(1.3). 定义空间$ H_0^1(\Omega) $的范数如下

$ \|u\|_0: = \Big(\int_{\Omega}|\nabla u|^2{\rm d}x\Big)^{1/2}. $

相应的能量泛函

$ I_{\mu}(u) = \frac{1}{2}\|u\|^2_0+\frac{1}{4}F_0(u)-\frac{\mu}{p}\int_{\Omega}|u|^{p}{\rm d}x-\frac{1}{6} \int_{\Omega}|u|^{6}{\rm d}x, $

其中$ F_0(u) = \frac{1}{4\pi}{{\int\!\!\!\int}}_{\Omega\times\Omega}\frac{u^2(x)u^2(y)}{|x-y|}{\rm d}x{\rm d}y $. 容易证明$ I_{\mu} $在$ H_0^1(\Omega) $上良定义, 并且$ I_{\mu} \in C^1(H_0^1(\Omega), {{\Bbb R}} ) $. 定义

$ {\cal N}_{\mu} = \{u\in H_0^1(\Omega)\setminus \{0\}\ |\ \langle I'_{\mu}(u), u\rangle = 0\}, c_{\mu} = \inf\limits_{u\in {\cal N}_{\mu}}I_{\mu}(u). $

注2.1   对于$ c_{\mu} $, $ I_{\mu} $, $ {\cal N}_{\mu} $, 有类似于引理2.3到引理2.7的结果成立. 通过山路定理, 可以证明存在$ u\in H_0^1(\Omega) $, 使得$ I_{\mu}(u) = c_{\mu} $, $ I'_{\mu}(u) = 0 $.

引理2.10   对于$ \lambda\geq 1 $, $ \mu>0 $, $ c_{\lambda, \mu}\leq c_{\mu} $.

证  对于$ u\in {\cal N}_\mu $, 我们有

$ \begin{eqnarray*} \int_{\Omega}|\nabla u|^2{\rm d}x+\int_{\Omega}\phi_uu^2{\rm d}x = \mu\int_{\Omega}|u|^{p-2}u{\rm d}x+\int_{\Omega}|u|^{4}u{\rm d}x. \end{eqnarray*} $

利用$ V(x) = 0, x\in\Omega $, 以及$ u = 0, x\in{{\Bbb R}} ^N\setminus\Omega, $上述等式可以写为

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^3}(|\nabla u|^2+\lambda V(x)u^2){\rm d}x+\int_{{{\Bbb R}} ^3}\phi_uu^2{\rm d}x = \mu\int_{{{\Bbb R}} ^3}|u|^{p-2}u{\rm d}x+\int_{{{\Bbb R}} ^3}|u|^{4}u{\rm d}x. \end{eqnarray*} $

因此, $ u\in {\cal N}_{\lambda, \mu} $. 另一方面, 我们有

$ \begin{eqnarray*} I_\mu(u)& = & \frac{1}{2}\int_{\Omega}|\nabla u|^2{\rm d}x+\frac{1}{4}\int_{\Omega}\phi_uu^2{\rm d}x-\frac{\mu}{p}\int_{\Omega}|u|^p{\rm d}x-\frac{1}{6}\int_{\Omega}|u|^6{\rm d}x\\ & = & \frac{1}{2}\int_{{{\Bbb R}} ^3}(|\nabla u|^2+\lambda V(x)u^2){\rm d}x+\frac{1}{4}\int_{{{\Bbb R}} ^3}\phi_uu^2{\rm d}x-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|u|^p{\rm d}x-\frac{1}{6}\int_{\Omega}|u|^6{\rm d}x\\ & = &I_{\lambda, \mu}(u). \end{eqnarray*} $

从而, $ c_{\lambda, \mu}\leq c_\mu $. 证毕.

推论2.1  由注2.1知, $ c_\mu< \frac{1}{3}S^{\frac{3}{2}} $, 则对于$ \lambda\geq 1 $, $ \mu>0 $, 存在$ \tau = \tau(\mu)>0, $使得$ c_{\lambda, \mu}< \frac{1}{3}S^{\frac{3}{2}}-\tau $.

引理2.11   存在$ \lambda^*>0 $, 当$ \lambda\geq\lambda^* $时, 对任意的$ d_\lambda\in(0, \frac{1}{3}S^{\frac{3}{2}}-\tau) $, $ I_{\lambda, \mu} $满足$ (PS)_{d_\lambda} $条件.

证  令$ \left\{u_n\right\} $是$ I_{\lambda, \mu} $的$ (PS)_{d_\lambda} $序列, 满足$ I_{\lambda, \mu}(u_n)\to d_\lambda, I'_{\lambda, \mu}(u_n)\to 0. $利用引理2.8, $ \left\{u_n\right\} $在$ E $中有界. 因此, 存在$ u\in E $, 在$ E $中, $ u_n\rightharpoonup u $, 在$ {{\Bbb R}} ^3 $中, $ u_n\to u, \hbox{a.e.} $, 在$ L^{q}({{\Bbb R}} ^3), 2\leq q \leq 6 $中, $ u_n\rightharpoonup u $. 定义$ v_n = u_n-u $. 利用引理2.2, $ \{v_n\} $也是$ I_{\lambda, \mu} $的$ PS $序列, 并且$ I_{\lambda, \mu}(v_n)\to d_\lambda-I_{\lambda, \mu}(u), I'_{\lambda, \mu}(v_n)\to 0, $则有

(2.7) $ \begin{equation} o_n(1) = \langle I'_{\lambda, \mu}(v_n), v_n\rangle = \|v_n\|^2_{\lambda}+F(v_n)-\mu\int_{{{\Bbb R}} ^3}|v_n|^{p}{\rm d}x-\int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x. \end{equation} $

利用$ \left\{v_n\right\} $的有界性, 可以假设

(2.8) $ \begin{equation} \|v_n\|^2_{\lambda}\to L^{(1)}_\lambda, \ \ F(v_n)\to L^{(2)}_\lambda, \ \ \mu\int_{{{\Bbb R}} ^3}|v_n|^{p}+\int_{{{\Bbb R}} ^3}|v_n|^6\to L^{(3)}_\lambda. \end{equation} $

从而

(2.9) $ \begin{equation} L^{(1)}_\lambda+L^{(2)}_\lambda = L^{(3)}_\lambda. \end{equation} $

如果$ L^{(1)}_\lambda = 0 $, 则$ v_n\rightarrow 0 $, 由此可以得到, 在$ E $中, $ u_n\rightarrow u $. 以下我们证明当$ \lambda $充分大时, $ L^{(1)}_\lambda = 0. $否则, 假设$ \mu\int_{{{\Bbb R}} ^3}|v_n|^{p}{\rm d}x\to A_\lambda, \int_{{{\Bbb R}} ^3}|v_n|^6\to B_\lambda. $从而可以得到

(2.10) $ \begin{equation} L^{(1)}_\lambda+L^{(2)}_\lambda = L^{(3)}_\lambda = A_\lambda+B_\lambda. \end{equation} $

类似于引理2.9的证明, 当$ \lambda\rightarrow \infty $时, $ A_\lambda = o_\lambda(1) $, $ L^{(2)}_\lambda = o_\lambda(1) $. 所以

(2.11) $ \begin{equation} L^{(1)}_\lambda = B_\lambda+o_\lambda(1). \end{equation} $

利用(2.7)式, 存在$ C>0 $, 使得

$ \|v_n\|^2_{\lambda}\leq C\Big(\|v_n\|_{\lambda}^{p}+\|v_n\|_{\lambda}^{6}+o_n(1)\Big). $

如果$ L^{(1)}_\lambda\leq1, $在上述不等式中, 令$ n\to \infty $, 则

$ \begin{eqnarray*} L^{(1)}_\lambda\leq C\Big((L^{(1)}_\lambda)^{\frac{p}{2}}+(L^{(1)}_\lambda)^{3}\Big). \end{eqnarray*} $

因此, 存在与$ \lambda $无关的$ C>0 $, 使得

(2.12) $ \begin{equation} L^{(1)}_\lambda\geq C. \end{equation} $

利用$ S $的定义, 我们有

$ S\Big(\int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x\Big)^{\frac{1}{3}}\leq\|v_n\|^2_\lambda. $

令$ n\to \infty $, 则

(2.13) $ \begin{equation} SB_\lambda^{\frac{1}{3}}\leq L^{(1)}_\lambda. \end{equation} $

利用(2.11)–(2.13)式, 可以得到

$ \liminf\limits_{\lambda\rightarrow \infty}L^{(1)}_\lambda\geq S^{\frac{3}{2}}. $

由$ I_{\lambda, \mu}(v_n)\to d_\lambda-I_{\lambda, \mu}(u) $, 我们有

$ d_\lambda-I_{\lambda, \mu}(u) = \frac{1}{2}\|v_n\|^2_{\lambda}+\frac{1}{4}F(v_n)-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|v_n|^{p}{\rm d}x-\frac{1}{6}\int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x+o_n(1). $

令$ n\rightarrow \infty $, 可以得到

$ d_\lambda-I_{\lambda, \mu}(u) = \frac{1}{2}L^{(1)}_\lambda+\frac{1}{4}L^{(2)}_\lambda-\frac{1}{p}A_\lambda-\frac{1}{6}B_\lambda. $

注意$ I'_{\lambda, \mu}(u) = 0 $, 利用引理2.3, 可以得到$ I_{\lambda, \mu}(u)\geq 0 $. 从而

$ \begin{eqnarray*} \frac{1}{3}S^{\frac{3}{2}}-\tau&\geq \liminf\limits_{\lambda\rightarrow \infty}\Big (\frac{1}{2}L^{(1)}_\lambda+\frac{1}{4}L^{(2)}_\lambda-\frac{1}{p}A_\lambda-\frac{1}{6}B_\lambda\Big) \geq\Big(\frac{1}{2}-\frac{1}{6}\Big)S^{\frac{3}{2}} = \frac{1}{3}S^{\frac{3}{2}}, \end{eqnarray*} $

这是矛盾的. 证毕.

推论2.2   存在$ \lambda^*>0 $, 当$ \lambda\geq\lambda^* $时, 对于$ d_\lambda\in (0, \frac{1}{3}S^{\frac{3}{2}}-\tau) $, $ I_{\lambda, \mu} $在$ {\cal N}_{\lambda, \mu} $上满足$ (PS)_{d_\lambda} $条件.

引理2.12   如果$ u $是$ I_{\lambda, \mu} $在$ {\cal N}_{\lambda, \mu} $上的临界点, 则$ u $是$ I_{\lambda, \mu} $在$ E $上的临界点.

证  这个证明是标准的, 略去证明过程.

引理3.1   当$ \lambda $充分大时, 问题(1.1) 至少有一个基态解.

证  利用引理2.5和引理2.6, $ I_{\lambda, \mu} $存在$ (PS)_{c_{\lambda, \mu}} $序列$ \left\{u_n\right\} $. 因此, 利用推论2.1和引理2.11, 当$ \lambda $充分大时, 在子列意义下, 在$ E $中, $ u_n\rightarrow u $. 从而, $ I_{\lambda, \mu}(u) = c_{\lambda, \mu} $, $ I'_{\lambda, \mu}(u) = 0. $

定理1.1的证明   由引理3.1, 存在$ u_n\in {\cal N}_{\lambda_n, \mu} $, 使得$ I_{\lambda_n, \mu}(u_n) = c_{\lambda_n, \mu} $, $ I'_{\lambda_n, \mu}(u_n) = 0 $. 由引理2.8和引理2.10知, 存在$ C>0 $, 使得$ \|u_n\|_{\lambda_n}\leq C. $因此, 注意到(2.1)式, 存在$ u\in H^1({{\Bbb R}} ^3) $, 在$ E $中, $ u_n\rightharpoonup u $, 在$ {{\Bbb R}} ^3 $中, $ u_n\to u, \hbox{a.e.} $, 在$ L^{q}({{\Bbb R}} ^3), 2\leq q \leq 6 $中, $ u_n\rightharpoonup u $.

第一步  $ u|_{\Omega^c} = 0 $, 其中$ \Omega^c: = \{x\ |\ x\in{{\Bbb R}} ^3\setminus \Omega\}. $

否则, 存在测度不为零的紧子集$ F\subset \Omega^c $, 满足$ dist\{F, \partial\Omega\}>0 $和$ u|_F\neq 0 $, 则$ \int_{F}u^2_n{\rm d}x\to \int_F u^2{\rm d}x>0. $另外, 存在$ \epsilon_0>0 $, 使得$ V(x)\geq \epsilon_0, x\in F. $

由$ u_n $的选择知

(3.1) $ \begin{equation} \|u_n\|^2_{\lambda_n}+F(u_n) = \mu\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x+\int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x. \end{equation} $

因此

$ \begin{eqnarray*} I_{\lambda_n, \mu}(u_n)& = &\frac{1}{2}\|u_n\|^2_{\lambda_n}+\frac{1}{4}F(u_n)-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x-\frac{1}{6}\int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x\\ &\geq&\frac{1}{2}\|u_n\|^2_{\lambda_n}+\frac{1}{4}F(u_n)-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x-\frac{1}{p}\int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x\\ & = &\frac{1}{2}\|u_n\|^2_{\lambda_n}+\frac{1}{4}F(u_n)-\frac{1}{p}(\|u_n\|^2_{\lambda_n}+F(u_n))\\ &\geq &(\frac{1}{2}-\frac{1}{p})\int_{F}\lambda_nV(x)u^2_n{\rm d}x\\ &\geq &(\frac{1}{2}-\frac{1}{p})\lambda_n\epsilon_0\int_{F}u^2_n{\rm d}x. \end{eqnarray*} $

当$ n\to\infty $时, $ I_{\lambda_n, \mu}(u_n)\to\infty $, 这与引理2.7矛盾, 因此$ u|_{\Omega^c} = 0 $. 注意到$ \Omega $为光滑区域, 从而$ u \in H_0^1(\Omega) $.

第二步  $ u\neq0. $

若不然, 利用引理2.9, 我们有$ \int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x = o_n(1) $, $ F(u_n) = o_n(1) $. 由(3.1) 式知

$ \|u_n\|^2_{\lambda_n} = \int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x+o_n(1). $

假设$ \|u_n\|^2_{\lambda_n}\to b, \ \int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x\to b. $利用引理2.3, $ b\neq 0 $. 由$ S $的定义, 可以得到

$ S\Big(\int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x\Big)^{\frac{1}{3}}\leq\|u_n\|^2_{\lambda_n}. $

令$ n\to \infty $, 我们有$ S^{\frac{3}{2}}\leq b $. 因此, 利用注2.1可以得到

$ \begin{eqnarray*} \frac{1}{3}S^{\frac{3}{2}} &>&\lim\limits_{n\to\infty} c_{\lambda_n, \mu} = \lim\limits_{n\to\infty}I_{\lambda_n, \mu}(u_n)\\ & = &\lim\limits_{n\to\infty}\Big[\frac{1}{2}\|u_n\|^2_{\lambda_n}+\frac{1}{4}F(u_n)-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x-\frac{1}{6}\int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x\Big]\\ & = &(\frac{1}{2}-\frac{1}{6})b\geq \frac{1}{3}S^{\frac{3}{2}}, \end{eqnarray*} $

这是矛盾的.

第三步  $ I'_\mu(u) = 0. $

任取测试函数$ \varphi\in {\cal C}_0^\infty(\Omega) $, 由$ u_n $的选择知, $ \langle I'_{\lambda_{n}, \mu}(u_n), \varphi\rangle = 0 $. 因此有

$ \begin{eqnarray*} 0& = &\int_{{{\Bbb R}} ^3}(\nabla u_n\nabla\varphi+\lambda_nV(x)u_n\varphi) {\rm d}x+\int_{{{\Bbb R}} ^3}\phi_{u_n}u_n\varphi {\rm d}x\\ &&+\mu\int_{{{\Bbb R}} ^3}|u_n|^{p-2}u_n\varphi {\rm d}x+\int_{{{\Bbb R}} ^3}|u_n|^{4}u_n\varphi {\rm d}x. \end{eqnarray*} $

令$ n\to\infty $, 注意到$ V(x) = 0, x\in\Omega $, 我们有

$ \begin{eqnarray*} 0 = \int_{\Omega}\nabla u\nabla\varphi {\rm d}x+\int_{\Omega}\phi_{u}u\varphi {\rm d}x+\mu\int_{\Omega}|u|^{p-2}u\varphi {\rm d}x+\int_{\Omega}|u|^{4}u\varphi {\rm d}x, \end{eqnarray*} $

这意味着$ \langle I'_\mu(u), \varphi\rangle = 0. $

第四步  $ I_\mu(u) = c_\mu $.

由第三步的讨论知$ u\in N_\mu $, 因此$ I_\mu(u)\geq c_\mu $. 从而

$ \begin{eqnarray*} c_\mu&\leq& I_\mu(u) = I_\mu(u)-\frac{1}{4}\langle I'_\mu(u), u\rangle\\ & = &\frac{1}{4}\int_{\Omega}|\nabla u|^2{\rm d}x+(\frac{1}{4}-\frac{1}{p})\mu\int_{\Omega}|u|^{p}{\rm d}x+(\frac{1}{4}-\frac{1}{6})\int_{\Omega}|u|^{6}{\rm d}x\\ &\leq&\liminf\limits_{n\to\infty}\Big[\frac{1}{4}\int_{\Omega}|\nabla u_n|^2{\rm d}x+(\frac{1}{4}-\frac{1}{p})\mu\int_{\Omega}|u_n|^{p}{\rm d}x+(\frac{1}{4}-\frac{1}{6})\int_{\Omega}|u_n|^{6}{\rm d}x\Big]\\ &\leq&\liminf\limits_{n\to\infty}\Big[\frac{1}{4}\int_{{{\Bbb R}} ^3}|\nabla u_n|^2{\rm d}x+(\frac{1}{4}-\frac{1}{p})\mu\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x+(\frac{1}{4}-\frac{1}{6})\int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x\Big]\\ &\leq&\liminf\limits_{n\to\infty} \Big[I_{\lambda_n, \mu}(u_n)- \frac{1}{4}\langle I'_{\lambda_n, \mu}(u_n), u_n\rangle\Big]\\ & = &\liminf\limits_{n\to\infty}c_{\lambda_n, \mu}\leq c_\mu, \end{eqnarray*} $

因此, $ I_\mu(u) = c_\mu $. 另外, 从上面的证明知

(3.2) $ \begin{equation} \lim\limits_{n\to \infty}I_{\lambda_n, \mu}(u_n) = \lim\limits_{n\to \infty}c_{\lambda_n, \mu} = c_\mu = I_\mu(u). \end{equation} $

第五步  在$ H^1({{\Bbb R}} ^3) $中, $ u_n\rightarrow u $.

事实上, 从第四步的证明知, 在子列的意义下, 我们有

$ \int_{{{\Bbb R}} ^3}|\nabla u_n|^2{\rm d}x\to\int_{{{\Bbb R}} ^3}|\nabla u|^2{\rm d}x, \quad \int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x\to\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x, $

$ \int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x\to\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x, \quad \int_{{{\Bbb R}} ^3}\lambda_nV(x)u_n^2{\rm d}x\to 0. $

因此, $ \|u_n-u\|_{\lambda_n}\to 0 $. 从而有$ \|u_n-u\|\to 0 $. 定理1.1证毕.

为了研究$ c_{\mu} $的性质, 需要分析$ H_0^1(\Omega) $上面的能量泛函

$ \begin{eqnarray*} I_{0}(u) = \frac{1}{2}\|u\|^2_0+\frac{1}{4}F_0(u)-\frac{1}{6}\int_{\Omega}|u|^{6}{\rm d}x. \end{eqnarray*} $

可以定义

$ \begin{eqnarray*} {\cal N}_{0} = \{u\in H_0^1(\Omega)\setminus \{0\}\ |\ \langle I'_{0}(u), u\rangle = 0\}, \ \ c_{0} = \inf\limits_{u\in {\cal N}_{0}}I_{0}(u). \end{eqnarray*} $

注4.1   对于$ c_0 $, $ I_0 $, $ {\cal N}_0 $, 有类似于从引理2.3到引理2.6的结果.

我们还需要空间$ H_{0, rad}^1(B_r(0)): = \{u\in H_{0}^1(B_r(0))\ |\ u \ \mbox{关于原点径向对称}\} $, 其范数

$ \begin{eqnarray*} \|u\|_{0, r}: = \Big(\int_{B_r(0)}|\nabla u|^2{\rm d}x\Big)^{1/2}. \end{eqnarray*} $

对于$ u\in H_{0, rad}^1(B_r(0)) $, 引入能量泛函

$ I_{\mu, r}(u) = \frac{1}{2}\|u\|^2_{0, r}+\frac{1}{4}F_{0, r}(u)- \frac{\mu}{p}\int_{B_r(0)}|u|^{p}{\rm d}x-\frac{1}{6}\int_{B_r(0)}|u|^{6}{\rm d}x, $

其中$ F_{0, r}(u) = \frac{1}{4\pi}{{\int\!\!\!\int}}_{B_r(0)\times B_r(0)}\frac{u^2(x)u^2(y)}{|x-y|}{\rm d}x{\rm d}y $. 类似地, 可以定义

$ {\cal N}_{\mu, r} = \{u\in H_{0, rad}^1(B_r(0))\setminus \{0\}\ |\ \langle I'_{\mu, r}(u), u\rangle = 0\} $

和

$ c_{\mu, r} = \inf\limits_{u\in {\cal N}_{\mu, r}}I_{\mu, r}(u). $

注4.2   对于$ c_{\mu, r} $, $ I_{\mu, r} $, $ {\cal N}_{\mu, r} $, 有类似于从引理2.3到引理2.7的结果. 利用山路定理, 可以证明存在$ u\in H_{0, rad}^1(B_r(0)) $, 使得$ I_{\mu, r}(u) = c_{\mu, r} $和$ I'_{\mu, r}(u) = 0 $.

引理4.1   $ \lim\limits_{\mu\to 0}c_{\mu} = c_0. $

证  只需要证明, 对任意的$ \mu_n\to 0 $, 有$ \lim\limits_{n\to \infty}c_{\mu_n} = c_0 $. 事实上, 利用$ c_{\mu_n} $和$ c_0 $的定义, 可以得到$ c_{\mu_n}\leq c_0 $. 那么

(4.1) $ \begin{equation} \limsup\limits_{n\to \infty}c_{\mu_n}\leq c_0. \end{equation} $

另一方面, 利用注2.1, 存在$ u_n\in H_0^1(\Omega) $, 使得$ I_{\mu_n}(u_n) = c_{\mu_n}, \ I'_{\mu_n}(u_n) = 0 $. 从注2.1知, 存在$ t_n>0 $, 满足$ t_nu_n\in N_0 $, 那么

$ c_0\leq I_{0}(t_nu_n) = I_{\mu_n}(t_nu_n)+\frac{\mu_nt_n^p}{p}\int_{{{\Bbb R}} ^3}|u_n|^p{\rm d}x, $

因此

$ c_0\leq c_{\mu_n}+\frac{\mu_nt_n^p}{p}\int_{{{\Bbb R}} ^3}|u_n|^p{\rm d}x. $

如果$ t_n $是有界的, 我们有

(4.2) $ \begin{equation} c_0\leq \liminf\limits_{n\to \infty}c_{\mu_n}. \end{equation} $

则由(4.1)和(4.2)式可以得到结论.

现在证明$ \{t_n\} $的有界性. 否则, $ t_n\to \infty $. 由$ u_n $的选择, 以及$ c_{\mu_n}<\frac{1}{3}S^{\frac{3}{2}} $, 可以得到$ \|u_n\|_0 $是有界的. 因为$ t_nu_n\in N_0 $, 我们有

$ \frac{1}{t_n^4}\|u_n\|^2_0+\frac{1}{t_n^2}F_0(u_n) = \int_{\Omega}|u_n|^{6}{\rm d}x. $

因此

(4.3) $ \begin{equation} \lim\limits_{n\to\infty}\int_{\Omega}|u_n|^{6}{\rm d}x = 0. \end{equation} $

利用$ I'_{\mu_n}(u_n) = 0 $, 可以得到

$ \begin{eqnarray*} \|u_n\|^2_0+F_0(u_n) = \mu_n\int_{\Omega}|u_n|^{p}{\rm d}x+\int_{\Omega}|u_n|^{6}{\rm d}x. \end{eqnarray*} $

由(4.3) 式可以得到$ \|u_n\|^2_0 = o_n(1) $. 从而$ c_{\mu_n}\to 0 $, 导出矛盾. 证毕.

引理4.2   $ c_0 = \frac{1}{3}S^{3/2}. $

证  类似于引理2.7的证明, 可以得到$ c_0\leq \frac{1}{3}S^{3/2}+o_\epsilon(1), $取极限, 则有$ c_0\leq \frac{1}{3}S^{3/2} $. 另一方面, 存在$ \{u_n\}\subset H_0^1(\Omega) $, 使得$ I_{0}(u_n)\to c_{0}, \quad I'_{0}(u_n)\to 0. $利用$ I'_{0}(u_n)\to 0 $, 有

$ o_n(1) = \langle I'_{0}(u_n), u_n\rangle = \|u_n\|^2_0+F_0(u_n)-\int_{\Omega}|u_n|^{6}{\rm d}x. $

假设$ \|u_n\|^2_0\to l_1, F_0(u_n)\to l_2, \int_{\Omega}|u_n|^{6}{\rm d}x\to l_3 $, 那么, 我们有

(4.4) $ \begin{equation} l_1+l_2 = l_3. \end{equation} $

利用$ S $的定义, 可以得到$ S(\int_{\Omega}|u_n|^{6}{\rm d}x)^{\frac{1}{3}}\leq\|u_n\|^2_0. $令$ n\to \infty $, 则有

(4.5) $ \begin{equation} Sl_2^{\frac{1}{3}}\leq l_1. \end{equation} $

利用(4.4)和(4.5)式, 我们有

(4.6) $ \begin{equation} l_1\geq S^{3/2}, \ l_3\geq S^{3/2}. \end{equation} $

由$ I_{0}(u_n)\to c_{0} $, 可以得到

$ \begin{eqnarray*} c_0& = &I_0(u_n)+o_n(1)\\ & = &\frac{1}{2}\|u_n\|^2_0+\frac{1}{4}F_0(u_n)-\frac{1}{6}\int_{\Omega}|u_n|^{6}{\rm d}x+o_n(1)\\ & = &\frac{1}{2}\|u_n\|^2_0-\frac{1}{4}(\|u_n\|^2_0-\int_{\Omega}|u_n|^{6}{\rm d}x)-\frac{1}{6}\int_{\Omega}|u_n|^{6}{\rm d}x+o_n(1)\\ & = &\frac{1}{4}\|u_n\|^2_0+\frac{1}{12}\int_{\Omega}|u_n|^{6}{\rm d}x+o_n(1)\\ & = &\frac{1}{4}l_1+\frac{1}{12}l_3+o_n(1). \end{eqnarray*} $

注意到(4.6)式, 从上述不等式就可以得到$ c_0\geq \frac{1}{3}S^{3/2}. $证毕.

引理4.3   对任意充分小的$ r>0 $, $ \lim\limits_{\mu\to 0}c_{\mu} = \lim\limits_{\mu\to 0}c_{\mu, r} = \frac{1}{3}S^{3/2}. $

证  由引理4.1和引理4.2知$ \lim\limits_{\mu\to 0}c_{\mu} = \frac{1}{3}S^{3/2}. $利用$ c_{\mu, r} $的定义, 有

$ \begin{eqnarray*} c_{\mu, r} = \inf\limits_{u\in N_{\mu, r}}I_{\mu, r}(u)\geq \inf\limits_{\{u\in H_0^1(B_r(0))\ |\ \langle I'_{\mu, r}(u), u\rangle = 0\}}I_{\mu, r}(u). \end{eqnarray*} $

由于上述式子中最后一项不小于$ c_\mu $, 则可以得到

$ \begin{eqnarray*} \liminf\limits_{\mu\to 0}c_{\mu, r}\geq \frac{1}{3}S^{3/2}. \end{eqnarray*} $

另一方面, 类似于引理2.7的证明, 可以得到$ c_{\mu, r}< \frac{1}{3}S^{3/2}. $从而有

$ \begin{eqnarray*} \limsup\limits_{\mu\to 0}c_{\mu, r}\leq \frac{1}{3}S^{3/2}. \end{eqnarray*} $

因此, 对任意充分小的$ r>0 $, $ \lim\limits_{\mu\to 0}c_{\mu, r} = \frac{1}{3}S^{3/2}. $证毕.

因为$ \Omega $是光滑有界区域, 可以固定充分小的$ r>0 $, 使得

$ \Omega^+_r = \{ x\in{{\Bbb R}} ^3 \ |\ dist(x, \Omega)\leq r \} $

和

$ \Omega^-_r = \{ x\in\Omega \ |\ dist(x, \partial\Omega)\geq r \} $

与$ \Omega $同伦等价. 另外, 可以假设$ B_r(0)\subset \Omega $.

对于$ 0\neq u\in L^6(\Omega) $, 定义

$ \begin{eqnarray*} \beta_0(u): = \frac{\int_{\Omega} xu^6{\rm d}x}{\int_{\Omega} u^6{\rm d}x }. \end{eqnarray*} $

引理4.4  存在$ \mu^*>0 $, 当$ \mu\in (0, \mu^*) $, $ u\in {\cal N}_\mu $满足$ I_\mu(u)\leq c_{\mu, r}+o_\mu(1) $时, 那么$ \beta_0(u)\in \Omega^+_{r/2} $.

证  利用反证法. 假设存在$ \mu_n\to 0 $, $ u_n\in {\cal N}_{\mu_n} $, $ I_{\mu_n}(u_n)\leq c_{\mu_n, r}+o_n(1) $, 使得$ \beta_0(u_n)\notin \Omega^+_{r/2} $. 利用$ u_n\in {\cal N}_{\mu_n} $和$ I_{\mu_n}(u_n)\leq c_{\mu_n, r}+o_n(1) $, 可以得到$ \{u_n\} $在$ H_0^1(\Omega) $中是有界的. 由$ u_n\in {\cal N}_{\mu_n} $知

(4.7) $ \begin{equation} \|u_n\|^2_0+F_0(u_n) = \mu_n\int_{\Omega}|u_n|^{p}{\rm d}x+\int_{\Omega}|u_n|^{6}{\rm d}x. \end{equation} $

因此, 注意到$ \mu_n\to 0 $, 有

$ \begin{eqnarray*} c_{\mu_n}\leq I_{\mu_n}(u_n)& = &\frac{1}{2}\|u_n\|^2_0+\frac{1}{4}F_0(u_n)-\frac{\mu_n}{p}\int_{\Omega}|u_n|^{p}{\rm d}x-\frac{1}{6}\int_{\Omega}|u_n|^{6}{\rm d}x\\ & = &\frac{1}{4}\|u_n\|^2_0+(\frac{1}{4}-\frac{1}{p})\mu_n\int_{\Omega}|u_n|^{p}{\rm d}x+\frac{1}{12}\int_{\Omega}|u_n|^{6}{\rm d}x\\ & = &\frac{1}{4}\|u_n\|^2_0+\frac{1}{12}\int_{\Omega}|u_n|^{6}{\rm d}x+o_n(1)\\ &\leq& c_{\mu_n, r}+o_n(1). \end{eqnarray*} $

假设$ \|u_n\|^2_0\to l_1 $, $ \int_{\Omega}|u_n|^{6}{\rm d}x\to l_2 $, 则利用引理4.3, 有

(4.8) $ \begin{equation} \frac{1}{4}l_1+\frac{1}{12}l_2 = \frac{1}{3}S^{3/2}. \end{equation} $

利用$ S $的定义, 可以得到$ S(\int_{\Omega}|u_n|^{6}{\rm d}x)^{\frac{1}{3}}\leq\|u_n\|^2_0. $令$ n\to \infty $, 我们有

(4.9) $ \begin{equation} Sl_2^{\frac{1}{3}}\leq l_1. \end{equation} $

由(4.7)式, 可以得到$ \|u_n\|^2_0\leq\int_{\Omega}|u_n|^{6}{\rm d}x+o_n(1). $从而

(4.10) $ \begin{equation} l_1\leq l_2. \end{equation} $

利用(4.8)–(4.10)式, 可以得到$ l_2 = l_1 = S^{3/2} $.

定义

$ \omega_n = \frac{u_n}{\int_{\Omega}|u_n|^{6}{\rm d}x}. $

那我们有$ \int_{\Omega}|\omega_n|^{6}{\rm d}x = 1 $, $ \int_{\Omega}|\nabla\omega_n|^{6}{\rm d}x\to S. $由文献[2] 中的引理3.1知, 存在$ (y_n, \lambda_n)\in{{\Bbb R}} ^N\times{{\Bbb R}} ^+ $, 满足$ \lambda_n\to 0 $, $ y_n\to y\in \bar{\Omega} $, 使得在$ D^{1, 2}({{\Bbb R}} ^3) $中, 当$ n\to\infty $时, 有

$ \begin{eqnarray*} v_n(x): = \lambda_n^{\frac{1}{2}}\omega_n(\lambda_nx+y_n)\to\omega. \end{eqnarray*} $

假设$ \phi\in C_0^\infty({{\Bbb R}} ^3) $, 满足$ \phi(x) = x $, $ x\in \Omega $. 那么有

$ \begin{eqnarray*} \beta_0(u_n) = \int_{\Omega}\phi(x)\omega_n^6(x){\rm d}x = \int\phi(\lambda_nx+y_n)v_n^6(x){\rm d}x, \end{eqnarray*} $

则有

$ \lim\limits_{n\to\infty}\beta_0(u_n) = y\in \bar{\Omega}. $

这与我们的假设矛盾. 引理4.4证毕.

像文献[6], 选择$ R>2\mbox{diam}(\Omega) $, 使得$ \Omega\subset B_R(0) $. 定义

$ \begin{eqnarray*} \psi(t) = \left\{\begin{array}{ll} 1, \quad &0\leq t\leq R, \\ { } \frac{R}{t}, \quad& t\geq R. \end{array}\right. \end{eqnarray*} $

对于$ u\in L^6({{\Bbb R}} ^3)\setminus\{0\} $, 定义

$ \beta(u) = \frac{\int_{{{\Bbb R}} ^3}\psi(|x|)|u|^6x{\rm d}x}{\int_{{{\Bbb R}} ^3}|u|^6{\rm d}x}. $

引理4.5   存在$ \lambda^*>0 $, $ \mu^*>0 $, 当$ u\in {\cal N}_{\lambda, \mu} $, $ I_{\lambda, \mu}(u)\leq c_{\mu, r} $时, 对任意的$ \lambda\geq\lambda^* $, $ \mu<\mu^* $, 那么$ \beta(u)\in\Omega^+_r $.

证  反证. 假设对任意充分小的$ \mu $, 存在$ \lambda_n\to\infty $, $ u_n\in {\cal N}_{\lambda_n, \mu} $, 满足$ I_{\lambda_n, \mu}(u_n)\leq c_{\mu, r} $, 但是$ \beta(u_n)\notin \Omega^+_r. $易证$ \{\|u_n\|_{\lambda_n}\} $是有界的. 利用定理$ 1.1 $中证明的  第一步, 可以得到$ u\in H^1_0(\Omega) $, 在$ E $中, $ u_n\rightharpoonup u $, 在$ {{\Bbb R}} ^3 $中, $ u_n\to u, \hbox{a.e.} $, 在$ L^{q}({{\Bbb R}} ^3), 2\leq q \leq 6 $中, $ u_n\rightharpoonup u $. 利用引理2.9, 则在$ L^{q}({{\Bbb R}} ^3), \ 2< q < 6 $中, $ u_n\to u. $令$ v_n = u_n-u $, 注意到$ u_n\in {\cal N}_{\lambda_n, \mu} $, 则有

(4.11) $ \begin{eqnarray} \|v_n\|^2_{\lambda_n}& = &\|u_n\|^2_{\lambda_n}-\int_{{{\Bbb R}} ^3}|\nabla u|^{2}{\rm d}x+o_n(1){}\\ & = &\mu\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x+\int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x-F(u_n) -\int_{{{\Bbb R}} ^3}|\nabla u|^{2}{\rm d}x+o_n(1){}\\ & = &\mu\int_{{{\Bbb R}} ^3}|v_n|^{p}{\rm d}x+\int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x-F(v_n){}\\ &&+\mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x+\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x-F(u)-\int_{{{\Bbb R}} ^3}|\nabla u|^{2}{\rm d}x+o_n(1){}\\ & = &\int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x+\mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x+\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x-F(u)-\int_{{{\Bbb R}} ^3}|\nabla u|^{2}{\rm d}x+o_n(1). \end{eqnarray} $

以下, 分两种情况.

情况1   $ \mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x+\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x\leq F(u)+\int_{{{\Bbb R}} ^3}|\nabla u|^{2}{\rm d}x $.

利用(4.11)式, 则有

(4.12) $ \begin{equation} \|v_n\|^2_{\lambda_n}\leq \int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x+o_n(1). \end{equation} $

那么必定有$ \int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x\to 0 $. 否则, 存在$ b>0 $, 使得

(4.13) $ \begin{equation} \int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x\to b. \end{equation} $

利用$ S $的定义, 以及(4.12)式, 我们有

(4.14) $ \begin{equation} S\Big(\int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x\Big)^{\frac{1}{3}}\leq\|v_n\|^2_{\lambda_n}\leq\int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x+o_n(1). \end{equation} $

因此, 利用(4.13)式, 可以得到$ b\geq S^{\frac{3}{2}} $.

另一方面, 注意到$ u_n\in {\cal N}_{\lambda_n, \mu} $, 有

$ \begin{eqnarray*} I_{\lambda_n, \mu}(u_n)& = &\frac{1}{2}\|u_n\|^2_{\lambda_n}+\frac{1}{4}F(u_n)-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x-\frac{1}{6}\int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x\\ & = &\frac{1}{4}\|u_n\|^2_{\lambda_n}+(\frac{\mu}{4}-\frac{\mu}{p})\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x+\frac{1}{12}\int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x\\ & = &\frac{1}{4}\|v_n\|^2_{\lambda_n}+\int_{{{\Bbb R}} ^3}|\nabla u|^{2}{\rm d}x+(\frac{\mu}{4}-\frac{\mu}{p})\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x+\frac{1}{12}\int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x\\ &&+\frac{1}{12}\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x+o_n(1)\\ &\geq&\frac{1}{4}S \Big(\int_{{{\Bbb R}} ^3}|v_n|^{6}{\rm d}x\Big)^{\frac{1}{3}}+\frac{1}{12}\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x+o_n(1). \end{eqnarray*} $

由$ I_{\lambda_n, \mu}(u_n)\leq c_{\mu, r} $和(4.13)式, 可以得到

$ \begin{eqnarray*} \frac{1}{4}Sb^{\frac{1}{3}}+\frac{1}{12}b\leq c_{\mu, r}. \end{eqnarray*} $

从而有$ c_{\mu, r}\geq\frac{1}{3}S^{\frac{3}{2}} $, 这是不对的. 因此, 在$ L^6({{\Bbb R}} ^3) $中, $ u_n\to u $, 则可以得到$ \beta(u_n)\to\beta(u) = \beta_0(u) $. 利用(4.12)式, 我们有$ u\in {\cal N}_\mu $, $ I_{\mu}(u) = \lim\limits_{n\to\infty}I_{\lambda_n, \mu}(u_n)\leq c_{\mu, r} $. 再利用引理4.4, 则有$ \beta(u)\in \Omega^+_{r/2} $, 这与我们的假设$ \beta(u_n)\notin \Omega^+_r $矛盾.

情况2   $ \mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x+\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x> F(u)+\int_{{{\Bbb R}} ^3}|\nabla u|^{2}{\rm d}x $.

在这种情况下, 存在$ t_\mu\in(0, 1) $, 使得$ t_\mu u\in {\cal N}_\mu $, 从而有

$ \begin{eqnarray*} c_\mu &\leq& I_{\mu}(t_\mu u)\\ & = &\frac{t_\mu^2}{2}\|u\|^2_0+\frac{t_\mu^4}{4}F(u)-\frac{t_\mu^p}{p}\mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x-\frac{t_\mu^6}{6}\int_{{{\Bbb R}} ^3}|u|^{6}{\rm d}x\\ & = &\frac{t_\mu^2}{3}\|u\|^2_0+\frac{t_\mu^4}{12}F(u)-(\frac{1}{p}-\frac{1}{6})t_\mu^p\mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x. \end{eqnarray*} $

利用$ u_n\in {\cal N}_{\lambda_n, \mu} $, 则有

$ \begin{eqnarray*} I_{\lambda_n, \mu}(u_n)& = &\frac{1}{2}\|u_n\|^2_{\lambda_n}+\frac{1}{4}F(u_n)-\frac{\mu}{p}\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x-\frac{1}{6}\int_{{{\Bbb R}} ^3}|u_n|^{6}{\rm d}x\\ & = &\frac{1}{3}\|u_n\|^2_{\lambda_n}+\frac{1}{12}F(u_n)-(\frac{1}{p}-\frac{1}{6})\mu\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x. \end{eqnarray*} $

因此

$ \begin{eqnarray*} c_\mu+(\frac{1}{p}-\frac{1}{6})t_\mu^p\mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x&\leq& \frac{t_\mu^2}{3}\|u\|^2_0+\frac{t_\mu^4}{12}F(u)\\ &\leq&\liminf\limits_{n\to\infty}\Big(\frac{t_\mu^2}{3}\|u_n\|^2_0+\frac{t_\mu^4}{12}F(u_n)\Big)\\ &\leq&\liminf\limits_{n\to\infty}\Big(\frac{1}{3}\|u_n\|^2_0+\frac{1}{12}F(u_n)\Big)\\ &\leq&\liminf\limits_{n\to\infty}\Big(I_{\lambda_n, \mu}(u_n)+(\frac{1}{p}-\frac{1}{6})\mu\int_{{{\Bbb R}} ^3}|u_n|^{p}{\rm d}x\Big)\\ &\leq &c_{\mu, r}+(\frac{1}{p}-\frac{1}{6})\mu\int_{{{\Bbb R}} ^3}|u|^{p}{\rm d}x. \end{eqnarray*} $

那么, 利用引理4.3, 我们有$ t_\mu = 1+o_\mu(1) $. 从而有

(4.15) $ \begin{equation} \Big|\int_{{{\Bbb R}} ^3}|\nabla u_n|^2{\rm d}x-\int_{{{\Bbb R}} ^3}|\nabla (t_\mu u)|^2{\rm d}x\Big|\leq 3(c_{\mu, r}-c_\mu)+o_\mu(1)+o_n(1). \end{equation} $

注意到在$ H^1({{\Bbb R}} ^3) $中, $ u_n\rightharpoonup u $, 利用(4.15)式, 则有

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^3}|\nabla (u_n-t_\mu u)|^2{\rm d}x\leq 3(c_{\mu, r}-c_\mu)+o_\mu(1)+o_n(1). \end{eqnarray*} $

所以有

$ \int_{{{\Bbb R}} ^3}(u_n-t_\mu u)^6{\rm d}x\leq \frac{1}{S^3}\Big[3(c_{\mu, r}-c_\mu)+o_\mu(1)+o_n(1)\Big]^3. $

那么, 对充分小的$ \mu $和充分大的$ n $, 我们有

$ \begin{eqnarray*} |\beta(u_n)-\beta(t_\mu u)|\leq \frac{r}{2}. \end{eqnarray*} $

利用$ I_{\lambda_n, \mu}(u_n)\leq c_{\mu, r} $, 易知$ I_{\mu}(t_\mu u)\leq c_{\mu, r}+o_\mu(1) $. 因此, 利用引理4.4, 可以得到$ \beta(t_\mu u) = \beta_0(t_\mu u)\in \Omega^+_{r/2} $, 这与我们的假设$ \beta(u_n)\notin \Omega^+_r $矛盾. 引理4.5证毕.

引理5.1^[11]   假设$ I $是定义在$ C^1 $ Finsler流形$ M $上的$ C^1 $泛函. 如果$ I $下方有界并且满足$ (PS) $条件, 那么$ I $至少有$ cat_MM $不同的临界点.

引理5.2^[7]   假设$ \Gamma, \Omega^+, \Omega^- $是闭子集, 满足$ \Omega^-\subset\Omega^+ $, $ \Phi:\Omega^-\rightarrow \Gamma, $$ \beta:\Gamma\rightarrow \Omega^+ $是两个连续映射, 使得$ \beta\circ\Phi $与单位映射$ Id:\Omega^-\rightarrow \Omega^+ $同伦等价, 那么$ cat_\Gamma\Gamma\geq cat_{\Omega^+}\Omega^- $.

定义$ u_r\in H^1_0(B_r(0)) $是泛函$ I_{\mu, r} $的一个临界点, 满足

$ \begin{eqnarray*} I_{\mu, r}(u_r) = c_{\mu, r}, \quad\quad I'_{\mu, r}(u_r) = 0. \end{eqnarray*} $

定义$ \Psi_r\ :\ \Omega^-_r\to H^1_0(\Omega) $,

$ \begin{eqnarray*} \Psi_r(y)(x) = \left\{\begin{array}{ll} u_r(|x-y|), \quad& x\in B_r(y), \\ 0, \quad &x\in \Omega\setminus B_r(y). \end{array}\right. \end{eqnarray*} $

它是连续的, 并且满足

(5.1) $ \begin{equation} \beta(\Psi_r(y)) = y, \quad y\in \Omega^-_r. \end{equation} $

另外

(5.2) $ \begin{equation} \Psi_r(y)(x)\in {\cal N}_{\lambda, \mu}, \quad I_{\lambda, \mu}(\Psi_r(y)(x)) = I_{\mu, r}(\Psi_r(y)(x)) = c_{\mu, r}. \end{equation} $

定理1.2的证明   对于$ \lambda>\lambda^* $和$ \mu<\mu^* $, 定义两个映射

$ \begin{eqnarray*} \Omega^-_r \mathop{\longrightarrow}\limits^{\Psi_r} I^{c_{\mu, r}}_{\lambda, \mu} \mathop{\longrightarrow}\limits^{\beta}\Omega^+_r, \end{eqnarray*} $

其中$ I^{c_{\mu, r}}_{\lambda, \mu} = \{u\in {\cal N}_{\lambda, \mu}\ |\ I_{\lambda, \mu}\leq c_{\mu, r}\} $. 利用引理4.5和(5.2)式, 这两个定义是良好的. 因为对于$ c\leq c_{\mu, r} $, $ I_{\lambda, \mu} $在$ {\cal N}_{\lambda, \mu} $上满足$ (PS)_c $条件. 利用引理5.1, $ I_{\lambda, \mu} $在$ {\cal N}_{\lambda, \mu} $上至少有$ cat_{I^{c_{\mu, r}}_{\lambda, \mu}} (I^{c_{\mu, r}}_{\lambda, \mu}) $个临界点. 那么, (5.1) 式和引理5.2确保了$ I_{\lambda, \mu} $在$ {\cal N}_{\lambda, \mu} $上至少有$ cat_{\Omega^+_r} (\Omega^-_r) $个临界点, 从而, 在$ E $上至少有$ cat_{\overline{\Omega}} (\overline{\Omega}) $个临界点. 因此, 问题(1.1) 至少有$ cat_{\overline{\Omega}} (\overline{\Omega}) $个解. 定理1.2证毕.