本文研究一类带临界指标的非自治Kirchhoff型方程

(1.1) $ \begin{equation} M\left(\int_{{{\Bbb R}} ^{3}}|\nabla u(x)|^{2}+\int_{{{\Bbb R}} ^{3}}V(x)|u(x)|^{2}\right) \left(-\Delta u+V(x)u \right)=\lambda K(x)f(u)+u^{5} x\in {{\Bbb R}} ^{3} \end{equation} $

非平凡解的存在. 这里, $ \lambda> 0 $是一个参数, $ V $、$ K $是$ {{\Bbb R}} ^{3} $上在无穷远处消失的正连续函数. $ M $及$ f $都是在下文中将给出更多限制条件的连续函数. 当位势函数$ V(x) $在无穷远处消失时, 问题(1.1) 被称作是零质量问题; 当函数$ M $是一个正常值函数时, 方程(1.1) 就是著名的Schrödinger方程. 许多学者研究过零质量Schrödinger方程, 例如可以参考文献[3, 4, 6]等.

由于非局部项$ M\left(\int_{{{\Bbb R}} ^{3}}|\nabla u(x)|^{2}+\int_{{{\Bbb R}} ^{3}}V(x)|u(x)|^{2}\right) $的出现使得方程(1.1) 的解不是在逐点意义下成立, 故(1.1) 式是非局部方程. 非局部项带来的另一个困难是: 即使把临界项$ u^{5} $去除, 问题(1.1) 的能量泛函也不满足序列的弱连续性. 这些数学上的困难给问题(1.1)的研究带来很大的挑战. 另外, 问题(1.1) 的研究在物理上也很有意义. 例如: 假设问题(1.1)中$ {{\Bbb R}} ^3 $替换为区间$ \Omega= (0, L)\subset{{\Bbb R}} ^{1} $, 同时假设$ M(s)=m_{0}+bs $, $ m_{0}>0 $, $ b>0 $且$ V(x)=0 $, 则问题变为

(1.2) $ \begin{equation} \left\{\begin{array}{ll} { } -\left(m_{0}+b\int_{\Omega}|\nabla u(x)|^{2}\right)\Delta u=f(x, u), &x\in\Omega, \\ u=0, &x\in\partial{\Omega}. \end{array}\right. \end{equation} $

这类问题源于Kirchhoff在文献[14]中提出的关于下列方程

(1.3) $ \begin{equation} u_{tt}-\left\{m_{0}+b\int^{L}_{0}|u_{x}|^{2}{\rm d}x\right\}u_{xx}=f(x, u), \ t\geq 0, 0<x<L \end{equation} $

的驻波解的研究. 该方程刻画了在考虑弦的横向和纵向位移的情况下，两端夹紧的弦的自由振动, 它可以看作是经典达朗贝尔波动方程的推广. 自从Lions^[15]提出了研究这类问题的理论框架后, 这类Kirchhoff方程的研究得到了很多学者的关注, 例如可见文献[5, 9]及所附文献.

本文主要研究方程(1.1) 临界的, 即$ 2^*=6 $, 的情形. 关于此种情形，当区域是有界的情形, 可以参见文献[1, 10–11, 13, 17–18]. 其中, 文献[1]似是第一次研究临界Kirchhoff问题的工作. 当区域是全空间$ {{\Bbb R}} ^{3} $时, 临界问题会变得更加困难; 在这方面, 只有少部分文献, 例如参见[2, 8, 16, 20]. 文献[2, 8, 16]只考虑了带有非消失位势的情形, 而文献[20]考虑了$ V, K $不同的情形并且$ V=0 $. 受文献[3, 12–13]的启发, 本文利用截断技巧研究临界情形方程(1.1) 非平凡解的存在性.

下面给出关于$ M, V, K $以及$ f $的一些条件.

$ (M_{1}) $$ M(t)\in C({{\Bbb R}} ^{+};{{\Bbb R}} ^{+}) $;

$ (M_{2}) $$ M(t) $在$ {{\Bbb R}} ^{+} $上递增, $ M(0)=m_{0}>0 $且

$ \lim\limits_{t\rightarrow +\infty}M(t)\geq\frac{3 m_{0}}{2}. $

类似于文献[3], 称$ (V, K)\in {\cal K} $, 如果下列条件成立

$ (VK_{1}) $$ V(x), K(x)>0, \forall x\in{{\Bbb R}} $且$ K\in L^{\infty}({{\Bbb R}} ^{3}) $.

$ (VK_{2}) $如果$ \{A_{n}\}\subset {{\Bbb R}} ^{3} $是一Borel序列, 满足Lebesgue测度$ |A_{n}|\leq R $, 对于所有$ n $和某个常数$ R>0 $成立, 则有

$ \lim\limits_{r\rightarrow \infty}\int_{A_{n}\cap B^{c}_{0}(r)}K(x){\rm d}x=0, \mbox {关于} \ n\in\mathbb{N}\ \mbox{一致成立}. $

进一步, 下面条件之一成立

$ (VK_{3}) $$ \frac{K}{V}\in L^{\infty}({{\Bbb R}} ^{3}), $

或

$ (VK_{4}) $存在$ \sigma\in (2, 6) $使得

$ \lim\limits_{|x|\rightarrow +\infty}\frac{K(x)}{V(x)^{\frac{6-\sigma}{4}}}=0. $

满足$ (V, K)\in {\cal K} $的典型例子

$ \frac{a}{1+|x|^{s}}\leq V(x)\leq A \mbox{以及} K(x)=\frac{k}{1+|x|^{t}}, $

其中$ a, k, A>0, \ t\geq s>0, $或者$ a, k, A>0, \ (6-\sigma)s> 4t>0. $类似的消失势函数$ V, K $出现在Schrödinger方程研究的文献[4]中. 我们注意到对这类消失势函数$ V, K $, 可以建立紧嵌入定理(例如见引理2.1), 以克服全空间上问题(1.1)的紧性缺失所导致的困难.

关于$ f $的假设

$ (f_{1}) $当$ (VK_{3}) $成立时, $ \lim\limits_{|t|\rightarrow 0}\frac{f(t)}{|t|}=0 $; 或当$ (VK_{4}) $成立时, $ \lim\limits_{|t|\rightarrow 0}\frac{f(t)}{|t|^{\sigma-1}}<+\infty $.

$ (f_{2}) $$ f $在无穷远处是次临界的, 即

$ \lim\limits_{|t|\rightarrow +\infty}\frac{f(t)}{|t|^{5}}=0. $

$ (f_{3}) $存在$ 4<\mu<6 $使得

$ 0<\mu F(t)=\mu\int_{0}^{t}f(s){\rm d}s\leq tf(t), \forall t\in{{\Bbb R}} \backslash\{0\}. $

本文主要结果叙述如下.

定理1.1  假设条件$ (M_{1}) $–$ (M_{2}) $以及$ (f_{1}) $–$ (f_{3}) $成立, 且$ (V, K)\in {\cal K} $. 则存在$ \lambda^{*}>0 $, 当$ \lambda\geq\lambda^* $时, 问题(1.1) 存在一个非平凡解$ u_{\lambda} $, 满足当$ \lambda \rightarrow +\infty $时$ \| u_{\lambda}\| \rightarrow 0 $.

为了完成定理的证明, 以下给出一些记号和引理. 对于任意的$ p\geq 1 $, 用$ \|\cdot\|_{p} $来表示$ L^{p}({{\Bbb R}} ^{3}) $的范数, $ B_{r}(z) $表示中心为$ z $半径为$ r $的开球. 根据需要, 用$ C $, $ C_{i} $来表示不同的正的常数. $ D^{1, 2}({{\Bbb R}} ^{3}) $表示$ C_{c}^{\infty}({{\Bbb R}} ^{3}) $按照范数$ \|u\|_{D^{1, 2}({{\Bbb R}} ^{3})}=\|\nabla u\|_{2} $完备化产生的空间. 嵌入$ D^{1, 2}({{\Bbb R}} ^{3})\hookrightarrow L^{6}({{\Bbb R}} ^{3}) $的最佳常数记为

$ S=\inf\limits_{u\in D^{1, 2}({{\Bbb R}} ^{3})\setminus\{0\}}\frac{\|\nabla u\|^{2}_{2}}{\|u\|^{2}_{6}}. $

为了建立问题(1.1) 适当的变分结构, 需要内积空间

$ E=\left\{u\in D^{1, 2}({{\Bbb R}} ^{3}): \int_{{{\Bbb R}} ^{3}}V(x)u^{2}{\rm d}x <\infty \right\}, $

相应的范数为

$ \|u\|^{2}=\int_{{{\Bbb R}} ^{3}}|\nabla u(x)|^{2}{\rm d}x+\int_{{{\Bbb R}} ^{3}}V(x)|u(x)|^{2}{\rm d}x. $

对于任意的$ p\geq 1 $以及$ (V, K)\in {\cal K} $, 定义加权Lebesgue空间

$ L^{p}_{K}({{\Bbb R}} ^{3})=\left\{u:{{\Bbb R}} ^{3}\rightarrow {{\Bbb R}} : u\ \mbox{是可测的且}\ \int_{{{\Bbb R}} ^{3}}K(x)|u|^{p}{\rm d}x <\infty\right\}, $

相应的范数为

$ \|u\|_{p, K}=\left(\int_{{{\Bbb R}} ^{3}}K(x)|u|^{p}{\rm d}x\right)^\frac{1}{p}. $

问题(1.1) 相应的$ E $上的能量泛函为

$ I_{\lambda}=\frac{1}{2}\hat{M}( \|u\|^{2})-\lambda\int_{{{\Bbb R}} ^{3}}K(x)F(u){\rm d}x-\frac{1}{6}\int_{{{\Bbb R}} ^{3}}u^{6}{\rm d}x, $

其中$ \hat M(t):=\int_{0}^{t}M(s){\rm d}s. $首先, 对函数$ M $做截断

$ \begin{eqnarray*} M_{a}(t)=\left\{ \begin{array}{ll} M(t), &0\leq t\leq t_{0}, \\ a, &t_{0}\leq t, \end{array} \right. \end{eqnarray*} $

其中$ M(t_{0})=a $, $ m_{0}<a<\frac{\mu m_{0}}{4} $. 相应的辅助问题为

(2.1) $ \begin{equation} M_{a}\left(\|u\|^{2}\right)\left(-\Delta u+V(x)u\right)=\lambda K(x)f(u)+|u|^{4}u, x\in {{\Bbb R}} ^{3}. \end{equation} $

(2.1) 式对应的$ E $上的能量泛函为

$ I_{a, \lambda}(u)=\frac{1}{2}\hat{M_{a}}\left(\|u\|^{2}\right) -\lambda\int_{{{\Bbb R}} ^{3}}K(x)F(u){\rm d}x-\frac{1}{6}\int_{{{\Bbb R}} ^{3}}u^{6}{\rm d}x, $

这里$ \hat M_{a}(t)=\int_{0}^{t}M_{a}(s){\rm d}s $. 显然, 如果$ u_{\lambda} $是问题(2.1) 的解且满足$ \|u_{\lambda}\|\leq t_{0} $, 那么$ u_{\lambda} $一定是问题(1.1) 的解.

现在给出两个关于紧性的结果; 详细的证明可以参考文献[3].

引理2.1   (Hardy型不等式)   假设$ (V, K)\in {\cal K} $, 则

(ⅰ) 如果$ (VK_{3}) $成立, 则对于任意的$ p\in (2, 6) $, 嵌入$ E\hookrightarrow L^{p}_{K}({{\Bbb R}} ^{3}) $是紧的;

(ⅱ) 如果$ (VK_{4}) $成立, 则$ E $紧嵌入到$ L^{\sigma}_{K}({{\Bbb R}} ^{3}) $.

以下引理对证明泛函$ I_{a, \lambda} $的$ PS $序列的紧性是重要的.

引理2.2  如果$ f $满足条件$ (f_{1}) $–$ (f_{2}) $, $ (V, K)\in {\cal K} $, 假设$ E $中序列$ \{u_{n}\} $满足$ u_{n}\rightharpoonup u $, 则

$ \lim\limits_{n\rightarrow +\infty}\int_{{{\Bbb R}} ^{3}}K(x)F(u_{n}){\rm d}x=\int_{{{\Bbb R}} ^{3}}K(x)F(u){\rm d}x $

并且

$ \lim\limits_{n\rightarrow +\infty}\int_{{{\Bbb R}} ^{3}}K(x)f(u_{n})u_{n}{\rm d}x=\int_{{{\Bbb R}} ^{3}}K(x)f(u)u{\rm d}x. $

下面证明泛函$ I_{a, \lambda} $有山路定理几何结构.

引理3.1  假设$ (M_{1}) $–$ (M_{2}) $, $ (f_{1}) $–$ (f_{2}) $以及$ (V, K)\in {\cal K} $成立, 则对于任意的$ \lambda>0 $, 存在两个正的常数$ r $和$ \beta $使得

$ \inf\limits_{\|u\|=r}I_{a, \lambda}(u) \geq \beta>0. $

证  假设条件$ (VK_{3}) $成立.

固定$ p\in(2, 6) $, 则对任意的$ \epsilon>0 $, 存在两个正的常数$ C $和$ C_{\epsilon} $使得

(3.1) $ \begin{equation} |K(x)F(u)|\leq \epsilon \left(V(x)u^{2}+Cu^{6}\right)+C_{\epsilon}K(x)|u|^{p}. \end{equation} $

结合$ (M_{2}) $、(3.1)式、Sobolev不等式以及引理2.1, 有

(3.2) $ \begin{equation} I_{a, \lambda}(u)\geq\frac{1}{2}m_{0}\|u\|^{2}-\epsilon\lambda\|u\|^{2} -C(1+\epsilon\lambda)\|u\|^{6}-\lambda C_{\epsilon}\|u\|^{p}. \end{equation} $

取$ \epsilon=\frac{m_{0}}{4\lambda} $, 令$ r>0 $足够小, 则易得结论.

假设条件$ (VK_{4}) $成立.

固定$ \epsilon>0 $, 则存在$ C_{ \epsilon}>0 $使得

(3.3) $ \begin{equation} K(x)F(u)\leq C_{\epsilon}K(x)|u|^{\sigma}+\epsilon u^{6}. \end{equation} $

结合上式、$ (M_{1}) $、引理2.1以及Sobolev不等式, 有

(3.4) $ \begin{equation} I_{a, \lambda}(u)\geq\frac{1}{2}m_{0}\|u\|^{2}- C(1+\epsilon\lambda)\|u\|^{6}-\lambda C_{\epsilon}\|u\|^{\sigma}, \end{equation} $

显然结论成立.证毕.

引理3.2  假设$ (M_{1}) $–$ (M_{2}) $、$ (VK_{1}) $以及$ (f_{3}) $成立, 则对于任意的$ \lambda>0 $, 存在$ e\in E $满足

$ I_{a, \lambda}(e)\leq 0. $

证   由$ (M_{1}) $–$ (M_{2}) $、$ (VK_{1}) $以及$ (f_{3}) $可知

(3.5) $ \begin{equation} I_{a, \lambda}(u)\leq \frac{1}{2}a\|u\|^{2}-\mu\|u\|^{\mu}_{\mu, K}-\|u\|^{6}_{6}. \end{equation} $

取$ v_{0}\in C^{\infty}_{c}({{\Bbb R}} ^{3}) $满足$ v_{0}\geq0 $且$ \|v_{0}\|=1 $, 则有

$ I_{a, \lambda}(tv_{0})\leq\frac{1}{2}at^{2}-t^{\mu}\mu\|v_{0}\|^{\mu}_{\mu, K}-t^{6}\|v_{0}\|^{6}_{6}. $

显然, 当$ t\rightarrow +\infty $时, $ I_{a, \lambda}(tv_{0})\rightarrow -\infty $. 取$ e=t_{0}v_{0} $, 其中$ t_{0} $足够大, 易得$ I_{a, \lambda}(e)\leq 0 $.

根据引理3.1–3.2以及山路定理^[19], 存在泛函$ I_{a, \lambda} $的PS序列$ \{u^{\lambda}_{n}\}\in E $, 为了方便记为$ \{u_{n}\} $, 满足

$ I_{a, \lambda}(u_{n})\rightarrow c_{a, \lambda} \mbox{以及} I'_{a, \lambda}(u_{n})\rightarrow 0, \mbox{当}\ n\rightarrow \infty\ \mbox{时}, $

这里

$ c_{a, \lambda}=\inf\limits_{\gamma\in\Gamma}\max\limits_{t\in[0, 1]} I_{a, \lambda}(\gamma(t)), $

其中

$ \Gamma:=\{\gamma\in C([0, 1], E): \gamma(0)=0 \ \mbox{且}\ \gamma(1)=e \}. $

引理3.3  假设$ (M_{1}) $–$ (M_{2}) $、$ (f_{1}) $–$ (f_{2}) $以及$ (V, K)\in {\cal K} $成立, 则

$ c_{a, \lambda}\rightarrow0, \mbox{当}\ \lambda \rightarrow +\infty\ \mbox{时}. $

证   取上述引理中的$ v_{0} $. 由泛函$ I_{a, \lambda} $的山路定理几何结构可知

$ \forall\lambda>0, \ \exists t_{\lambda}>0 \mbox{使得} I_{a, \lambda}(t_{\lambda}v_{0})=\max\limits_{t\geq 0}I_{a, \lambda}(tv_{0}). $

取定义在$ {{\Bbb R}} ^{+} $函数: $ g(t)=I_{a, \lambda}(tv_{0}) $. 则有

$ g'(t_{\lambda})=I'_{a, \lambda}(t_{\lambda}v_{0})v_{0}=0. $

因此

(3.6) $ \begin{equation} t^{2}_{\lambda}M_{a}(t^{2}_{\lambda})=\lambda\int_{{{\Bbb R}} ^{3}}K(x)f(t_{\lambda}v_{0})t_{\lambda}v_{0}{\rm d}x +t^{6}_{\lambda}\int_{{{\Bbb R}} ^{3}}v_{0}^{6}{\rm d}x. \end{equation} $

由$ (M_{1}) $, $ (f_{2}) $以及(3.6)式可知

(3.7) $ \begin{equation} t_{\lambda}<C, \forall \lambda\geq 0. \end{equation} $

我们断言当$ \lambda\rightarrow +\infty $时, $ t_{\lambda}\rightarrow 0 $. 若不然, 则存在序列$ \{\lambda_{n}\} $满足$ \lambda_{n}\rightarrow +\infty $, 以及常数$ T>0 $使得

$ t_{\lambda_{n}}\rightarrow T, \mbox{当}\ n\rightarrow +\infty\ \mbox{时}. $

由$ (f_{1}) $–$ (f_{2}) $, 存在$ p\in(2, 6) $满足

$ |K(x)f(u)u|\leq \epsilon K(x)(|u|^{2}+|u|^{6})+C_{\epsilon}K(x)|u|^{p} $

或者

$ |K(x)f(u)u|\leq \epsilon K(x)|u|^{6}+C_{\epsilon}K(x)|u|^{\sigma}. $

由Lebesgue控制收敛定理可知

$ \lim\limits_{n\rightarrow +\infty }\int_{{{\Bbb R}} ^{3}}K(x)f(t_{\lambda_{n}}v_{0})t_{\lambda_{n}}v_{0}{\rm d}x =\int_{{{\Bbb R}} ^{3}}K(x)f(Tv_{0})Tv_{0}{\rm d}x>0. $

注意到(3.7)式, 上式与(3.6) 式产生矛盾.

最后, 我们证明当$ \lambda \rightarrow +\infty $时, $ c_{a, \lambda}\rightarrow0 $. 取$ \gamma_{0}(t)=te $, $ t\in[0, 1] $, $ \gamma_{0}(t)\in \Gamma. $则

$ 0< c_{a, \lambda}\leq \max\limits_{t\in [0, 1]}I_{a, \lambda}(\gamma_{0}(t)) \leq\frac{1}{2}\hat{M_{a}}\left(|t_{\lambda}|^{2}\right). $

结合上述断言可知$ c_{a, \lambda}\rightarrow0 $.证毕.

引理3.4  假设$ (M_{1}) $–$ (M_{2}) $、$ (f_{1}) $–$ (f_{3}) $以及$ (V, K)\in {\cal K} $成立, 则存在$ \lambda_{0}>0 $, 使得当$ \lambda\geq\lambda_{0} $时, 问题(2.1) 有一个非平凡解$ u_{\lambda} $.

证   由上一个引理可知, 存在$ \lambda_{0}>0 $满足

(3.8) $ \begin{equation} c_{a, \lambda}\leq(\frac{1}{\mu}-\frac{1}{6}) (m_{0}S)^{\frac{2}{3}}, \forall \lambda\geq \lambda_{0}. \end{equation} $

取序列$ \{u_{n}\}\subset E $满足, 当$ n\rightarrow \infty $时, 有

$ I_{a, \lambda}(u_{n})\rightarrow c_{a, \lambda} \mbox{以及} I'_{a, \lambda}(u_{n})\rightarrow 0. $

结合$ (M_{2}) $以及$ (f_{3}) $, 有

$ \begin{eqnarray*} c_{a, \lambda}+ o_{n}(1) +o_{n}(\|u_{n}\|)&=&I_{a, \lambda}(u_{n})-\frac{1}{\mu}I'_{a, \lambda}(u_{n})u_{n} \\ & \geq&\frac{1}{2}\hat{M_{a}}\left(\|u_{n}\|^{2}\right)- \frac{1}{\mu}M_{a}\left(\|u_{n}\|^{2}\right)\|u_{n}\|^{2}\\ &\geq &(\frac{1}{2}m_{0}-\frac{1}{\mu}a)\|u_{n}\|^{2} \geq\frac{1}{4}m_{0}\|u_{n}\|^{2}. \end{eqnarray*} $

因此, $ \{u_{n}\} $在$ E $中有界. 根据引理$ 2.1 $及Sobolev不等式, 存在$ \{u_{n}\} $的子列, 仍记为$ \{u_{n}\} $, 满足

(3.9) $ \begin{equation} \left\{\begin{array}{ll} \mbox{在}\ E\ \mbox{中}, u_{n}\rightharpoonup u, \\ u_{n}\rightarrow u \mbox{几乎处处于}\ x\in {{\Bbb R}} ^{3}, \\ \|u_{n}\|^{2}\rightarrow A^{2}, \\ { }\lim\limits_{n\rightarrow +\infty}\int_{{{\Bbb R}} ^{3}}K(x)F(u_{n}){\rm d}x=\int_{{{\Bbb R}} ^{3}}K(x)F(u){\rm d}x, \\ { } \lim\limits_{n\rightarrow +\infty}\int_{{{\Bbb R}} ^{3}}K(x)f(u_{n})u_{n}{\rm d}x=\int_{{{\Bbb R}} ^{3}}K(x)f(u)u{\rm d}x. \end{array}\right. \end{equation} $

令$ v_{n}=u_{n}-u $. 显然有$ v_{n}\rightharpoonup 0 $于$ E $. 应用Brezis-Lieb引理, 有

(3.10) $ \begin{equation} \left\{\begin{array}{ll} \|v_{n}\|^{2}=\|u_{n}\|^{2}-\|u\|^{2}+o_{n}(1);\\ \|v_{n}\|_{6}^{6} =\|u_{n}\|_{6}^{6}-\|u\|_{6}^{6}+o_{n}(1); \\ A^{2}=\|u_{n}\|^{2}+o_{n}(1)=\|v_{n}\|^{2}+\|u\|^{2}+o_{n}(1). \end{array}\right. \end{equation} $

对于任意的$ \psi \in C^{\infty}_{c}({{\Bbb R}} ^{3}) $, 有

$ I'_{a, \lambda}(u_{n})\psi=\int_{{{\Bbb R}} ^{3}}M_{a, \lambda}(\|u_{n}\|^{2})u_{n}\psi -\lambda\int_{{{\Bbb R}} ^{3}}K(x)f(u_{n})\psi-\int_{{{\Bbb R}} ^{3}}u_{n}^{5}\psi. $

根据引理$ 2.1 $以及(3.9)式, 可以推出

(3.11) $ \begin{equation} \int_{{{\Bbb R}} ^{3}}M_{a, \lambda}(A^{2})\left(\nabla u\nabla \psi+V(x)u\psi\right) -\lambda\int_{{{\Bbb R}} ^{3}}K(x)f(u)\psi-\int_{{{\Bbb R}} ^{3}}u^{5}\psi=0. \end{equation} $

在$ E $上引入一个新的泛函

$ J_{a, \lambda}(u)=M_{a, \lambda}(A^{2})\frac{\|u\|^{2}}{2}-\lambda\int_{{{\Bbb R}} ^{3}}K(x)F(u) -\frac{1}{6}\int_{{{\Bbb R}} ^{3}}u^{6}{\rm d}x. $

易知

(3.12) $ \begin{equation} \left\{\begin{array}{ll} J'_{a, \lambda}(u_{n})\rightarrow 0. \ { } J_{a, \lambda}(u_{n})\rightarrow c_{a, \lambda}-\frac{1}{2}\hat{M}_{a, \lambda}(A^{2})+\frac{1}{2}M_{a, \lambda}(A^{2})A^{2}. \end{array}\right. \end{equation} $

注意到$ \langle J'_{a, \lambda}(u), u\rangle=0, $同时结合(3.9)、(3.10) 与(3.12)式, 可推出

(3.13) $ \begin{equation} o_{n}(1)=\langle J'_{a, \lambda}(u_{n}), u_{n} \rangle- \langle J'_{a, \lambda}(u), u\rangle=M_{a, \lambda}(A^{2})\|v_{n}\|^{2}-\|v_{n}\|_{6}^{6}+o_{n}(1). \end{equation} $

我们可以假设(最多取一个子列)

$ \lim\limits_{n\rightarrow \infty} M_{a, \lambda}(A^{2})\|v_{n}\|^{2}=\lim\limits_{n\rightarrow \infty} \|v_{n}\|_{6}^{6}=l. $

如果$ l=0 $, 则$ u $是问题(2.1) 的一个解. 以下假设$ l>0 $. 由$ S $的定义可知

(3.14) $ \begin{equation} \lim\limits_{n\rightarrow \infty} \|v_{n}\|^{2}=\frac{l}{ M_{a, \lambda}(A^{2})}\geq Sl^{\frac{1}{3}} \Rightarrow l\geq (m_{0}S)^{\frac{2}{3}}. \end{equation} $

由$ (f_{3}) $可知

(3.15) $ \begin{eqnarray} J_{a, \lambda}(u)&=&J_{a, \lambda}(u)-\frac{1}{\mu}\langle J'_{a, \lambda}(u), u\rangle \\ & \geq& (\frac{1}{2}-\frac{1}{\mu})M_{a, \lambda}(A^{2})\|u\|^{2}+(\frac{1}{\mu} -\frac{1}{6})\|u\|_{6}^{6}. \end{eqnarray} $

根据(3.9)式, 易得

(3.16) $ \begin{eqnarray} J_{a, \lambda}(u_{n})-J_{a, \lambda}(u)=\frac{1}{2}M_{a, \lambda}(A^{2})\|v_{n}\|^{2} -\frac{1}{6}\|v_{n}\|_{6}^{6}+o_{n}(1). \end{eqnarray} $

观察(3.12) 和(3.15)式, 有

$ \begin{eqnarray*} J_{a, \lambda}(u_{n})-J_{a, \lambda}(u) &\leq &o_{n}(1)+ c_{a, \lambda}+\frac{1}{2}M_{a, \lambda}(A^{2})(\|v_{n}\|^{2}+\|u\|^{2})\\ & &-\frac{1}{2}\hat{M}_{a, \lambda}(A^{2})-(\frac{1}{2}-\frac{1}{\mu})M_{a, \lambda}(A^{2})\|u\|^{2}- (\frac{1}{\mu}-\frac{1}{6})\|u\|_{6}^{6}. \end{eqnarray*} $

结合(3.16)式以及上述不等式, 有

$ \begin{eqnarray*} \frac{1}{2}\hat{M}_{a, \lambda}(A^{2})-\frac{1}{6}\|v_{n}\|_{6}^{6}+o_{n}(1) \leq c_{a, \lambda}+\frac{1}{\mu}M_{a, \lambda}(A^{2})(\|u\|^{2}). \end{eqnarray*} $

由$ M_{a, \lambda} $的定义以及$ (M_{2}) $, 有

(3.17) $ \begin{equation} \frac{m_{0}}{4}\|v_{n}\|^{2}-\frac{1}{6}\|v_{n}\|_{6}^{6}+o_{n}(1)\leq c_{a, \lambda}+(\frac{a}{\mu}-\frac{m_{0}}{4})\|u\|^{2}. \end{equation} $

因为$ m_{0}<a<\frac{\mu m_{0}}{4} $, 所以由(3.14)式可得

$ (\frac{1}{\mu}-\frac{1}{6}) (m_{0}S)^{\frac{2}{3}} < c_{a, \lambda}. $

当$ \lambda\geq \lambda_{0} $时, 上式与(3.8) 式相矛盾.

定理的证明  我们断言存在$ \lambda^{*}\geq\lambda_{0} $使得

$ \|u_{\lambda}\|^{2}\leq t_{0} \forall \lambda\geq \lambda^{*}. $

我们用反证法完成证明. 假设存在一个序列$ \lambda_{j}\geq\lambda_{0} $满足$ \lambda_{j}\rightarrow \infty $, 且对于所有的$ j $有$ \|u_{\lambda_{j}}\|^{2}>t_{0} $. 为了方便我们记$ u_{\lambda_{j}} $为$ u_{j} $. 注意到$ u_{j} $是$ I_{a, \lambda_{j}} $的临界点, 同时结合$ (M_{2}) $以及$ (f_{3}) $, 有

$ \begin{eqnarray*} c_{a, \lambda_{j}} &=&I_{a, \lambda_{j}}(u_{j})-\frac{1}{\mu}\langle I'_{a, \lambda_{j}}(u_{j}), u_{j} \rangle\\ & \geq&\frac{1}{2}\hat{M_{a}}\left(\|u_{j}\|^{2}\right)- \frac{1}{\mu}M_{a}\left(\|u_{j}\|^{2}\right)\|u_{j}\|^{2}\\ &\geq&(\frac{m_{0}}{2}-\frac{a}{\mu})t_{0}, \end{eqnarray*} $

这与(3.3)式相矛盾. 因此, 对于任意的$ \lambda\geq\lambda^{*} $, 有$ \hat{M_{a}}\left(\|u_{\lambda}\|^{2}\right)={M_{a}}\left(\|u_{\lambda}\|^{2}\right) $. 从而$ u_{\lambda} $是问题(1.1) 的一个非平凡解.

由上式的推导过程, 易得

$ c_{a, \lambda} \geq(\frac{m_{0}}{2}-\frac{a}{\mu})\|u_{\lambda}\|^{2}. $

再由引理$ 3.3 $可知, 当$ \lambda \rightarrow +\infty $时, $ \| u_{\lambda}\| \rightarrow 0 $.证毕.