考虑如下相对非线性薛定谔方程

(1.1) ${\rm i}z_t=-\Delta z+W(x)z-\tilde{h}(|z|^2)z-k\left[\Delta\sqrt{1+z^2}\right]\frac{z}{2\sqrt{1+z^2}}, \qquad x\in{\mathbb{R}}^N, $

其中$z: {\mathbb{R}}\times{\mathbb{R}}^N\rightarrow {\Bbb C}$, $k$是给定的常数, $W: {\mathbb{R}}^N\rightarrow {\mathbb{R}}$是给定的位势, $\tilde{h}$是实函数.方程(1.1)来源于物质中的高功率超短激光方程(参见文献[1-2, 4]).文献[1-2]研究了方程(1.1)极小解的整体存在性以及一维柯西问题解的整体存在性和渐近行为. Chen和Sudan^[4]证明了参数$k$小于零时,方程(1.1)具有负能量的解,且当时间足够大时,解不能消散.关于方程(1.1)更多的背景可以参见文献[1-2, 4]及其参考文献.

如果考虑方程(1.1)的驻波解,即考虑

$z(x, t)=\exp (-{\rm i}Et)u(x), $

其中$E\in{\mathbb{R}}$, $u>0$是实函数.易知函数$z$满足方程(1.1)当且仅当函数$u$满足

(1.2) $-\Delta u+V(x)u-k\Delta\sqrt{1+u^2}\frac{u}{2\sqrt{1+u^2}}=h(u), \qquad x \in{\mathbb{R}}^N, $

其中$V=W-E$是新的位势函数, $h$表示新的非线性函数.当$k=0$,方程就是经典的半线性椭圆型方程,不同情形下方程解的存在性和多解性结果非常多^{[10-11, 15-16]}.若$k\neq 0$,不失一般性,假设$k=1$.对于方程(1.2), Shen和Wang ^[12]首先引入新的变换得到了方程在超线性次临界情形下驻波解的存在性. Cheng和Yang^[5-6], Cheng和Yao^[7]将文献[12]的结果推广到了更一般的非线性情形.接着, Shen和Wang^[14]利用山路引理,得到了临界情形下方程非平凡解的存在性,并进而在文献[13]中考虑了参数$k＜0$时方程非平凡解的存在性.

本文中,首先考虑方程(1.2)当$V(x)=0$时解的存在性,希望将经典的Berestycki-Lions场方程^[3]的结果推广到方程(1.2).即考虑如下问题:

(1.3) $ -\Delta u-\Delta \sqrt{1+u^2}\frac{u}{2\sqrt{1+u^2}}=h(u), \qquad x \in {\mathbb{R}}^N, $

其中$h(u)\in C({\mathbb{R}}, {\mathbb{R}})$满足:

(h0)   当$N\geq 3$时, $-\infty＜ \lim\limits_{\overline{s\rightarrow0^-}} \frac{h(s)}{s}\leq \overline{\lim\limits_{s\rightarrow0^+}} \frac{h(s)}{s}=-m＜0$;当$N=1, 2$时, $\lim\limits_{s\rightarrow 0} \frac{h(s)}{s}=-m\in (-\infty, 0)$,其中$m$是正常数.

(h1)   当$N\geq 3$时, $-\infty\leq \lim\limits_{\overline{s\rightarrow+\infty}} \frac{h(s)}{s^l}\leq0$,其中$l=\frac{N+2}{N-2}$;当$N=2$时,对任意的$\alpha>0$,存在$C_\alpha >0$,使得对所有的$s\geq 0$,有$|h(s)|\leq C_\alpha {\rm e}^{\alpha s^2}$.

(h2)   当$N\geq 2$时,存在$\zeta>0$,使得$H(\zeta)=\int_0^{\zeta}h(s){\rm d}x>0$;当$N=1$时,存在$\zeta_0>0$,使得对所有$\zeta\in (0, \zeta_0)$,有$H(\zeta)＜0$,且$H(\zeta_0)=0$, $h(\zeta_0)>0$.

可得到相似Berestycki-Lions场方程的结果为

定理1.1  假设方程(1.3)中函数$h$满足条件(h0)-(h2),则方程(1.3)存在一个非平凡解$\omega(x)\in H^1({\mathbb{R}}^N)$,且满足如下性质:

(i)   $\forall x\in {\mathbb{R}}^N$, $\omega(x)>0$;

(ii)   $\omega$是施瓦兹球对称的,即$\omega(x)=\omega(r)$, $r=|x|$,并且$\omega(x)$随着$r$递减;

(iii)   $\omega\in C^2({\mathbb{R}}^N)$;

(iv)   $\omega(x)$和它的二阶导数在无穷远处对于某些$C$满足指数衰减

$|D^{\alpha}\omega(x)|\leq C{\rm e}^{-\delta|x|}, \qquad x\in {\mathbb{R}}^N, $

其中$\delta>0, \ |\alpha|＜2$.

注1.1  文献[13]中的注1.3在关于$N\geq 3$时,给出了场方程的相似结论,但是没有证明.本文给出了定理1.1一个简短的证明,并且考虑了$N=1, 2$的情形.

从Shen和Wang^[12-14]一系列的工作可以看出,他们在用尽量简洁的条件去得到方程(1.2)次临界和临界情形非平凡解的存在性,方法是经典的山路引理,因此不可避免的假设了一个相似的(AR)条件:

$\mbox{存在一个}\ \mu>\sqrt{6}, \ \mbox{使得对任意的}\ s>0, \ \mbox{成立}\ 0＜\mu H(s)\leq sh(s).$

本文希望可以对他们提出的条件进行一定的改进,因此考虑如下相对非线性薛定谔方程

(1.4) $ -\Delta u+V(x)u-\Delta\sqrt{1+u^2}\frac{u}{2\sqrt{1+u^2}}=f(x, u), \qquad x \in {\mathbb{R}}^N, $

其中$f(x, u)\in C({\mathbb{R}}\times{\mathbb{R}}^N, {\mathbb{R}})$,位势$V: {\mathbb{R}} ^N\rightarrow {\mathbb{R}}$是连续的,函数$V$与$f$满足如下条件

(V0)   存在$V_0>0$,使得对任意的$x\in {\mathbb{R}}^N$都有$\ V(x)\geq V_0>0$;

(V1)   $\lim\limits_{|x|\rightarrow\infty}V(x)=V(\infty)$,且对任意的$x\in {\mathbb{R}}^N$都有$V(x)\leq V(\infty)$;

(f0)   $\lim\limits_{s\rightarrow0}\frac{f(x, s)}{s}=0$,即$f(x, s)=o(|s|), s\rightarrow0^+$;

(f1)   存在常数$2＜q_1＜2^*$及$C>0$,使得

$|f(x, s)|\leq C(1+|s|^{q_1-1});$

(f2)   存在常数$q_2>\frac{N(q_1-2)}{2}$及函数$h_1\in L^1({\mathbb{R}}^N)$,使得

$\frac{1}{\sqrt{6}}f(x, s)s-F(x, s)\geq s^{q_2}-h_1(x), $

其中$(x, s)\in {\mathbb{R}}^N\times[0, +\infty)$;

(f3)   当$s\rightarrow\infty$时,有$\frac{F(x, s)}{s^2}\rightarrow\infty$.

定理1.2  假设函数$V$满足(V0)-(V1),函数$f$满足(f0)-(f3).则问题(1.4)在空间$H^1({\mathbb{R}}^N)$上存在一个非平凡解.

方程(1.3)和(1.4)对应的能量泛函分别为

$J_0(u)=\frac{1}{2}\int_{{\mathbb{R}}^N} \bigg[1+\frac{u^2}{2(1+u^2)} \bigg]|\nabla u|^2{\rm d}x-\int_{{\mathbb{R}}^N}H(u){\rm d}x, $

$I_0(u)=\frac{1}{2}\int_{{\mathbb{R}}^N} \bigg[1+\frac{u^2}{2(1+u^2)} \bigg]|\nabla u|^2{\rm d}x+\frac{1}{2}\int_{{\mathbb{R}}^N}V(x) u^2{\rm d}x-\int_{{\mathbb{R}}^N}F(x, u){\rm d}x, $

其中$H(u)=\int_0^uh(s){\rm d}x$, $F(x, u)=\int_0^uf(x, s){\rm d}x$.由于泛函$J_0$和$I_0$在通常的Sobolev空间$H^1({\mathbb{R}}^N)$中不好定义,令

$g(u)=\sqrt{1+\frac{u^2}{2(1+u^2)}}, $

相似文献[12]引入变量代换$v=G(u)=\int_0^ug(t){\rm d}t$,得到新的能量泛函为

(2.1) $J(v)=J_0(G^{-1}(v))=\frac{1}{2}\int_{{\mathbb{R}}^N}|\nabla v|^2{\rm d}x-\int_{{\mathbb{R}}^N}H(G^{-1}(v)){\rm d}x, $

(2.2) $I(v)=I_0(G^{-1}(v))=\frac{1}{2}\int_{{\mathbb{R}}^N}|\nabla v|^2{\rm d}x+\frac{1}{2}\int_{{\mathbb{R}}^N}V(x)|G^{-1}(v)|^2{\rm d}x-\int_{{\mathbb{R}}^N}F(x, G^{-1}(v)){\rm d}x.$

则方程(1.3)和(1.4)变为

(2.3) $-\Delta v=\frac{h(G^{-1}(v))}{g(G^{-1}(v))}, $

(2.4) $-\Delta v+V(x)\frac{G^{-1}(v)}{g(G^{-1}(v))}=\frac{f(x, G^{-1}(v))}{g(G^{-1}(v))}, \qquad v\in H^1({\mathbb{R}}^N).$

引理2.1  函数$g$与变量代换$G^{-1}(s)$具有如下性质:

(g0)   对任意$s\in {\mathbb{R}}$,有$\sqrt{\frac{2}{3}}|s|＜|G^{-1}(s)|＜|s|$;

(g1)   $(G^{-1}(s))'=\frac{1}{g(G^{-1}(s))}=\sqrt{\frac{2+2(G^{-1}(s))^2}{2+3(G^{-1}(s))^2}}\leq1$;

(g2)   $\lim\limits_{s\rightarrow0}\frac{G^{-1}(s)}{s}=1$;

(g3)   $\lim\limits_{s\rightarrow\infty}\frac{G^{-1}(s)}{s}=\sqrt{\frac{2}{3}}$;

(g4)   对任意$s\in{\mathbb{R}}$,有$\frac{\sqrt{6}}{3}G^{-1}(s)\leq\frac{s}{g(G^{-1}(s))}\leq G^{-1}(s)$;

(g5)   对任意$s\geq0$,有$s\leq G^{-1}(s)g(G^{-1}(s))\leq (6-2\sqrt{6})s$.

注2.1  一方面,由引理2.1,函数$h$, $V(x)$, $f(x, s)$的定义及满足的条件,可知泛函$J(v)$和$I(v)$在空间$H^1({\mathbb{R}}^N)$中有定义,且$J(v)$, $I(v)\in C^1$.另一方面,相似文献[13]中第二节易知求方程(1.3)的解等价于求方程(2.3)的解,求方程(1.4)的解等价于求方程(2.3)的解.

引理2.2  如果函数$h(s)$满足条件(h$_0)$-(h$_2)$,则函数

$ k(v)=\frac{h(G^{-1}(v))}{g(G^{-1}(v))}, K(v)=\int_0^v k(s){\rm d}s $

与函数$h$具有相似的条件.

证  (h$_0)$的相似条件.由函数$h$和$g$的定义可知函数$k(v)\in C({\mathbb{R}}^{+}, {\mathbb{R}})$.进一步,由引理2.1中性质(g2),可知$\lim\limits_{v\rightarrow 0}G^{-1}(v)=0$,因此$\lim\limits_{v\rightarrow 0} g(G^{-1}(v))=g(0)=1$.结合引理2.1中性质(g2)和条件(h$_0)$可得

$ \begin{eqnarray*} \lim\limits_{v\rightarrow 0}\frac{k(v)}{v}=\lim\limits_{v\rightarrow 0}\frac{h(G^{-1}(v))}{G^{-1}(v)}\frac{G^{-1}(v)}{vg(G^{-1}(v))}= \lim\limits_{G^{-1}(v)\rightarrow 0}\frac{h(G^{-1}(v))}{G^{-1}(v)}. \end{eqnarray*}$

(h$_1)$的相似条件.当$N\geq 3$时,由引理2.1中性质(g3),可知$\lim\limits_{v\rightarrow \infty}G^{-1}(v)=\infty$,因此$\lim\limits_{v\rightarrow \infty}g^{-1}(G^{-1}(v))=\sqrt{\frac{2}{3}}$.结合引理2.1中性质(g3)和条件(h$_1)$可得

$ \begin{eqnarray*} \lim\limits_{v\rightarrow \infty}\frac{k(v)}{v^{(N+2)/(N-2)}}&= &\lim\limits_{v\rightarrow \infty}\left(\frac{h(G^{-1}(v))}{{G^{-1}(v)}^{(N+2)/(N-2)}}\frac{{G^{-1}(v)}^{(N+2)/(N-2)}}{v^{(N+2)/(N-2)}}\frac{1}{g(G^{-1}(v))}\right)\\ &=&\left(\frac{2}{3}\right)^{\frac{N}{N-2}} \lim\limits_{G^{-1}(v)\rightarrow \infty}\frac{h(G^{-1}(v))}{{G^{-1}(v)}^{(N+2)/(N-2)}}=0. \end{eqnarray*}$

当$N=2$时,由引理2.1中性质(g0)和(g1),结合条件(h$_1)$,对$\alpha>0$, $C_\alpha>0$,可得

$ k(v)=\frac{1}{g(G^{-1}(v))}h(G^{-1}(v))\leq h(G^{-1}(v))\leq C_\alpha {\rm e}^{\alpha ({G^{-1}(v)})^2}\leq C_\alpha {\rm e}^{{\alpha v}^2}. $

(h$_2)$的相似条件.由函数$g$和$G$的定义可知,函数$G$和$G^{-1}$是单调递增的.因此,当$N\geq 2$时,有

$\int_0^{G(\xi)} k(s){\rm d}s=\int_0^{G(\xi)} \frac{h(G^{-1}(s))}{g(G^{-1}(s))}{\rm d}s=\int_0^{G(\xi)} h(G^{-1}(s)){\rm d}{G^{-1}(s)}=\int_0^\xi h(t){\rm d}t.$

同理可得$N=1$的情形,且$k(G(\zeta_0))=\frac{h(G^{-1}(G(\zeta_0)))}{g(G^{-1}(G(\zeta_0)))}=\frac{h(\zeta_0)}{g(\zeta_0)}>0$, $K(G(\zeta_0))=0$.

引理2.3  设

$ L(x, s)=-\frac{1}{2}V_0(G^{-1}(s))^2+F(x, G^{-1}(s)), $

则

$\lim\limits_{s\rightarrow 0}\frac{L(x, s)}{s^2}=-\frac{1}{2}V_0, \lim\limits_{s\rightarrow\infty}\frac{L(x, s)}{s^{2^*}}=0.$

证  相似引理2.2,可知$\lim\limits_{v\rightarrow 0}G^{-1}(v)=0$, $\lim\limits_{v\rightarrow \infty}G^{-1}(v)=\infty$.因此,由(f0)及引理2.1中(g2)可得

$ \begin{eqnarray*} \lim\limits_{s\rightarrow 0}\frac{L(x, s)}{s^2}&=&-\frac{1}{2}V_0\lim\limits_{s\rightarrow 0}\frac{(G^{-1}(s))^2}{s^2}+\lim\limits_{s\rightarrow 0}\left(\frac{F(x, G^{-1}(s))}{(G^{-1}(s))^2}\frac{(G^{-1}(s))^2}{s^2}\right)\\ &=&-\frac{1}{2}V_0+\lim\limits_{G^{-1}(s)\rightarrow 0}\frac{F(x, G^{-1}(s))}{(G^{-1}(s))^2}\lim\limits_{s\rightarrow 0}\frac{(G^{-1}(s))^2}{s^2}=-\frac{1}{2}V_0. \end{eqnarray*}$

由(f1)及引理2.1中(g0), (g3)可得

$\begin{eqnarray*}\lim\limits_{s\rightarrow \infty}\frac{L(x, s)}{s^{2^*}}&=&-\frac{1}{2}V_0\lim\limits_{s\rightarrow \infty}\frac{(G^{-1}(s))^2}{s^{2^*}}+\lim\limits_{s\rightarrow \infty}\left(\frac{F(x, G^{-1}(s))}{(G^{-1}(s))^{2^*}}\frac{(G^{-1}(s))^{2^*}}{s^{2^*}}\right)\\ &=&0+\lim\limits_{G^{-1}(s)\rightarrow \infty}\frac{F(x, G^{-1}(s))}{(G^{-1}(s))^{2^*}}\lim\limits_{v\rightarrow \infty}\frac{(G^{-1}(s))^{2^*}}{s^{2^*}}=0. \end{eqnarray*} $

证毕.

在文献[3]中,可知如果方程

(3.1) $ -\triangle u=h(u), \ \ \ x\in{\Bbb R^N} $

中函数$h(u)$满足条件(h0)-(h2),则方程存在一个非平凡解,满足定理1.1中性质(i)-(iv).方程(1.3)通过变换后所得的方程(2.3)与方程(3.1)形式一样,另外,由引理2.2可知变换后的非线性项函数$k(v)$满足相似的条件(h0)-(h2).因此方程(2.3)存在一个非平凡解,进而方程(1.3)存在一个非平凡解,满足定理1.1中性质(i)-(iv).

引理4.1  假设(V0), (V1), (f0), (f1)和(f3)成立,则泛函$I$满足山路几何条件.

证  由引理2.3可得,对$\epsilon>0$,存在$C_\epsilon>0$,使得

(4.1) $L(x, s)\leq \left(-\frac{1}{2}V_0+\epsilon\right)|s|^2+C_\epsilon |s|^{2^*}.$

结合条件(V0), (4.1)式和Sobolev不等式,可得

$\begin{eqnarray*} I(v)&=&\frac{1}{2}\int_{{\mathbb{R}}^N}|\nabla v|^2{\rm d}x+\frac{1}{2}\int_{{\mathbb{R}}^N}V(x)|G^{-1}(v)|^2{\rm d}x-\int_{{\mathbb{R}}^N}F(x, G^{-1}(v)){\rm d}x\\ &\geq &\frac{1}{2}\int_{{\mathbb{R}}^N}|\nabla v|^2{\rm d}x-\int_{{\mathbb{R}}^N}L(x, G^{-1}(v)){\rm d}x\\ &\geq&\frac{1}{2}\int_{{\mathbb{R}}^N}|\nabla v|^2{\rm d}x+\left(\frac{1}{2}V_0-\epsilon\right)\int_{{\mathbb{R}}^N}|v|^2{\rm d}x-C_\epsilon\int_{{\mathbb{R}}^N}| v|^{2^*}{\rm d}x\\ &\geq& C_1||v||^2-C_2 ||v||^{2^*}.\end{eqnarray*}$

这意味着存在一个$||v||=\rho$足够小,存在$\alpha>0$,使得$I(v)\geq \alpha$.

另一方面,取$\varphi\in C_0^{\infty}({\mathbb{R}}^N, [0, 1])$且supp$\varphi=\bar{B_1}$,其中$\bar{B_1}$是${\mathbb{R}}^N$中的闭单位球.再利用条件(f3)和(g3),当$t\rightarrow \infty$时,有

$\begin{eqnarray*} I(t\varphi)&\leq&\frac{t^2}{2}\int_{{\mathbb{R}}^N}|\nabla \varphi|^2{\rm d}x +\frac{t^2}{2}\int_{{\mathbb{R}}^N}V(x)|\varphi|^2{\rm d}x -t^2\int_{{\mathbb{R}}^N}\frac{F(x, G^{-1}(t\varphi))}{(G^{-1}(t\varphi))^2}\frac{(G^{-1}(t\varphi))^2}{(t\varphi)^2}\varphi^2{\rm d}x\\ &\rightarrow& -\infty.\end{eqnarray*}$

证毕.

引理4.2  假设(V0), (V1), (f0)-(f3)成立,则泛函$I$存在有界的Cerami序列$\{v_n\}$.

证  设$\{v_n\}\subset H^1({\mathbb{R}}^N)$是泛函$I$在水平$c\in {\mathbb{R}}$上的任意Cerami序列,则对任意的$\varphi\in H^1$,使得

$I(v_n)=\frac{1}{2}\int_{{\mathbb{R}}^N}|\nabla v_n|^2{\rm d}x+\frac{1}{2}\int_{{\mathbb{R}}^N}V(x)|G^{-1}(v_n)|^2{\rm d}x-\int_{{\mathbb{R}}^N}F(x, G^{-1}(v_n)){\rm d}x=c+o(1), $

$I'(v_n)\varphi=\int_{{\mathbb{R}}^N}\nabla v_n\nabla \varphi {\rm d}x+\int_{{\mathbb{R}}^N}V(x)\frac{G^{-1}(v_n)}{g(G^{-1}(v_n))}\varphi {\rm d}x-\int_{{\mathbb{R}}^N}\frac{f(x, G^{-1}(v_n))}{g(G^{-1}(v_n))}\varphi {\rm d}x.$

取$\varphi=v_n$,可得

$ I'(v_n)v_n=\int_{{\mathbb{R}}^N}|\nabla v_n|^2{\rm d}x+\int_{{\mathbb{R}}^N}V(x)\frac{G^{-1}(v_n)v_n}{g(G^{-1}(v_n))}{\rm d}x-\int_{{\mathbb{R}}^N}\frac{f(x, G^{-1}(v_n))v_n}{g(G^{-1}(v_n))}{\rm d}x.$

结合(g4), (f2)可得

(4.2) $\begin{eqnarray} c+o(1)&=&I(v_n)-\frac{1}{2}I'(v_n)v_n \\ &=&\frac{1}{2}\int_{{\mathbb{R}}^N}V(x)|G^{-1}(v_n)|^2{\rm d}x-\frac{1}{2}\int_{{\mathbb{R}}^N}V(x)\frac{G^{-1}(v_n)v_n}{g(G^{-1}(v_n))}{\rm d}x \\&&+\int_{{\mathbb{R}}^N}\left[\frac{f(x, G^{-1}(v_n))v_n}{2g(G^{-1}(v_n))}-F(x, G^{-1}(v_n))\right]{\rm d}x \\ &\geq&\int_{{\mathbb{R}}^N} \bigg[\frac{1}{\sqrt{6}}f(x, G^{-1}(v_n))G^{-1}(v_n)-F(x, G^{-1}(v_n)) \bigg]{\rm d}x \\ &\geq&\int_{{\mathbb{R}}^N}|G^{-1}(v_n)|^{q_2}{\rm d}x-\int_{{\mathbb{R}}^N}h_1(x){\rm d}x.\end{eqnarray}$

由于$h_1\in L^1({\mathbb{R}}^N)$,故而$\int_{{\mathbb{R}}^N}|G^{-1}(v_n)|^{q_2}{\rm d}x$有界.

由(f0), (f1),可知存在$\delta>0$, $C_\delta>0$,使得

(4.3) $ |f(x, s)|\leq \delta|s|+C_\delta|s|^{q_1-1}, \qquad \forall(x, s)\in {\mathbb{R}}^N\times {\mathbb{R}}, $

(4.4) $|F(x, s)|\leq\frac{\delta}{2}|s|^2+\frac{C_\delta}{q_1}|s|^{q_1}, \qquad \forall(x, s)\in {\mathbb{R}}^N\times {\mathbb{R}}.$

由(4.4)式可知

$\begin{eqnarray*}&&\frac{1}{2}\int_{{\mathbb{R}}^N}|\nabla v_n|^2{\rm d}x+\frac{1}{2}\int_{{\mathbb{R}}^N}V(x)|G^{-1}(v_n)|^2{\rm d}x\\&=& \int_{{\mathbb{R}}^N}F(x, G^{-1}(v_n)){\rm d}x+c+o(1)\\ &\leq&\frac{\delta}{2}\int_{{\mathbb{R}}^N}|G^{-1}(v_n)|^2{\rm d}x +\frac{C_\delta}{q_1}\int_{{\mathbb{R}}^N}|G^{-1}(v_n)|^{q_1}{\rm d}x+c+o(1).\end{eqnarray*}$

若$q_1=q_2$,显然$\int_{{\mathbb{R}}^N}|\nabla v_n|^2{\rm d}x+\int_{{\mathbb{R}}^N}V(x)|G^{-1}(v_n)|^2{\rm d}x$有界.若$0＜q_2\leq q_1$,由Hölder不等式和Sobolev不等式可得

$\begin{eqnarray*}\int_{{\mathbb{R}}^N}|G^{-1}(v_n)|^{q_1}{\rm d}x&\leq &\left(\int_{{\mathbb{R}}^N}|G^{-1}(v_n)|^{q_2}{\rm d}x\right)^{\frac{\theta q_1}{q_2}}\left(\int_{{\mathbb{R}}^N}|G^{-1}(v_n)|^{2^*}{\rm d}x\right)^{\frac{(1-\theta)q_1}{2^*}}\\ &\leq& C \left(\int_{{\mathbb{R}}^N}|\nabla v_n|^2{\rm d}x\right)^{\frac{(1-\theta)q_1}{2}}, \end{eqnarray*}$

其中$\theta=\frac{(2^*-q_1)q_2}{(2^*-q_2)q_1}$.若$\frac{N(q_1-2)}{2}＜q_2$,则$\frac{(1-\theta)q_1}{2}＜1$,故$\int_{{\mathbb{R}}^N}|\nabla v_n|^2{\rm d}x+\int_{{\mathbb{R}} ^N}V(x)|G^{-1}(v_n)|^2{\rm d}x$有界.

另一方面,由条件(g0)和(V0)

$\int_{{\mathbb{R}}^N}|v_n|^2{\rm d}x\leq \frac{1}{V_0}\int_{{\mathbb{R}}^N}V(x)|v_n|^2{\rm d}x＜\sqrt{\frac{3}{2}}\int_{{\mathbb{R}}^N}V(x)|G^{-1}(v_n)|^2{\rm d}x.$

综上可得$\{v_n\}$在空间$H^1({\mathbb{R}}^N)$上有界.

定理1.2的证明  由引理4.1可知泛函$I(v)$满足山路几何条件,因此存在一个Cerami序列$\{v_n\}$,而由引理4.2可知序列$\{v_n\}$在空间$H^1({\mathbb{R}}^N)$上有界.因此,存在$\{v_n\}$的一个子列,仍记作$\{v_n\}$,存在$v\in H^1({\mathbb{R}}^N)$,使得

$ v_n\rightharpoonup v\ \mbox{在}\ H^1({\mathbb{R}}^N)\ \mbox{上};\ \ v_n\rightarrow v\ \mbox{在}\ L_{\rm loc}^2({\mathbb{R}}^N)\ \mbox{上};\ \ v_n\rightarrow v, \ \mbox{a.e.在$ {\mathbb{R}}^N$上. } $

结合(f0)-(f2)和勒贝格控制收敛定理,当$n\rightarrow \infty$时,可得

$\begin{eqnarray*} I'(v_n)\varphi-I'(v)\varphi&=&\int_{{\mathbb{R}}^N}(\nabla v_n-\nabla v)\nabla\varphi {\rm d}x+\int_{{\mathbb{R}}^N}V(x)\left[\frac{G^{-1}(v_n)}{g(G^{-1}(v_n))}-\frac{G^{-1}(v)}{g(G^{-1}(v))}\right]\varphi {\rm d}x\\& &-\int_{{\mathbb{R}}^N}[f(x, G^{-1}(v_n))-f(x, G^{-1}(v_n))]\varphi {\rm d}x\rightarrow0.\end{eqnarray*} $

由此可知$v$是泛函$I$的一个临界点.若$v\neq 0$,则可知$v$是泛函$I$的一个非平凡的临界点,即方程(2.4)存在一个非平凡的解.现假设$v=0$,因此在$L_{\rm loc}^2({\mathbb{R}}^N)$中有$v_n\rightarrow 0$.定义一个新的泛函$I_\infty: H^1({\mathbb{R}} ^N)\rightarrow {\mathbb{R}}$为

$I_\infty(u)=\frac{1}{2}\int_{{\mathbb{R}}^N}|\nabla u|^2{\rm d}x+\frac{1}{2}\int_{{\mathbb{R}}^N}V(\infty)|G^{-1}(u)|^2{\rm d}x-\int_{{\mathbb{R}}^N}F(x, G^{-1}(u)){\rm d}x.$

由(V1), (g0)和$g$的定义可知当$n\rightarrow\infty$时,有

$\begin{eqnarray*} I(v_n)-I_\infty(v_n)&=&\frac{1}{2}\int_{{\mathbb{R}}^N}[V(x)-V(\infty)]|G^{-1}(v_n)|^2{\rm d}x\\ &\leq&\frac{1}{2}\int_{|x|\leq R}[V(x)-V(\infty)]v_n^2{\rm d}x+\frac{1}{2}\int_{|x|\geq R}[V(x)-V(\infty)]v_n^2{\rm d}x\rightarrow0, \end{eqnarray*}$

$\sup\limits_{\|\varphi\|\leq1}|I'(v_n)\varphi-I'_\infty(v_n)\varphi|= \sup\limits_{\|\varphi\|\leq1}\left|\int_{{\mathbb{R}}^N}[V(x)-V(\infty)]\frac{G^{-1}(v_n)}{g(G^{-1}(v_n))}\varphi {\rm d}x\right|\rightarrow0.$

综上可知$\{v_n\}$也是泛函$I_\infty$的一个Cerami序列.

现在,我们称对所有的$R>0$,

(4.5) $\lim\limits_{n\rightarrow\infty}\sup\limits_{y\in {\mathbb{R}}^N}\int_{B_R(y)}v_n^2{\rm d}x=0$

不发生.否则,假设(4.5)式成立,即序列$\{v_n\}$消失.由Lions的集中紧引理^[9],即在空间$L^\sigma({\mathbb{R}}^N)$上,对任意$\sigma\in(2, 2^*)$,有

(4.6) $\lim\limits_{n\rightarrow\infty}\int_{{\mathbb{R}}^N}v_n^\sigma {\rm d}x=0.$

由(4.3)式,条件(g0), (4.6)式可得

(4.7) $\begin{eqnarray} \lim\limits_{n\rightarrow\infty}\int_{{\mathbb{R}}^N}\frac{f(x, G^{-1} (v_n))}{g(G^{-1}(v_n))} v_n{\rm d}x&=&\lim\limits_{n\rightarrow\infty}\int_{{\mathbb{R}}^N}f(x, G^{-1} (v_n)) v_n{\rm d}x \\ &\leq&\lim\limits_{n\rightarrow\infty}\left[\int_{{\mathbb{R}}^N}\delta G^{-1}(v_n)v_n{\rm d}x+\int_{{\mathbb{R}}^N}C_\delta|G^{-1}(v_n)|^{q_1-1}v_n{\rm d}x\right] \\ &\leq&\lim\limits_{n\rightarrow\infty}\left[\delta\int_{{\mathbb{R}}^N}|v_n|^2{\rm d}x+C_\delta\int_{{\mathbb{R}}^N}v_n^{q_1}{\rm d}x\right]=0.\end{eqnarray}$

这意味着

$\begin{eqnarray*}&& \lim\limits_{n\rightarrow\infty}\left[\int_{{\mathbb{R}}^N}| \nabla v_n|^2{\rm d}x+\int_{{\mathbb{R}}^N}V(x)\frac{G^{-1}(v_n)} {g(G^{-1}(v_n))}v_n{\rm d}x\right] \\ &=&\lim\limits_{n\rightarrow\infty}I'(v_n)v_n +\int_{{\mathbb{R}}^N}\frac{f(x, G^{-1}(v_n))}{g(G^{-1}(v_n))}v_n{\rm d}x =0.\end{eqnarray*}$

从而

$\lim\limits_{n\rightarrow\infty}\int_{{\mathbb{R}}^N}|\nabla v_n|^2{\rm d}x=0.$

相似(4.7)式的证明可得

$\lim\limits_{n\rightarrow\infty}\int_{{\mathbb{R}}^N}F(x, G^{-1}(v_n)){\rm d}x=0.$

综合上述各式可得

$\lim\limits_{n\rightarrow\infty}I(v_n)=0.$

这与$I(v_n)\rightarrow c$矛盾.因此,序列$\{v_n\}$不消失.从而存在$R$, $\eta>0$以及$\{y_n\}\subset{\mathbb{R}}^N$,使得

(4.8) $ \lim\limits_{n\rightarrow\infty}\int_{B_R(y_n)}v_n^2{\rm d}x\geq\eta>0. $

定义$\tilde{v}_n(x)=v_n(x+y_n)$.由于$\{v_n\}$是$I_\infty$的Cerami序列,从而$\{\tilde{v}_n\}$也是$I_\infty$的Cerami序列.相似序列$\{v_n\}$的证明,易得存在$\tilde{v}\in H^1({\mathbb{R}}^N)$,使得在空间$H^1({\mathbb{R}}^N)$上有$\tilde{v}_n\rightharpoonup\tilde{v}$,且$I'_\infty(\tilde{v})=0$.由于$\{\tilde{v}_n\}$不消失,则$\tilde{v}\neq0$.

因此,利用法都引理,可得

$\begin{eqnarray*} c&=&\lim\limits_{n\rightarrow\infty}\sup[I_\infty(\tilde{v}_n)-I'_\infty(\tilde{v}_n)\tilde{v}_n]\\ &=&\lim\limits_{n\rightarrow\infty}\sup\frac{1}{2} \int_{{\mathbb{R}}^N}V_\infty\left[(G^{-1}(\tilde{v}_n))^2- \frac{G^{-1}(\tilde{v}_n)\tilde{v}_n}{g(G^{-1}(\tilde{v}_n))}\right]{\rm d}x\\&&+\lim\limits_{n\rightarrow\infty}\sup\int_{{\mathbb{R}}^N}\left[\frac{1}{2}\frac{f(x, G^{-1}(\tilde{v}_n))\tilde{v}_n}{g(G^{-1}(\tilde{v}_n))}-F(x, G^{-1}(\tilde{v}_n))\right]{\rm d}x\\ &\geq&\frac{1}{2}\int_{{\mathbb{R}}^N}V_\infty\left[(G^{-1}(\tilde{v}))^2 -\frac{G^{-1}(\tilde{v})\tilde{v}_n}{g(G^{-1}(\tilde{v}))}\right]{\rm d}x +\int_{{\mathbb{R}}^N}\left[\frac{1}{2}\frac{f(x, G^{-1}(\tilde{v}))\tilde{v}}{g(G^{-1}(\tilde{v}))}-F(x, G^{-1}(\tilde{v}))\right]{\rm d}x\\ &= &I_\infty(\tilde{v})-I'_\infty(\tilde{v})\tilde{v}=I_\infty(\tilde{v}).\end{eqnarray*}$

这意味着$\tilde{v}\neq 0$是$I_\infty$满足$I_\infty(\tilde{v})＜c$的一个临界点.

另一方面,由文献[8],存在一个路径$\gamma:[0, 1]\rightarrow H^1({\mathbb{R}} ^N)$,使得

(4.9) $\begin{eqnarray} && \gamma(0)=0, I_\infty(\gamma(1))＜0, \tilde{v}\in\gamma([0, 1]); \\ && \gamma(t)(x)>0, \forall x\in {\mathbb{R}}^N, t\in[0, 1];\\&&\max\limits_{t\in[0, 1]}I_\infty(\gamma(t))=I_\infty(\tilde{v}).\end{eqnarray} $

由(V1),若$V(x)\equiv V(\infty)$,明显可知$\tilde{v}$就是泛函$I$的临界点且$\tilde{v}\neq 0$.因此不妨设$V(x)\leq V(\infty)$且$V(x)\not\equiv V(\infty)$.取(4.9)式中的路径$\gamma$,可得对任意的$t\in (0, 1]$,均有

$I(\gamma(t))＜I_\infty(\gamma(t)).$

这意味着

$ \begin{eqnarray*} c\leq \max\limits_{t\in[0, 1]}I(\gamma(t))＜ \max\limits_{t\in[0, 1]} I_\infty(\gamma(t))=I_\infty(\tilde{v})\leq c, \end{eqnarray*}$

矛盾,因此$v$是方程(2.3)的一个非平凡解,从而$u=G^{-1}(v)$是方程(1.4)的一个非平凡解,定理得证.