考虑如下拟线性薛定谔方程

$ \begin{equation}\label{OP} iz_t=-\Delta z+W(x)z-\rho(|z|^2)z-\Delta(l(|z|^2))l'(|z|^2)z, \quad x\in\mathbb{R}^N, \end{equation} $

(1.1)

其中$z\colon\mathbb{R}\times\mathbb{R}^N\to\mathbb{C}$, $W\colon\mathbb{R}^N\to\mathbb{R}$为给定位势, $l$, $\rho$为实值函数.形如(1.1)的方程出现在等离子物理学、流体力学^[8]、耗散量子力学^[4]以及相对论^[1]中.

本文考虑方程(1.1)的驻波解, 即形如$z(t, x)=\exp(-{\rm i}Et)u(x)$的解, 其中$E\in\mathbb{R}$, $u>0$为实值函数.众所周知, 函数$z$满足(1.1)式当且仅当函数$u$为如下椭圆型方程的解

$ \begin{equation}\label{SP} -\Delta u+V(x)u-\Delta(l(u^2))l'(u^2)u=\rho(u), \quad x\in\mathbb{R}^N, \end{equation} $

(1.2)

其中$V(x)=W(x)-E$为位势函数.当$l$为常数时, 方程(1.2)源自生物模型与激光束传输问题^[6].当$l(s)=s$时, 我们得到等离子物理学中的超流薄膜方程

$ \begin{equation}\label{l=s} -\Delta u+V(x)u-[\Delta(u^2)]u=\rho(u), \quad x\in\mathbb{R}^N. \end{equation} $

(1.3)

据我们所知, 方程(1.3)的第一个解的存在性结果由文献[10]给出.通过构造约束极小问题的极小解, 作者证明了方程(1.3)存在正的基态解.通过一个合适的变量代换, 文献[9]将前述拟线性方程转化为半线性方程, 在Orlicz空间中利用山路定理证明了方程正解的存在性.文献[2]利用了与之相同的方法, 不同的是函数空间为通常的Sobolev空间$H^1(\mathbb{R}^N)$.更准确地说, 由于方程(1.3)对应的能量泛函在不是定义在${{H}^{1}}\left( {{\mathbb{R}}^{N}} \right)$空间中的, 若令$v=f^{-1}(u)$, 则方程(1.3)化作一个半线性椭圆型方程

$ -\Delta v=\frac{1}{\sqrt{1+2f^2(v)}}\left[\rho(f(v))-V(x)f(v)\right], $

其中$f$由如下微分方程确定

$ f'(t)=\frac{1}{\sqrt{1+2f^2(t)}}, \quad t\geq0, $

且$f(t)=-f(-t)$, $t<0$.对上述半线性方程, 利用经典的变分方法和临界点理论, 可以研究其非平凡解的存在性.

近期, 文献[12]研究了如下一般形式的薛定谔方程

$ \begin{equation}\label{gp} -{\rm div}(g^2(u)\nabla u)+g(u)g'(u)|\nabla u|^2+V(x)u=f(u), \quad x\in\mathbb{R}^N, \end{equation} $

(1.4)

其中$N\geq3$, $g\in C^1[0, \infty)$单调非减且$g(0)>0$.设函数$V(x)$与$f(s)$满足如下条件

(V$_1$) $V(x)\geq V_0>0$, $\forall x\in\mathbb{R}^N$;

(V$_2$) $\lim\limits_{|x|\to\infty}V(x)=V(\infty)$且$V(x)\leq V(\infty)$, $\forall x\in\mathbb{R}^N$;

(f$_1$) $f(s)=o(s)$ ($s\to0$)且$f(s)=0$, $s<0$;

(f$_2$) $f(s)\leq cg(s)|G(s)|^{p-1}$, 其中$s$充分大, $p\in(2, 2^*)$;

(f$_3$) 存在常数$\mu>2$使得

$ \begin{equation}\label{gf} \mu g(s)F(s)\leq G(s)g(s). \end{equation} $

(1.5)

文献[12]证明了方程(1.4)存在正解.不同于文献[2], 文献[12]通过显式替换$v=G(u)=\int_0^ug(s){\text{d}}s$将方程(1.4)化成半线性椭圆型方程

$ \begin{equation}\label{gpe} -\Delta v+\frac{V(x)G^{-1}(v)}{g(G^{-1}(v))}=\frac{f(G^{-1}(v))}{g(G^{-1}(v))}, \end{equation} $

(1.6)

其中$G^{-1}$为函数$G$的反函数.文章指出方程(1.4)的弱正解与方程(1.6)的弱正解相互唯一确定.事实上, 函数$u\in H^1(\mathbb{R}^N)$称作方程(1.4)的弱解是指对$\forall\varphi\in C_0^\infty(\mathbb{R}^N)$, 有

$ \begin{equation}\label{gpws} \int_{\mathbb{R}^N}\left[g^2(u)\nabla u\nabla\varphi+g(u)g'(u)|\nabla u|^2\varphi+V(x)u\varphi-f(u)\varphi\right]{\text{d}}x=0 \end{equation} $

(1.7)

函数$v\in H^1(\mathbb{R}^N)$称作方程(1.6)的弱解是指对$\forall\psi\in C_0^\infty(\mathbb{R}^N)$, 有

$ \begin{equation}\label{gpews} \int_{\mathbb{R}^N}\left[\nabla v\nabla\psi+\frac{V(x)G^{-1}(v)}{g(G^{-1}(v))}\psi-\frac{f(G^{-1}(v))}{g(G^{-1}(v))}\psi\right]{\text{d}}x=0. \end{equation} $

(1.8)

如果函数$u$为方程(1.4)的弱正解, 则取$\varphi=\psi/g(u)$, 可知函数$v=G(u)>0$为方程(1.8)的弱正解; 如果函数$v$是方程(1.6)的弱正解, 则取$\psi=g(u)\varphi$便知函数$u=G^{-1}(v)>0$是方程(1.7)的弱正解.

本文旨在改进文献[12]中的结果.物理学中, 对不同的$l(s)$, 函数$g^2(u)=1+2|ul'(u^2)|^2$表示不同的物理状态.本文试图直接对$l(s)$施加条件, 而不是$g(s)$.换句话说, 本文研究如下方程弱正解的存在性

$ \begin{equation}\label{gpl} -{\rm div}(1+2|ul'(u^2)|^2\nabla u)+2(u(l'(u^2))^2+2u^3l'(u^2)l''(u^2))|\nabla u|^2+V(x)u=f(u). \end{equation} $

(1.9)

我们主要考虑两种情形: $l(s)=s^\alpha$与$l(s)=(1+s)^\beta-1$.当$l(s)=(1+s)^\beta-1$时, 方程(1.9)出现在相对论($\beta=\frac{1}{2}$)和等离子物理($\beta=1$)中.当$l(s)=s^\alpha$, $\alpha\geq1$时, 参见文献[14].不失一般性, 我们假设$l(0)=0$.

本文对函数$l(s)$作了如下假设

(l$_1$) $s^\frac{3}{2}l'(s)l''(s)\in C[0, \infty)$;

(l$_2$) $l'(s)\geq0$且$2sl''(s)+l'(s)\geq0$, $\forall s\geq0$;

(l$_3$) 存在常数$\alpha_1$, 使得$l(s)\geq s^{\alpha_1}$且$sl''(s)/l'(s)\leq\alpha_1-1$, $\forall s\geq0$;

(l$_4$) 令$h(s^2)=sg'(s)/g(s)$, 且存在常数$\alpha_2$, 使得对$\forall s\geq0$, 有

$ h(s)=\frac{2s(l'(s))^2+4s^2l'(s)l''(s)}{1+2s(l'(s))^2}\leq\alpha_2-1. $

注1.1  设$l(s)=s^\alpha$或$l(s)=(1+s)^\beta-1$.直接计算可知, 当$\alpha\geq\frac{3}{4}$或$\beta>0$时, $l(s)$满足条件(l$_1$); 当$\alpha\geq\frac{3}{4}$或$\beta\geq\frac{1}{2}$时, $l(s)$满足条件(l$_2$); 当$\alpha>0$, $\alpha_1=\alpha$或$\beta\geq1$, $\alpha_1=\beta$时, $l(s)$满足条件(l$_3$).当$\frac{1}{2}\leq\beta\leq1$时, $l(s)$满足(l$_4$), 其中

$ \begin{equation}\label{a2} \alpha_2-1=\left\{\begin{array}{ll} 2\beta-1, &\beta\geq\frac{\alpha_0}{2}\approx0.5793, \\ \sup h(s), &\frac{1}{2}<\beta<\frac{\alpha_0}{2}, \\ 5-2\sqrt{6}, &\beta=\frac{1}{2}, \end{array}\right. \end{equation} $

(1.10)

这里$\alpha_0$是下述方程的一个实根

$ \alpha^2\left(\frac{3-\alpha}{2-\alpha}\right)^{\alpha-3}=2(\alpha-1), $

参见文献[3].

设函数$f$满足如下条件

(f$'_2$) 对充分大的$s$, $f(s)\leq csl'(s^2)l(s^2)^{p-1}$;

(f$'_3$) 存在常数$\mu\geq4\alpha_1$, 使得$\mu F(s)\leq sf(s)$;

(f$''_3$) 存在常数$\mu>2\alpha_2$, 使得$\mu F(s)\leq sf(s)$.

定理1.1  设条件(V$_1$), (V$_2$), (l$_1$)-(l$_3$), (f$_1$), (f$'_2$), (f$'_3$)成立, 则当$\mu$满足下述条件时

$ \mu\left\{\begin{array}{ll} =4\alpha_1,&\mbox{ 当 }\ p<(4\alpha-1)+\frac{4}{N}, \ N\geq4\ \mbox{ 或 }\ p\leq 5, \ N=3, \\ >4\alpha_1,&\mbox{ 当 }\ p<2^*=\frac{2N}{N-2}, \ N\geq 3, \end{array}\right. $

方程(1.9)存在一个正解.

定理1.2  设条件(V$_1$), (V$_2$), (l$_1$), (l$_2$), (l$_4$), (f$_1$), (f$'_2$), (f$''_3$)成立, 则当$p<2^*$时, 方程(1.9)存在一个正解.

推论1.1  设$l(s)=s^\alpha$, $\alpha\geq\frac{3}{4}$, 且条件(V$_1$), (V$_2$), (f$_1$), (f$'_2$), (f$'_3$)成立, 则当$\mu$满足下述条件时

$ \mu\left\{\begin{array}{ll} =4\alpha,&\mbox{ 当 }\ p<(4\alpha-1)+\frac{4}{N}, \ N\geq4\ \mbox{ 或 }\ p\leq 5, \ N=3, \\ >4\alpha,&\mbox{ 当 }\ p<2^*=\frac{2N}{N-2}, \ N\geq 3, \end{array}\right. $

方程(1.9)存在一个正解.

注1.2  当$\alpha=1$或$\alpha\geq1$时, 上述结果分别可见于文献[2]与[14].当$\frac{3}{4}\leq\alpha<1$时, 据我们所知, 尚未有文献做过研究.

推论1.2  设$l(s)=(1+s)^\beta-1$, $\beta\geq1$, 且条件(V$_1$), (V$_2$), (f$_1$), (f$'_2$), (f$''_3$)成立, 则当$\mu$满足如下条件时

$ \mu\left\{\begin{array}{ll} =4\beta,&\mbox{ 当 }\ p<(4\beta-1)+\frac{4}{N}, \ N\geq4\ \mbox{ 或 }\ p\leq 5, \ N=3, \\ >4\beta,&\mbox{ 当 }\ p<2^*=\frac{2N}{N-2}, \ N\geq 3, \end{array}\right. $

方程(1.9)存在一个正解.

推论1.3  设$l(s)=(1+s)^\beta$, $\frac{1}{2}\leq\beta<1$, 且条件(V$_1$), (V$_2$), (f$_1$), (f$_2$), (f$'_3$)成立, 则当$\mu>2\alpha_2$, $\alpha_2$满足(1.10)式时, 方程(1.9)存在一个正解.

注1.3  当$\beta=\frac{1}{2}$时, $\alpha_2=6-2\sqrt{6}$, 从而$\mu\geq2(6-2\sqrt{6})\approx2.202$, 这要好于文献[12]中的结果: $\mu>\sqrt{6}\approx2.4495$.

首先, 我们给出下述变量替换的性质

$ v=G(u)=\int_0^ug(t){\text{d}}t=\int_0^u\sqrt{1+2(tl'(t^2))^2}{\text{d}}t. $

引理2.1  设$g\in C^1[0, \infty)$单调不减, 则有

(ⅰ) $\lim\limits_{s\to0}\frac{G^{-1}(s)}{s}=\frac{1}{g(0)}=1$;

(ⅱ) $\lim\limits_{s\to\infty}\frac{G^{-1}(s)}{s}=\frac{1}{g(\infty)}$, 其中$\frac{1}{\infty}=0$;

(ⅲ) $G^{-1}(s)\geq\frac{s}{g(G^{-1}(s))}$;

(ⅳ) $\frac{G^{-1}(s)}{s}\leq\frac{1}{g(0)}=1$;

(ⅴ) $\frac{G^{-1}(s)}{\alpha}\leq\frac{s}{g(G^{-1}(s))}$, 如果$sg(s)\leq\alpha G(s)$.

证  仅证明(ⅲ).事实上, 由$g$非减可知, $G(t)\leq g(t)t. $令$s=G(t)$, 即$t=G^{-1}(s)$, 则有

$ s\leq g(G^{-1}(s))G^{-1}(s), $

由此便得(ⅲ).

其次, 我们考察如下泛函所满足的山路几何条件

$ J(v)=\frac{1}{2}\int_{\mathbb{R}^N}|\nabla v|^2{\text{d}}x+\frac{1}{2}\int_{\mathbb{R}^N} V(x)(G^{-1}(v))^2{\text{d}}x-\int_{\mathbb{R}^N} F(G^{-1}(v)){\text{d}}x. $

引理2.2  在定理1.1或定理1.2所述条件下, $J(v)$满足如下几何性质

(ⅰ) 存在$\rho_0>0$与$\alpha_0>0$, 使得当$\|v\|=\rho_0$时, $J(v)\geq\alpha_0$;

(ⅱ) 存在$v\in{{H}^{1}}\left( {{\mathbb{R}}^{N}} \right)$, 使得$J(v)<0$.

证  由文献[12]中的引理2.1与引理2.2可知, 只需证明$f$满足(f$_2$)与(f$_3$)即可.事实上

$ G(s)=\int_0^sg(t){\text{d}}t\geq\int_0^s\sqrt{2}tl'(t^2){\text{d}}t=\frac{\sqrt{2}}{2}[l(s^2)-l(0)]. $

从而由(f$'_2$)可得(f$_2$).此外, 由(l$_3$)可知

$ h(s)=\frac{2s(l'(s))^2+4s^2l'(s)l''(s)}{1+2s(l'(s))^2} \leq\frac{(2\alpha_1-1)2s(l'(s))^2}{1+2s(l'(s))^2}\leq2\alpha_1-1. $

注意到$h(s^2)=sg'(s)/g(s)$, 从而

$ \begin{equation}\label{hs}sg'(s)\leq(2\alpha_1-1)g(s). \end{equation} $

(2.1)

将上述不等式两侧在[0, s]上积分可得

$ \begin{equation}\label{sgaG} sg(s)\leq2\alpha_1G(s). \end{equation} $

(2.2)

于是, 由(f$'_3$)我们得到

$ \begin{equation}\label{fg} \mu_1F(s)g(s)\leq f(s)G(s), \end{equation} $

(2.3)

其中$\mu_1=\mu/2\alpha_1>2$, 由此便有(f$_3$).如果$l$满足条件(l$_4$), 类似可以证明(ⅰ)和(ⅱ).

我们称$\{v_n\}\subset{{H}^{1}}\left( {{\mathbb{R}}^{N}} \right)$为泛函$J(v)$的Cerami序列, 如果$J(v_n)\to c$且

$ \|J'(v_n)\|(1+\|v_n\|)\to0\ (n\to\infty). $

引理3.1  在定理1.1的条件下, 泛函$J(v)$的Cerami序列是有界的.

证  设$\{v_n\}$为$J(v)$的任一Cerami序列, 则有

$ \begin{equation}\label{Jvn} J(v_n)=\frac{1}{2}\int_{\mathbb{R} ^N} |\nabla v_n|^2{\text{d}}x+\frac{1}{2}\int_{\mathbb{R} ^N} V(x)|G^{-1}(v_n)|^2{\text{d}}x-\int_{\mathbb{R} ^N}F(G^{-1}(v_n)){\text{d}}x\rightarrow c, \end{equation} $

(3.1)

且对任意$\psi \in C^\infty_0(\mathbb{R} ^N)$, 有

$ \begin{equation}\label{J'vn} J'(v_n)v_n=\int_{\mathbb{R} ^N} \left[|\nabla v_n|^2 + V(x)\frac{G^{-1}(v_n)}{g(G^{-1}(v_n))}v_n-\frac{f(G^{-1}(v_n))}{g(G^{-1}(v_n))}v_n \right]{\text{d}}x=o(1). \end{equation} $

(3.2)

我们断言$G^{-1}(v_n)g(G^{-1}(v_n))\in{{H}^{1}}\left( {{\mathbb{R}}^{N}} \right)$.事实上, 由条件(l$_3$)可知

$ |\nabla(G^{-1}(v_n)g(G^{-1}(v_n)))|\leq\left|1+\frac{G^{-1}(v_n)}{g(G^{-1}(v_n))} g'(G^{-1}(v_n))\right|\leq2\alpha_1|\nabla v_n|. $

此外, 由(2.2)式及引理2.1 (ⅴ), 我们有

$ |G^{-1}(v_n)g(G^{-1}(v_n))|\leq2\alpha_1|v_n|, $

因此, $G^{-1}(v_n)g(G^{-1}(v_n))\in{{H}^{1}}\left( {{\mathbb{R}}^{N}} \right)$.

在(3.2)式中取$\psi=G^{-1}(v_n)g(G^{-1}(v_n))$, 得

$ \begin{eqnarray}\label{J'vngG} &&J'(v_n)G^{-1}(v_n)g(G^{-1}(v_n))\\ &=&\int_{\mathbb{R}^N}\left(1+\frac{G^{-1}(v_n)} {g(G^{-1}(v_n))}{g'(G^{-1}(v_n))}\right)|\nabla v_n|^2{\text{d}}x +\int_{\mathbb{R}^N} V(x)(G^{-1}(v_n))^2{\text{d}}x\\ && -\int_{\mathbb{R}^N} f(G^{-1}(v_n))G^{-1}(v_n){\text{d}}x+o(1). \end{eqnarray} $

(3.3)

于是, 由(3.1)及(3.3)式可得

$ \begin{eqnarray}\label{J'J'} && \int_{\mathbb{R}^N}\left(\frac{1}{2}-\frac{1}{\mu}(1+\frac{G^{-1}(v_n)} {g(G^{-1}(v_n))}{g'(G^{-1}(v_n))})\right)|\nabla v_n|^2{\text{d}}x \\ && +\Big(\frac{1}{2}-\frac{1}{\mu}\Big)\int_{\mathbb{R}^N} V(x)(G^{-1}(v_n))^2{\text{d}}x {}+\int_{\mathbb{R}^N}\left[\frac{1}{\mu}f(G^{-1}(v_n))G^{-1}(v_n) -F(G^{-1}(v_n))\right]{\text{d}}x\\ &=&c+o(1). \end{eqnarray} $

(3.4)

于是, 由(2.1)式可知

$ \begin{eqnarray} && \left(\frac{1}{2}-\frac{2\alpha_1}{\mu}\right)\int_{\mathbb{R}^N}|\nabla v_n|^2{\text{d}}x +\left(\frac{1}{2}-\frac{1}{\mu}\right)\int_{\mathbb{R}^N} V(x)(G^{-1}(v_n))^2{\text{d}}x\\ && +\int_{\mathbb{R}^N}\left[\frac{1}{\mu}f(G^{-1}(v_n))G^{-1}(v_n) -F(G^{-1}(v_n))\right]{\text{d}}x=c+o(1). \end{eqnarray} $

(3.5)

从而当$\mu>4\alpha_1$时, 由条件(f$'_3$)可知$\{v_n\}$是${{H}^{1}}\left( {{\mathbb{R}}^{N}} \right)$中的有界序列.

当$\mu=4\alpha_1$时, 由(l$_3$)可得

$ \begin{eqnarray*} &&\frac{1}{2}-\frac{1}{\mu}\left(1+\frac{G^{-1}(v_n)} {g(G^{-1}(v_n))}{g'(G^{-1}(v_n))}\right)\\ &=&\left(\frac{1}{2}-\frac{1}{4\alpha_1}\right) -\frac{G^{-1}(v_n)g'(G^{-1}(v_n))}{4\alpha_1g(G^{-1}(v_n))}\\ &=&\frac{(2\alpha_1-1)g^2(G^{-1}(v_n))-G^{-1}(v_n)g'(G^{-1}(v_n))g(G^{-1}(v_n))} {4\alpha_1g^2(G^{-1}(v_n))}\\ &=&\frac{(2\alpha_1-1)(1+2(G^{-1}(v_n)l'((G^{-1}(v_n))^2))^2)-(2\alpha_1-1) 2(G^{-1}(v_n)l'((G^{-1}(v_n))^2))^2}{4\alpha_1g^2(G^{-1}(v_n))}\\ &\geq&\frac{2\alpha_1-1}{4\alpha_1g^2(G^{-1}(v_n))}. \end{eqnarray*} $

于是, 由条件(3.4)与(f$'_3$)可知

$ \begin{eqnarray*} \frac{2\alpha_1-1}{4\alpha_1}\left(\int_{\mathbb{R}^N}\frac{|\nabla v_n|^2}{1+2(G^{-1}(v_n)l'((G^{-1}(v_n))^2))^2}{\text{d}}x+\int_{\mathbb{R}^N} V(x)(G^{-1}(v_n))^2{\text{d}}x\right)\leq C. \end{eqnarray*} $

即

$ \int_{\mathbb{R}^N}|\nabla u_n|^2{\text{d}}x+\int_{\mathbb{R}^N} V(x)|u_n|^2{\text{d}}x\leq C, $

从而有

$ \int_{\mathbb{R}^N}|u_n|^{2^*}{\text{d}}x\leq C. $

由(3.1)式可知

$ \begin{equation}\label{Jun} \frac{1}{2}\int_{\mathbb{R}^N}(1+2(u_nl'(u_n^2))^2)|\nabla u_n|^2{\text{d}}x+\frac{1}{2}\int_{\mathbb{R}^N} V(x)|u_n|^2{\text{d}}x-\int_{\mathbb{R}^N} F(u_n){\text{d}}x\leq C. \end{equation} $

(3.6)

由(f$'_1$)及(f$'_2$)容易知道

$ F(u_n)\leq\epsilon|u_n|^2+C_\epsilon|u_n|^{p+1}, $

于是, 当$p\leq\frac{N+2}{N-2}$时, 我们有

$ \begin{equation}\label{unb} \int_{\mathbb{R}^N}(1+2(u_nl'(u_n^2))^2)|\nabla u_n|^2{\text{d}}x+\int_{\mathbb{R}^N} V(x)|u_n|^2{\text{d}}x\leq C, \end{equation} $

(3.7)

即$\{v_n\}$是有界的.

当$2<p+1<2\alpha_12^*$时, (3.7)式仍然成立, 即$\{v_n\}$有界.事实上, 此时由Hölder's不等式可知

$ \int_{\mathbb{R}^N}|u_n|^{p+1}{\text{d}}x\leq\left(\int_{\mathbb{R}^N}|u_n|^2{\text{d}}x\right)^{\frac{\theta}{2}(p+1)} \left(\int_{\mathbb{R}^N} |u_n|^{2\alpha_12^*}{\text{d}}x\right)^{\frac{1-\theta}{2\alpha_12^*}(p+1)}, $

其中$1/(p+1)=\theta/2+(1-\theta)/2\alpha_12^*$, 于是有

$\begin{equation}\label{un} \int_{\mathbb{R}^N}|u_n|^{p+1}{\text{d}}x\leq\left(\int_{\mathbb{R}^N}|u_n|^2{\text{d}}x\right)^{\frac{\theta}{2}(p+1)} \left(\int_{\mathbb{R}^N} |u_n|^{2\alpha_12^*}{\text{d}}x\right)^{\frac{(p-1)(N-2)}{2(2\alpha_1-1)(N+2)}}. \end{equation} $

(3.8)

由Sobolev's嵌入定理可得

$ \begin{eqnarray*} \int_{\mathbb{R}^N}|l(u_n^2)|^{2^*}{\text{d}}x&\leq& S\left(\int_{\mathbb{R}^N}|\nabla l(u_n^2)|^2{\text{d}}x\right)^{\frac{2^*}{2}} \\ & =&S\left(4\int_{\mathbb{R}^N} u_n^2(l'(u_n^2))^2|\nabla u_n|^2{\text{d}}x\right)^{\frac{2^*}{2}}, \end{eqnarray*} $

其中$S$为Sobolev's嵌入最佳常数.于是, 由(l$_3$)可知

$ \int_{\mathbb{R}^N}|u_n|^{2\alpha_12^*}{\text{d}}x \leq S\left(4\int_{\mathbb{R}^N} u_n^2(l'(u_n^2))^2|\nabla u_n|^2{\text{d}}x\right)^{\frac{2^*}{2}}. $

此外, 注意到当$p<(4\alpha-1)+\frac{4}{N}$时

$ \frac{(p-1)(N-2)}{2(2\alpha_1-1)(N+2)}\cdot\frac{N}{N-2}= \frac{N(p-1)}{2(2\alpha_1-1)(N+2)}<1. $

从而由(3.8)式可得(3.7)式.

由于$\{v_n\}$为有界Palais-Smale序列, 从而存在$v\in H^1(\mathbb{R} ^N)$使得$v_n$在$H^1(\mathbb{R} ^N)$中若收敛于$v$且$J'(v)\psi= 0, $即$v$为一个弱解.事实上, 由$(h_1)$-$(h_3)$及Lebesgue控制收敛定理, 我们可知

$ \begin{eqnarray} J'(v_n)\psi-J'(v)\psi&=&\int_{\mathbb{R} ^N} (\nabla v_n-\nabla v)\nabla \psi {\text{d}}x\\ &&+ \int_{\mathbb{R} ^N}V(x)\Big[\frac{G^{-1}(v_n)}{g(G^{-1}(v_n))}-\frac{G^{-1}(v)}{g(G^{-1}(v))}\Big]\psi {\text{d}}x\\ && -\int_{\mathbb{R} ^N} \Big[\frac{f(G^{-1}(v_n))}{g(G^{-1}(v_n))}-\frac{f(G^{-1}(v))}{g(G^{-1}(v))}\Big]\psi {\text{d}}x\rightarrow 0. \end{eqnarray} $

(3.9)

即$J'(v)\psi= 0.$下面我们只需证明$v$非零即可完成定理的证明.

定理1.1与定理1.2的证明  设$v=0$.我们断言此时$\{v_n\}$是如下定义的泛函$\widetilde{J}:H\rightarrow \mathbb{R} $的一个Palai-Smale序列

$ \begin{equation} \widetilde{J}(v_n)=\frac{1}{2}\int_{\mathbb{R} ^N} |\nabla v_n|^2{\text{d}}x+\frac{1}{2}V(\infty)\int_{\mathbb{R} ^N} |G^{-1}(v_n)|^2{\text{d}}x-\int_{\mathbb{R} ^N} F(G^{-1}(v_n)){\text{d}}x.\end{equation} $

(3.10)

事实上, 由于$V(x)\rightarrow V(\infty)$ ($|x|\rightarrow \infty$), $G^{-1}(s)\leq Cs$且$v_n\rightarrow 0$ ($n\to\infty$), 从而有

$ \begin{equation} J(v_n)-\widetilde{J}(v_n)=\frac{1}{2}\int_{\mathbb{R} ^N}\Big[V(x)-V(\infty)\Big] |G^{-1}(v_n)|^2{\text{d}}x\rightarrow 0, \end{equation} $

(3.11)

又由$\frac{|G^{-1}(s)|}{g(G^{-1}(s))}\leq \frac{1}{g(0)}|s|$可知

$ \begin{equation} \sup\limits_{\|\psi\|\leq 1} |\langle J'(v_n)-\widetilde{J}'(v_n), \psi\rangle |=\sup\limits_{\|\psi\|\leq 1}\Big|\int_{\mathbb{R} ^N}\Big[V(x)-V(\infty)\Big]\frac{G^{-1}(v_n)}{g(G^{-1}(v_n))}\psi {\text{d}}x\Big|\rightarrow 0. \end{equation} $

(3.12)

其次, 我们断言对所有$R>0$, 有

$ \begin{equation}\label{3.10}\lim\limits_{n\rightarrow \infty}\sup\limits_{y\in \mathbb{R} ^N}\int_{B_R(y)}v_n^2{\text{d}}x=0\end{equation} $

(3.13)

不会发生.事实上, 设若有(3.13)式, 即$\{v_n\}$消失, 则由Lions紧性引理^[7]可知, 对任意$q\in (2, 2N/(N-2))$, $v_n\rightarrow 0$在$L^q( \mathbb{R} ^N)$中.于是, 由$(h_1)$-$(h_3)$可知

$ \begin{eqnarray}\label{3.11} \lim\limits_{n\rightarrow \infty}\int_{\mathbb{R} ^N}\frac{f(G^{-1}(v_n))}{g(G^{-1}(v_n))}v_n {\text{d}}x\leq \lim\limits_{n\rightarrow \infty}\int_{\mathbb{R} ^N}(\varepsilon v_n^2+C_\varepsilon v_n^p) {\text{d}}x=0, \end{eqnarray} $

(3.14)

从而

$ \begin{eqnarray}\label{3.12} 0&=&\lim\limits_{n\rightarrow \infty}J'(v_n)v_n \\&=&\lim\limits_{n\rightarrow \infty}\int_{\mathbb{R} ^N} \Big[|\nabla v_n|^2+ V(x)\frac{G^{-1}(v_n)}{g(G^{-1}(v_n))}v_n-\frac{f(G^{-1}(v_n))}{g(G^{-1}(v_n))}v_n \Big]{\text{d}}x \\&=&\lim\limits_{n\rightarrow \infty}\int_{\mathbb{R} ^N} \Big[|\nabla v_n|^2+ V(x)\frac{G^{-1}(v_n)}{g(G^{-1}(v_n))}v_n \Big]{\text{d}}x. \end{eqnarray} $

(3.15)

于是, $\lim\limits_{n\rightarrow \infty}|\nabla v_n|_2=0$.另一方面, 类似于(3.14)式的证明, 我们有

$ \begin{eqnarray}\label{3.13} \lim\limits_{n\rightarrow \infty}\int_{\mathbb{R} ^N} F(G^{-1}(v_n)){\text{d}}x=0 \end{eqnarray} $

(3.16)

及

$ \begin{eqnarray}\label{3.14} \lim\limits_{n\rightarrow \infty}\int_{\mathbb{R} ^N}V(x)|G^{-1}(v_n)|^2{\text{d}}x &\leq&\lim\limits_{n\rightarrow \infty}\int_{\mathbb{R} ^N} V(\infty)|G^{-1}(v_n)|^2{\text{d}}x \\&\leq&\lim\limits_{n\rightarrow \infty}C\int_{\mathbb{R} ^N}v_n^2{\text{d}}x=0. \end{eqnarray} $

(3.17)

合并(3.15)-(3.17)式, 可知与条件$J(v_n)\rightarrow c>0$矛盾.于是, 存在$\alpha, R>0$及$\{y_n\}\subset \mathbb{R} ^N$使得

$\begin{equation}\lim\limits_{n\rightarrow \infty}\int_{B_R(y_n)}v_n^2{\text{d}}x\geq \alpha>0.\end{equation} $

(3.18)

令$\widetilde{v}_n(x)=v_n(x+y_n)$.因为$\{v_n\}$为泛函$\widetilde{J}$的Palais-Smale序列, 所以$\{\widetilde{v}_n\}$亦为泛函$\widetilde{J}$的Palais-Smale序列.类似于对序列$\{v_n\}$的讨论可知, $\widetilde{v}_n\rightarrow \widetilde{v}$且$\widetilde{J}'(\widetilde{v})\ne 0.$由于$\{\widetilde{v}_n\}$非消失, 从而$\widetilde{v}\ne 0.$于是, 由Fatou's引理可知

$ \begin{eqnarray} c&=&\limsup\limits_{n\rightarrow \infty}[2 \widetilde{J}(\widetilde{v}_n)-\widetilde{J}'(\widetilde{v}_n)\widetilde{v}_n]\\&=&\limsup\limits_{n\rightarrow \infty}\int_{\mathbb{R} ^N}V(x)G^{-1}(\widetilde{v}_n)\Big[ G^{-1}(\widetilde{v}_n)-\frac{1}{g(G^{-1}(\widetilde{v}_n))}\widetilde{v}_n\Big]{\text{d}}x\\&&-\limsup\limits_{n\rightarrow \infty}\int_{\mathbb{R} ^N}\Big[2 F(G^{-1}(\widetilde{v}_n))-\frac{f(G^{-1}(\widetilde{v}_n))}{g(G^{-1}(\widetilde{v}_n))}\widetilde{v}_n\Big]{\text{d}}x\\ &\geq&\int_{\mathbb{R} ^N}V(x)G^{-1}(\widetilde{v})\Big[ G^{-1}(\widetilde{v})-\frac{1}{g(G^{-1}(\widetilde{v}))}\widetilde{v}\Big]{\text{d}}x\\&&-\int_{\mathbb{R} ^N}\Big[2 F(G^{-1}(\widetilde{v}))-\frac{f(G^{-1}(\widetilde{v}))}{g(G^{-1}(\widetilde{v}))}\widetilde{v}\Big]{\text{d}}x\\ &=&2 \widetilde{J}(\widetilde{v})-\widetilde{J}'(\widetilde{v})\widetilde{v}. \end{eqnarray} $

(3.19)

因此$\widetilde{v}\ne 0$为泛函$\widetilde{J}$的临界点, 且$\widetilde{J}(\widetilde{v})\leq c.$

令

$ \widetilde{c}=\inf\limits_{\gamma \in \widetilde{\Gamma}}\sup\limits_{t\in [0, 1]}\widetilde{J}(\gamma(t))>0, $

其中$\widetilde{\Gamma}=\{\gamma\in C([0, 1], H^1(\mathbb{R} ^N)): \gamma(0)=0, \gamma(1)t=0, \widetilde{J}(\gamma(1))<0\}.$类似于文献[5]中的讨论, 存在$\gamma:[0, 1]\rightarrow H^1(\mathbb{R} ^N)$使得

$ \begin{equation}\label{3.20} \left\{ \begin{array}{ll} \gamma(0)=0, \widetilde{J}(\gamma(1))<0, \widetilde{v}\in \gamma([0, 1]), \\ \gamma(t)(x)>0, \quad \forall x\in \mathbb{R} ^N, t\in [0, 1], \\ \max\limits_{t\in [0, 1]}\widetilde{J}(\gamma(t))=\widetilde{J}(\widetilde{v}). \end{array} \right. \end{equation} $

(3.20)

若$V(x)\equiv V(\infty)$, 则定理获证.设$V(x)\leq V(\infty)$且$V(x)t\equiv V(\infty)$.由于$\gamma \in \widetilde{\Gamma}\subset \Gamma$, 则由(3.20)式可知

$ c\leq \max\limits_{t\in [0, 1]}J(\gamma(t))= J(\gamma(\bar{t}))<\widetilde{J}(\gamma(\bar{t}))\leq \max\limits_{t\in [0, 1]}\widetilde{J}(\gamma(t)) =\widetilde{J}(\widetilde{v})\leq c, $

这是矛盾的.因此, $v$为非平凡的弱解.