基态解的存在性是椭圆型偏微分方程定性理论的重要研究内容. 现在, 带正位势函数的Laplace方程基态解的存在性已经有了很多研究. 比如, 张慧,徐君祥,Li,Alves 等学者在文献^{[1, 2, 3, 4, 5, 6]}中,根据条件$W>0$在 不同情形下分别研究了如下方程基态解的存在性 $$\left\{\begin{array}{l} -\triangle u+W(x)u=g(x,u)+f,\\ u\in H^1({\Bbb R}^N) . \end{array}\right.(1.1)$$ 如果位势函数$W<0$,那么对方程(1.1)的研究将面临较多的困难, 因此目前只是在一些比较特殊的情形下讨论了这类方程解的存在性问题, 比如在文献^[7]中Benrhouma和Ounaies讨论了如下问题两个解的存在性 $$\left\{\begin{array}{l} -\triangle u=u-|u|^{-2\theta}u+f(x),\\ u\in H^1({\Bbb R}^N)\cap L^{2(1-\theta)}({\Bbb R}^N). \end{array}\right.(1.2)$$ 在文献^[8]中,Ounaies只是在$f=0$的条件下讨论了方程(1.2)基态解的存在性.

最近,$p$-Laplace方程基态解的存在性也有一些研究,比如在文献^[9]中, Liu在没有Ambrosetti-Rabinowitz条件的情况下,研究了如下$p$-Laplace 方程基态解的存在性 $$\left\{\begin{array}{l} -\triangle_p u+V(x)|u|^{p-2}u=f(x,u) ,\\ u\in W^{1,p}({\Bbb R}^N), \end{array}\right.(1.3)$$ 其中,$\triangle_pu={\rm div}(|\nabla u|^{p-2}\nabla u)$,$V(x)\in C({\Bbb R}^N)$,$0<\alpha\leq V(x)\leq\beta<+\infty$, $N\geq3$,$1<q<N$,$f\in C({\Bbb R}^N\times{\Bbb R})$并且满足下面的条件

$(H_1)$~ $f$关于$x_1,x_2,\cdots,x_N$ 是周期为1的函数,并且对于$x\in {\Bbb R}^N$一致地有 $$\lim_{|t|\rightarrow0}\frac{f(x,t)}{|t|^{p-2}t}=0, \lim_{|t|\rightarrow\infty}\frac{f(x,t)}{|t|^{p^*-1}}=0, \lim_{|t|\rightarrow\infty}\frac{F(x,t)}{|t|^p}=+\infty, $$ 其中$p^*=\frac{Np}{N-p}$,$F(x,t)=\int_0^tf(x,s){\rm d}s$.

$(H_2)$~ 存在$\theta>1$使得对任意的$(x,t)\in {\Bbb R}^N\times{\Bbb R}$,$k\in[0,1]$有$\theta H(x,t)\geq H(x,kt)$,其中$H(x,t)=f(x,t)t-pF(x,t)$.

众所周知,$p$-Laplace方程在图像处理, 非牛顿流体力学和非线性弹性力学等领域中具有重要的应用. 但是, 关于$p$-Laplace方程基态解的存在性方面的研究目前并不多见, 特别是当位势函数$V(x)<0$时更是如此. 受文献^{[7, 8, 9]}的启发, 本文利用条件$(H_1)$和$(H_2)$讨论了如下带负位势函数的$p$-Laplace方程基态解的存在性 $$\left\{\begin{array}{l} -\triangle_pu-|u|^{p-2}u+|u|^{q-2}u=f(x,u),\\ u\in W^{1,p}({\Bbb R}^N)\cap L^q({\Bbb R}^N), \end{array}\right.(1.4)$$ 其中$N\geq3$,$p\geq2$,$1<q<p<N$.

本文的方法主要来自文献^{[7, 8, 9]},但是本文的方程比文献^[7]和^[8]中的方程更一般. 与^[9]不同的是, 本文讨论的方程(1.4)中的位势函数$V(x)=-1$是一个负数, 而文献^[9]中的方程(1.3) 中的位势函数$V(x)$是一个正函数. 由于$V(x)$是一个正函数,因此可以在通常的Sobolev 空间$W^{1,p}({\Bbb R}^N)$中考虑方程(1.3)基态解的存在性. 如果位势函数$V(x)$ 是负的,那么这类方程的能量泛函的$p$-次齐次项就不再正定了, 从而能量泛函的山路几何结构受到了破坏. 因此,如果运用临界点理论讨论方程(1.4) 基态解的存在性,我们将面临更大的困难. 为了克服这些困难,我们需要选择Banach空间$W^{1,p}({\Bbb R}^N)\cap L^q({\Bbb R}^N)$. 幸运的是,我们在$W^{1,p}({\Bbb R}^N)\cap L^q({\Bbb R}^N)$中证明了方程(1.4) 的能量泛函有临界点存在. 在此基础上,我们进一步得到了方程(1.4) 基态解的存在性. 本文的主要结论为

定理1.1 假设条件$(H_1)$和$(H_2)$成立,那么方程(1.4)存在非平凡的基态解,即方程(1.4)存在非平凡弱解$v$满足 $$\phi(v)=\inf\{\phi(u): u\neq0,~ \phi'(u)=0\},$$ 其中$\phi$为方程(1.4)的能量泛函,其定义为: 对任意的 $u\in W^{1,p}({\Bbb R}^N)\cap L^q({\Bbb R}^N)$有 $$\phi(u)=\frac{1}{p}\int_{{\Bbb R}^N}(|\nabla u|^p-|u|^p){\rm d}x+\frac{1}{q}\int_{{\Bbb R}^N}|u|^q{\rm d}x-\int_{{\Bbb R}^N}F(x,u){\rm d}x. (1.5)$$

假设$(X,\| \cdot\| _X)$是一个实的Banach空间,它的对偶空间为$(X^*, \| \cdot\| _{X^*})$,$I\in C^1(X,{\Bbb R})$. 如果$\{x_n\}\subset X$,$I(x_n)\rightarrow c$并且$(1+\| x_n\| _X)\| I'(x_n)\| _{X^*}\rightarrow 0$, 则称$\{x_n\}$为$I$的$(C)_c$序列. 如果$I$的所有$(C)_c$序列在$X$中都有收敛的子列,则称$I$满足$(C)_c$条件. 为了证明定理1.1,我们需要下面的一些引理.

引理2.1^[10] 设$(X, \| \cdot\| _X)$是一个实的Banach空间,$B_\rho$是$X$中以0为中心以$\rho$为半径的开球,$I\in C^1(X,{\Bbb R})$并且$I(0)=0$. 如果存在常数$\rho, \alpha>0$使得$I|_{\partial B_\rho}\geq\alpha$并且存在$e\in X\backslash B_\rho$使得$I(e)\leq0$,那么$I$必有$(C)_d$序列, 其中$d=\inf\limits_{\gamma\in\Gamma }\max\limits_{t\in [0,1]}I(\gamma(t))$, $\Gamma=\{\gamma\in C([0,1],X); \gamma(0)=0,\gamma(1)=e\}$.

为了讨论方程(1.4)的基态解的存在性,我们假设$E=W^{1,p}({\Bbb R}^N)\cap L^q({\Bbb R}^N)$并且令 $$\| u\| =\| \nabla u\| _p+\| u\| _q,$$ 其中$\| \cdot\| _p$和$\| \cdot\| _q$分别表示$L^p({\Bbb R}^N)$ 空间和$L^q({\Bbb R}^N)$空间的标准范数. 容易验证$\| \cdot \|$是$E$的一个范数并且$(E,\| \cdot \|)$是一个 Banach 空间. 对任意的 $u\in E$,令

\begin{equation} \phi(u)=\frac{1}{p}\int_{{\Bbb R}^N}(|\nabla u|^p-|u|^p){\rm d}x+\frac{1}{q}\int_{{\Bbb R}^N}|u|^q{\rm d}x-\int_{{\Bbb R}^N}F(x,u){\rm d}x. \end{equation}

(2.1)

那么$\phi$称为方程(1.4)的能量泛函. 由条件$(H_1)$可知,存在常数$C>0$使得$|F(x,t)|\leq C(|t|^p+|t|^{p^*})$, 所以(2.1)式中的能量泛函$\phi$是有意义的并且容易验证$\phi$是定义在$E$上的$C^1$泛函. 众所周知,$\phi$的临界点即为方程(1.4)的弱解,因此我们首先讨论$\phi$的一些性质. 为此,我们令 $$B_\lambda=\{u\in E,\| u\| <\lambda\}.$$

引理2.2 存在$e\in E\backslash B_1$使得$\phi(e)<0$.

证 任取$u\in E$使得$u>0$并且$\int_{{\Bbb R}^N}u^p{\rm d}x\neq0$. 令 $$M=\bigg(\int_{{\Bbb R}^N}|\nabla u|^p{\rm d}x\bigg)\bigg(p\int_{{\Bbb R}^N}u^p{\rm d}x\bigg)^{-1}. $$ 由条件$(H_1)$中的最后一个极限可知,当$t$充分大时有$F(x,tu)>Mt^pu^p$. 于是 \begin{eqnarray*} \phi(tu)&<&\frac{t^p}{p}\int_{{\Bbb R}^N}(|\nabla u|^p-|u|^p){\rm d}x+\frac{t^q}{q}\int_{{\Bbb R}^N}|u|^q{\rm d}x-Mt^p\int_{{\Bbb R}^N}u^p{\rm d}x \\ &=&\frac{t^q}{q}\int_{{\Bbb R}^N}|u|^q{\rm d}x-\frac{t^p}{p}\int_{{\Bbb R}^N}|u|^p{\rm d}x. \end{eqnarray*} 由于$1<q<p$,所以当$t$充分大时有$\phi(tu)<0$. 引理2.2证明完毕.

引理2.3 存在常数$\alpha>0$以及$0<\rho<1$, 使得$\phi|_{\partial B_\rho}\geq\alpha$.

证 由条件$(H_1)$可知,存在常数$C>0$使得

\begin{equation} |F(x,t)|\leq C(|t|^p+|t|^{p^*}). \end{equation}

(2.2)

当$s\neq0$时,令 $$h(s)=\frac{C|s|^{p^*}+(C+\frac{2}{p})|s|^p-\frac{1}{2q}|s|^q}{|s|^{p^*}}.$$ 由于$p^*>p>q>1$,所以当$|s|$充分接近于0时有$h(s)<0$. 另外,容易看得出来$\lim\limits_{|s|\rightarrow +\infty}h(s)=C$. 又因为$h(s)$是连续函数,所以存在常数$k_1>0$使得

\begin{equation} C|s|^{p^*}+(C+\frac{2}{p})|s|^p-\frac{1}{2q}|s|^q\leq k_1|s|^{p^*}. \end{equation}

(2.3)

当$s=0$时(2.3)式显然是成立的. 对任意的$u\in E$,令$s=|u|$并将其代人(2.3)式然后积分得

\begin{equation} \frac{1}{2q}\| u\| _q^q\geq C\| u\| _{p^*}^{p^*}+(C+\frac{2}{p})\| u\| _p^p-k_1\| u\| _{p^*}^{p^*}. \end{equation}

(2.4)

将(2.4)式中的最后一项运用Gagliardo-Nirenberg不等式,我们断定对任意的$u\in E$存在常数$k$使得

\begin{equation} \frac{1}{2q}\| u\| _q^q\geq C\| u\| _{p^*}^{p^*}+(C+\frac{2}{p})\| u\| _p^p-k\| \nabla u\| _{p}^{p^*}. \end{equation}

(2.5)

不妨选取$u\in E$使得$\| u\| <1$. 于是$\| u\| _q<1$并且$\| \nabla u\| _p<1$,因此根据(2.1),(2.2),(2.5)式以及$p^*>p>q\geq1$可以得到

\begin{eqnarray} \phi(u)&\geq&\frac{1}{p}\int_{{\Bbb R}^N}(|\nabla u|^p-|u|^p){\rm d}x+\frac{1}{q}\int_{{\Bbb R}^N}|u|^q{\rm d}x-C\int_{{\Bbb R}^N} (|u|^p+|u|^{p^*}){\rm d}x \nonumber\\ &=&\frac{1}{2p}\| \nabla u\| _p^p+\frac{1}{2p}\| \nabla u\| _p^p+\frac{1}{2q}\| u\| _q^q+\frac{1}{2q}\| u\| _q^q-\frac{1}{p}\| u\| _p^p-C\| u\| _p^p-C\| u\| _{p^*}^{p^*} \nonumber\\ &\geq& \frac{1}{2p}\| \nabla u\| _p^p+\frac{1}{2p}\| \nabla u\| _p^p+\frac{1}{2p}\| u\| _q^p+C\| u\| _{p^*}^{p^*}+(C+\frac{2}{p})\| u\| _p^p-k\| \nabla u\| _{p}^{p^*} \nonumber\\ &&-\frac{1}{p}\| u\| _p^p-C\| u\| _p^p-C\| u\| _{p^*}^{p^*} \nonumber\\ &=&\frac{1}{2p}(\| \nabla u\| _p^p+\| u\| _q^p)+\frac{1}{2p}\| \nabla u\| _p^p+\frac{1}{p}\| u\| _p^p-k\| \nabla u\| _{p}^{p^*} \nonumber\\ &\geq&\frac{1}{2p2^{p-1}}(\| \nabla u\| _p+\| u\| _p)^p+\frac{1}{2p}\| \nabla u\| _p^p+\frac{1}{p}\| u\| _p^p-k\| \nabla u\| _{p}^{p^*} \nonumber\\ &\geq& \frac{1}{p2^{p}}\| u\| ^p-k\| u\| ^{p^*}. \end{eqnarray}

(2.6)

取$\rho=\min\{(2kp2^p)^{-(p^*-p)^{-1}}, 1\}$,$\alpha=(p2^{p+1})^{-1}\rho^p$, 那么当$\| u\| =\rho$时有$\phi(u)\geq\alpha>0$. 引理2.3证明完毕.

引理2.4 能量泛函$\phi$的所有$(C)_c$序列在$E$中都是有界的.

证 假设存在常数$c$使得$\phi$的$(C)_c$序列$\{u_n\}\subset E$是无界的,通过选取子列的方法我们不妨假设 $$\phi(u_n)\rightarrow c,\| u_n\| \rightarrow\infty, \| \phi'(u_n)\| _{E^*}\| u_n\| \rightarrow0.$$ 于是

\begin{eqnarray} &&\lim_{n\rightarrow\infty}\int_{{\Bbb R}^N} \bigg[\frac{1}{q}|u_n|^q-\frac{1}{p}|u_n|^q+\frac{1}{p}f(x,u_n)u_n-F(x, u_n)\bigg]{\rm d}x \nonumber\\ &=&\lim_{n\rightarrow\infty} \bigg[\phi(u_n)-\frac{1}{p}\langle\phi'(u_n), u_n\rangle\bigg]=c. \end{eqnarray}

(2.7)

令$v_n=\| u_n\| ^{-1}u_n$,那么$\{v_n\}$是$E$中的有界序列. 假设 $$\lim_{n\rightarrow\infty}\sup_{y\in {\Bbb R}^N}\int_{B_2(y)}|v_n|^p{\rm d}x\neq0.$$ 类似于文献^[9],我们断定存在常数$\delta>0$,$z_n\in{\Bbb R}^N$以及$y_n\in{\Bbb Z}^N\cap B_2(z_n)$使得 $$\int_{B_2(y_n)}|v_n|^p{\rm d}x\geq\frac{\delta}{2\times4^N}.$$ 令$\widetilde{v}_n=v_n(\cdot+y_n)$. 在积分的过程中,通过变量代换$z_n=x+y_n$容易得到$\| \widetilde{v}_n\| =\| v_n\| =1$. 因此通过选取子列的方法我们可以假设$\widetilde{v}_n$在$L_{loc}^p({\Bbb R}^N)$中强收敛于 $\widetilde{v}$,并且在${\Bbb R}^N$上几乎处处敛于$\widetilde{v}$. 由于 $$\int_{B_2(0)}|\widetilde{v}_n|^p{\rm d}x= \int_{B_2(y_n)}|v_n|^p{\rm d}x\geq\frac{\delta}{2\times4^N}.$$ 所以$\widetilde{v}\neq0$. 令$\widetilde{u}_n=\| u_n\| \widetilde{v}_n$,那么$|\widetilde{u}_n|\rightarrow+\infty$. 于是根据$(H_1)$中的最后一个极限可以得到

\begin{equation} \lim_{n\rightarrow\infty}\frac{F(x,\widetilde{u}_n)}{|u_n|^p}|\widetilde{v}_n|^p=+\infty. \end{equation}

(2.8)

由于$\phi(u_n)\rightarrow c$,所以 \begin{eqnarray*} \int_{{\Bbb R}^N}F(x,u_n){\rm d}x&=&\frac{1}{p}\int_{{\Bbb R}^N}(|\nabla u_n|^p-|u_n|^p){\rm d}x+\frac{1}{q}\int_{{\Bbb R}^N}|u_n|^q{\rm d}x-c-o(1) \\ &\leq& \frac{1}{p}\| u_n\| ^p +\frac{1}{q}\| u_n\| ^q-c-o(1). \end{eqnarray*} 因为$1<q<p$,类似于文献^[9]我们可以得到一个矛盾. 从而根据文献^[11]中的引理1.1可知

\begin{equation} v_n\rightarrow0 ~{\rm in}~ L^s({\Bbb R}^N),\forall s\in(p,p^*). \end{equation}

(2.9)

任取$R>0$,$r\in(p,p^*)$, 由$(H_1)$可知对任意的$\varepsilon>0$存在常数$C_\varepsilon$使得 $$|F(x,Rt)|\leq \varepsilon(|t|^p+|t|^{p^*})+C_\varepsilon|t|^r =\varepsilon(|t|^q+|t|^{p^*})+\varepsilon|t|^p-\varepsilon|t|^q+C_\varepsilon|t|^r.$$ 于是

\begin{eqnarray} \phi(Rv_n)&=&\frac{R^p}{p}\int_{{\Bbb R}^N}|\nabla v_n|^p-\frac{R^p}{p}\int_{{\Bbb R}^N}|v_n|^p{\rm d}x+\frac{R^q}{q}\int_{{\Bbb R}^N}|v_n|^q{\rm d}x -\int_{{\Bbb R}^N}F(x,Rv_n){\rm d}x\nonumber\\ &\geq&\frac{R^p}{p}\| \nabla v_n\| _p^p-\frac{R^p}{p}\| v_n\| ^p_p +\frac{R^q}{q}\| v_n\| _q^q-\varepsilon(\| v_n\| _q^q+\| v_n\| _{p^*}^{p^*}) \nonumber\\ &&-\varepsilon\| v_n\| _p^p +\varepsilon\| v_n\| _q^q-C_\varepsilon\| v_n\| _r^r \nonumber\\ &=&\frac{R^p}{p}\| \nabla v_n\| _p^p +\frac{R^q+q\varepsilon}{q}\| v_n\| _q^q-\frac{R^p+p\varepsilon}{p}\| v_n\| ^p_p -\varepsilon(\| v_n\| _q^q+\| v_n\| _{p^*}^{p^*}) -C_\varepsilon\| v_n\| _r^r. \nonumber\\ \end{eqnarray}

(2.10)

假设 $$g(s)=\frac{\frac{R^p+p\varepsilon}{p}|s|^p-\frac{R^q+q\varepsilon}{2q}|s|^q}{\varepsilon|s|^{p^*}}, ~\forall s\neq0.$$ 由于$p^*>p>q>1$,所以当$|s|$充分接近于0时有$g(s)<0$. 另外,容易求出$\lim\limits_{|s|\rightarrow +\infty}h(s)=0$. 因为$g(s)$是连续函数,所以存在常数$\beta>0$使得

\begin{equation} \frac{R^p+p\varepsilon}{p}|s|^p-\frac{R^q+q\varepsilon}{2q}|s|^q\leq \varepsilon \beta|s|^{p^*}. \end{equation}

(2.11)

令$s=|v_n|$并将其代人(2.11)式然后积分得

\begin{equation} \frac{R^q+q\varepsilon}{2q}\| v_n\| _q^q\geq\frac{R^p+p\varepsilon}{p}\| v_n\| ^p_p -\varepsilon \beta\| v_n\| _{p^*}^{p^*}. \end{equation}

(2.12)

将(2.12)式代人(2.10)式得到

\begin{equation} \phi(Rv_n)\geq\frac{R^p}{p}\| \nabla v_n\| _p^p+\frac{R^q+q\varepsilon}{2q}\| v_n\| _q^q-\varepsilon \beta\| v_n\| _{p^*}^{p^*}-\varepsilon(\| v_n\| _q^q+\| v_n\| _{p^*}^{p^*})-C_\varepsilon\| v_n\| _r^r. \end{equation}

(2.13)

由于$\| v_n\| =1$, 所以根据$\| \cdot\| $的定义以及Gagliardo-Nirenberg不等式,我们断言存在常数$C_1$使得 $$\| v_n\| _q^q+\| v_n\| _{p^*}^{p^*}\leq C_1. $$ 于是当$\varepsilon$充分小时,由(2.13)式可知

\begin{equation} \phi(Rv_n)\geq\frac{R^p}{4p}\| \nabla v_n\| _p^p+\frac{R^q+q}{8q}\| v_n\| _q^q-C_\varepsilon\| v_n\| _r^r. \end{equation}

(2.14)

对任意的自然数$n$,令 $$\phi(t_nu_n)=\max_{t\in[0,1]}\phi(tu_n).$$ 因为$\| u_n\| \rightarrow\infty$, 所以当$n$充分大时有$\frac{R}{\| u_n\| }\leq1$, 从而当$n$充分大时$\phi(t_nu_n)\geq\phi(\frac{R}{\| u_n\| }u_n)=\phi(Rv_n)$. 让$n\rightarrow+\infty$,然后再让$R\rightarrow+\infty$, 那么由(2.9),(2.14)式以及$\| v_n\| =1$可得$\phi(t_nu_n)\rightarrow+\infty$. 又因为$\phi(0)=0,\phi(u_n)\rightarrow c$, 所以有无穷多个$t_n$满足条件$0<t_n<1$. 将这无穷多个$t_n$取出来构造一个新的序列,为方便起见我们仍然将其记为$\{t_n\}_{n=1}^\infty$. 显然对于这个序列中的每一个$t_n$都有$\frac{\rm d}{{\rm d}t}|_{t=t_n}\phi(tu_n)=0$, 于是

\begin{equation} \int_{{\Bbb R}^N}|\nabla(t_nu_n)|^p-\int_{{\Bbb R}^N}|t_nu_n|^p +\int_{{\Bbb R}^N}|t_nu_n|^q-\int_{{\Bbb R}^N}f(x, t_nu_n)t_nu_n{\rm d}x=\langle\phi'(t_nu_n),t_nu_n\rangle=0. \end{equation}

(2.15)

根据条件$(H_2)$,(2.15)式以及$p>q>1$得到

\begin{eqnarray} &&\int_{{\Bbb R}^N} \bigg[\frac{1}{q}|u_n|^q-\frac{1}{p}|u_n|^q+\frac{1}{p}f(x,u_n)u_n-F(x, u_n)\bigg]{\rm d}x \nonumber\\ &\geq&\int_{{\Bbb R}^N} \bigg[\frac{1}{q}|u_n|^q-\frac{1}{p}|u_n|^q\bigg]{\rm d}x+\frac{1}{\theta}\int_{{\Bbb R}^N} \bigg[\frac{1}{p}f(x, t_nu_n)t_nu_n-F(x,t_nu_n)\bigg]{\rm d}x \nonumber\\ &=&\int_{{\Bbb R}^N} \bigg[\frac{1}{q}|u_n|^q-\frac{1}{p}|u_n|^q\bigg]{\rm d}x+\frac{1} {\theta}\int_{{\Bbb R}^N}\frac{1}{p}[|\nabla(t_nu_n)|^p -|t_nu_n|^p +|t_nu_n|^q]{\rm d}x \nonumber\\ &&-\int_{{\Bbb R}^N}F(x,t_nu_n)]{\rm d}x \nonumber\\ &=&\frac{1}{q}\int_{{\Bbb R}^N} |u_n|^q{\rm d}x-\frac{1}{p}\int_{{\Bbb R}^N}|u_n|^q{\rm d}x+\frac{1}{\theta}\phi(t_nu_n)+ \frac{t_n^q}{p\theta }\int_{{\Bbb R}^N}|u_n|^q{\rm d}x -\frac{t_n^q}{q\theta }\int_{{\Bbb R}^N}|u_n|^q{\rm d}x \nonumber\\ &\geq&\frac{1}{\theta}\phi(t_nu_n)\rightarrow+\infty. \end{eqnarray}

(2.16)

(2.16)式与(2.7)式是矛盾的,所以$\phi$的所有$(C)_c$序列都是有界的. 引理2.4证明完毕.

引理2.5 问题(1.4)存在非平凡的弱解$v$.

证 选择引理2.2中的$e$,令 $$\Gamma=\{\gamma\in C([0,1],X); \gamma(0)=0,\gamma(1)=e\}, c=\inf_{\gamma\in\Gamma }\max\limits_{t\in [0,1]}\phi(\gamma(t)).$$ 对于引理2.3确定的$\rho$,由(2.6)式不难知道当$u\in \overline{B_\rho}$时都有$\phi(u)\geq\alpha>0$. 由于$\phi(e)<0$, 所以$\gamma(1)\in E\backslash\overline{B_\rho}$. 另外,显然有$\gamma(0)\in\overline{B_\rho}$,所以由$\gamma$的连续性可知必然存在$s\in [0,1]$使得$\gamma(s)\in\partial B_\rho$. 于是$\max\limits_{t\in [0,1]}\phi(\gamma(t))\geq \phi(\gamma(s))\geq\alpha$. 这说明$c\geq\alpha>0$. 另一方面,根据引理2.1,引理2.2和引理2.3, 我们断定(2.1)式中定义的能量泛函$\phi$必有$(C)_c$序列$\{u_n\}$存在. 由引理2.4可知$\{u_n\}$在$E$中是有界的. 选取$s>1$使得$s<q<s^*$, 那么由$(H_1)$不难验证对任意的$\varepsilon>0$存在$C_\varepsilon$使得

\begin{equation} |f(x,t)t|\leq \varepsilon(|t|^p+|t|^{p^*})+C_\varepsilon|t|^s. \end{equation}

(2.17)

类似于文献^[9],我们假设

\begin{equation} \delta=\lim_{n\rightarrow\infty}\sup_{y\in {\Bbb R}^N}\int_{B_2(y)}|u_n|^s{\rm d}x. \end{equation}

(2.18)

如果$\delta=0$,那么根据文献^[11]中的引理1.1可知

\begin{equation} u_n\rightarrow0 ~ {\rm in}~ L^r({\Bbb R}^N),\forall r\in(s,s^*). \end{equation}

(2.19)

因为$\{u_n\}$在$E$中有界,所以根据Gagliardo-Nirenberg不等式可知$\| u_n\| _{p^*}^{p^*}$有界. 由于$s<q<s^*$,所以由(2.19)式可得$\| u_n\| _{q}^{q}\rightarrow0$, 于是根据(2.4)式可断定$\| u_n\| _{p}^{p}$是有界的. 从而由(2.17)和(2.19)式可得$\int_{{\Bbb R}^N}f(x, u_n)u_n{\rm d}x\rightarrow0$. 类似地,可以得到$\int_{{\Bbb R}^N}F(x, u_n){\rm d}x\rightarrow0$. 这样,根据(2.7)式我们有$c=0$. 这与$c\geq\alpha>0$矛盾,所以$\delta>0$. 类似于文献^[9],我们可以选取$\{y_n\}\subset Z^N$使得$v_n=u_n(\cdot+y_n)$仍然是$\phi$的$(C)_c$序列,并且$v_n\rightharpoonup v\neq0$. 通过选取子序列的方法不妨假设 $$v_n \rightarrow v ~{\rm in}~ L_{loc}^r({\Bbb R}^N),\forall r\in[1,p^*),v_n \rightarrow v ~ {\rm for~ a.e. }~ x\in {\Bbb R}^N. $$ 任取$\varphi\in C_0^\infty({\Bbb R}^N)$,直接计算可得 \begin{eqnarray*} &&\int_{{\Bbb R}^N}(|\nabla v_n|^{p-2}\nabla v_n\nabla\varphi-|v_n|^{p-2}v_n\varphi){\rm d}x+\int_{{\Bbb R}^N}|v_n|^{q-2}v_n\varphi {\rm d}x -\int_{{\Bbb R}^N}f(x,v_n)\varphi {\rm d}x \\ &=&\langle \phi'(v_n),\varphi\rangle\rightarrow0. \end{eqnarray*} 由于$p\geq2$并且$\varphi\in C_0^\infty({\Bbb R}^N)$以及对任意的$r\in[1,p^*)$有$v_n $在$L_{loc}^{r}({\Bbb R}^N)$强收敛于$v$,所以通过选取子序列的方法我们断言 存在$\zeta(x)\in L^{p-1}({\Bbb R}^N)$与$\eta(x)\in L^{p^*-1}({\Bbb R}^N)$使得

\begin{equation} |v_n|^{p-1}|\varphi|\leq|\zeta(x)|^{p-1}|\varphi|\in L^{1}({\Bbb R}^N), |v_n|^{p^*-1}|\varphi|\leq|\eta(x)|^{p^*-1}|\varphi|\in L^{1}({\Bbb R}^N). \end{equation}

(2.20)

根据条件$(H_1)$以及(2.20)式可知存在常数$C_2>0$使得

\begin{eqnarray} |f(x,v_n)\varphi|&\leq& C_2(|v_n|^{p-1}+|v_n|^{p^*-1})|\varphi| \nonumber\\ &\leq& C_2|\zeta(x)|^{p-1}|\varphi|+C_2|\eta(x)|^{p^*-1}|\varphi|\in L^{1}({\Bbb R}^N). \end{eqnarray}

(2.21)

由于$v_n$几乎处处收敛于$v$,所以根据(2.21)式和控制收敛定理以及$f$的连续性可知

$$\lim_{n\rightarrow\infty}\int_{{\Bbb R}^N}f(x,v_n)\varphi {\rm d}x=\int_{{\Bbb R}^N}f(x,v)\varphi {\rm d}x.(2.22)$$

(2.22)

又因为 $v_n \rightharpoonup v$, 所以由文献^[12]可知$\int_{{\Bbb R}^N}|\nabla v_n|^{p-2}\nabla v_n\nabla\varphi\rightarrow\int_{{\Bbb R}^N}|\nabla v|^{p-2}\nabla v\nabla\varphi$并且 $$\int_{{\Bbb R}^N}|v_n|^{q-2}v_n\varphi {\rm d}x-\int_{{\Bbb R}^N}|v_n|^{p-2}v_n\varphi {\rm d}x\rightarrow\int_{{\Bbb R}^N}|v|^{q-2}v\varphi {\rm d}x-\int_{{\Bbb R}^N}|v|^{p-2}v\varphi {\rm d}x.$$ 于是根据(2.22)式得到 $$\langle I'(v),\varphi\rangle=\lim_{n\rightarrow\infty}\langle I'(v_n),\varphi\rangle=0,\forall \varphi\in C_0^\infty({\Bbb R}^N). $$ 因此$v$是方程(1.4)的一个非平凡弱解. 引理2.5证明完毕.

在本节,我们主要证明引言中的定理1.1. 为此,我们假设 $$m=\inf\{\phi(u): u\neq0,\phi'(u)=0\}. (3.1)$$ 根据引理2.5可知$m\leq\phi(v)<+\infty$. 由条件$(H_2)$可得$\theta H(x,u)\geq H(x,u)$. 由于$\theta>1$,所以$\frac{1}{p}f(x,u)u-F(x, u)=\frac{1}{p}H(x,u)\geq0$. 于是根据$p>q>1$得到 $$\phi(u)=\phi(u)-\frac{1}{p}\langle\phi'(u), u\rangle=\int_{{\Bbb R}^N} \bigg[\frac{1}{q}|u|^q-\frac{1}{p}|u|^q+\frac{1}{p}f(x,u)u-F(x, u)\bigg]{\rm d}x\geq0. (3.2)$$ 根据(3.2)式,我们可以得到 $m\geq0$. 假设$\{u_n\}\subset E$是(3.1)式的极小化序列,那么$\phi(u_n)\rightarrow m$,并且$u_n\neq0$, $\phi'(u_n)=0$. 于是 $$(1+\| u_n\| _E)\| \phi'(u_n)\| _{E^*}=0, $$ 所以$\{u_n\}$满足$(C)_m$条件,从而$\{u_n\}$在$E$中有界. 选择(2.18)式中的$\delta$. 如果$\delta=0$, 从引理2.5的证明过程中可知$\| u_n\| _{q}^{q}\rightarrow0$,所以当$n$充分大时可以假设 $|u_n|\leq(\frac{1}{3})^{\frac{1}{p-q}}$. 于是$3|u_n|^p\leq|u_n|^q$,两边积分得$3\| u_n\| _{p}^{p}\leq \| u_n\| _{q}^{q}$,所以$\| u_n\| _{p}^{p}\rightarrow0$. 另一方面,由$(H_1)$中的第一个极限可得 $$0=\langle\phi'(u_n), u_n\rangle=\| \nabla u_n\| _p^p-\| u_n\| _p^p +\| u_n\| _q^q+o(\| u_n\| _p^p).(3.3)$$ 将$ \| u_n\| _{q}^{q}\geq3\| u_n\| _{p}^{p}$代人(3.3)式得 $$0=\langle\phi'(u_n), u_n\rangle\geq\| \nabla u_n\| _p^p+2\| u_n\| _p^p +o(\| u_n\| _p^p).(3.4)$$ 由于$u_n\neq0$,所以$\| u_n\| _p^p\neq0$. 将(3.4)式两边除以$\| u_n\| _p^p$,然后取极限得$0\geq2$. 这是一个矛盾,所以$\delta>0$. 类似于文献^[9]和引理2.5的证明过程,我们可以选择适当的序列$\{v_n\}\subset E$使得 $$\phi'(v_n)=0,\phi(v_n)=\phi(u_n)\rightarrow m,$$ 并且$\{v_n\}$弱收敛于$\phi$的一个临界点$v\neq0$. 由于$(\frac{1}{q}-\frac{1}{p})|v_n|^q+\frac{1}{p}H(x,v_n)\geq0$, 所以根据Fatou引理可得 \begin{eqnarray*} \phi(v)&=&\phi(v)-\frac{1}{p}\langle\phi'(v), v\rangle=\int_{{\Bbb R}^N} \bigg[(\frac{1}{q}-\frac{1}{p})|v|^q+\frac{1}{p}H(x,v)\bigg]{\rm d}x \\ &\leq& \liminf_{n\rightarrow\infty}\int_{{\Bbb R}^N} \bigg[(\frac{1}{q}-\frac{1}{p})|v_n|^q+\frac{1}{p}H(x,v_n)\bigg]{\rm d}x \\ &=&\liminf_{n\rightarrow\infty}\bigg(\phi(v_n)-\frac{1}{p}\langle\phi'(v_n), v_n\rangle\bigg)=m. \end{eqnarray*} 所以$v$是方程(1.4)的非平凡基态解. 定理1.1证明完毕.