该文研究如下Choquard型拟线性薛定谔方程

(1.1) $ \begin{equation} -\triangle u+\frac{k}{2}u\triangle u^2+V(x)u=(I_{\alpha}\ast|u|^{p})|u|^{p-2}u, \, \, x\in{{\Bbb R}} ^{N}, \end{equation} $

其中$ N\geq3 $, $ 0<\alpha<N $, $ 2<p<\frac{N+\alpha}{N-2} $, $ V:{{\Bbb R}} ^{N}\rightarrow (0, \infty) $是一个连续的正位势函数, $ k $是一个非负参数, $ I_{\alpha} $是Riesz位势, 定义如下

$ \begin{eqnarray*} I_\alpha(x)=\frac{\Gamma(\frac{N-\alpha}{2})}{\Gamma(\frac{\alpha}{2})\pi^{N/2}2^\alpha|x|^{N-\alpha}}:=\frac{A_\alpha}{|x|^{N-\alpha}}. \end{eqnarray*} $

问题(1.1) 的解与下列拟线性薛定谔方程驻波解的存在性有关

(1.2) $ \begin{equation} {\rm i}\partial_t\psi=-\triangle\psi+W(x)\psi-\alpha[\triangle\rho(|\psi|^2)]\rho'(|\psi|^2)\psi-\widetilde{h}(|\psi|^2)\psi, \end{equation} $

其中$ W(x) $是已知的势函数, $ \alpha $是一个实数, $ \rho $和$ \widetilde{h} $都是实函数. 方程(1.2) 出现在数学物理的许多分支中, 对于不同的函数$ \rho $, 该方程起源于不同的物理模型. 当$ \rho(s)=s $时, 方程(1.2) 作为等离子体物理中的超流膜模型^[9]; 当$ \rho(s)=(1+s)^{1/2} $时, 方程(1.2) 是高功率超短激光的物理模型^[22]. 此外, 方程(1.2) 也出现在流体力学和凝聚态理论中^{[15, 19]}.

当$ \rho(s)=s $, $ \alpha=1 $时, 选取形式为$ \psi(x, t)=u(x)e^{-iEt} $的驻波解, 其中$ E\in{{\Bbb R}} $, 方程(1.2) 化为如下形式的拟线性薛定谔方程

(1.3) $ \begin{equation} -\triangle u+V(x)u-\triangle(u^2)u=h(u), \, \, \ x\in{{\Bbb R}} ^{N}, \end{equation} $

其中$ V(x)=W(x)-E $, $ \widetilde{h}(u^2)u=h(u) $. 近年来, 许多学者采用变分方法针对方程(1.3) 的基态解、束缚态解、变号解及其多解性方面展开了大量的研究, 产生出许多有意义的研究成果. 在2002年, Poppenberge-Schmitt-Wang^[21]通过约束极小化方法证明了问题(1.3) 正解的存在性. 之后, Liu, Wang和Wang^[17]通过变量代换将拟线性问题转化为半线性问题, 并以Orlicz空间框架作为工作空间, 利用山路定理证明了问题(1.3) 正解的存在性. 同时, Colin和Jeanjean^[7]采用对偶方法, 选取Sobolev空间$ H^1({{\Bbb R}} ^N) $作为工作空间, 利用山路定理证明了方程(1.3) 正解的存在性. Liu, Liu和Wang^[11]引入新的扰动方法, 研究了一类次临界拟线性问题, 并在文献[12]中证明了临界情况下解的存在性. 此外, 通过利用Nehari流形方法, Liu, Wang和Wang^[18]研究了基态解的存在性. 有关方程(1.3) 解的更多研究结果, 可参见文献^{[13, 16, 23, 28]}.

当拟线性薛定谔方程带有Choquard项时, Chen和Wu^[6]考虑了如下方程

(1.4) $ \begin{equation} -\triangle u+V(x)u-\triangle(u^2)u=(I_\alpha\ast|u|^{p})|u|^{p-2}u, \, \, \ x\in{{\Bbb R}} ^{N}. \end{equation} $

他们证明了带有周期位势或有界位势的问题(1.4) 正解的存在性. 当$ V(x) $是径向位势时, Chen等^[2]证明了基态解的存在结果. Yang等^[30]通过扰动型方法研究了一类拟线性Choquard型方程, 并证明了正解、负解和多解的存在性.

当$ k>0 $时, 通过考虑限制在Nehari流形上的极小化方法, Yang, Santos和Zhou^[29]结合形变讨论和$ L^\infty $估计证明了如下方程

$ \begin{eqnarray*} -\triangle u+\frac{k}{2}u\triangle u^2+V(x)u=g(u)+\lambda|u|^{p-2}u, x\in{{\Bbb R}} ^{N} \end{eqnarray*} $

极小能量结点解的存在性. Chen等^[5]研究了下述方程

$ \begin{eqnarray*} -\triangle u+\frac{k}{2}\triangle(u^2)u+V(x)u=\lambda f(u)+h(u), \, \, x\in{{\Bbb R}} ^{N}, \end{eqnarray*} $

其中$ k>0 $, $ \lambda>0 $是两个参数. 通过变量代换, 利用山路定理和Moser迭代法得到了次临界非线性问题正解的存在性. 此外, Chen等^[3]利用变量代换, 通过Pohožaev流形方法得到了具有次临界增长的基态解. 更多结果请参看文献^{[1, 4, 25, 26]}.

然而, 对于$ k>0 $且拟线性薛定谔方程带有Choquard时, 据我们所知, 关于其基态解的存在性研究的结果不多. 受文献[6, 14, 27] 的启发, 我们将利用Pohožaev流形方法证明了问题(1.1) 基态解的存在性.

为了陈述主要结果, 我们假设$ V(x)\in C^1({{\Bbb R}} ^N) $满足以下条件:

$ (V_{1}) $$ 0<V_0\leq V(x)\leq\liminf\limits_{|x|\rightarrow \infty}V(x):=V_{\infty} $, $ V(x)\neq V_{\infty} $, 且不等式在Lebesgue正测度子集中是严格的.

$ (V_{2}) $$ \langle\nabla V(x), x\rangle\in L^{\infty}({{\Bbb R}} ^N) $, 存在$ \theta\in (0, 1) $满足

$ \begin{eqnarray*} \alpha \theta V(x)-\langle\nabla V(x), x\rangle\geq0, \quad \forall x\in{{\Bbb R}} ^N. \end{eqnarray*} $

例如, 当$ V(x)=\frac{1}{1+|x|^2} $时, 在$ (V_{1}) $–$ (V_{2}) $假设条件下成立.

我们的主要结论陈述如下:

定理1.1  当$ 2< p<\frac{N+\alpha}{N-2} $时, 假设$ (V_{1}) $–$ (V_{2}) $成立, 那么存在$ k_0>0 $满足$ k\in(0, k_0) $, 问题(1.1) 有基态解$ u\in H^1({{\Bbb R}} ^N)\cap L^{\infty}({{\Bbb R}} ^N) $且

$ \max\limits_{{{\Bbb R}} ^N} |u(x)|\leq\frac{\sigma}{\sqrt{k}}, \quad \sigma^2=\frac{4-\frac{1}{\rho}-\sqrt{\frac{1}{\rho^2}+\frac{8}{\rho}}}{8}, $

其中$ \rho>1 $是一个常数.

本文的结构如下. 在第2节, 我们引入了一个与问题(1.1) 相关的变分框架, 并建立了一些辅助引理. 在第3节, 我们证明了极限问题. 在第4节, 我们利用集中紧性原理，给出了定理1.1的证明.

在下文中, 将使用以下符号:

$ \bullet $$ H^1({{\Bbb R}} ^N):=\{u\in L^{2}({{\Bbb R}} ^N): \nabla u\in L^{2}({{\Bbb R}} ^N)\} $是Sobolev空间, 其范数为

$ \|u\|_{H^{1}({{\Bbb R}} ^N)}:=\int_{{{\Bbb R}} ^N}(|\nabla u|^2+u^{2}){\rm d}x. $

$ \bullet $$ {\cal D}^{1, 2}({{\Bbb R}} ^N)=\{u\in L^{2^{\ast}}({{\Bbb R}} ^N): \nabla u\in L^{2}({{\Bbb R}} ^N)\} $是通常的Sobolev空间, 其范数为

$ \|u\|^{2}_{{\cal D}^{1, 2}}:=\int_{{{\Bbb R}} ^N}|\nabla u|^2{\rm d}x. $

$ \bullet $$ L^{s}({{\Bbb R}} ^N)(1\leq s\leq\infty) $表示Lebesgue空间, 其范数为

$ \|u\|_{s}:=\bigg(\int_{{{\Bbb R}} ^N}|u|^s{\rm d}x\bigg)^{\frac{1}{s}}. $

$ \bullet $$ B_{R}(z):=\{x\in{{\Bbb R}} ^N:|x-z|\leq R\} $和$ C_{i}(i=1, 2, \cdots) $表示不同的正常数.

$ \bullet $$ S=\inf\limits_{u\in D^{1, 2}({{\Bbb R}} ^N)\backslash\{0\}}\frac{\int_{{{\Bbb R}} ^N}|\nabla u|^2{\rm d}x} {(\int_{{{\Bbb R}} ^N}|u|^{2^{\ast}}{\rm d}x)^{\frac{2}{2^{\ast}}}} $表示Sobolev最佳常数.

定义

$ E:=\left\{u\in H^{1}({{\Bbb R}} ^N):\int_{{{\Bbb R}} ^N}V(x)u^{2}(x){\rm d}x<\infty\right\}, $

其范数为

$ \left\|u\right\|^2_E=\int_{{{\Bbb R}} ^N}|\nabla u|^{2}{\rm d}x+\int_{{{\Bbb R}} ^N}V(x)u^{2}(x){\rm d}x. $

根据条件$ (V_1) $, 可知范数$ \|\cdot\|_{E} $等价于$ H^{1}({{\Bbb R}} ^N) $范数. 形式上, 问题(1.1) 对应的能量泛函是$ I $定义为

$ I(u)=\frac{1}{2}\int_{{{\Bbb R}} ^N}(1-k|u|^{2})|\nabla u|^{2}{\rm d}x+\frac{1}{2}\int_{{{\Bbb R}} ^N}V(x)|u|^{2}{\rm d}x-\frac{1}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|u|^{p})|u|^{p}{\rm d}x. $

由于$ \int_{{{\Bbb R}} ^N}|u|^2|\nabla u|^2{\rm d}x $可能等于$ +\infty $, 所以函数$ I $在$ E $上可能没有定义.

下面处理拟线性项$ \frac{1}{2}\int_{{{\Bbb R}} ^N}(1-k|u|^{2})|\nabla u|^{2}{\rm d}x $. 令函数$ l:{{\Bbb R}} \rightarrow {{\Bbb R}} $满足

$ l(t)=\left\{ \begin{array}{ll} { } \sqrt{1-kt^2}, & { } \mbox{若}\, \ 0\leq t<\frac{\sigma}{\sqrt{k}}, \\ { } \frac{\sigma^3\sqrt{k}}{kt\sqrt{1-\sigma^2}}+\sqrt{\frac{1}{\rho}}, \, \, &{ } \mbox{若}\, \ t\geq\frac{\sigma}{\sqrt{k}}, \end{array} \right. $

其中$ \rho>1 $是一个常数. 当$ t\leq0 $时有$ l(t)=l(-t) $, 其中$ \sigma $为

(2.1) $ \begin{equation} \sigma=\left[\frac{\left(4-\frac{1}{\rho}-\sqrt{\frac{1}{\rho^2}+\frac{8}{\rho}}\right)}{8}\right]^\frac{1}{2}. \end{equation} $

由$ \rho>1 $，$ \sigma=\sigma(\rho)>0 $可知, $ l\in C^1({{\Bbb R}}, (\sqrt{\frac{1}{\rho}}, 1)) $是偶函数, 在$ (-\infty, 0) $中递增, 在$ [0, +\infty) $中递减. 令

$ L(t)=\int_0^tl(s){\rm d}s, \, \, t\in{{\Bbb R}} . $

通过简单计算, 可知反函数$ L^{-1}(t) $存在, 并且它是一个奇函数. 接下来, 我们列出了$ l $和$ L^{-1} $的一些性质.

引理2.1  $ (1) $$ L, L^{-1}\in C^2 $;

$ (2) $$ \lim\limits_{t\rightarrow0}\frac{L^{-1}(t)}{t}=1 $;

$ (3) $$ \lim\limits_{t\rightarrow \infty}\frac{L^{-1}(t)}{t}=\sqrt{\rho} $;

$ (4) $$ \sqrt{\frac{1}{\rho}}t\leq l(t)t\leq L(t)\leq t $, $ t\leq L^{-1}(t)\leq\sqrt{\rho}t $, $ \forall t\geq0 $;

$ (5) $$ -\frac{\sigma^2}{1-\sigma^2}\leq\frac{t}{l(t)}l'(t)\leq0 $, $ \forall t\geq0 $;

$ (6) $$ \frac{[L^{-1}(t)]^\delta}{l(L^{-1}(t))t} $在$ \delta>1 $时递增, 在$ \delta=1 $时不减, $ \forall t>0 $;

$ (7) $对任意的$ t>0 $, $ \frac{L^{-1}(t)}{l(L^{-1}(t))t^\rho} $在$ \rho>1 $趋近于$ 1 $时递减, $ \frac{L^{-1}(t)}{t} $在$ t>0 $时不减;

$ (8) $当$ 2\leq s\leq2^{\ast} $时, $ v\in H^1({{\Bbb R}} ^N) $到$ L^{-1}(v)\in L^{s}({{\Bbb R}} ^N) $的映射是连续的.

引理2.1的证明可参见文献[29].

考虑如下Choquard型拟线性薛定谔方程

(2.2) $ \begin{equation} -{\rm div}(l^2(u)\nabla u)+l(u)l'(u)|\nabla u|^{2}+V(x)u=(I_{\alpha}\ast|u|^{p})|u|^{p-2}u, \, \, x\in{{\Bbb R}} ^N, \end{equation} $

其对应的能量泛函为$ J $, 定义如下

(2.3) $ \begin{equation} J(u)=\frac{1}{2}\int_{{{\Bbb R}} ^N}l^{2}(u)|\nabla u|^{2}{\rm d}x+\frac{1}{2}\int_{{{\Bbb R}} ^N}V(x)|u|^{2}{\rm d}x-\frac{1}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|u|^{p})|u|^{p}{\rm d}x. \end{equation} $

设变量代换

$ v=L(u)=\int_0^ul(s){\rm d}s, \, \, u=L^{-1}(v). $

那么泛函$ J $可化为如下泛函

$ I_{V}(v)=\frac{1}{2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{1}{2}\int_{{{\Bbb R}} ^N}V(x)|L^{-1}(v)|^{2}{\rm d}x-\frac{1}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x. $

显然, $ I_{V}\in C^{1}(H^1({{\Bbb R}} ^N)) $且

$ \begin{eqnarray*} \langle I'_{V}(v), \varphi\rangle&=&\int_{{{\Bbb R}} ^N}\left(\nabla v\nabla \varphi+V(x)\frac{L^{-1}(v)}{l(L^{-1}(v))}\varphi\right){\rm d}x\\ &&-\int_{{{\Bbb R}} ^N}\frac{(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p-2}L^{-1}(v)}{l(L^{-1}(v))}\varphi {\rm d}x, \, \, \forall \, v, \varphi\in H^1({{\Bbb R}} ^N). \end{eqnarray*} $

如果$ v\in H^1({{\Bbb R}} ^N) $是$ I_V $的一个临界点, 那么$ u=L^{-1}(v)\in H^1({{\Bbb R}} ^N) $是方程(2.3) 的一个解. 如果我们可以证明解$ u\in H^1({{\Bbb R}} ^N) $满足$ \sup\limits_{{{\Bbb R}} ^N}|u(x)|\leq\frac{\sigma}{\sqrt{k}} $, 这意味着$ l(u)=\sqrt{1-ku^2} $, 从而得到方程(1.1) 的解. 综上, 我们得出以下结果.

引理2.2  如果$ v\in H^1({{\Bbb R}} ^N) $是$ I_V $的一个临界点, $ u=L^{-1}(v)\in H^1({{\Bbb R}} ^N) $满足$ \sup\limits_{{{\Bbb R}} ^N}|u(x)|\leq\frac{\sigma}{\sqrt{k}} $, 那么$ u\in H^1({{\Bbb R}} ^N) $是方程(1.1) 的弱解.

对任意的$ v\in H^1({{{\Bbb R}} ^N})\backslash\{0\} $是问题(1.1) 的解, 可推断出$ v $满足Pohožaev恒等式

(2.4) $ \begin{eqnarray} P_V(v)&=&\frac{N-2}{2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{N}{2}\int_{{{\Bbb R}} ^N}V(x)|L^{-1}(v)|^{2}{\rm d}x+\frac{1}{2}\int_{{{\Bbb R}} ^N}\langle\nabla V(x), x\rangle |L^{-1}(v)|^{2}{\rm d}x {}\\ &&-\frac{N+\alpha}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x=0. \end{eqnarray} $

在后文中, 由于非局部Choquard项的出现, 需要如下著名的Hardy-Littlewood-Sobolev不等式.

引理2.3   (Hardy-Littlewood-Sobolev不等式)设$ r, s>1 $, $ 0<\alpha<N $满足

$ \begin{eqnarray*} \frac{1}{r}+\frac{1}{s}-\frac{\alpha}{N}=1. \end{eqnarray*} $

若$ g\in L^{r}({{\Bbb R}} ^N) $和$ h\in L^{s}({{\Bbb R}} ^N) $, 则存在一个与$ g $, $ h $无关的最佳常数$ C(r, s, N, \alpha) $使得

(2.5) $ \begin{equation} \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N}\frac{g(x)h(y)}{|x-y|^{N-\alpha}}\leq C(r, s, N, \alpha)|g|_{r}|h|_{s}. \end{equation} $

直接使用上述不等式, 很容易得到下面结果.

引理2.4  根据引理2.1的$ (4) $和引理2.3, 有

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N}\frac{|L^{-1}(v(x))|^p|L^{-1}(v(y))|^p}{|x-y|^{N-\alpha}}\leq C_1\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N}\frac{|v(x)|^p|v(y)|^p}{|x-y|^{N-\alpha}}\leq C|v|_{pr}^{2p}. \end{eqnarray*} $

当$ r>1 $时, 有$ v\in L^{pr}({{\Bbb R}} ^N) $满足

$ \begin{eqnarray*} \frac{2}{r}-\frac{\alpha}{N}=1. \end{eqnarray*} $

由于我们的工作空间是$ H^1({{\Bbb R}} ^N) $, 由$ \rm Sobolev $嵌入定理, 可知$ pr\in(2, 2^\ast) $. 那么有

$ \begin{eqnarray*} \frac{N+\alpha}{N}< p<\frac{N+\alpha}{N-2}. \end{eqnarray*} $

为了得到一个有界的Palais-Smale序列, 通常利用Jeanjean^[8]发展的临界点定理.

命题2.1  设$ X $是一个$ \rm Banach $空间且

$ I_{\delta}(u)=A(u)-\delta B(u), \, \ u\in X, \delta\in \Lambda, $

其中$ \Lambda\subset{{\Bbb R}} _+ $为一个区间. 假设$ A(u) $非负, 当$ ||u||\rightarrow \infty $时, $ A(u)\rightarrow +\infty $或$ B(u)\rightarrow +\infty $. 假设$ X $中存在两个点$ v_{1} $, $ v_{2} $满足

$ c_{\delta}=\inf\limits_{\gamma\in\Gamma_{\delta}}\max\limits_{t\in[0, 1]}I_{\delta}(\gamma(t))>\max\{I_{\delta}(v_{1}), I_{\delta}(v_{2})\}, \, \ \forall \delta\in\Lambda, $

其中$ \Gamma_{\delta}=\{\gamma\in C([0, 1], X):\gamma(0)=v_{1}, \gamma(1)=v_{2}\} $.

那么对任意的$ \delta\in \Lambda $, 存在序列$ \{u_{n}\}\subset X $使得

$ \rm (ⅰ) $$ \{u_{n}\} $在$ X $中是有界的;

$ \rm (ⅱ) $$ I_{\delta}(u_{n})\rightarrow c_{\delta} $;

$ \rm (ⅲ) $在$ X $的对偶函数$ X^{-1} $中$ I_{\delta}'(u_{n})\rightarrow0 $.

此外, $ \delta\rightarrow c_{\delta} $是左连续的.

在本节中, 考虑如下问题

(3.1) $ \begin{equation} -\triangle u+\frac{k}{2}u\triangle u^2+\mu u=(I_{\alpha}\ast|u|^{p})|u|^{p-2}u, \, \, x\in{{\Bbb R}} ^{N}, \end{equation} $

其对应的能量泛函$ I: H^1({{\Bbb R}} ^N)\rightarrow {{\Bbb R}} $定义为

(3.2) $ \begin{equation} I(v)=\frac{1}{2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}+\frac{1}{2}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(v)|^{2}{\rm d}x-\frac{1}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x. \end{equation} $

及Pohožaev恒等式为

$ \begin{eqnarray*} 0&=&\frac{N-2}{2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{N}{2}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(v)|^{2}{\rm d}x-\frac{N+\alpha}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x\\ &=&P(v). \end{eqnarray*} $

定义Pohožaev流形

$ {\cal P}:=\{v\in H^1({{{\Bbb R}} ^N})\backslash\{0\}:P(v)=0\}. $

引理3.1  $ h(t)=at^{N-2}+bt^{N}-ct^{N+\alpha}, t>0 $有唯一的临界点对应于它的最大值, 其中$ a $, $ b $和$ c $是正常数.

证  考虑$ h $的导数

$ h'(t)=t^{N-3}[a+bt^2-ct^{\alpha+2}], \, \ t>0. $

接下来定义

$ f(t)=a+bt^2-ct^{\alpha+2}, \, \ t>0. $

通过计算, 可得

$ f'(t)=2bt-c(\alpha+2)t^{\alpha+1}, \, \, t>0. $

显然, $ f'(t)=0 $有唯一解$ t_1=\left(\frac{2b}{c(\alpha+2)}\right)^{\frac{1}{\alpha}} $, 当$ t<t_1 $时$ f'(t)>0 $, 当$ t>t_1 $时$ f'(t)<0 $. 因此, 当$ t<t_1 $时有$ f(t)\geq f(0)=a $, 当$ t>t_1 $时有$ f(t)<f(t_1) $, 这意味着$ f(t) $有唯一的零点$ t_0>t_1>0 $. 因此, 当$ t<t_0 $时$ f(t)>0 $, 当$ t>t_0 $时$ f(t)<0 $, 即当$ 0<t<t_0 $时$ h'(t)>0 $, 当$ t>t_0 $时$ h'(t)<0 $, 由此可推断出当$ t>0 $时, $ t_0 $是$ h(t) $唯一极大值点. 证毕.

引理3.2   (ⅰ) 对任意的$ v\in H^1({{\Bbb R}} ^N)\backslash\{0\} $, 存在唯一的$ \tilde{t}>0 $满足$ v_{\tilde{t}}\in{\cal P} $, 其中$ v_{\tilde{t}}=v(\frac{x}{\widetilde{t}}) $. 此外, $ I(v_{\tilde{t}})=\max\limits_{t>0}I(v_{t}) $.

$ {\rm (ⅱ)} $$ {\cal P} $是一个$ C^{1} $正则流形.

$ {\rm (ⅲ)} $$ m=\inf I|_{\cal P}>0 $.

$ {\rm (ⅳ)} $流形$ {\cal P} $是泛函$ I $的一个自然约束.

证  (ⅰ) 对任意的$ v\in H^1({{\Bbb R}} ^N)\backslash\{0\} $和$ t>0 $, 定义函数

$ \begin{eqnarray*} \gamma(t)=I(v(\frac{x}{t}))&=&\frac{1}{2}t^{N-2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{1}{2}t^{N}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(v)|^{2}{\rm d}x\\ &&-\frac{1}{2p}t^{N+\alpha}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x. \end{eqnarray*} $

根据引理3.1, 存在唯一的$ \tilde{t}>0 $满足$ \gamma'(\tilde{t})=0 $和$ \gamma(\tilde{t})=\max\limits_{t>0}I(v_{t}) $, 有

$ \begin{eqnarray*} 0=\tilde{t}\gamma'(\tilde{t})&=&\frac{N-2}{2}\tilde{t}^{N-2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{N}{2}\tilde{t}^{N}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(v)|^{2}{\rm d}x\\ &&-\frac{N+\alpha}{2p}\tilde{t}^{N+\alpha}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x, \end{eqnarray*} $

这意味着$ P(v_{\widetilde{t}})=0 $和$ v_{\widetilde{t}}\in{\cal P} $. 因此可得, $ I(v_{\widetilde{t}})=\max\limits_{t>0}I(v_{t}) $.

(ⅱ) 利用反证法, 假设$ P'(v)=0 $. 那么, 对任意的$ v\in H^1({{\Bbb R}} ^N)\backslash\{0\} $使得

$ \begin{eqnarray*} -(N-2)\triangle v+\frac{1}{l(L^{-1}(v))}\left[N\mu L^{-1}(v)-(N+\alpha)(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p-2}L^{-1}(v)\right]=0. \end{eqnarray*} $

因此, 如下Pohožaev恒等式成立

$ \begin{eqnarray*} &&\frac{(N-2)^{2}}{2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{N^{2}}{2}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(v)|^{2}{\rm d}x\\ &&-\frac{(N+\alpha)^{2}}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x=0. \end{eqnarray*} $

令

$ \int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x=a, \, \int_{{{\Bbb R}} ^N}\mu|L^{-1}(v)|^{2}{\rm d}x=b, \, \int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x=c, \, l\geq\inf\limits_{{\cal P}}I>0. $

那么有

$ \begin{eqnarray*} \left\{ \begin{array}{ll} { } \frac{1}{2}a+\frac{1}{2}b-\frac{1}{2p}c=l, \\ { } \frac{N-2}{2}a+\frac{N}{2}b-\frac{N+\alpha}{2p}c=0, \\ { } \frac{(N-2)^{2}}{2}a+\frac{N^{2}}{2}b-\frac{(N+\alpha)^{2}}{2p}c=0. \end{array} \right. \end{eqnarray*} $

通过简单计算, 可得$ lN(N-2)=0 $. 由$ N\geq3 $, 可知$ l=0 $, 这与$ l>0 $矛盾. 这意味着$ {\cal P} $是一个$ C^{1} $正则流形.

(ⅲ) 利用引理2.1的$ (4) $, 引理2.3, Hölder不等式和Sobolev不等式, 可推导出

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x &\leq& C_{1}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|v|^{p})|v|^{p}{\rm d}x \leq C_{1}\left(\int_{{{\Bbb R}} ^N}|v|^{\frac{2Np}{N+\alpha}}{\rm d}x\right)^{\frac{N+\alpha}{N}}\\ &\leq&C_{1}\left(\left[\int_{{{\Bbb R}} ^N}|v|^{2}{\rm d}x\right]^{\frac{\theta}{2}\cdot\frac{2NP}{N+\alpha}}\left[\int_{{{\Bbb R}} ^N}|v|^{2^{\ast}}{\rm d}x\right]^{\frac{1-\theta}{2^\ast}\cdot\frac{2NP}{N+\alpha}}\right)^\frac{N+\alpha}{N}\\ &\leq& C_{1}\left(\|v\|^{\frac{\theta2Np}{N+\alpha}}\|v\|^{\frac{(1-\theta)2Np}{N+\alpha}}\right)^\frac{N+\alpha}{N}\\ &=& C_{1}\|v\|^{2p}, \end{eqnarray*} $

其中$ \theta=\frac{(N+\alpha)2^{\ast}-2Np}{Np(2^{\ast}-2)} $, $ 0<\alpha<N $, $ 2< p<\frac{N+\alpha}{N-2} $. 对任意的$ v\in{\cal P} $, 有

$ \begin{eqnarray*} C\|v\|^{2}&\leq&\frac{N-2}{2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{N}{2}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(v)|^{2}{\rm d}x\\ &=&\frac{N+\alpha}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x\leq C_{1}\|v\|^{2p}, \end{eqnarray*} $

这意味着对任意的$ v\in{\cal P} $, 满足$ \|v\|\geq C_0>0 $. 因此, 对任意的$ v\in{\cal P} $, 可得

$ \begin{eqnarray*} (N+\alpha)I(v)&=&(N+\alpha)I(v)-P(v)\\ &=&\frac{\alpha+2}{2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{\alpha}{2}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(v)|^2{\rm d}x\geq C_2\|v\|^2\geq C_3>0, \end{eqnarray*} $

其中$ C_2, C_3>0 $是一个常数.

(ⅳ) 设$ v\in{\cal P} $是$ I|_{{\cal P}} $的一个临界点. 根据Lagrange乘子定理, 存在$ \theta\in{{\Bbb R}} $满足$ I'(v)-\theta P'(v)=0 $. 在弱意义上, 方程$ I'(v)-\theta P'(v)=0 $可写为

$ \begin{eqnarray*} &&-[1-\theta(N-2)]\triangle v+\frac{1}{l(L^{-1}(v))}[(1-\theta N)\mu L^{-1}(v)\\ &&-[1-\theta(N+\alpha)](I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p-2}L^{-1}(v)]=0. \end{eqnarray*} $

因此, 有

$ \begin{eqnarray*} \left\{ \begin{array}{ll} { } \frac{1}{2}a+\frac{1}{2}b-\frac{1}{2p}c=l, \\ { } \frac{N-2}{2}a+\frac{N}{2}b-\frac{N+\alpha}{2p}c=0, \\ { } \frac{(N-2)(1-\theta(N-2))}{2}a+\frac{N(1-\theta N)}{2}b-\frac{(N+\alpha)(1-\theta(N+\alpha))}{2p}c=0. \end{array} \right. \end{eqnarray*} $

通过计算, 可得$ lN\theta(N+\alpha)=0 $. 由$ N\geq3 $和$ 0<\alpha<N $, 可知$ l=0 $, 这与$ l>0 $矛盾. 由此可得$ \theta=0 $. 证毕.

引理3.3  对任意的$ v\in H^1({{\Bbb R}} ^N) $, $ t>0 $, 满足

(3.3) $ \begin{equation} I(v)\geq I(v_t)+\frac{1-t^{N+\alpha}}{N+\alpha}P(v)+\frac{g(t)}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x, \end{equation} $

其中

$ g(t):=(N+\alpha)(1-t^{N-2})-(N-2)(1-t^{N+\alpha}). $

证  对任意的$ v\in H^1({{\Bbb R}} ^N) $, $ t>0 $, 通过计算, 有

$ \begin{eqnarray*} I(v)-I(v_t)-\frac{1-t^{N+\alpha}}{N+\alpha}P(v) &=&\left(\frac{1-t^{N-2}}{2}-\frac{1-t^{N+\alpha}}{N+\alpha}\frac{N-2}{2}\right)\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x\\ &&+\left(\frac{1-t^{N}}{2}-\frac{1-t^{N+\alpha}}{N+\alpha}\frac{N}{2}\right) \int_{{{\Bbb R}} ^N}\mu|L^{-1}(v)|^{2}{\rm d}x\\ &=&\frac{(N+\alpha)(1-t^{N-2})-(N-2)(1-t^{N+\alpha})}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x\\ &&+\frac{(N+\alpha)(1-t^{N})-N(1-t^{N+\alpha})}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(v)|^{2}{\rm d}x\\ &=&\frac{g(t)}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{h(t)}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(v)|^{2}{\rm d}x\\ &\geq&\frac{g(t)}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x, \end{eqnarray*} $

其中我们用到以下不等式

$ \begin{eqnarray*} &&g(t)>g(1)=0, \, \ \forall t\in[0, 1)\cup(1, +\infty), \\ &&h(t):=(N+\alpha)(1-t^{N})-N(1-t^{N+\alpha})>h(1)=0, \, \ \forall t\in[0, 1)\cup(1, +\infty). \end{eqnarray*} $

证毕.

引理3.4  当$ N\geq3 $和$ \frac{N+\alpha}{N}< p<\frac{N+\alpha}{N-2} $时, $ I|_{{\cal P}} $有极小元$ v $. 此外, 在$ H^1({{\Bbb R}} ^N) $中$ I'(v)=0 $.

证  设$ \{v_n\}\subset{\cal P} $是$ H^1({{\Bbb R}} ^N) $中的一个序列, 使得当$ n\rightarrow \infty $时有$ I(v_n)\rightarrow m $. 接下来证明$ \{v_{n}\} $在$ H^1({{\Bbb R}} ^N) $中有界. 对任意$ v\in{\cal P} $, 有

$ \begin{eqnarray*} 1+m>I(v_n)&=&I(v_n)-\frac{1}{N+\alpha}P(v_n)\\ &=&\frac{\alpha+2}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla v_n|^{2}{\rm d}x+\frac{\alpha}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(v_n)|^2{\rm d}x\geq C\|v_n\|^2, \end{eqnarray*} $

因此, $ \{v_{n}\} $在$ H^1({{\Bbb R}} ^N) $中有界.

由$ v_n\in{\cal P} $, 可得

(3.4) $ \begin{eqnarray} & &\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v_n)|^{p})|L^{-1}(v_n)|^{p}{\rm d}x{}\\ &=&\frac{p(N-2)}{N+\alpha}\int_{{{\Bbb R}} ^N}|\nabla v_n|^{2}{\rm d}x+\frac{Np}{N+\alpha}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(v_n)|^2{\rm d}x \geq C\|v_n\|^2>0. \end{eqnarray} $

利用文献[20] 中的引理2.3, 可知对任意的$ q\in[2, 2^\ast) $和$ n\in{\Bbb N} $, $ v_n $满足不等式

$ \int_{{{\Bbb R}} ^N}|v_n|^q{\rm d}x\leq C\left(\int_{{{\Bbb R}} ^N}(|\nabla v_n|^{2}+|v_n|^2){\rm d}x\right)\left(\sup\limits_{y\in{{\Bbb R}} ^N}\int_{B_1(y)}|v_n|^q{\rm d}x\right)^{1-\frac{2}{q}}. $

又因为$ \{v_{n}\} $在$ H^1({{\Bbb R}} ^N) $中有界, 可得

$ \liminf\limits_{n\rightarrow +\infty}\int_{{{\Bbb R}} ^N}|L^{-1}(v_n)|^{pr}{\rm d}x\leq C\left(\liminf\limits_{n\rightarrow +\infty}\sup\limits_{y\in{{\Bbb R}} ^N}\int_{B_1(y)}|v_n|^{pr}{\rm d}x\right)^{1-\frac{2}{pr}}. $

如果

$ \liminf\limits_{n\rightarrow +\infty}\sup\limits_{y\in{{\Bbb R}} ^N}\int_{B_1(y)}|v_n|^q{\rm d}x=0, $

那么

$ \liminf\limits_{n\rightarrow +\infty}\int_{{{\Bbb R}} ^N}|L^{-1}(v_n)|^{pr}{\rm d}x=0. $

通过引理2.4, 可知

$ \liminf\limits_{n\rightarrow +\infty}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v_n)|^{p})|L^{-1}(v_n)|^{p}{\rm d}x=0, $

与(3.4) 式相矛盾. 因此, 存在$ \delta>0 $和$ \{y_n\}\subset{{\Bbb R}} ^N $使得

$ \int_{B_1(y_n)}|v_n|^q{\rm d}x>\frac{\delta}{2}, \, \ q\in[2, 2^\ast). $

记$ \tilde{v}_n(x)=v_n(x+y_n) $, 则有

$ \|\tilde{v}_n\|=\|v_n\|, \quad \int_{B_1(0)}|\tilde{v}_n|^q{\rm d}x>\frac{\delta}{2} $

和

(3.5) $ \begin{equation} I(\tilde{v}_n)\rightarrow m, \, \ P(\tilde{v}_n)=0. \end{equation} $

因此, 直到一个子序列, 存在$ \tilde{v}\in H^1({{\Bbb R}} ^N)\backslash\{0\} $使得

$ \begin{eqnarray*} \left\{ \begin{array}{ll} \tilde{v}_n\rightharpoonup\tilde{v}\, \ & in\, \ H^1({{\Bbb R}} ^N);\\ \tilde{v}_n\rightarrow \tilde{v}\, \ & in\, \ L_{loc}^q({{\Bbb R}} ^N), \, \ \forall q\in[1, 2^\ast); \\ \tilde{v}_n(x)\rightarrow \tilde{v}(x)\, \ & a.e.\ on\ {{\Bbb R}} ^N. \end{array} \right. \end{eqnarray*} $

记$ w_n=\tilde{v}_n-\tilde{v} $. 类似于文献[14] 中引理2.9的证明, 可得

(3.6) $ \begin{equation} I(\tilde{v}_n)=I(\tilde{v})+I(w_n)+o(1), \, \, \ P(\tilde{v}_n)=P(\tilde{v})+P(w_n)+o(1). \end{equation} $

结合(3.5) 和(3.6) 式可得

(3.7) $ \begin{eqnarray} &&m-\frac{\alpha+2}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla\tilde{v}|^2{\rm d}x-\frac{\alpha}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(\tilde{v})|^2{\rm d}x+o(1){}\\ &=&\frac{\alpha+2}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla w_n|^2{\rm d}x+\frac{\alpha}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(w_n)|^2{\rm d}x \end{eqnarray} $

和

(3.8) $ \begin{equation} P(w_n)=-P(\tilde{v})+o(1). \end{equation} $

如果存在一个$ \{w_n\} $的子序列$ \{w_{n_i}\} $满足$ w_{n_i}=0 $, 那么有

$ \begin{eqnarray*} I(\tilde{v})=m, \, \, \ P(\tilde{v})=0, \end{eqnarray*} $

这表明$ m=\inf\limits_{v\in{\cal P}}I(v) $是可达的. 接下来假设$ w_n\neq0 $, 将证明$ P(\tilde{v})\leq0 $. 否则, 如果$ P(\tilde{v})>0 $, 由(3.8) 式可知当$ n $充分大时$ P(w_n)<0 $. 利用引理3.2，存在$ t_n>0 $使得$ (w_n)_{t_n}\in{\cal P} $. 由(3.3) 和(3.7) 式可得

$ \begin{eqnarray*} &&m-\frac{\alpha+2}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla\tilde{v}|^2{\rm d}x-\frac{\alpha}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(\tilde{v})|^2{\rm d}x+o(1)\\ &=&I(w_n)-\frac{1}{N+\alpha}P(w_n) \geq I((w_n)_{t_n})-\frac{t_n^{N+\alpha}}{N+\alpha}P(w_n)\\ &\geq& m-\frac{t_n^{N+\alpha}}{N+\alpha}P(w_n)>m, \end{eqnarray*} $

矛盾, 因此$ P(\tilde{v})\leq0 $. 由(3.3), (3.5)和(3.6) 式及范数的弱下半连续性可得

$ \begin{eqnarray*} m&=&\lim\limits_{n\rightarrow \infty}\left[I(\tilde{v}_n)-\frac{1}{N+\alpha}P(\tilde{v}_n)\right]\\ &=&\frac{\alpha+2}{2(N+\alpha)}\lim\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^N}|\nabla\tilde{v}_n|^2{\rm d}x+\frac{\alpha}{2(N+\alpha)}\lim\limits_{n\rightarrow \infty} \int_{{{\Bbb R}} ^N}\mu|L^{-1}(\tilde{v}_n)|^2{\rm d}x\\ &\geq&\frac{\alpha+2}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla\tilde{v}|^2{\rm d}x+\frac{\alpha}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}\mu|L^{-1}(\tilde{v})|^2{\rm d}x\\ &=&I(\tilde{v})-\frac{1}{N+\alpha}P(\tilde{v}) \geq I(\tilde{v}_{\tilde{t}})-\frac{\tilde{t}^{N+\alpha}}{N+\alpha}P(\tilde{v})\\ &\geq &m-\frac{\tilde{t}^{N+\alpha}}{N+\alpha}P(\tilde{v})\geq m, \end{eqnarray*} $

因此

$ I(\tilde{v})=m, \, \, \ P(\tilde{v})=0. $

因此$ \tilde{v}\in{\cal P} $是非平凡极小元. 又根据引理3.2的(ⅳ) 可知$ I'(v)=0 $. 证毕.

根据命题2.1, 考虑泛函$ I_{V, \delta}:H^1({{\Bbb R}} ^N)\rightarrow {{\Bbb R}} $, 定义如下

$ \begin{eqnarray*} I_{V, \delta}(v)&=&\frac{1}{2}\int_{{{\Bbb R}} ^N}(|\nabla v|^{2}+V(x)|L^{-1}(v)|^{2}){\rm d}x-\frac{\delta}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x\\ &=&A(v)-\delta B(v), \end{eqnarray*} $

其中

$ \begin{eqnarray*} &&A(v)=\frac{1}{2}\int_{{{\Bbb R}} ^N}(|\nabla v|^{2}+V(x)|L^{-1}(v)|^{2}){\rm d}x, \\ && B(v)=\frac{1}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x, \, \, \delta\in[\frac{1}{2}, 1]. \end{eqnarray*} $

显然对任意$ v, \varphi\in H^1({{\Bbb R}} ^N) $, 泛函$ I_{V, \delta} $是$ C^{1} $泛函, 有

$ \begin{eqnarray*} \langle I'_{V, \delta}(v), \varphi\rangle &=&\int_{{{\Bbb R}} ^N}\left(\nabla v\nabla \varphi+V(x)\frac{L^{-1}(v)}{l(L^{-1}(v))}\varphi\right){\rm d}x\\ &&-\delta\int_{{{\Bbb R}} ^N}\frac{(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p-2}L^{-1}(v)}{l(L^{-1}(v))}\varphi {\rm d}x. \end{eqnarray*} $

考虑如下极限问题

(4.1) $ \begin{equation} -\Delta v+V_\infty\frac{L^{-1}(v)}{l(L^{-1}(v))}=\delta\frac{(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p-2}L^{-1}(v)}{l(L^{-1}(v))}, \, \, v\in H^1({{\Bbb R}} ^N), \end{equation} $

其能量泛函$ I_{\infty, \delta}:H^1({{\Bbb R}} ^N)\rightarrow {{\Bbb R}} $定义为

$ \begin{eqnarray*} I_{\infty, \delta}(v)=\frac{1}{2}\int_{{{\Bbb R}} ^N}\left(|\nabla v|^{2}+V_\infty|L^{-1}(v)|^{2}\right){\rm d}x-\frac{\delta}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x. \end{eqnarray*} $

事实上, 与问题(4.1) 相关的Pohožaev恒等式如下

$ \begin{eqnarray*} P_{\infty, \delta}(v) &=&\frac{N-2}{2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{N}{2}\int_{{{\Bbb R}} ^N}V_\infty|L^{-1}(v)|^{2}{\rm d}x\\ &&-\frac{\delta(N+\alpha)}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x. \end{eqnarray*} $

如第3节所述, 定义Pohožaev流形为

$ \begin{eqnarray*} {\cal P}_{\infty, \delta}=\{v\in H^1({{\Bbb R}} ^N)\backslash\{0\}:P_{\infty, \delta}(v)=0\}, \end{eqnarray*} $

且$ m_{\infty, \delta}:=\inf\limits_{v\in{\cal P}_{\infty, \delta}}I_{\infty, \delta}(v)>0 $.

通过计算, 可知泛函$ I_{V, \delta} $满足山路几何结构.

引理4.1  假设$ (V_{1}) $–$ (V_{2}) $成立, 若$ N\geq3 $, $ \frac{N+\alpha}{N}<p<\frac{N+\alpha}{N-2} $, 那么有

$ {\rm (ⅰ)} $对任意的$ \delta\in[\frac{1}{2}, 1] $, 存在$ v_{0}\in H^1({{\Bbb R}} ^N)\backslash\{0\} $使得$ I_{V, \delta}(v_{0})<0 $.

$ {\rm (ⅱ)} $对任意的$ \delta\in[\frac{1}{2}, 1] $, 有$ c_{V, \delta}=\inf\max\limits_{\gamma\in\Gamma, s\in[0, 1]}I_{V, \delta}(\gamma(s))>\max\{I_{V, \delta}(0), I_{V, \delta}(v_{0})\} $, 其中$ \Gamma=\{\gamma\in C([0, 1], H^1({{\Bbb R}} ^N))|\gamma(0)=0, \gamma(1)=v_{0}\} $.

证  (ⅰ) 由条件$ (V_{1}) $可得

$ \begin{eqnarray*} I_{V, \delta}(v)\leq I_{\infty, \frac{1}{2}}(v)=\frac{1}{2}\int_{{{\Bbb R}} ^N}(|\nabla v|^{2}+V_\infty|L^{-1}(v)|^{2}){\rm d}x-\frac{1}{4p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x. \end{eqnarray*} $

对任意$ v\in H^1({{\Bbb R}} ^N)\backslash\{0\} $, 有

$ \begin{eqnarray*} I_{\infty, \frac{1}{2}}(v(\frac{x}{t}))&=&\frac{1}{2}t^{N-2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{1}{2}t^{N}\int_{{{\Bbb R}} ^N}V_\infty|L^{-1}(v)|^{2}{\rm d}x\\ &&-\frac{1}{4p}t^{N+\alpha}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x. \end{eqnarray*} $

因此, 对任意的$ t>0 $, 当$ t\rightarrow +\infty $时$ I_{\infty, \frac{1}{2}}(v(\frac{x}{t}))\rightarrow -\infty $. 记$ v_{0}=v(\frac{x}{t_0}) $, 当$ t_0>0 $充分大时, 有$ I_{V, \delta}(v_{0})\leq I_{\infty, \frac{1}{2}}(v_{0})<0 $.

(ⅱ) 利用引理2.1的$ (4) $, 引理2.3和Hölder不等式, 可得

(4.2) $ \begin{eqnarray} I_{V, \delta}(v)&=&\frac{1}{2}\int_{{{\Bbb R}} ^N}\left(|\nabla v|^{2}+V(x)|L^{-1}(v)|^{2}\right){\rm d}x-\frac{\delta}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x{}\\ &\geq&\frac{C_1}{2}\|v\|^2-C_{2}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|v|^{p})|v|^{p}{\rm d}x{}\\ &\geq&\frac{C_1}{2}\|v\|^2-C_{2}\left(\int_{{{\Bbb R}} ^N}|v|^{\frac{2Np}{N+\alpha}}{\rm d}x\right)^{\frac{N+\alpha}{N}}{}\\ &\geq&\frac{C_1}{2}\|v\|^2-C_{2}\|v\|^{2p}. \end{eqnarray} $

显然, 存在$ a_0>0 $满足$ I_{V, \delta}(v)\geq a_0>0 $. 因此, $ c_{V, \delta}>0 $. 证毕.

通过与第3节相似的讨论, 我们有以下结果.

引理4.2  若$ N\geq3 $, $ \frac{N+\alpha}{N}< p<\frac{N+\alpha}{N-2} $和$ \delta\in[\frac{1}{2}, 1] $, 当$ v_{\infty, \delta}\in{\cal P}_{\infty, \delta} $时, $ m_{\infty, \delta} $是可达的. 此外, $ I'_{\infty, \delta}(v_{\infty, \delta})=0 $且

$ \begin{eqnarray*} I_{\infty, \delta}(v_{\infty, \delta})=m_{\infty, \delta}=\inf\{I_{\infty, \delta}(v):v\neq0, I'_{\infty, \delta}(v)=0\}. \end{eqnarray*} $

引理4.3  假设$ (V_{1}) $–$ (V_{2}) $成立, $ \frac{N+\alpha}{N}<p<\frac{N+\alpha}{N-2} $. 那么, 对任意的$ \delta\in[\frac{1}{2}, 1] $, 有$ c_{V, \delta}<m_{\infty, \delta} $.

证  假设$ V(x)\neq V(\infty) $. 由引理3.2, 可得

$ \begin{eqnarray*} I_{\infty, \delta}(v_{\infty, \delta})=\max\limits_{t>0}I_{\infty, \delta}(v(\frac{x}{t})), \end{eqnarray*} $

其中$ v_{\infty, \delta} $是$ m_{\infty, \delta} $的极小元. 由条件$ (V_1) $可推断出$ I_{V, \delta}<I_{\infty, \delta} $. 此外, 在引理4.1中取$ v=v_{\infty, \delta}(\frac{x}{t}) $, 当$ t $充分大时, 可知

$ \begin{eqnarray*} c_{V, \delta}\leq\max\limits_{t>0}I_{V, \delta}(v_{\infty, \delta}(\frac{x}{t}))<\max\limits_{t>0}I_{\infty, \delta}(v_{\infty, \delta}(\frac{x}{t}))=I_{\infty, \delta}(v_{\infty, \delta})=m_{\infty, \delta}. \end{eqnarray*} $

证毕.

类似于文献[10] 中引理3.1和文献[24]中命题2.1的证明, 可证得如下的Splitting引理.

引理4.4  假设$ (V_{1}) $–$ (V_{2}) $成立, $ \frac{N+\alpha}{N}<p<\frac{N+\alpha}{N-2} $. 对任意的$ \delta\in[\frac{1}{2}, 1] $, 设$ \{v_{n}\}\subset H^1({{\Bbb R}} ^N) $是有界的$ (PS)_{c_{V, \delta}} $序列. 那么存在$ \{v_{n}\} $的子序列, 仍记为$ \{v_{n}\} $, $ v_{0} $和整数$ \eta\in {\Bbb N}\bigcup\{0\} $, 序列$ \{y_{n}^{j}\} $, 当$ 1\leq j\leq\eta $时有$ \omega^{j}\subset H^{1}({{\Bbb R}} ^{N}) $, 满足下列条件

$ {\rm (ⅰ)} $当$ v_{n}\rightharpoonup v_{0} $时有$ I'_{V, \delta}(v_{0})=0 $.

$ {\rm (ⅱ)} $当$ i\neq j $, $ n\rightarrow +\infty $时, 有$ |y_{n}^{j}|\rightarrow +\infty $, $ |y_{n}^{j}-y_{n}^{i}|\rightarrow +\infty $.

$ {\rm (ⅲ)} $当$ 1\leq j\leq \eta $时, 有$ \omega^{j}\neq0 $和$ I'_{\infty, \delta}(\omega^{j})=0 $.

$ {\rm (ⅳ)} $$ \|v_{n}-v_{0}-\sum\limits_{j=1}^\eta\omega^{j}(\cdot-y_{n}^{j})\|\rightarrow0 $.

$ {\rm (v)} $$ I_{V, \delta}\rightarrow I_{V, \delta}(v_{0})+\sum\limits_{j=1}^\eta I_{\infty, \delta}(\omega^{j}) $.

这里我们考虑$ \eta=0 $且没有$ \omega^{j} $和$ \{y_{n}^{j}\} $的情况下成立.

事实上, 由引理4.4, 可推断出在水平$ c_{V, \delta} $上紧性得到恢复.

引理4.5  假设$ (V_{1}) $–$ (V_{2}) $成立, $ \frac{N+\alpha}{N}<p<\frac{N+\alpha}{N-2} $. 设$ \{v_{n}\} $是泛函$ I_{V, \delta} $的有界$ (PS)_{c_{V, \delta}} $序列. 对任意的$ \delta\in[\frac{1}{2}, 1] $, 存在非平凡$ v_{V, \delta}\in H^1({{\Bbb R}} ^N) $, 满足$ I'_{V, \delta}(v_{V, \delta})=0 $和$ I_{V, \delta}(v_{V, \delta})=c_{V, \delta} $.

证  由引理4.3可得

(4.3) $ \begin{equation} c_{V, \delta}<m_{\infty, \delta}. \end{equation} $

由引理4.4可知, 存在$ v_{V, \delta} $, 整数$ \eta\in {\Bbb N}\bigcup\{0\} $, 序列$ \{y_n^j\} $, 当$ 1\leq j\leq\eta $时$ v^j\subset H^1({{\Bbb R}} ^N) $, 使得

(4.4) $ \begin{equation} v_n\rightharpoonup v_{V, \delta}, \, \, \ I'_{V, \delta}(v_{V, \delta})=0, \, \, \ I_{V, \delta}(v_n)\rightarrow I_{V, \delta}(v_{V, \delta})+\sum\limits_{j=1}^{\eta}I_{\infty, \delta}(v^j), \end{equation} $

其中$ v^j $是$ I_{\infty, \delta} $的临界点. 显然, 利用条件$ (V_2) $, $ 2<p<\frac{N+\alpha}{N-2} $, 可推导出$ I_{V, \delta}(v_{V, \delta})\geq0 $. 若$ \eta\neq0 $, 通过(4.4) 式可得

$ \begin{eqnarray*} c_{V, \delta}=I_{V, \delta}(v_{V, \delta})+\sum\limits_{j=1}^{\eta}I_{\infty, \delta}(v^j)\geq m_{\infty, \delta}. \end{eqnarray*} $

与(4.3) 式矛盾. 因此有$ \eta=0 $. 证毕.

下面, 我们将给出$ I_{V} $的临界点$ v $的$ L^{\infty} $估计, 并证明$ u=L^{-1}(v) $是原始问题(1.1) 的解.

引理4.6  假设$ 2<p<\frac{N+\alpha}{N-2} $, $ v\in H^1({{\Bbb R}} ^N) $是$ I_{V} $的临界点, 那么有

$ \begin{eqnarray*} \|v\|_{L^{\infty}}\leq C_0, \end{eqnarray*} $

其中$ C_0>0 $是与$ k>0 $无关的实数.

证  假设$ v\in H^1({{\Bbb R}} ^N) $是$ I_{V} $的临界点. 令$ \varphi=L^{-1}(v)l(L^{-1}(v)) $. 根据引理2.1, 可得$ |\varphi|=|L^{-1}(v)l(L^{-1}(v))|\leq|v| $和$ |\nabla\varphi|=\left|1+\frac{L^{-1}(v)l'(L^{-1}(v))}{l(L^{-1}(v))}\right||\nabla v|\leq|\nabla v| $, 显然$ \varphi\in H^1({{\Bbb R}} ^N) $. 选取$ \varphi $为测试函数, 可得

$ \begin{eqnarray*} &&\int_{{{\Bbb R}} ^N}\left(1+\frac{L^{-1}(v)l'(L^{-1}(v))}{l(L^{-1}(v))}\right)|\nabla v|^2{\rm d}x+\int_{{{\Bbb R}} ^N}V(x)|L^{-1}(v)|^{2}{\rm d}x\\ &&-\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x=0. \end{eqnarray*} $

由引理2.1的$ (5) $, 可得

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^N}|\nabla v|^2{\rm d}x+\int_{{{\Bbb R}} ^N}V(x)|L^{-1}(v)|^{2}{\rm d}x-\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p}{\rm d}x\geq0. \end{eqnarray*} $

由于$ v $是$ I_V $的临界点, 则

$ \begin{eqnarray*} c_V&=& I_V(v)-\frac{1}{2p}\langle I_V'(v), L^{-1}(v)l(L^{-1}(v))\rangle\\ &=& \frac{1}{2}\int_{{{\Bbb R}} ^N}|\nabla v|^{2}{\rm d}x+\frac{1}{2}\int_{{{\Bbb R}} ^N}V(x)|L^{-1}(v)|^{2}{\rm d}x\\ &&-\frac{1}{2p}\int_{{{\Bbb R}} ^N}\left(1+\frac{L^{-1}(v)l'(L^{-1}(v))}{l(L^{-1}(v))}\right)|\nabla v|^{2}{\rm d}x-\frac{1}{2p}\int_{{{\Bbb R}} ^N}V(x)|L^{-1}(v)|^{2}{\rm d}x\\ &\geq &(\frac{1}{2}-\frac{1}{2p})\int_{{{\Bbb R}} ^N}\big(|\nabla v|^{2}+V(x)|L^{-1}(v)|^{2}\big){\rm d}x. \end{eqnarray*} $

因为$ p>2 $, 由引理2.1的$ (4) $可知

(4.5) $ \begin{equation} \|v\|_E^2\leq\frac{2pc_V}{p-1}. \end{equation} $

对任意的$ m\in{\Bbb N} $和$ \beta>1 $, 令$ A_m=\{x\in{{\Bbb R}} ^N; |v|^{\beta-1}\leq m\} $, $ B_m={{\Bbb R}} ^N\backslash A_m $以及

$ \begin{eqnarray*} v_m=\left\{ \begin{array}{ll} v|v|^{2(\beta-1)}, \, \, \ & in\, \ A_m, \\ m^2v, & in\, \ B_m. \end{array} \right. \end{eqnarray*} $

注意到$ v_m\in H^1({{\Bbb R}} ^N) $, $ v_m\leq v_{m+1} $, $ v_m\leq|v|^{2\beta-1} $和

$ \begin{eqnarray*} \nabla v_m=\left\{ \begin{array}{ll} (2\beta-1)|v|^{2(\beta-1)}\nabla v, \, \, \ & in\, \ A_m, \\ m^2\nabla v, & in\, \ B_m. \end{array} \right. \end{eqnarray*} $

因此, 选取$ v_m $为测试函数, 可得

(4.6) $ \begin{equation} \int_{{{\Bbb R}} ^N}\nabla v\nabla v_m{\rm d}x=(2\beta-1)\int_{A_m}|v|^{2(\beta-1)}|\nabla v|^2{\rm d}x+m^2\int_{B_m}|\nabla v|^2{\rm d}x. \end{equation} $

现在, 令

$ \begin{eqnarray*} w_m=\left\{ \begin{array}{ll} v|v|^{\beta-1}, \, \, \ &in\, \ A_m, \\ mv, & in\, \ B_m, \end{array} \right. \end{eqnarray*} $

则有$ w_m^2=vv_m\leq|v|^{2\beta} $, $ \omega_m\leq\omega_{m+1} $和

$ \begin{eqnarray*} \nabla w_m=\left\{ \begin{array}{ll} \beta|v|^{\beta-1}\nabla v, \, \, \ &in\, \ A_m, \\ m\nabla v, & in\, \ B_m. \end{array} \right. \end{eqnarray*} $

因此有

(4.7) $ \begin{equation} \int_{{{\Bbb R}} ^N}|\nabla w_m|^2{\rm d}x=\beta^2\int_{A_m}|v|^{2(\beta-1)}|\nabla v|^2{\rm d}x+m^2\int_{B_m}|\nabla v|^2{\rm d}x. \end{equation} $

那么, 由(4.6) 和(4.7) 式, 可推出

(4.8) $ \begin{eqnarray} \int_{{{\Bbb R}} ^N}\big(|\nabla w_m|^2-\nabla v\nabla v_m\big){\rm d}x &=&\beta^2\int_{A_m}|v|^{2(\beta-1)}|\nabla v|^2{\rm d}x+m^2\int_{B_m}|\nabla v|^2{\rm d}x{}\\ &&-(2\beta-1)\int_{A_m}|v|^{2(\beta-1)}|\nabla v|^2{\rm d}x-m^2\int_{B_m}|\nabla v|^2{\rm d}x{}\\ &=&(\beta-1)^2\int_{A_m}|v|^{2(\beta-1)}|\nabla v|^2{\rm d}x. \end{eqnarray} $

利用$ v_m $为测试函数, 可推出

(4.9) $ \begin{equation} \int_{{{\Bbb R}} ^N}\left[\nabla v\nabla v_m+V(x)\frac{L^{-1}(v)}{l(L^{-1}(v))}v_m\right]{\rm d}x=\int_{{{\Bbb R}} ^N}\frac{(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p-2}L^{-1}(v)}{l(L^{-1}(v))}v_m {\rm d}x. \end{equation} $

由(4.6), (4.8) 和(4.9) 式易得

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^N}|\nabla w_m|^2{\rm d}x&\leq&\int_{{{\Bbb R}} ^N}|\nabla w_m|^2{\rm d}x+\beta^2\int_{{{\Bbb R}} ^N}V(x)\frac{L^{-1}(v)}{l(L^{-1}(v))}v_m{\rm d}x\\ &=&(\beta-1)^2\int_{A_m}|v|^{2(\beta-1)}|\nabla v|^2{\rm d}x+\int_{{{\Bbb R}} ^N}\nabla v\nabla v_m{\rm d}x\\ &&+\beta^2\int_{{{\Bbb R}} ^N}V(x)\frac{L^{-1}(v)}{l(L^{-1}(v))}v_m{\rm d}x\\ &\leq&\left[\frac{(\beta-1)^2}{2\beta-1}+1\right]\int_{{{\Bbb R}} ^N}\nabla v\nabla v_m{\rm d}x+\beta^2\int_{{{\Bbb R}} ^N}V(x)\frac{L^{-1}(v)}{l(L^{-1}(v))}v_m{\rm d}x\\ &\leq&\beta^2\int_{{{\Bbb R}} ^N}\left[\nabla v\nabla v_m+V(x)\frac{L^{-1}(v)}{l(L^{-1}(v))}v_m\right]{\rm d}x\\ &=&\beta^2\int_{{{\Bbb R}} ^N}\frac{(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p-2}L^{-1}(v)}{l(L^{-1}(v))}v_m {\rm d}x. \end{eqnarray*} $

由于$ v\in H^1({{\Bbb R}} ^N) $, 那么存在$ C>0 $使得$ |I_{\alpha}\ast|L^{-1}(v)|^{p}|_\infty\leq C $. 事实上, 由引理2.1和Hölder不等式, 有

$ \begin{eqnarray*} \left|\int_{{{\Bbb R}} ^N}\frac{|L^{-1}(v)|^{p}}{|x-y|^{N-\alpha}}{\rm d}x\right| &\leq&\left|\int_{|x-y|<1}\frac{|L^{-1}(v)|^{p}}{|x-y|^{N-\alpha}}{\rm d}x\right|+\left|\int_{|x-y|\geq1}\frac{|L^{-1}(v)|^{p}}{|x-y|^{N-\alpha}}{\rm d}x\right|\\ &\leq&\int_{|x-y|<1}\frac{|v|^{p}}{|x-y|^{N-\alpha}}{\rm d}x+\int_{|x-y|\geq1}|v|^{p}{\rm d}x\\ &\leq&\int_{|x-y|<1}\frac{|v|^{p}}{|x-y|^{N-\alpha}}{\rm d}x+C\\ &\leq&\left(\int_{{{\Bbb R}} ^N}|v|^{pr}{\rm d}x\right)^{\frac{1}{r}}\left(\int_{|x-y|<1}\frac{1}{|x-y|^{\frac{r(N-\alpha)}{r-1}}}{\rm d}x\right)^{\frac{r-1}{r}}+C\\ &\leq& C, \end{eqnarray*} $

其中$ r\in\left(\frac{N}{\alpha}, \frac{2N}{p(N-2)}\right) $. 因此, 根据上面的估计, 可得

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^N}\frac{(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p-2}L^{-1}(v)}{l(L^{-1}(v))}v_m {\rm d}x&\leq & C\int_{{{\Bbb R}} ^N}\frac{|L^{-1}(v)|^{p-2}L^{-1}(v)}{l(L^{-1}(v))}v_m{\rm d}x\\ &\leq &C\rho^{\frac{p}{2}}\int_{{{\Bbb R}} ^N}|v|^{p-1}v_m{\rm d}x, \end{eqnarray*} $

于是

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^N}|\nabla w_m|^2{\rm d}x&\leq&\beta^2\int_{{{\Bbb R}} ^N}\frac{(I_{\alpha}\ast|L^{-1}(v)|^{p})|L^{-1}(v)|^{p-2}L^{-1}(v)}{l(L^{-1}(v))}v_m {\rm d}x\\ &\leq& C\beta^2\rho^{\frac{p}{2}}\int_{{{\Bbb R}} ^N}|v|^{p-2}w_m^2{\rm d}x. \end{eqnarray*} $

利用Sobolev不等式, 可知

$ \left(\int_{A_m}|w_m|^{2^\ast}{\rm d}x\right)^{\frac{N-2}{N}}\leq S\int_{{{\Bbb R}} ^N}|\nabla w_m|^2{\rm d}x\leq SC\beta^2\rho^{\frac{p}{2}}\int_{{{\Bbb R}} ^N}|v|^{p-2}w_m^2{\rm d}x. $

接着又由Hölder不等式, 可得

$ \left(\int_{A_m}|w_m|^{2^\ast}{\rm d}x\right)^{\frac{N-2}{N}}\leq SC\beta^2\rho^{\frac{p}{2}}|v|_{2^\ast}^{p-2}\left(\int_{{{\Bbb R}} ^N}|w_m|^{2r_1}{\rm d}x\right)^{1/r_1}, $

其中$ 1/r_1+(p-2)/2^\ast=1 $. 由于, $ |w_m|\leq|v|^\beta $在$ {{\Bbb R}} ^N $, $ |w_m|=|v|^\beta $在$ A_m $, 可知

$ \left(\int_{A_m}|v|^{\beta2^\ast}{\rm d}x\right)^{\frac{N-2}{N}}\leq SC\beta^2\rho^{\frac{p}{2}}|v|_{2^\ast}^{p-2}\left(\int_{{{\Bbb R}} ^N}|v|^{2\beta r_1}{\rm d}x\right)^{1/r_1}. $

现在, 利用单调收敛定理, 易得

(4.10) $ \begin{equation} |v|_{\beta2^\ast}\leq\beta^{1/\beta}(SC\rho^{\frac{p}{2}}|v|_{2^\ast}^{p-2})^{1/2\beta}|v|_{2\beta r_1}. \end{equation} $

设$ \sigma=2^\ast/(2r_1) $和$ \beta=\sigma^i, i=1, 2, \ldots $, 在(4.10) 式中运用迭代方法易得

$ |v|_{\sigma^i2^\ast}\leq\sigma^{\sum\limits_{j=1}^i\frac{j}{\sigma^j}}(SC\rho^{\frac{p}{2}}|v|_{2^\ast}^{p-2})^{(\frac{1}{2}\sum\limits_{j=1}^i\frac{1}{\sigma^j})}|v|_{2^\ast}. $

当$ i\rightarrow \infty $时, 可得

$ |v|_{\infty}\leq C_0, $

其中$ C_0>0 $是与$ k>0 $无关的正数. 证毕.

根据引理4.6, 引理2.1的$ (4) $可知

$ |u|_\infty=|L^{-1}(v)|_\infty\leq\sqrt{\rho}|v|_\infty\leq\sqrt{\rho}C_0\leq\frac{\sigma}{\sqrt{k}}, $

对任意的$ k\in(0, k_0) $成立, 其中当$ k_0>0 $时满足$ \sqrt{\rho}C_0\leq\frac{\sigma}{\sqrt{k_0}} $. 同时由引理2.2, 可推断出$ u\in H^1({{\Bbb R}} ^N) $是原始问题(1.1) 的解.

定理1.1的证明   根据命题2.1, 引理4.1, 对任意的$ \delta\in[\frac{1}{2}, 1] $, 存在$ I_{V, \delta} $的一个有界$ (PS)_{c_{V, \delta}} $序列. 由引理4.5可知存在非平凡临界点$ v_{V, \delta}\in H^1({{\Bbb R}} ^N) $以及$ I_{V, \delta}(v_{V, \delta})=c_{V, \delta} $. 当$ \delta_n\rightarrow1 $时, 满足$ I_{V, \delta_n} $有临界点$ v_{V, \delta_n} $, 仍记为$ \{v_n\} $. 接下来证明$ \{v_n\} $在$ H^1({{\Bbb R}} ^N) $中有界. 利用条件$ (V_2) $, 可得

(4.11) $ \begin{eqnarray} c_{V, \frac{1}{2}}&\geq & I_{V, \delta_n}(v_{n})-\frac{1}{N+\alpha}P_{V, \delta_n}(v_{n}){}\\ &= & \frac{1}{2}\int_{{{\Bbb R}} ^N}|\nabla v_{n}|^{2}{\rm d}x+\frac{1}{2}\int_{{{\Bbb R}} ^N}V(x)|L^{-1}(v_n)|^{2}{\rm d}x-\frac{N-2}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla v_{n}|^{2}{\rm d}x{}\\ &&-\frac{N}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}V(x)|L^{-1}(v_n)|^{2}{\rm d}x-\frac{1}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}\langle\nabla V(x), x\rangle|L^{-1}(v_n)|^{2}{\rm d}x{}\\ &=&\frac{\alpha+2}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla v_{n}|^{2}+\frac{1}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}\big(\alpha V(x)-\langle\nabla V(x), x\rangle\big)|L^{-1}(v_n)|^{2}{\rm d}x{}\\ &\geq &\frac{\alpha+2}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla v_{n}|^{2}{\rm d}x+\frac{1}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}(1-\theta)\alpha V(x)|L^{-1}(v_n)|^{2}{\rm d}x{}\\ &&+\frac{1}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}\big(\alpha\theta V(x)-\langle\nabla V(x), x\rangle\big)|L^{-1}(v_n)|^{2}{\rm d}x{}\\ &\geq&\frac{\alpha+2}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}|\nabla v_{n}|^{2}{\rm d}x+\frac{1}{2(N+\alpha)}\int_{{{\Bbb R}} ^N}(1-\theta)\alpha V(x)|L^{-1}(v_n)|^{2}{\rm d}x. \end{eqnarray} $

从上述不等式中, 容易得到$ \{\int_{{{\Bbb R}} ^N}(|\nabla v_n|^2+V(x)|L^{-1}(v_{n})|^2){\rm d}x\} $在$ H^1({{\Bbb R}} ^N) $中是有界的. 简单计算可得$ \{v_n\} $在$ H^1({{\Bbb R}} ^N) $中有界. 此外, 利用$ \delta\rightarrow c_{V, \delta} $是左连续的(见命题2.1), 则有

(4.12) $ \begin{equation} \lim\limits_{n\rightarrow \infty}I_V(v_n)=\lim\limits_{n\rightarrow \infty}\left\{I_{V, \delta_n}(v_n)+(\delta_n-1)\left[\frac{1}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v_{n})|^p)|L^{-1}(v_{n})|^{p}{\rm d}x\right]\right\}. \end{equation} $

由$ \{v_n\} $在$ H^1({{\Bbb R}} ^N) $中有界, 可得当$ 2\leq s<2^\ast $时, $ \{L^{-1}(v_{n})\} $在$ L^s({{\Bbb R}} ^N) $中有界. 那么

(4.13) $ \begin{equation} \lim\limits_{n\rightarrow \infty}(\delta_n-1)\left[\frac{1}{2p}\int_{{{\Bbb R}} ^N}(I_{\alpha}\ast|L^{-1}(v_{n})|^p)|L^{-1}(v_{n})|^{p}{\rm d}x\right]\leq\lim\limits_{n\rightarrow \infty}C(\delta_n-1)\|v_{n}\|^{2p}=0. \end{equation} $

结合(4.12)–(4.13) 式可得

(4.14) $ \begin{equation} \lim\limits_{n\rightarrow \infty}I_V(v_n)=\lim\limits_{n\rightarrow \infty}c_{V, \delta_n}=c_{V, 1}. \end{equation} $

类似于(4.12) 式的证明, 可得

(4.15) $ \begin{eqnarray} \lim\limits_{n\rightarrow \infty}\langle I'_V(v_n), \varphi\rangle&=&\lim\limits_{n\rightarrow \infty}\Bigg\{\langle I'_{V, \delta_n}(v_n), \varphi\rangle{}\\ &&+(\delta_n-1)\left[\frac{1}{2p}\int_{{{\Bbb R}} ^N}\frac{(I_{\alpha}\ast|L^{-1}(v_{n})|^{p})|L^{-1}(v_{n})|^{p-2}L^{-1}(v_{n})}{l(L^{-1}(v_{n}))}\varphi\right]\Bigg\}=0. \end{eqnarray} $

又由(4.14) 和(4.15) 式, 当$ I_V:=I_{V, 1} $时, 可推导出$ \{v_n\} $是有界的$ (PS)_{c_{V, 1}} $序列. 那么根据引理4.5, 可知存在$ I_V $的非平凡临界点$ v_{0}\in H^1({{\Bbb R}} ^N) $和$ I_V(v_{0})=c_{V, 1} $.

另一方面, 我们将证明问题(1.1) 基态解的存在性. 设

$ \begin{eqnarray*} m_V:=\inf\{I_V(v):v\neq0, I'_V(v)=0\}. \end{eqnarray*} $

由引理4.1的第2步可知$ I_V $的每个临界点都是非负的. 因此有$ 0\leq m_V\leq I_V(v_0)=c_{V, 1}<+\infty $. 设$ \{v_n\} $是$ I_V $的非平凡临界点序列, 满足$ I_V(v_n)\rightarrow m_V $. 类似于(4.11) 式的讨论, 可以得到$ \{v_n\} $是$ I_V $的有界$ (PS)_{m_V} $序列. 此外, 利用引理4.5, 可推断出存在一个非平凡的$ v^\ast\in H^1({{\Bbb R}} ^N) $使得$ I_V(v^\ast)=m_V $和$ I_{V}'(v^{\ast})=0 $. 再根据引理4.6, 有$ |u|_\infty=|L^{-1}(v)|_\infty\leq\sigma/\sqrt{k} $, 那么$ u^\ast=L^{-1}(v^\ast) $是问题(1.1) 的基态解. 定理证毕.