本文考虑如下一类非线性Choquard方程

(1.1) $ \begin{equation} -\Delta u + V(x)u= (I_{\alpha}* F(u))f(u), \hskip0.5cm x\in{{\Bbb R}} ^{N} \end{equation} $

基态解的存在性, 其中$ N \geq 3 $, $ 0 < \alpha < N $, Riesz^[24]势$ I_{\alpha}:{{\Bbb R}} ^{N}\setminus\{0\}\rightarrow {{\Bbb R}} $定义为

$ I_{\alpha}(x)=\frac{\Gamma(\frac{N-2}{2})}{\Gamma(\frac{\alpha}{2})\pi^{\frac{N}{2}}2^{\alpha}|x|^{N-\alpha}}, $

位势函数$ V\in{\cal C}( {{\Bbb R}} ^{N}, {{\Bbb R}} ) $, $ F\in {\cal C}^{1}({{\Bbb R}} , {{\Bbb R}} ) $, 且$ F'(s)=f(s) $.

方程(1.1) 通常称为非线性Choquard方程, 具有丰富的物理背景, 可以用来描述量子物理中多种不同的现象. 当$ N=3 $, $ \alpha=2 $, $ V(x)=1 $及$ F(s)=\frac{s^{2}}{2} $, 方程(1.1) 特别包含Choquard-Pekar方程

(1.2) $ \begin{equation} -\Delta u +u= (I_{2}* |u|^{2})u, \hskip0.5cm x\in{{\Bbb R}} ^{3}. \end{equation} $

1954年, Pekar^[22]利用方程(1.2) 作为描述量子力学中静止极化子的理论模型; 1976年Choquard利用方程(1.2) 描述一个被困于自己空穴中的电子, 这在一定程度上近似于单组分离子体的Hartree-Fock理论^[13]. Jones和Penrose^{[9, 23]}提出方程(1.2) 也可作为自引力物质的模型, 在这种情况下称为Schrödinger-Newton方程. 更多物理方面的应用见文献[5, 18].

近年来, 关于Choquard方程的相关研究引起了数学研究者的广泛关注, 获得了许多重要结果. Lieb ^[13]率先利用变分方法研究了方程(1.2) 的基态解, 同时也证明了基态解径向对称且在不计平移的意义下唯一. 文献[19] 中, Moroz和Van Schaftingen研究了如下问题

(1.3) $ \begin{eqnarray} -\Delta u +u= (I_{\alpha}* |u|^{p})|u|^{p-2}u, \hskip0.5cm x\in{{\Bbb R}} ^{N}. \end{eqnarray} $

当$ \frac{N+\alpha}{N} <p< \frac{N+\alpha}{N-\alpha} $时, 他们证明了方程(1.3) 具有正的基态解, 进一步建立了基态解的正则性、径向对称性和在无穷远处的衰减性; 当$ p $满足不同假设时, Ghimenti和Van Schaftingen^[7]证明了方程(1.3) 具有最小能量的变号解和最小能量的奇解. 在方程(1.1) 中, 当$ f $满足Berestycki-Lions型条件时, Moroz等^[20]获得了方程(1.1) 的基态解. 随后, 罗虎啸^[17]推广了文献[20] 的结果. 在此假设下, Cingolani和Tanaka^[4]考虑了如下半经典态的非线性Choquard方程

(1.4) $ \begin{eqnarray} -\varepsilon^{2}\Delta u + V(x)u=\varepsilon^{-\alpha} (I_{\alpha}* F(u))f(u), \hskip0.5cm x\in{{\Bbb R}} ^{N}. \end{eqnarray} $

当$ V(x) $具有局部极小值时, 他们证明了方程(1.4) 解的存在性, 多重性与集中性. 假设$ f $满足(AR) 条件, 即存在$ \theta >2 $使得对所有$ s>0 $, 有

(1.5) $ \begin{eqnarray} 0<\theta F(s) \leq 2f(s)s, \end{eqnarray} $

Alves等^[2]利用罚方法, 证明了当$ V(x) $在无穷远处衰减到零时, 方程(1.1) 具有非平凡解. 张慧等^[27]研究了如下问题

$ \begin{eqnarray*} -\Delta u + V(x)u=\left(\int_{{{\Bbb R}} ^{N}}\frac{Q(y)F(u(y))}{|x-y|^{\mu}} {\rm d}y\right)Q(x)f(u), \hskip0.5cm u\in H^{1}({{\Bbb R}} ^{N}). \end{eqnarray*} $

利用Nehari流形方法证明了, 当$ V(x) $为周期函数, $ f $满足单调假设时, 上述方程具有基态解. 当$ f $既满足(AR) 条件又满足单调性条件时, 杨敏波等^{[1, 3]}利用Nehari流行方法得到了半经典态非线性Choquard方程基态解的存在性及集中性. 其它的相关研究见文献[6, 12, 16, 21, 25, 26]及其参考文献.

受以上结果启发, 自然的问题就是当$ f $既不满足(AR) 条件也不满足单调性条件时, 方程(1.1) 的基态解是否存在? 本文主要回答这一问题. 为描述本文主要结果, 假设$ f $满足下列条件

($ \mbox{f1} $) $ f\in C({{\Bbb R}} , {{\Bbb R}} ) $;

($ \mbox{f2} $) 存在$ p\in(\frac{N+\alpha}{N}, \frac{N+\alpha}{N-\alpha}) $使得$ \lim\limits_{t\rightarrow 0^{+}}\frac{f(t)}{t^{p-1}}=0 $;

($ \mbox{f3} $) 存在$ q\in(p, \frac{N+\alpha}{N-\alpha}) $使得$ \lim\limits_{t\rightarrow +\infty}\frac{f(t)}{t^{q-1}}=0 $.

本文主要研究(1.1) 正解的存在性, 因此不妨假设对所有$ t \leq 0 $, $ f(t)=0 $.

另外, 假设位势函数$ V(x) $满足以下条件:

($ \mbox{V1} $) $ V\in C({{\Bbb R}} ^{N}, {{\Bbb R}} ) $弱可微, $ \langle \nabla V(\cdot), \cdot\rangle \in L^{\infty}({{\Bbb R}} ^{N})\cup L^{\frac{N}{2}}({{\Bbb R}} ^{N}) $且

$ V(x)-\langle \nabla V(x), x \rangle \geq 0, \hskip0.2cm a.e. \hskip0.1cm x\in {{\Bbb R}} ^{N}, $

其中$ \langle\cdot, \cdot\rangle $为$ {{\Bbb R}} ^{N} $中的内积.

($ \mbox{V2} $) 对几乎每个$ x\in {{\Bbb R}} ^{N} $, $ V(x) \leq { } V_{\infty}:=\mathop {\lim \inf }\limits_{|x| \to + \infty } V(x)< +\infty $, 且严格不等式在某个正测集上成立;

($ \mbox{V3} $) 存在常数$ \beta>0 $使得

$ \beta = \inf\limits_{u\in H^{1}({{\Bbb R}} ^{N})\setminus \{0\}}\frac{\int_{{{\Bbb R}} ^{N}}(|\nabla u|^{2}+ V(x)u^{2}){\rm d}x}{\int_{{{\Bbb R}} ^{N}}u^{2}{\rm d}x}>0. $

下面给出本文的主要结果：

定理1.1  假设$ \rm (f1)–(f3) $和$ \rm (V1)–(V3) $成立, 且$ \alpha \in (1, N) $. 则方程(1.1) 存在一个正的基态解.

本文利用变分技术证明定理1.1, 主要困难在于方程(1.1) 定义在全空间$ {{\Bbb R}} ^{N} $上, Sobolev嵌入$ H^{1}({{\Bbb R}} ^{N})\hookrightarrow L^{r}({{\Bbb R}} ^{N}) $$ r\in (2, \frac{2N}{N-2}) $不是紧嵌入. 为此, 考虑建立整体紧性引理(见引理3.3)以恢复紧性. 另外, 非线性项$ f $不满足(AR) 条件(1.4), 标准的变分技巧很难证明方程(1.1) 所对应泛函$ I_{V} $ (定义见预备知识) 的(PS) 序列是有界的. 为克服此困难, 利用Jeanjean^[8]提出的间接性方法得到一个特殊的有界(PS) 序列, 进而证明本文的主要结果. 关于Jeanjean^[8]间接性方法的应用见文献[10, 11, 28].

本文安排如下: 第2节给出变分框架及一些证明过程中用到的相关结果. 第3节利用Jeanjean的间接性方法证明定理1.1.

本文使用如下记号. $ H^{1}({{\Bbb R}} ^{N}) $表示一般的Sobolev空间, 其范数定义为

$ \|u\|_{H^{1}} = \left(\int_{{{\Bbb R}} ^{N}}|\nabla u|^{2} + u^{2}{\rm d}x\right)^{\frac{1}{2}}. $

$ L^{s}({{\Bbb R}} ^{N}) $$ (1\leq s < +\infty) $表示标准的Lebesgue空间, 范数为$ \|u\|_{s} = \left(\int_{{{\Bbb R}} ^{N}}| u|^{s} {\rm d}x\right)^{\frac{1}{s}} $. $ B_{R}(x_{0}) $表示以$ x_{0} $为心, $ R $为半径的球. 字母$ C $和$ C_{1}, C_{2}, C_{3} $表示不同的常数.

假设$ V(x) $满足条件$ (\mbox{V1}) $–$ (\mbox{V3}) $, 引入空间$ H^{1}({{\Bbb R}} ^{N}) $的等价范数

$ \begin{eqnarray*} \|u\| = \left(\int_{{{\Bbb R}} ^{N}}|\nabla u|^{2} + V(x)u^{2}{\rm d}x\right)^{\frac{1}{2}}. \end{eqnarray*} $

为了处理方程(1.1) 中的非局部项, 本文需要下面的Hardy-Littlewood-Sobolev^[14]不等式.

引理2.1  设$ s, r> 1 $, $ 0<\alpha <N $满足$ \frac{1}{r}+\frac{1}{s}=\frac{N+\alpha}{N} $. 则对所有$ f\in L^{r}({{\Bbb R}} ^{N}) $, $ g\in L^{s}({{\Bbb R}} ^{N}) $, 存在常值$ C = C(N, \alpha, s, r) >0 $使得

$ \left| \int_{{{\Bbb R}} ^{N}}(I_{\alpha}*f)g {\rm d}x \right|\leq C\|f\|_{r}\|g\|_{s}. $

现定义方程(1.1) 的能量泛函$ I_{V}:H^{1}({{\Bbb R}} ^{N})\rightarrow {{\Bbb R}} ^{N} $为

$ I_{V}(u)= \frac{1}{2}\int_{{{\Bbb R}} ^{N}}(|\nabla u |^{2} + V(x)|u|^{2}) {\rm d}x - \frac{1}{2}{\cal D}(u), $

其中$ {\cal D}(u)=\int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u))F(u){\rm d}x $. 由条件$ (\mbox{f2}) $和$ (\mbox{f3}) $可知, 对任意$ \varepsilon >0 $, 存在$ C_{\varepsilon}>0 $使得

(2.1) $ \begin{equation} |f(t)|\leq \varepsilon |t|^{p-1} + C_{\varepsilon}|t|^{q-1}, \hskip0.5cm t\in {{\Bbb R}} , \end{equation} $

其中$ \frac{N+\alpha}{N }< p < q < \frac{N+\alpha}{N-2} $. 根据引理2.1、Sobolev嵌入定理及(2.1) 式可得: 对任意$ u, v\in H^{1}({{\Bbb R}} ^{N}) $, 有

(2.2) $ \begin{equation} \left|{\cal D}(u)\right|\leq C\|F(u)\|^{2}_{\frac{2N}{N+\alpha}}\leq C_{1}\left(\|u\|^{\frac{2Np}{N+\alpha}} + \|u\|^{\frac{2Nq}{N+\alpha}}\right)^{\frac{N+\alpha}{N}}, \end{equation} $

(2.3) $ \begin{equation} \left|{\cal D}'(u)u\right|\leq C_{2}\|F(u)\|_{\frac{2N}{N+\alpha}}\|f(u)u\|_{\frac{2N}{N+\alpha}}, \end{equation} $

(2.4) $ \begin{equation} \left|{\cal D}'(u)v \right|\leq C\left(\|u\|^{\frac{2Np}{N+\alpha}} + \|u\|^{\frac{2Nq}{N+\alpha}}\right)^{\frac{N+\alpha}{2N}}\left(\|u\|^{\frac{2N(p-1)}{N+\alpha}} + \|u\|^{\frac{2N(q-1)}{N+\alpha}}\right)^{\frac{N+\alpha}{2N}}\|v\|. \end{equation} $

于是, $ I_{V}\in {\cal C}^{1}(H^{1}({{\Bbb R}} ^{N}), {{\Bbb R}} ) $, 且对任意的$ u, \varphi\in H^{1}({{\Bbb R}} ^{N}) $, 有

$ \langle I'_{V}(u), \varphi \rangle= \int_{{{\Bbb R}} ^{N}}(\nabla u\nabla \varphi + V(x)u\varphi) {\rm d}x -{\cal D}'(u)\varphi, $

其中$ {\cal D}'(u)\varphi = \int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u))f(u)\varphi {\rm d}x $. 进一步, 方程(1.1) 的弱解对应于泛函$ I_{V} $的临界点. 方程(1.1) 的基态解$ u\in H^{1}({{\Bbb R}} ^{N}) $是指对任意的非平凡解$ v $都满足$ I_{V}(u)\leq I_{V}(v) $.

引理2.2^[15]  设$ \{u_{n}\}\subset H^{1}({{\Bbb R}} ^{N}) $是一有界序列且满足

$ \begin{eqnarray*} \lim\limits_{n\rightarrow \infty}\sup\limits_{z \in {{\Bbb R}} ^{N}}\int_{B_{1}(z)}|u_{n}|^{2}{\rm d}x=0, \end{eqnarray*} $

则当$ N\geq 3 $时, 对任意$ s\in (2, \frac{2N}{N-2}) $, $ u_{n} \rightarrow 0 $于$ L^{s}({{\Bbb R}} ^{N}) $.

利用标准的证明^[20], 可知对方程(1.1) 的每个解都满足下面的Pohozaev恒等式.

引理2.3  假设$ \rm (f1)–(f3) $和$ \rm (V1)–(V3) $成立. 若$ u\in H^{1}({{\Bbb R}} ^{N}) $是方程(1.1) 的解, 则

$ \begin{eqnarray*} \frac{N-2}{2}\int_{{{\Bbb R}} ^{N}}|\nabla u |^{2}{\rm d}x + \frac{N}{2}\int_{{{\Bbb R}} ^{N}}V(x)|u|^{2} {\rm d}x + \frac{1}{2}\int_{{{\Bbb R}} ^{N}}\langle\nabla V(x), x\rangle |u|^{2} {\rm d}x =\frac{N+\alpha}{2} {\cal D}(u). \end{eqnarray*} $

由文献[12, 19]的证明可得下面引理.

引理2.4  设$ N\geq 3 $, $ \alpha \in (0, N) $, $ (\mbox{f1}) $和$ (\mbox{f2}) $成立. 若$ u_{n}\rightharpoonup u $于$ H^{1}({{\Bbb R}} ^{N}) $且$ u_{n}\rightarrow u $ a.e.于$ {{\Bbb R}} ^{N} $, 则当$ n\rightarrow \infty $时有

$ {\cal D}(u_{n}) - {\cal D}(u_{n} - u) \rightarrow {\cal D}( u), $

且对任意$ \varphi\in {\cal C}^{\infty}_{0}({{\Bbb R}} ^{N}) $

$ {\cal D}'(u_{n})\varphi - {\cal D}'(u_{n} - u) \varphi \rightarrow {\cal D}'( u)\varphi. $

本节将给出定理1.1的证明. 首先回顾Jeanjean^[8]提出的抽象结果.

命题3.1  设$ (E, \|\cdot\|) $是一个Banach空间, $ J\subset {{\Bbb R}} $为一个区间, $ \{\psi_{\lambda}\}_{\lambda\in J} $是定义在$ E $上的一簇具有如下形式的$ {\cal C}^{1} $泛函

$ \psi_{\lambda}(u)=A(u)-\lambda B(u), \hskip0.5cm \forall\hskip0.1cm \lambda \in J. $

若$ \psi_{\lambda} $满足条件

$ \rm (1) $对任意$ u\in E $, $ B(u)\geq 0 $, 并且当$ \|u\|_{E}\rightarrow \infty $时, $ A(u)\rightarrow +\infty $或$ B(u)\rightarrow +\infty $;

$ \rm (2) $存在$ E $中的两个点$ v_{1} $及$ v_{2} $使得

$ c_{\lambda} = \inf\limits_{\gamma \in \Gamma}\max\limits_{t\in[0, 1]}\psi_{\lambda}(\gamma(t)) > \max\{ \psi_{\lambda}(v_{1}), \psi_{\lambda}(v_{2}) \}, \hskip0.2cm \forall\hskip0.1cm \lambda \in J, $

其中$ \Gamma = \{\gamma\in {\cal C}([0, 1], E): \gamma(0)=v_{1}, \gamma(1)=v_{2} \} $.

则对几乎处处的$ \lambda\in J $, 泛函$ \psi_{\lambda} $在$ E $中存在一个有界的$ (PS)_{c_{\lambda}} $序列.

下面, 我们利用命题3.1证明本文的主要结果. 设$ J=[\frac{1}{2}, 1] $. 考虑一簇定义在空间$ H^{1}({{\Bbb R}} ^{N}) $上的泛函

$ \begin{eqnarray*} I_{V, \lambda}(u)= \frac{1}{2}\int_{{{\Bbb R}} ^{N}}(|\nabla u |^{2} + V(x)|u|^{2}) {\rm d}x - \frac{\lambda}{2} {\cal D}(u), \hskip0.3cm \forall\hskip0.1cm \lambda \in [\frac{1}{2}, 1]. \end{eqnarray*} $

根据命题3.1, 设

$ I_{V, \lambda}(u)=A(u)-\lambda B(u), $

其中

$ A(u)=\frac{1}{2}\int_{{{\Bbb R}} ^{N}}(|\nabla u |^{2} + V(x)|u|^{2}) {\rm d}x, B(u)=\frac{1}{2} \int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u))F(u){\rm d}x. $

显然, 对所有$ u\in H^{1}({{\Bbb R}} ^{N}) $都有$ B(u)\geq 0 $, 且当$ \|u\|\rightarrow +\infty $时, $ A(u)\rightarrow +\infty $.

引理3.1  假设$ \rm (f1)–(f3) $和$ \rm (V1)–(V3) $成立. 则

$ \rm (ⅰ) $存在$ e\in H^{1}({{\Bbb R}} ^{N})\setminus\{0\} $使得对所有$ \lambda \in [\frac{1}{2}, 1] $, $ I_{V, \lambda}(e)\leq 0 $;

$ \rm (ⅱ) $$ { } c_{\lambda} = \mathop {\inf }\limits_{\gamma \in {\Gamma _\lambda }} \mathop {\max }\limits_{_{t \in [0,1]}} I_{V, \lambda}(\gamma(t)) > \max\{ I_{V, \lambda}(0), I_{V, \lambda}(e) \} $, 其中

$ \Gamma_{\lambda} = \{\gamma\in {\cal C}([0, 1], H^{1}({{\Bbb R}} ^{N})) : \gamma(0)=0, \gamma(1)=e \}. $

证  $ \rm (ⅰ) $对任意的$ \lambda \in [\frac{1}{2}, 1] $, 给定$ u\in H^{1}({{\Bbb R}} ^{N})\setminus\{0\} $, 由$ (\mbox{V1}) $可知

$ \begin{eqnarray*} I_{V, \lambda}(u)\leq I^{\infty}_{\frac{1}{2}}(u) = \frac{1}{2}\int_{{{\Bbb R}} ^{N}}(|\nabla u |^{2} + V_{\infty}|u|^{2}) {\rm d}x - \frac{1}{4} \int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u))F(u){\rm d}x. \end{eqnarray*} $

设$ u_{t}(x)=u(t^{-1}x) $, $ t>0 $. 则当$ t\rightarrow +\infty $时

$ I^{\infty}_{\frac{1}{2}}(u_{t})= \frac{t^{N-2}}{2}\int_{{{\Bbb R}} ^{N}}|\nabla u |^{2}{\rm d}x+ \frac{t^{N}}{2}\int_{{{\Bbb R}} ^{N}}V_{\infty}|u|^{2} {\rm d}x - \frac{t^{N+\alpha}}{4} \int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u))F(u){\rm d}x \rightarrow -\infty. $

因此, 存在$ t_{*} >0 $使得$ e=u_{t_{*}} $满足

$ I_{V, \lambda}(e) \leq I^{\infty}_{\frac{1}{2}}(e) \leq 0. $

$ \rm (ⅱ) $由(2.2) 式可得

$ I_{V, \lambda}(u) \geq \frac{1}{2}\|u\|^{2}-C\left(\|u\|^{\frac{2Np}{N+\alpha}} + \|u\|^{\frac{2Nq}{N+\alpha}}\right)^{\frac{N+\alpha}{N}}. $

因为$ \frac{N+\alpha}{N}<p<q<\frac{N+\alpha}{N-2} $, 则$ I_{V, \lambda} $在$ 0 $处取严格局部极小值. 进一步, $ c_{\lambda}>0 $. 引理得证.

由命题3.1和引理3.1可知, 对几乎处处的$ \lambda \in [\frac{1}{2}, 1] $, 存在一个有界的序列$ \{u_{n}(\lambda)\} \subset H^{1}({{\Bbb R}} ^{N}) $ (简单起见, 下面用$ u_{n} $代替$ u_{n}(\lambda) $) 使得, 当$ n \rightarrow \infty $时

(3.1) $ \begin{eqnarray} I_{V, \lambda}(u_{n})\rightarrow c_{\lambda}, \hskip0.5cm I'_{V, \lambda}(u_{n})\rightarrow 0. \end{eqnarray} $

下面考虑如下极限方程

(3.2) $ \begin{eqnarray} -\Delta u + V_{\infty}u= (I_{\alpha}* F(u))f(u), \hskip0.5cm x\in{{\Bbb R}} ^{N}, \end{eqnarray} $

其中$ \lambda \in [\frac{1}{2}, 1] $. 方程(3.2) 的能量泛函$ I^{\infty}_{\lambda}:{{\Bbb R}} ^{N}\rightarrow {{\Bbb R}} $定义为

$ \begin{eqnarray*} I^{\infty}_{\lambda}(u)= \frac{1}{2}\int_{{{\Bbb R}} ^{N}}(|\nabla u |^{2} + V_{\infty}|u|^{2}) {\rm d}x - \frac{\lambda}{2} \int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u))F(u){\rm d}x, \hskip0.3cm u\in H^{1}({{\Bbb R}} ^{N}). \end{eqnarray*} $

令

$ m^{\infty}_{\lambda} = \inf\{ I^{\infty}_{\lambda}(u):u\neq0, I'^{\infty}_{\lambda}(u)=0 \}. $

由文献[20] 可知, 当$ f $满足条件$ \rm (f1)–(f3) $时, 对任意的$ \lambda \in [\frac{1}{2}, 1] $, 方程(3.2) 存在正的基态解$ u^{\infty}_{\lambda} $满足$ I^{\infty}_{\lambda}(u^{\infty}_{\lambda}) = m^{\infty}_{\lambda} $且

$ \begin{eqnarray*} m^{\infty}_{\lambda} = \inf\limits_{\gamma \in \Gamma^{\infty}_{\lambda}}\max\limits_{t\in[0, 1]}I^{\infty}_{\lambda}(\gamma(t)), \end{eqnarray*} $

其中

$ \Gamma^{\infty}_{\lambda} = \{\gamma\in {\cal C}([0, 1], H^{1}({{\Bbb R}} ^{N})) : \gamma(0)=0, I^{\infty}_{\lambda}(\gamma(1))<0 \}. $

引理3.2  假设$ \rm (f1)–(f3) $和$ \rm (V1)–(V3) $成立. 则对任意的$ \lambda \in [\frac{1}{2}, 1] $, 有$ c_{\lambda} < m^{\infty}_{\lambda} $.

证  设$ u^{\infty}_{\lambda} $为方程(3.2) 的解且满足$ I^{\infty}_{\lambda}(u^{\infty}_{\lambda}) = m^{\infty}_{\lambda} $. 由文献[20] 可知存在$ \gamma(t) \in \Gamma^{\infty}_{\lambda} $使得

$ \max\limits_{t\in[0, 1]}I^{\infty}_{\lambda}(\gamma(t))= I^{\infty}_{\lambda}(u^{\infty}_{\lambda})= m^{\infty}_{\lambda}. $

进一步, 由$ (\mbox{V2}) $可得$ \gamma(t)\in \Gamma_{\lambda} $. 因此, 由$ c_{\lambda} $的定义可知, 对任意的$ \lambda \in [\frac{1}{2}, 1] $, 有

$ \begin{eqnarray*} c_{\lambda} \leq \max\limits_{t\in[0, 1]}I_{V, \lambda}(\gamma(t))< \max\limits_{t\in[0, 1]}I^{\infty}_{\lambda}(\gamma(t))=m^{\infty}_{\lambda}. \end{eqnarray*} $

引理3.2得证.

引理3.3  假设$ \rm (f1)–(f3) $和$ \rm (V1)–(V3) $成立. 若给定$ \lambda \in [\frac{1}{2}, 1] $, 设$ \{u_{n}\} $是泛函$ I_{V, \lambda} $的一个有界$ (PS)_{c_{\lambda}} $序列. 则存在$ \{u_{n}\} $的一个子列(仍用$ \{u_{n}\} $表示), 整数$ k\in {\Bbb N}\cup\{0\} $, 点列$ \{z^{j}_{n}\}\subset {{\Bbb R}} ^{N} $, $ \omega^{j}\in H^{1}({{\Bbb R}} ^{N}) $, $ 1\leq j \leq k $, 使得

$ \rm (ⅰ) $$ u_{n} \rightharpoonup u_{0} $于$ H^{1}({{\Bbb R}} ^{N}) $且$ I'_{V, \lambda}(u_{0})=0 $;

$ \rm (ⅱ) $$ |z^{j}_{n}|\rightarrow +\infty $, 且当$ i\neq j $时, $ |z^{j}_{n} - z^{i}_{n}|\rightarrow +\infty $;

$ \rm (ⅲ) $$ \omega^{j} \neq 0 $且$ I'^{\infty}_{\lambda} (\omega^{j}) =0 $, $ 1\leq j \leq k $;

$ \rm (ⅳ) $当$ n \rightarrow \infty $时, $ \|u_{n}-u_{0} -\sum\limits^{k}_{i=1}\omega^{j}(\cdot - z^{j}_{n})\|\rightarrow 0 $;

$ \rm (v) $当$ n \rightarrow \infty $时, $ I_{V, \lambda}(u_{n}) \rightarrow I_{V, \lambda}(u_{0}) + \sum\limits^{k}_{i=1}I^{\infty}_{\lambda}(\omega^{j}) $.

其中约定当$ k=0 $时, 上述结论中不含$ \omega^{j} $及$ \{z^{j}_{n}\} $.

证  因为$ \{u_{n} \} \subset H^{1}({{\Bbb R}} ^{N}) $有界, 则存在$ u_{0} \in H^{1}({{\Bbb R}} ^{N}) $使得$ u_{n} \rightharpoonup u_{0} $于$ H^{1}({{\Bbb R}} ^{N}) $. 任取$ \varphi \in {\cal C}^{\infty}_{0}({{\Bbb R}} ^{N}) $, 由$ \rm (f1)–(f3) $及Rellich定理, 易得

$ \begin{eqnarray*} \lim\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u_{n}))f(u_{n})\varphi {\rm d}x = \int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u_{0}))f(u_{0})\varphi {\rm d}x. \end{eqnarray*} $

于是由(3.1) 式可得

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^{N}}(\nabla u_{0}\nabla \varphi + V(x)u_{0}\varphi){\rm d}x - \lambda\int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u_{0}))f(u_{0})\varphi {\rm d}x=0, \end{eqnarray*} $

即对任意$ \varphi \in {\cal C}^{\infty}_{0}({{\Bbb R}} ^{N}) $, $ \langle I'_{V, \lambda}(u_{0}), \varphi \rangle =0 $. 由于$ {\cal C}^{\infty}_{0}({{\Bbb R}} ^{N}) $在$ H^{1}({{\Bbb R}} ^{N}) $中稠密, 我们可得$ I'_{V, \lambda}(u_{0}) =0. $

令$ u^{1}_{n} = u_{n} - u_{0} $. 显然

(3.3) $ \begin{eqnarray} u^{1}_{n} \rightharpoonup 0, \hskip0.2cm \mbox{于}\hskip0.2cm H^{1}({{\Bbb R}} ^{N}). \end{eqnarray} $

直接计算可得

(3.4) $ \begin{eqnarray} \|u_{n}\|^{2} = \|u^{1}_{n}\|^{2} +\|u_{0}\|^{2} + o_{n}(1). \end{eqnarray} $

由条件$ (\mbox{V2}) $、(3.3) 式及引理2.4可得

(3.5) $ \begin{equation} \int_{{{\Bbb R}} ^{N}} (V(x)-V_{\infty})|u^{1}_{n}|^{2}{\rm d}x =o_{n}(1), \end{equation} $

(3.6) $ \begin{equation} {\cal D}(u_{n}) = {\cal D}(u^{1}_{n}) + {\cal D}( u_{0}) + o_{n}(1). \end{equation} $

于是, 由(3.4)–(3.6) 式可得

(3.7) $ \begin{eqnarray} I_{V, \lambda}(u_{n})=I_{V, \lambda}(u_{0})+I^{\infty}_{\lambda}(u^{1}_{n}) +o_{n}(1). \end{eqnarray} $

另外, 对任意$ \varphi \in {\cal C}^{\infty}_{0}({{\Bbb R}} ^{N}) $, 由条件$ (\mbox{V2}) $、(3.3) 式及引理2.4可得

(3.8) $ \begin{equation} \int_{{{\Bbb R}} ^{N}} (V(x)-V_{\infty})u^{1}_{n}\varphi {\rm d}x =o_{n}(1), \end{equation} $

(3.9) $ \begin{equation} {\cal D}'(u_{n})\varphi ={\cal D}'(u^{1}_{n})\varphi + {\cal D}'(u_{0})\varphi+ o_{n}(1). \end{equation} $

由(3.1), (3.8)和(3.9) 式及$ I'_{V, \lambda}(u_{0}) =0 $可知

(3.10) $ \begin{eqnarray} I'^{\infty}_{\lambda}(u^{1}_{n})=o_{n}(1). \end{eqnarray} $

根据(3.10) 式及$ \{u^{1}_{n} \} \subset H^{1}({{\Bbb R}} ^{N}) $的有界性, 有

(3.11) $ \begin{eqnarray} o_{n}(1) = \langle I'^{\infty}_{\lambda}(u^{1}_{n}), u^{1}_{n} \rangle = \int_{{{\Bbb R}} ^{N}}(|\nabla u^{1}_{n}|^{2} + V_{\infty}|u^{1}_{n}|^{2}){\rm d}x- \lambda {\cal D}'(u^{1}_{n})u^{1}_{n}. \end{eqnarray} $

令

$ \delta_{1} = \limsup\limits_{n\rightarrow \infty}\sup\limits_{z\in {{\Bbb R}} ^{N}}\int_{B_{1}(z)}|u^{1}_{n}|^{2}{\rm d}x. $

若$ \delta_{1} =0 $, 由引理2.2可知: $ u^{1}_{n} \rightarrow 0 $于$ L^{s}( {{\Bbb R}} ^{N}) $, $ s\in (2, \frac{2N}{N-2}) $. 由(2.1)式, (2.3) 式及$ \frac{N+\alpha}{N} < p < q < \frac{N+\alpha}{N-2} $可得

$ \begin{eqnarray*} \lim\limits_{n\rightarrow \infty}\lambda {\cal D}'(u^{1}_{n})u^{1}_{n}=0. \end{eqnarray*} $

由上式及(3.11) 式可知$ u^{1}_{n} \rightarrow 0 $于$ H^{1}({{\Bbb R}} ^{N}) $. 因此, $ u_{n} \rightarrow u_{0} $于$ H^{1}({{\Bbb R}} ^{N}) $, 且$ k=0 $时引理结论成立.

若$ \delta_{1} >0 $, 则存在点列$ \{z^{1}_{n}\}\subset {{\Bbb R}} ^{N} $使得

(3.12) $ \begin{eqnarray} \int_{B_{1}(z^{1}_{n})}|u^{1}_{n}|^{2}{\rm d}x \geq \frac{\delta_{1}}{2}>0. \end{eqnarray} $

设$ \omega^{1}_{n}(x)=u^{1}_{n}(x+z^{1}_{n}) $. 则$ \{\omega^{1}_{n}\} $为$ H^{1}({{\Bbb R}} ^{N}) $中有界序列. 于是存在$ \omega^{1}\in H^{1}({{\Bbb R}} ^{N}) $使得

(3.13) $ \begin{eqnarray} \left\{ \begin{array}{ll} \omega^{1}_{n}\rightharpoonup \omega^{1}, & \hskip0.5cm\mbox{于} \hskip0.1cm H^{1}({{\Bbb R}} ^{N}), \\ \omega^{1}_{n}\rightarrow \omega^{1}, &\hskip0.5cm \mbox{于} \hskip0.1cm L^{s}_{loc}({{\Bbb R}} ^{N}), { } \hskip0.2cm 2\leq s < \frac{2N}{N-2}, \\ \omega^{1}_{n}\rightarrow \omega^{1}, &\hskip0.5cm \mbox{a.e.} \hskip 0.2cm \mbox{于} \hskip0.1cm {{\Bbb R}} ^{N}. \end{array} \right. \end{eqnarray} $

由(3.12)和(3.13) 式可知$ \omega^{1} \neq 0 $. 进一步, 由(3.3) 式可得$ \{z^{1}_{n}\} $为无界点列. 于是选取一个子列(仍用$ \{z^{1}_{n}\} $表示), 有$ |z^{1}_{n}|\rightarrow +\infty $. 由(3.10) 式易得$ I'^{\infty}_{\lambda}(\omega^{1})=0. $

设$ u^{2}_{n}(x) = u^{1}_{n}(x) - \omega^{1}(x - z^{1}_{n}) = u_{n}(x)-u_{0}(x) - \omega^{1}(x - z^{1}_{n}) $. 由引理2.4可得

$ \begin{eqnarray*} I^{\infty}_{\lambda}(u^{2}_{n})= I^{\infty}_{\lambda}(u^{1}_{n})-I^{\infty}_{\lambda}(\omega^{1}) +o_{n}(1). \end{eqnarray*} $

因此, 由(3.7) 式可得

$ \begin{eqnarray*} I_{V, \lambda}(u_{n}) =I_{V, \lambda}(u_{0}) +I^{\infty}_{\lambda}(\omega^{1}) + I^{\infty}_{\lambda}(u^{2}_{n}) +o_{n}(1). \end{eqnarray*} $

另外, 由引理2.4, (3.10) 式及$ I'^{\infty}_{\lambda}(\omega^{1}) =0 $可知

$ \begin{eqnarray*} I'^{\infty}_{\lambda}(u^{2}_{n}) =o_{n}(1). \end{eqnarray*} $

令

$ \delta_{2} = \limsup\limits_{n\rightarrow \infty}\sup\limits_{z\in {{\Bbb R}} ^{N}}\int_{B_{1}(z)}|u^{2}_{n}|^{2}{\rm d}x. $

类似于前面$ \delta_{1} $的证明, 若$ \delta_{2} =0 $, 则$ u^{2}_{n} \rightarrow 0 $于$ H^{1}({{\Bbb R}} ^{N}) $, 即当$ n\rightarrow \infty $时

$ \begin{eqnarray*} \|u_{n}-u_{0}-\omega^{1}(\cdot - z^{1}_{n})\| \rightarrow 0. \end{eqnarray*} $

于是

$ I_{V, \lambda}(u_{n}) =I_{V, \lambda}(u_{0}) +I^{\infty}_{\lambda}(\omega^{1})+o_{n}(1). $

这时引理结论在$ k=1 $时成立. 若$ \delta_{2} >0 $, 则存在一个点列$ \{z^{2}_{n}\}\subset {{\Bbb R}} ^{N} $及$ \omega^{2}\in H^{1}({{\Bbb R}} ^{N})\backslash \{0\} $使得$ \omega^{2}_{n}(x)=u^{2}_{n}(x+z^{2}_{n})\rightharpoonup \omega^{2} $于$ H^{1}({{\Bbb R}} ^{N}) $. 由$ I'^{\infty}_{\lambda}(u^{2}_{n}) = o_{n}(1) $可得$ I'^{\infty}_{\lambda}(\omega^{2}) = 0 $. 进一步, 由$ u^{2}_{n} \rightharpoonup 0 $于$ H^{1}({{\Bbb R}} ^{N}) $, 可知$ \{z^{2}_{n}\} $无界. 因此存在子列(仍用$ \{z^{2}_{n}\} $表示), 有$ |z^{2}_{n}|\rightarrow +\infty $和$ |z^{1}_{n} -z^{2}_{n}|\rightarrow +\infty $.

迭代上述过程, 可得点列$ \{z^{j}_{n}\}\subset {{\Bbb R}} ^{N} $使得$ |z^{j}_{n}|\rightarrow +\infty $和$ |z^{i}_{n} -z^{j}_{n}|\rightarrow +\infty $, $ i\neq j $, 以及函数列

$ \begin{eqnarray*} u^{j}_{n}(x)=u^{j-1}_{n}(x)-\omega^{j-1}(x - z^{j-1}_{n}), \hskip0.2cm j\geq 2 \end{eqnarray*} $

使得$ u^{j}_{n}(x +z^{j}_{n}) \rightharpoonup \omega^{j} $及$ I'^{\infty}_{\lambda}(\omega^{j})=0 $. 进一步, 我们有

$ I_{V, \lambda}(u_{n}) = I_{V, \lambda}(u_{0}) + \sum\limits^{k-1}_{i=1}I^{\infty}_{\lambda}(\omega^{i}) + I^{\infty}_{\lambda}(u^{k}_{n}) +o_{n}(1). $

因为$ \omega^{j} $为方程(3.2) 的非平凡解, 则$ I^{\infty}_{\lambda}(\omega^{j}) \geq m^{\infty}_{\lambda} $. 再由$ I_{V, \lambda}(u_{n}) $的有界性可知迭代必经过有限$ k $次停止, 从而引理3.3得证.

引理3.4  假设$ \rm (f1)–(f3) $和$ (\mbox{V1}) $–$ (\mbox{V3}) $成立, $ \alpha \in (1, N) $. 对任意的$ \lambda \in [\frac{1}{2}, 1] $, 设$ \{u_{n}\}\subset H^{1}({{\Bbb R}} ^{N}) $为泛函$ I_{V, \lambda} $的有界$ (PS)_{c_{\lambda}} $序列. 则存在$ u_{\lambda}\in H^{1}({{\Bbb R}} ^{N})\setminus\{0\} $, 使得$ u_{n}\rightarrow u_{\lambda} $于$ H^{1}({{\Bbb R}} ^{N}) $, 且$ I_{V, \lambda}(u_{\lambda})=c_{\lambda} $.

证  由引理3.3可知, 任取$ \lambda \in [\frac{1}{2}, 1] $, 存在$ k\in {\Bbb N}\cup \{0\} $, $ u_{\lambda}\in H^{1}({{\Bbb R}} ^{N}) $使得$ I'_{V, \lambda}(u_{\lambda})=0 $, $ u_{n}\rightharpoonup u_{\lambda} $于$ H^{1}({{\Bbb R}} ^{N}) $及

(3.14) $ \begin{eqnarray} I_{V, \lambda}(u_{n}) = I_{V, \lambda}(u_{\lambda}) + \sum\limits^{k}_{i=1}I^{\infty}_{\lambda}(\omega^{i}) +o_{n}(1), \end{eqnarray} $

其中$ \{w^{i}\}^{k}_{i=1} $是泛函$ I^{\infty}_{\lambda} $的临界点. 由引理  可知$ u_{\lambda} $满足

$ \begin{eqnarray*} &&\frac{N-2}{2}\int_{{{\Bbb R}} ^{N}}|\nabla u_{\lambda} |^{2}{\rm d}x + \frac{N}{2}\int_{{{\Bbb R}} ^{N}}V(x)|u_{\lambda}|^{2} {\rm d}x + \frac{1}{2}\int_{{{\Bbb R}} ^{N}}\langle\nabla V(x), x\rangle |u_{\lambda}|^{2} {\rm d}x\\ &=&\frac{N+\alpha}{2} \lambda\int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u_{\lambda}))F(u_{\lambda}){\rm d}x. \end{eqnarray*} $

此时, 由$ (\mbox{V1}) $可知

$ \begin{eqnarray*} I_{V, \lambda}(u_{\lambda}) &=&\frac{2+\alpha}{2(N+\alpha)}\int_{{{\Bbb R}} ^{N}}|\nabla u_{\lambda} |^{2}{\rm d}x +\frac{\alpha-1}{2(N+\alpha)}\int_{{{\Bbb R}} ^{N}} V(x) |u_{\lambda}|^{2} {\rm d}x \\ &&+ \frac{1}{2(N+\alpha)}\int_{{{\Bbb R}} ^{N}}\left(V(x)-\langle\nabla V(x), x\rangle\right)|u_{\lambda}|^{2} {\rm d}x\\ &\geq &\frac{2+\alpha}{2(N+\alpha)}\int_{{{\Bbb R}} ^{N}}|\nabla u_{\lambda} |^{2}{\rm d}x +\frac{\alpha-1}{2(N+\alpha)}\int_{{{\Bbb R}} ^{N}} V(x) |u_{\lambda}|^{2} {\rm d}x \geq 0. \end{eqnarray*} $

由上式及(3.14) 式可得

$ c_{\lambda} = \lim\limits_{n\rightarrow \infty}I_{V, \lambda}(u_{n}) =I_{V, \lambda}(u_{\lambda}) + \sum\limits^{k}_{i=1}I^{\infty}_{\lambda}(\omega_{i}) \geq m^{\infty}_{\lambda}, $

这与引理3.2的结论相矛盾. 因此$ k=0 $, 即$ u_{n}\rightarrow u_{\lambda} $于$ H^{1}({{\Bbb R}} ^{N}) $且$ I_{V, \lambda}(u_{\lambda})=c_{\lambda} $. 引理3.4得证.

下面给出定理1.1的证明.

定理1.1的证明  由命题3.1、引理3.1及3.4可知, 对几乎处处的$ \lambda \in [\frac{1}{2}, 1] $, 泛函$ I_{V, \lambda} $具有一个非平凡的临界点$ u_{\lambda} \in H^{1}({{\Bbb R}} ^{N}) $且$ I_{V, \lambda}(u_{\lambda})=c_{\lambda} $. 选取一列$ \{\lambda_{n}\}\subset [\frac{1}{2}, 1] $使得$ \lim\limits_{n\rightarrow \infty}\lambda_{n} =1 $. 于是, 泛函$ I_{V, \lambda_{n}} $具有一列非平凡的临界点$ \{u_{\lambda_{n}} \} $且$ I_{V, \lambda_{n}}(u_{\lambda_{n}}) = c_{\lambda_{n}} $.

下证$ \{u_{\lambda_{n}}\} $的有界性. 显然$ u_{\lambda_{n}} $满足

(3.15) $ \begin{eqnarray} c_{\lambda_{n}} = \frac{1}{2}\int_{{{\Bbb R}} ^{N}}(|\nabla u_{\lambda_{n}} |^{2} + V(x)|u_{\lambda_{n}}|^{2}) {\rm d}x - \frac{\lambda_{n}}{2} \int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u_{\lambda_{n}}))F(u_{\lambda_{n}}){\rm d}x \end{eqnarray} $

及

(3.16) $ \begin{eqnarray} &&\frac{N-2}{2}\int_{{{\Bbb R}} ^{N}}|\nabla u_{\lambda_{n}} |^{2}{\rm d}x + \frac{N}{2}\int_{{{\Bbb R}} ^{N}}V(x)|u_{\lambda_{n}}|^{2} {\rm d}x + \frac{1}{2}\int_{{{\Bbb R}} ^{N}}\langle\nabla V(x), x\rangle |u_{\lambda_{n}}|^{2} {\rm d}x{}\\ & =&\frac{N+\alpha}{2} \lambda_{n}\int_{{{\Bbb R}} ^{N}}(I_{\alpha}*F(u_{\lambda_{n}}))F(u_{\lambda_{n}}){\rm d}x. \end{eqnarray} $

注意到, 映射$ \lambda\mapsto c_{\lambda} $单调减且左连续^[8]. 由(3.15)式, (3.16) 式及$ (\mbox{V1}) $可得

$ \begin{eqnarray*} 2Nc_{\frac{1}{2}} &>&(N+\alpha)c_{\lambda_{n}}\\ &\geq& \frac{\alpha -1}{2}\int_{{{\Bbb R}} ^{N}}(|\nabla u_{\lambda_{n}} |^{2} + V(x)|u_{\lambda_{n}}|^{2}) {\rm d}x + \frac{1}{2} \int_{{{\Bbb R}} ^{N}}\left(V(x)-\langle\nabla V(x), x\rangle\right)|u_{\lambda}|^{2} {\rm d}x\\ &\geq&\frac{\alpha -1}{2}\int_{{{\Bbb R}} ^{N}}(|\nabla u_{\lambda_{n}} |^{2} + V(x)|u_{\lambda_{n}}|^{2}) {\rm d}x. \end{eqnarray*} $

因此, $ \{u_{\lambda_{n}}\} $在$ H^{1}({{\Bbb R}} ^{N}) $中有界. 由(2.2) 和(2.4) 式可得

$ \begin{eqnarray*} \lim\limits_{n\rightarrow \infty}I_{V, 1}(u_{\lambda_{n}})=\lim\limits_{n\rightarrow \infty} \left( I_{V, \lambda_{n}}(u_{\lambda_{n}}) + (\lambda_{n} -1){\cal D}(u_{\lambda_{n}})\right) =\lim\limits_{n\rightarrow \infty}c_{\lambda_{n}} =c_{1}, \end{eqnarray*} $

及对任意$ \varphi \in {\cal C}^{\infty}_{0}({{\Bbb R}} ^{N}) $

$ \begin{eqnarray*} \lim\limits_{n\rightarrow \infty}\langle I'_{V, 1}(u_{\lambda_{n}}), \varphi\rangle=\lim\limits_{n\rightarrow \infty} \left( \langle I'_{V, \lambda_{n}}(u_{\lambda_{n}}), \varphi\rangle + (\lambda_{n} -1){\cal D}'(u_{\lambda_{n}})\varphi \right)=0. \end{eqnarray*} $

于是, $ \{u_{\lambda_{n}} \} $为泛函$ I_{V}=I_{V, 1} $的有界$ (PS)_{c_{1}} $序列. 由引理3.4可知泛函$ I_{V} $存在一个非平凡的临界点$ u_{0} $, 且$ I_{V}(u_{0}) =c_{1} $.

最后证明方程(1.1) 基态解的存在性. 设

$ m= \inf\{ I_{V}(u): u\neq 0, I'_{V}(u)=0\}. $

易得$ 0 < m \leq I_{V}(u_{0}) = c_{1}< +\infty $. 设$ \{u_{n}\} \subset H^{1}({{\Bbb R}} ^{N}) $是$ I_{V} $的一列非平凡临界点, 且$ \lim\limits_{n\rightarrow \infty}I_{V}(u_{n}) = m $. 类似于前面关于$ \{u_{\lambda_{n}}\} $有界性的证明, 可得$ \{u_{n}\} $是$ H^{1}({{\Bbb R}} ^{N}) $中有界列. 再利用引理3.4的讨论可得, 存在$ \overline{u} \in H^{1}({{\Bbb R}} ^{N})\setminus\{0\} $使得$ I_{V}(\overline{u}) =m $且$ I'_{V}(\overline{u}) =0 $. 因此, $ \overline{u} $是方程(1.1)的基态解. 利用正则性技巧及强极值原理, 可知$ \overline{u}>0 $.