本文讨论以下带有位势 $V$ 的薛定谔-泊松(Schrödinger-Poisson)系统 \begin{equation}\label{1.1} \left\{\begin{array}{ll} -\Delta u+\lambda Vu+\phi u=f(x,u),&x\in{\mathbb R}^3,\\ -\Delta\phi=u^2,&x\in{\mathbb R}^3, \end{array}\right.\tag{1.1} \end{equation} 其中 $\lambda \ge 1$ 是一个参数,$f\in C({\mathbb R}^3\times{\mathbb R},{\mathbb R})$. 对于位势 $V$,首先给出以下假设

(V$_1$) $V\in C({\mathbb R}^3,{\mathbb R}_+)$;

(V$_2$) 存在 $b>0$ 使得 meas$\{x\in{\mathbb R}^3 : V(x)≤ b\}<\infty$,其中 meas 表示 ${\mathbb R}^3$ 中的勒贝格测度.

这个系统,也称为非线性薛定谔-麦克斯维尔 (Schrödinger-Maxwell) 系统, 起源于数学物理等领域. 事实上,根据经典的模型,电磁场中带电粒子的相互作用可以由非线性 Schödinger 方程耦合 Poisson 方程来描述,在文献 ^[1] 中有详细的物理方面的背景. 正如文献 ^[2] 所指出的, 从数学的观点来看,这个系统表示一个强制项(由非局部项给出) 和一个吸引项(由非线性项给出)的结合,这两项的相互作用产生了一些结果, 包括解的存在性、 非存在性、多解性以及半经典态情形下解的定量行为,见文献 ^{[3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15]} 等及其中的参考文献. 对于位势函数 $V$,可能是常数、径向对称、周期的, 或是在无穷远点消失的,我们回顾以下一些结果.

情形 1  $V\equiv1$ 或是径向对称的. 因为当 $s\in[2, 6]$ 时,Sobolev嵌入 $H^1({\mathbb R}^3)\hookrightarrow L^s({\mathbb R}^3)$ 不是紧的, 为了获得系统的极小化序列或Palais-Smale序列的收敛性,在文献^{[6, 13, 16, 17, 18]}等中, 都选取 $H^1({\mathbb R}^3)$ 中由所有的径向函数构成的子空间 $H_r^1({\mathbb R}^3)$ 为工作空间,因为由文献^[19],嵌入 $H_r^1({\mathbb R}^3)\hookrightarrow L^s ({\mathbb R}^3),s\in(2,6)$ 是紧的. 其中 $V\equiv1,f(t)=t^p,p\in(1,5)$ 时,Ruiz 在文献^[13]中讨论了系统 (1.1)解的存在性、非存在性以及多解性结果. 文献^[6]考虑了当非线性项为文献^[20]中给出的Berestycki-Lions型假设时问题(1.1)的径向解的存在性. 文献^[17]讨论了非线性项为临界情形时系统非平凡解的存在性.

情形 2  $V$ 和 $f(\cdot,t)$ 为周期函数. 当位势 $V$ 和非线性项 $f$还满足其他的假设时,在文献^[15]中作者讨论了系统非平凡解的存在性.

情形 3  $V$ 为非径向的. 有许多文献都考虑过这种情形. 在^{[12, 21, 22, 23]}等文献中, 为了获得问题的紧性,作者都假设位势函数 $V$ 满足以下条件

(V$_1'$) $V\in C({\mathbb R}^3,{\mathbb R})$,存在 $M>0$,使得 $\inf_{{\mathbb R}^3}V≥ M$;

(V$_2'$) 对每个 $b>0$,meas$\{x\in{\mathbb R}^3 : V(x)≤ b\}<\infty$, meas 表示 ${\mathbb R}^3$ 上的Lebesgue测度.

假设 (V$_2'$) 被称为 steep well potential (见文献^{[24, 25, 26]}). 在 (V$_1'$),(V$_2'$) 的假设下,由文献^[24],空间$\{u\in H^1({\mathbb R}^3):\int_{{\mathbb R}^3}Vu^2<\infty\}$ 可以紧嵌入 $L^s({\mathbb R}^3),s\in[2,6)$.

在文献^[22]中,当 $\lambda=1,V$ 满足 (V$_1'$) 和 (V$_2'$) 时, 作者利用喷泉定理讨论了系统(1.1)无穷多解的存在性,其中非线性项 $f$ 满足以下条件

(f$_1$) $f\in C({\mathbb R}^3\times{\mathbb R},{\mathbb R})$,存在 $c>0$, 使得 $|f(x,t)|≤ c(1+|t|^{p-1}),(x,t)\in{\mathbb R}^3\times{\mathbb R}$, 其中 $p\in(2,6)$;

(f$_2$) $\lim\limits_{t\to0}\frac{f(x,t)}{t}=0$ 关于 $x\in{\mathbb R}^3$ 一致成立;

(f$_3'$) 存在 $\mu>4$,使得对任意的 $x\in{\mathbb R}^3,|t|>1$, \begin{eqnarray*}\mu F(x,t)=\mu\int_{0}^tf(x,s){\rm d}s≤ tf(x,t); \end{eqnarray*}

(f$_4'$) $\inf\limits_{x\in{\mathbb R}^3,|t|=1}F(x,t)>0$;

(f$_5$) $f(x,-t)=-f(x,t),(x,t)\in{\mathbb R}^3\times{\mathbb R}_+$.

文献^[12]通过利用文献^[27]中的定理 2.1改进了文献^[22]的结果, 其中非线性项 $f$ 也是次临界的,在零点超线性的满足(f$_1$), (f$_2$),在无穷远点是超四次的, 不满足(f$_3'$),(f$_4'$),但满足以下假设

(f$_3$) $\lim\limits_{|t|\to\infty}\frac{f(x,t)t}{|t|^4}=\infty$ 关于 $x\in{\mathbb R}^3$ 一致成立;

(f$^*_4$) 对几乎处处的 $x\in{\mathbb R}^3$, $$ {\cal F}(x,t)≤ {\cal F}(x,s),(x,t)\in{\mathbb R}_+\times{\mathbb R}_+,s≤ t, $$ 其中 ${\cal F}(x,t)=tf(x,t)-4F(x,t).$

当位势 $V$ 满足紧性条件 (V$_1'$),(V$_2'$)时,非线性 $f$ 满足以下次线性假设时

(f$_6'$) $f(x,t)=(p+1)b(x)|t|^{p-1}t,(x,t)\in{\mathbb R}^3\times{\mathbb R}$,其中 $p\in(0,1),b\in C({\mathbb R}^3,{\mathbb R}_+)\cap L^{\frac{2}{1-p}}({\mathbb R}^3)$.

在文献^[23]中,作者利用^[27]中的定理 2.2 讨论了当 $\lambda=1$ 时, 系统(1.1)的无穷多负能量解的存在性.

受以上文献的启发,尤其受文献^{[12, 22, 23]}的启发,在这篇论文中,我们首先考虑当位势 $V$ 满足更加一般的假设 (V$_1$),(V$_2$) 时系统(1.1)多个解的存在性. 当位势 $V$ 满足 (V$_1$),(V$_2$) 时,嵌入 $E=\{u\in H^1({\mathbb R}^3): \int_{{\mathbb R}^3}Vu^2<\infty\}\hookrightarrow L^s({\mathbb R}^3),s\in[2,6)$ 不是紧的.为了得到问题的紧性,我们需要在空间 $E_\lambda (\lambda≥1)$ 中考虑,其中 $E_\lambda=(E,\|\cdot\|_\lambda),\|u\|_\lambda^2=\int_{{\mathbb R}^3} [|\nabla u|^2+\lambda Vu^2],u\in E$. 这里我们假设 $f$ 是次临界的满足条件 (f$_1$), 在零点是超线性的满足条件 (f$_2$),在无穷远点超-4次的满足 (f$_3$),并且满足以下的条件

(f$_4$) 对任意的 $(x,t)\in{\mathbb R}^3\times{\mathbb R},{\cal F}(x,t)=tf(x,t)-4F(x,t)≥-d_0t^2$,其中 $0≤ d_0<u_2^{-2},u_2$ 是连续嵌入 $E_\lambda\hookrightarrow L^2({\mathbb R}^3)$ 的嵌入系数.

其中假设 (f$_3$),(f$_4$) 比 (f$_3'$) 和 (f$_4'$) 更一般.我们将用山路定理讨论系统(1.1)解的存在性与多解性,结果如下

定理1.1 假设 $V$ 满足条件 (V$_1$),(V$_2$),$f$ 满足条件 (f$_1$)--(f$_4$),则存在 $\Lambda>1$,使得当 $\lambda>\Lambda$ 时,系统(1.1)至少存在一个非平凡解. 而且若 $f$ 关于 $t$ 是奇函数时,即 $f$ 满足

(f$_5$) $f(x,-t)=-f(x,t),(x,t)\in{\mathbb R}^3\times{\mathbb R}_+$,则当$\lambda>\Lambda$时,系统(1.1)存在无穷多解$\{(u_k,\phi_k)\}$,且满足 \begin{eqnarray*} \frac12\int_{{\mathbb R}^3}[|\nabla u_k|^2+Vu_k^2]-\frac14\int_{{\mathbb R}^3}|\nabla\phi_k|^2+\frac12\int_{{\mathbb R}^3}\phi_ku_k^2-\int_{{ \mathbb R}^3}F(x,u_k)\to\infty,k\to\infty.\end{eqnarray*}

在这篇论文中,我们还讨论了当非线性项 $f$ 满足比 (f$_6'$) 更一般的次线性假设时系统(1.1)无穷多负能量解的存在性. 即 $f$ 满足以下的条件

(f$_6$) 存在 $\sigma_i\in(1,2)$ 及函数 $\eta_i\in L^{\frac{2}{2-\sigma_i}}({\mathbb R}^3,{\mathbb R}_+),i=1,2$,使得 \begin{eqnarray*} |f(x,t)|≤\sum_{i=1}^2\sigma_i\eta_i(x)|t|^{\sigma_i-1},(x,t)\in{\mathbb R}^3\times{\mathbb R}; \end{eqnarray*}

(f$_7$) 存在 $x_0\in{\mathbb R}^3$,两个序列 $\{\varepsilon_n\},\{M_n\}$ 及常数 $c,\varepsilon,\delta>0$,使得 $\varepsilon_n>0,M_n>0$ 以及 \begin{eqnarray*} &&\lim\limits_{n\to\infty}\varepsilon_n=0,\lim\limits_{n\to\infty}M_n=\infty,\\ &&\mbox{当} |x-x_0|≤\delta,|t|=\varepsilon_n \mbox{时,} \varepsilon_n^{-2}F(x,t)≥ M_n,\\ &&\mbox{当} |x-x_0|≤\delta,|t|≤\varepsilon \mbox{时,} t^{-2}F(x,t)≥-c.\end{eqnarray*}

假设 (f$_6$),(f$_7$) 是由文献^[28]在讨论四阶椭圆方程无穷多解的存在性时引入的条件, 并且条件 (f$_6$),(f$_7$) 是比 (f$_6'$) 更弱的次线性条件.由于Schrödinger-Poisson系统含有非局部项 $\phi_u u$,当 $f$ 仅满足条件 (f$_6$) 和 (f$_7$) 时,为了得到问题的紧性,对位势函数 $V$,我们仍假设满足紧性条件 (V$_1'$),(V$_2'$). 我们将用对称山路临界点定理讨论当 $f$ 关于 $t$ 是奇函数时系统(1.1)无穷多解的存在性,主要结果如下

定理1.2  \label{thm:1.2} 设 $V$ 满足 (V$_1'$) 和 (V$_2'$),$f$ 满足条件 (f$_5$)--(f$_7$),则系统 (1.1) 当 $\lambda=1$ 时存在无穷多非平凡解 $\{(u_k,\phi_k)\}$. 且当 $k\to\infty$时,$u_k\to0,\phi_k>0$,以及 \begin{eqnarray*} \frac12\int_{{\mathbb R}^3}[|\nabla u_k|^2+Vu_k^2]-\frac14\int_{{\mathbb R}^3}|\nabla\phi_k|^2+\frac12\int_{{\mathbb R}^3}\phi_ku_k^2-\int_{{ \mathbb R}^3}F(x,u_k)\to0^-,k\to\infty.\end{eqnarray*}

例^[28]  设 \[f(x,t)=\left\{ \begin{array}{*{35}{l}} |x|{{\text{e}}^{-|x{{|}^{2}}}}\left[ \alpha |t{{|}^{\alpha -2}}t{{\sin }^{2}}\left( \frac{1}{|t{{|}^{\varepsilon }}} \right)-\varepsilon |t{{|}^{\alpha -\varepsilon -2}}t\sin \left( \frac{2}{|t{{|}^{\varepsilon }}} \right) \right], & t\ne 0, \\ 0, & t=0, \\ \end{array} \right.\] 其中 $\varepsilon>0$ 充分小,$\alpha\in(1+\varepsilon,2)$. 则可以验证函数 $f$ 满足假设 (f$_6$). 并且通过计算可以得到 \[F(x,t)=\left\{ \begin{array}{*{35}{l}} |x|{{\text{e}}^{-|x{{|}^{2}}}}|t{{|}^{\alpha }}{{\sin }^{2}}\left( \frac{1}{|t{{|}^{\varepsilon }}} \right), & t\ne 0, \\ 0, & t=0. \\ \end{array} \right.\] 取 $\varepsilon_n=\big(\frac{2}{(2n+1)\pi}\big)^{1/\varepsilon}$,则可以验证 $f$ 满足 (f$_7$).

这篇论文的结构如下,在第二节中,我们给出一些预备知识和问题的变分结构, 在第三节中给出定理 1.1 的证明,在第四节中我们考虑次线性情形, 给出定理 1.2 的证明.

设 $$E=\bigg\{u\in H^1({\mathbb R}^3): \int_{{\mathbb R}^3}Vu^2<\infty\bigg\}, $$ 其上的内积和范数分别定义为 $$(u,v)=\int_{{\mathbb R}^3}[\nabla u\nabla v+Vuv], ~~\|u\|=(u,u)^{1/2}. $$ 则由 (V$_1$),$E$ 是一个 Hilbert 空间. 我们还需要下面的内积和范数 $$(u,v)_\lambda=\int_{{\mathbb R}^3}[\nabla u\nabla v+\lambda Vuv], ~~\|u\|_\lambda=(u,u)_\lambda^{1/2}. $$ 记 $E_\lambda=(H^1({\mathbb R}^3),\|\cdot\|_\lambda),|\cdot|_s$ 表示通常的 $L^s({\mathbb R}^3)$ 范数,设 ${\cal D}^{1,2}({\mathbb R}^3)$ 是 $C_0^{\infty}({\mathbb R}^3)$ 在范数 $\|u\|_{{\cal D}^{1,2}}=(\int_{{\mathbb R}^3}|\nabla u|^2)^{1/2}$下的完备化空间. 众所周知,嵌入 ${\cal D}^{1,2}({\mathbb R}^3)\hookrightarrow L^6({\mathbb R}^3)$ 是连续的,记 $S>0$ 表示嵌入系数,即 \begin{equation}\label{1} |u|_6^2≤ S^{-1}\|u\|_{{\cal D}^{1,2}}^2,u\in {\cal D}^{1,2}({\mathbb R}^3).\tag{2.1} \end{equation} 当位势 $V$ 满足假设 (V$_1$),(V$_2$) 时,我们取 $E_\lambda$ 为工作空间. 关于空间 $E$ 和 $E_\lambda$,有如下的嵌入结果

引理2.1  在 (V$_1$),(V$_2$) 的假设下,空间 $E$ 可以连续嵌入 $H^1({\mathbb R}^3)$ 中. 因此,$E_\lambda(\lambda≥1)$ 可以连续嵌入 $L^s({\mathbb R}^3),s\in [2, 6]$ 中,即对每个 $s\in[2, 6]$,存在 $u_s>0$ 不依赖于 $\lambda$,使得 \begin{equation}\label{pp} |u|_s≤u_s\|u\|_\lambda,~~ u\in E_\lambda.\tag{2.2} \end{equation} 证  由Hölder不等式及(2.1)式, \begin{eqnarray*} \int_{{\mathbb R}^3}u^2&=&\int_{\{V≤ b\}}u^2+\int_{\{V>b\}}u^2\\ &≤&\bigg(\int_{\{V≤ b\}}1\bigg)^{2/3}\bigg(\int_{\{V≤ b\}}u^6\bigg)^{1/3}+\frac1b\int_{\{V>b\}}Vu^2\\ &≤&\left|\{V≤ b\}\right|^{2/3}S^{-1}\int_{{\mathbb R}^3}|\nabla u|^2+\frac1b\int_{{\mathbb R}^3}Vu^2, \end{eqnarray*} 于是, \begin{eqnarray*} \int_{{\mathbb R}^3}[|\nabla u|^2+u^2]&≤&\left(1+\left|\{V≤ b\}\right|^{2/3}S^{-1}\right)\int_{{\mathbb R}^3}|\nabla u|^2+\frac1b\int_{{\mathbb R}^3}Vu^2\\ &≤&\max\bigg\{1+\left|\{V≤ b \}\right|^{2/3}S^{-1},\frac1b\bigg\} \int_{{\mathbb R}^3}[|\nabla u|^2+Vu^2], \end{eqnarray*} 即 $E$ 可以连续嵌入 $H^1({\mathbb R}^3)$ 中. 因为对任意的 $\lambda≥1,\|u\|_\lambda≥\|u\|$,并且 $H^1({\mathbb R}^3)$ 可以连续嵌入 $L^s({\mathbb R}^3),s\in[2, 6]$ 中. 因此,$E_\lambda (\lambda≥1)$ 可以连续嵌入 $L^s({\mathbb R}^3)$ 中,$s\in[2, 6]$,并且嵌入系数 $u_s$ 与 $\lambda≥1$ 无关.

与其他讨论Schrödinger-Poisson系统的方法类似,系统(1.1)可以转化为只含有一个变量的方程, 即由Lax-Milgram定理,对任意的 $u\in H^1({\mathbb R}^3)$,系统 (1.1) 的第二个方程有唯一的解 $\phi_u\in {\cal D}^{1,2}({\mathbb R}^3)$. 即在文献^{[1, 9, 13]}等中有如下的结果

引理2.2  对任意的 $u\in H^1({\mathbb R}^3)$,存在唯一的 $\phi_u\in{\cal D}^{1,2}({\mathbb R}^3)$是 $$ -\Delta\phi=u^2,~~ x\in{\mathbb R}^3 $$ 的弱解. 而且

(i) $\|\phi_u\|^2_{{\cal D}^{1,2}({\mathbb R}^3)}=\int_{{\mathbb R}^3}\phi_u u^2$;

(ii) $\phi_u≥0$,并且若 $ue0,\phi_u>0$;

(iii) 对任意的 $te0,\phi_{tu}=t^2\phi_u$;

(iv) $\|\phi_u\|_{{\cal D}^{1,2}({\mathbb R}^3)}≤ S^{-\frac12}|u|_{12/5}^2,$
且 $$ \int_{{\mathbb R}^3}\phi_uu^2=\int_{{\mathbb R}^3}|\nabla\phi_u|^2 ≤ S^{-1}|u|_{12/5}^4,~~ u\in H^1({\mathbb R}^3), $$ 其中 $S>0$ 是由(2.1)式给出的由 ${\cal D}^{1,2}({\mathbb R}^3)$ 到 $L^6({\mathbb R}^3)$ 的嵌入系数;

(v) 若在 $H^1({\mathbb R}^3)$ 中,当 $n\to\infty$ 时,$u_n\rightharpoonup u,u_n(x)\to u(x)$,a.e. $x\in {\mathbb R}^3$,则有 $$ \mbox{在} {\cal D}^{1,2}({\mathbb R}^3) \mbox{中,} \phi_{u_n}-\phi_{u_n-u}-\phi_u\to0, $$ $$ \int_{{\mathbb R}^3}\phi_{u_n}u_n^2-\int_{{\mathbb R}^3}\phi_{u_n-u}(u_n-u)^2-\int_{{\mathbb R}^3}\phi_uu^2\to0, $$ 对任意的$ w\in H^1({\mathbb R}^3),$ $$ \int_{{\mathbb R}^3}\phi_{u_n}u_nw-\int_{{\mathbb R}^3}\phi_{u_n-u}(u_n-u)w-\int_{{\mathbb R}^3}\phi_uuw\to0.$$ 证  我们只证明结论(v). 令 $v_n=u_n-u$,则在 $H^1({\mathbb R}^3)$ 中,$v_n\rightharpoonup0$, 由中值公式, \begin{eqnarray*} \left||v_n+u|^2-|v_n|^2-|u|^2\right|≤2|v_n+\theta u||u|+|u|^2≤2|v_n||u|+3|u|^2.\end{eqnarray*} 对任意的 $\varepsilon>0$,由Young不等式,存在 $C_\varepsilon>0$,使得 $$ \left||v_n+u|^2-|v_n|^2-|u|^2|\right|≤\varepsilon|v_n|^2+C_\varepsilon|u|^2.$$ 令 $$ h_{\varepsilon,n}=\max\{\left||v_n+u|^2-|v_n|^2-|u|^2\right|-\varepsilon|v_n|^2,0\}, $$ 则有 $$ \mbox{对几乎处处的} x\in{\mathbb R}^3,h_{\varepsilon,n}(x)\to0,\mbox{并且} 0≤ h_{\varepsilon,n}≤ C_\varepsilon|u|^2\in L^{6/5}({\mathbb R}^3), $$ 从而由Lebesgue控制收敛定理, $$ \int_{{\mathbb R}^3}h_{\varepsilon,n}^{6/5}\to0,n\to\infty.$$ 由 $h_{\varepsilon,n}$ 的定义, $$ \left||v_n+u|^2-|v_n|^2-|u|^2\right|≤\varepsilon|v_n|^2+h_{\varepsilon,n}, $$ 从而 $$ \limsup_{n\to\infty}\int_{{\mathbb R}^3}\left||v_n+u|^2-|v_n|^2-|u|^2\right|^{6/5}≤ C\varepsilon, $$ 即在 $L^{6/5}({\mathbb R}^3)$ 中, \begin{equation}\label{p1}\left||v_n+u|^2-|v_n|^2-|u|^2\right|\to0.\tag{2.3} \end{equation} 于是,对任意的 $w\in H^1({\mathbb R}^3)$, \begin{eqnarray*} \left|\int_{{\mathbb R}^3}\nabla(\phi_{v_n+u}-\phi_{v_n}-\phi_u)\nabla w\right| &≤&\int_{{\mathbb R}^3}||v_n+u|^2-|v_n|^2-|u|^2||w|\\ &≤&|w|_6 \left||v_n+u|^2-|v_n|^2-|u|^2\right|_{6/5}\\ &≤ &C\|w\|_{H^1({\mathbb R}^3)}\left||v_n+u|^2-|v_n|^2-|u|^2\right|_{6/5}.\end{eqnarray*} 因此,在 ${\cal D}^{1,2}({\mathbb R}^3)$ 中, $$ \phi_{u_n}-\phi_{u_n-u}-\phi_u\to0,~~ n\to\infty.$$ 从而由 Hölder 不等式及(2.3)式, \begin{eqnarray*} &&\int_{{\mathbb R}^3}\phi_{u_n}u_n^2-\phi_{u_n-u}(u_n-u)^2-\phi_uu^2\\ &=&\int_{{\mathbb R}^3}(\phi_{u_n}-\phi_{u_n-u}-\phi_u)u_n^2+\int_{{\mathbb R}^3}\phi_{u_n-u}(u_n^2-(u_n-u)^2-u^2)\\ &&+\int_{{\mathbb R}^3}\phi_{u_n-u}u^2+\int_{{\mathbb R}^3}\phi_u(u_n^2-u^2)\to0 \end{eqnarray*} 其中对于 $\int_{{\mathbb R}^3}\phi_{u_n-u}u^2\to0$,是由于当 $u_n-u\rightharpoonup0$ 时, 在 ${\cal D}^{1,2}({\mathbb R}^3)$ 中,$\phi_{u_n-u}\rightharpoonup0$.

对于任意的 $w\in H^1({\mathbb R}^3)$, \begin{eqnarray*} &&\left|\int_{{\mathbb R}^3}(\phi_{u_n}u_n-\phi_{u_n-u}(u_n-u)-\phi_uu)w\right|\\ &≤&\left|\int_{{\mathbb R}^3}(\phi_{u_n}-\phi_{u_n-u}-\phi_u)u_nw\right|+\left|\int_{{\mathbb R}^3}\phi_{u_n-u}uw\right| +\left|\int_{{\mathbb R}^3}\phi_u(u_n-u)w\right|\to0, \end{eqnarray*} 对于 $\left|\int_{{\mathbb R}^3}\phi_u(u_n-u)w\right|\to0$,是由于 $\phi_uw\in L^{12/7}({\mathbb R}^3)$,而在 $L^{12/5}({\mathbb R}^3)$ 中 $u_n\rightharpoonup u$.

由引理 2.1 和引理 2.2,系统(1.1)解的存在性转化为以下定义在 $E_\lambda$ 上的只含有一个变量的泛函的临界点的存在性 \begin{eqnarray*} J_\lambda(u)=\frac12\int_{{\mathbb R}^3}[|\nabla u|^2+\lambda Vu^2]+\frac14\int_{{\mathbb R}^3}\phi_uu^2-\int_{{\mathbb R}^3}F(x,u).\end{eqnarray*} 由条件 (f$_1$),(f$_2$),对任意的 $\varepsilon>0$,存在$C_\varepsilon>0$,使得 \begin{equation}\label{2.3.3} \left|f(x,t)\right|≤\varepsilon|t|+C_\varepsilon|t|^{p-1}, (x,t)\in{\mathbb R}^3\times{\mathbb R} \tag{2.4} \end{equation} 以及 \begin{equation}\label{2.3.4} \left|F(x,t)\right|≤\varepsilon|t|^2+C_\varepsilon|t|^p,(x,t)\in {\mathbb R}^3\times{\mathbb R}.\tag{2.5} \end{equation} 从而,由 (2.4),(2.5) 式及引理 2.1 和引理 2.2,$J_\lambda$ 是定义在 $E_\lambda$ 上的 $C^1$ 泛函,并且对任意的 $u,v\in E_\lambda$, $$ (J_\lambda(u),v)=\int_{{\mathbb R}^3}[\nabla u\nabla v+\lambda Vuv] +\int_{{\mathbb R}}\phi_uuv-\int_{{\mathbb R}^3}f(x,u)v.$$

在定理 1.1 的假设下,我们将用山路定理来证明主要结果. 首先回顾一下相关的结果.

引理2.3^[29]  设 $E$ 是实 Banach 空间,$E^*$ 是其共轭空间,且假设 $I\in C^1(E,{\mathbb R})$ 满足, 对某 $\mu,\eta,\rho>0$ 及 $e\in E$ 且 $\|e\|>\rho$,有 $$ \max\{I(0),I(e)\}≤ \mu<\eta≤\inf_{\|u\|=\rho}I(u).$$ 令 $c≥\eta$ 定义为 $$ c=\inf_{\gamma\in\Gamma}\max_{t\in[0, 1]}I(\gamma(t)), $$ 其中 $\Gamma=\{\gamma\in C([0, 1],E):\gamma(0)=0,\gamma(1)=e\}$ 是连接 $0$ 和 $e$ 的所有连续道路的集合,那么存在序列 $\{u_n\}\subset E$,使得 $$ I(u_n)\to c≥\eta\mbox{ 且} (1+\|u_n\|)\|I'(u_n)\|_{E^*}\to0.$$

这种序列通常称为 Cerami 序列,简记为 (C)$_c$ 序列.

如果对泛函 $I$ 的任意 (C)$_c$ 序列,都有收敛子列,那么我们称泛函 $I$ 满足 (C)$_c$ 条件. 如果对任意 $c\in{\mathbb R}$,泛函 $I$ 都满足 (C)$_c$ 条件, 则称泛函 $I$ 满足 (C) 条件.

引理2.4^[30]  设 $E$ 是实 Banach 空间, $E=Y\oplus Z$,其中 $Y$ 是有限维的. 若 $I\in C^1(E,{\mathbb R})$ 满足 (C) 条件,并且有

(i) $I(0)=0,I(-u)=I(u),u\in E$;

(ii) 存在 $\rho,\alpha>0$,使得 $I|_{{\partial B_\rho}\cap Z}≥\alpha$;

(iii) 对 $E$ 的任意有限维子空间 $\widetilde{E}$,存在 $R=R(\widetilde{E})>0$,使得 $I_{\widetilde{E}\setminus{B_R}}≤0$,则泛函 $I$ 存在一个无界的临界值序列.

我们将用文献^[31]中的对称山路引理来证明定理 1.2. 以下给出相关的定义和结果.

设 $E$ 是一个 Banach 空间, \begin{eqnarray*} \Gamma=\{A\subset E\setminus\{0\}: A\mbox{ 是关于原点对称的闭集}\}.\end{eqnarray*} 定义 $\Gamma_k=\{A\in\Gamma: \gamma(A)≥ k\}$,其中 \begin{eqnarray*} \gamma(A):=\inf\{m\in{\mathbb N}: \mbox{ 存在 }h\in C(A,{\mathbb R}^m\setminus\{0\}), \mbox{使得}-h(x)=h(-x)\}, \end{eqnarray*} 如果对任意的 $m\in{\mathbb N}$,不存在这样的函数 $h$,则规定 $\gamma(A)=+\infty$.

引理2.5^[31]  设 $E$ 是一个无穷维 Banach 空间, $I\in C^1(E,{\mathbb R})$ 为偶泛函,$I(0)=0$,并且满足以下条件:

(i) $I$ 有下界满足 (PS) 条件;

(ii) 对每个 $k\in{\mathbb N}$,存在一个 $A_k\in\Gamma_k$,使得 $\sup_{A_k}I<0$.则下面两条至少有一条成立

(1) 存在一个序列 $\{u_k\}$,使得 $I'(u_k)=0,I(u_k)<0$,并且 $\{u_k\}\to0,k\to\infty$;

(2) 存在两个序列 $\{u_k\},\{v_k\}$,使得 $I'(u_k)=0,I(u_k)=0,u_keq0, \lim\limits_{k\to\infty}u_k=0,$ $I'(v_k)=0,$ $I(v_k)<0,$ $\lim\limits_{k\to\infty}I(v_k)=0,\{v_k\}$ 收敛到一个非零的极限.

注2.1  由对称山路引理 2.5,可以得到泛函 $I$ 存在一个临界点序列 $\{u_k\}$, 使得 $I(u_k)≤0,$ $u_keq0$ 以及 $\lim\limits_{k\to\infty}u_k=0$.

为了克服Sobolev嵌入缺乏紧性以及验证泛函$J_\lambda$满足(C)条件,我们需要以下的结果.

引理2.6  设在 $E_\lambda$ 中,$u_n\rightharpoonup u$,则存在 $\{u_n\}$ 的子列,仍记为 $\{u_n\}$, 使得当 $n\to\infty$ 时, \begin{equation}\label{2.3.6} J_\lambda(u_n)-J_\lambda(u_n-u)-J_\lambda(u)\to0,J'_\lambda(u_n)-J'_\lambda(u_n-u)-J'_\lambda(u)\to0.\tag{2.6} \end{equation} 特别的,若 $\{u_n\}$ 还是 $J_\lambda$ 的 (PS)$_d$ 序列,设 $J_\lambda(u_n)\to d$,则有 $$ J'_\lambda(u)=0,J_\lambda(u_n-u)\to d-J_\lambda(u),J'_\lambda(u_n-u)\to0,n\to\infty.$$

证  由在 $E_\lambda$ 中,$u_n\rightharpoonup u$,则 $(u_n,u)_\lambda\to\|u\|^2_\lambda$,且 $$ \|u_n-u\|^2_\lambda=(u_n-u,u_n-u)_\lambda=\|u_n\|^2_\lambda-\|u\|^2_\lambda+o(1), $$ 并且,对任意的 $\phi\in E_\lambda$, $$ (u_n,\phi)_\lambda=(u_n-u,\phi)_\lambda+(u,\phi)_\lambda.$$ 由引理 2.2 (v),要证明 (2.6) 式,只需要证明以下两个式子成立 \begin{equation}\label{2.3.7} \int_{{\mathbb R}^3}[F(x,u_n)-F(x,u_n-u)-F(x,u)]\to0,n\to\infty \tag{2.7} \end{equation} 以及 $$ \sup_{\phi\in E_\lambda,\|\phi\|_\lambda=1}\int_{{\mathbb R}^3}(f(x,u_n)-f(x,u_n-u)-f(x,u))\phi \to0,n\to\infty.$$ 以下只证明 (2.7)式.

令 $w_n=u_n-u$,则在 $E_\lambda$ 中 $w_n\rightharpoonup0$,且对几乎处处的 $x\in{\mathbb R}^3,w_n(x)\to0$,(不妨设存在子列,仍记为 $\{w_n\}$). 则由中值公式及 (2.4)式, \begin{eqnarray*} |F(x,w_n+u)-F(x,w_n)|&≤&\int_0^1|f(x,w_n+su)u|{\rm d}s\\ &≤&\int_0^1(\varepsilon|w_n+su|+C_\varepsilon|w_n+su|^{p-1})|u|{\rm d}s\\ &≤ &C(\varepsilon|w_n||u|+\varepsilon|u|^2+C_\varepsilon|w_n|^{p-1}|u|+C_\varepsilon|u|^p), \end{eqnarray*} 由 Young 不等式可以得到 $$ \left|F(x,w_n+u)-F(x,w_n)\right|≤ C(\varepsilon w^2_n+\varepsilon u^2+\varepsilon|w_n|^p+C_\varepsilon|u|^p).$$ 令 $$H_{\varepsilon,n}(x)=\max\{\left|F(x,w_n+u)-F(x,w_n)-F(x,u)\right|-C\varepsilon(w^2_n+|w_n|^p),0\}, $$ 则有 $$ 0≤ H_{\varepsilon,n}≤ C(\varepsilon|u|^2+C_\varepsilon|u|^p)\in L^1({\mathbb R}^3), $$ 于是,由 Lebesgue 控制收敛定理, $$ \int_{{\mathbb R}^3}H_{\varepsilon,n}\to0,n\to\infty.$$ 由 $H_{\varepsilon,n}$ 的定义, $$ |F(x,w_n+u)-F(x,w_n)-F(u)|≤ C\varepsilon(w^2_n+|w_n|^p)+H_{\varepsilon,n}, $$ 从而当 $n$ 充分大时 $$ \left|\int_{{\mathbb R}^3}F(x,w_n+u)-F(x,w_n)-F(u)\right|≤ C\varepsilon\int_{{\mathbb R}^3}[w^2_n+|w_n|^p]+\varepsilon≤ C\varepsilon.$$ 若 $\{u_n\}$ 还是 $J_\lambda$ 的 (PS)$_d$ 序列,即 $J_\lambda'(u_n)\to0,J_\lambda(u_n)\to d$ 有界,由 $u_n\rightharpoonup u$,则对任意的 $\phi\in C_0^{\infty}({\mathbb R}^3)$,可以得到 $(J_\lambda'(u),\phi)=0$, 由 $C_0^{\infty}({\mathbb R}^3)$ 在 $E_\lambda$ 中稠密,故可得 $J_\lambda'(u)=0$.

在这一节中,我们应用引理 2.3 和 2.4 来证明定理 1.1. 当非线性项 $f$ 满足假设 (f$_1$)--(f$_3$) 时,首先验证泛函 $J_\lambda$ 具有山路几何结构.

引理3.1  假设 (V$_1$),(V$_2$) 成立,$f$ 满足 (f$_1$)--(f$_3$). 则有

(1) 存在 $\rho>0,\alpha>0$,使得 $\inf_{\partial B_\rho}J_\lambda≥\alpha$;

(2) 存在 $e\in E_\lambda$,使得当 $\|e\|_\lambda>\rho$ 时,$J_\lambda(e)<0$.

证  (1) 由 (2.2) 及 (2.5)式,对 $\varepsilon\in(0,\frac12u_2^{-2})$, $$ J_\lambda(u) ≥ \frac12\|u\|^2_\lambda-\varepsilon|u|_2^2-C_\varepsilon|u|_p^p ≥ \Big(\frac12-\varepsilon u_2^2\Big)\|u\|^2_\lambda-C_\varepsilon u_p^p\|u\|^p_\lambda, $$ 由 $p>2$,则存在 $\rho>0$ 充分小及 $\alpha>0$,使得结论成立.

(2) 设 $\widetilde{E_\lambda}$ 是 $E_\lambda$ 的任一个有限维子空间, 由于有限维空间上的范数均等价,则对任意的 $u\in \widetilde{E_\lambda}$, 存在 $C_0=C_0(\widetilde{E_\lambda})>0$,使得 $$ |u|_4≥ C_0\|u\|_\lambda.$$ 由条件 (f$_3$) 以及 (2.5) 式可以得到,存在 $C_1,C_2>0$,使得 $$ F(x,t)≥ C_1|t|^4-C_2|t|^2,~~ (x,t)\in{\mathbb R}^3\times{\mathbb R}, $$ 其中 $C_1$ 可取得充分大使得 $C_1>\frac14S^{-1}u_{12/5}^4C_0^{-4}$. 于是, 对任意的 $u\in\widetilde{E_\lambda}$,%由 $E_\lambda$ 可以嵌入 $H^1({\mathbb R}^3)$, 由引理 2.2 (iv) 及 (2.2)式, \[\begin{align} & {{J}_{\lambda }}(u)=\frac{1}{2}\|u\|_{\lambda }^{2}+\frac{1}{4}\int_{{{\mathbb{R}}^{3}}}{{{\phi }_{u}}}{{u}^{2}}-\int_{{{\mathbb{R}}^{3}}}{F}(x,u) \\ & \le \frac{1}{2}\|u\|_{\lambda }^{2}+\frac{1}{4}{{S}^{-1}}|u|_{12/5}^{4}-{{C}_{1}}|u|_{4}^{4}+{{C}_{2}}|u|_{2}^{2} \\ & \le \frac{1}{2}\|u\|_{\lambda }^{2}+\frac{1}{4}{{S}^{-1}}u_{12/5}^{4}\|u\|_{\lambda }^{4}-{{C}_{1}}C_{0}^{4}\|u\|_{\lambda }^{4}+{{C}_{2}}u_{2}^{2}\|u\|_{\lambda }^{2} \\ & =(\frac{1}{2}+{{C}_{2}}u_{2}^{2})\|u\|_{\lambda }^{2}-({{C}_{1}}C_{0}^{4}-\frac{1}{4}{{S}^{-1}}u_{12/5}^{4})\|u\|_{\lambda }^{4}, \\ \end{align}\] 由 $C_1$ 的取法知,存在 $e\in E_\lambda$,使得当 $\|e\|_\lambda>\rho$ 充分大时,$J_\lambda(e)<0.$

对任意的 $\lambda≥1$,定义 $$ c_\lambda=\inf_{\gamma\in\Gamma_\lambda}\max_{t\in[0,1]}J_\lambda(\gamma(t)), $$ 其中 $$\Gamma_\lambda=\{\gamma\in C([0, 1],E_\lambda): \gamma(0)=0, \gamma(1)=e\}.$$

以下我们证明当 $\lambda$ 充分大时泛函 $J_\lambda$ 满足 (C) 条件.

引理3.2  设 $V$ 满足 (V$_1$),(V$_2$),$f$ 满足假设 (f$_1$),(f$_2$) 和 (f$_4$). 则存在 $\Lambda>1$,使得当 $\lambda>\Lambda$ 时,泛函 $J_\lambda$ 满足 (C) 条件.

证  设 $\{u_n\}$ 是 $J_\lambda$ 的 (C) 序列,设 $$ J_\lambda(u_n)\to d,(1+\|u_n\|_\lambda)\|J'_\lambda(u_n)\|\to0,~~n\to\infty, $$ 其中常数 $d>0$. 则有 $$|(J'_\lambda(u_n),u_n)|≤\|J'_\lambda(u_n)\| \|u_n\|_\lambda\to0,~~n\to\infty.$$ 由条件 (f$_4$),当 $n$ 充分大时, \[\begin{align} & d+1\ge {{J}_{\lambda }}({{u}_{n}})-\frac{1}{4}({{{{J}'}}_{\lambda }}({{u}_{n}}),{{u}_{n}}) \\ & =\frac{1}{4}\|{{u}_{n}}\|_{\lambda }^{2}+\frac{1}{4}\int_{{{\mathbb{R}}^{3}}}{F}(x,{{u}_{n}}) \\ & \ge \frac{1}{4}\left( \|{{u}_{\lambda }}\|_{\lambda }^{2}-{{d}_{0}}|{{u}_{\lambda }}|_{2}^{2} \right) \\ & \ge \frac{1}{4}(1-{{d}_{0}}u_{2}^{2})\|{{u}_{n}}\|_{\lambda }^{2}, \\ \end{align}\] 即 $\{u_n\}$ 是有界的,于是在 $E_\lambda$ 中存在子列,仍记为 $\{u_n\}$, 以及 $u\in E_\lambda$,使得当 $n\to\infty$ 时, \begin{eqnarray*} &&\mbox{在 }E_\lambda\mbox{ 中,} u_n\rightharpoonup u ,\\ &&\mbox{在 }L_{\rm loc}^r({\mathbb R}^3)\mbox{ 中,} u_n\to u,r\in[1,6).\end{eqnarray*} 记 $w_n=u_n-u$,则 $\{w_n\}$ 有界,设 $\|w_n\|≤ C_0$,并且在 $E_\lambda$ 中,$w_n\rightharpoonup 0$. 由条件 (V$_2$), meas$\{x\in{\mathbb R}^3: V(x)≤ b\}<\infty$,则有$\int_{\{V≤ b\}}w^2_n\to0$. 于是, \begin{eqnarray} & |{{w}_{n}}|_{2}^{2}=\int_{\{V>b\}}{w_{n}^{2}}+\int_{\{V\le b\}}{w_{n}^{2}} \\ & \le \frac{1}{\lambda b}\int_{\{V>b\}}{\lambda }V(x)w_{n}^{2}+\int_{\{V\le b\}}{w_{n}^{2}} \\ & \le \frac{1}{\lambda b}\|{{w}_{n}}\|_{\lambda }^{2}+o(1). \\ \tag{3.1}\end{eqnarray} 于是由 Hölder 不等式以及 (2.2)式, \begin{eqnarray} & \int_{{{\mathbb{R}}^{3}}}{|}{{w}_{n}}{{|}^{p}}\le {{\left( \int_{{{\mathbb{R}}^{3}}}{|}{{w}_{n}}{{|}^{2}} \right)}^{\frac{6-p}{4}}}{{\left( \int_{{{\mathbb{R}}^{3}}}{|}{{w}_{n}}{{|}^{6}} \right)}^{\frac{p-2}{4}}} \\ & \le {{(\frac{1}{\lambda b}\|{{w}_{n}}\|_{\lambda }^{2})}^{\frac{6-p}{4}}}{{\left( u_{6}^{6}\|{{w}_{n}}\|_{\lambda }^{6} \right)}^{\frac{p-2}{4}}}+o(1) \\ & ={{C}_{1}}{{(\frac{1}{\lambda b})}^{\frac{6-p}{4}}}\|{{w}_{n}}\|_{\lambda }^{p}+o(1), \\ \tag{3.2}\end{eqnarray} 其中 $C_1$ 是与 $\lambda$ 无关的常数. 因为当 $n\to\infty$ 时,在 $E_\lambda$ 中 $w_n=u_n-u\rightharpoonup0$,由引理 2.6, $$ J_\lambda'(u)=0,~~ J'_{\lambda}(w_n)\to0,~~ J_{\lambda}(w_n)\to d-J_{\lambda}(u).$$ 由 Hölder 不等式及 (3.2)式,对 $\lambda>1$ 有 \begin{eqnarray} & \int_{{{\mathbb{R}}^{3}}}{|}{{w}_{n}}{{|}^{p}}\le |{{w}_{n}}|_{p}^{p-2}|{{w}_{n}}|_{p}^{2} \\ & \le {{\left( {{u}_{p}}\|{{w}_{n}}{{\|}_{\lambda }} \right)}^{p-2}}|{{w}_{n}}|_{p}^{2} \\ & \le {{\left( {{u}_{p}}{{C}_{0}} \right)}^{p-2}}{{\left( {{C}_{1}}{{(\frac{1}{\lambda b})}^{\frac{6-p}{4}}}\|{{w}_{n}}\|_{\lambda }^{p} \right)}^{\frac{2}{p}}}+o(1) \\ & ={{C}_{3}}{{(\frac{1}{\lambda b})}^{\frac{6-p}{2p}}}\|{{w}_{n}}\|_{\lambda }^{2}+o(1), \\ \tag{3.3}\end{eqnarray} 其中 $C_3$ 与 $\lambda$ 无关. 因此由 (3.1),(3.3) 以及 (2.4)式,对任给的 $\varepsilon>0$ \begin{eqnarray*} o(1)&=&\left(J'_\lambda(w_n),w_n\right)\\ &=&\|w_n\|^2_\lambda+\int_{{\mathbb R}^3}\phi_{w_n}w_n^2-\int_{{\mathbb R}^3}f(x,w_n)w_n\\ &≥&\|w_n\|_\lambda^2-\int_{{\mathbb R}^3}f(x,w_n)w_n\\ &≥&\|w_n\|_\lambda^2-\varepsilon|w_n|_2^2-C_\varepsilon|w_n|_p^p\\ &≥&\left(1-\frac{\varepsilon}{\lambda b}-C_\varepsilon C_3 \Big(\frac{1}{\lambda b}\Big)^{\frac{6-p}{2p}}\right)\|w_n\|_\lambda^2.\end{eqnarray*} 我们可取 $\Lambda>1$ 充分大使得当 $\lambda>\Lambda$ 时上式的系数大于$0$. 因此当 $\lambda>\Lambda$ 时,在 $E_\lambda$ 中 $u_n\to u$.

定理 1.1的证明  由引理 3.1 和 3.2, 当 $\lambda>\Lambda$ 时泛函 $J_\lambda$ 具有山路结构并且满足(C)条件. 因此由引理 2.3,当 $\lambda>\Lambda$ 时,泛函 $J_\lambda$ 至少存在一个非平凡临界点.

若 $f$ 还满足 (f$_5$),即泛函 $J_\lambda$ 是偶泛函,且 $J_\lambda(0)=0$, 由引理 3.1,引理 2.4 知,当 $\lambda>\Lambda$ 时, 泛函 $J_\lambda$ 存在一个无界的临界值序列 $c_k\to\infty,k\to\infty$,即 $J_\lambda$ 存在无穷多临界点.

在这一部分中,我们讨论当非线性项 $f$ 是次线性的满足条件 (f$_6$),(f$_7$),位势 $V$ 满足条件 (V$_1'$),(V$_2'$) 时,系统 (1.1) 无穷多解的存在性. 其中空间取为 $E=\{u\in H^1({\mathbb R}^3):\int_{{\mathbb R}^3}Vu^2<\infty\}$,内积为 $(u,v)=\int_{{\mathbb R}^3}[\nabla u\nabla v+Vuv],u,v\in E$,范数 $\|u\|=(u,u)^{1/2}$, 则 $(E,(\cdot,\cdot))$ 是 Hilbert 空间,并且由文献 ^[24],$E$ 可以紧嵌入 $L^s({\mathbb R}^3)$ 中,$s\in[2,6)$,并且可以连续嵌入 $L^s({\mathbb R}^3),s\in[2, 6]$,即存在 $\mu_s>0$,使得 $|u|_s≤\mu_s\|u\|$.

我们考虑定义在 $E$ 上的泛函 $J: E\to {\mathbb R}$ 为 \begin{eqnarray*} J(u)=\frac12\int_{{\mathbb R}^3}[|\nabla u|^2+Vu^2]+\frac14\int_{{\mathbb R}^3}\phi_uu^2-\int_{{\mathbb R}^3}F(x,u).\end{eqnarray*} 下面我们先说明 $J$ 是定义在 $E$ 上的 $C^1$ 泛函且满足 (PS) 条件.

引理4.1 假设 $f$ 满足条件 (f$_6$),则泛函 $J$ 在 $E$ 上是由定义的,并且是 $E$ 上的 $C^1$ 泛函,且对任意的 $u,v\in E$, \begin{eqnarray*} (J'(u),v)=(u,v)+\int_{{\mathbb R}^3}\phi_u uv-\int_{{\mathbb R}^3}f(x,u)v.\end{eqnarray*}

证  只需注意到由条件 (f$_6$), \begin{eqnarray*}\left|F(x,t)\right|≤\sum_{i=1}^2\eta_i(x)|t|^{\sigma_i}, (x,t)\in{\mathbb R}^3\times{\mathbb R}, \end{eqnarray*} 则对任意的 $u\in E$,由 Hölder 不等式可以得到 \begin{equation}\label{2.3.14} \left|\int_{{\mathbb R}^3}F(x,u)\right|≤\sum_{i=1}^2\int_{{\mathbb R}^3}\eta_i(x)|u|^{\sigma_i}≤\sum_{i=1}^2|\eta_i|_{\frac{2}{2-\sigma_i}}|u|_2^{\sigma_i}, \tag{4.1} \end{equation} 由 $E$ 可以连续嵌入 $L^s({\mathbb R}^3)$ 中,$s\in[2,6]$,故 $J$ 在 $E$ 上是有定义的. 对任意的 $u,v\in E,$ 由条件 (f$_6$) 和 Hölder 不等式, \begin{equation}\label{2.3.15} \left|\int_{{\mathbb R}^3}f(x,u)v\right|≤\sum_{i=1}^2\int_{{\mathbb R}^3}\eta_i(x)|u|^{\sigma_i-1}|v|≤\sum_{i=1}^2|\eta_i|_{\frac{2}{2-\sigma_i}}|u|_2^{\sigma_i-1}|v|_2.\tag{4.2} \end{equation} 直接由 Frechét 导数的定义,可以得到 $J\in C^1(E,{\mathbb R})$,并且 $$ (J'(u),v)=(u,v)+\int_{{\mathbb R}^3}\phi_u uv-\int_{{\mathbb R}^3}f(x,u)v,u,v\in E.$$ 证毕.

引理4.2  设 $f$ 满足条件 (f$_6$),$V$ 满足条件 (V$_1'$),(V$_2'$),则泛函 $J$ 在 $E$ 上有下界且满足 (PS) 条件.

证  设 $\{u_n\}\subset E$ 是 $J$ 的 (PS) 序列,即 $\{J(u_n)\}$ 有界,$J'(u_n)\to0,n\to\infty.$ 由 (4.1)式, \begin{eqnarray*} J(u)&=&\frac12\int_{{\mathbb R}^3}[|\nabla u|^2+Vu^2]+\frac14\int_{{\mathbb R}^3}\phi_uu^2-\int_{{\mathbb R}^3}F(x,u)\\ &≥&\frac12\|u\|^2-\sum_{i=1}^2|\eta_i|_{\frac{2}{2-\sigma_i}}|u|_2^{\sigma_i}\\ &≥&\frac12\|u\|^2-\sum_{i=1}^2|\eta_i|_{\frac{2}{2-\sigma_i}}\mu_2^{\sigma_i}\|u\|^{\sigma_i}.\end{eqnarray*} 由 $\sigma_i\in(1,2),i=1,2$,则 $J$ 在 $E$ 上是强制的,则当 $\{J(u_n)\}$ 有界时,$\{u_n\}$ 也是有界的. 则 $\{u_n\}$ 存在子列,为简便仍记为 $\{u_n\}$,使得 \begin{eqnarray*} &&\mbox{在 }E\mbox{ 中,} u_n\rightharpoonup u,\\ &&\mbox{在 }L^s({\mathbb R}^3)\mbox{ 中,} u_n\to u,s\in[2,6),\\ &&\mbox{在 }{\mathbb R}^3\mbox{ 中,$ u_n$ 几乎处处收敛于$ u$.} \end{eqnarray*} 于是 \begin{equation}\label{2.3.16} (J'(u_n),u_n-u)=(u_n,u_n-u)+\int_{{\mathbb R}^3}\phi_{u_n}u_n(u_n-u)-\int_{{\mathbb R}^3}f(x,u_n)(u_n-u)\to0.\tag{4.3} \end{equation} 由 Hölder 不等式, $$ \left|\int_{{\mathbb R}^3}\phi_{u_n}u_n(u_n-u)\right|≤|\phi_{u_n}|_6|u_n|_{12/5}|u_n-u|_{12/5}, $$ 由 $E$ 可以紧嵌入到 $L^{12/5}({\mathbb R}^3)$中,则 $$ \bigg|\int_{{\mathbb R}^3} \phi_{u_n}u_n(u_n-u)\bigg|\to0.$$ 由 (4.2)式及 $E$ 可以紧嵌入 $L^2({\mathbb R}^3)$ 中,可以得到 $$ \left|\int_{{\mathbb R}^3}f(x,u_n)(u_n-u)\right|≤\sum_{i=1}^2|\eta_i|_{\frac{2}{2-\sigma_i}}|u_n|_2^{\sigma_i-1}|u_n-u|_2\to0.$$ 由 (4.3)式,得到 $(u_n,u_n-u)\to0$,即 $\|u_n\|^2\to\|u\|^2$,又在 $E$ 中 $u_n\rightharpoonup u$,故在 $E$ 中 $u_n\to u$.

定理 1.2 的证明  我们将利用对称山路定理,即引理 2.5 来证明定理 1.2. 显然, 由 (f$_5$),$J$ 是 $E$ 上的偶泛函,由引理 4.2,泛函 $J$ 是有下界的并且满足 (PS) 条件,故只需验证对称山路定理的条件 (ii). 以下的方法类似于文献 ^[28] 中的方法. 首先不妨假设条件 (f$_7$) 中的 $x_0=0$. 对 $r>0$,记 $D(r)$ 表示立方体 $$ D(r)=\{(x_1,x_2,x_3)\in{\mathbb R}^3:0≤ x_i≤ r,i=1,2,3\}.$$ 固定 $r>0$ 充分小使得 $D(r)\subset B(0,\delta)$,其中 $\delta$ 是条件 (f$_7$) 中的常数. 对于任意给定的 $k\in{\mathbb N}$,我们将构造 $A_k\in\Gamma_k$ 满足 $\sup\limits_{u\in A_k}J<0$.

设 $m\in{\mathbb N}$ 是满足 $m^3>k$ 的最小的正整数. 用平行于 $D(r)$ 的每个面的平面将$D(r)$ 等分为 $m^3$ 个立方体,分别用 $D_i,1≤ i≤ m^3$ 来表示. 我们仅用到 $D_i,1≤ i≤ k$,每个 $D_i$ 的边长为 $a=r/m$.再构造一个立方体 $E_i\subset D_i$,使得 $E_i$ 与 $D_i$ 有相同的中心,$E_i$ 的每个面平行于 $D_i$ 的每个面,并且 $E_i$ 的边长为 $a/2$. 定义 $\zeta\in C_0^{\infty}({\mathbb R},[0, 1])$,使得 $$ \zeta(t)=\left\{\begin{array}{ll} 1,~~&t\in[a/4,3a/4],\\ 0,&t\in(-\infty,0]\cup[a,+\infty).\end{array}\right.$$ 令 $$ \xi(x)=\zeta(x_1)\zeta(x_2)\zeta(x_3),(x_1,x_2,x_3)\in{\mathbb R}^3, $$ 则 supp$\xi\in[0,a]^3$. 现对每个 $i\in[1,k]$,选取适当的 $y_i\in{\mathbb R}^3$,定义 $\xi_i(x)=\xi(x-y_i),x\in{\mathbb R}^3,$ 使得 \begin{equation}\label{2.3.17} \mbox{supp}\xi_i\subset D_i,{\rm supp}\xi_i\cap{\rm supp}\xi_j=\emptyset,i eq j, \tag{4.4} \end{equation} 以及 $$ \xi_i(x)\in[0,1],\mbox{ 当 $ x\in E_i $ 时,} \xi_i(x)=1.$$ 令 \begin{equation}\label{2.3.18} V_k=\left\{(t_1,t_2,\cdots,t_k)\in{\mathbb R}^k:\max_{i\in[1,k]}|t_i|=1\right\},\ W_k=\left\{\sum_{i=1}^kt_i\xi_i:(t_1,t_2,\cdots,t_k)\in V_k\right\}.\tag{4.5} \end{equation} 因为 $V_k$ 同胚于 ${\mathbb R}^k$ 中的单位球面,故 $\gamma(V_k)=k$. 进一步,映射 $$ (t_1,t_2,\cdots,t_k)\to\sum_{i=1}^kt_i\xi_i $$ 也是同胚的,故 $\gamma(W_k)=\gamma(V_k)=k$. 又 $W_k$ 是紧的,则存在 $C_k>0$,使得对任意的 $u\in W_k$, \begin{equation}\label{2.3.19}\|u\|≤ C_k.\tag{4.6} \end{equation} 对 $s\in(0,\varepsilon),u=\sum\limits_{i=1}^kt_i\xi_i\in W_k$, 由 (4.6) 和 (4.4)式, \begin{eqnarray} & J(su)=\frac{{{s}^{2}}}{2}\|u{{\|}^{2}}+\frac{{{s}^{4}}}{4}\int_{{{\mathbb{R}}^{3}}}{{{\phi }_{u}}}{{u}^{2}}-\int_{{{\mathbb{R}}^{3}}}{F}(x,s\sum\limits_{i=1}^{k}{{{t}_{i}}}{{\xi }_{i}}(x)) \\ & \le \frac{{{s}^{2}}}{2}\|u{{\|}^{2}}+\frac{{{s}^{4}}}{4}{{S}^{-1}}\mu _{12/5}^{4}\|u{{\|}^{4}}-\sum\limits_{i=1}^{k}{\int_{{{D}_{i}}}{F}}(x,s{{t}_{i}}{{\xi }_{i}}(x)) \\ & \le \frac{{{s}^{2}}}{2}C_{k}^{2}+\frac{{{s}^{4}}}{4}{{S}^{-1}}\mu _{12/5}^{4}C_{k}^{4}-\sum\limits_{i=1}^{k}{\int_{{{D}_{i}}}{F}}(x,s{{t}_{i}}{{\xi }_{i}}(x)). \\ \tag{4.7}\end{eqnarray} 注意到 (4.5)式,存在 $i_0\in[1,k]$,使得 $|t_{i_0}|=1$,则 \begin{eqnarray} & \sum\limits_{i=1}^{k}{\int_{{{D}_{i}}}{F}}(x,{{t}_{i}}{{\xi }_{i}}(x))=\int_{{{E}_{{{i}_{0}}}}}{F}(x,s{{t}_{{{i}_{0}}}}{{\xi }_{{{i}_{0}}}}(x))+\int_{{{D}_{{{i}_{0}}}}\setminus {{E}_{{{i}_{0}}}}}{F}(x,s{{t}_{{{i}_{0}}}}{{\xi }_{{{i}_{0}}}}(x)) \\ & +\sum\limits_{i\ne {{i}_{0}}}{\int_{{{D}_{i}}}{F}}(x,s{{t}_{i}}{{\xi }_{i}}(x)). \\ \tag{4.8}\end{eqnarray} 因 $|t_{i_0}|=1$,在 $E_{i_0}$上 $\xi_{i_0}=1$,并且 $F(x,u)$ 关于 $u$ 是偶泛函,我们有 \begin{equation}\label{2.3.22} \int_{E_{i_0}}F(x,st_{i_0}\xi_{i_0}(x))=\int_{E_{i_0}}F(x,s).\tag{4.9} \end{equation} 进一步,由条件 (f$_7$), \begin{equation} \int_{{{D}_{{{i}_{0}}}}\setminus {{E}_{{{i}_{0}}}}}{F}(x,s{{t}_{{{i}_{0}}}}{{\xi }_{{{t}_{{{i}_{0}}}}}}(x))+\sum\limits_{ieq{{i}_{0}}}{\int_{{{D}_{i}}}{F}}(x,s{{t}_{i}}{{\xi }_{i}}(x))\ge -C\text{vol}(D(r)){{s}^{2}}, \tag{4.10} \end{equation} 其中 $\mbox{vol}(D(r))$ 表示 $D(r)$ 的体积,即 $\mbox{vol}(D(r))=r^3$. 结合 (4.7)--(4.10)式,我们可以得到 $$ J(su)≤\frac{s^2}{2}C^2_k+\frac{s^4}{4} S^{-1}\mu_{12/5}^4C^4_k+Cr^3s^2-\int_{E_{i_0}}F(x,s), $$ 我们取 $s=\varepsilon_n$,则由条件 (f$_7$) 得到 $$ J(\varepsilon_nu)≤\varepsilon^2_n\left(\frac{C^2_k}{2}+ \frac{C^4_k}{4}S^{-1}\mu_{12/5}^4\varepsilon^2_n+Cr^3-\left(\frac{a}{2}\right)^3M_n\right), $$ 因当 $n\to\infty$ 时,$\varepsilon_n\to0,M_n\to\infty$,我们取 $n_0$ 充分大使得 $$ \frac{C^2_k}{2}+\frac{C^4_k}{4}S^{-1}\mu_{12/5}^4 \varepsilon^2_n+Cr^3-\left(\frac{a}{2}\right)^3M_n<0, $$ 从而,我们取 $A_k=\varepsilon_{n_0}W_k,$则有 $$ \gamma(A_k)=\gamma(W_k)=k,~~\mbox{及}~ \sup_{u\in A_k}J(u)<0. $$ 因此,由对称山路引理 2.5,定理 1.2 得证.