考虑如下 Kirchhoff 型问题 $$ \left\{ \begin{array}{ll} laystyle -\left(a+b\int_{{\Bbb R}^N}|\nabla u|^2 {\rm d}x\right) elta {u}+{V(x)u}={f(x,u)} \mbox{在$ {\Bbb R}^N $上,}\\ u\in H^1({\Bbb R}^N), \end{array} \right. (1.1) $$ 其中常数 $a>0$,$b>0$,$\mbox{N}=2$ 或 $3$. $V(x)$ 满足以下条件:

$(V1)$~ 存在常数$C_0$使得 $V\in C({\Bbb R}^N,{\Bbb R})$ 满足 $\inf_{x\in {\Bbb R}^N}V(x)\geq C_0>0$. 另外对任意 $M>0$, meas$(\{x\in {{\Bbb R}^N}:V(x)\leq M\})< \infty$,其中 meas 表示${\Bbb R}^N$上的 Lebesgue 测度.

当 $\Omega$ 是 ${\Bbb R}^N$上的有界光滑区域时,方程 $$ \left\{ \begin{array}{ll} laystyle -\left(a+b\int_{{\Bbb R}^N}|\nabla u|^2 {\rm d}x\right) elta u=f(x,u) & \mbox{在 $ \Omega$内,}\\ u=0 & \mbox{在${\partial\Omega}$上,} \end{array} \right. (1.2) $$ 最初来源于方程 $$ u_{tt}-\left(a+b\int_{\Omega}|\nabla u|^2 {\rm d}x\right) elta u=g(x,t),$$ 它是由 Kirchhoff$^{^[1]}$研究对可伸缩绳的自由振动的经典 D'Alembert 波动方程过程中提 出的一种实际存在的方程. Kirchhoff 型问题考虑伸缩绳横向振动的长度变化. 文献 ^[2]中指出问题(1.2)可作为一些物理和生物系统的模型. 对于 Kirchhoff 型方程的一些研究可以参看文献^[]. 用不同方法对于问题 (1.2) 的研究可以参看文献^{[, ]}. 与方程(1.2)相比,方程(1.1) 中以 ${\Bbb R}^N$ 替代了有界光滑区域 $\Omega\subset {\Bbb R}^N$. 问题 (1.1)中,$V(x)\equiv1$ 的情况 已经在文献^[10]中作过研 究而且通过喷泉定理得到问题 (1.1) 的无穷多径向解. 方程(1.1)中 $V(x)\equiv0$ 时,文献^[]研究了局部非线性条件 (一般性假设是由Berestycki和 Lions提出的)下问题解的情况. 文献^[13]中假设:

$(f1)$~ $f\in C({\Bbb R}^N \times {\Bbb R},{\Bbb R})$ 且存在 $C_1>0$,$p\in [2,2^{\ast})$ 使得 $$ |f(x,t)|\leq C_1(1+|t|^{p-1}),~~ \forall (x,t)\in {\Bbb R}^N\times{\Bbb R}, $$ 其中,$N= 3$时$2^{\ast}=6$,$N=2$时 $2^{\ast}= + \infty$;

$(f2)$~ $\lim\limits_{t\rightarrow 0} \frac{f(x,t)}{t}=0$ 对所有$x\in {\Bbb R}^N$一致成立;

$(f3)$~ $\lim\limits_{|t|\rightarrow \infty} \frac{F(x,t)}{t^4}=+\infty$ 对所有$x\in {\Bbb R}^N$一致成立,其中$F(x,t):=\int_0^t f(x,s){\rm d}s$.\\ 他研究了方程(1.1)非平凡解的存在性,得到如下结果 :

定理A    [13,定理 1] 假设 $V(x)$ 满足 $(V1)$, $f$ 满足 $(f1)$--$(f3)$及条件

$(f4)$~ $ t f(x,t)- 4 F(x,t)\geq 0$,$\forall (x,t)\in {\Bbb R}^N\times{\Bbb R}$，\\ 则方程 (1.1) 存在一个非平凡解.

定理B     [13,定理3] 假设条件$(V1)$, $(f1)$--$(f3)$ 都成立. $f$ 又满足以下条件:

$(f5)$~ 当 $|t| \rightarrow+\infty$时,$ tf (x,t)-4F (x,t) \rightarrow +\infty$ 对 $x\in{\Bbb R}^N$一致成立.

$(f6)$~ $ \limsup\limits_{|t|\rightarrow+\infty} \frac{|f(x,t)|^2}{|t|^2[tf (x,t) -4F (x,t)]}< +\infty$ 对 $x\in {\Bbb R}^N$一致成立.\\ 则方程 (1.1) 存在非平凡弱解.

定理C    [13,定理1] 设条件 $(V1)$, $(f1)$--$(f4)$ 都成立且

$(f7)$~ $ f(x,-t)=-f(x,t)$,$\forall (x,t)\in {\Bbb R}^N\times{\Bbb R}$. \\ 则方程 (1.1) 有一列高能量解.

在文献^{[10, 14]}启发下，本文在更一般的条件假设下,借助山路引理, 喷泉定理及对称山路引理,推广和统一了文献^[13]中的结果,得到以下结论：

定理1.1     假设$ (V1)$,$ (f1)$--$(f3)$ 成立且 $f$ 满足

$(f8)$ 存在 $ C_2>0$ 和 $ r_{\infty}>0$ 使得 $$ tf(x,t)-4F(x,t)\geq -C_2|t|^2~ \mbox{对所有}~ x\in {\Bbb R}^N,t\in {\Bbb R}~\mbox{ 且 $|t|\geq r_{\infty}$ 成立.} $$ 那么方程 (1.1) 至少有一个非平凡弱解.

注1     该定理推广和统一了定理 A 和定理 B.

(i)~ 本定理从两个方面推广了定理A,一方面,条件 $ tf(x,t)-4F(x,t)\geq 0$ 由全局满足减弱为局部满足(在 $\infty$ 处满足); 另一方面,$tf(x,t)-4F(x,t)$ 由非负减弱为不小于 $-C|t|^2$.

(ii)~ 本定理也从两个方面推广了定理B. 一方面,我们去掉了条件 $(f6)$; 另一方面,$tf(x,t)-4F(x,t)$ 由强制减弱为在 $\infty$ 处不小于 $-C|t|^2$.

而且,我们可以找出满足定理1.1,但不完全满足定理A和定理B条件的函数. 例如,考虑函数 $$F(x,t)= \left\{\begin{array}{ll} |t|^5+|t|^3,\ \ 0<|t|<1,\\ \frac{1}{r_{\infty}-1}( |t|-1)\left[t^4\ln(\sin t+|t|) +t^2\right] +\frac{1}{r_{\infty}-1}( r_{\infty}-|t|)( |t|^5+|t|^3), \\ 1\leq |t|<r_{\infty},\\ t^4\ln(\sin t+|t|)+t^2,|t|\geq r_{\infty}. \end{array}\right. $$ 通过简单的计算,可以发现取$C_2=3$时,$f$ 满足定理1.1的所有条件, 但不满足条件 $(f4)$,$(f5)$ 和 $(f6)$.

定理1.2     假设 $ (V1)$,$(f1)$--$(f3)$,$(f7),(f8)$ 都成立. 那么方程 (1.1) 有一列高能量非平凡弱解.

注2     该定理推广了定理C,理由如注1.

定理1.3     假设 $V(x)$满足

$(V2)$~ $V\in C({\Bbb R}^N,{\Bbb R})$,存在常数 $\alpha<2$ 使得 $\lim\limits_{|x|\rightarrow\infty}V(x)|x|^{\alpha-2}=\infty$,\\ $f$ 满足 $(f1)$,$(f7)$ 及条件

$(f9)$~ $ \lim\limits_{t\rightarrow 0}\frac{f(x,t)}{t}=+\infty$ 对所有 $x\in {\Bbb R}^N$ 一致成立.\\ 那么方程 (1.1) 有一列非平凡的弱解 $\{u_n\}$ 满足当 $n\rightarrow \infty$时,$u_n\rightarrow 0$.

注3    对于这一方程,目前还没有类似的结论.

为了对本文的结果作准确的说明,以下我们给出一些符号和定义,以及需要用的引理和命题.

定义空间 $$ H^1({{\Bbb R}^N}):=\{ u\in L^2({{\Bbb R}^N}): |\nabla u|\in L^2({{\Bbb R}^N}) \} $$ 范数为 $$ \|u\|_{\mbox{H}^1}:=\left(\int_{{\Bbb R}^N}(|\nabla u|^2+u^2){\rm d}x\right)^{\frac{1}{2}},$$

定义空间 $$ \widetilde{E}:=\{u\in L^{2^*}({{\Bbb R}^N}):|\nabla u|\in L^2({{\Bbb R}^N})\}$$ 范数为 $$ \|u\|_{\widetilde{E}}:=\left(\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x\right)^{\frac{1}{2}}.$$ 令 $$ E:=\left\{u\in H^1({{\Bbb R}^N}):\int_{{\Bbb R}^N}(|\nabla u|^2+V(x)u^2){\rm d}x< \infty \right\},$$ 则 $E$是 Hilbert 空间,其内积为 $$ (u,v)_E=\int_{{\Bbb R}^N}(\nabla u\cdot \nabla v+V(x)uv){\rm d}x, $$ 且范数为$\|u\|_E=(u,u)_E^{1/2}$. 寻找方程(1.1)的弱解等价于寻找如下能量泛函 $I$ 的临界点 $$ I(u)=\frac{a}{2}\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x+\frac{b}{4}\left(\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x\right)^2+\frac{1}{2}\int_{{\Bbb R}^N}V(x)u^2{\rm d}x-\int_{{\Bbb R}^N}F(x,u){\rm d}x,\ u\in E.$$

由于$V(x)$是下方有界的,则嵌入$E\hookrightarrow L^s({\Bbb R}^N)$ 对任何 $s\in [2,2^{\ast}]$都是连续的,即存在$\gamma_s$ 使得 $$\|u\|_s\leq\gamma_s\|u\|_E,\forall s\in [2,2^{\ast}].$$而且有以下结论:

引理2.1    [15,引理3.4] 在假设$(V1)$下,对任意$s\in [2,2^{\ast})$ 嵌入 $E\hookrightarrow L^s({\Bbb R}^N)$ 都是紧的.

类似于文献[13,引理1]的证明,可得到下面的结论:

引理2.2     假设$(V1)$,$(f1)$ 和 $(f2)$ 都成立. 那么 $I\in C^1(E,{\Bbb R})$ 且 $$ \langle I{'}(u),v\rangle=\left( a+b\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x\right)\int_{{\Bbb R}^N}\nabla u \cdot \nabla v {\rm d}x+\int_{{\Bbb R}^N}V(x)uv{\rm d}x-\langle\Psi{'}(u),v\rangle,$$ 其中 $ \Psi(u)=\int_{{\Bbb R}^N}F(x,u){\rm d}x$,$ \langle\Psi{'}(u),v\rangle=\int_{{\Bbb R}^N}f(x,u)v{\rm d}x$.

设 $ 0<\lambda_1<\lambda_2\leq\cdots \leq\lambda_n\leq\cdots$ 为 $$\left\{ \begin{array}{ll} -elta u+a(x) u=\lambda u,\\ u\in \mbox{H}^1({\Bbb R}^N) \end{array} \right. $$ 的特征值序列,每个特征值以重数记. 另外, 记$\varphi_1,\varphi_2,\cdots$ 是相应的正交特征函数.

定理2.1     (见文献^[16]中喷泉定理) 设$X$ 是一个可分自反 Banach 空间,又设$X_j$ 是$X$ 的子空间序列并且对任何 $j\in {N}$ 有 $im X_j< \infty$. 进一步地, $X=\overline{\bigoplus\limits _{j\in {{N}}}X_j}$ 是所有 $X_j$ 直和的闭包. 设$W_k=\bigoplus \limits_{j=0}^kX_j,\ Z_k=\overline{\bigoplus \limits_{j=k}^{\infty}X_j}$. 假设$I \in C^1(X,{\Bbb R})$满足$(PS)$条件且 $I(-u)=I(u)$ 对任何$u\in X$ 成立. 如果 对每个$k\in {N}$,都存在$\rho_k>r_k>0$ 满足：

$(I1)$~ $a_k:=\max\limits _{u\in W_k,\|u\|=\rho_k}I(u)\leq 0$;

$(I2)$~ 当$ k\rightarrow \infty$ 时, $b_k:=\inf\limits _{u\in Z_k,\|u\|=r_k}I(u)\rightarrow +\infty$;\\ 则$I$ 有一列无界的临界值序列.

下面,将首先引入亏格的定义,然后给出对称山路引理.

设$X$ 是一个实 Banach 空间,$A$ 是 $X$ 的一个子集.$A$ 称为是对称的, 如果 $u\in A$ 蕴含$-u\in A$. 对于一个不包含原点的闭对称子集$A$, 我们定义$A$ 的亏格 $\gamma(A)$ 为满足存在从$A$ 到 ${{\Bbb R}}^{k} \setminus \{0\}$ 的奇连续映射的最小整数$k$. 如果不存在这样的$k$,我们就定义$\gamma(A)=\infty$. 且假定 $\gamma(\emptyset)=0$. $\Gamma_{k}$ 表示集合$\{A\subset X$: $A$ 是闭对称子集且满足$0\not\in A$,$\gamma(A)\geq k\}.$

定理2.2     (见文献^[17]中对称山路引理) 假设$X$是一个无限维Banach 空间,$I\in C^{1}(X,{\Bbb R})$ 满足下面 $(B1)$ 和 $(B2)$ 条件:

$(B1)$~ $I(u)$ 是偶的,下方有界的,并且$ I(0)=0$,$I(u)$ 满足$(PS)$ 条件;

$(B2)$~ 对任何$k\in{N}$,存在$A_{k}\in\Gamma_{k}$ 使得$\sup\limits_{u\in A_{k}}I(u)<0$.\\ 那么$I(u)$ 有一列临界点$\{u_{k}\}$ 满足$ I(u_{k})\leq0$,$u_{k}\neq0$ 且$\lim\limits_{k\to\infty}u_{k}=0$.

设 $X$ 是一实Banach空间,泛函 $I\in C^{1}(X,{\Bbb R})$ 满足$(PS)_c$ 条件是指,对所有满足 $$ I(u_{n})\rightarrow c,I'(u_{n})\rightarrow0,(2.1) $$ 的任意序列 $\{u_{n}\}\subset X$,在$X$ 中都有收敛子序列. 如果对任意$c\in {\Bbb R}$,$I$都满足$(PS)_c$ 条件,就说$I$ 满足$(PS)$ 条件.

引理2.3    假设$(V1)$,$(f1)$--$(f3)$,$(f8)$成立. 则 $I(u)$ 满足 $(PS)$ 条件.

证     对任意 $c>0$,记 $\{u_n\}$ 是满足$(2.1)$式 的序列. 下面我们证明 $\{u_n\}$ 是有界的. 若不然,则存在$\{u_n\}$ 的一个子序列,使得当 $ n\rightarrow\infty$ 时,$\|u_n\|_E\rightarrow \infty.$ 记 $ \omega_n =\frac{u_n}{\|u_n\|_E}$,则 $\omega_n$ 是有界的. 因此存在 $\omega \in E$ 和 $\omega_n$ 的一个子序列 (仍记为$\omega_n$)使得

$\omega_n\rightharpoonup \omega$ 弱收敛于 $E$,

$\omega_n\rightarrow \omega$ 强收敛于 $L^s({\Bbb R}^N)$ $(2 \leq s < 2^{\ast})$ ,

$\omega_n(x) \rightarrow \omega(x)$ 几乎处处于 ${\Bbb R}^N$ .\\ 记 $\Omega=\{x|\omega(x)\neq 0\}$. 如果 meas$(\Omega)>0$,由于 $\|u_n\|_E\rightarrow \infty$,因此当 $n\rightarrow \infty$ 时,有$|u_n|=|\omega_n|\|u_n\|_E\rightarrow\infty$. 由条件$(f3)$,可得到对几乎处处 $x\in \Omega$,有 $$ \lim\limits_{n\rightarrow \infty} \frac{F(x,u_n)}{\|u_n\|_E^4}=\lim\limits_{n\rightarrow \infty} \frac{F(x,u_n)}{u_n^4}\omega_n^4=+\infty . $$ 由 $(f1)$,$(f2)$ 和 $(f3)$ 得,对任意 $M>0$,都存在 $C_M>0$,使得 $$ F(x,t)\geq M|t|^4-C_M|t|^2,(2.2) $$ 对所有 $(x,t)\in {\Bbb R}^N\times{\Bbb R}$ 成立. 结合(2.1)式, 当 $n\rightarrow\infty$ 时,有 \begin{eqnarray*} 0 \leftarrow \frac{I(u_n)}{\|u_n\|_E^4}& \leq& \frac{\max\{a,1\}}{2\|u_n\|_E^2}+\frac{b}{4\|u_n\|_E^4}\left(\int_{{\Bbb R}^N}|\nabla u_n|^2{\rm d}x\right)^2-\int_{{\Bbb R}^N}\frac{F(x,u_n)}{\|u_n\|_E^4}{\rm d}x\\ & \leq& \frac{\max\{a,1\}}{2\|u_n\|_E^2}+\frac{b}{4}-\int_{\Omega}\frac{F(x,u_n)}{\|u_n\|_E^4}{\rm d}x-\int_{{\Bbb R}^N\setminus\Omega}\frac{F(x,u_n)}{\|u_n\|_E^4}{\rm d}x\\ & \leq& \frac{\max\{a,1\}}{2\|u_n\|_E^2}+\frac{b}{4}-\int_{\Omega}\frac{F(x,u_n)}{\|u_n\|_E^4}{\rm d}x-\int_{{\Bbb R}^N\setminus\Omega}\frac{M|u_n|^4}{\|u_n\|_E^4}{\rm d}x+\int_{{\Bbb R}^N\setminus\Omega}\frac{C_M|u_n|^2}{\|u_n\|_E^4}{\rm d}x\\ &=& \frac{\max\{a,1\}}{2\|u_n\|_E^2}+\frac{b}{4}-\int_{\Omega}\frac{F(x,u_n)}{\|u_n\|_E^4}{\rm d}x-\int_{{\Bbb R}^N\setminus\Omega}M|\omega_n|^4{\rm d}x+\int_{{\Bbb R}^N\setminus\Omega}\frac{C_M|\omega_n|^2}{\|u_n\|_E^2}{\rm d}x\\ &\rightarrow&-\infty. \end{eqnarray*} 这是个矛盾. 故meas$(\Omega)=0$,即 对几乎处处 $x\in {\Bbb R}^N$,$\omega= 0$. 显然,通过 $(f1)$ 和 $(f2)$ 知,当 $|t|<r_{\infty}$ 时,存在 $C_3>0$ 使得 $|f(x,t)|\leq C_3|t|$ 且 $|F(x,t)|\leq \frac{C_3}{2}|t|^2$. 因此,存在 $C_4>0$ 使得 $ tf(x,t)-4F(x,t)\geq -C_4|t|^2 $ 对所有 $|t|<r_{\infty}$ 成立. 结合条件 $(f8)$,有 $$tf(x,t)-4F(x,t)\geq -C_5|t|^2$$ 对所有 $(x,t)\in {\Bbb R}^N\times {\Bbb R}$ 都成立. 因此, \begin{eqnarray*} 4I(u_n)-\langle I'(u_n),u_n \rangle&=& a\int_{{\Bbb R}^N}|\nabla u_n|^2{\rm d}x+\int_{{\Bbb R}^N}V(x)u_n^2{\rm d}x+\int_{{\Bbb R}^N}[u_nf(x,u_n)-4 F(x,u_n)]{\rm d}x\\ & \geq& \min\{a,1\}\|u_n\|_E^2-C_5\int_{{\Bbb R}^N}|u_n|^2{\rm d}x. \end{eqnarray*} 进而 \begin{eqnarray*} \frac{4I(u_n)-\langle I'(u_n),u_n \rangle}{\|u_n\|_E^2} \geq \min\{a,1\}-C_5\int_{{\Bbb R}^N}\frac{|u_n|^2}{\|u_n\|_E^2}{\rm d}x = \min\{a,1\}-C_5\int_{{\Bbb R}^N}|\omega_n|^2{\rm d}x. \end{eqnarray*} 这意味着 $\min\{a,1\}\leq 0$,与假设矛盾. 因此,$\{u_n\}$ 在 $E$ 中是有界的.

现在我们证明$\{u_n\}$ 在 $E$ 中有一个收敛的子序列. 事实上, 由于 $\{u_n\}$ 在 $E$ 中是有界的,由 $E$ 的自反性及引理2.1知, 存在 $u\in E$ 使得

$u_n\rightharpoonup u$ 弱收敛于 $E$

$u_n\rightarrow u $ 强收敛于 $L^s({\Bbb R}^N)$, $s\in[2,2^{\ast})$ .\\ 注意到 \begin{eqnarray*} \langle I'(u_n)-I'(u),u_n-u\rangle&=& \left(a+b\int_{{\Bbb R}^N}|\nabla u_n|^2{\rm d}x\right)\int_{{\Bbb R}^N}\nabla u_n \cdot \nabla (u_n-u){\rm d}x\\ &&-\left(a+b\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x\right)\int_{{\Bbb R}^N}\nabla u \cdot \nabla (u_n-u){\rm d}x\\ &&+\int_{{\Bbb R}^N}V(x)(u_n-u)^2{\rm d}x-\int_{{\Bbb R}^N}[f(x,u_n)-f(x,u)](u_n-u){\rm d}x\\ &=& \left(a+b\int_{{\Bbb R}^N}|\nabla u_n|^2{\rm d}x\right)\int_{{\Bbb R}^N}|\nabla(u_n-u)|^2{\rm d}x\\ &&-b\left(\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x-\int_{{\Bbb R}^N}|\nabla u_n |^2 {\rm d}x\right)\int_{{\Bbb R}^N}\nabla u \cdot \nabla (u_n-u){\rm d}x\\ &&+\int_{{\Bbb R}^N}V(x)(u_n-u)^2{\rm d}x-\int_{{\Bbb R}^N}[f(x,u_n)-f(x,u)](u_n-u){\rm d}x\\ & \geq & \min\{a,1\} \|u_n-u\|_E^2-\int_{{\Bbb R}^N}[f(x,u_n)-f(x,u)](u_n-u){\rm d}x\\ &&-b\left(\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x-\int_{{\Bbb R}^N}|\nabla u_n |^2 {\rm d}x\right)\int_{{\Bbb R}^N}\nabla u \cdot \nabla (u_n-u){\rm d}x. \end{eqnarray*} 有 \begin{eqnarray*} \min\{a,1\}\|u_n-u\|_E^2&\leq& \langle I'(u_n)-I'(u),u_n-u\rangle\\ &&+b\left(\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x-\int_{{\Bbb R}^N}|\nabla u_n |^2 {\rm d}x\right)\int_{{\Bbb R}^N}\nabla u \cdot \nabla (u_n-u){\rm d}x\\ &&+\int_{{\Bbb R}^N}[f(x,u_n)-f(x,u)](u_n-u){\rm d}x. \end{eqnarray*} 由于在 $E$ 中 $u_n\rightharpoonup u$,故当 $n\rightarrow \infty$ 时, $\langle I'(u),u_n-u\rangle \rightarrow 0$. 根据(2.1)式, 得到当 $ n\rightarrow \infty$ 时,$\langle I'(u_n),u_n-u\rangle \rightarrow 0$. 因此,当 $ n\rightarrow \infty$ 时 $$ \langle I'(u_n)-I'(u),u_n-u\rangle \rightarrow 0.$$ 由于嵌入 $E\hookrightarrow \widetilde{E}$ 是连续的, 故在 $ \widetilde{E}$ 中 $u_n \rightharpoonup u$. 因此,由 $\{u_n\}$ 在 $E$ 中的有界性,得到当$n\rightarrow \infty$ 时 $$ b\left(\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x-\int_{{\Bbb R}^N}|\nabla u_n |^2 {\rm d}x\right)\int_{{\Bbb R}^N}\nabla u \cdot \nabla (u_n-u){\rm d}x \rightarrow 0.$$ 另外,通过 $(f1)$ 和 $(f2)$,存在 $ C_6>0$ 使得 $$|f(x,t)|\leq C_6|t|+C_6|t|^{p-1}.$$ 从而有 \begin{eqnarray*} &&\left|\int_{{\Bbb R}^N}[f(x,u_n)-f(x,u)](u_n-u){\rm d}x\right| \\ &\leq& \int_{{\Bbb R}^N}[C_6 (|u_n|+|u|)+C_6(|u_n|^{p-1}+|u|^{p-1})]|u_n-u|{\rm d}x\\ & \leq& C_6 (\|u_n\|_2+\|u\|_2)\|u_n-u\|_2 +C_6\|u_n-u\|_p(\|u_n\|_p^{p-1}+\|u\|_p^{p-1})\\ & \leq& 2C_6M_1\|u_n-u\|_2+2C_6M_2^{p-1}\|u_n-u\|_p, \end{eqnarray*} 其中,$\|u_n\|_2\leq M_1$,$\|u_n\|_p\leq M_2$. 因为当$n\rightarrow \infty$ 时,$\|u_n-u\|_2\rightarrow 0$,$\|u_n-u\|_p\rightarrow 0$,故当 $n\rightarrow \infty$ 时 $$\int_{{\Bbb R}^N}[f(x,u_n)-f(x,u)](u_n-u){\rm d}x\rightarrow 0.$$ 因此,可以得到$ \|u_n-u\|_E \rightarrow 0$. 这就证明了$I(u)$ 满足$(PS)$条件.

类似于文献^[18]中引理2.2的证明有以下结论.

引理2.4     在条件$(V2)$下,对任意 $1\leq p \in (\frac{2}{3-\alpha},\infty]$,嵌入$E\hookrightarrow L^p({\Bbb R}^N)$ 是紧的.

证     由于$(V2)$蕴含$V(x)$下方有界,从而存在$A>0$使得 $V(x)+A$ 满足$(V1)$,文献^[18]中引理2.1中证明了范数$\|u\|_E=\int_{{\Bbb R}^N}(|\nabla u|^2+V(x)u^2){\rm d}x$等价于$\int_{{\Bbb R}^N}(|\nabla u|^2+(V(x)+A)u^2){\rm d}x$,因此不妨假设$V(x)\geq 1$且结合引理2.1,只需证明当$1\leq p \in (\frac{2}{3-\alpha},2)$时,嵌入$E\hookrightarrow L^p({\Bbb R}^N)$ 是紧的.

对于$R>0$,令 $$\tilde{\beta}(R):= \inf\limits_{|x|>R}V(x)|x|^{\alpha-2},$$ 则由$(V2)$,当$R\rightarrow\infty$时,$\tilde{\beta}(R)\rightarrow\infty$. 令$r=\frac{2-\alpha}{2-p}$,由于$1\leq p \in (\frac{2}{3-\alpha},2)$,则$rp>1$.对于$u\in E,R>0$,有 $$ \begin{array}[b]{rl} \int_{|x|\geq R}|u|^p {\rm d}x &= \int _{|x|\geq R,|x|^r|u(x)|\leq 1}|u|^p {\rm d}x +\int _{|x|\geq R,|x|^r|u(x)|>1}|u|^p {\rm d}x\\[3mm] & \leq \int_{|x|\geq R}|x|^{-rp} {\rm d}x+ \int _{|x|\geq R,|x|^r|u(x)|>1}(|x|^r|u|)^p|x|^{-rp} {\rm d}x\\[3mm] & \leq \frac{2}{(rp-1)R^{rp-1}}+ \int_{|x|\geq R}|u|^2|x|^{2-\alpha}{\rm d}x\\[3mm] & \leq \frac{2}{(rp-1)R^{rp-1}}+\frac{1}{\tilde{\beta}(R)}\|u\|_E^2. \end{array} (2.3) $$ 令$K\subset E$有界,则对所有$u\in K,\|u\|_E\leq M$,对任意$\varepsilon >0$,取$R_0$足够大,使得 $$ \frac{2}{(rp-1)R_0^{rp-1}}+\frac{M^2}{\tilde{\beta}(R_0)}<\frac{\varepsilon^p}{9},$$ 则由(2.3)式,对$u\in K$,有 $$ \int_{|x|>{R_0}}|u|^p{\rm d}x<\frac{\varepsilon^p}{9}.(2.4)$$ 由 Sobolev 紧嵌入定理,存在$u_1,u_2,u_3,\cdots,u_n\in K$,使得对任意$u\in K$,存在$u_i(1\leq i \leq M)$ 使得 $$ \int_{|x|\leq R_0}|u-u_i|^p {\rm d}x <\frac{\varepsilon^p}{9},$$ 结合(2.4)式有 \begin{eqnarray*} \int_{{\Bbb R}^N}|u-u_i|^p {\rm d}x &=& \int_{|x|\leq R_0}|u-u_i|^p{\rm d}x+\int_{|x|> R_0}|u-u_i|^p {\rm d}x\\ & <& \frac{\varepsilon^p}{9}+4\int_{|x|> R_0}(|u|^p+|u_i|^p) {\rm d}x\\ & <&\varepsilon^p. \end{eqnarray*} 以上说明,对任意$\varepsilon>0$,$K$有一个有限$\varepsilon$ -网, 因此,在$L^p$中预紧致,即 嵌入$E\hookrightarrow L^p({\Bbb R}^N)$是紧的.

定理1.1的证明    由 $(f1)$ 和 $(f2)$得, 对任意 $\varepsilon>0$ 都存在 $C_{\varepsilon}>0$ 使得 $$F(x,t)\leq \varepsilon t^2+C_{\varepsilon}|t|^p,$$ 对所有的 $(x,t)\in {\Bbb R}^N\times{\Bbb R}$ 成立. 从而有 \begin{eqnarray*} I(u)&=& \frac{a}{2}\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x+\frac{b}{4}\left(\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x\right)^2+\frac{1}{2}\int_{{\Bbb R}^N}V(x)u^2{\rm d}x-\int_{{\Bbb R}^N}F(x,u){\rm d}x\\ & \geq& \frac{\min\{a,1\}}{2}\|u\|_E^2-\varepsilon\int_{{\Bbb R}^N}u^2{\rm d}x-C_{\varepsilon}\int_{{\Bbb R}^N}|u|^p{\rm d}x\\ &\geq &\left(\frac{\min\{a,1\}}{2}-\gamma_2^2\varepsilon\right)\|u\|_E^2-C_7\|u\|_E^p, \end{eqnarray*} 其中 $C_7=C_{\varepsilon}\gamma_p^p$ 是个常数,$\gamma_i$ $(i=2,p)$ 满足$\|u\|_i\leq \gamma_i \|u\|_E$. 取 $\varepsilon=\frac{\min\{a,1\}}{4\gamma_2^2}$ 且当$t>0$时,令 $g(t)=C_8t^2-C_7t^p$, 其中$C_8=\frac{\min\{a,1\}}{4}$. 则存在 $\rho=\left(\frac{2C_8}{pC_7}\right)^{\frac{1}{p-2}}$ 使得 $\max\limits_{t\geq0}g(t)=g(\rho):=\beta>0$. 即存在 $\rho,\ \beta>0$,使得对所有满足$\|u\|_E=\rho$ 的 $u\in E$ 都有 $I(u)\geq\beta$ 成立.

由 (2.2)式,知 $$F(x,t\varphi_1)\geq Mt^4 \varphi_1^4-C_Mt^2\varphi_1^2,$$ 其中 $\varphi_1$ 是$\lambda_1$ 对应的正交特征函数. 不等式两边同时除以 $t^4$,得 $$\frac{F(x,t\varphi_1)}{t^4}\geq M\varphi_1^4-\frac{C_M\varphi_1^2}{t^2},$$ 从而 $$\int_{{\Bbb R}^N}\frac{F(x,t\varphi_1)}{t^4}{\rm d}x\geq \int_{{\Bbb R}^N}\left(M\varphi_1^4-\frac{C_M\varphi_1^2}{t^2}\right){\rm d}x.$$ 令$t\rightarrow\infty$,由上式知对任意$M>0$,有 $$\liminf\limits_{t\rightarrow\infty}\int_{{\Bbb R}^N}\frac{F(x,t\varphi_1)}{t^4}{\rm d}x\geq\int_{{\Bbb R}^N}M\varphi_1^4{\rm d}x.$$ 由于 $M>0$ 是任意的,因此当 $M\rightarrow \infty$ 时, $$\liminf\limits_{t\rightarrow\infty}\int_{{\Bbb R}^N}\frac{F(x,t\varphi_1)}{t^4}{\rm d}x=+\infty, (3.1)$$ 从而当 $t\rightarrow\infty$ 时,有 $$\frac{I(t\varphi_1)}{t^4}\leq \frac{\max\{a,1\}}{2t^2}\|\varphi_1\|_E^2 +\frac{b}{4}\|\varphi_1\|_E^4-\int_{{\Bbb R}^N} \frac{F(x,t\varphi_1)}{t^4}{\rm d}x.$$ 由(3.1)式,令$t_0$ 足够大,取$e=t_0\varphi_1$,就有$I(e) < 0$.

由上面的讨论,$I$ 具有山路结构,由山路引理,存在$\{u_n\}\subset E$ 满足 $$ I(u_n)\rightarrow c\geq\beta,I'(u_n)\rightarrow 0,$$ 其中 $$c=\inf_{h\in \tau}\max_{t\in[0,1]}I(h(t)),\ \ \ \tau=\{h\in C([0,1],E)| h(0)=0,h(1)=t_0u_0\}.$$ 引理 2.3 表明 $\{u_n\}$ 有一收敛子列,仍记作 $\{u_n\}$. 假设当 $n\rightarrow\infty$时,$u_n\rightarrow u$. 由 $I'$ 的连续性及 $c>0$得,$u$是方程(1.1)的一个非平凡弱解.

定理 1.1 证毕.

{\bf\heiti 定理1.2的证明} 取$X:=E$的一正交基底$\{e_j\}$, 令 $X_k=\mbox{span}\{e_k\}$,定义 $W_k=\bigoplus\limits_{j=0}^k X_j,$ $Z_k=\overline{\bigoplus\limits_{j=k}^{\infty}X_j}$.

根据条件 $(f7)$有,$F$ 是偶的. 从而,$I(u)$是偶泛函, 即 $ I(-u)=I(u)$. 由引理2.3,$I(u)$ 满足 $(PS)$ 条件, 下面只需要证明$I(u)$ 满足定理2.1中的条件 $(I1)$ 和 $(I2)$.

首先,证明 $I(u)$ 满足 $(I1)$. 由(2.2)式,对于 $u\in W_k$,有 \begin{eqnarray*} I(u)& \leq&\frac{\max\{a,1\}}{2}\|u\|_E^2+\frac{b}{4}\|u\|_E^4-M\|u\|_{4}^4+C_M\|u\|_{2}^2\\ & \leq&\frac{\max\{a,1\}}{2}\|u\|_E^2+\frac{b}{4}\|u\|_E^4-MC_9\|u\|_E^4+C_MC_{10}\|u\|_E^2, \end{eqnarray*} 其中最后一个不等式用了有限维子空间 $W_k$ 中范数的等价性 .

现在,取足够大的 $M$ 使得 $ \frac{b}{4}-MC_9<0.$ 当 $M$ 取定时,$C_M$ 也固定. 因此当 $\|u\|_E=\rho_k>0$ 足够大时, 我们有 $ a_k:=\max\limits_{u\in W_k,\|u\|=\rho_k}I(u)\leq 0.$

其次,证明 $I(u)$ 满足条件 $(I2)$. 由 $(f2)$ 得,存在$elta>0$使得对所有 $x\in {\Bbb R}^N$ 和 $|t|≤σ$ 成立 $$ |f(x,t)|<\frac{\min\{a,1\}}{2\gamma_2^2} |t| .$$ 根据 $(f1)$,对几乎处处 $x\in {\Bbb R}^N$ 和 $|t|\geq elta,$ 有 \begin{eqnarray*} |f(x,t)|&\leq & C_1+C_1|t|^{p-1} \leq C_1\left(\frac{|t|}{elta}\right)^{p-1}+C_1|t|^{p-1}\\ &=&\left(\frac{C_1}{elta^{p-1}}+C_1\right)|t|^{p-1}. \end{eqnarray*} 结合以上两个不等式,对几乎处处 $x\in {\Bbb R}^N$ 和所有 $t\in {\Bbb R}$ 有 $$ |f(x,t)|\leq \frac{\min\{a,1\}}{2\gamma_2^2} |t|+\left(\frac{C_1}{elta^{p-1}}+C_1\right)|t|^{p-1}.$$ 由等式$ F(x,t)=\int_0^1 f(x,st)t{\rm d}s$ 得,对所有 $x\in{\Bbb R}^N$ 和 $t\in {\Bbb R}$ 有 $$ F(x,t)\leq \frac{\min\{a,1\}}{4\gamma_2^2}|t|^2+C_elta|t|^p,(3.2)$$ 其中,$ C_elta=\left(\frac{C_1}{elta^{p-1}}+C_1\right)/p.$

令$ \beta_k:=\sup\limits_{u\in Z_k,\|u\|_E=1}\|u\|_p$. 显然,$\{\beta_k\}$ 非负不增, 则存在 $\beta$ 使得当$k\rightarrow\infty$ 时 $\beta_k\rightarrow \beta \geq 0$. 我们断定 $\beta=0$. 若不然,有 $\beta>0$,则对任意充分大的$k$,存在 $u_k\in Z_k$,$\|u_k\|_E=1$ 使得 $\|u_k\|_p\geq \beta/2$. 对任意 $u\in E$,由于 $\{e_j\}$是$E$的正交基底,则存在 $\{\alpha_j\}\subset {\Bbb R}$ 满足 $ u=\sum\limits_{j=1}^{\infty}\alpha_je_j$, 因此由 Schwartz 不等式和 Parseval 不等式,当$k\rightarrow \infty$时 \begin{eqnarray*} |(u,u_k)_E|& =&\left|\left(\sum\limits_{j=1}^{\infty}\alpha_je_j,u_k\right)_E\right| = \left|\left(\sum\limits_{j=k}^{\infty}\alpha_je_j,u_k\right)_E\right|\\ &\leq&\left\|\sum\limits_{j=k}^{\infty}\alpha_je_j\right\|_E\|u_k\|_E = \sqrt{\sum\limits_{j=k}^{\infty}\alpha_j^2}\\ &\rightarrow &0, \end{eqnarray*} 其中,$(\cdot,\cdot)_E$表示$E$中的内积. 由 Riesz-Frechet 表示定理得,在$E$中 $u_k\rightharpoonup 0$,从而由嵌入$E\hookrightarrow L^p$ 是紧的 (见引理2.1)得,在$L^p$ 中 $u_k\rightarrow 0$,矛盾.

结合 (3.2) 式和 $\beta_k$的定义,我们有 \begin{eqnarray*} I(u)& \geq& \frac{\min\{a,1\}}{2} \|u\|_E^2-\frac{\min\{a,1\}}{4\gamma_2^2}\|u\|_{2}^2-C_elta\|u\|_{p}^p\\ & \geq& \frac{\min\{a,1\}}{4}\|u\|_E^2-C_elta\beta_k^p\|u\|_E^p. \end{eqnarray*} 取 $ r_k:=\left(\frac{\min\{ a,1\}}{8C_elta \beta_k^p }\right)^{\frac{1}{p-2}}$,得 \begin{eqnarray*} b_k&:=&\inf\limits_{u\in Z_k,\|u\|_E=r_k} I(u)\\ & \geq&\inf\limits_{u\in Z_k,\|u\|_E=r_k}\left(\frac{\min\{a,1\}}{4}\|u\|_E^2-C_elta \beta_k^p\|u\|_E^p\right)\\ & \geq&\inf\limits_{u\in Z_k,\|u\|_E=r_k}\left(\frac{\min\{a,1\}}{4}-C_elta \beta_k^p\|u\|_E^{p-2}\right)\|u\|_E^2\\ & \geq&\frac{\min\{a,1\}}{8}\left(\frac{\min\{ a,1\}}{8C_elta \beta_k^p }\right)^{\frac{2}{p-2}}. \end{eqnarray*} 当$ k\rightarrow \infty$ 时,由于$\beta_k\rightarrow 0$,有 $b_k\rightarrow \infty$. 这证得 $(I2)$ 成立. 从而完成了定理1.2 的证明.

{\bf\heiti 定理1.3的证明} 选取函数$h\in C^{\infty}([0,\infty),{\Bbb R})$ 满足: 对每个$t\in [0,\infty)$ 成立 $0\leq h(t) \leq 1$; 并且对$\varepsilon >0$,当$0\leq t\leq \varepsilon /2$ 时 $h(t)=1$ ,当 $t\geq\varepsilon$ 时$h(t)=0$. 令 $\varphi(u)=h(\|u\|_E)$. 我们考虑如下截断泛函 $$ \Phi(u):=\frac{a}{2}\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x+\frac{b}{4}\left(\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x\right)^2+\frac{1}{2}\int_{{\Bbb R}^N}V(x)u^2{\rm d}x-\varphi(u)\int_{{\Bbb R}^N}F(x,u){\rm d}x,$$ 其中,$F(x,t)=\int_0^t f(x,s){\rm d}s$. 由于$f$满足条件$(f1)$,$\int_{{\Bbb R}^N}F(x,u){\rm d}x$有意义且 $\int_{{\Bbb R}^N}F(x,u){\rm d}x\in C^1(E,{\Bbb R})$,从而$\Phi$ 的定义是有意义的且$\Phi \in C^1(E,{\Bbb R})$. 如果我们能够证明 $\Phi$ 在 $E$ 中存在一列趋于0 的非平凡弱解 $\{u_n\}$,那么定理1.3成立. 事实上,对任意 $\varepsilon >0$,存在 $N>0$ 使得对所有 $n>N$,$\|u_n\|_E< \varepsilon/2$,$I(u_n)=\Phi(u_n)$,即$\{u_n\}_{n>N}$ 恰好是方程(1.1)的弱解. 下面,运用定理2.2 证明 $\Phi$ 在 $E$ 存在一列趋于0 的非平凡弱解.

由于当 $\|u\|_E\geq\varepsilon$ 时,$\Phi(u)\geq \frac{\min\{a,1\}}{2}\|u\|_E^2$,因此当 $\|u\|_E\rightarrow\infty$ 时, $\Phi(u)\rightarrow\infty$. 这就说明了 $\Phi$ 在 $E$ 中是强制的. 对于$\|u\|_E\leq\varepsilon$,结合 $(f1)$,及引理2.4,有 \begin{eqnarray*} \Phi(u)&\geq& \frac{\min\{a,1\}}{2}\|u\|_E^2-C_1\|u\|_1-\frac{C_1}{p}\|u\|_p^p\\ &\geq &\frac{\min\{a,1\}}{2}\|u\|_E^2-C_{11}\|u\|_E-C_{12}\|u\|_E^p\\ & \geq &-C_{11}\varepsilon-C_{12}\varepsilon^p \end{eqnarray*} 从而 $\Phi(u)$ 是下方有界的. 由于 $\Phi(u)$是强制的, 则$(PS)$序列 $\{u_n\}$ 是有界的,即存在$M>0$ 使得 $\|u_n\|_E<M$.令 $\tilde{u}_n=\frac{\varepsilon}{2M}u_n$,则 $\|\tilde{u}\|_E<\frac{\varepsilon}{2}$,从而 $\Phi(\tilde{u}_n)=I(\tilde{u}_n)$. 如同引理2.3的证明,存在 $\tilde{u}\in E$ 使得 $\|\tilde{u}_n-\tilde{u}\|_E\rightarrow 0$,进而,$u_n\rightarrow u$. 因此,满足$(PS)$条件. 由 $(f7)$,易得 $\Phi(u)$ 是偶的且 $\Phi(0)=0$. 这证得条件$(B1)$ 成立.

由 $(f9)$,对任意 $\eta>0$,存在 $elta>0$,使得当 $|t|≤σ$ 时, $$F(x,t)\geq \frac{1}{2}\eta^{-1}t^2.$$ 对任意 $k\in N$,记 $E_k=\mbox{span}\{e_1,e_2,\cdots,e_k\}$. 则当 $u\in E_k$ 时,存在常数 $\alpha_k$ 使得 $|u|\leq\alpha_k\|u\|_E$. 因此,对任意满足 $\|u\|_E=\rho\leq \min\{\frac{elta}{\alpha_k},\frac{\varepsilon}{2}\}$ 的 $u\in E_k$,当 $\eta$ 足够小时,有 \begin{eqnarray*} \Phi(u)&=& \frac{a}{2}\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x+\frac{b}{4}\left(\int_{{\Bbb R}^N}|\nabla u|^2{\rm d}x\right)^2+\frac{1}{2}\int_{{\Bbb R}^N}V(x)u^2{\rm d}x-\varphi(u)\int_{{\Bbb R}^N}F(x,u){\rm d}x\\ & \leq& \frac{\max\{a,1\}}{2}\rho^2+\frac{b}{4}\rho^4-\frac{1}{2}\eta^{-1} \gamma_k^2\rho^2\\ &<&0, \end{eqnarray*} 其中$\gamma_k$是有限维空间$E_k$上两范数的等价常数$\gamma_k \|u\|_E\leq \|u\|_2\leq \gamma_k^{-1}\|u\|_E, u\in E_k$, 即,$\{u\in E_k :\|u\|_E=\rho\}\subset\{u\in E:\Phi(u)<0\}$. 因为$A=\{u\in E_k:\|u\|_E=\rho\}$ 是 $E_k$ 中半径为 $ \rho$ 的球面, 且是 $E_k$ 的一个 $k-1$ 维子空间,由文献[18,Borsuk-Ulam定理]知, $n$ 维球面$S^n$ 亏格为 $n+1$,因此 $\gamma(A)=k$. 故, $\gamma(\{u\in E:\Phi(u)<0\}) \geq \gamma(A) =k$. 记 $A_k=\{u\in E:\Phi(u)<0\}$,有$A_k\in \Gamma_k$,且 $\sup\limits_{u\in A_k}\Phi (u)<0$. 这证得条件$(B2)$ 成立.因此,由定理2.2可得定理1.3成立.