考虑如下的非线性扩散系统

(1.1) $ \begin{eqnarray} \left\{\begin{array}{ll} \partial_t u-\Delta_x u+b(t, x)\cdot \nabla_x u+V(x)u = H_v(t, x, u, v), \\ - \partial_t v-\Delta_x v-b(t, x)\cdot \nabla_x v+V(x)v = H_u(t, x, u, v), \end{array} \right. \end{eqnarray} $

其中, $ N\geq 1, z = (u, v): {{\Bbb R}}\times {{\Bbb R}}^N\rightarrow {{\Bbb R}}^1\times {{\Bbb R}}^1, \ b = (b_1, b_2, \cdots , b_N) \in C^1({{\Bbb R}}\times {{\Bbb R}}^N), $$ V\in C({{\Bbb R}}^N, {{\Bbb R}}), $$ H\in C^1({{\Bbb R}}\times {{\Bbb R}}^N \times {{\Bbb R}}^2, {{\Bbb R}}) $. 假设非线性项在无穷远处是次临界增长的, 在超线性的假设下, 证明上述系统基态解的存在性.

问题(1.1) 起源于时空扩散过程的研究, 这种过程最典型的例子是$ N $维Brownian运动. 同时, 它与Schrödinger方程有着非常紧密的联系, 具有深刻的物理背景(单个方程见Itô的专著[11], 方程组的情形见Nagasawa的专著[16]). 当$ b = 0 $时, 与经典的Hamilton系统相对应, (1.1) 被称为无界Hamilton系统或是无穷维Hamilton系统. 另外, 系统(1.1) 在优化和控制理论中有重要的应用.

对于有界区域情形, 类似于系统(1.1) 的问题, 现已被许多学者研究, 参见文献[13, 15]. 对于全空间$ {{\Bbb R}}^N $的情形, 假设$ b(t, x) = 0, V(x)\neq 0 $, Bartsch-Ding^[1]通过研究算子的谱的性质, 建立了适当的变分框架, 获得了该问题多解的存在性结果. 假设$ b(t, x) \neq 0 $, 并且在周期情形下, Ding-Luan-Willem^[5]首次利用强不定问题的变分法研究了解的存在性与多重性, 其中非线性项是超二次和渐近二次增长. 在文章[23]中, Wei-Yang研究了$ 0 $是算子谱的边界点的情形, 在超二次和渐近二次两种情况下, 也获得了无穷多解的存在性. 对于椭圆方程或系统的结果, 可参阅文献[9, 10, 22, 26].

容易看到, $ (0, 0) $是系统(1.1)的一个稳态解, 本文的主要目的是研究系统(1.1)的解$ z = (u, v):{{\Bbb R}}\times{{\Bbb R}}^N\rightarrow {{\Bbb R}}^2 $, 满足当$ |t|+|x|\rightarrow \infty $时$ z(t, x)\rightarrow0 $. 这种解称之为同宿型解.我们将研究系统(1.1)的具有极小能量的同宿型解.为叙述方便, 简称为基态解. 受上面工作的启发, 本文继续研究系统(1.1), 假设位势函数是周期的, 非线性项是超线性情形下, 证明系统(1.1) 基态解的存在性. 对于问题(1.1) 的研究, 一个主要困难是Sobolev嵌入失紧导致泛函可能失紧.

在叙述定理之前, 作如下假设:

(V)    $ V\in C({{\Bbb R}}^N, {{\Bbb R}}) $关于$ x $的每个分量是1 -周期的, 且$ a: = \min\limits_{x\in {{\Bbb R}}^N} V(x)>0 $;

(B)    $ b\in C^1({{\Bbb R}}\times {{\Bbb R}}^N, {{\Bbb R}}^N) $关于$ t $以及$ x $的每个分量是1 -周期的, 且$ \mbox{div} b = 0 $;

(H1)   $ H\in C^1({{\Bbb R}}\times {{\Bbb R}}^N \times {{\Bbb R}}^2, {{\Bbb R}}^+) $关于$ t $以及$ x $的每个分量是1 -周期的, 且存在常数$ C>0 $使得

$ |H_z(t, x, z)|\leq C(1+|z|^{p-1}), \ \ \forall\ (t, x, z)\in {{\Bbb R}}\times {{\Bbb R}}^N\times{{\Bbb R}}^2, $

其中, $ p\in (2, N^*) $. 若$ N = 1 $, $ N^* = \infty $, 若$ N\geq 2 $, $ N^* = \frac{2(N+2)}{N} $;

(H2)    当$ |z|\rightarrow 0 $时, $ H_z(t, x, z) = o (|z|) $关于$ (t, x) $一致成立;

(H3)    $ \lim\limits_{|z|\rightarrow \infty}\frac{|H(t, x, z)|}{|z|^2} = \infty $关于$ (t, x) $一致成立;

(H4)   对于所有的$ \theta\geq 0, z, \zeta\in {{\Bbb R}}^2 $,

$ \frac{1-\theta^2}{2}H_z(t, x, z)\cdot z-\theta H_z(t, x, z)\cdot \zeta + H(t, x, \theta z+\zeta)-H(t, x, z)\geq 0. $

设$ E, E^- $和$ E^+ $是Hilbert空间且$ E = E^- \oplus E^+ $ (定义见本文第2节). 注意到, 系统(1.1) 对应的能量泛函由如下形式给出

(1.2) $ \begin{eqnarray} \Phi(z) = \frac{1}{2}(\|z^+\|^2-\|z^-\|^2)-\Psi(z), \end{eqnarray} $

这里$ \Psi(z) = \int_{{{\Bbb R}}\times {{\Bbb R}}^N} H(t, x, z) $. 由上述假设易知, $ \Phi\in C^1(E, {{\Bbb R}}) $, 且$ \Phi $的临界点$ z\in B_2 $ (见第2节) 对应于系统(1.1)的解. 进一步, 对于$ \forall\ z = (u, v), \zeta = (\varphi, \psi)\in E $有

(1.3) $ \begin{eqnarray} \langle \Phi'(z), \zeta\rangle = (z^+, \zeta^+)-(z^-, \zeta^-)-\int_{{{\Bbb R}}\times{{\Bbb R}}^N}H_z(t, x, z)\cdot \zeta, \end{eqnarray} $

且

(1.4) $ \begin{eqnarray} \langle \Phi'(z), z\rangle = \|z^+\|^2-\|z^-\|^2-\langle \Psi'(z), z\rangle. \end{eqnarray} $

若$ z_0 = (u_0, v_0) \in E $是系统(1.1) 的解, 则$ z_0 \in {\cal N}^- $, 其中

$ {\cal N}^- = \{z\in E\setminus E^-: \langle \Phi'(z), z\rangle = \langle \Phi'(z), \zeta\rangle = 0, \ \forall\ \zeta\in E^-\} $

是广义的Nehari流形. 显然, 它是通常的Nehari流形

$ {\cal N}^0 = \{z\in E\setminus \{0\}: \langle \Phi'(z), z\rangle = 0\} $

的子集. 一般来说, $ {\cal N}^- $包含$ E $中无穷多个元素. 事实上, 对任意的$ z \in E \setminus E^- $, 存在$ \eta = \eta(z) > 0, \zeta = \zeta(z) \in E^- $使得$ \zeta+ \eta z \in {\cal N}^- $, 参见引理.

一般地, 在广义的Nehari流形$ {\cal N}^- $中寻找基态解要比在临界点集$ {\cal N} = \{u\in E\setminus \{0\}: \Phi'(u) = 0\} $中更困难. 本文的主要目的是: 在较弱的条件(V), (B), (H1)–(H4) 下, 在广义的Nehari流形$ {\cal N}^- $中寻找系统(1.1) 的解$ z_0 $且满足$ \Phi(z_0) = \inf\limits_{{\cal N}^-}\Phi $. 由于$ z_0 $是$ \Phi $在流形$ {\cal N}^- $中的解且能量最小, 我们称之为Nehari-Pankov型基态解. 受文献[9, 20, 21]的启发, 我们利用作者建立的非Nehari流形方法来取代广义的Nehari流形方法和单调技巧. 这个方法的主要思想是: 通过使用对角线的方法在流形外寻找泛函的极小能量的Cerami序列(C -序列).

本文的主要结果如下:

定理 1.1   假设(V), (B), (H1)–(H4) 成立, 则系统(1.1) 至少有一个基态解$ z_0\in E $使得$ \Phi(z_0) = \inf\limits_{{\cal N}^-}\Phi>0 $.

推论 1.1   作为定理1.1的一个推论, 极小能量值$ m: = \inf\limits_{{\cal N}^-} $有如下的一个极大极小刻画:

$ m = \Phi(z_0) = \inf\limits_{v\in E^+\setminus \{0\}}\max\limits_{z\in E^-\oplus {{\Bbb R}}^+v}\Phi(z). $

容易看到, 较于通常由环绕所给出的能量值刻画, 此极大极小原理要更加简便.

下面, 用$ |\cdot|_q $表示通常的$ L^q $ -范数, $ (\cdot, \cdot) $表示通常的$ L^2 $内积, $ c, c_i $或$ C_i $代表不同的正常数. 另外, 令$ \sigma (A) $和$ \sigma_e(A) $分别表示算子$ A $的谱和本质谱. 为了继续讨论和行文的方便, 设

$ {\cal J} = \left(\begin{array}{cc} 0   & -1\\ 1   & 0\\ \end{array} \right), \ \ {\cal J} = \left(\begin{array}{cc} 0   & 1\\ 1   & 0\\ \end{array} \right), \ \ {\cal S} = -\Delta_x+V $

且

$ A_0: = {\cal J}_0{\cal S}+{\cal J}b\cdot \nabla_x. $

于是, 系统(1.1) 可化成如下形式:

$ {\cal J}\partial_t z+A_0z = H_z(t, x, z), \ \ z = (u, v). $

这种形式的系统被称为无界的Hamilton系统, 或者被称为无穷维的Hamilton系统. 事实上, 它具有如下的表示

$ {\cal J}\partial_t z = {\rm grad}_z {\cal H}(t, x, z), $

其中

$ {\cal H}(t, x, z): = -\int_{{{\Bbb R}}^N}(\nabla_x u\cdot \nabla_x v+b\cdot \nabla_x uv +V(x)uv-H(t, x, z)){\rm d}x $

是Hamilton函数, $ {\rm grad}_z $表示$ L^2({{\Bbb R}}^N, {{\Bbb R}}^2) $中的梯度算子.

对于$ r \geq 1 $, 下面的各向异性空间是由Bartsch-Ding^[1]引入的:

$ \begin{eqnarray*} B_r&\doteq& B_r ({{\Bbb R}}\times {{\Bbb R}}^N, {{\Bbb R}}^2)\\ &\doteq & W^{1, r}({{\Bbb R}}, L^r({{\Bbb R}}^N, {{\Bbb R}}^2))\cap L^r({{\Bbb R}}, W^{2, r} ({{\Bbb R}}^N, {{\Bbb R}}^2)\cap W_0^{1, r}{{\Bbb R}}^N, {{\Bbb R}}^2({{\Bbb R}}^N, {{\Bbb R}}^2)), \end{eqnarray*} $

其上的范数为

$ \|z\|_{B_r} = \bigg(\int_{{{\Bbb R}}\times {{\Bbb R}}^N}(|z|^r+|\partial_tz|^r+\sum\limits_{i = 1}^N|\partial_{x_i}^2 z|^r)\bigg). $

已知$ B_r $是$ C_0^\infty ({{\Bbb R}}\times {{\Bbb R}}^N, {{\Bbb R}}^2) $在$ \|\cdot\|_{B_r} $下的完备化. 如果$ r = 2 $, 则$ B_2 $是Hilbert空间.

令$ A: = {\cal J} \partial_t+A_0 $, 在条件(V) 和(B) 的假设下, 容易证明$ A $在$ L^2: = L^2({{\Bbb R}}\times {{\Bbb R}}^N, {{\Bbb R}}^2) $中是自伴算子, 且定义域为$ {\cal D}(A) = B_2({{\Bbb R}}\times {{\Bbb R}}^N, {{\Bbb R}}^2) $. 进一步, 存在常数$ c_1, c_2 $使得

$ c_1\|z\|_{B_2}^2\leq |Az|_2^2\leq c_2\|z\|_{B_2}^2, \ \ z\in B_2. $

具体细节见文献[5].

为了建立系统(1.1) 的变分框架, 首先给出关于Hamilton算子谱的性质.

引理 2.1^[5]   假设(V) 和(B) 成立, 则

$ \rm(1) $   $ \sigma(A) = \sigma_e(A) $, 即$ A $有本质谱;

$ \rm(2) $   $ \sigma(A)\subset {{\Bbb R}} \setminus {(-a, a)} $且$ \sigma (A) $关于原点对称;

$ \rm(3) $   设$ 0 \leq \mu_1\leq \cdots \leq \mu_l $是算子$ L^2 $在$ \inf {\sigma_{ess}} L^2 $下方的所有特征值, 则$ \{\pm \mu_i^{1/2}, i = 1, $$ \cdots , l\} $是$ L $的所有特征值.

由引理2.1可知$ L^2 $空间具有下面的正交分解

$ L^2 = L^-\oplus L^+, \ \ u = u^-+u^+, $

使得$ A $在$ L^- $上是负定的, 在$ L^+ $上是正定的. 设$ |A| $和$ |A|^{1/2} $分别表示$ A $的绝对值和$ |A| $的平方根. 令$ |A|^{1/2} $的定义域为$ E: = {\cal D}(|A|^{1/2}) $, 则$ E $在内积

$ \begin{eqnarray*} (u, v) = (|A|^{1/2}u, |A|^{1/2} v)_2 \end{eqnarray*} $

下成为Hilbert空间及相应的范数为$ \|u\| = (u, u)^{1/2} $. 进一步, $ E $有下面的分解

$ E = E^-\oplus E^+, \ \ E^{\pm} = E\cap L^{\pm}, $

其中$ E^- $和$ E^+ $关于内积$ (\cdot, \cdot)_2 $和$ (\cdot, \cdot) $分别正交. 相应的投影记为$ P^+ $和$ P^- $. 由内插理论, 有如下引理.

引理 2.2   若$ N = 1, p\geq 2, E\hookrightarrow L^p $是连续的, 若$ N\geq 2, p\in [2, N^*], E\hookrightarrow L^p $是连续; 若$ p\in [1, N^*), E\hookrightarrow L_{loc}^p $是紧的.

引理 2.3^[14]   设$ X $是一个Banach空间, $ X = X^-\oplus X^+ $且$ X^-\perp X^+ $. 设$ \varphi\in C^1(X, {{\Bbb R}} ) $具有以下形式:

$ \varphi(u) = \frac{1}{2}(\|u^+\|^2-\|u^-\|^2)-\psi(u), \ \ u = u^-+u^+\in X^-\oplus X^+. $

假设以下条件成立：

$ \rm(i) $  $ \psi\in C^1(X, {{\Bbb R}} ) $下方有界且是弱序列下半连续;

$ \rm(ii) $  $ \psi' $弱序列连续;

$ \rm(iii) $  存在$ r>\rho>0 $, $ e\in X^+ $且$ \|e\| = 1 $使得

$ \kappa: = \inf \varphi(S_{\rho}^+)>\sup \varphi(\partial Q), $

其中

$ S_{\rho}^+ = \{u\in X^+: \|u\| = \rho\}, \ \ Q = \{v+se: v\in X^-, s\geq 0, \|v+se\|\leq r\}. $

则存在常数$ c\in [\kappa, \sup \varphi(Q)] $和序列$ \{u_n\}\subset X $满足

$ \varphi(u_n)\rightarrow c, \ \ \|\varphi'(u_n)\|(1+\|u_n\|)\rightarrow 0. $

以下, 为叙述方便, 记

$ \int_{{{\Bbb R}}\times {{\Bbb R}}^N}f(t, x){\rm d}x{\rm d}t = \int_{{{\Bbb R}}\times {{\Bbb R}}^N}f(t, x). $

在$ E $上定义如下泛函

$ \begin{eqnarray*} \Phi(z) = \frac{1}{2}(\|z^+\|^2-\|z^-\|^2)-\Psi(z), \end{eqnarray*} $

这里$ \Psi(z) = \int_{{{\Bbb R}}\times {{\Bbb R}}^N} H(t, x, z) $. 定理的假设保证了$ \Phi\in C^1(E, {{\Bbb R}}) $且$ \Phi $是弱序列下半连续的. 进一步, $ \Phi $的临界点对应于系统(1.1) 的解.

引理 3.1  假设定理1.1的条件成立, 则$ \Psi $是非负的, 弱下半连续的, 且$ \Psi' $是弱序列连续的.

证  注意到, 由条件(H1) 知$ H(t, x, z)\geq 0 $. 结合Fatou引理, $ \Psi $是非负的且弱下半连续的. 通过标准的方法易证$ \Psi' $是弱序列连续的.

引理 3.2   假设(V), (B) 和(H1)–(H4) 成立, 则对于任意的$ \theta\geq 0, z\in E, \zeta\in E^- $, 有

(3.1) $ \begin{eqnarray} \Phi(z)\geq \Phi(\theta z+\zeta)+\frac{1}{2}\|\zeta\|^2+\frac{1-\theta^2}{2} \langle \Phi'(z), z\rangle-\theta \langle \Phi'(z), \zeta\rangle. \end{eqnarray} $

证   由(1.2)–(1.4) 式与(H4) 可得

$ \begin{eqnarray*} &&\Phi(z)-\Phi(\theta z+\zeta)\\ & = &\frac{1}{2}\|\zeta\|^2+\frac{1-\theta^2}{2}(\|z^+\|^2-\|z^-\|^2)+\theta (z, \zeta) -\int_{{{\Bbb R}}\times {{\Bbb R}}^N}[H(t, x, z)-H(t, x, \theta z+\zeta)]\\ & = &\frac{1}{2}\|\zeta\|^2+\frac{1-\theta^2}{2}\langle \Phi'(z), z\rangle-\theta \langle \Phi'(z), \zeta\rangle +\int_{{{\Bbb R}}\times {{\Bbb R}}^N}\frac{1-\theta^2}{2}H_z(t, x, z)\cdot z-\theta H_z(t, x, z)\cdot \zeta\\ &&+\int_{{{\Bbb R}}\times {{\Bbb R}}^N}H(t, x, \theta z+\zeta)-H(t, x, z)\\ &\geq & \frac{1}{2}\|\zeta\|^2+\frac{1-\theta^2}{2}\langle \Phi'(z), z\rangle-\theta \langle \Phi'(z), \zeta\rangle, \ \forall\ \theta\geq 0, z\in E, \ \zeta\in E^-. \end{eqnarray*} $

引理3.2证毕.

由引理3.2, 可以得到如下推论.

推论 3.1  假设(V), (B), (H1), (H2) 和(H4) 成立, 则对任意的$ \theta\geq 0, \zeta\in E^-, z\in {\cal N}^- $, 有

(3.2) $ \begin{eqnarray} \Phi(z)\geq \Phi(\theta z+\zeta). \end{eqnarray} $

推论 3.2   假设(V), (B), (H1), (H2) 和(H4) 成立, 则对任意的$ z\in E, \theta\geq 0 $有

(3.3) $ \begin{eqnarray} \Phi(z)\geq \frac{\theta^2}{2}\|z\|^2+\frac{1-\theta^2}{2}\langle \Phi'(z), z\rangle +\theta^2\langle \Phi'(z), z^-\rangle-\int_{{{\Bbb R}}\times {{\Bbb R}}^N}H(t, x, \theta z^+). \end{eqnarray} $

下面的引理在环绕结构中起着关键作用.

应用推论3.1和文献[18] 中的思想, 易证下面的结果.

引理 3.3  假设定理1.1的条件成立, 则

$ \rm(i) $  存在$ \rho>0 $使得

$ m: = \inf\limits_{{\cal N}^-}\Phi\geq \kappa: = \inf\{\Phi(z): z\in E^+, \ \|z\| = \rho\}>0; $

$ \rm(ii) $  对所有的$ z\in {\cal N}^-, \|z^+\|\geq \max\{\|z^-\|, \sqrt{2m}\} $.

引理 3.4  假设(V), (B)和(H1)–(H4) 成立, 则对任意的$ e\in E^+, \sup \Phi(E^-\oplus {{\Bbb R}}^+ e)<\infty $, 且存在$ R_e>0 $使得

$ \Phi(z)\leq 0, \ \ \forall\ z\in E^-\oplus {{\Bbb R}}^+e, \ \|z\|\geq R_e. $

证   当非线性项$ H(t, x, z) $满足超线性增长时, 这个证明是标准的, 参见文献[17].

推论 3.3  假设(V), (B)和(H1)–(H4) 成立, 设$ e\in E^+ $且$ \|e\| = 1 $. 则存在$ r_0>\rho $使得当$ r\geq r_0 $时, $ \sup\Phi (\partial Q)\leq 0 $, 其中

$ Q = \{\zeta+se: \zeta\in E^-, \ s\geq 0, \ \|\zeta+se\|\leq r\}. $

推论 3.4   假设(V), (H1), (H2) 和(H4) 成立, 设$ e\in E_0^+ $且$ \|e\| = 1 $. 则存在$ r_0>\rho $使得当$ r\geq r_0 $时, $ \sup\Phi (\partial Q)\leq 0 $, 其中

$ Q = \{\zeta+se: \zeta\in E^-, \ s\geq 0, \ \|\zeta+se\|\leq r\}. $

引理 3.5   假设(V), (H1), (H2) 和(H4) 成立, 则存在常数$ c\in [\kappa, \sup\Phi(Q)] $和序列$ \{z_n\}\subset E $满足

$ \Phi(z_n)\rightarrow c, \ \ \|\Phi'(z_n)\|(1+\|z_n\|)\rightarrow 0. $

证   容易看到, 引理3.5可由引理3.1和引理3.3直接推得.

引理 3.6  假设(V), (B)和(H1)–(H4) 成立, 则存在常数$ c_* \in [\kappa, m] $和序列$ \{z_n\} = \{(u_n, v_n)\}\subset E $满足

(3.4) $ \begin{eqnarray} \Phi(z_n)\rightarrow c_*, \ \ \|\Phi'(z_n)\|(1+\|z_n\|)\rightarrow 0. \end{eqnarray} $

引理 3.7  假设(V), (B)和(H1)–(H4) 成立, 则对任意的$ z \in E \setminus E^- $, $ {\cal N}^-\cap (E^-\oplus {{\Bbb R}}^+ z)\neq \emptyset $, 即存在$ \eta(z) > 0, \zeta(z) \in E^- $使得$ \eta(z)z + \zeta(z) \in {\cal N}^- $.

引理 3.8  假设(V), (B)和(H1)–(H4) 成立, 则对任意的序列$ \{z_n\} \subset E $满足

(3.5) $ \begin{eqnarray} \Phi(z_n)\rightarrow c\geq 0, \ \ \langle \Phi'(z_n), z_n^+\rangle\rightarrow 0, \ \ \langle \Phi'(z_n), z_n^-\rangle\rightarrow 0 \end{eqnarray} $

是有界的.

证   为了证明序列$ \{z_n\} $的有界性, 采用反证法. 假设$ \|z_n\|\rightarrow \infty $. 令$ w_n = z_n/{\|z_n\|} $, 则$ \|w_n\| = 1 $. 由Sobolev嵌入定理可知, 存在常数$ C_1 > 0 $使得$ \|w_n\|_2\leq C_1 $. 如果

$ \delta: = \lim\limits_{n\rightarrow \infty}\sup\limits_{y\in {{\Bbb R}}^{N+1}}\int_{B_1(y)}|w_n^+|^2{\rm d}x = 0, $

则由Lions集中紧性原理, 在$ L^p $中, $ w_n^+\rightarrow 0 $. 固定$ R > [2(1 + c)]^{1/2} $, 由条件(H1) 和(H2), 对$ \varepsilon = 1/{4(RC_1)^2} > 0 $, 存在$ C_\varepsilon > 0 $使得

$ H(t, x, z)\leq \varepsilon |z|^2+C_\varepsilon |z|^p, \ \ \forall\ (t, x, z)\in {{\Bbb R}}\times {{\Bbb R}}^N\times{{\Bbb R}}^2. $

因此

(3.6) $ \begin{eqnarray} &&\lim\limits_{n\rightarrow \infty}\sup\int_{{{\Bbb R}}\times{{\Bbb R}}^N}H(t, x, Rz_n^+/{\|z_n\|})\\ & = & \lim\limits_{n\rightarrow \infty}\sup\int_{{{\Bbb R}}\times{{\Bbb R}}^N}H(t, x, Rw_n^+)\\ &\leq & \lim\limits_{n\rightarrow \infty}\sup R^2\varepsilon\int_{{{\Bbb R}}\times{{\Bbb R}}^N}|w_n^+|^2+ \lim\limits_{n\rightarrow \infty}\sup R^pC_\varepsilon\int_{{{\Bbb R}}\times{{\Bbb R}}^N}|w_n^+|^2\\ &\leq &\varepsilon (RC_1)^2 = \frac{1}{4}. \end{eqnarray} $

设$ \theta_n = R/{\|z_n\|} $, 则由(3.3), (3.5)和(3.6) 式可得

$ \begin{eqnarray*} c+o(1)& = &\Phi(z_n)\\ &\geq & \frac{\theta_n^2}{2}\|z_n\|^2-\int_{{{\Bbb R}}\times{{\Bbb R}}^N}H(t, x, \theta_nz_n^+)+\frac{1-\theta_n^2}{2} \langle \Phi'(z_n), z_n\rangle+\theta_n^2\langle \Phi'(z_n), z_n^-\rangle\\ & = & \frac{R^2}{2}-\int_{{{\Bbb R}}\times{{\Bbb R}}^N}H(t, x, Rz_n^+/{\|z_n\|})\\ &&+\left(\frac{1}{2}-\frac{R^2}{2\|z_n\|^2}\right)\langle\Phi'(z_n), z_n \rangle+\frac{R^2}{\|z_n\|^2}\langle \Phi'(z_n), z_n^-\rangle\\ & = &\frac{R^2}{2}-\int_{{{\Bbb R}}\times{{\Bbb R}}^N}H(t, x, Rz_n^+/{\|z_n\|})+o(1)\\ &\geq &\frac{R^2}{2}-\frac{1}{4}+o(1)>\frac{3}{4}+c+o(1). \end{eqnarray*} $

这个矛盾蕴含了$ \delta> 0 $. 于是, 可以假设存在$ k_n \in {\Bbb Z}^{N+1} $使得

$ \int_{B_{1+\sqrt{N+1}}(0)}|\xi_n^+|^2>\frac{\delta}{2}. $

令$ \zeta_n(x) = \xi_n(x + k_n) $, 则

(3.7) $ \begin{eqnarray} \int_{B_{1+\sqrt{N+1}}(0)}|\zeta_n^+|^2>\frac{\delta}{2}. \end{eqnarray} $

定义$ \tilde{z}_n(x) = z_n(x + k_n) $, 则$ \tilde{z}_n/{\|z_n\|} = \zeta_n $且$ \|\zeta_n\| = 1 $. 在子列的意义下, 假设在$ E $中$ \zeta_n \rightharpoonup \zeta $, 在$ L_{loc}^2 $中$ \zeta_n \rightarrow \zeta, \zeta_n \rightarrow \zeta $几乎处处于$ {{\Bbb R}}\times{{\Bbb R}}^N $. 显然, (3.7) 式蕴含了$ \zeta\neq 0 $. 于是, 由(3.5)式, 条件(H2)–(H4) 和Fatou引理可得

$ \begin{eqnarray*} 0& = &\lim\limits_{n\rightarrow \infty}\frac{c+o(1)}{\|z_n\|^2} = \lim\limits_{n\rightarrow \infty}\frac{\Phi(z_n)}{\|z_n\|^2}\\ & = &\lim\limits_{n\rightarrow \infty}\left[\frac{1}{2}(\|\xi_n^+\|^2-\|\xi_n^-\|^2)-\int_{{{\Bbb R}}\times{{\Bbb R}}^N}\frac{H(t, x, z_n)}{\|z_n\|^2}\right]\\ & = &\lim\limits_{n\rightarrow \infty}\left[\frac{1}{2}(\|\xi_n^+\|^2-\|\xi_n^-\|^2)-\int_{{{\Bbb R}}\times{{\Bbb R}}^N}\frac{H(t, x, z_n)}{|\tilde{z}_n|^2}|\zeta_n|^2\right]\\ &\leq & \frac{1}{2}-\lim\limits_{n\rightarrow \infty}\inf\limits_{{{\Bbb R}}\times{{\Bbb R}}^N}\frac{H(t, x, z_n)}{|\tilde{z}_n|^2}|\zeta_n|^2 = -\infty, \end{eqnarray*} $

矛盾. 因此$ \{z_n\} $在$ E $中有界. 证毕.

定理  1.1的证明   应用引理3.8, 存在一个有界的序列$ \{z_n\} \subset E $满足(3.4) 式. 于是存在常数$ C_2 > 0 $使得$ \|z_n\|_2 \leq C_2 $. 如果

$ \delta: = \lim\limits_{n\rightarrow \infty}\sup\limits_{y\in{{\Bbb R}}^{N+1}}\int_{B_1(y)}|z_n|^2 = 0, $

则在$ L^p $中$ z_n \rightarrow0, p\in(2, N^*) $. 另外, 由条件(H1)和(H2), 对$ \varepsilon = c_*/{4C_2^2} > 0 $, 存在$ C_\varepsilon > 0 $使得

$ H(t, x, z)\leq \varepsilon |z|^2+C_\varepsilon |z|^p, \ \ \forall\ (t, x, z)\in {{\Bbb R}}\times {{\Bbb R}}^N\times{{\Bbb R}}^2. $

由上面的关系, 可得

$ \begin{eqnarray*} \lim\limits_{n\rightarrow \infty}\sup\int_{{{\Bbb R}}\times{{\Bbb R}}^N}\left[\frac{1}{2}H_z(t, x, z_n)\cdot z_n-H(t, x, z_n)\right]\leq \frac{3\varepsilon}{2}C_2^2+\frac{3\varepsilon}{2}C_\varepsilon\lim\limits_{n\rightarrow \infty}|z_n|^p = \frac{3c_*}{8}. \end{eqnarray*} $

从而

$ \begin{eqnarray*} c_*& = & \Phi(z_n)-\frac{1}{2}\langle \Phi'(z_n), z_n\rangle+o(1)\\ & = & \int_{{{\Bbb R}}\times{{\Bbb R}}^N}\left[\frac{1}{2}H_z(t, x, z_n)\cdot z_n-H(t, x, z_n)\right]+o(1)\\ &\leq & \frac{3c_*}{8}+o(1), \end{eqnarray*} $

矛盾. 因此, $ \delta> 0 $.

在子列的意义下, 我们可以假设存在$ k_n \in {\Bbb Z}^{N+1} $使得

$ \int_{B_{1+\sqrt{N+1}}(0)}|\xi_n^+|^2>\frac{\delta}{2}. $

令$ \zeta_n(x) = \xi_n(x + k_n) $, 则

(3.8) $ \begin{eqnarray} \int_{B_{1+\sqrt{N+1}}(0)}|\zeta_n^+|^2>\frac{\delta}{2}. \end{eqnarray} $

因为$ V(t, x), b(t, x), H(t, x, z) $关于$ t, x $是周期的, 则$ \|\zeta_n\| = \|z_n\| $且

$ \begin{eqnarray*} \Phi(\zeta_n)\rightarrow c_*, \ \ \|\Phi'(\zeta_n)\|(1+\|\zeta_n\|)\rightarrow 0. \end{eqnarray*} $

于是, 在子列的意义下, 假设在$ E $中$ \zeta_n \rightharpoonup \zeta $, 在$ L_{loc}^2 $中$ \zeta_n\rightarrow \zeta, \zeta_n(t, x)\rightarrow \zeta(t, x) $几乎处处于$ {{\Bbb R}}^{N+1} $, 由(3.8) 式, $ \zeta\neq 0 $. 对每个

$ \phi = (\phi_1, \phi_2) \in C_0^\infty ({{\Bbb R}}^{N+1}) \times C_0^\infty ({{\Bbb R}}^{N+1}), $

可得

$ \langle \Phi'(\zeta), \phi\rangle = \lim\limits_{n\rightarrow \infty}\langle \Phi'(\zeta_n), \phi\rangle = 0. $

于是, $ \Phi'(\zeta) = 0 $. 这说明$ \zeta \in {\cal N}^- $. 因此, $ \Phi(\zeta) \geq m $. 另一方面, 由条件(H2), (H4) 和Fatou引理, 我们有

$ \begin{eqnarray*} m&\geq & c_* = \lim\limits_{n\rightarrow \infty}\left[\Phi(z_n)-\frac{1}{2}\langle \Phi'(z_n), z_n\rangle\right]\\ & = & \lim\limits_{n\rightarrow \infty}\int_{{{\Bbb R}}\times{{\Bbb R}}^N}\left[\frac{1}{2}H_z(t, x, z_n)\cdot z_n-H(t, x, z_n)\right]\\ &\geq & \int_{{{\Bbb R}}\times{{\Bbb R}}^N}\lim\limits_{n\rightarrow \infty}\left[\frac{1}{2}H_z(t, x, z_n)\cdot z_n-H(t, x, z_n)\right]\\ & = & \int_{{{\Bbb R}}\times{{\Bbb R}}^N}\left[\frac{1}{2}H_\zeta(t, x, \zeta)\cdot \zeta-H(t, x, \zeta)\right]\\ & = & \Phi(\zeta)-\frac{1}{2}\langle \Phi'(\zeta), \zeta\rangle = \Phi(\zeta), \end{eqnarray*} $

这蕴含了$ \Phi(\zeta) \leq m $. 于是, $ \Phi(\zeta) = m = \inf\limits_{{\cal N}^-}\Phi > 0 $. 定理1.1证毕.