本文考虑了如下带 Sobolev 临界指数的 Kirchhoff 型线性耦合方程组

其中 $ \Omega\subset\mathbb{R}^{3} $ 是一个开球, $ \|\cdot\| $ 表示 $ H_{0}^{1}(\Omega) $ 的范数, $ \beta\in\mathbb{R} $ 是一个耦合参数. 常数 $ b_{i}\geq0 $ 和 $ \lambda_{i}\in(-\lambda_{1}(\Omega),-\frac{1}{4}\lambda_{1}(\Omega)), i=1,2 $, 这里 $ \lambda_{1}(\Omega) $ 是 $ (-\Delta,H^{1}_{0}(\Omega)) $ 的第一特征值. 方程(1.1)的特征主项来源于非线性振动理论. 在文献[1]中, 如下方程描述了拉伸弦的自由振动

其中 $ c^{2}:=T_{0}/m $, $ u: [L]\rightarrow\mathbb{R} $ 是振动弦的振幅, $ a,m,E,L,T_{0} $ 是几个物理量, 分别表示弦的横截面, 单位长度的质量, 杨氏模量, 弦的基础长度和基础张力. 非局部项的出现是考虑到了振动弦上的张力变化, 该变化是由弦长度的变化引起的. 此类方程首先由 Kirchhoff 在文献[2]中提出. 此外, 方程组(1.1)还模拟了一些生物系统, 其中 $ u $ 描述了一个取决于自身平均值的过程, 例如种群密度^[3⇓⇓-6].

当 $ b_{i}=0,i=1,2 $ 时, 方程组(1.1)变成如下带 Sobolev 临界指数的线性耦合方程组

利用变分法, Peng等^[7]证明了方程组(1.2)有一个正基态解和一个高能量的正解, 并且分析了当$ \beta\rightarrow0 $ 时这两个解的渐近行为. 特别地, 当 $ \beta=0 $ 时, 方程组(1.2)就变成了 Brezis 和 Nirenberg^[8]研究的问题, 此问题引起很多数学工作者的关注, 并致力于其研究, 参考文献^{[9⇓⇓⇓-13]}.

在三维空间中, 已有一些关于带 Sobolev 临界指数的 Kirchhoff 型方程的研究^{[10,14⇓⇓-17]}. 特别地, 在文献^[10]中, Naimen 考虑了方程组(1.1)当 $ \beta=0 $ 时的情形, 此情形可看作是带 Kirchhoff 扰动项的 Brezis-Nirenberg 问题,

利用变分法证明了方程(1.3)解的存在性, 并发现了一些 Kirchhoff 扰动项对

Brezis 和 Nirenberg^[8]结果的影响. 之后, Kirchhoff 方程在全空间 $ \mathbb{R}^{3} $ 中的一些问题也有相应地研究^{[14⇓⇓-17]}.

在上文提到的工作中, 仅考虑了带 Sobolev 临界指数的单个 Kirchhoff 型方程. 而对于线性耦合方程组的研究, 线性耦合项的出现可能会带来一些新的问题. 例如, 解的多重性^[6,7,18]. 受上述工作的启发, 本文中考虑了带 Sobolev 临界指数的 Kirchhoff 型线性耦合方程组. 由于线性耦合项的特点, 当 $ \beta\neq0 $ 时, 方程组(1.1)没有半平凡解 (即 $ (u,0) $ 或 $ (0,v) $ 形式的解). 特别地, 当 $ u>0 $ 和 $ v>0 $ 时, 称方程组(1.1)的解 $ (u,v) $ 是正解, 而当 $ (u,v)\neq(0,0) $ 在所有非平凡解中对应的能量最小时, 则称为基态解.

本文的目的是证明方程组(1.1)有一个正基态解和一个高能量的正解, 并研究当 $ \beta\rightarrow0 $ 时这两个解的渐近行为. 主要结果如下, 在结果中出现的符号 $ \mathcal{I}_{\beta} $ 和 $ c_{\beta} $ 的含义参见(2.1)-(2.2)式.

定理 1.1 设 $ \lambda_{i}\in(-\lambda_{1}(\Omega),-\frac{1}{4}\lambda_{1}(\Omega)), i=1,2 $ 和 $ \beta\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $, 则存在常数 $ B_{i}>0,i=1,2 $ 使得当 $ 0\leq b_{i}<B_{i} $ 时方程组(1.1)有一个正基态解 $ (u_{\beta},v_{\beta})\in H_{0}^{1}(\Omega)\times H_{0}^{1}(\Omega) $, 且 $ \mathcal{I}_{\beta}(u_{\beta},v_{\beta})=c_{\beta} $.

设序列 $ \beta_{n}\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $ 满足当 $ n\rightarrow+\infty $ 时 $ \beta_{n}\rightarrow0 $, 则存在子序列使得在 $ H_{0}^{1}(\Omega)\times H_{0}^{1}(\Omega) $ 中 $ (u_{\beta_{n}},v_{\beta_{n}})\rightarrow(\bar{u},\bar{v}) $, 且下述结论之一成立

(i) $ \bar{v}\equiv0 $, $ \bar{u} $ 是如下方程的一个正基态解

(ii) $ \bar{u}\equiv0 $, $ \bar{v} $ 是如下方程的一个正基态解

进一步地, 如果方程(1.4)(或 (1.5)) 对应的最小能量小于(1.5)(或(1.4)) 式的, 则 (i) (或 (ii)) 成立.

注 1.1 设 $ \Omega $ 是一个严格的星形域, $ \lambda_{1},\lambda_{2}>0 $ 和 $ 0<\beta<\sqrt{\lambda_{1}\lambda_{2}} $. 应用如下的 Pohožaev 恒等式, 可推出对所有的 $ b_{i}\geq0 $, 方程组(1.1)没有非平凡解,

其中 $ \nu $ 和 $ \partial/\partial \nu $ 分别表示在 $ \partial \Omega $ 上的单位外法向量和方向导数, d$s $ 是在 $ \partial\Omega $ 上的二维曲面测度.

定理 1.2 设 $ \lambda_{i}\in(-\lambda_{1}(\Omega),\ -\frac{1}{4}\lambda_{1}(\Omega)),\ i=1,2 $, 则存在 $ \beta_{0}\in(0,\sqrt{(\lambda_{1}\!+\!\lambda_{1}(\Omega))(\lambda_{2}\!+\!\lambda_{1}(\Omega))}) $ 和 $ B_{i}>0,\ i=1,2 $ 使得当 $ \beta\in(0,\beta_{0}) $ 和 $ 0\leq b_{i}<B_{i} $ 时, 方程组(1.1)有一个高能量正解 $ (\hat{u}_{\beta},\hat{v}_{\beta})\in H_{0}^{1}(\Omega)\times H_{0}^{1}(\Omega) $, 且 $ \mathcal{I}_{\beta}(\hat{u}_{\beta},\hat{v}_{\beta})>c_{\beta} $.

设序列 $ \beta_{n}\in(0,\beta_{0}) $ 满足当 $ n\rightarrow+\infty $ 时 $ \beta_{n}\rightarrow0 $, 则存在子序列使得在 $ H_{0}^{1}(\Omega)\times H_{0}^{1}(\Omega) $ 中 $ (\hat{u}_{\beta_{n}},\hat{v}_{\beta_{n}})\rightarrow(\hat{u},\hat{v}) $, 其中 $ \hat{u} $ 是方程 (1.4) 的一个正基态解和 $ \hat{v} $ 是方程 (1.5) 的一个正基态解.

由于 Kirchhoff 项 $ (\int_{\Omega}|\nabla u|^{2}{\rm d}x)\Delta u $ 的出现, 针对问题(1.1)的想法并非是平凡的. 事实上, Kirchhoff 项的值并不仅仅依赖于某一固定点 $ x $ 的邻域. 因此, 方程组(1.1)是非局部的. 一些半线性临界问题中经典的估计和方法不适用于它的研究, 例如, 对任意的 PS 序列 $ \{u_{n}\} $, 如果在 $ H_{0}^{1}(\Omega) $ 中 $ u_{n}\rightharpoonup u $, 无法推出

和

虽然这种利用弱极限的方法在一些半线性临界问题中是有用的, 但在 Kirchhoff 型问题中, 即使我们证明序列的弱极限是非平凡的, 也不能说明它就是原始问题的解 (见文献[9,注释 1.8]). 另外, 由于 Sobolev 嵌入紧性的缺失, 证明 PS 条件时会出现一些困难. 为了解决这些问题, 我们参考了文献[7,10]中的论据, 并结合 Lions^[19] 的第二集中紧性引理证明了相应的结论.

为了证明定理1.1, 我们应用了山路引理和约束极小化方法. 由于方程组(1.1)含有 Sobolev 临界指数, 需要找到 PS 条件成立时 $ c_{\beta} $ 的范围 (见(2.2)式). 在这方面引理3.1发挥了关键的作用, 它是由第二集中紧性引理证明的. 定理1.2的证明主要参考了文献[7]中的思想, 将方程组(1.1)看作是由方程组(3.15)加了扰动项 $ \beta v,\beta u $ 得到的. 具体证明思路是先用形变引理构造一个特殊的 PS 序列, 然后, 结合第二集中紧性引理证明了定理1.2.

本文的结构: 第 2 节介绍一些准备工作; 第 3 节证明方程组(1.1)正基态解的存在性和渐近行为; 第 4 节证明方程组(1.1)高能量正解的存在性和渐近行为.

定义空间 $ H^{1}_{0}(\Omega) $ 的范数 $ \|u\|:=(\int_{\Omega}|\nabla u|^{2}{\rm d}x)^{\frac{1}{2}} $. 如果 $ \lambda_{i}>-\lambda_{1}(\Omega) $, 定义范数 $ \|u\|_{\lambda_{i}}:=\int_{\Omega}(|\nabla u|^{2}+\lambda_{i}u^{2}){\rm d}x $, 则 $ \|\cdot\|_{\lambda_{i}} $ 与 $ \|\cdot\| $ 是等价的. 定义空间 $ H:=H^{1}_{0}(\Omega)\times H^{1}_{0}(\Omega) $ 的范数

定义方程组(1.1)的能量泛函 $ \mathcal{I}_{\beta}:H\rightarrow\mathbb{R} $ 为

其中

则能量泛函 $ \mathcal{I}_{\beta} $ 的临界点就是方程组(1.1)的解. 称 $ (u,v)\in H $ 是方程组(1.1)的一个弱解当且仅当 $ (u,v) $ 满足对所有的 $ (\varphi,\psi)\in H $,

利用椭圆正则性理论, 可以得到方程组(1.1)的每个弱解都是经典解.

定义

方程 (1.4) 和 (1.5) 的能量泛函 $ J_{i}: H_{0}^{1}(\Omega)\rightarrow\mathbb{R}, i=1,2 $,

以及

其中

首先, 从文献[10]中引入下面关于方程 (1.4) 和 (1.5) 的结论.

引理 2.1 设 $ \Omega\subset\mathbb{R}^{3} $ 是一个开球. 若 $ \lambda_{i}\in (-\lambda_{1}(\Omega),-\frac{1}{4}\lambda_{1}(\Omega)) $, 则存在常数 $ B_{i}=B_{i}(\lambda_{i})>0 $ 使得对所有的 $ 0\leq b_{i}<B_{i} $, 方程 (1.4) 和 (1.5) 有一个正基态解 $ u_{\lambda_{i}} $, 并且

其中 $ S>0 $ 定义为

和 $ C_{K_{i}}=(b_{i}S^{3}+\sqrt{(b_{i}S^{3})^{2}+4S^{3}})/2 $.

由引理 2.1, 集合

是非空的. 另外, 关于此集合有如下结论.

引理 2.2 设集合 $ S_{i} $ 是非空的, 则在 $ H^{1}_{0}(\Omega) $ 中 $ S_{i} $ 是紧的.

证 不失一般性, 设 $ S_{1} $ 是非空的, 存在序列 $ \{u_{n}\}\subset S_{1} $, 则 $ \{u_{n}\} $ 是 $ J_{1} $ 的一个有界 $ (PS)_{m_{1}} $ 序列, 且 $\int_{\Omega}|\nabla u_{n}|^{2}+\lambda_{1}u_{n}^{2}{\rm d}x+b_{1}\big(\int_{\Omega}|\nabla u_{n}|^{2}{\rm d}x\big)^{2}=\int_{\Omega}u_{n}^{6}{\rm d}x. $ 因此, 存在子序列使得在 $ H^{1}_{0}(\Omega) $ 中 $ u_{n}\rightharpoonup u $ 和在 $ L^{2}(\Omega) $ 中 $ u_{n}\rightarrow u $. 类似于文献[10,引理 3.1] 证明, 可推出在 $ L^{6}(\Omega) $ 中 $ u_{n}\rightarrow u $. 另外, 有 $\langle J_{1}'(u_{n}),u_{n}-u\rangle=o(1),$ 这里当 $ n\rightarrow\infty $ 时, $ o(1)\rightarrow0 $. 利用序列 $ \{u_{n}\} $ 的 $ L^{2} $ 和 $ L^{6} $ 收敛性可推出

由序列的弱收敛性, 推出在 $ H^{1}_{0}(\Omega) $ 中 $ u_{n}\rightarrow u $ 和 $ u\in S_{1} $.

引理 2.3 设 $ \beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $, 则泛函 $ \mathcal{I}_{\beta} $ 具有山路几何, 即

(i) 存在 $ \alpha,\theta>0 $, 使得对所有的 $ \|(u,v)\|=\theta $ 有 $ \mathcal{I}_{\beta}(u,v)>\alpha $;

(ii) 存在 $ (u_{0},v_{0})\in H $, 使得 $ \|(u_{0},v_{0})\|>\theta $ 和 $ \mathcal{I}_{\beta}(u_{0},v_{0})<0 $.

证 由于 $ \beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $, 可以选取 $ \beta_{1},\beta_{2} $ 满足 $ 0<\beta_{1}<\lambda_{1}+\lambda_{1}(\Omega) $ 和 $ 0<\beta_{2}<\lambda_{2}+\lambda_{1}(\Omega) $ 使得 $ \beta<\sqrt{\beta_{1}\beta_{2}} $. 因为 $ \lambda_{i}>-\lambda_{1}(\Omega) $, 可推出

选取充分小的 $ \theta>0 $. 若 $ \|(u,v)\|=\theta $, 则 $\mathcal{I}_{\beta}(u,v)\geq C_{1}\|(u,v)\|^{2}-C_{2}\|(u,v)\|^{6}>\frac{1}{4}C_{1}\theta^{2}>0.$ 选取 $ \varphi,\psi\in C_{0}^{\infty}(\Omega) $ 满足 $ \varphi,\psi\neq0 $ 和 supp$(\varphi)\cap$ supp$(\psi)=\emptyset $, 则存在 $ t_{0}>0 $ 使得 $ \mathcal{I}_{\beta}(t_{0}\varphi,t_{0}\psi)<0 $ 和 $ \|(t_{0}\varphi,t_{0}\psi)\|>\theta $. 取

引理证毕.

由引理 2.3 和山路引理, 对于常数

存在一个 $ (PS)_{\bar{c}_{\beta}} $ 序列 $ \{(u_{n},v_{n})\}\subset H $, 即

其中 $ \Gamma=\{\gamma\in C([0,1],H):\gamma(0)=(0,0),\gamma(1)=(u_{0},v_{0})\} $ 和 $ (u_{0},v_{0}) $ 来自(2.9)式.

引理 2.4 对于 $ \beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $ 和任意的 $ (u,v)\in H\backslash\{(0,0)\} $, 存在 $ t_{\beta,u,v}>0 $ 使得 $ (t_{\beta,u,v}u,t_{\beta,u,v}v)\in\mathcal{M}_{\beta} $ 和 $ \mathcal{I}_{\beta}(t_{\beta,u,v}u,t_{\beta,u,v}v)=\mathop{\max}\limits_{t\geq0} \mathcal{I}_{\beta}(tu,tv) $.

证 对任意的 $ (u,v)\in H\backslash\{(0,0)\} $ 和 $ t>0 $, 定义

由于 $ \beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $, 可推出 $ A_{\beta}(u,v),B(u,v),D(u,v)>0 $, 当 $ t>0 $ 较小时 $ f(t)\geq Ct^{2} $, $ f(0)=0 $ 和当 $ t\rightarrow+\infty $ 时 $ f(t)\rightarrow-\infty $. 通过计算可知, $ t\mapsto f(t) $ 存在唯一的极大点,

另外, $ f'(t_{\beta,u,v})=\langle\mathcal{I}_{\beta}'(t_{\beta,u,v}u,t_{\beta,u,v}v),(u,v)\rangle=0 $ 和 $ (t_{\beta,u,v}u,t_{\beta,u,v}v) \in\mathcal{M}_{\beta} $. 证毕.

结合引理 2.4 和 (2.10) 式, 可得到下面的结论.

引理 2.5$\bar{c}_{\beta}=\mathop{\inf}\limits_{H\backslash\{(0,0)\}}\mathop{\max}\limits_{t>0}\mathcal{I}_{\beta}(tu,tv)=c_{\beta} $.

引理 2.6 设 $ \beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $ 和 $ 0\leq b_{i}<B_{i} $, 则 $ c_{\beta}\leq\min\{m_{1},m_{2}\} $.

证 不失一般性, 设 $ m_{1}\leq m_{2} $. 由引理 2.4, 存在唯一的 $ t_{\beta,u_{\lambda_{1},0}} $ 使得 $ (t_{\beta,u_{\lambda_{1},0}}u_{\lambda_{1}},0)\in\mathcal{M}_{\beta} $, 其中 $ u_{\lambda_{1}} $ 是方程 (1.4) 的一个解, 且满足 (2.5), 则

引理证毕.

在这节证明定理 1.1. 为此, 在下面引理证明 $ \mathcal{I}_{\beta} $ 的局部 PS 条件.

引理 3.1 设 $ \lambda_{i}\in (-\lambda_{1}(\Omega),-\frac{1}{4}\lambda_{1}(\Omega)) $ 和 $ \beta\in(0,\sqrt{(\lambda_{1}\!+\!\lambda_{1}(\Omega)) (\lambda_{2}\!+\!\lambda_{1}(\Omega))}) $, 若 $ \{(u_{n},v_{n})\}$$\subset H $ 是一个 $ (PS)_{c_{\beta}} $ 序列, 且

其中 $ C_{K_{i}} $ 在(2.5)式给出, 则存在子序列和 $ u,v\in H_{0}^{1}(\Omega) $ 使得在 $ L^{6}(\Omega) $ 中 $ u_{n}\rightarrow u $ 和 $ v_{n}\rightarrow v $.

证 当 $ n $ 足够大时, 类似于(2.8)式可得

因此, $ \{(u_{n},v_{n})\} $ 在 $ H $ 中是有界的. 存在子序列和 $ (u,v)\in H $ 使得

$\left\{ \begin{array}{ll} (u_{n},v_{n})\rightharpoonup(u,v), & \mbox{在 H 中},\\ (u_{n},v_{n})\rightarrow(u,v), & \mbox{在 } L^{p}(\Omega)\times L^{p}(\Omega), \ 1\leq p<6,\\ (u_{n},v_{n})\rightarrow(u,v), & a.e. 在 \Omega 中. \end{array} \right.$

由于在 $ H_{0}^{1}(\Omega) $ 中 $ u_{n}\rightharpoonup u $ 和 $ v_{n}\rightharpoonup v $, 利用第二集中紧性引理, 存在最多可数集$ E_{1},E_{2} $, 点 $ \{x_{k_{i}}\}_{k_{i}\in E_{i}}\subset\bar{\Omega} $ 以及数 $ \{\mu_{k_{i}}\}_{k_{i}\in E_{i}},\{\nu_{k_{i}}\}_{k_{i}\in E_{i}}\subset\mathbb{R}^{+},i=1,2 $ 满足

和

这里 $ \delta_{x} $ 表示集中在 $ x\in\mathbb{R}^{3} $ 的 Dirac delta 测度. 另外, 若 $ E_{1}=\emptyset $, 则取 $ \mu_{k_{1}},\nu_{k_{1}}=0 $, 若 $ E_{2}=\emptyset $, 则取 $ \mu_{k_{2}},\nu_{k_{2}}=0 $.

利用 $ \{u_{n}\},\{v_{n}\} $ 的 $ L^{2}(\Omega) $ 收敛性和 $ \beta\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $, 可推出

我们断言 $ E_{1},E_{2}=\emptyset $, 验证此断言需要排除以下三种情形.

情形 1$ E_{1}\neq\emptyset $ 和 $ E_{2}=\emptyset $. 选取 $ k_{1}\in E_{1} $. 对 $ \epsilon>0 $, 在 $ \mathbb{R}^{3} $ 中定义一个光滑函数 $ \phi_{\epsilon} $ 满足在 $ B(x_{k_{1}},\epsilon) $ 中 $ \phi_{\epsilon}=1 $, 在 $ B(x_{k_{1}},2\epsilon)^{c} $ 中 $ \phi_{\epsilon}=0 $, 在其他区域 $ 0\leq\phi_{\epsilon}\leq1 $, 且 $ |\nabla \phi_{\epsilon}|\leq2/\epsilon $. 由于 $ \mathcal{I}_{\beta}'(u_{n},v_{n})\rightarrow0 $, 可推出

类似于文献[10,引理 3.1]的证明, 可得

和

这里当 $ \epsilon\rightarrow0 $ 时 $ o(1)\rightarrow0 $, 其中(3.7)式的推导主要利用了 $ \{u_{n}\},\{v_{n}\} $ 的 $ L^{2}(\Omega) $ 收敛性和 $ \phi_{\epsilon} $ 的假设条件. 由(3.5)式得到

令 $ \epsilon\rightarrow0 $, 可得 $0\geq(1+b_{1}\mu_{k_{1}})\mu_{k_{1}}-\nu_{k_{1}}.$ 由(3.2)式推出

根据引理2.1中 $ C_{K_{i}} $ 的定义, 可以验证

利用(3.4)式推出

这与 $ c_{\beta} $ 的假设条件矛盾.

情形 2$ E_{1}=\emptyset $ 和 $ E_{2}\neq\emptyset $. 对情形 1 的证明过程稍作改动, 可推出

由(3.4)和(3.10)式推出

这也与 $ c_{\beta} $ 的假设条件矛盾.

情形 3$ E_{1}\neq\emptyset $ 和 $ E_{2}\neq\emptyset $. 类似地, 利用(3.4)式推出

由(3.10)式得到 $ \frac{1}{2}C_{K_{i}}+\frac{b_{i}}{4}C^{2}_{K_{i}}-\frac{1}{6S^{3}}C^{3}_{K_{i}}>0 $, 仍然与 $ c_{\beta} $ 的假设条件矛盾.

通过以上分析, $ E_{1},E_{2}=\emptyset $. 由(3.3)式推出

引理证毕.

现在证明(1.1)式非平凡基态解的存在性.

引理 3.2 设 $ \lambda_{i}\in (-\lambda_{1}(\Omega),-\frac{1}{4}\lambda_{1}(\Omega)) $, $ \beta\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $ 和 $ 0\leq b_{i}<B_{i} $, 则(1.1)有一个非平凡基态解.

证 利用(2.11)式和引理2.5, 存在 $ \{(u_{n},v_{n})\}\subset H $ 使得

类似于(3.1)式的证明可得到 $ \{(u_{n},v_{n})\} $ 在 $ H $ 中是有界的. 进一步地, 存在子序列和 $ (u,v)\in H $ 使得 $ (u_{n},v_{n})\rightharpoonup(u,v) $. 结合(2.5)式, 引理2.6和引理3.1, 可推出在 $ L^{6}(\Omega) $ 中 $ u_{n}\rightarrow u $ 和 $ v_{n}\rightarrow v $. 因为 $\langle\mathcal{I}_{\beta}'(u_{n},v_{n}),(u_{n}-u,0)\rangle=o(1),$ 其中 $ n\rightarrow+\infty $ 时 $ o(1)\rightarrow0 $, 利用 $ \{u_{n}\},\{v_{n}\} $ 的 $ L^{2}(\Omega) $ 和 $ L^{6}(\Omega) $ 收敛性可推出

利用弱收敛性, 可推出在 $ H_{0}^{1}(\Omega) $ 中 $ u_{n}\rightarrow u $, 类似可得在 $ H_{0}^{1}(\Omega) $ 中 $ v_{n}\rightarrow v $, 这意味着 $ (u,v) $ 是(1.1)式的一个非平凡基态解.

为了证明正基态解的存在性, 需要下面的引理.

引理 3.3 设 $ \beta\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $, $ (u',v')\in H $ 是 $ \mathcal{I}_{\beta} $ 的临界点且 $ \mathcal{I}_{\beta}(u',v')$$=c_{\beta} $, 则(1.1)式有一个正基态解 $ (u_{\beta},v_{\beta}) $ 满足 $ u_{\beta},v_{\beta}>0 $.

证 设 $ (u',v')\in H $ 是 $ \mathcal{I}_{\beta} $ 的临界点且 $ \mathcal{I}_{\beta}(u',v')=c_{\beta} $. 由引理 2.5 得到

因为 $ \beta>0 $, (1.1)式没有半平凡解, 所以 $ u' $ 和 $ v' $ 都不等于0. 观察(2.12)式, 有

因为 $ t_{\beta,|u'|,|v'|}(|u'|,|v'|)\in\mathcal{M}_{\beta} $, 可得

另一方面, $ \mathcal{I}_{\beta}(u',v')=\frac{1}{3}D(u',v')-\frac{1}{4}B(u',v') $, 这意味着

进一步地, $ t_{\beta,|u'|,|v'|}=1 $ 和 $\mathcal{I}_{\beta}(|u'|,|v'|)=\mathcal{I}_{\beta}(u',v')=c_{\beta}.$ 因此, $ (u_{\beta},v_{\beta}):=(|u'|,|v'|) $ 是(1.1)式的非负基态解. 利用强极值原理可推出 $ (u_{\beta},v_{\beta}) $, $ u_{\beta},v_{\beta}>0 $ 是(1.1)式的正基态解.

在证明正基态解对于参数 $ \beta $ 的渐近行为时, 需要用到下面的结果.

引理 3.4 设 $ \beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $, 则映射 $ \beta\mapsto c_{\beta} $ 是严格递减和连续的.

证 首先, 证明 $ c_{\beta} $ 对于 $ \beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $ 是严格递减的. 对任意的 $ 0\leq\beta_{1}<\beta_{2}<\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))} $, 由 (2.12)式推出

类似于(3.13)式中的证明可得

因此, 对于 $ \beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $, $ c_{\beta} $ 是严格递减的.

为了证明连续性, 令序列 $ \beta_{n}\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $ 满足当 $ n\rightarrow+\infty $ 时 $ \beta_ {n}\rightarrow\beta $. 若 $ (u_{\beta},v_{\beta})\in\mathcal{M}_{\beta} $ 使得 $ \mathcal{I}_{\beta}(u_{\beta},v_{\beta})=c_{\beta} $, 选取 $ t_{\beta_{n},u_{\beta},v_{\beta}}>0 $ 使得 $ (t_{\beta_{n},u_{\beta},v_{\beta}}u_{\beta},t_{\beta_{n},u_{\beta},v_{\beta}}v_{\beta})\in\mathcal{M}_{\beta_{n}}, $ 可以推出

因为 $ (u_{\beta},v_{\beta})\in\mathcal{M}_{\beta} $, 有 $ t_{\beta_{n},u_{\beta},v_{\beta}}\rightarrow1 $ 和 $ \mathcal{I}_{\beta_{n}}(t_{\beta_{n},u_{\beta},v_{\beta}}u_{\beta},t_{\beta_{n},u_{\beta},v_{\beta}}v_{\beta})\rightarrow \mathcal{I}_{\beta}(u_{\beta},v_{\beta})=c_{\beta} $. 另外, $ c_{\beta_{n}}\leq\mathcal{I}_{\beta_{n}}(t_{\beta_{n},u_{\beta},v_{\beta}}u_{\beta},t_{\beta_{n},u_{\beta},v_{\beta}}v_{\beta}) $, 这意味着

下面只需证明 $ c_{\beta}\leq\mathop{\liminf}\limits_{n\rightarrow+\infty}c_{\beta_{n}} $. 事实上, 若 $ (u_{\beta_{n}},v_{\beta_{n}})\in\mathcal{M}_{\beta_{n}} $ 使得 $ \mathcal{I}_{\beta_{n}}(u_{\beta_{n}},v_{\beta_{n}})=c_{\beta_{n}} $, 选取 $ t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}>0 $ 使得 $ (t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}u_{\beta_{n}},t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}v_{\beta_{n}})\in\mathcal{M}_{\beta}. $ 类似可得

由 $ (u_{\beta_{n}},v_{\beta_{n}})\in\mathcal{M}_{\beta_{n}} $, 可推出 $ t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}\rightarrow1 $ 和 $ |\mathcal{I}_{\beta}(t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}u_{\beta_{n}},t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}v_{\beta_{n}}) -c_{\beta_{n}}|\rightarrow0 $. 另外, $ c_{\beta}\leq\mathcal{I}_{\beta}(t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}u_{\beta_{n}},t_{\beta,u_{\beta_{n}},v_{\beta_{n}}} v_{\beta_{n}}) $, 可推出

通过上面的分析, $ \mathop{\lim}\limits_{n\rightarrow+\infty}c_{\beta_{n}}=c_{\beta} $.

注 3.1 由引理 3.4, 可以得到当 $ \beta\rightarrow0 $ 时 $ c_{\beta}\rightarrow c_{0}=\min\{m_{1},m_{2}\} $.

引理 3.5 设序列 $ \beta_{n}\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $, $ n\in\mathbb{N} $, 使得当 $ n\rightarrow+\infty $ 时 $ \beta_{n}\rightarrow0 $, 则存在子序列使得在 $ H $ 中$ (u_{\beta_{n}},v_{\beta_{n}})\rightarrow(\bar{u},\bar{v}) $. 另外, 下面结论之一成立

(i) $ \bar{v}\equiv0 $ 和 $ \bar{u} $ 是 $ -(1+b_{1}\|u\|^{2})\Delta u+\lambda_{1}u=u^{5}, u\in H_{0}^{1}(\Omega) $ 的一个正基态解;

(ii) $ \bar{u}\equiv0 $ 和 $ \bar{v} $ 是 $ -(1+b_{2}\|v\|^{2})\Delta v+\lambda_{2}v=v^{5}, v\in H_{0}^{1}(\Omega) $ 的一个正基态解. 特别地, 若 $ m_{1}<m_{2} $, 则 (i) 成立; 若 $ m_{2}<m_{1} $, 则 (ii) 成立.

证 令序列 $ \beta_{n}\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $ 满足当 $ n\rightarrow+\infty $ 时 $ \beta_{n}\rightarrow0 $, $ \{(u_{\beta_{n}},v_{\beta_{n}})\}$$\subset H $ 是引理 3.3 中得到的正基态解序列, 可推出 $ \mathcal{I}_{\beta_{n}}(u_{\beta_{n}},v_{\beta_{n}})=c_{\beta_{n}} $ 和 $ \mathcal{I}_{\beta_{n}}'(u_{\beta_{n}},v_{\beta_{n}})=0 $. 类似于(3.1)式可推出 $ (u_{\beta_{n}},v_{\beta_{n}}) $ 在 $ H $ 中有界. 存在子序列使得在 $ H $ 中 $ (u_{\beta_{n}},v_{\beta_{n}})\rightharpoonup(\bar{u},\bar{v}) $, 在 $ L^{p}(\Omega)\times L^{p}(\Omega),1\leq p<6 $ 中 $ (u_{\beta_{n}},v_{\beta_{n}})\rightarrow(\bar{u},\bar{v}) $, 在 $ \Omega $ 中几乎处处 $ (u_{\beta_{n}},v_{\beta_{n}})\rightarrow(\bar{u},\bar{v}) $, $ \bar{u},\bar{v}\geq0 $. 应用引理 2.3 和引理 3.4, 可以得到

由(2.5)式和引理3.1可推出

另外, 经过计算可得

和 $ (\bar{u},\bar{v})\neq(0,0) $. 类似于引理3.2中的证明, 可推出 $ u_{\beta_{n}}\rightarrow \bar{u} $ 和 $ v_{\beta_{n}}\rightarrow \bar{v} $. 注意到

和 $ \mathcal{I}_{0}'(u_{\beta_{n}},v_{\beta_{n}})\rightarrow0 $. 因此, $ \mathcal{I}_{0}'(\bar{u},\bar{v})=0 $ 和$ \mathcal{I}_{0}(\bar{u},\bar{v})=c_{0} $, 这意味着 $ (\bar{u},\bar{v}) $ 是(1.1)式当 $ \beta=0 $ 时的基态解, 则 $ (\bar{u},\bar{v}) $ 满足

由(3.14)式得到, 结论 (i) 和 (ii) 之一成立. 另外, 若 $ m_{1}<m_{2} $, 由 $ c_{\beta} $ 的定义, 结论 (i) 成立. 若 $ m_{2}<m_{1} $, 类似可得.

定理 1.1 的证明 应用引理3.3和引理3.5, 可证明出定理 1.1.

在这节, 我们首先将(1.1)式看作是(3.15)式加了扰动项得到的, 并找到一个特殊的PS序列, 然后证明定理1.2.

定义 $X:=S_{1}\times S_{2},$ 其中 $ S_{i} $ 在 (2.7) 式给出. 由引理 2.1, 当 $ 0\leq b_{i}<B_{i} $ 时, 有 $ (u_{\lambda_{1}},v_{\lambda_{2}})\in X $, 这里 $ u_{\lambda_{1}} $ 和 $ v_{\lambda_{2}} $ 分别是 (1.4) 和 (1.5) 式的正基态解. 不失一般性, 在这节假设 $ m_{1}\leq m_{2} $.

引理 4.1$ X $ 在 $ H $ 中是紧的, 存在常数 $ C_{2}>C_{1}>0 $ 使得

证 由引理 2.2 推出 $ S_{i} $ 在 $ H_{0}^{1}(\Omega) $ 中是紧的. 另外, $ m_{i}>0, i=1,2 $. 易证出引理 4.1.

注意到

则存在 $ 0<t_{0}<1<t_{1} $ 使得

类似地, 存在 $ 0<s_{0}<1<s_{1} $ 使得

定义

存在常数 $ C_{0}>0 $ 使得

为了方便, 定义 $ Q:=[t_{1}]\times[s_{1}] $. 对 $ \beta\geq0 $, 定义

其中

和 $ C_{2} $ 在引理 4.1 给出. 由 $ \tilde{\gamma}(t,s)\in\hat{\Gamma} $ 可知 $ \hat{\Gamma} $ 是非空的.

引理 4.2$\mathop{\lim}\limits_{\beta\rightarrow0}\hat{c}_{\beta} =\mathop{\lim}\limits_{\beta\rightarrow0}d_{\beta}=\hat{c}_{0}=d_{0}=m_{1}+m_{2}.$

证 因为 $ \beta>0 $, 有 $ \mathcal{I}_{\beta}(\tilde{\gamma}(t,s))\leq\mathcal{I}_{0}(\tilde{\gamma}(t,s)) $ 和

注意到 $ \tilde{\gamma}\in\hat{\Gamma} $, 有 $ \hat{c}_{\beta}\leq d_{\beta} $ 和

另一方面, 对任意的 $ \gamma(t,s)=(\gamma_{1}(t),\gamma_{2}(s))\in\hat{\Gamma} $, 定义$ \Upsilon(\gamma):[t_{0},t_{1}]\times[s_{0},s_{1}]\rightarrow\mathbb{R}^{2} $ 为

其中 $ \Phi_{1},\Phi_{2}:H_{0}^{1}(\Omega)\rightarrow\mathbb{R} $ 定义为

和

对任意的 $ u\in H_{0}^{1}(\Omega) $, 由 Sobolev 不等式可得 $ |u|_{L^{6}(\Omega)}^{6}\leq C\|u\|_{\lambda_{i}}^{6} $ 和 $ \Phi_{i}(u)\leq\frac{C\|u\|_{\lambda_{i}}^{6}}{\|u\|_{\lambda_{i}}^{2}} $. 因此, $ \Phi_{i},i=1,2, $ 是连续的. 观察(4.4)式, 注意到 $ \Phi_{1}(u_{\lambda_{1}})=\Phi_{2}(v_{\lambda_{2}})=1 $, 有

易看出 $ (1,1) $ 是 $ \Upsilon(\tilde{\gamma})(t,s)=(0,0) $ 的唯一解. 另外, 经过计算可得 $ J_{\Upsilon(\tilde{\gamma})}(1,1)>0 $, 其中 $ J_{\Upsilon(\tilde{\gamma})}(t,s) $ 表示 $ \Upsilon(\tilde{\gamma}) $ 在 $ (t,s) $ 处的 Jacobi 行列式. 因此, 有

观察(4.6)式, 对任意的 $ (t,s)\in\partial([t_{0},t_{1}]\times[s_{0},s_{1}]) $, 有 $ \Upsilon(\gamma)(t,s)=\Upsilon(\tilde{\gamma})(t,s)\neq(0,0) $. 因此, $ {\rm deg}(\Upsilon(\gamma),[t_{0},t_{1}]\times[s_{0},s_{1}],(0,0)) $ 是有定义的且

存在 $ (t_{2},s_{2})\in[t_{0},t_{1}]\times[s_{0},s_{1}] $ 使得 $ \Upsilon(\gamma)(t_{2},s_{2})=(0,0) $, 即 $ \Phi_{1}(\gamma_{1}(t_{2}))=\Phi_{2}(\gamma_{2}(s_{2}))=1 $. 这意味着 $ \gamma_{1}(t_{2})\in\mathcal{N}_{1} $, $ \gamma_{2}(s_{2})\in\mathcal{N}_{2} $ 和 $ \gamma_{1}(t_{2}),\gamma_{2}(s_{2})\neq0 $. 结合(2.4)式可得到

和 $ \hat{c}_{0}\geq d_{0} $. 由(4.7)式可得 $ \hat{c}_{0}= d_{0} $.

反证法, 假设 $ \mathop{\liminf}\limits_{\beta\rightarrow0}\hat{c}_{\beta}<d_{0} $, 则存在 $ \epsilon>0 $, $ \beta_{n}\rightarrow0 $ 和 $ \gamma_{n}(t,s)=(\gamma_{n,1}(t),\gamma_{n,2}(s))\in\hat{\Gamma} $ 使得

由(4.6)式给出的 $ \hat{\Gamma} $ 的定义, 存在 $ n_{0}>0 $ 使得

和

由(4.10)式中 $ \hat{c}_{0}\geq d_{0} $ 得到矛盾, 有 $ \mathop{\liminf}\limits_{\beta\rightarrow0}\hat{c}_{\beta}\geq d_{0} $. 结合(4.7)式完成证明.

定义

引理 4.3 对足够小的 $ \rho>0 $, 设存在序列 $ \{\beta_{n}\} $ 满足 $ \beta_{n}\rightarrow0 $, $ \{(u_{n},v_{n})\}\subset X^{\rho} $ 满足

则存在 $ (u,v)\in X $ 使得有子序列在 $ H $ 中 $ (u_{n},v_{n})\rightarrow(u,v) $.

证 由于 $ (u_{n},v_{n})\in X^{\rho} $, 存在 $ (U_{n},V_{n})\in X $ 使得

由引理 4.1, 在 $ H $ 中 $ X $ 是紧的, 存在 $ (U,V)\in X $ 使得有子序列在 $ H $ 中 $ (U_{n},V_{n})\rightarrow(U,V) $. 因此, 对足够大的 $ n $, 有 $ {\rm dist}((u_{n},v_{n}),(U,V))\leq2\rho $, 且 $ \{(u_{n},v_{n})\} $ 在 $ H $ 中是有界的. 设存在 $ u,v\in H_{0}^{1}(\Omega) $ 使得

$\left\{ \begin{array}{ll} (u_{n},v_{n})\rightharpoonup(u,v), &\mbox{在 H 中},\\ (u_{n},v_{n})\rightarrow(u,v), &在L^{p}(\Omega)\times L^{p}(\Omega) 中,\ 1\leq p<6,\\ (u_{n},v_{n})\rightarrow(u,v), &{\rm a.e.} 在 \Omega中. \end{array} \right.$

由于 $ B_{2\rho}(U,V) $ 在 $ H $ 中是弱闭的, 有

这意味着对足够小的 $ \rho>0 $, 有 $ u\not\equiv0 $ 和 $ v\not\equiv0 $.

由 $ \beta_{n}\rightarrow0 $ 可得

由第二集中紧性引理得到(3.2)-(3.4)式. 不妨设在(3.3)式中 $ E_{1}\neq\emptyset $ 和 $ E_{2}\neq\emptyset $, 类似于引理 3.1 中的证明可得

这与 $ c'\leq\hat{c}_{0}=m_{1}+m_{2} $ 矛盾.

不失一般性, 设 $ E_{1}=\emptyset $ 和 $ E_{2}\neq\emptyset $. 由(3.3)式可得

因为

其中当 $ n\rightarrow+\infty $ 时 $ o(1)\rightarrow0 $, 利用序列 $ \{u_{n}\} $ 的 $ L^{2}(\Omega) $ 和 $ L^{6}(\Omega) $ 收敛性可推出

由弱收敛性推出在 $ H_{0}^{1}(\Omega) $ 中 $ u_{n}\rightarrow u $, 这意味着

注意到

有

另一方面, 类似于引理 3.1 中的证明可得

这与(2.5)式矛盾.

通过上述分析, 有 $ E_{1}=\emptyset $ 和 $ E_{2}=\emptyset $. 由(3.3)式可知在 $ L^{6}(\Omega) $ 中 $ u_{n}\rightarrow u $ 和 $ v_{n}\rightarrow v $. 类似于引理 3.2 中的证明, 可推出在 $ H $ 中 $ (u_{n},v_{n})\rightarrow(u,v) $, 这意味着 $ (u,v)\in X $.

引理 4.4 存在常数 $ \kappa>0 $ 和 $ \beta_{1}\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}) $, 使得对 $ \beta\in(0,\beta_{1}) $ 有

证 反证法, 假设存在序列 $ \{\beta_{n}\} $ 使得 $ \beta_{n}\rightarrow0 $ 和$ \{(u_{n},v_{n})\}\subset\mathcal{I}_{\beta_{n}}^{d_{\beta_{n}}}\cap(X^{\rho}\backslash X^{\frac{\rho}{2}}) $ 满足

由引理 4.2 和引理 4.3, 存在子序列使得 $ (u_{n},v_{n})\rightarrow(u,v)\in X $, 这意味着当 $ n\rightarrow\infty $ 时 $ {\rm dist}((u_{n},v_{n}),X)\rightarrow0 $, 这与对任意的 $ n\geq1 $, $ (u_{n},v_{n})\notin X^{\frac{\rho}{2}} $ 相矛盾.

引理 4.5 设 $ \rho>0 $ 是足够小的固定数, 序列 $ \{(u_{n},v_{n})\}\subset X^{\rho} $ 满足

则存在常数 $ \beta_{2}\in(0,\beta_{1}] $ 使得对 $ \beta\in(0,\beta_{2}) $, 在 $ H $ 中 $ (u_{n},v_{n})\rightarrow(u,v) $.

证 回顾引理 4.3 的证明, 存在 $ (U,V)\in X $ 使得对足够大的 $ n $ 有 $ {\rm dist}((u_{n},v_{n}),(U,V))\leq2\rho $, 以及在 $ H $ 中 $ \{(u_{n},v_{n})\} $ 是有界的. 因此, 存在 $ u,v\in H_{0}^{1}(\Omega) $ 使得在 $ H $ 中 $ (u_{n},v_{n})\rightharpoonup(u,v) $, 对$ 1\leq p<6 $, 在 $ L^{p}(\Omega)\times L^{p}(\Omega) $ 中 $ (u_{n},v_{n})\rightarrow(u,v) $. 另外, 有

这意味着对足够小的 $ \rho>0 $ 有 $ u\not\equiv0 $ 和 $ v\not\equiv0 $. 观察引理 4.2 中的证明, 有

利用第二集中紧性引理得到(3.2)-(3.4)式. 不妨设(3.3)式中的 $ E_{1}\neq\emptyset $ 和 $ E_{2}\neq\emptyset $, 类似于3.1中的证明可得

这与(4.13)式相矛盾.

不失一般性, 设 $ E_{1}=\emptyset $ 和 $ E_{2}\neq\emptyset $. 由(3.3)式推出

因为

其中当 $ n\rightarrow+\infty $ 时 $ o(1)\rightarrow0 $, 可利用 $ \{u_{n}\} $ 的 $ L^{2}(\Omega) $ 和 $ L^{6}(\Omega) $ 收敛性推出

由弱收敛性推出在 $ H_{0}^{1}(\Omega) $ 中 $ u_{n}\rightarrow u $, 有

因为 $ J_{1} $ 是连续的且 $ J_{1}(U)= m_{1} $, 观察(4.12)式, 存在足够小的 $ \rho,\beta_{2}>0 $ 使得对 $ \beta\in(0,\beta_{2}) $ 和 $ \alpha_{0}\in(0,\frac{1}{2}C_{K_{2}}+\frac{b_{2}}{4}C^{2}_{K_{2}}-\frac{1}{6S^{3}}C^{3}_{K_{2}}-m_{2}) $, 有

另外,

有

另一方面, 对任意的 $ \psi\in H_{0}^{1}(\Omega) $ 有 $ \mathop{\lim}\limits_{n\rightarrow\infty}\langle J_{2}'(v_{n})-\beta u_{n},\psi\rangle=0 $, 可得

则对足够小的 $ \beta>0 $, 利用 $ \{v_{n}\} $ 的 $ L^{2}(\Omega) $ 收敛性可推出

其中 $ \mu_{k_{2}} $ 和 $ \nu_{k_{2}} $ 在(3.3)式给出. 另外,

其中 $ \phi_{\epsilon} $ 在引理3.1的证明中给出. 对引理3.1的证明过程稍作改动可得到

与(1.14)式相矛盾, 这是因为

通过上述分析, $ E_{1}=\emptyset $ 和 $ E_{2}=\emptyset $. 由(3.3)式得到在 $ L^{6}(\Omega) $ 中有 $ u_{n}\rightarrow u $ 和 $ v_{n}\rightarrow v $. 然后, 类似于引理 3.2的证明过程可推出在 $ H $ 中$ (u_{n},v_{n})\rightarrow(u,v) $.

引理 4.6 存在 $ \delta>0 $ 和 $ \beta_{3}\in(0,\beta_{2}] $ 使得对任意的 $ \beta\in(0,\beta_{3}) $, 有

证 反证法. 设存在 $ \delta_{n}\rightarrow0 $, $ \beta_{n}\rightarrow0 $ 和 $ (t_{n},s_{n})\in Q $ 使得

有子序列使得 $ (t_{n},s_{n})\rightarrow(\tilde{t},\tilde{s})\in Q $. 由(4.1), (4.4)式和引理4.2可推出

且 $ (\tilde{t},\tilde{s})=(1,1) $. 因此,

然而, $ \tilde{\gamma}(1,1)=(u_{\lambda_{1}},v_{\lambda_{2}})\in X $, 这与(4.15)式相矛盾.

令

其中 $ \kappa,\rho,\delta $ 分别在引理 4.4, 4.5 和 4.6 中给出. 由引理 4.2, 存在 $ \beta_{0}\in(0,\beta_{3}] $ 使得

引理 4.7 对固定的 $ \beta\in(0,\beta_{0}) $, 存在序列 $ \{(u_{n},v_{n})\}\subset \mathcal{I}_{\beta}^{d_{\beta}}\cap X^{\rho} $ 使得当 $ n\rightarrow\infty $ 时在 $ H $ 中有 $ \mathcal{I}_{\beta}'(u_{n},v_{n})\rightarrow0 $.

证 反证法. 设 $ \beta\in(0,\beta_{0}) $, 存在 $ l(\beta)>0 $ 使得

则在 $ H $ 中有定义在 $ \mathcal{I}_{\beta}^{d_{\beta}}\cap X^{\rho} $ 的邻域 $ N_{\beta} $ 的伪梯度向量场 $ V_{\beta} $, 使得对任意的 $ (u,v)\in N_{\beta} $, 有

令 $ \eta_{\beta} $ 是在 $ H $ 上的一个 Lipschitz 连续函数使得 $ 0\leq\eta_{\beta}\leq1 $, 在 $ \mathcal{I}_{\beta}^{d_{\beta}}\cap X^{\rho} $ 上 $ \eta_{\beta}=1 $ 以及在 $ H\backslash N_{\beta} $ 上 $ \eta_{\beta}=0 $. 也令 $ \xi_{\beta} $ 是 $ \mathbb{R} $ 上的一个 Lipschitz 连续函数使得 $ 0\leq\xi_{\beta}\leq1 $ 和

设

则对任意的 $ (u,v)\in H $, 如下的 Cauchy 初值问题

有一个全局解 $ \Psi_{\beta}:H\times[0,+\infty)\rightarrow H $, 其满足性质

(1) $ \Psi_{\beta}(u,v,\tau)=(u,v) $ 若 $ \tau=0 $, $ (u,v)\in H\backslash N_{\beta} $ 或 $ |\mathcal{I}_{\beta}(u,v)-\hat{c}_{\beta}|\geq\delta $;

(2) $ \|\frac{\partial}{\partial\tau}\Psi_{\beta}(u,v,\tau)\|\leq2 $;

(3) $ \frac{\partial}{\partial\tau}\mathcal{I}_{\beta}(\Psi_{\beta}(u,v,\tau)) =\langle\mathcal{I}_{\beta}'(\Psi_{\beta}(u,v,\tau)),e_{\beta}(\Psi_{\beta}(u,v,\tau))\rangle\leq0 $.

类似于文献[7,引理 4.7] 中步骤 1 的证明, 可以得到对任意的 $ (t,s)\in Q $, 存在 $ \tau_{t,s}\in[0,+\infty) $ 使得 $ \Psi_{\beta}(\tilde{\gamma}(t,s),\tau_{t,s})\in\mathcal{I}_{\beta}^{\hat{c}_{\beta}-\delta_{0}} $, 其中 $ \delta_{0} $ 在(4.16)式给出. 因此, 可定义

和 $ \gamma(t,s):=\Psi_{\beta}(\tilde{\gamma}(t,s),T(t,s)) $. 对所有的 $ (t,s)\in Q $, 有$ \mathcal{I}_{\beta}(\gamma(t,s))\leq\hat{c}_{\beta}-\delta_{0} $, 这意味着

另一方面, 类似于文献[7,引理 4.7]中步骤 2 的证明可得到

其中 $ \hat{\Gamma} $ 在(4.6)式给出, 这与 $ \hat{c}_{\beta} $ 的定义相矛盾.

定理 1.3 的证明 对固定的 $ \beta\in(0,\beta_{0}) $, 由引理4.7, 存在一个序列 $ \{(u_{n},v_{n})\}\subset \mathcal{I}_{\beta}^{d_{\beta}}\cap X^{\rho} $ 使得在 $ H $ 中 $ \mathcal{I}_{\beta}'(u_{n},v_{n})\rightarrow0 $. 由引理4.5可得在 $ H $ 中 $ (u_{n},v_{n})\rightarrow(u_{\beta},v_{\beta}) $. 因此, $ \mathcal{I}_{\beta}'(u_{\beta},v_{\beta})=0 $. 另外, $ \{(u_{n},v_{n})\}\subset \mathcal{I}_{\beta}^{d_{\beta}}\cap X^{\rho} $ 和 $ (u_{\beta},v_{\beta})\in X^{\rho} $, 这意味着对足够小的 $ \rho>0 $ 有 $ u_{\beta}\neq0 $ 和 $ v_{\beta}\neq0 $. 因此, $ (u_{\beta},v_{\beta}) $ 是(1.1)式的一个解.

令序列 $ \beta_{n}\in(0,\beta_{0}) $ 满足当 $ n\rightarrow+\infty $ 时 $ \beta_{n}\rightarrow0 $. 重复引理 4.3 的证明过程, 存在子序列使得在 $ H $ 中 $ (u_{\beta_{n}},v_{\beta_{n}})\rightarrow(\hat{u},\hat{v}) $, 其中 $ \hat{u}\in S_{1} $ 和 $ \hat{v}\in S_{2} $, 即 $ \hat{u} $ 是 $ -(1+b_{1}\|u\|^{2})\Delta u+\lambda_{1}u=u^{5} $, $ u\in H_{0}^{1}(\Omega) $ 的一个基态解和 $ \hat{v} $ 是 $ -(1+b_{2}\|v\|^{2})\Delta v+\lambda_{2}v=v^{5} $, $ v\in H_{0}^{1}(\Omega) $ 的一个基态解.