本文考虑了如下带 Sobolev 临界指数的 Kirchhoff 型线性耦合方程组

其中 $\Omega\subset\mathbb{R}^{3}$ 是一个开球, $\|\cdot\|$ 表示 $H_{0}^{1}(\Omega)$ 的范数, $\beta\in\mathbb{R}$ 是一个耦合参数. 常数 $b_{i}\geq0$ 和 $\lambda_{i}\in(-\lambda_{1}(\Omega),-\frac{1}{4}\lambda_{1}(\Omega)), i=1,2$, 这里 $\lambda_{1}(\Omega)$ 是 $(-\Delta,H^{1}_{0}(\Omega))$ 的第一特征值. 方程(1.1)的特征主项来源于非线性振动理论. 在文献[1]中, 如下方程描述了拉伸弦的自由振动

其中 $c^{2}:=T_{0}/m$, $u: [L]\rightarrow\mathbb{R}$ 是振动弦的振幅, $a,m,E,L,T_{0}$ 是几个物理量, 分别表示弦的横截面, 单位长度的质量, 杨氏模量, 弦的基础长度和基础张力. 非局部项的出现是考虑到了振动弦上的张力变化, 该变化是由弦长度的变化引起的. 此类方程首先由 Kirchhoff 在文献[2]中提出. 此外, 方程组(1.1)还模拟了一些生物系统, 其中 $u$ 描述了一个取决于自身平均值的过程, 例如种群密度^[3⇓⇓-6].

当 $b_{i}=0,i=1,2$ 时, 方程组(1.1)变成如下带 Sobolev 临界指数的线性耦合方程组

利用变分法, Peng等^[7]证明了方程组(1.2)有一个正基态解和一个高能量的正解, 并且分析了当$\beta\rightarrow0$ 时这两个解的渐近行为. 特别地, 当 $\beta=0$ 时, 方程组(1.2)就变成了 Brezis 和 Nirenberg^[8]研究的问题, 此问题引起很多数学工作者的关注, 并致力于其研究, 参考文献^{[9⇓⇓⇓-13]}.

在三维空间中, 已有一些关于带 Sobolev 临界指数的 Kirchhoff 型方程的研究^{[10,14⇓⇓-17]}. 特别地, 在文献^[10]中, Naimen 考虑了方程组(1.1)当 $\beta=0$ 时的情形, 此情形可看作是带 Kirchhoff 扰动项的 Brezis-Nirenberg 问题,

利用变分法证明了方程(1.3)解的存在性, 并发现了一些 Kirchhoff 扰动项对

Brezis 和 Nirenberg^[8]结果的影响. 之后, Kirchhoff 方程在全空间 $\mathbb{R}^{3}$ 中的一些问题也有相应地研究^{[14⇓⇓-17]}.

在上文提到的工作中, 仅考虑了带 Sobolev 临界指数的单个 Kirchhoff 型方程. 而对于线性耦合方程组的研究, 线性耦合项的出现可能会带来一些新的问题. 例如, 解的多重性^[6,7,18]. 受上述工作的启发, 本文中考虑了带 Sobolev 临界指数的 Kirchhoff 型线性耦合方程组. 由于线性耦合项的特点, 当 $\beta\neq0$ 时, 方程组(1.1)没有半平凡解 (即 $(u,0)$ 或 $(0,v)$ 形式的解). 特别地, 当 $u>0$ 和 $v>0$ 时, 称方程组(1.1)的解 $(u,v)$ 是正解, 而当 $(u,v)\neq(0,0)$ 在所有非平凡解中对应的能量最小时, 则称为基态解.

本文的目的是证明方程组(1.1)有一个正基态解和一个高能量的正解, 并研究当 $\beta\rightarrow0$ 时这两个解的渐近行为. 主要结果如下, 在结果中出现的符号 $\mathcal{I}_{\beta}$ 和 $c_{\beta}$ 的含义参见(2.1)-(2.2)式.

定理 1.1 设 $\lambda_{i}\in(-\lambda_{1}(\Omega),-\frac{1}{4}\lambda_{1}(\Omega)), i=1,2$ 和 $\beta\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$, 则存在常数 $B_{i}>0,i=1,2$ 使得当 $0\leq b_{i}<B_{i}$ 时方程组(1.1)有一个正基态解 $(u_{\beta},v_{\beta})\in H_{0}^{1}(\Omega)\times H_{0}^{1}(\Omega)$, 且 $\mathcal{I}_{\beta}(u_{\beta},v_{\beta})=c_{\beta}$.

设序列 $\beta_{n}\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$ 满足当 $n\rightarrow+\infty$ 时 $\beta_{n}\rightarrow0$, 则存在子序列使得在 $H_{0}^{1}(\Omega)\times H_{0}^{1}(\Omega)$ 中 $(u_{\beta_{n}},v_{\beta_{n}})\rightarrow(\bar{u},\bar{v})$, 且下述结论之一成立

(i) $\bar{v}\equiv0$, $\bar{u}$ 是如下方程的一个正基态解

(ii) $\bar{u}\equiv0$, $\bar{v}$ 是如下方程的一个正基态解

进一步地, 如果方程(1.4)(或 (1.5)) 对应的最小能量小于(1.5)(或(1.4)) 式的, 则 (i) (或 (ii)) 成立.

注 1.1 设 $\Omega$ 是一个严格的星形域, $\lambda_{1},\lambda_{2}>0$ 和 $0<\beta<\sqrt{\lambda_{1}\lambda_{2}}$. 应用如下的 Pohožaev 恒等式, 可推出对所有的 $b_{i}\geq0$, 方程组(1.1)没有非平凡解,

其中 $\nu$ 和 $\partial/\partial \nu$ 分别表示在 $\partial \Omega$ 上的单位外法向量和方向导数, d$s$ 是在 $\partial\Omega$ 上的二维曲面测度.

定理 1.2 设 $\lambda_{i}\in(-\lambda_{1}(\Omega),\ -\frac{1}{4}\lambda_{1}(\Omega)),\ i=1,2$, 则存在 $\beta_{0}\in(0,\sqrt{(\lambda_{1}\!+\!\lambda_{1}(\Omega))(\lambda_{2}\!+\!\lambda_{1}(\Omega))})$ 和 $B_{i}>0,\ i=1,2$ 使得当 $\beta\in(0,\beta_{0})$ 和 $0\leq b_{i}<B_{i}$ 时, 方程组(1.1)有一个高能量正解 $(\hat{u}_{\beta},\hat{v}_{\beta})\in H_{0}^{1}(\Omega)\times H_{0}^{1}(\Omega)$, 且 $\mathcal{I}_{\beta}(\hat{u}_{\beta},\hat{v}_{\beta})>c_{\beta}$.

设序列 $\beta_{n}\in(0,\beta_{0})$ 满足当 $n\rightarrow+\infty$ 时 $\beta_{n}\rightarrow0$, 则存在子序列使得在 $H_{0}^{1}(\Omega)\times H_{0}^{1}(\Omega)$ 中 $(\hat{u}_{\beta_{n}},\hat{v}_{\beta_{n}})\rightarrow(\hat{u},\hat{v})$, 其中 $\hat{u}$ 是方程 (1.4) 的一个正基态解和 $\hat{v}$ 是方程 (1.5) 的一个正基态解.

由于 Kirchhoff 项 $(\int_{\Omega}|\nabla u|^{2}{\rm d}x)\Delta u$ 的出现, 针对问题(1.1)的想法并非是平凡的. 事实上, Kirchhoff 项的值并不仅仅依赖于某一固定点 $x$ 的邻域. 因此, 方程组(1.1)是非局部的. 一些半线性临界问题中经典的估计和方法不适用于它的研究, 例如, 对任意的 PS 序列 $\{u_{n}\}$, 如果在 $H_{0}^{1}(\Omega)$ 中 $u_{n}\rightharpoonup u$, 无法推出

和

虽然这种利用弱极限的方法在一些半线性临界问题中是有用的, 但在 Kirchhoff 型问题中, 即使我们证明序列的弱极限是非平凡的, 也不能说明它就是原始问题的解 (见文献[9,注释 1.8]). 另外, 由于 Sobolev 嵌入紧性的缺失, 证明 PS 条件时会出现一些困难. 为了解决这些问题, 我们参考了文献[7,10]中的论据, 并结合 Lions^[19] 的第二集中紧性引理证明了相应的结论.

为了证明定理1.1, 我们应用了山路引理和约束极小化方法. 由于方程组(1.1)含有 Sobolev 临界指数, 需要找到 PS 条件成立时 $c_{\beta}$ 的范围 (见(2.2)式). 在这方面引理3.1发挥了关键的作用, 它是由第二集中紧性引理证明的. 定理1.2的证明主要参考了文献[7]中的思想, 将方程组(1.1)看作是由方程组(3.15)加了扰动项 $\beta v,\beta u$ 得到的. 具体证明思路是先用形变引理构造一个特殊的 PS 序列, 然后, 结合第二集中紧性引理证明了定理1.2.

本文的结构: 第 2 节介绍一些准备工作; 第 3 节证明方程组(1.1)正基态解的存在性和渐近行为; 第 4 节证明方程组(1.1)高能量正解的存在性和渐近行为.

定义空间 $H^{1}_{0}(\Omega)$ 的范数 $\|u\|:=(\int_{\Omega}|\nabla u|^{2}{\rm d}x)^{\frac{1}{2}}$. 如果 $\lambda_{i}>-\lambda_{1}(\Omega)$, 定义范数 $\|u\|_{\lambda_{i}}:=\int_{\Omega}(|\nabla u|^{2}+\lambda_{i}u^{2}){\rm d}x$, 则 $\|\cdot\|_{\lambda_{i}}$ 与 $\|\cdot\|$ 是等价的. 定义空间 $H:=H^{1}_{0}(\Omega)\times H^{1}_{0}(\Omega)$ 的范数

定义方程组(1.1)的能量泛函 $\mathcal{I}_{\beta}:H\rightarrow\mathbb{R}$ 为

其中

则能量泛函 $\mathcal{I}_{\beta}$ 的临界点就是方程组(1.1)的解. 称 $(u,v)\in H$ 是方程组(1.1)的一个弱解当且仅当 $(u,v)$ 满足对所有的 $(\varphi,\psi)\in H$,

利用椭圆正则性理论, 可以得到方程组(1.1)的每个弱解都是经典解.

定义

方程 (1.4) 和 (1.5) 的能量泛函 $J_{i}: H_{0}^{1}(\Omega)\rightarrow\mathbb{R}, i=1,2$,

以及

其中

首先, 从文献[10]中引入下面关于方程 (1.4) 和 (1.5) 的结论.

引理 2.1 设 $\Omega\subset\mathbb{R}^{3}$ 是一个开球. 若 $\lambda_{i}\in (-\lambda_{1}(\Omega),-\frac{1}{4}\lambda_{1}(\Omega))$, 则存在常数 $B_{i}=B_{i}(\lambda_{i})>0$ 使得对所有的 $0\leq b_{i}<B_{i}$, 方程 (1.4) 和 (1.5) 有一个正基态解 $u_{\lambda_{i}}$, 并且

其中 $S>0$ 定义为

和 $C_{K_{i}}=(b_{i}S^{3}+\sqrt{(b_{i}S^{3})^{2}+4S^{3}})/2$.

由引理 2.1, 集合

是非空的. 另外, 关于此集合有如下结论.

引理 2.2 设集合 $S_{i}$ 是非空的, 则在 $H^{1}_{0}(\Omega)$ 中 $S_{i}$ 是紧的.

证 不失一般性, 设 $S_{1}$ 是非空的, 存在序列 $\{u_{n}\}\subset S_{1}$, 则 $\{u_{n}\}$ 是 $J_{1}$ 的一个有界 $(PS)_{m_{1}}$ 序列, 且 $\int_{\Omega}|\nabla u_{n}|^{2}+\lambda_{1}u_{n}^{2}{\rm d}x+b_{1}\big(\int_{\Omega}|\nabla u_{n}|^{2}{\rm d}x\big)^{2}=\int_{\Omega}u_{n}^{6}{\rm d}x.$ 因此, 存在子序列使得在 $H^{1}_{0}(\Omega)$ 中 $u_{n}\rightharpoonup u$ 和在 $L^{2}(\Omega)$ 中 $u_{n}\rightarrow u$. 类似于文献[10,引理 3.1] 证明, 可推出在 $L^{6}(\Omega)$ 中 $u_{n}\rightarrow u$. 另外, 有 $\langle J_{1}'(u_{n}),u_{n}-u\rangle=o(1),$ 这里当 $n\rightarrow\infty$ 时, $o(1)\rightarrow0$. 利用序列 $\{u_{n}\}$ 的 $L^{2}$ 和 $L^{6}$ 收敛性可推出

由序列的弱收敛性, 推出在 $H^{1}_{0}(\Omega)$ 中 $u_{n}\rightarrow u$ 和 $u\in S_{1}$.

引理 2.3 设 $\beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$, 则泛函 $\mathcal{I}_{\beta}$ 具有山路几何, 即

(i) 存在 $\alpha,\theta>0$, 使得对所有的 $\|(u,v)\|=\theta$ 有 $\mathcal{I}_{\beta}(u,v)>\alpha$;

(ii) 存在 $(u_{0},v_{0})\in H$, 使得 $\|(u_{0},v_{0})\|>\theta$ 和 $\mathcal{I}_{\beta}(u_{0},v_{0})<0$.

证 由于 $\beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$, 可以选取 $\beta_{1},\beta_{2}$ 满足 $0<\beta_{1}<\lambda_{1}+\lambda_{1}(\Omega)$ 和 $0<\beta_{2}<\lambda_{2}+\lambda_{1}(\Omega)$ 使得 $\beta<\sqrt{\beta_{1}\beta_{2}}$. 因为 $\lambda_{i}>-\lambda_{1}(\Omega)$, 可推出

选取充分小的 $\theta>0$. 若 $\|(u,v)\|=\theta$, 则 $\mathcal{I}_{\beta}(u,v)\geq C_{1}\|(u,v)\|^{2}-C_{2}\|(u,v)\|^{6}>\frac{1}{4}C_{1}\theta^{2}>0.$ 选取 $\varphi,\psi\in C_{0}^{\infty}(\Omega)$ 满足 $\varphi,\psi\neq0$ 和 supp$(\varphi)\cap$ supp$(\psi)=\emptyset$, 则存在 $t_{0}>0$ 使得 $\mathcal{I}_{\beta}(t_{0}\varphi,t_{0}\psi)<0$ 和 $\|(t_{0}\varphi,t_{0}\psi)\|>\theta$. 取

引理证毕.

由引理 2.3 和山路引理, 对于常数

存在一个 $(PS)_{\bar{c}_{\beta}}$ 序列 $\{(u_{n},v_{n})\}\subset H$, 即

其中 $\Gamma=\{\gamma\in C([0,1],H):\gamma(0)=(0,0),\gamma(1)=(u_{0},v_{0})\}$ 和 $(u_{0},v_{0})$ 来自(2.9)式.

引理 2.4 对于 $\beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$ 和任意的 $(u,v)\in H\backslash\{(0,0)\}$, 存在 $t_{\beta,u,v}>0$ 使得 $(t_{\beta,u,v}u,t_{\beta,u,v}v)\in\mathcal{M}_{\beta}$ 和 $\mathcal{I}_{\beta}(t_{\beta,u,v}u,t_{\beta,u,v}v)=\mathop{\max}\limits_{t\geq0} \mathcal{I}_{\beta}(tu,tv)$.

证 对任意的 $(u,v)\in H\backslash\{(0,0)\}$ 和 $t>0$, 定义

由于 $\beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$, 可推出 $A_{\beta}(u,v),B(u,v),D(u,v)>0$, 当 $t>0$ 较小时 $f(t)\geq Ct^{2}$, $f(0)=0$ 和当 $t\rightarrow+\infty$ 时 $f(t)\rightarrow-\infty$. 通过计算可知, $t\mapsto f(t)$ 存在唯一的极大点,

另外, $f'(t_{\beta,u,v})=\langle\mathcal{I}_{\beta}'(t_{\beta,u,v}u,t_{\beta,u,v}v),(u,v)\rangle=0$ 和 $(t_{\beta,u,v}u,t_{\beta,u,v}v) \in\mathcal{M}_{\beta}$. 证毕.

结合引理 2.4 和 (2.10) 式, 可得到下面的结论.

引理 2.5$\bar{c}_{\beta}=\mathop{\inf}\limits_{H\backslash\{(0,0)\}}\mathop{\max}\limits_{t>0}\mathcal{I}_{\beta}(tu,tv)=c_{\beta}$.

引理 2.6 设 $\beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$ 和 $0\leq b_{i}<B_{i}$, 则 $c_{\beta}\leq\min\{m_{1},m_{2}\}$.

证 不失一般性, 设 $m_{1}\leq m_{2}$. 由引理 2.4, 存在唯一的 $t_{\beta,u_{\lambda_{1},0}}$ 使得 $(t_{\beta,u_{\lambda_{1},0}}u_{\lambda_{1}},0)\in\mathcal{M}_{\beta}$, 其中 $u_{\lambda_{1}}$ 是方程 (1.4) 的一个解, 且满足 (2.5), 则

引理证毕.

在这节证明定理 1.1. 为此, 在下面引理证明 $\mathcal{I}_{\beta}$ 的局部 PS 条件.

引理 3.1 设 $\lambda_{i}\in (-\lambda_{1}(\Omega),-\frac{1}{4}\lambda_{1}(\Omega))$ 和 $\beta\in(0,\sqrt{(\lambda_{1}\!+\!\lambda_{1}(\Omega)) (\lambda_{2}\!+\!\lambda_{1}(\Omega))})$, 若 $\{(u_{n},v_{n})\}$$\subset H$ 是一个 $(PS)_{c_{\beta}}$ 序列, 且

其中 $C_{K_{i}}$ 在(2.5)式给出, 则存在子序列和 $u,v\in H_{0}^{1}(\Omega)$ 使得在 $L^{6}(\Omega)$ 中 $u_{n}\rightarrow u$ 和 $v_{n}\rightarrow v$.

证 当 $n$ 足够大时, 类似于(2.8)式可得

因此, $\{(u_{n},v_{n})\}$ 在 $H$ 中是有界的. 存在子序列和 $(u,v)\in H$ 使得

$\left\{ \begin{array}{ll} (u_{n},v_{n})\rightharpoonup(u,v), & \mbox{在 H 中},\\ (u_{n},v_{n})\rightarrow(u,v), & \mbox{在 } L^{p}(\Omega)\times L^{p}(\Omega), \ 1\leq p<6,\\ (u_{n},v_{n})\rightarrow(u,v), & a.e. 在 \Omega 中. \end{array} \right.$

由于在 $H_{0}^{1}(\Omega)$ 中 $u_{n}\rightharpoonup u$ 和 $v_{n}\rightharpoonup v$, 利用第二集中紧性引理, 存在最多可数集$E_{1},E_{2}$, 点 $\{x_{k_{i}}\}_{k_{i}\in E_{i}}\subset\bar{\Omega}$ 以及数 $\{\mu_{k_{i}}\}_{k_{i}\in E_{i}},\{\nu_{k_{i}}\}_{k_{i}\in E_{i}}\subset\mathbb{R}^{+},i=1,2$ 满足

和

这里 $\delta_{x}$ 表示集中在 $x\in\mathbb{R}^{3}$ 的 Dirac delta 测度. 另外, 若 $E_{1}=\emptyset$, 则取 $\mu_{k_{1}},\nu_{k_{1}}=0$, 若 $E_{2}=\emptyset$, 则取 $\mu_{k_{2}},\nu_{k_{2}}=0$.

利用 $\{u_{n}\},\{v_{n}\}$ 的 $L^{2}(\Omega)$ 收敛性和 $\beta\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$, 可推出

我们断言 $E_{1},E_{2}=\emptyset$, 验证此断言需要排除以下三种情形.

情形 1$E_{1}\neq\emptyset$ 和 $E_{2}=\emptyset$. 选取 $k_{1}\in E_{1}$. 对 $\epsilon>0$, 在 $\mathbb{R}^{3}$ 中定义一个光滑函数 $\phi_{\epsilon}$ 满足在 $B(x_{k_{1}},\epsilon)$ 中 $\phi_{\epsilon}=1$, 在 $B(x_{k_{1}},2\epsilon)^{c}$ 中 $\phi_{\epsilon}=0$, 在其他区域 $0\leq\phi_{\epsilon}\leq1$, 且 $|\nabla \phi_{\epsilon}|\leq2/\epsilon$. 由于 $\mathcal{I}_{\beta}'(u_{n},v_{n})\rightarrow0$, 可推出

类似于文献[10,引理 3.1]的证明, 可得

和

这里当 $\epsilon\rightarrow0$ 时 $o(1)\rightarrow0$, 其中(3.7)式的推导主要利用了 $\{u_{n}\},\{v_{n}\}$ 的 $L^{2}(\Omega)$ 收敛性和 $\phi_{\epsilon}$ 的假设条件. 由(3.5)式得到

令 $\epsilon\rightarrow0$, 可得 $0\geq(1+b_{1}\mu_{k_{1}})\mu_{k_{1}}-\nu_{k_{1}}.$ 由(3.2)式推出

根据引理2.1中 $C_{K_{i}}$ 的定义, 可以验证

利用(3.4)式推出

这与 $c_{\beta}$ 的假设条件矛盾.

情形 2$E_{1}=\emptyset$ 和 $E_{2}\neq\emptyset$. 对情形 1 的证明过程稍作改动, 可推出

由(3.4)和(3.10)式推出

这也与 $c_{\beta}$ 的假设条件矛盾.

情形 3$E_{1}\neq\emptyset$ 和 $E_{2}\neq\emptyset$. 类似地, 利用(3.4)式推出

由(3.10)式得到 $\frac{1}{2}C_{K_{i}}+\frac{b_{i}}{4}C^{2}_{K_{i}}-\frac{1}{6S^{3}}C^{3}_{K_{i}}>0$, 仍然与 $c_{\beta}$ 的假设条件矛盾.

通过以上分析, $E_{1},E_{2}=\emptyset$. 由(3.3)式推出

引理证毕.

现在证明(1.1)式非平凡基态解的存在性.

引理 3.2 设 $\lambda_{i}\in (-\lambda_{1}(\Omega),-\frac{1}{4}\lambda_{1}(\Omega))$, $\beta\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$ 和 $0\leq b_{i}<B_{i}$, 则(1.1)有一个非平凡基态解.

证 利用(2.11)式和引理2.5, 存在 $\{(u_{n},v_{n})\}\subset H$ 使得

类似于(3.1)式的证明可得到 $\{(u_{n},v_{n})\}$ 在 $H$ 中是有界的. 进一步地, 存在子序列和 $(u,v)\in H$ 使得 $(u_{n},v_{n})\rightharpoonup(u,v)$. 结合(2.5)式, 引理2.6和引理3.1, 可推出在 $L^{6}(\Omega)$ 中 $u_{n}\rightarrow u$ 和 $v_{n}\rightarrow v$. 因为 $\langle\mathcal{I}_{\beta}'(u_{n},v_{n}),(u_{n}-u,0)\rangle=o(1),$ 其中 $n\rightarrow+\infty$ 时 $o(1)\rightarrow0$, 利用 $\{u_{n}\},\{v_{n}\}$ 的 $L^{2}(\Omega)$ 和 $L^{6}(\Omega)$ 收敛性可推出

利用弱收敛性, 可推出在 $H_{0}^{1}(\Omega)$ 中 $u_{n}\rightarrow u$, 类似可得在 $H_{0}^{1}(\Omega)$ 中 $v_{n}\rightarrow v$, 这意味着 $(u,v)$ 是(1.1)式的一个非平凡基态解.

为了证明正基态解的存在性, 需要下面的引理.

引理 3.3 设 $\beta\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$, $(u',v')\in H$ 是 $\mathcal{I}_{\beta}$ 的临界点且 $\mathcal{I}_{\beta}(u',v')$$=c_{\beta}$, 则(1.1)式有一个正基态解 $(u_{\beta},v_{\beta})$ 满足 $u_{\beta},v_{\beta}>0$.

证 设 $(u',v')\in H$ 是 $\mathcal{I}_{\beta}$ 的临界点且 $\mathcal{I}_{\beta}(u',v')=c_{\beta}$. 由引理 2.5 得到

因为 $\beta>0$, (1.1)式没有半平凡解, 所以 $u'$ 和 $v'$ 都不等于0. 观察(2.12)式, 有

因为 $t_{\beta,|u'|,|v'|}(|u'|,|v'|)\in\mathcal{M}_{\beta}$, 可得

另一方面, $\mathcal{I}_{\beta}(u',v')=\frac{1}{3}D(u',v')-\frac{1}{4}B(u',v')$, 这意味着

进一步地, $t_{\beta,|u'|,|v'|}=1$ 和 $\mathcal{I}_{\beta}(|u'|,|v'|)=\mathcal{I}_{\beta}(u',v')=c_{\beta}.$ 因此, $(u_{\beta},v_{\beta}):=(|u'|,|v'|)$ 是(1.1)式的非负基态解. 利用强极值原理可推出 $(u_{\beta},v_{\beta})$, $u_{\beta},v_{\beta}>0$ 是(1.1)式的正基态解.

在证明正基态解对于参数 $\beta$ 的渐近行为时, 需要用到下面的结果.

引理 3.4 设 $\beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$, 则映射 $\beta\mapsto c_{\beta}$ 是严格递减和连续的.

证 首先, 证明 $c_{\beta}$ 对于 $\beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$ 是严格递减的. 对任意的 $0\leq\beta_{1}<\beta_{2}<\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))}$, 由 (2.12)式推出

类似于(3.13)式中的证明可得

因此, 对于 $\beta\in[0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$, $c_{\beta}$ 是严格递减的.

为了证明连续性, 令序列 $\beta_{n}\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$ 满足当 $n\rightarrow+\infty$ 时 $\beta_ {n}\rightarrow\beta$. 若 $(u_{\beta},v_{\beta})\in\mathcal{M}_{\beta}$ 使得 $\mathcal{I}_{\beta}(u_{\beta},v_{\beta})=c_{\beta}$, 选取 $t_{\beta_{n},u_{\beta},v_{\beta}}>0$ 使得 $(t_{\beta_{n},u_{\beta},v_{\beta}}u_{\beta},t_{\beta_{n},u_{\beta},v_{\beta}}v_{\beta})\in\mathcal{M}_{\beta_{n}},$ 可以推出

因为 $(u_{\beta},v_{\beta})\in\mathcal{M}_{\beta}$, 有 $t_{\beta_{n},u_{\beta},v_{\beta}}\rightarrow1$ 和 $\mathcal{I}_{\beta_{n}}(t_{\beta_{n},u_{\beta},v_{\beta}}u_{\beta},t_{\beta_{n},u_{\beta},v_{\beta}}v_{\beta})\rightarrow \mathcal{I}_{\beta}(u_{\beta},v_{\beta})=c_{\beta}$. 另外, $c_{\beta_{n}}\leq\mathcal{I}_{\beta_{n}}(t_{\beta_{n},u_{\beta},v_{\beta}}u_{\beta},t_{\beta_{n},u_{\beta},v_{\beta}}v_{\beta})$, 这意味着

下面只需证明 $c_{\beta}\leq\mathop{\liminf}\limits_{n\rightarrow+\infty}c_{\beta_{n}}$. 事实上, 若 $(u_{\beta_{n}},v_{\beta_{n}})\in\mathcal{M}_{\beta_{n}}$ 使得 $\mathcal{I}_{\beta_{n}}(u_{\beta_{n}},v_{\beta_{n}})=c_{\beta_{n}}$, 选取 $t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}>0$ 使得 $(t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}u_{\beta_{n}},t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}v_{\beta_{n}})\in\mathcal{M}_{\beta}.$ 类似可得

由 $(u_{\beta_{n}},v_{\beta_{n}})\in\mathcal{M}_{\beta_{n}}$, 可推出 $t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}\rightarrow1$ 和 $|\mathcal{I}_{\beta}(t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}u_{\beta_{n}},t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}v_{\beta_{n}}) -c_{\beta_{n}}|\rightarrow0$. 另外, $c_{\beta}\leq\mathcal{I}_{\beta}(t_{\beta,u_{\beta_{n}},v_{\beta_{n}}}u_{\beta_{n}},t_{\beta,u_{\beta_{n}},v_{\beta_{n}}} v_{\beta_{n}})$, 可推出

通过上面的分析, $\mathop{\lim}\limits_{n\rightarrow+\infty}c_{\beta_{n}}=c_{\beta}$.

注 3.1 由引理 3.4, 可以得到当 $\beta\rightarrow0$ 时 $c_{\beta}\rightarrow c_{0}=\min\{m_{1},m_{2}\}$.

引理 3.5 设序列 $\beta_{n}\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$, $n\in\mathbb{N}$, 使得当 $n\rightarrow+\infty$ 时 $\beta_{n}\rightarrow0$, 则存在子序列使得在 $H$ 中$(u_{\beta_{n}},v_{\beta_{n}})\rightarrow(\bar{u},\bar{v})$. 另外, 下面结论之一成立

(i) $\bar{v}\equiv0$ 和 $\bar{u}$ 是 $-(1+b_{1}\|u\|^{2})\Delta u+\lambda_{1}u=u^{5}, u\in H_{0}^{1}(\Omega)$ 的一个正基态解;

(ii) $\bar{u}\equiv0$ 和 $\bar{v}$ 是 $-(1+b_{2}\|v\|^{2})\Delta v+\lambda_{2}v=v^{5}, v\in H_{0}^{1}(\Omega)$ 的一个正基态解. 特别地, 若 $m_{1}<m_{2}$, 则 (i) 成立; 若 $m_{2}<m_{1}$, 则 (ii) 成立.

证 令序列 $\beta_{n}\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$ 满足当 $n\rightarrow+\infty$ 时 $\beta_{n}\rightarrow0$, $\{(u_{\beta_{n}},v_{\beta_{n}})\}$$\subset H$ 是引理 3.3 中得到的正基态解序列, 可推出 $\mathcal{I}_{\beta_{n}}(u_{\beta_{n}},v_{\beta_{n}})=c_{\beta_{n}}$ 和 $\mathcal{I}_{\beta_{n}}'(u_{\beta_{n}},v_{\beta_{n}})=0$. 类似于(3.1)式可推出 $(u_{\beta_{n}},v_{\beta_{n}})$ 在 $H$ 中有界. 存在子序列使得在 $H$ 中 $(u_{\beta_{n}},v_{\beta_{n}})\rightharpoonup(\bar{u},\bar{v})$, 在 $L^{p}(\Omega)\times L^{p}(\Omega),1\leq p<6$ 中 $(u_{\beta_{n}},v_{\beta_{n}})\rightarrow(\bar{u},\bar{v})$, 在 $\Omega$ 中几乎处处 $(u_{\beta_{n}},v_{\beta_{n}})\rightarrow(\bar{u},\bar{v})$, $\bar{u},\bar{v}\geq0$. 应用引理 2.3 和引理 3.4, 可以得到

由(2.5)式和引理3.1可推出

另外, 经过计算可得

和 $(\bar{u},\bar{v})\neq(0,0)$. 类似于引理3.2中的证明, 可推出 $u_{\beta_{n}}\rightarrow \bar{u}$ 和 $v_{\beta_{n}}\rightarrow \bar{v}$. 注意到

和 $\mathcal{I}_{0}'(u_{\beta_{n}},v_{\beta_{n}})\rightarrow0$. 因此, $\mathcal{I}_{0}'(\bar{u},\bar{v})=0$ 和$\mathcal{I}_{0}(\bar{u},\bar{v})=c_{0}$, 这意味着 $(\bar{u},\bar{v})$ 是(1.1)式当 $\beta=0$ 时的基态解, 则 $(\bar{u},\bar{v})$ 满足

由(3.14)式得到, 结论 (i) 和 (ii) 之一成立. 另外, 若 $m_{1}<m_{2}$, 由 $c_{\beta}$ 的定义, 结论 (i) 成立. 若 $m_{2}<m_{1}$, 类似可得.

定理 1.1 的证明 应用引理3.3和引理3.5, 可证明出定理 1.1.

在这节, 我们首先将(1.1)式看作是(3.15)式加了扰动项得到的, 并找到一个特殊的PS序列, 然后证明定理1.2.

定义 $X:=S_{1}\times S_{2},$ 其中 $S_{i}$ 在 (2.7) 式给出. 由引理 2.1, 当 $0\leq b_{i}<B_{i}$ 时, 有 $(u_{\lambda_{1}},v_{\lambda_{2}})\in X$, 这里 $u_{\lambda_{1}}$ 和 $v_{\lambda_{2}}$ 分别是 (1.4) 和 (1.5) 式的正基态解. 不失一般性, 在这节假设 $m_{1}\leq m_{2}$.

引理 4.1$X$ 在 $H$ 中是紧的, 存在常数 $C_{2}>C_{1}>0$ 使得

证 由引理 2.2 推出 $S_{i}$ 在 $H_{0}^{1}(\Omega)$ 中是紧的. 另外, $m_{i}>0, i=1,2$. 易证出引理 4.1.

注意到

则存在 $0<t_{0}<1<t_{1}$ 使得

类似地, 存在 $0<s_{0}<1<s_{1}$ 使得

定义

存在常数 $C_{0}>0$ 使得

为了方便, 定义 $Q:=[t_{1}]\times[s_{1}]$. 对 $\beta\geq0$, 定义

其中

和 $C_{2}$ 在引理 4.1 给出. 由 $\tilde{\gamma}(t,s)\in\hat{\Gamma}$ 可知 $\hat{\Gamma}$ 是非空的.

引理 4.2$\mathop{\lim}\limits_{\beta\rightarrow0}\hat{c}_{\beta} =\mathop{\lim}\limits_{\beta\rightarrow0}d_{\beta}=\hat{c}_{0}=d_{0}=m_{1}+m_{2}.$

证 因为 $\beta>0$, 有 $\mathcal{I}_{\beta}(\tilde{\gamma}(t,s))\leq\mathcal{I}_{0}(\tilde{\gamma}(t,s))$ 和

注意到 $\tilde{\gamma}\in\hat{\Gamma}$, 有 $\hat{c}_{\beta}\leq d_{\beta}$ 和

另一方面, 对任意的 $\gamma(t,s)=(\gamma_{1}(t),\gamma_{2}(s))\in\hat{\Gamma}$, 定义$\Upsilon(\gamma):[t_{0},t_{1}]\times[s_{0},s_{1}]\rightarrow\mathbb{R}^{2}$ 为

其中 $\Phi_{1},\Phi_{2}:H_{0}^{1}(\Omega)\rightarrow\mathbb{R}$ 定义为

和

对任意的 $u\in H_{0}^{1}(\Omega)$, 由 Sobolev 不等式可得 $|u|_{L^{6}(\Omega)}^{6}\leq C\|u\|_{\lambda_{i}}^{6}$ 和 $\Phi_{i}(u)\leq\frac{C\|u\|_{\lambda_{i}}^{6}}{\|u\|_{\lambda_{i}}^{2}}$. 因此, $\Phi_{i},i=1,2,$ 是连续的. 观察(4.4)式, 注意到 $\Phi_{1}(u_{\lambda_{1}})=\Phi_{2}(v_{\lambda_{2}})=1$, 有

易看出 $(1,1)$ 是 $\Upsilon(\tilde{\gamma})(t,s)=(0,0)$ 的唯一解. 另外, 经过计算可得 $J_{\Upsilon(\tilde{\gamma})}(1,1)>0$, 其中 $J_{\Upsilon(\tilde{\gamma})}(t,s)$ 表示 $\Upsilon(\tilde{\gamma})$ 在 $(t,s)$ 处的 Jacobi 行列式. 因此, 有

观察(4.6)式, 对任意的 $(t,s)\in\partial([t_{0},t_{1}]\times[s_{0},s_{1}])$, 有 $\Upsilon(\gamma)(t,s)=\Upsilon(\tilde{\gamma})(t,s)\neq(0,0)$. 因此, ${\rm deg}(\Upsilon(\gamma),[t_{0},t_{1}]\times[s_{0},s_{1}],(0,0))$ 是有定义的且

存在 $(t_{2},s_{2})\in[t_{0},t_{1}]\times[s_{0},s_{1}]$ 使得 $\Upsilon(\gamma)(t_{2},s_{2})=(0,0)$, 即 $\Phi_{1}(\gamma_{1}(t_{2}))=\Phi_{2}(\gamma_{2}(s_{2}))=1$. 这意味着 $\gamma_{1}(t_{2})\in\mathcal{N}_{1}$, $\gamma_{2}(s_{2})\in\mathcal{N}_{2}$ 和 $\gamma_{1}(t_{2}),\gamma_{2}(s_{2})\neq0$. 结合(2.4)式可得到

和 $\hat{c}_{0}\geq d_{0}$. 由(4.7)式可得 $\hat{c}_{0}= d_{0}$.

反证法, 假设 $\mathop{\liminf}\limits_{\beta\rightarrow0}\hat{c}_{\beta}<d_{0}$, 则存在 $\epsilon>0$, $\beta_{n}\rightarrow0$ 和 $\gamma_{n}(t,s)=(\gamma_{n,1}(t),\gamma_{n,2}(s))\in\hat{\Gamma}$ 使得

由(4.6)式给出的 $\hat{\Gamma}$ 的定义, 存在 $n_{0}>0$ 使得

和

由(4.10)式中 $\hat{c}_{0}\geq d_{0}$ 得到矛盾, 有 $\mathop{\liminf}\limits_{\beta\rightarrow0}\hat{c}_{\beta}\geq d_{0}$. 结合(4.7)式完成证明.

定义

引理 4.3 对足够小的 $\rho>0$, 设存在序列 $\{\beta_{n}\}$ 满足 $\beta_{n}\rightarrow0$, $\{(u_{n},v_{n})\}\subset X^{\rho}$ 满足

则存在 $(u,v)\in X$ 使得有子序列在 $H$ 中 $(u_{n},v_{n})\rightarrow(u,v)$.

证 由于 $(u_{n},v_{n})\in X^{\rho}$, 存在 $(U_{n},V_{n})\in X$ 使得

由引理 4.1, 在 $H$ 中 $X$ 是紧的, 存在 $(U,V)\in X$ 使得有子序列在 $H$ 中 $(U_{n},V_{n})\rightarrow(U,V)$. 因此, 对足够大的 $n$, 有 ${\rm dist}((u_{n},v_{n}),(U,V))\leq2\rho$, 且 $\{(u_{n},v_{n})\}$ 在 $H$ 中是有界的. 设存在 $u,v\in H_{0}^{1}(\Omega)$ 使得

$\left\{ \begin{array}{ll} (u_{n},v_{n})\rightharpoonup(u,v), &\mbox{在 H 中},\\ (u_{n},v_{n})\rightarrow(u,v), &在L^{p}(\Omega)\times L^{p}(\Omega) 中,\ 1\leq p<6,\\ (u_{n},v_{n})\rightarrow(u,v), &{\rm a.e.} 在 \Omega中. \end{array} \right.$

由于 $B_{2\rho}(U,V)$ 在 $H$ 中是弱闭的, 有

这意味着对足够小的 $\rho>0$, 有 $u\not\equiv0$ 和 $v\not\equiv0$.

由 $\beta_{n}\rightarrow0$ 可得

由第二集中紧性引理得到(3.2)-(3.4)式. 不妨设在(3.3)式中 $E_{1}\neq\emptyset$ 和 $E_{2}\neq\emptyset$, 类似于引理 3.1 中的证明可得

这与 $c'\leq\hat{c}_{0}=m_{1}+m_{2}$ 矛盾.

不失一般性, 设 $E_{1}=\emptyset$ 和 $E_{2}\neq\emptyset$. 由(3.3)式可得

因为

其中当 $n\rightarrow+\infty$ 时 $o(1)\rightarrow0$, 利用序列 $\{u_{n}\}$ 的 $L^{2}(\Omega)$ 和 $L^{6}(\Omega)$ 收敛性可推出

由弱收敛性推出在 $H_{0}^{1}(\Omega)$ 中 $u_{n}\rightarrow u$, 这意味着

注意到

有

另一方面, 类似于引理 3.1 中的证明可得

这与(2.5)式矛盾.

通过上述分析, 有 $E_{1}=\emptyset$ 和 $E_{2}=\emptyset$. 由(3.3)式可知在 $L^{6}(\Omega)$ 中 $u_{n}\rightarrow u$ 和 $v_{n}\rightarrow v$. 类似于引理 3.2 中的证明, 可推出在 $H$ 中 $(u_{n},v_{n})\rightarrow(u,v)$, 这意味着 $(u,v)\in X$.

引理 4.4 存在常数 $\kappa>0$ 和 $\beta_{1}\in(0,\sqrt{(\lambda_{1}+\lambda_{1}(\Omega))(\lambda_{2}+\lambda_{1}(\Omega))})$, 使得对 $\beta\in(0,\beta_{1})$ 有

证 反证法, 假设存在序列 $\{\beta_{n}\}$ 使得 $\beta_{n}\rightarrow0$ 和$\{(u_{n},v_{n})\}\subset\mathcal{I}_{\beta_{n}}^{d_{\beta_{n}}}\cap(X^{\rho}\backslash X^{\frac{\rho}{2}})$ 满足

由引理 4.2 和引理 4.3, 存在子序列使得 $(u_{n},v_{n})\rightarrow(u,v)\in X$, 这意味着当 $n\rightarrow\infty$ 时 ${\rm dist}((u_{n},v_{n}),X)\rightarrow0$, 这与对任意的 $n\geq1$, $(u_{n},v_{n})\notin X^{\frac{\rho}{2}}$ 相矛盾.

引理 4.5 设 $\rho>0$ 是足够小的固定数, 序列 $\{(u_{n},v_{n})\}\subset X^{\rho}$ 满足

则存在常数 $\beta_{2}\in(0,\beta_{1}]$ 使得对 $\beta\in(0,\beta_{2})$, 在 $H$ 中 $(u_{n},v_{n})\rightarrow(u,v)$.

证 回顾引理 4.3 的证明, 存在 $(U,V)\in X$ 使得对足够大的 $n$ 有 ${\rm dist}((u_{n},v_{n}),(U,V))\leq2\rho$, 以及在 $H$ 中 $\{(u_{n},v_{n})\}$ 是有界的. 因此, 存在 $u,v\in H_{0}^{1}(\Omega)$ 使得在 $H$ 中 $(u_{n},v_{n})\rightharpoonup(u,v)$, 对$1\leq p<6$, 在 $L^{p}(\Omega)\times L^{p}(\Omega)$ 中 $(u_{n},v_{n})\rightarrow(u,v)$. 另外, 有

这意味着对足够小的 $\rho>0$ 有 $u\not\equiv0$ 和 $v\not\equiv0$. 观察引理 4.2 中的证明, 有

利用第二集中紧性引理得到(3.2)-(3.4)式. 不妨设(3.3)式中的 $E_{1}\neq\emptyset$ 和 $E_{2}\neq\emptyset$, 类似于3.1中的证明可得

这与(4.13)式相矛盾.

不失一般性, 设 $E_{1}=\emptyset$ 和 $E_{2}\neq\emptyset$. 由(3.3)式推出

因为

其中当 $n\rightarrow+\infty$ 时 $o(1)\rightarrow0$, 可利用 $\{u_{n}\}$ 的 $L^{2}(\Omega)$ 和 $L^{6}(\Omega)$ 收敛性推出

由弱收敛性推出在 $H_{0}^{1}(\Omega)$ 中 $u_{n}\rightarrow u$, 有

因为 $J_{1}$ 是连续的且 $J_{1}(U)= m_{1}$, 观察(4.12)式, 存在足够小的 $\rho,\beta_{2}>0$ 使得对 $\beta\in(0,\beta_{2})$ 和 $\alpha_{0}\in(0,\frac{1}{2}C_{K_{2}}+\frac{b_{2}}{4}C^{2}_{K_{2}}-\frac{1}{6S^{3}}C^{3}_{K_{2}}-m_{2})$, 有

另外,

有

另一方面, 对任意的 $\psi\in H_{0}^{1}(\Omega)$ 有 $\mathop{\lim}\limits_{n\rightarrow\infty}\langle J_{2}'(v_{n})-\beta u_{n},\psi\rangle=0$, 可得

则对足够小的 $\beta>0$, 利用 $\{v_{n}\}$ 的 $L^{2}(\Omega)$ 收敛性可推出

其中 $\mu_{k_{2}}$ 和 $\nu_{k_{2}}$ 在(3.3)式给出. 另外,

其中 $\phi_{\epsilon}$ 在引理3.1的证明中给出. 对引理3.1的证明过程稍作改动可得到

与(1.14)式相矛盾, 这是因为

通过上述分析, $E_{1}=\emptyset$ 和 $E_{2}=\emptyset$. 由(3.3)式得到在 $L^{6}(\Omega)$ 中有 $u_{n}\rightarrow u$ 和 $v_{n}\rightarrow v$. 然后, 类似于引理 3.2的证明过程可推出在 $H$ 中$(u_{n},v_{n})\rightarrow(u,v)$.

引理 4.6 存在 $\delta>0$ 和 $\beta_{3}\in(0,\beta_{2}]$ 使得对任意的 $\beta\in(0,\beta_{3})$, 有

证 反证法. 设存在 $\delta_{n}\rightarrow0$, $\beta_{n}\rightarrow0$ 和 $(t_{n},s_{n})\in Q$ 使得

有子序列使得 $(t_{n},s_{n})\rightarrow(\tilde{t},\tilde{s})\in Q$. 由(4.1), (4.4)式和引理4.2可推出

且 $(\tilde{t},\tilde{s})=(1,1)$. 因此,

然而, $\tilde{\gamma}(1,1)=(u_{\lambda_{1}},v_{\lambda_{2}})\in X$, 这与(4.15)式相矛盾.

令

其中 $\kappa,\rho,\delta$ 分别在引理 4.4, 4.5 和 4.6 中给出. 由引理 4.2, 存在 $\beta_{0}\in(0,\beta_{3}]$ 使得

引理 4.7 对固定的 $\beta\in(0,\beta_{0})$, 存在序列 $\{(u_{n},v_{n})\}\subset \mathcal{I}_{\beta}^{d_{\beta}}\cap X^{\rho}$ 使得当 $n\rightarrow\infty$ 时在 $H$ 中有 $\mathcal{I}_{\beta}'(u_{n},v_{n})\rightarrow0$.

证 反证法. 设 $\beta\in(0,\beta_{0})$, 存在 $l(\beta)>0$ 使得

则在 $H$ 中有定义在 $\mathcal{I}_{\beta}^{d_{\beta}}\cap X^{\rho}$ 的邻域 $N_{\beta}$ 的伪梯度向量场 $V_{\beta}$, 使得对任意的 $(u,v)\in N_{\beta}$, 有

令 $\eta_{\beta}$ 是在 $H$ 上的一个 Lipschitz 连续函数使得 $0\leq\eta_{\beta}\leq1$, 在 $\mathcal{I}_{\beta}^{d_{\beta}}\cap X^{\rho}$ 上 $\eta_{\beta}=1$ 以及在 $H\backslash N_{\beta}$ 上 $\eta_{\beta}=0$. 也令 $\xi_{\beta}$ 是 $\mathbb{R}$ 上的一个 Lipschitz 连续函数使得 $0\leq\xi_{\beta}\leq1$ 和

设

则对任意的 $(u,v)\in H$, 如下的 Cauchy 初值问题

有一个全局解 $\Psi_{\beta}:H\times[0,+\infty)\rightarrow H$, 其满足性质

(1) $\Psi_{\beta}(u,v,\tau)=(u,v)$ 若 $\tau=0$, $(u,v)\in H\backslash N_{\beta}$ 或 $|\mathcal{I}_{\beta}(u,v)-\hat{c}_{\beta}|\geq\delta$;

(2) $\|\frac{\partial}{\partial\tau}\Psi_{\beta}(u,v,\tau)\|\leq2$;

(3) $\frac{\partial}{\partial\tau}\mathcal{I}_{\beta}(\Psi_{\beta}(u,v,\tau)) =\langle\mathcal{I}_{\beta}'(\Psi_{\beta}(u,v,\tau)),e_{\beta}(\Psi_{\beta}(u,v,\tau))\rangle\leq0$.

类似于文献[7,引理 4.7] 中步骤 1 的证明, 可以得到对任意的 $(t,s)\in Q$, 存在 $\tau_{t,s}\in[0,+\infty)$ 使得 $\Psi_{\beta}(\tilde{\gamma}(t,s),\tau_{t,s})\in\mathcal{I}_{\beta}^{\hat{c}_{\beta}-\delta_{0}}$, 其中 $\delta_{0}$ 在(4.16)式给出. 因此, 可定义

和 $\gamma(t,s):=\Psi_{\beta}(\tilde{\gamma}(t,s),T(t,s))$. 对所有的 $(t,s)\in Q$, 有$\mathcal{I}_{\beta}(\gamma(t,s))\leq\hat{c}_{\beta}-\delta_{0}$, 这意味着

另一方面, 类似于文献[7,引理 4.7]中步骤 2 的证明可得到

其中 $\hat{\Gamma}$ 在(4.6)式给出, 这与 $\hat{c}_{\beta}$ 的定义相矛盾.

定理 1.3 的证明 对固定的 $\beta\in(0,\beta_{0})$, 由引理4.7, 存在一个序列 $\{(u_{n},v_{n})\}\subset \mathcal{I}_{\beta}^{d_{\beta}}\cap X^{\rho}$ 使得在 $H$ 中 $\mathcal{I}_{\beta}'(u_{n},v_{n})\rightarrow0$. 由引理4.5可得在 $H$ 中 $(u_{n},v_{n})\rightarrow(u_{\beta},v_{\beta})$. 因此, $\mathcal{I}_{\beta}'(u_{\beta},v_{\beta})=0$. 另外, $\{(u_{n},v_{n})\}\subset \mathcal{I}_{\beta}^{d_{\beta}}\cap X^{\rho}$ 和 $(u_{\beta},v_{\beta})\in X^{\rho}$, 这意味着对足够小的 $\rho>0$ 有 $u_{\beta}\neq0$ 和 $v_{\beta}\neq0$. 因此, $(u_{\beta},v_{\beta})$ 是(1.1)式的一个解.

令序列 $\beta_{n}\in(0,\beta_{0})$ 满足当 $n\rightarrow+\infty$ 时 $\beta_{n}\rightarrow0$. 重复引理 4.3 的证明过程, 存在子序列使得在 $H$ 中 $(u_{\beta_{n}},v_{\beta_{n}})\rightarrow(\hat{u},\hat{v})$, 其中 $\hat{u}\in S_{1}$ 和 $\hat{v}\in S_{2}$, 即 $\hat{u}$ 是 $-(1+b_{1}\|u\|^{2})\Delta u+\lambda_{1}u=u^{5}$, $u\in H_{0}^{1}(\Omega)$ 的一个基态解和 $\hat{v}$ 是 $-(1+b_{2}\|v\|^{2})\Delta v+\lambda_{2}v=v^{5}$, $v\in H_{0}^{1}(\Omega)$ 的一个基态解.