本章我们考虑以下拟线性耦合方程组

以及线性耦合方程组

其中 $(u_1,u_2)\in H_0^1(\Omega;\mathbb R^2)$, $\Omega\subset\mathbb R^N(N\geq1)$ 是一个有界光滑区域, $\omega_i,\ \beta\in\mathbb R$, $\mu_i,\ \rho_i>0,$$i=1,2.$ 而且, 当 $N=1,2$ 时 $p>1$ 且当 $N\geqslant3$ 时 $1<p\leqslant\frac{3N+2}{N-2}$. 方程组(1.1)与以下 Gross-Pitaevskii 方程组有关 (见文献[29]):

其中 $\text{i}$ 表示虚数单位, $\Phi_i:\mathbb R^+\times\Omega\to\mathbb C$ 且对任意的 $t>0$, $i=1,2$, $\Phi_i(t,\cdot)\in H^1_0(\Omega;\mathbb C)$. 这类方程组用于描述许多物理现象, 例如耗散量子力学、等离子体物理学和流体力学. 可以见文献[13,33]以及其参考文献了解更多相关的物理背景. 众所周知, 有两个量沿着 1.2)式的轨迹守恒: 质量

和能量

本章寻找(1.2)式的驻波解 $(\Phi_1(t,x),\Phi_2(t,x)) = ({\rm e}^{{\rm i}\omega_1 t}u_1(x),{\rm e}^{{\rm i}\omega_2 t}u_2(x))$

使得

且对某个预定的 $\rho_1,\rho_2>0$, 有

另一方面, 方程组(1.1)与拟线性 Schrödinger 方程有关, 这是在等离子体物理学中对超流体膜的研究中产生的. 见文献[9,10,21]查看更多的物理背景和相关的物理模型. 从数学上讲, 这里已有许多研究解的存在性和多重性的结果, 比如见[2,13,33]及其参考文献.

从正规化解的角度, 最简单的情形是 $\mathbb R^N$ 上带纯幂次非线性的单个 Schrödinger 方程的情形. 已有几种经典的方法研究正规化解的存在性和多重性. 比如, 变分法见文献[5,7,37,38]及其参考文献, Jeanjean^[18]引入变换 $s\ast u(x)={\rm e}^{{\frac N2}s}u({\rm e}^s x)$ 其中 $s\in\mathbb R$, Bartsch, Zhong 和 Zou (见文献[6]) 提出的分歧方法, 以及文献[28]中使用的 Lyapunov-Schmidt 约化方法等.

下面介绍以下拟线性 Schrödinger 方程的研究现状

其中 $\lambda\in\mathbb R$ 是一个参数, 当 $N\geq3$ 时 $p\in(1,\frac{3N+2}{N-2})$ 且当 $N=1,2$ 时 $p\in(1,+\infty)$. Colin, Jeanjean, Squassina ^[14], Jeanjean, Luo ^[19], Jeanjean, Luo, Wang^[20]以及 Li, Zou^[20,23]都考虑了单个拟线性 Schrödinger 方程(1.4) 并且应用极小化约束和扰动方法得到了正规化解的存在性. 形式上, (1.4)式的正规化解可以作为

限制在集合

下的临界点得到. 然而, 一旦我们考虑一般的有界区域, 以上方法将会失效. 这是因为文献[20]中引入的变换和文献[5]中的 Nehari-Pohožaev 流形方法在此情形下将不适用, 正如在文献[5,18]及其参考文献中所述, 我们不能得到一个有界的 Palais-Smale 序列. 正如我们所知, 只有少数文章研究有界区域上正规化解的存在性. 大概第一个结果是 Noris, Tavares 和 Verzini 在文献[27]上的结果. 他们证明了有界区域 $\Omega\subset\mathbb R^N(N\geqslant1)$ 上具有纯幂次的方程

这里研究了球面 $\Omega=B_1$ 上正规化解的存在性和轨道稳定性. Pierotti 和 Verzini[32]也考虑了带有特殊边界条件的一般有界区域上的正规化解. 然而, 这两篇论文都是考虑单个的 Schrödinger 方程. 因此, 方程中没有拟线性项和非线性耦合项. 确切地, 方程不包含类似 $\Delta(u^2)u$ 和 $|u|^{p-2}u|v|^{p}$ 的项. 在文献[28]中, Noris, Tavares 和 Verzini 在有界区域上考虑了以下带有齐次 Dirichlet 边界条件的非线性 Schrödinger方程组的正规化解

据我们所知, 似乎还没有有界区域上拟线性 Schrödinger 方程组正规化解的相关结果.因此,本文的第一个目的是将以上文献 [28] 的结果扩展到拟线性 Schrödinger 方程组.

对于方程组 (1.1), 我们可以在变分框架表述我们的问题, 考虑

定义在自然空间 $\mathcal{X}:=X_1\times X_2$, 其中

与半线性方程组相比, $u_1\Delta(|u_1|^2)$ 和 $u_2\Delta(|u_2|^2)$ 是不存在的, 寻找 (1.1) 式的解具有一定的困难. 这是因为当 $N\geq2$ 时对应于$\int_{\Omega}|u_1|^2|\nabla u_1|^2 {\rm d}x\ \text{和}\ \int_{\Omega}|u_2|^2|\nabla u_2|^2 {\rm d}x$ 的泛函在空间 $\mathcal{X}$ 上不是可微的. 为了克服这个困难, 应用Liu, Wang 和 Wang ^[27] 提出的一个方法 (也可见文献 [13]), 即, 作变量替换 $v_i=f^{-1}(u_i),\ i=1,2$, 其中 $f$ 定义为

且

应用变量替换, 我们将泛函重新写作 $\mathcal{J}(u_1,u_2)$, 即

它在空间 $H_0^1(\Omega)\times H_0^1(\Omega)$ 上是良定义的且是 $C^1$ 的. 此外, 如果 $(u_1, u_2)\in H_0^1(\Omega;\mathbb R^2)$ 且对任意的 $\varphi_1,\ \varphi _2\in C_0^\infty(\Omega)$

则 $(u_1, u_2)$ 是拟线性方程组(1.1)的一个正规化解, 即, 存在 $(\omega_1,\omega_2)\in\mathbb R^2$ 使得

(1.10) 式的解可以看作是泛函

限制在质量约束

下的临界点, 这里 $\omega_i$ 作为拉格朗日乘子出现. 类似地, $(u_1, u_2)$ 是拟线性方程组 (1.1) 的一个正规化解, 即, 存在 $(\omega_1,\omega_2)\in\mathbb R^2$ 使得

(1.12) 式的解可以用相应能量泛函

限制在质量约束

下的临界点来确定, 且 $\omega_i$ 作为拉格朗日乘子出现.

我们的主要目标是提供关于 $p$, $\rho_1,\ \rho_2,\ \mu_1,\ \mu_2$ 和 $\beta$ 的条件, 使得 $\mathcal{E}_1|_{\mathcal{M}}$ 和 $\mathcal{E}_2|_{\mathcal{M}}$ 具有一个全局或局部极小. 我们称这种解是正规化基态解. 此外, 我们考虑这些解相对于演化系统 (1.2) 的稳定性. 到目前为止我们知道, 研究正规化解的一个关键工具是 Gagliardo-Nirenberg 不等式 (见下面的 (1.14) 式), 其可用于根据二次部分来估计能量泛函中的非二次部分. 我们引入一个最佳 Gagliardo-Nirenberg 不等式^{[2,p458–462]}

其中 $1<p<\frac{3N+2}{N-2}$ 且 $E^q:=\{u\in L^q(\mathbb R^N):\nabla u \in L^2(\mathbb R^N),\ 1\leq q<+\infty\}$. 在文献 [35] 中已证

其中 $Z$ 是方程

的唯一正解. 注意到不等式在 $H_0^1(\Omega)$ 中也成立, 对任意有界区域 $\Omega$, 具有相同的常数 $C_{N,p}.$ 下面, 通过把 (1.14) 式中 $u$ 换为 $u^2$, 我们得到以下拟线性型 Gagliardo-Nirenberg 不等式

特别地, 在 $H_0^1(\Omega)$ 中不等式是严格的, 除非 $u$ 是平凡的. 如上所述, Colin, Jeanjean, Squassina ^[14], Jeanjean, Luo^[19] 以及 Jeanjean, Luo, Wang^[20]考虑极小化问题 $m(a)=\inf_{u\in S(a)}I(u),$ 且 $I$ 的定义见 (1.5) 式, $1<p\leq3+\frac{4}{N}$. 应用不等式 (1.16), 我们可以发现当 $1<p<3+\frac{4}{N}$ 时 $m(a)>-\infty$, 当 $p>3+\frac{4}{N}$ 时 $m(a)=-\infty$, 由于

这表明 $3+\frac{4}{N}$ 在拟线性 Schrödinger 方程中作用与 $1+\frac{4}{N}$ 对于非线性 Schrödinger 方程中作用一样. 因此, 在 (1.10) 和 (1.12) 式中的指数 $p$ 可以分为以下四种情形

(H1) 超线性, $L^2$-次临界: $1<p<3+\frac{4}{N}$;

(H2) $L^2$-临界: $p=3+\frac{4}{N}$;

(H3) $L^2$-超临界, Sobolev-次临界:$3+\frac{4}{N}<p<\frac{3N+2}{(N-2)^+}$;

(H4) Sobolev-临界: $p=\frac{3N+2}{N-2}$, $N\geq3$, 见文献[27,命题 5.12]关于该情形更多的性质.

本章的目标有两个: 一方面, 在 (H1)-(H4) 情形, 我们将上述在文献 [28] 中得到的结果推广到拟线性方程组; 另一方面, 我们注意到对于单个拟线性 Schrödinger方程(1.4)这里还没有关于 Sobolev-临界情形的结果, 而其他情形已得到解决. 因此, 我们处理拟线性 Schrödinger 方程组 Sobolev-临界情形 (H4). 现在我们详细描述我们的结果.

取 $\Omega\subset\mathbb R^N(N\geq1)$ 是 Lipschitz 有界区域, 且令 $C_N$ 表示 Gagliardo-Nirenberg 不等式在 $L^2$-临界情形下出现的常数 (见 (1.31) 式). 而且, $S_N$ 是出现在 Sobolev 不等式中的最佳常数 (见 (1.32) 式).

首先, 我们给出 (H1) 或 (H2) 成立的情形.

定理1.1 ($L^2$-次临界和 $L^2$-临界情形: 存在性和稳定性) 设 $\Omega\subset \mathbb R^N$ 是一个有界光滑区域. 假设以下条件其中之一成立

(i) $1<p<3+\frac{4}{N}$;

(ii) $p=3+\frac{4}{N}$ 且 $\rho_1,\rho_2>0$ 满足

其中 $\beta^+=\max\{\beta,0\}$. 则

(a) $\inf\limits_{\mathcal{M}}\mathcal{E}_1$ 在 $(v_1,v_2)\in\mathcal{M}$ 处达到, 它是 (1.10) 式对某个 $(\omega_1,\omega_2)\in\mathbb R^2$ 的一个正解;

(b) 基态集合

是 (条件) 轨道稳定的.

注1.1 轨道稳定性和 (条件) 轨道稳定的定义在第4节. 见文献 [28] 及其参考文献关于更多的轨道稳定性结果. 实际上, 定理 1.1 推广文献 [27,28,32]中的主要结果到拟线性 Schrödinger 方程组.

现在我们考虑 (H3) 或 (H4) 情形成立, 即, 当 $3+\frac{4}{N}<p\le\frac{3N+2}{N-2}$ 时 (当 $N=1,2$ 时没有上界). 令 $\alpha\geq \lambda_1(\Omega)$ ($-\Delta$ 在 $\Omega$ 中的第一 Dirichlet 特征值)

注意到 $\mathcal{B}_{\alpha} \neq \varnothing$, 因为它至少包含一对正规化第一特征函数, 即, $(\sqrt{\rho_1} \varphi _1,\sqrt{\rho_2}\varphi _2)$. 定义

由于 $\mathcal{B}_\alpha$ 在 $\mathcal{M}$ 中是弱闭的, 在 Sobolev-次临界情形下, $c_\alpha$ 限制在 $\mathcal{U}_\alpha \subset\mathcal{B}_\alpha$ 上对任意的 $\alpha\geq\lambda_1(\Omega)$ 可达. 但是, 为了找到 (1.1) 式的一个解, 只需要寻找 $\alpha$ 使得 $c_\alpha<\hat{c}_\alpha$. 在 Sobolev-临界情形下, 由于 $H^1_0(\Omega)$ 嵌入到 $L^{\frac{4N}{N-2}}(\Omega)$ 不是紧的, $\mathcal{E}_1|_{\mathcal{M}}$ 不再是弱下半连续的. 为了克服该困难, 我们首先给出方程组 (1.1) 中耦合项的 Brézis-Lieb 引理. 而且, 在 Brézis, Nirenberg ^[8] 和 Noris, Tavares, Verzini ^[28] 的启发下, 我们能够通过对质量 $\rho_1,\rho_2$ 和 $\alpha$ 施加一个界恢复相对于 $c_\alpha$ 极小化序列的紧性. 具体地讲, 我们有以下结果

定理 1.2 (Sobolev-临界情形: 存在性) 设 $\Omega\subset \mathbb R^N$ 是一个有界光滑的区域, $N\ge3$ 且 $p=\frac{3N+2}{N-2}$. 假设 $\alpha\geq\lambda_1(\Omega)$ 满足

其中

则相对于 $c_\alpha$ 的任意极小化序列在 $\mathcal{B}_\alpha$ 中是相对紧的. 特别地, $c_\alpha$ 是可达的.

取 $\rho_1=\rho_2=\rho$, $\mu_1=\mu_2=\mu$, $u_1=u_2$, 我们有以下结论.

定理 1.3 假设 $\Omega\subset \mathbb R^N$ 是一个有界光滑区域且 $\mu>0$. 如果

则方程

存在一个正解 $u$, 它是相应能量的一个局部极小元.而且, 相应的局部基态是 (条件) 轨道稳定的.

基于以上定理, 我们引入下面的集合

注意, $A$ 与 $\Omega$, $N$, $p$, $\mu_1$, $\mu_2$ 和 $\beta$ 有关. 而且, 如果 $(\rho_1,\rho_2)\in A$, 则我们可以选择局部极小值 $(v_1,v_2)\in\mathcal{M}$ 是 (1.10) 式对某个 $(\omega_1,\omega_2)\in \mathbb R^2$ 的一个正解. 我们引入 $a$ 和 $r$ 为

请注意这两个常数在本文中自然出现, 因为它们出现在 Gagliardo-Nirenberg 不等式. 我们也注意到

定理 1.4 ($L^2$-超临界情形: 存在性) 设 $\Omega\subset \mathbb R^N$ 是一个光滑有界区域且 $3+\frac{4}{N}<p\le\frac{3N+2}{N-2}$. 如果 $A$ 定义如 (1.23) 式所示, 则 $A$ 相对于 $(0,0)$ 是星型的. 而且, 存在一个正常数 $R=R(\Omega,N,p)$ 使得如果 $\rho_1,\rho_2>0$ 满足

则 $(\rho_1,\rho_2)\in A$. 这里 $a$ 和 $r$ 定义在 (1.24)式且 $R$ 是明确的. (见(3.18) 式).

定理 1.5 ($L^2$-超临界情形: 稳定性) 设 $\Omega\subset \mathbb R^N$ 是一个有界光滑区域, $3+\frac{4}{N}<p\le\frac{3N+2}{N-2}$ 且 $(\rho_1,\rho_2)\in A$. 令 $\bar{\alpha}\ge\lambda_1(\Omega)$ 满足

则局部基态集

是轨道稳定的.

注意到在我们的结果中所有的假设都涉及 $\beta$ 的正部 (即 $\beta^+$). 因此, 所有的估计关于 $\beta<0$ 是一致的. 回顾定理 1.1 和 1.4, 当 $\beta<0$ 且 $(\rho_1,\rho_2)$ 满足

我们陈述以下结果.

定理 1.6 设 $\Omega\subset \mathbb R^N$ 是一个有界光滑区域. 假设 $\beta<0$ 且 $(\rho_1,\rho_2)$ 使得(1.28) 式成立. 假设 $(v_{1,\beta},v_{2,\beta})$ 是 (1.10) 式的基态, 且 $(\omega_{1,\beta},\omega_{2,\beta})$ 在 $\Omega$ 中满足 $v_{1,\beta},v_{2,\beta}>0$. 则 $\{(v_{1,\beta},v_{2,\beta})\}_{\beta<0}$ 关于 $C^{0,\alpha}(\overline \Omega)$ 是一致有界的, 当 $\beta\to-\infty$ 时在 $C^{0,\alpha}(\overline{\Omega})\cap H^1_0(\Omega)$ 中有 $(v_{1,\beta},v_{2,\beta})\to(w^+,w^-)$, 其中 $w^\pm=\pm\max\{\pm w,0\}$ 且 $w\in C^{0,1}(\overline \Omega)$ 满足

$\left\{\begin{array}{l} -\Delta w-\frac{1}{2} w \Delta\left(w^{2}\right)+\omega_{1} w^{+}-\omega_{2} w^{-}=\mu_{1}\left(w^{+}\right)^{p}-\mu_{2}\left(w^{-}\right)^{p} \\ \int_{\Omega}\left(w^{+}\right)^{2} \mathrm{~d} x=\rho_{1}, \int_{\Omega}\left(w^{-}\right)^{2} \mathrm{~d} x=\rho_{2}, \quad w \in H_{0}^{1}(\Omega) \end{array}\right.$.

注1.2 不同于文献[14,19,20,20,23], 我们不仅证明正规化解的存在性, 而且还考虑它的轨道稳定性和 $\beta\rightarrow -\infty$ 时的渐近行为. 然而, 当 $\beta=\rho_2=0,\ \rho_1=\rho>0$ 时, 我们的结果对于单个拟线性方程也是新的. 而且, 我们使用的方法是将拟线性问题转化为一个半线性问题, 这与扰动方法不同.

最后, 我们考虑方程组 (1.1) 的正规化解. (1.1) 式的解将作为 $C^1$ 函数的极小值获得

定理 1.7 设 $\Omega\subset \mathbb R^N$ 是一个有界光滑区域. 假设以下情形之一成立

(i) $1<p<3+\frac{4}{N}$;

(ii) $p=3+\frac{4}{N}$ 且 $\rho_1,\rho_2>0$ 满足

其中 $\beta^+=\max\{\beta,0\}$;

(iii) $N\ge3$ 且 $p=\frac{3N+2}{N-2}$;

(iv) $3+\frac{4}{N}<p\le\frac{3N+2}{N-2}$.

则对某个 $(\omega_1,\omega_2)\in\mathbb R^2$ 存在 (1.1) 的一个正的正规化解.

注1.3 与文献[28] 相比, 我们还考虑了线性耦合情况下正规化解的存在性. 注意到当线性耦合项 $\beta\int_{\Omega}u_1 u_2 {\rm d}x$ 替换 $\beta \int_{\Omega}|u_2|^{\frac{p+1}{2}}|u_1|^{\frac{p-3}{2}}u_1 {\rm d}x$, 然而, 我们在这里使用的方法不同于文献[11,12]. 他们的方法离不开平移和变换技巧, 因为我们在有界区域上考虑, 所以这些方法是失效的.

本章的结构如下. 接下来, 我们给出一些注记和记号. 定理 1.1(a) 的证明在第2节. 第 3节主要给出定理1.2-1.4的证明. 第4节关注稳定性结果的证明, 即定理1.1(b)和1.5的证明. 最后, 定理 1.6和定理 1.7的证明在第5节.

记号和预备. 本章中我们记 $\lambda_1(\Omega)$ 是 $\Omega$ 中的第一 Dirichlet 拉普拉斯特征值, 且 $\varphi_1$ 是相应的特征函数, 它在 $L^2(\Omega)$ 中是正规化的且在 $\Omega$ 中是正的. 为了方便起见, $C$ 和 $C_i (i = 1, 2,\cdots)$ 表示正常数(可能是不同的). $B_R(x)$ 是半径为 $R$ 中心在 $x$ 的球. $\int_\Omega g(z)$ 表示积分 $\int_\Omega g(z){\rm d}z$. $\rightarrow$ 和 $\rightharpoonup$ 分别表示强收敛和弱收敛. 我们使用如下 $L^q(\Omega)$ ($1\le q<\infty$) 和 $H^1_0(\Omega)$-范数

为了不引起混淆, 我们将 $|\cdot|_{L^q(\Omega)}$ 简记为 $|\cdot|_q$. 在特殊的情形 $p=3+\frac{4}{N}$ 时记

然而对于 $p=\frac{3N+2}{N-2}$ 和 $N\geq 3$,

本节我们处理条件 (H1) 和 (H2) 情形,这意味着

我们收集了函数 $f$ 的一些性质. 证明可见文献[25, p4–5].

引理2.1 函数 $f$ 满足以下性质

$(f_{1})$$f$ 是唯一定义的且是 $C^\infty$ 的可逆的函数;

$(f_{2})$$|f'(t)|\leq1,\ \ t\in \mathbb R$;

$(f_{3})$$|f(t)|\leq|t|,\ \ t\in\mathbb R$;

$(f_{4})$ 存在一个正常数 $\theta$ 使得

以下引理表明 (1.10) 式的弱解就是 (1.1) 式的弱解.

引理2.2 如果 $(v_1,v_2)\in H_0^1(\Omega;\mathbb R^2)\cap L^\infty_{\rm loc}(\Omega;\mathbb R^2)$ 是泛函 $\mathcal{I}$ 的一个临界点, 则 $(u_1,u_2)=(f(v_1),f(v_2))$ 是 (1.1) 式的一个弱解.

证 我们将文献 [36]中研究单个拟线性 Schrödinger 方程的情形推广到方程组情形[13, p217-218]. 通过使用 (1.7) 式和引理 2.1, 我们计算并且得到

和

因此, $u_1,\ u_2\in H_0^1(\Omega)\cap L_{\rm loc}^\infty(\Omega)$. 由于 $(v_1,v_2)$ 是 $\mathcal{I}$ 的一个临界点, 对任意的 $\psi _1,\ \psi _2\in H_0^1(\Omega)$,有

由于 $(f^{-1})^\prime(t)=\frac{1}{f^\prime(f^{-1}(t))}$, 通过计算

这意味着

对任意的 $\varphi_1,\ \varphi_2\in C_0^\infty(\Omega)$, 得到

且

在 (2.2) 式中取 $\psi _i=(f^\prime(v_i))^{-1}\varphi_i$ 且应用 (2.3), (2.4) 和 (2.5) 式, 我们得到 (1.9) 式, 这意味着 $(u_1,u_2)=(f(v_1),f(v_2))$ 是 (1.1) 式的一个弱解.

接下来, 我们回顾 Brézis 和 Lieb^[7] 给出的一个引理: 对于 $1\leq q<\infty$, 如果 $\{g_n\}_n\subset L^q(\Omega)$ 是 $L^q(\Omega)$ 中的一个有界序列, 满足 $g_n\to g$ 几乎处处成立, 则

下面, 我们首先给出方程组 (1.1) 中耦合项的一个 Brézis-Lieb 引理.

引理2.3 设 $\omega_{n}\rightharpoonup\omega$ 和 $\nu_{n}\rightharpoonup\nu$ 在 $H_0^1(\Omega)$ 中成立. 如果 $\omega_{n}\rightarrow \omega$ 和 $\nu_{n}\rightarrow\nu$ 在 $\Omega$ 中几乎处处成立, 则

证 通过使用引理 2.1, 得到

因此, $\{f(\omega_{n})\}$ 在 $H_0^1(\Omega)$ 中有界. 根据 Sobolev 嵌入的紧性, $f(\omega_{n})\in L^{\frac{4N}{N-2}}(\Omega)$ 和 $f(\omega_{n})\rightarrow f(\omega)$ 在 $\Omega$ 中几乎处处成立. 对于 $n=1,\ 2,\cdots$, 有

由于 $f(\omega_n)\rightharpoonup f(\omega)$ 在 $H_0^1(\Omega)$ 中成立, 根据文献[26,引理2.5], 得到

这意味着 在 $L^{2}(\Omega)$ 中 $|f(\omega_n)|^{\frac{p+1}{2}}-|f(\omega_n)-f(\omega)|^{\frac{p+1}{2}}\rightarrow |f(\omega)|^{\frac{p+1}{2}}$. 应用在 $L^{2}(\Omega)$ 中 $|f(\nu_n)|^{\frac{p+1}{2}}$$\rightharpoonup |f(\nu)|^{\frac{p+1}{2}}$, 这意味着

类似地, 由于在 $H_0^1(\Omega)$ 中 $f(\nu_n)\rightharpoonup f(\nu)$, 根据文献[26,引理2.5]可知在 $L^{2}(\Omega)$ 中 $|f(\nu_n)|^{\frac{p+1}{2}}-|f(\nu_n) -f(\nu)|^{\frac{p+1}{2}} \rightarrow|f(\nu)|^{\frac{p+1}{2}}$. 根据在 $L^{2}(\Omega)$ 中 $|f(\omega_n)-f(\omega)|^{\frac{p+1}{2}}\rightharpoonup 0$, 得到

定理 1.1 (a) 的证明 应用 Hölder 不等式和拟线性型 Gagliardo-Nirenberg 不等式(1.16), 有

其中指数 $a$ 和 $r$ 定义在 (1.24)式. 由 (1.7) 式可知

因此, 对 $(v_1,v_2)\in\mathcal{M}$ 有

如果 (H1) 成立, 则 $0<\frac{N(p-1)}{N+2}<2$, 因此, 在 (2.9) 式中, $a<1$, 推导出 $\mathcal{E}_1$ 相对于 $\mathcal{M}$ 对任意的 $\rho_1,\ \rho_2>0$ 是强制的. 我们称 $\mathcal{M}$ 是一类 $C^1$ 流形. 事实上, 根据

由引理 2.1 可知 $G$ 是一类 $C^1$ 的且对 $(v_1,v_2)\in\mathcal{M}$, 得到

因此, 应用隐函数定理, $\mathcal{M}$ 是一类 $C^1$ 流形. 最后, 根据引理 2.3, Sobolev 嵌入的紧性和范数的弱下半连续性, 直接应用变分技巧 ^{[4,注 1.5.7]}, $\inf\limits_{\mathcal{M}}\mathcal{E}_1$ 在 $(v_1,v_2)$ 处达到, 其中 $(v_1,v_2)\in\mathcal{M}$, 这是因为紧嵌入 $H^1_0(\Omega)\hookrightarrow L^2(\Omega)$. 由拉格朗日乘子原理, 对某个 $(\omega_1,\omega_2)\in\mathbb R^2$, $(v_1,v_2)$ 满足 (1.10) 式. 同时, 引理2.2意味着对某个 $(\omega_1,\omega_2)\in\mathbb R^2$, $(f(v_1),f(v_2))$ 满足 (1.1) 式. 取 $|v_i|$, 我们假设 $v_i\geq0$. 根据极大值原理, 我们得到 $v_i>0$, 由于 $\Omega$ 是 Lipschitz 的, 任意 $v_i$ 关于边界是连续的.

在情形 (H2) 下, 根据 (2.9) 式, 此时 $a=1$, $r=\frac{1}{N}$, 有

其中 $\begin{bmatrix}|\nabla v_1|_2 ~&|\nabla v_2|_2\end{bmatrix}^T$ 是 $\begin{bmatrix}|\nabla v_1|_2~ &|\nabla v_2|_2\end{bmatrix}$ 的转置且

如果 $A$ 是正定的, 我们得到的 $\mathcal{E}_1(v_1,v_2)>0$, 从而结果成立. 这里, $A$ 正定当且仅当下面的不等式同时成立

即, (1.17) 式成立. 我们也推导出 $\mathcal{E}_1$ 关于 $\mathcal{M}$ 对任意的 $\rho_1,\ \rho_2>0$ 是强制的.

注2.1 受文献 [28] 启发, 我们在 $(\mu_1\rho_1^{\frac{2}{N}},\mu_2\rho_2^{\frac{2}{N}})$-平面引入条件 (1.17). 不同于文献 [28,图 1], 这里的双曲线包含了点 $\left(0,\frac{N+1}{2NC_{N}}\right)$ 和 $\left(\frac{N+1}{2NC_{N}},0\right)$. 设 $\bar x=\mu_1\rho_1^{\frac{2}{N}}$, $\bar y=\mu_2\rho_2^{\frac{2}{N}}$ 使得 (1.17) 式对应于 $(\bar x,\bar y)\in G$, 其中

根据 $\beta$, 我们可以分为以下几种情形.

(i) 如果 $\beta\leq 0$, (1.17) 式变成矩形中的线 $(\bar x,\bar y)$

(ii) 如果 $\beta=\sqrt{\mu_1\mu_2}$, 有半个矩形

(iii) 如果 $\beta>0$, $\beta\neq \sqrt{\mu_1\mu_2}$, 曲线

是一个双曲线它包含点 $\left(0,\frac{N+1}{2NC_{N}}\right)$, $\left(\frac{N+1}{2NC_{N}},0\right)$. 这个双曲线是

即

其具有垂直渐近线 $x=\frac{N+1}{2NC_{N}} \frac{\mu_1\mu_2}{\mu_1\mu_2-(\beta^+)^2}$. 但是, 集合 $G$ 总是包含 $Ox^+\cap\overline{Q}$ 和 $Oy^+\cap\overline{Q}$. 当 $0<\beta<\sqrt{\mu_1\mu_2}$, 它包含 $Q_1$, 并且当 $\beta>\sqrt{\mu_1\mu_2}$ 包含在 $Q_1$ 中.

注2.2 如果 $\beta\leq 0$, 条件 (1.17) 变成 $\mu_1\rho_1^{\frac{2}{N}}, \mu_2\rho_2^{\frac{2}{N}}<\frac{N+1}{2NC_{N}}.$ 回到文献 [20,引理 2.1], 我们看到 Pohožaev 恒等式 ($u$ 换成 $f(v)$)

且 $Z$ 是拟线性 Schrödinger 方程唯一的正解^[1,3,16,34]. 因此, (1.17) 式等价于

这与文献 [1,3,16,34] 中的结果是一致的, 这对应于 (1.1) 式中 $\beta=0$ 的情形.

现在开始假设 $p$ 满足 (H3) 或 (H4), 即, $p>3+\frac{4}{N}$, 且 $p\leq\frac{3N+2}{N-2}$, $N\geq 3$. 在 $L^2$-超临界情形 $p>3+\frac{4}{N}$, 由于 $\mathcal{E}_1$ 限制在 $\mathcal{M}$ 上对任意的 $(\rho_1,\rho_2)$ 是强制的, 正如以下引理.

引理3.1 对 $p>3+\frac{4}{N}$, 存在 $(V_{1,k},V_{2,k})\in\mathcal{M}$, 使得

证 设 $\phi\in C^\infty_c(\Omega)$ 且 $\phi>0$ 在 $B_1$ 中, $\int_{B_1}\phi^2=1$, $x_1,x_2\in\Omega$ 使得 $x_1\neq x_2$. 对 $k\in\mathbb N$ 和 $i=1,2$, 我们定义

对 $k$ 充分大, 我们得到 $\textrm{supp}(V_{i,k}) \subset B_{\frac{1}{k}}(x_i)\subset\Omega$, $i=1,2$, 且 $\textrm{supp}(V_{1,k}) \cap \textrm{supp}(V_{2,k})=\emptyset$. 通过直接计算我们得到

因此, 对充分大的 $k$$(V_{1,k},V_{2,k})\in\mathcal{M}$. 此外, 根据 (2.3) 式可知

因此, 当 $k\to+\infty$ 时,

这是因为 $p>3+\frac{4}{N}$.

在 (H3) 或 (H4) 下, 为了证明对某个 $\rho_1,\rho_2$ 存在 (1.10) 式的一个解, 我们应用不同于第2节的方法. 对 $\alpha\geq \lambda_1(\Omega)$, $\mathcal{B} _\alpha$ 和 $\mathcal{U} _\alpha$ 定义在 (1.19)式, 然而 $c_\alpha$ 和 $\hat c_\alpha$ 定义在 (1.20) 式. 注意到 $\mathcal{B}_\alpha\neq \emptyset$, 由于它至少包含 $(\sqrt{\rho_1}\varphi _1,\sqrt{\rho_2}\varphi _2)$. 而且

回顾 (2.9) 式和 $x=|\nabla v_1|_2$ 以及 $y=|\nabla v_2|_2$, 考虑函数 $\Phi:\mathbb R^2_+\to\mathbb R$ 定义为

其中 $a>1$. 事实上, 根据 (2.9) 式可知

特别地, 这里可以从下方估计 $\hat c_\alpha$. 我们定义以下 $\mathbb R^2$ 的子集合

集合 $U_\alpha$ 是由 $\mathcal{U}_\alpha$ 通过定义 $x=|\nabla v_1|_2$ 和 $y=|\nabla v_2|_2$ 得到的. 集合 $V_\alpha$ 是由 $(v_1,v_2)\in\mathcal{M}$, $|\nabla v_1|_2^2\geq\rho_1\lambda_1(\Omega)$ 以及 $|\nabla v_2|_2^2\geq\rho_2\lambda_1(\Omega)$ 得到. 根据 (3.2)式, 我们推导出

现在, 由于 $V_\alpha$ 的定义, 最后一个最大值不能由 $\alpha$ 精确给出 (除了特殊情形). 因此, 我们希望得到一个粗略的估计, 其中 $V_\alpha$ 由 $U_\alpha$ 代替.

引理3.2 对任意的 $\alpha>\lambda_1(\Omega)$,

其中

证 显然, 因为

由 (3.3)式即证.

注3.1 当 $N\ge3$ 且 $p=\frac{3N+2}{N-2}$, 我们知道 $a=\frac{N}{N-2}$, $r=0$ 以及 $\Lambda$ 不依赖于 $\rho_1,\rho_2$, 实际上它的定义与 (1.22)式给出的一致. 因此, 根据 $S_N$ 在 (1.32) 式中的定义, 对任意的 $(\tau_1,\tau_2)\in H^1_0(\Omega;\mathbb R^2)$, 得到

为了看到这点, 对任意的 $(\tau_1,\tau_2)$, 可以找到 $t\in\left[\frac{\pi}{2}\right]$ 使得

并且代入 (3.4)式中即证.

正如之前提到的, 我们将寻找 $c_\alpha$ 对某个 $\alpha$, $\mathcal{E}_1$ 在 $\mathcal{B}_\alpha$ 上的极小. 第一步是证明 $c_\alpha$ 可达. 对任意 $\alpha\ge\lambda_1(\Omega)$, 在 Sobolev-次临界情形下很容易得到. 事实上, 此时, $\mathcal{B}_\alpha$ 是弱紧的且 $\mathcal{E}_1$ 是弱下半连续的, 使用变分法 ^{[4,注 2.3.3]}, $c_\alpha$ 在 $(v_1,v_2)$ 处达到.

接下来, 回顾(3.4)式中的 $\Lambda$, 在 Sobolev-临界情形下, 与 $\rho_1,\rho_2$ 无关.

引理3.3 设 $\alpha>\lambda_1(\Omega)$, $\rho_1,\rho_2>0$ 满足

且令 $(v_{1,n},v_{2,n})_n$ 满足当 $n\to\infty$ 时

因此

特别地, $c_\alpha$ 可达.

证 根据假设条件, 存在 $(\bar v_1,\bar v_2)\in H^1_0(\Omega;\mathbb R^2)$ 使得

注意到 $(\bar{v}_1,\bar{v}_2)$ 是 $c_\alpha$ 的极小化问题, 从而

设 $\tau_{i,n}=v_{i,n}-\bar v_i$, 注意到对 $i=1,2$,

$(v_{1,n},v_{2,n})$ 的强收敛性

此时, 由 Sobolev 嵌入的连续性, 我们得到 $c_\alpha=\mathcal{E}_1(\bar{v}_1,\bar{v}_2)$. 由于 $c_\alpha$ 的一个极小化序列存在且满足 (3.6) 式, 我们得到 $c_\alpha$ 可达.

为了完成证明, 通过矛盾, 假设 (3.9)式不成立, 因此

记

根据 $v_{i,n}\rightharpoonup \bar v_i$ 在 $H^1_0(\Omega)$ 中成立,对 $i=1,2$,

根据引理 2.1 和 Sobolev 嵌入的紧性, 我们应用 (2.6) 式且 $g_n=f(v_{i,n})=f(\bar v_i+\tau_{i,n})$, $q=\frac{4N}{N-2}$, 为了得到

通过替换 (3.12), (3.13) 和 (2.7) 式且 $p=\frac{3N+2}{N-2}$ 代入 (3.11) 式, 我们得到

最后一个式子以及 (3.6) 和 (3.7) 式意味着

从而, 根据 (2.8), (2.9) ($r=0$, $a=\frac{N}{N-2}$ 和 $C_{N,\frac{3N+2}{N-2}}=S_N$), (3.5) 式可知

接下来, 我们应用 (3.10) 式重写最后一个不等式得

结合前边的不等式以及 (3.12) 式, 我们得到当 $n\to+\infty$ 时,

这与假设矛盾.

定理 1.2 的证明 该定理是引理 3.3 当 (3.6) 式且 $|v_{i,n}|_2^2=\rho_i$, $i=1,2$, 以及 $|\nabla v_{1,n}|_2^2+|\nabla v_{2,n}|_2^2\leq\alpha(\rho_1+\rho_2)$ 时的一个特殊情形.

引理3.4 假设 $\rho_1,\rho_2>0$ 满足对某个 $\alpha_1,\alpha_2$, $\lambda_1(\Omega)\le\alpha_1<\alpha_2$ 且 $\hat c_{\alpha_1}<\hat c_{\alpha_2};$ 此外, Sobolev-临界情形 $N\ge3$, $p=\frac{3N+2}{N-2}$, 也假设

因此 $c_{\alpha_2}<\hat c_{\alpha_2}$, 且 $c_{\alpha_2}$ 达到 (1.10) 式的一个正解.

证 已知 $c_{\alpha_2}$ 在 $(\bar {v}_1,\bar {v}_2) \in\mathcal{B}_{\alpha_2}$ 处达到. 事实上, 这在 Sobolev-次临界情形是平凡的, 然而在临界情形可由引理 3.3 得证. 注意到 $c_{\alpha_2} = \min\left\{\hat c_\alpha:\lambda_1(\Omega)\le \alpha \le \alpha_2\right\}\le\hat c_{\alpha_1} < \hat c_{\alpha_2}.$ 因此, $(\bar{v}_1,\bar {v}_2)\in\mathcal{B} _{\alpha_2}\setminus \mathcal{U}_{\alpha_2}$.

我们记 $\lambda_2(\Omega)$ 是 $-\Delta$ 在 $H^1_0(\Omega)$ 中的第二特征值, 并且 $\varphi_2$ 是相应地特征函数.

引理3.5

特别地,

证 通过直接计算, 第一个断言是直接的. 我们称

事实上, 由 $\beta\ge-\sqrt{\mu_1\mu_2}$, 对任意的 $\rho_1,\rho_2>0$, 使用引理 2.1, 我们讨论以下情形

情形 1 $|\sqrt{\rho_1}\varphi_1|\leq1$ 和 $|\sqrt{\rho_2}\varphi_1|\leq1$.

通过直接计算, 得到

情形 2 $|\sqrt{\rho_1}\varphi_1|\geq1$ 且 $|\sqrt{\rho_2}\varphi_1|\geq1$.

通过直接计算, 得到

情形 3 $|\sqrt{\rho_1}\varphi_1|\leq1$ 且 $|\sqrt{\rho_2}\varphi_1|\geq1$. 通过直接计算, 得到

情形 4 $|\sqrt{\rho_1}\varphi_1|\geq1$ 且 $|\sqrt{\rho_2}\varphi_1|\leq1$. 通过直接计算, 得到

另一方面, 由以上四种情形可知

引理3.6 设 $\rho_1,\rho_2>0$ 使得

其中 $j=1$, $\beta\ge-\sqrt{\mu_1\mu_2}$, 否则, $j=2$. 令 $\bar \alpha= \frac{a}{a-1}\lambda_i(\Omega)$. 则 $c_{\bar{\alpha}}$ 在 $(\bar{v}_1,\bar{v}_2)\in\mathcal{B}_{\bar{\alpha}}\setminus \mathcal{U}_{\bar{\alpha}}$ 处达到, 满足 $\mathcal{E}_1(\bar{v}_1,\bar{v}_2)=c_{\bar{\alpha}}$, 这意味着 $(\bar{v}_1,\bar{v}_2)$ 是 $\mathcal{E}_1 |_{\mathcal{M} }$ 的一个局部极小, 对应于 (1.10) 式的某个正解 $(\omega_1,\omega_2)\in \mathbb R^2$. 等价地, $(\rho_1,\rho_2)\in A$.

证 根据引理 3.4, 我们的目标是寻找 $\bar{\alpha}>\lambda_j(\Omega)$ 使得

我们寻找满足 (3.15) 式的充分条件. 使用引理 3.2 和 3.5, 只需要寻找 $\bar{\alpha}>\lambda_j(\Omega)$ 使得

(由引理 3.5, 左边大于等于 $\hat{c}_{\lambda_j(\Omega)}$. 而且, 根据引理 3.2, 右边严格小于 $\hat c_{\bar{\alpha}}$). 即

通过直接计算, 根据 $p>3+\frac{4}{N}$ 可知 $a=\frac{N(p-1)}{2(N+2)}>1$, 对于右边最可能的选择是

$\bar{\alpha}$ 的选取上是可能的, 因为 (3.16) 式等价于 (3.14) 式, 这是引理的假设. 显然 $\bar{\alpha}>\lambda_j(\Omega)$. 因此, 为了应用引理 3.4 得出结论, 我们只需要证, 当 $N\ge3$ 且 $p=\frac{3N+2}{N-2}$ 时

成立即可. 这是直接的, 因为 $a=\frac{N}{N-2}$, 根据 (3.16) 式可知

这等价于 (3.17) 式.

注3.2 如果 $(\bar v_1,\bar v_2)$ 满足 (1.10) 式, 解 $(\bar v_1,\bar v_2)$ 与 $(\sqrt{\rho_1} \varphi_1,\sqrt{\rho_2} \varphi_1)$ 不一致. 事实上, 它满足 (1.10) 式当且仅当对任意的 $i=1,2$

受文献[28,29]启发, 我们将研究非线性 Schrödinger 方程在 Sobolev-临界情形的方法推广到拟线性 Schrödinger 方程组. 下面可以明确一些量与 $\rho_1,\rho_2$ 的相关性: 为了简化记号, 定义

并且引入最优化问题 $M_\alpha(\rho_1,\rho_2):=\sup\limits_{\mathcal{U}_\alpha(\rho_1,\rho_2)}G.$ 注意到 $\hat c_\alpha(\rho_1,\rho_2)\!=\! \frac{1}{2}\alpha(\rho_1+\rho_2)-\frac{1}{p+1}M_\alpha(\rho_1,\rho_2),$ 以及 $\hat c_\alpha(\rho_1,\rho_2)$ 在 $(v_1,v_2)\in \mathcal{U}_\alpha(\rho_1,\rho_2)$ 处可达当且仅当 $M_\alpha(\rho_1,\rho_2)$ 在 $(v_1,v_2)$ 处达到. 对任意的 $(\rho_1,\rho_2)\in A\setminus\{(0,0)\}$, 根据 $A$ 的定义, 存在 $\alpha>\lambda_1(\Omega)$ 以及 $(\bar{v}_1,\bar{v}_2) \in\mathcal{B}_\alpha$, (1.10) 式的一个解满足 $\mathcal{E}_1 (\bar v_1,\bar v_2)=c_{\alpha}< \hat c_{\alpha}$, 且当 $N\ge3$, $p=\frac{3N+2}{N-2}$ 时 $\alpha$ 满足 (1.21) 式. 注意到假设 $c_{\alpha}<\hat c_{\alpha}$ 意味着 $\int_\Omega(|\nabla \bar{v}_1|^2+|\nabla\bar{v}_2|)^2<(\rho_1+\rho_2)\alpha$, 因此

从而, $(\bar v_1,\bar v_2)\in\mathcal{U}_{\bar{\alpha}}(\rho_1,\rho_2)$ 达到 $\hat c_{\bar{\alpha}}= c_\alpha$.

引理3.7 如果 $s>0$, 则 $(s \bar v_1,s \bar v_2)\in\mathcal{U}_{\bar{\alpha}} (s^2\rho_1,s^2\rho_2)$ 达到

证 通过直接计算, $(v_1,v_2)\in\mathcal{U}_{\bar\alpha}(\rho_1,\rho_2)\Leftrightarrow (sv_1,sv_2)\in\mathcal{U}_{\bar\alpha}(s^2\rho_1,s^2\rho_2),$ 且

引理3.8 设 $s\in(0,1)$, $|t|$ 充分小,

其中 $(\tau_1,\tau_2)\in H^1_0(\Omega,\mathbb R^2)$ 使得

则对任意的 $t$,

有 $(U_1(t),U_2(t))\in\mathcal{M}_{s^2\rho_1,s^2\rho_2}.$

证 经过简单计算,

对任意的 $t$, $(U_1(t),U_2(t))\in\mathcal{M} _{s^2\rho_1,s^2\rho_2}$. 根据 (2.3) 式, 计算

则

而且, 根据

可知

因此, 对任意的 $0<s<1$ 和 $p>1$,

引理3.9 设 $A$ 如 (1.23) 定义所示. 则 $A$ 对于 $(0,0)$ 是星型的.

证 根据引理 3.8

存在正的和小的常数 $\varepsilon,\tau$ 使得 $(U_1(\tau ),U_2(\tau))\in\mathcal{U} _{\bar\alpha-\varepsilon}(s^2\rho_1,s^2\rho_2).$ 结合引理 3.7 和 3.8 我们得到

应用引理 3.4, $\alpha_1=\bar\alpha-\varepsilon$ 和 $\alpha_2=\bar\alpha$ 可知对任意的 $s\in(0,1)$, $(s^2\rho_1,s^2\rho_2)\in A$.

接下来, 我们估计 $\Lambda$. 在这点上, 引理 3.6 的主要假设对于函数 $\Lambda(\rho_1,\rho_2)$ 定义在 (3.4)式. 为了读者方便, 回顾

其中

显然, $\Lambda$ 是一个关于 $(\rho_1,\rho_2)$ 的 $r$-齐次多项式, 但它的显式表达只能在少数特定情况下推导出来. 接下来证明定理 1.4 中的条件 (1.26), $R=R(\Omega,N,p)$ 的定义为

意味着引理 3.6 中的假设 (3.14) 式成立.

定理 1.4 的证明 引理 3.9 可知 $A$ 对于 $(0,0)$ 是星型的. 我们从上面估计 $\Lambda$, 由 $a>1$

通过计算得出

因此, 根据 (1.26) 和 (3.18) 式, 我们得到 (3.14) 式, 从而应用引理 3.6 得出结论.

注3.3 与 (3.14) 式相比, (1.26) 式更精确; 而且, 两个条件与 $\beta\leq0$ 一致. 事实上, 当 $t=0$ 或 $t=\frac{\pi}{2}$, 最大值原理知 $\Lambda'$ 是可达的且

本节中, 我们主要证明正规化基态解的轨道稳定性, 即定理 1.1(b) 和 1.5. 具体地, 我们的目标是证明分别定义在 (1.18) 和 (1.27) 式的 $G$ 和 $G_{\bar\alpha}$ 的稳定性.

注意到全局极小值也是局部极小值, 我们为所有情况提供了统一的证明. 回顾 (1.19)式中的定义 $\mathcal{B}_\alpha,\ \mathcal{U}_\alpha$, (1.20) 式中的定义 $c_\alpha,\ \hat{c}_\alpha$. 一方面, 对于 $p\leq3+\frac{4}{N}$ 和 $(\rho_1,\rho_2)$ 满足定理的假设 1.1, 根据 (2.9) 以及 (2.10) 式, 我们可以推导出存在 $\bar\alpha>\lambda_1(\Omega)$ 使得

特别地, $G=G_{\bar{\alpha}}$. 另一方面, 对 $p>3+\frac{4}{N}$ 和 $(\rho_1,\rho_2)\in A$, 取 $\bar{\alpha}\ge\lambda_1(\Omega)$ 使得 $c_{\bar\alpha}<\hat c_{\bar\alpha}$, 根据定理 1.5, 在 $p=\frac{3N+2}{N-2}$ 时满足 (1.21) 式. 因此, 通过取 $\bar{\alpha}>\lambda_1(\Omega)$ 证明 $G_{\bar\alpha}$ 的稳定性.

受文献[[28],第 4 节] 启发, 我们称集合 $\mathcal{G}\subset H^1_0(\Omega;\mathbb C^2)$ 是轨道稳定的, 如果对任意的 $\varepsilon >0$ 存在 $\delta>0$ 使得 $(\psi_1,\psi_2)\in H^1_0(\Omega;\mathbb C^2)$ 满足 $\text{dist}_{H^1_0}((\psi_1,\psi_2),\mathcal{G})<\delta$, $\text{dist}_{H^1_0}$ 表示 ${H^1_0}$-距离, 因此

的解 $(\Psi_{1},\Psi_{2})$ 满足对 $0\leq t<+\infty$,

且

其中 $\Psi_i=f^{-1}(\Phi _i),\ i=1,2$.

引理4.1 对于 $(v_1,v_2)\in G_{\bar\alpha}$, 存在 $\theta_1,\theta_2\in\mathbb R$ 使得 $(v_1,v_2)=({\rm e}^{{\rm i}\omega \theta_1}|v_1|,{\rm e}^{{\rm i}\omega \theta_2}|v_2|)$. 特别地,

然而

证 给定 $(\tau_1,\tau_2)\in \mathcal{U}_{\bar\alpha}$, 根据 $\mathcal{U}_{\bar\alpha}$ 的定义, 我们知道

易知 $(\tau_1,\tau_2) \in H^1_0(\Omega;\mathbb C^2)$ 且 $(|\tau_1|,|\tau_2|) \in\mathcal{U}_{\bar\alpha}$, 因此 $\tilde c_{\bar\alpha}\le\hat c_{\bar\alpha}$. 对于 $(v_1,v_2)\in G_{\bar\alpha}$, 通过使用 diamagnetic 不等式^{[24,定理 7.21]}, 得到

结合 (1.8) 式, 可得到 $f(|v_i|)=f(v_i),\ i=1,2$ 且

因此, 对 $i=1,2$,

因此不等式成立, 从而 $v_i$ 是 $|v_i|$ 的复数, 即 $v_i={\rm e}^{{\rm i}\omega\theta_i}|v_i|$ 对某个 $\theta_i\in\mathbb R$ 成立, 从而引理得证.

引理4.2 假设 $\bar \alpha$ 如上定义. 对 $\{(\psi_{1,n},\psi_{2,n})\}\subset H^1_0(\Omega;\mathbb C^2)$ 满足

并且对 $n$ 充分大

则存在 $(v_1,v_2)\in G_{\bar \alpha}$ 使得在 $H^1_0(\Omega;\mathbb C^2)$ 中 $(\psi_{1,n},\psi_{2,n})\to (v_1,v_2)$.

证 通过使用 (4.4) 式, 知道存在 $(\bar\psi_1,\bar\psi_2)\in H^1_0(\Omega;\mathbb C^2)$ 使得在 $H^1_0(\Omega;\mathbb C)$ 中 $\psi_{i,n}\rightharpoonup v_i$ 且在 $L^2(\Omega;\mathbb C)$ 中 $\psi_{i,n}\to v_i$, $i=1,2$. 因此, 根据 (4.3), (4.4) 式和引理 4.1 可知, 对 $i=1,2$, 有

一方面, 当 $p<\frac{3N+2}{N-2}$, Sobolev 嵌入的紧性意味着 $(\psi_{1,n},\psi_{2,n})\to(v_1,v_2)$ 在 $L^{p+1}(\Omega;\mathbb C^2)$ 中成立. 因此, 根据引理 2.1 和 2.3 可知

由范数的弱下半连续性

且结合 $(v_1,v_2)\in G_{\bar\alpha}$ 知在 $H^1_0$ 中强收敛,.

另一方面, 当 $p=\frac{3N+2}{N-2}$, 根据引理 3.3 可知该结果成立: 事实上, 引理对实值函数成立, 但在引理 4.1 之后, 可以直接验证其证明也适用于复值函数.

接下来, 我们给出稳定性的证明.

引理4.3 设 $\bar \alpha$ 如上所述. 如果 $c_{\bar \alpha}<\tilde c_{\bar \alpha}$, 则 $G_{\bar \alpha}$ 是(条件)轨道稳定的.

证 用反证法, 假设 $\{(\psi_{1,n},\psi_{2,n})\}\subset H^1_0 (\Omega;\mathbb C^2)$, $(v_{1,n},v_{2,n})\in G_{\bar \alpha}$ 且 $\bar \varepsilon >0$ 使得

且

其中 $(\Psi_{1,n},\Psi_{2,n})$ 是 (1.2) 式带初始条件 $(\psi_{1,n},\psi_{2,n})$ 的一个解. 则存在 $\{t_n\}$ 使得, 取 $\phi_{i,n}(x):=\Psi_{i,n}(t_n,x)$, $i=1,2$

接下来, 我们证明 $\{(\phi_{1,n},\phi_{2,n})\}$ 满足 (4.3) 和 (4.4) 式. 则引理 4.2 与 (4.7) 式矛盾.

引理 4.2 意味着 $G_{\bar \alpha}$ 是紧的. 因此, 通过使用 (4.5) 式, 存在 $(v_1,v_2)\in G_{\bar \alpha}$ 使得

结合 Sobolev 嵌入的连续性, 根据引理 2.1 和 2.3 可知

这意味着 $(\psi_{1,n},\psi_{2,n})$ 满足 (4.3) 式. 因此质量和能量守恒可知

因此 $(\phi_{1,n},\phi_{2,n})$ 也满足 (4.3) 式. 接下来, 我们验证, 至少有一个序列 $(\phi_{1,n}, \phi_{2,n})$ 满足 (4.4) 式, 即, 对充分大的 $n$,

事实上, 通过矛盾, 假设存在 $\bar n\in\mathbb N$ 和 $\bar\varepsilon>0$ 使得

由于对充分大的 $n$,

则存在 $\bar t_n\in (0,t_n)$ 使得 $(\Psi_{1,n} (\bar t_n,\cdot), \Psi_{2,n}(\bar t_n,\cdot))$ 满足 (4.3) 式且

特别地, (4.4) 式. 根据引理 4.2, 存在 $(\bar v_1,\bar v_2)\in G_{\bar \alpha}$ 使得

这与假设 $c_{\bar\alpha}<\tilde c_{\bar \alpha}$ 矛盾.

假设 $c_{\bar \alpha} <\tilde c_{\bar \alpha}$, 我们证明引理 4.3. 现在验证由于 $c_{\bar \alpha}<\hat c_{\bar \alpha}$, 这个假设是满足的.

引理4.4 设 $\bar \alpha$ 如上所述. 则 $c_{\bar \alpha}<\tilde c_{\bar\alpha}$.

证 通过矛盾, 假设 $\tilde c=c$, 则存在 $\varepsilon _n\to 0$ 和 $(\tau_{1,n},\tau_{2,n})\in H^1_0(\Omega;\mathbb C^2)$ 使得

且对任意的 $n$,

记 $v_{i,n}:=|\tau _{i,n}|$, $i=1,2$, diamagnetic 不等式意味着

因此 $(v_{1,n},v_{2,n})$ 是 $c_{\bar\alpha}$ 的极小化问题且

特别地,

由引理 4.2, 在 $H^1_0$ 中 $(\tau _{1,n},\tau _{2,n})\to (\tau _{1,\infty},\tau _{2,\infty})$ 且 $(v_{1,n},v_{2,n})\to (v_{1,\infty},v_{2,\infty})$. 由 (4.11), (4.12) 式, 结合 Sobolev 嵌入的连续性和引理 2.1 与 2.3, 推导出

且

则 $(v_{1,\infty},v_{2,\infty})\in\mathcal{U}_{\bar\alpha}$, 这与 $c_{\bar\alpha}<\hat c_{\bar \alpha}$ 矛盾.

定理 1.1(b) 和 1.5 的证明 回顾本节第一段, 我们必须证明集合 $G_{\bar\alpha}$ 是 (条件) 轨道稳定的. 证明直接由引理 4.3 和引理4.4 得证.

本节的目标是完成定理 1.6 的证明. 设 $\mu_1,\mu_2>0$, 且取 $\rho_1,\ \rho_2>0$ 满足

注意到所有的条件与 $\beta$ 无关. 通过应用定理 1.1 和 1.4, 引理 3.6 和 (3.18) 式, 推导出对给定的 $\beta<0$, 存在正函数 $v_{1,\beta},v_{2,\beta}$ 以及 $\omega_{1,\beta},\omega_{2,\beta}\in \mathbb R$ 使得

而

其中在 (5.4) 式中 $\bar{\alpha}:=\frac{a}{a-1}\lambda_2(\Omega)$.

引理5.1 在以上假设下, 存在一个常数 $C>0$ 与 $\beta$ 无关, 使得

证 设 $(\xi_1,\xi_2)\in \mathcal{M}$ (如果 $p\leq 3+\frac{4}{N}$) 或 $(\xi_1,\xi_2)\in \mathcal{B} _{\bar{\alpha}}$ (如果 $p>3+\frac{4}{N}$), 且在其余情形有 $\xi_1\cdot\xi_2\equiv 0$. 根据(5.3)-(5.4) 式, 有

其中 $C_1$ 与 $\beta<0$ 无关.

根据 (5.4) 式的第一段, 我们得到 $\{(v_{1,\beta},v_{2,\beta})\}_{\beta<0}$ 在 $H^1_0(\Omega)$ 中对 $p>3+\frac{4}{N}$ 是一致有界的. 当 $1<p<3+\frac{4}{N}$, $H^1_0$-有界性可根据 (5.5) 式以及估计

这与 (2.9) 式关于 $\beta<0$ 相对应, 而对 $p=3+\frac{4}{N}$, 根据 (5.5) 式和

(见 (2.10) 式和 $\beta<0$). 根据 Sobolev 嵌入 $H^1_0(\Omega)\hookrightarrow L^{p+1}(\Omega)$, 我们得到 $\{(v_{1,\beta},v_{2,\beta})\}_{\beta<0}$ 在 $L^{p+1}$-范数下是一致有界的. 特别地

通过用 $f(v_{1,\beta})$ 试验 (5.2) 式中的第一个方程以及用 $f(v_{2,\beta})$ 试验 (5.2) 式中的第二个方程, 应用前边的估计得到 $i,j\in \{1,2\}$, $i\neq j$

现在, 我们应用 Brézis-Kato-Moser 型理论[p1264-1265], 得到 $\{(v_{1,\beta},v_{2,\beta})\}_{\beta<0}$ 的 $L^\infty$-一致有界性.

定理 1.6 的证明 应用引理 5.1, $\{(v_{1,\beta},v_{2,\beta})\}_{\beta<0}$ 满足文献[39,定理 1.3 和 1.5]的条件. 因此该序列在 $C^{0,\alpha}(\overline \Omega)$ 中对任意的 $0<\alpha<1$ 是一致有界的, 且存在 $v_1,v_2\in C^{0,1}(\overline \Omega)$, 在 $\Omega$ 中 $v_1,v_2\geq 0$, 并且 $(\omega_1,\omega_2)\in\mathbb R^2$ 使得当 $\beta\to -\infty$ 时

根据文献 [15,定理 1.1], 得到

且

$-\Delta(v_2-v_1)\geq \mu_2f^{p}(v_2)f^\prime(v_2)-\mu_1f^p(v_1)f^\prime(v_1) -\omega_2f(v_2)f^\prime(v_2)+\omega_1f(v_1)f^\prime(v_1)\ \ \text{在}\ \ \Omega.$ 注意到 $f^{\frac{p+1}{2}}(v_{1,\beta})f^{\frac{p+1}{2}}(v_{2,\beta})\leq |v_{1,\beta}v_{2,\beta}|^{\frac{p+1}{2}}=0$, 根据引理 2.1, 取 $w:=v_1-v_2$ 即证.