考虑如下带有临界指数的 Schrödinger-Newton 系统

其中 $\Omega\subset\mathbb{R}^{N}(N\geq3)$ 是一个非空有界开集, $2^*={\frac{2N}{N-2}}$ 为 Sobolev 临界指数, $\lambda>0$ 为正参数, $h\in L^{\frac{2^*}{2^*-1}}(\Omega)$ 是一个非零非负函数.

系统 (1.1) 更一般的形式为

其中 $\Omega\subset\mathbb{R}^{N}(N\geq3)$ 是一个非空有界开集, $\eta\in \mathbb{R}$ 为参数, 连续函数 $f(x,s)$ 满足一定条件.

目前, 对于系统 (1.2) 的研究已有一些结果, 如有界区域^[1,2,3,4,5], 无界区域^[6,7]. 在文献 [1] 中, 假设 $\Omega=B_{r}\subset \mathbb{R}^{3}$, 其中 $B_{r}$ 表示以 $0$ 为球心且以 $r$ 为半径的球, $\eta=-1$, 且 $f(x,u)=\lambda u, \lambda>0$, 得出: 当$\lambda\in (\frac{3}{10}\lambda_{1},\lambda_{1}),$ 系统 (1.2) 有一个正径向基态解, 其中 $\lambda_{1}$ 为 $-\Delta$ 的第一特征值. 在文献 [2] 中, 假设 $\eta=-1$ 且 $f(x,u)=\lambda u, \lambda>0,$ 一方面, 完善了文献 [1] 在 $N=3$ 时的结果, 即: 当 $\lambda\in ((\frac{1}{4}+\frac{2}{5\pi^{2}})\lambda_{1},\lambda_{1}),$ 系统 (1.2) 有一个正径向基态解; 另一方面, 在 $N\geq 4$ 时获得了两个结果, 即: 当 $N\geq 4$ 且 $\lambda\in (0,\lambda_{1})$ 时, 系统 (1.2) 有一个正基态解; 当 $N\geq 4$ 且 $\lambda\in (\lambda_{k},\lambda_{k+1})$ 时, 或者当 $N\geq 6$ 且 $\lambda\in\sigma (-\Delta)$ 时, 系统 (1.2) 有一个变号解, 其中 $\lambda_{i}(i=k,k+1)$为$-\Delta$ 的第 $i$ 个特征值, $\sigma (-\Delta)$ 为 $-\Delta$ 的谱. 在文献 [3] 中, 假设 $\eta=\pm1$, 且 $f(x,u)=\frac{\lambda}{u^r}, \lambda>0, r\in(0,1)$, 运用变分技巧得到: 当 $\eta=1$ 且 $\lambda>0$ 时, 系统 (1.2) 有唯一的正解; 当 $\eta=-1$ 且 $\lambda\in(0,\lambda{_*})$, $\lambda{_*}$ 为正常数时, 系统 (1.2) 至少有两个正解. 在文献 [4] 中, 假设 $N=3,\eta=-1$, 且 $f(x,u)=f_{\lambda}(x)u^{p-1}, 1<p<2, f_{\lambda}=\lambda f^{+}+f^{-}, f^{\pm}=\pm \max \{\pm f,0\}$, 得到: 当 $\lambda\in(0,\lambda{_*})$, 系统 (1.2) 至少有两个正解且其中一个解为基态解, 这里 $\lambda_{*}>0$ 为正常数. 在文献 [5] 中, 假设 $\eta=-1$, 且 $f(x,u)$ 满足如下条件:

$(f_{1})$$f\in C(\bar{\Omega}\times \mathbb{R}, \mathbb{ R})$, 存在正常数 $c_{1},c_{2}$ (其中 $c_{1}$ 足够小) 和 $p\in(2,2^{*})$ 满足 $\forall(x,t)\in \Omega\times \mathbb{R}, |f(x,t)|\leq c_{1}|t|+c_{2}|t|^{p-1}$;

$(f_{2})$存在足够大的常数 $K>0$, 满足对一切 $x\in \Omega$ 和足够大 $|t|>0$, 有 $F(x,t)\geq K t^{2}$, 其中 $F(x,t)=\int_{0}^{t}f(x,s){\rm d}s$;

$(f_{3})$存在常数 $\rho>2$ 和 $v>0$, 满足 $\rho F(x,t)\leq f(x,t)t+v t^{2}, \forall(x,t)\in \Omega\times \mathbb{R}$. 当 $f$ 满足 $(f_{1})$-$(f_{3})$ 时, 运用变分方法和分析技巧获得了系统 (1.2) 至少存在两个非平凡的解.

在文献 [6] 中, 对无界区域下的系统 (1.1) 进行了研究. 运用变分方法, 得出系统 (1.1) 至少存在两个正解. 受文献 [3,6] 的启发, 我们将考虑有界区域上的系统 (1.1). 本文的主要结果如下.

定理1.1 假设 $h\in L^{\frac{2^*}{2^*-1}}(\Omega)$ 是一个非零非负函数, 则存在正常数 $\Lambda>0$, 使得对一切的 $0<\lambda<\Lambda$ 时系统 (1.1) 至少存在两个正解.

本文所用到的记号有:

记 $H=H{^{1}_{0}}(\Omega)$ 为 Sobolev 空间, 对应的内积和范数分别为: $\langle u,v\rangle=\int_{\Omega}(\nabla u,\nabla v){\rm d}x$, $\|u\|=\langle u,u\rangle^{\frac{1}{2}}$;

记 $L^{p}(\Omega)(1\leq p<+\infty)$ 为 Lebesgue 空间, 其空间的范数为: $|u|_{p}={\left(\int_{\Omega}|u|^{p}{\rm d}x\right)}^\frac{1}{p}$;

记 $C_{i}(i=1,2,3,\cdots)$ 为不同的常数;

记 $B_{\rho}(0)=\{u\in H:\|u\|<\rho\}, \partial B_{\rho}(0)=\{u\in H:\|u\|=\rho\}$;

记 $u^{+}=\max\{u,0\}, u^{-}=\min\{u,0\}$;

记 $S$ 为 Sobolev 最佳常数, 定义为

利用 Lax-Milgram 定理, 对于任意的 $u\in H$, 系统 (1.1) 的第二个方程 $-\Delta \phi=u^{2^{*}-1}$ 存在唯一解 $\phi_{u}\in H$. 将 $\phi_{u}$ 代入系统 (1.1) 的第一个方程, 从而系统 (1.1) 被转化为

问题 (2.1) 对应的能量泛函 $I$ 定义为

任意的 $v\in H$, 有

在给出定理证明之前, 需要先给出一些重要的引理.

引理2.1 (见文献^[2,5]) 对任意固定的元素 $u\in H$, 有

(a) $\phi_{u}\geq 0$ 在 $\Omega$ 中几乎处处成立;

(b) 对于任意的 $t>0$, 都有 $\phi_{tu}=t^{2^{*}-1}\phi_{u}$;

(c) $\|\phi_{u}\|\leq S^{-\frac{2^{*}}{2}}\|u\|^{2^{*}-1}$;

(d) $\int_{\Omega} |u|^{2^{*}}{\rm d}x=\int_{\Omega}|\nabla\phi_{u}||\nabla u|{\rm d}x\leq\frac{1}{2}\|\phi_{u}\|^{2}+\frac{1}{2}\|u\|^{2}$;

(e) 如果在 $H$ 中的序列 $\{u_{n}\}$ 和 $u$ 满足 $u_{n}\rightharpoonup u$, 则存在子列 (不妨仍记为 $\{u_{n}\}$) 满足

这里 $o_{n}(1)$ 为 $n\rightarrow\infty$ 的高阶无穷小.

引理2.2 假设 $h\in L^{\frac{2^{*}}{2^{*}-1}}(\Omega)$ 是一个非零非负函数, 则存在 $\rho, \Lambda_{1}>0$ 使得对任意的 $\lambda\in(0,\Lambda_{1})$ 有

(i) $\inf\limits_{u\in \overline{B_{\rho}(0)}}I(u)<0$ 和 $I|_{u\in\partial \overline{B_{\rho}(0)}}\geq\frac{g(\rho)}{2}>0$;

(ii) 存在足够大的 $t_{0}>0$, 使得当 $e=\|t_{0}u\|>\rho$ 时, $I(e)<0.$

证 由引理 2.1, 结合 Sobolev 不等式和 Hölder 不等式, 可得

令 $g(t)=\frac{1}{2}t-\frac{1}{2(2^{*}-1)}S^{-2^{*}}t^{2\cdot2^{*}-3},t\geq0$, 对其求导可得 $g'(t)=\frac{1}{2}-\frac{2\cdot2^{*}-3}{2(2^{*}-1)}S^{-2^{*}}t^{2(2^{*}-2)}.$ 让 $g'(t)=0$, 有 $t=\left(\frac{2^{*}-1}{2\cdot2^{*}-3}S^{2^{*}}\right)^{\frac{1}{2(2^{*}-2)}}\triangleq \rho.$ 因此, $\max\limits_{t>0} g(t)=g(\rho)>0.$ 取 $\Lambda_{1}=\frac{g(\rho)}{2|h|_{\frac{2^{*}}{2^{*}-1}}}S^{\frac{1}{2}}$, 容易得到对任意的 $\lambda\in(0,\Lambda_{1})$, 都有 $I|_{u\in\partial\bar B_{\rho}(0)}\geq{\frac{g(\rho)}{2}\rho}>0$.

对 $\forall u\in H\backslash\{0\}$ 且 $u\geq0$, 有

因此, 对任意的 $u\in H\backslash\{0\}$ 且 $u\geq0$. 当 $t>0$ 充分小时, $I(tu)<0.$ 从而$m\triangleq\inf\limits_{u\in\bar B_{\rho}(0)}I(u)<0$.

对于 $u\in H\backslash\{0\}$, 当 $t\rightarrow +\infty$ 时, 我们有

因此, 可以找到足够大的 $t_{0}>0$ 使得当 $e=\|t_{0}u\|>\rho$ 时, 有 $I(e)<0$. 引理 2.2 证毕.

定义2.1 假设 $I \in C^{1}(H, \mathbb{R}),$$c\in \mathbb{R}$ 是一个常数. 若存在序列 $\{u_{n}\}\subset H$, 当 $n\rightarrow\infty$ 时满足 $I(u_{n})\rightarrow c$ 且 $I'(u_{n})\rightarrow0$, 则称序列 $\{u_{n}\}$ 为泛函 $I$ 在空间 $H$ 上的 $(PS)_{c}$ 序列. 若空间 $H$ 中的任意 $(PS)_{c}$ 序列都有一个强收敛子列, 则称泛函 $I$ 在空间 $H$ 上满足局部 $(PS)_{c}$ 条件.

假设2.3 假设 $h\in L^\frac{2^{*}}{2^{*}-1}(\Omega)$ 是一个非零非负函数, 则泛函 $I$ 满足局部 $(PS)_{c}$ 条件, 其中 $c<\frac{2}{N+2}S^{\frac{N}{2}}-D\lambda^{2}, D=\frac{(N+6)^2}{32(N+2)}S^{-1}|h|_{\frac{2^{*}}{2^{*}-1}}^2$.

证 设 $\{u_{n}\}\subset H$ 为能量泛函 $I$ 对应的局部 $(PS)_{c}$ 序列, 即当 $n\rightarrow +\infty$ 时有

首先, 证明 $\{u_{n}\}$ 在 $H$ 上有界. 由 (2.2)-(2.4) 式、Hölder 不等式以及 Sobolev 不等式, 可得

这蕴含着: $\{u_{n}\}$ 在 $H$ 上有界. 从而存在子列 (不妨仍记为 $\{u_{n}\}$) 和 $u\in H$ 满足: 当 $n\rightarrow +\infty$ 时, 有

利用 (2.6) 式中的弱收敛, 可得

令 $v_{n}=u_{n}-u$, 则 $v_{n}\rightharpoonup 0$. 由 Brézis-Lieb 引理 (见文献 [8]), 有

利用引理 2.1 和 (2.6) 式, 可得

利用 (2.4) 式以及 (2.7)-(2.9) 式, 可推出

从而, 我们可得

再由 (2.4) 式得: $I'(u)\rightarrow 0$, 有 $\forall v\in H, \langle I'(u),v\rangle\rightarrow 0.$ 从而, 当 $n\rightarrow+\infty$ 时, 有 $\langle I'(u),v\rangle=0.$ 然后取 $v=u$, 则有 $\langle I'(u),u\rangle=0.$ 进一步, 再次利用 (2.4) 式和 (2.7)-(2.9) 式, 有

即

令 $\|v_{n}\|^{2}\rightarrow l^{2}$, $\int_{\Omega}\phi_{v_{n}}(v^{+}_{n})^{2^{*}-1}{\rm d}x\rightarrow l^{2}$. 注意到

由 (2.11) 式, 有 $l=0$ 或 $l^{2}\geq S^{\frac{2^{*}}{2^{*}-2}}=S^{\frac{N}{2}}$. 如果 $l=0$, 证明完成. 假设 $l^{2}\geq S^{\frac{N}{2}}$. 一方面, 由 (2.10) 式可得

另一方面, 利用 Sobolev 不等式和 Young 不等式, 有

这与 (2.12) 式矛盾, 故 $l^{2}\geq S^{\frac{N}{2}}$ 不成立. 从而可以推出在 $H$ 中有 $u_{n}\rightarrow u.$ 引理 2.3 证毕.

接下来, 我们需要估计山路水平值. 结合引理 2.1, 有

其中 $J(u)=\frac{1}{2}\|u\|^{2}-\frac{1}{2^{*}}\int_{\Omega}(u^{+})^{2^{*}}{\rm d}x -\lambda\frac{N+2}{2N}\int_{\Omega}h(x)u{\rm d}x$.

为此, 考虑如下问题

则问题 (2.13) 的解与能量泛函 $J$ 在 $H$ 上的临界点一一对应. 结合文献 [3,9], 我们有如下命题.

命题2.1 假设 $h\in L^{\frac{2^*}{2^*-1}}(\Omega)$ 是一个非零非负函数, 存在 $\Lambda_{2}>0$, 使得对每一个 $\lambda\in(0,\Lambda_{2})$, 问题 (2.13) 有一个正解 $v_{0}\in B_{\rho}(0)$ 且 $J(v_{0})<0$, 其中 $\rho$ 为引理 2.2 中所定义. 进一步可得, 存在两个正数 $m, M$ 使得 $m\leq v_{0}\leq M.$

引理2.4 假设 $h\in L^{\frac{2^{2^{*}}}{2^{*}-1}}(\Omega)$ 是一个非零非负函数, 则存在 $\Lambda_{3}>0$ 以及 $u_{\varepsilon}\in H$ 使得对任意的 $0<\lambda<\Lambda_{3}$, 有

即有

其中 $D$ 为引理 2.3 中所定义.

证 众所周知, 函数 $U_{\varepsilon}(x)=\frac{\left(N(N-2)\varepsilon^{2}\right)^{\frac{N-2}{4}}}{\left(\varepsilon^{2}+|x|^{2}\right)^{\frac{N-2}{2}}}$ 是方程 $-\Delta u=u^{2^{*}-1}$ 在空间 $\mathbb{R}^{N}\backslash\{0\}$ 的解. 定义截断函数 $\phi\in C^{\infty}_{0}(\Omega)$ 满足

令 $u_{\varepsilon}(x)=\phi(x)U_{\varepsilon}(x)$, 根据文献 [10], 当 $\varepsilon\rightarrow 0^{+}$ 时, 有

且

定义

对 $g(t)$ 求导可得

令 $g'(t)=0$, 解得

当 $0<t<T_{\varepsilon}$ 时, $g'(t)>0;$ 当 $t>T_{\varepsilon}$ 时, $g'(t)<0$. 因而 $\max\limits_{t\geq0}g(t)=g(T_{\varepsilon}).$ 结合 (2.14) 式, 有

对任意的 $a,b\geq0$, 则

假设 $v_{0}$ 为方程 (2.13) 的一个正解, 结合 (2.17) 式和命题 2.1, 可得

由于 $\displaystyle\lim_{t\rightarrow\infty}h(t)=-\infty$ 和 $h(0)=0$, 以及 $h(t)$ 具有山路几何结构, 则存在两个不依赖于 $\varepsilon$ 的常数 $t_{1},t_{2}>0$, 使得 $0<t_{1}\leq t_{\varepsilon}\leq t_{2}<+\infty$ 且

由 $\int_{\Omega}u^{2^{*}-1}_{\varepsilon}{\rm d}x=O(\varepsilon^{\frac{N-2}{2}})$, 推出

让 $\lambda=\varepsilon^{\frac{N-2}{2}}, 0<\lambda<\Lambda_{3}=\frac{C_{10}}{C_{9}+\frac{N+2}{2N}D},$ 有

即有

其中 $D$ 为引理 2.3 中所定义. 结合 $I(u)=\frac{2N}{N+2}J(u)$, 进一步可得

故, 引理 2.4 证毕.

下面我们给出定理 1.1 的证明.

定理 1.1 的证明 首先, 证明问题 (2.1) 存在一个负能量的局部极小解. 取 $\lambda<\left(\frac{2}{(N+2)D}S^{\frac{N}{2}}\right)^{\frac{1}{2}}$ 使得 $\frac{2}{N+2}S^{\frac{N}{2}}-D\lambda^{2}>0$. 记

令 $0<\lambda<\Lambda.$ 结合引理 2.2, 存在一个极小化序列 $\{u_{n}\}\subset\overline{ B_{\rho}(0)}$ 使得 $\displaystyle\lim_{n\rightarrow\infty}I(u_{n})=m.$ 根据文献 [11], 存在 $\{u_{n}\}$ 的子序列(仍记为 $\{u_{n}\}$)为 $(PS)_{m}$ 序列, 即有 $I'(u_{n})\rightarrow0$ 且 $I(u_{n})\rightarrow m.$ 再应用引理 2.3, 可得 $\{u_{n}\}\subset H$ 有强收敛子列 (仍记为 $\{u_{n}\}$) 并且存在 $u^{*}\in H$ 在 $H$ 中满足 ${u_{n}\rightarrow u^{*}}.$ 从而有 $m=\lim\limits_{n\rightarrow\infty}I(u_{n})=I(u^{*})<0,$ 从而 $u^{*}$ 为问题 (2.1) 的非平凡弱解. 由 $\langle I'(u^{*}),(u^{*})^{-}\rangle=0$, 有 $(u^{*})^{-}=0.$ 因此, $u^{*}\geq0$. 再利用强极值原理, 在 $H$ 中有 $u^{*}>0.$ 因此, $u^{*}$ 为问题 (2.1) 的正解, 即 $(u^{*},\phi_{u^{*}})$ 为系统 (1.1) 的正解.

其次, 证明问题 (2.1) 存在一个正能量的山路解. 对任意的 $\lambda\in(0,\Lambda),$ 根据引理 2.2, 运用山路定理, 存在一个序列 $\{u_{n}\}\subset H$ 满足

其中

这里 $T_{0}>0$ 为常数, 使得 $\|T_{0}u_{\varepsilon}\|>\rho$, $\rho$ 为引理 2.2 中所定义. 结合引理 2.3, $\{u_{n}\}\subset H$ 有强收敛子列 (仍记为 $\{u_{n}\}$), 并且存在 $u^{**}\in H$ 使得在 $H$ 中满足 $u_{n}\rightarrow u^{**}.$ 从而 $u^{**}$ 为问题 (2.1) 的非平凡弱解, 且满足 $I(u^{**})=\lim\limits_{n\rightarrow\infty}I(u_{n})=c>0.$ 类似于 $u^{*}$ 的证明, 可证得 ${u^{**}}$ 为问题 (2.1) 的正解, 即 $(u^{**},\phi_{u^{**}})$ 为系统 (1.1) 的正解. 定理 1.1 得证.