Processing math: 2%

数学物理学报, 2022, 42(6): 1682-1704 doi:

论文

分数阶临界Choquard方程的多解

陈琳,, 刘范琴,

江西师范大学数学与统计学院, 南昌 330022

Multiplicity of Solutions to Fractional Critical Choquard Equation

Chen Lin,, Liu Fanqin,

School of Mathematics and Statistics, Jiangxi Normal University, Nanchang 330022

通讯作者: 刘范琴, E-mail: fanqliu@163.com

收稿日期: 2021-12-3  

Received: 2021-12-3  

作者简介 About authors

陈琳,E-mail:chenlinshutong@jxnu.edu.cn , E-mail:chenlinshutong@jxnu.edu.cn

Abstract

In this paper, we are concerned with the multiplicity of solutions for the following fractional Laplacian problem

{(Δ)su=λ|u|q2u+(Ω|u(y)|2μ,s|xy|μdy)|u|2μ,s2u,xΩ,u=0,xRNΩ
where ΩRN is an open bounded set with continuous boundary, N>2s with s(0,1), λ is a real parameter, μ(0,N) and q[2,2s), where s=2NN2s, μ,s=2NμN2s. Using Lusternik-Schnirelman theory, there exists ˉλ>0 such that for any λ(0,ˉλ), the problem has at least catΩ(Ω) nontrivial solutions provided that q=2 and N4s or q(2,2s) and N>2s(q+2)q.

Keywords: Choquard equation ; Critical exponent ; Lusternik-Schnirelman theory

PDF (411KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

陈琳, 刘范琴. 分数阶临界Choquard方程的多解. 数学物理学报[J], 2022, 42(6): 1682-1704 doi:

Chen Lin, Liu Fanqin. Multiplicity of Solutions to Fractional Critical Choquard Equation. Acta Mathematica Scientia[J], 2022, 42(6): 1682-1704 doi:

1 引言

本文研究分数阶Choquard方程

{(Δ)su=λ|u|q2u+(Ω|u(y)|2μ,s|xy|μdy)|u|2μ,s2u,xΩ,u=0,xRNΩ
(1.1)

多解的存在性, 其中ΩRN是具有光滑边界的有界开集, N>2s, s(0,1), 0<μ<N, λ是正实参数, q[2,2s), 2s=2NN2s是分数阶临界Sobolev指数. 分数阶Laplace算子(Δ)s定义为

(Δ)su(x)=C(N,s)lim

关于Choquard方程的研究, 最早开始于1954年物理学家Pekar[30]为了研究极化子在静止时的量子理论而提出的, 同时Choquard在研究等离子体物理中也提出了同样的问题. 此后, 关于非线性Choquard方程解的存在性和解的性质研究得到了广泛关注, 相关的文献见[11, 1519, 21, 2427]. 特别地, 对于分数阶算子的Choquard方程, 当 q=2 时, 文献[28] 研究了问题(1.1) 解的存在性, 更多分数阶方程的结果见文献[23, 33, 34].

我们将研究解的存在性与区域拓扑的关系. 在文献[12]中, Coron研究了方程

\begin{equation} \left\{\begin{array}{ll} -{\Delta}u+{\lambda}u=u^{p-1}, {\quad} &x\in{\Omega}, \\ u>0, &x\in{\Omega}, \\ u=0, &x\in{\partial}\Omega \end{array}\right. \end{equation}
(1.2)

解的存在性与区域 \Omega 拓扑的关系, 其中 \Omega 是有界光滑区域, N\geq3 , 2<p<2^{\ast}=\frac{2N}{N-2} , \lambda\in {{\Bbb R}} ^{+} . \lambda=0 , p=2^{\ast} , N\geq3 时, 如果 \Omega 是不可压缩的, 则问题(1.2)具有一个正解, 更一般的结果见文献[4].

对于临界和逼近临界的问题(1.2), 利用Lusternik-Schnirelman定理[22], 在文献[5, 6, 31, 35]中, 作者证明了问题(1.2) 至少有 {\rm cat}_{\Omega}(\Omega) 个正解, 而在外区域 \Omega 上, 文献[910]得到了类似的结果.

对于Choquard方程

\begin{equation} \left\{\begin{array}{ll} { } -\Delta{u}=\lambda|u|^{q-2}{u}+\bigg(\int_\Omega\frac{|u(y)|^{p}}{|x-y|^\mu}{\rm d}y\bigg)|u|^{p-2}u, {\quad} & x\in\Omega, \\ {u=0}, &x\in{{{\Bbb R}} ^N}\setminus\Omega, \end{array}\right. \end{equation}
(1.3)

其中 \Omega\subset{{\Bbb R}} ^N 是光滑有界域, Goel[17]证明了存在 0<\Lambda^{\ast} , 当 p={2^\ast_{\mu}}=\frac{2N-\mu}{N-2} , \lambda\in(0, \Lambda^{\ast}) , q\in[2, 2^{\ast}) , N>3 4<q<6 , N=3 时, 问题(1.3)至少有 {\rm cat}_{\Omega}(\Omega) 个正解. Ghimenti和Pagliardini[16]也对 p=2^\ast_{\mu}-\varepsilon , \lambda\geq0 , q=2 , \Omega\subset{{\Bbb R}} ^N 是光滑有界域时进行研究, 他们证明了存在 \bar{\varepsilon}>0 , 当 \varepsilon\in(0, \bar{\varepsilon}] 时, 方程(1.3) 有 {\rm cat}_{\Omega}(\Omega) 个正解.

Figueiredo等[13]研究了关于临界分数阶类问题(1.2)

\begin{equation} \left\{\begin{array}{ll} -{\Delta}^{s}u=\mu u^{q-2}u+|u|^{2^{\ast}_{s}-2}u, {\quad} &x\in{\Omega}, \\ u=0, & x\in{{{\Bbb R}} ^N}\setminus\Omega, \end{array}\right. \end{equation}
(1.4)

其中 \Omega\subset{{\Bbb R}} ^N 是光滑有界域, N>2s , s\in(0, 1) , \mu 是正的实参数, q\in[2, 2^{\ast}_{s}) , 当 \mu\in(0, \tilde{\mu}) 时, 问题(1.4)在条件 q=2 , N\geq4s q\in(2, 2^{\ast}_{s}) , N>\frac{2s(q+2)}{q} 下有至少 {\rm cat}_{\Omega}(\Omega) 个非平凡解.

更多关于多解问题的研究, 可见文献[1, 2, 7, 36]等.

本文首先证明问题(1.1)基态解的存在性, 即能量极小解的存在性.

定理1.1  假设 s\in(0, 1) , N>2s . q\in(2, 2^{\ast}_{s}) 时, 进一步假设 \lambda>0 , N>\frac{2s(q+2)}{q} , 而当 q=2 时, 假设 \lambda\in(0, \lambda_{1, s}) , N\geq 4s , 则问题(1.1)至少有一个非负基态解.

定理1.1的证明, 主要在于验证 (PS)_{c} 条件. 利用基态解的存在, 我们得到以下主要结果.

定理1.2  设 s\in(0, 1) , N>2s , q\in[2, 2^\ast_s) , \Omega\subset {{\Bbb R}} ^N 是具有光滑边界的有界域. 当 q\in(2, 2^{\ast}_{s}) , \lambda>0 , N>\frac{2s(q+2)}{q} q=2 , \lambda\in(0, \lambda_{1, s}) , N\geq 4s 时, 则存在 \bar{\lambda}>0 , 对 \lambda\in(0, \bar{\lambda}) , 问题(1.1)至少有 {\rm cat}_{\Omega}(\Omega) 个非平凡解.

定理1.2的证明主要在Nehari流形上应用Lusternik-Schnirelman定理, 通过文献[3, 14, 29]中的集中紧引理和重心函数 \beta(u_{n})\in\Omega^{+}_{r} , 建立Nehari流形上的水平集与 \Omega 之间的联系, 最后得到泛函有 {\rm cat}_{\Omega}(\Omega) 个临界点. 我们遇到的困难主要有以下几点: 首先是临界情形下的紧性缺失问题, 其次便是对能量泛函的估计, 最后是建立区域拓扑与解个数的关系.

本文的结构如下: 在第2节中介绍了一些基本定义, 性质和引理, 然后给出了几个重要引理的证明.第3节主要是证明当能量压到某个值以下, 限制在Nehari流形上的泛函满足 (PS)_{c} 条件, 并且求出了这个值为 (\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} . 做好了这些准备工作, 在第4节中利用集中紧引理, 通过重心函数 \beta(u_{n})\in\Omega^{+}_{r} , 将区域 \Omega 与Nehari流形上的水平集联系到一起, 再利用Lusternik-Schnirelman畴数定理得出限制在Nehari流形上的泛函有 {\rm cat}_{\Omega}(\Omega) 个临界点.

2 预备知识

首先, 我们定义函数空间

{X}_{\, 0}^{\, s}{(\Omega)}=\{u\in{{H}}^{\, s}{({{\Bbb R}} ^N)}:u=0\ \ {\rm a.e.}\ \ {{{\Bbb R}} ^N}\setminus\Omega\},

其对偶空间记为 {X}_{\, 0}^{'s}(\Omega) , 空间上的范数为

\| u \| _{{X}_{\, 0}^{\, s}(\Omega)}= \bigg(\int_{{{\Bbb R}} ^{N}\times{{\Bbb R}} ^{N}}\frac{|u(x)-u(y)|^{2}}{|x-y|^{N+2s}}{\rm d}x{\rm d}y\bigg)^{\frac{1}{2}}.

为了用变分法研究问题(1.1), 我们需要以下Hardy-Littlewood-Sobolev不等式.

命题2.1[20]  设 t, r>1 0<\mu<N , \frac{1}{t}+\frac{\mu}{N}+\frac{1}{r}=2 , f\in L^{t}({{{\Bbb R}} }^N) , h\in L^{r}({{{\Bbb R}} }^N) . 则存在与 f, h 无关的常数 C(t, r, \mu, N) , 使得

\begin{equation} \int_{{{\Bbb R}} ^{N}}\int_{{{\Bbb R}} ^{N}}\frac{f(x)h(y)}{|x-y|^\mu}{\rm d}x{\rm d}y\leq C(t, r, \mu, N)|f|_{L^t} |h|_{L^r}. \end{equation}
(2.1)

t=r=\frac{2N}{2N-\mu} , 则

C(t, r, \mu, N)=C(N, \mu)=\pi^{\frac{\mu}{2}}\frac{\Gamma(\frac{N}{2}-\frac{\mu}{2})}{\Gamma(N-\frac{\mu}{2})} \bigg\{\frac{\Gamma(\frac{N}{2})}{\Gamma(N)}\bigg\}^{-1+\frac{\mu}{N}}.

(2.1)式中等式成立当且仅当 f\equiv Ch

h(x)=A(\gamma^2 +|x-a|^{2})^{\frac{-(2N-\mu)}{2}},

其中 A\in {\Bbb C} , 0\neq \gamma \in {{\Bbb R}} , a\in {{\Bbb R}} ^N .

我们知道 {X}_{\, 0}^{\, s}{(\Omega)} 嵌入到 L^{2^{\ast}_s}({{\Bbb R}} ^N) 的最佳常数定义为

S_{s}=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}}\frac{\int_{{{\Bbb R}} ^N \times {{\Bbb R}} ^N} \frac{|u(x)-u(y)|^{2}}{|x-y|^{N+2s}}{\rm d}x{\rm d}y}{(\int_{{{\Bbb R}} ^N} |u(x)|^{2^{\ast}_s}{{\rm d}x})^{\frac{2}{2^{\ast}_s}}}.

同样地, 我们定义

\begin{equation} S_{s}^{H}=S_{s}^{H}({{\Bbb R}} ^N)=\inf\limits_{{H}^{\, s}{({{\Bbb R}} ^N)}\setminus\{0\}}\frac{\int_{{{\Bbb R}} ^N \times {{\Bbb R}} ^N} \frac{|u(x)-u(y)|^{2}}{|x-y|^{N+2s}}{\rm d}x{\rm d}y}{(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y})^{\frac{1}{2^{\ast}_{\mu, s}}}} \end{equation}
(2.2)

\begin{equation} S_{s}^{H}(\Omega)=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}}\frac{\int_{{{\Bbb R}} ^N \times {{\Bbb R}} ^N} \frac{|u(x)-u(y)|^{2}}{|x-y|^{N+2s}}{\rm d}x{\rm d}y}{(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y})^{\frac{1}{2^{\ast}_{\mu, s}}}}. \end{equation}
(2.3)

根据文献[28, 引理2.2]可知 S_{s}^{H}(\Omega)=S_{s}^{H} S_{s}^{H}(\Omega) 不可达除非 \Omega={{\Bbb R}} ^N .

引理2.1[15]  由(2.2)式定义的常数 S_{s}^{H} 是可达的当且仅当

u=C\Big(\frac{t}{t^{2}+|x-x_{0}|^{2}}\Big)^{\frac{N-2s}{2}},

其中 x \in {{\Bbb R}} ^N , x_{0}\in {{\Bbb R}} ^N , C>0 , t>0 , 并且有 S_{s}^{H}=\frac{S_{s}}{C(N, \mu)^{\frac{1}{2^{\ast}_{\mu, s}}}} .

引理2.2[28]  令

{\| u \|}_{0}:= \bigg(\int_{\Omega}\int_{\Omega} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y} \bigg)^{\frac{1}{22^{\ast}_{\mu, s}}}.

{\|{\cdot}\|}_{0} 是定义于 Y_{0}:=\{u:{\Omega}{\rightarrow }{{\Bbb R}} :u\ \mbox{是可测的}, \ {\|}{\cdot}{\|}_{0}< + \infty\} 上的范数.

与方程(1.1)对应的能量泛函为

I_{\lambda, \Omega}(u):=\frac{1}{2}{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{q}\int_{\Omega}|u|^{q}{\rm d}x-\frac{1}{22^{\ast}_{\mu, s}}\int_{\Omega}\int_{\Omega} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}.

{\cal N}_{\lambda, \Omega} 是与 I_{\lambda, \Omega} 有关的Nehari流形, 则

{\cal N}_{\lambda, \Omega}=\{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}:\langle{I_{\lambda, \Omega}^{\prime}(u), u}\rangle=0\},

其中 \langle{I_{\lambda, \Omega}^{\prime}(u), u}\rangle={\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda|u|^{q}_{L^{q}(\Omega)}-{\| u \|}_{0}^{22^{\ast}_{\mu, s}}.

根据Hardy-Littlewood-Sobolev不等式(2.1), 可以得到

\begin{eqnarray*} \bigg(\int_{\Omega}\int_{\Omega} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y} \bigg)\leq C(N, \mu)|u|^{22^{\ast}_{\mu, s}}_{2^{\ast}_{s}}, \end{eqnarray*}

由此可以证明 I_{\lambda, \Omega}\in C^{1}({X}_{\, 0}^{\, s}) . 我们知道 I_{\lambda, \Omega} 的临界点就是问题(1.1) 的弱解. 最后, 在文献[32]中证明了在齐次Dirichlet边界条件下

\begin{eqnarray*} \lambda_{1, s}=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}}\frac{\int_{{{\Bbb R}} ^N \times {{\Bbb R}} ^N} \frac{|u(x)-u(y)|^{2}}{|x-y|^{N+2s}}{\rm d}x{\rm d}y}{\int_{{{\Bbb R}} ^N} |u(x)|^{2}{\rm d}x}>0 \end{eqnarray*}

(-\Delta)^{s} 的第一特征值.

引理2.3  若 \lambda\in(0, \lambda_{1, s}) , 则能量泛函 I_{\lambda, \Omega} 满足以下性质

(i) 存在 \beta, \rho>0 , 使得当 \| u \| _{{X}_{\, 0}^{\, s}(\Omega)}=\rho 时, I_{\lambda, \Omega}\geq \beta .

(ii) 存在 e\in{X}_{\, 0}^{\, s}{(\Omega)} , 当 \| e \| _{{X}_{\, 0}^{\, s}(\Omega)}>{\rho} 时, 有 I_{\lambda, \Omega}(e)<0 .

  (i)  由Hölder不等式, Sobolev嵌入以及Hardy-Littlewood-Sobolev不等式, 可得

\begin{eqnarray*} I_{\lambda, \Omega}(u)\geq\left\{\begin{array}{ll} { } \frac{1}{2}(1-\frac{\lambda}{\lambda_{1, s}}){\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{(S^{H}_{s})^{-1}}{22^{\ast}_{\mu, s}}{\| u \| }^{22^{\ast}_{\mu, s}} _{{X}_{\, 0}^{\, s}(\Omega)}, \quad &\mbox{若}\ q=2, \\ { } \frac{1}{2}{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda|\Omega|^{\frac{2^{\ast}_{s}-q}{2^{\ast}_{s}}}}{qS_{s}^{\frac{q}{2}}}{\| u \| }^{q} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{(S^{H}_{s})^{-1}}{22^{\ast}_{\mu, s}}{\| u \| }^{22^{\ast}_{\mu, s}} _{{X}_{\, 0}^{\, s}(\Omega)}, &\mbox{若}\ q\in(2, 2^{\ast}_{s}). \end{array}\right. \end{eqnarray*}

因此, 根据 \lambda\in(0, \lambda_{1, s}) , 2<22^{\ast}_{\mu, s} , 可以选择 \beta, \rho>0 , 使当 \| u \| _{{X}_{\, 0}^{\, s}(\Omega)}=\rho 时, I_{\lambda, \Omega}\geq \beta .

(ii)   设 u \in {X}_{\, 0}^{\, s}(\Omega) , 则当 t\rightarrow {\infty} 时, 有

\begin{eqnarray*} I_{\lambda, \Omega}(tu)=\frac{t^{2}}{2}{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda t^{q}}{q}\int_{\Omega}|u|^{q}{\rm d}x-\frac{t^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}\int_{\Omega}\int_{\Omega} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y} \end{eqnarray*}

趋于 -\infty . 所以, 可以选取 t_{0}>0 , 使得 e:=t_{0}u , 当 \| e \| _{{X}_{\, 0}^{\, s}(\Omega)}>{\rho} 时, 有 I_{\lambda, \Omega}(e)<0 . 证毕.

引理2.4  若 u_{0} I_{\lambda, \Omega} {\cal N}_{\lambda, \Omega} 上的临界点, 则 u_{0} 也是 I_{\lambda, \Omega} {X}_{\, 0}^{\, s}(\Omega) 上的临界点.

  令 J_{\lambda, \Omega}(u)=\langle{I_{\lambda, \Omega}^{\prime}(u), u}\rangle , 对任意的 u\in{\cal N}_{\lambda, \Omega} , 有 J_{\lambda, \Omega}^{\prime}(u)\neq0 , 因此根据文献[35]可知 {\cal N}_{\lambda, \Omega} 是一个 C^{1} 流形. 若 u_{0} I_{\lambda, \Omega} {\cal N}_{\lambda, \Omega} 上的临界点, 则有 \langle{I_{\lambda, \Omega}^{\prime}(u_{0}), u_{0}}\rangle=0 . 由文献[35], 存在 \theta\in{{\Bbb R}} , 使得 I_{\lambda, \Omega}^{\prime}(u_{0})=\theta J_{\lambda, \Omega}^{\prime}(u_{0}) , 其中

J_{\lambda, \Omega}(u_{0})={\| u_{0} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda|u_{0}|^{q}_{L^{q}(\Omega)}-{\| u_{0} \|}_{0}^{22^{\ast}_{\mu, s}}.

又因为

\langle{J_{\lambda, \Omega}^{\prime}(u_{0}), u_{0}}\rangle=(2\lambda-q\lambda)|u_{0}|^{q}_{L^{q}(\Omega)}+(2-22^{\ast}_{\mu, s}){\| u_{0}\|}_{0}^{22^{\ast}_{\mu, s}}<0.

所以由 I_{\lambda, \Omega}^{\prime}(u_{0})=\theta J_{\lambda, \Omega}^{\prime}(u_{0}) , 可得

0=\theta \langle{J_{\lambda, \Omega}^{\prime}(u_{0}), u_{0}}\rangle.

因此可以推断出 \theta=0 , 即有 I_{\lambda, \Omega}^{\prime}(u_{0})=0 . 证毕.

引理2.5  若 \lambda>0 , 则 {\cal N}_{\lambda, \Omega}\neq\emptyset I_{\lambda, \Omega} {\cal N}_{\lambda, \Omega} 上有下界.

  令 u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\} , 考虑函数

\begin{eqnarray*} f(t)=I_{\lambda, \Omega}(tu)=\frac{t^{2}}{2}{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda t^{q}}{q}\int_{\Omega}|u|^{q}{\rm d}x-\frac{t^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}{\| u \|}_{0}^{22^{\ast}_{\mu, s}}. \end{eqnarray*}

f(0)=0 , 当 t\rightarrow \infty 时, f(t)\rightarrow {-\infty} .

接下来我们证明存在唯一的 t_{0}>0 , 使得 f^{\prime}(t_{0})=0 . 因为

\begin{eqnarray*} f^{\prime}(t)&=&t{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda t^{q-1}\int_{\Omega}|u|^{q}{\rm d}x-t^{22^{\ast}_{\mu, s}-1}{\| u \|}_{0}^{22^{\ast}_{\mu, s}}\\ &=&t\bigg({\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda t^{q-2}\int_{\Omega}|u|^{q}{\rm d}x-t^{22^{\ast}_{\mu, s}-2}{\| u \|}_{0}^{22^{\ast}_{\mu, s}}\bigg). \end{eqnarray*}

k(t)=\lambda t^{q-2}\int_{\Omega}|u|^{q}{\rm d}x+t^{22^{\ast}_{\mu, s}-2}{\| u \|}_{0}^{22^{\ast}_{\mu, s}},

由于 k(t) 关于 t>0 是连续的, 且当 t\rightarrow \infty 时, k(t)\rightarrow {+}\infty , k^{\prime}(t)>0 , 因此, 存在唯一的 t_{0}>0 , 使得 k(t_{0})={\| u \| }^{2} _{{X}_{\, 0}^{\, s}} , 即 f^{\prime}(t_{0})=0 . 所以 t_{0}f^{\prime}(t_{0})=0 , t_{0}u\in{\cal N}_{\lambda, \Omega} , 即 {\cal N}_{\lambda, \Omega}\neq\emptyset . u\in{\cal N}_{\lambda, \Omega} ,

\begin{eqnarray*} {\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}=\lambda\int_{\Omega}|u|^{q}{\rm d}x+{\| u \|}_{0}^{22^{\ast}_{\mu, s}} \leq C\lambda{\| u \| }^{q}_{{X}_{\, 0}^{\, s}(\Omega)}+C{\| u \| }^{22^{\ast}_{\mu, s}}_{{X}_{\, 0}^{\, s}(\Omega)}, \end{eqnarray*}

因此 {\| u \| } _{{X}_{\, 0}^{\, s}(\Omega)} 具有一致的正下界. 则由

\begin{eqnarray*} I_{\lambda, \Omega}(u)=(\frac{1}{2}-\frac{1}{q})\lambda\int_{\Omega}|u|^{q}{\rm d}x+(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}}){\| u \|}_{0}^{22^{\ast}_{\mu, s}}>0. \end{eqnarray*}

可得, \inf\limits_{u\in{\cal N}_{\lambda, \Omega}}I_{\lambda, \Omega}(u)>0 . 也就是说 I_{\lambda, \Omega} {\cal N}_{\lambda, \Omega} 上有下界. 证毕.

3 (PS)_{c} 条件

在本节中, 我们将给出 (PS)_{c} 条件的证明以及 I_{\lambda, \Omega} 在Nehari流形上的极小达到函数的存在性. 我们定义

\begin{eqnarray*} m_{\lambda}:=\inf\limits_{{\cal N}_{\lambda, \Omega}}I_{\lambda, \Omega}(u), \quad\quad c_{\lambda}:=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}} \max\limits_ {t\geq 0}I_{\lambda, \Omega}(tu). \end{eqnarray*}

引理3.1  设 N>2s , s\in(0, 1) , \lambda\in(0, \lambda_{1, s}) , q\in[2, 2^\ast_s) , 若 c<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} , 则 I_{\lambda, \Omega} 满足 (PS)_{c} 条件.

  设 \{u_{n}\}_{n\in {\Bbb N}} {X}_{\, 0}^{\, s}(\Omega) 上的 (PS)_{c} 列, 则当 q\in(2, 2^{\ast}_{s}) 时,

\begin{eqnarray*} c+1+{\| u_{n} \| } _{{X}_{\, 0}^{\, s}(\Omega)}&\geq &I_{\lambda, \Omega}(u_{n})-\frac{1}{q}\langle{I_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle\\ &=&(\frac{1}{2}-\frac{1}{q}){\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+(\frac{1}{q}-\frac{1}{22^{\ast}_{\mu, s}}){\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\geq&(\frac{1}{2}-\frac{1}{q}){\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}, \end{eqnarray*}

因此 {\| u_{n} \| }_{{X}_{\, 0}^{\, s}(\Omega)} 有界.

q=2 时,

\begin{eqnarray*} c+1+{\| u_{n} \| } _{{X}_{\, 0}^{\, s}(\Omega)}&\geq& I_{\lambda, \Omega}(u_{n})-\frac{1}{22^{\ast}_{\mu, s}}\langle{I_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle\\ &=&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}}){\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+(\frac{1}{22^{\ast}_{\mu, s}}-\frac{1}{2})\lambda\int_{\Omega}|u_{n}|^{2}{\rm d}x\\ &\geq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(1-\frac{\lambda}{\lambda_{1, s}}){\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}, \end{eqnarray*}

因此 {\| u_{n} \| }_{{X}_{\, 0}^{\, s}(\Omega)} 有界.

由于 {X}_{\, 0}^{\, s}(\Omega) 是自反的, 所以存在子列仍记为 \{u_{n}\} , 以及 u_{0}\in{X}_{\, 0}^{\, s}(\Omega) , 使得当 n\rightarrow {\infty} 时,

u_{n}\rightharpoonup u_{0}\quad {X}_{\, 0}^{\, s}(\Omega), \quad u_{n}\rightarrow u_{0}\quad L^{r}(\Omega), \ \mbox{其中}\ r\in[1, 2^{\ast}_{s}), \quad u_{n}\rightarrow u_{0}\quad {\rm a.e.} \ \Omega.

并且对任意的 \varphi\in{X}_{\, 0}^{\, s}(\Omega) , 有

\langle{I_{\lambda, \Omega}^{\prime}(u_{n}), \varphi}\rangle\rightarrow \langle{I_{\lambda, \Omega}^{\prime}(u_{0}), \varphi}\rangle=0,

I_{\lambda, \Omega}^{\prime}(u_{0})=0 .

接下来令 v_{n}:=u_{n}-u_{0} . 由Brezis-Lieb引理[8], 可得

{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}={\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+{\| u_{0} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+o(1),

再根据文献[28], 有

{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}={\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}+{\| u_{0} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1).

所以当 n\rightarrow {\infty} 时,

\begin{eqnarray*} \langle{I_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle&=&{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda\int_{\Omega}|u_{n}|^{q}{\rm d}x-{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &=&{\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+{\| u_{0} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda\int_{\Omega}|u_{0}|^{q}{\rm d}x-{\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}-{\| u_{0} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1)\\ &=&\langle{I_{\lambda, \Omega}^{\prime}(u_{0}), u_{0}}\rangle+{\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-{\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1). \end{eqnarray*}

又因为 I_{\lambda, \Omega}^{\prime}(u_{n})\rightarrow 0 , I_{\lambda, \Omega}^{\prime}(u_{0})=0 , 我们得到当 n\rightarrow {\infty} 时, {\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}={\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1). 假设 {\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}\rightarrow b , 则有 {\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\rightarrow b .

我们断言 b=0 . b\neq0 , 则由 S_{s}^{H} 的定义, 可得 {\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}\geq S_{s}^{H}{\| v_{n} \|}_{0}^{2}. 因此可得 b\geq S_{s}^{H}b^{\frac{1}{2^{\ast}_{\mu, s}}} , 即 b\geq(S_{s}^{H})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} 又因为当 n\rightarrow {\infty} 时,

\begin{eqnarray*} I_{\lambda, \Omega}(u_{n})&=&\frac{1}{2}{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{q}\int_{\Omega}|u_{n}|^{q}{\rm d}x-\frac{1}{22^{\ast}_{\mu, s}}{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &=&\frac{1}{2}{\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+\frac{1}{2}{\| u_{0} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{q}|u_{0}|^{q}_{L^{q}_{(\Omega)}}\\ &&-\frac{1}{22^{\ast}_{\mu, s}}{\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}-\frac{1}{22^{\ast}_{\mu, s}}{\| u_{0} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1)\\ &=&I_{\lambda, \Omega}(u_{0})+\frac{1}{2}{\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{1}{22^{\ast}_{\mu, s}}{\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1)\\ &\geq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})b \geq (\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S_{s}^{H})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}. \end{eqnarray*}

根据

(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}\leq I_{\lambda, \Omega}(u_{n})\leq c<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}

可得矛盾. 因此 b=0 , 即 (PS)_{c} 条件成立. 证毕.

引理3.2  设 N>2s , s\in(0, 1) , \lambda\in(0, \lambda_{1, s}) , q\in[2, 2^\ast_s) . c<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} , 则 I_{\lambda, \Omega} {\cal N}_{\lambda, \Omega} 上满足 (PS)_{c} 条件.

  设 u_{n}\in{\cal N}_{\lambda, \Omega} , 使得 I_{\lambda, \Omega}(u_{n})\rightarrow c . 由文献[35, 性质5.12] 可知存在一个序列 \{\theta_{n}\}\subset{{\Bbb R}} , 当 n\rightarrow {\infty} 时, {\| I_{\lambda, \Omega}^{\prime}(u_{n})-\theta_{n}J_{\lambda, \Omega}^{\prime}(u_{n}) \| }^{2} _{{X}_{\, 0}^{'s}(\Omega)}\rightarrow 0, 其中 J_{\lambda, \Omega}(u_{n})={\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda|u_{n}|^{q}_{L^{q}(\Omega)}-{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}. 因此有 I_{\lambda, \Omega}^{\prime}(u_{n})=\theta_{n}J_{\lambda, \Omega}^{\prime}(u_{n})+o(1). 又因为

\begin{eqnarray*} \langle{J_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle&=&2{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-q\lambda |u_{n}|^{q}_{L^{q}(\Omega)}-22^{\ast}_{\mu, s}{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &=&\lambda(2-q)|u_{n}|^{q}_{L^{q}(\Omega)}+(2-22^{\ast}_{\mu, s}){\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq& 0. \end{eqnarray*}

u_{n}\in{\cal N}_{\lambda, \Omega} 时,

\begin{eqnarray*} {\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}=\lambda\int_{\Omega}|u_{n}|^{q}{\rm d}x+{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}} \leq C\lambda{\| u_{n} \| }^{q}_{{X}_{\, 0}^{\, s}(\Omega)}+C{\| u_{n} \| }^{22^{\ast}_{\mu, s}}_{{X}_{\, 0}^{\, s}(\Omega)}, \end{eqnarray*}

因此存在 C^{\prime}>0 , {\| u_{n} \| }_{{X}_{\, 0}^{\, s}(\Omega)}\geq C^{\prime} . 所以设 \langle{J_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle\rightarrow l<0 . 又由 \langle{I_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle=0 , 可得当 n\rightarrow {\infty} 时, \theta_{n}\rightarrow 0 . 因此, I_{\lambda, \Omega}^{\prime}(u_{n})\rightarrow 0 , 即

\begin{eqnarray*} I_{\lambda, \Omega}(u_{n})\rightarrow c<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}, \quad \quad I_{\lambda, \Omega}^{\prime}(u_{n})\rightarrow 0. \end{eqnarray*}

由引理3.1可知 (PS)_{c} 条件成立. 证毕.

不失一般性, 我们假设 0\in\Omega , 固定 \delta>0 使得 B_{4\delta}(0)\subset\Omega . 再定义 \eta\in C^{\infty}_{c}({{\Bbb R}} ^{N}) 使得在 {{\Bbb R}} ^{N} 上, 0\leq\eta\leq1 , 在 B_{\delta}(0) 上, \eta\equiv1 , 在 {{\Bbb R}} ^{N}\setminus B_{2\delta}(0) 上, \eta\equiv0 |\nabla\eta|<C .

定义函数族

U_{\varepsilon}(x)=\varepsilon^{-\frac{(N-2s)}{2}}(\frac{u^{\ast}(\frac{x}{\varepsilon})}{|u^{\ast}|_{2^{\ast}_{s}}}), \quad \quad x\in{{{\Bbb R}} ^{N}}

u_{\varepsilon}(x):=\eta(x)U_{\varepsilon}(x), \quad \quad x\in{{{\Bbb R}} ^{N}},

其中 u^{\ast}(x)=\alpha(\beta^{2}+|\frac{x}{S_{s}^{\frac{1}{2s}}}|^{2})^{-\frac{(N-2s)}{2}} , \alpha\in{{\Bbb R}} \setminus\{0\} , \beta>0 是固定常数.

命题3.1  设 s\in(0, 1) N>2s . 则当 \varepsilon\rightarrow 0 时, 以下估计成立:

(i) {\| u_{\varepsilon} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}\leq (C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+O(\varepsilon^{N-2s}) .

(ii) {\| u_{\varepsilon} \|}_{0}^{2}\leq(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N-2s}{2}}+O(\varepsilon^{N-2s})

{\| u_{\varepsilon} \|}_{0}^{2}\geq((C(N, \mu))^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-O(\varepsilon^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}))^{\frac{N-2s}{2N-\mu}} , 其中 0<\sigma<2N-\mu .

(iii)

\begin{eqnarray*} \int_{\Omega}|u_{\varepsilon}(x)|^{2}{\rm d}x\geq\left\{\begin{array}{ll} C_{s}\varepsilon^{2s}+O(\varepsilon^{N-2s}), \quad&\mbox{若}\ N>4s, \\ C_{s}\varepsilon^{2s}|\log{\varepsilon}|+O(\varepsilon^{2s}), \quad&\mbox{若}\ N=4s, \\ C_{s}\varepsilon^{N-2s}+O(\varepsilon^{2s}), \quad&\mbox{若}\ N<4s, \end{array}\right. \end{eqnarray*}

其中 C_{s} 是正常数.

(iv) |u_{\varepsilon}|^{q}_{L^{q}_{(\Omega)}}\geq O(\varepsilon^{N-(\frac{N-2s}{2})q}) .

  (i), (ii), (iii)的证明见文献[28]. (iv)的证明见文献[13]. 证毕.

定理1.1的证明  我们考虑变分问题 m_{\lambda}=\inf\limits_{u\in{\cal N}_{\lambda, \Omega}}I_{\lambda, \Omega}(u) . 可以验证 m_{\lambda} 的达到函数即为问题(1.1)的基态解. 为了证明 m_{\lambda} 可达, 我们需要证明泛函 I_{\lambda, \Omega}(u) 满足 (PS)_{c} 条件. 根据引理3.1, 只要证明 \inf\limits_{u\in{\cal N}_{\lambda, \Omega}} I_{\lambda, \Omega}(u)<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} . 为此, 只要证明存在 u_{0}\in{\cal N}_{\lambda, \Omega} , 使得

I_{\lambda, \Omega}(u_{0})<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}.

对于任意的 \varepsilon>0 , 且存在 t_{\varepsilon}=t_{\varepsilon, \lambda}>0 使得 t_{\varepsilon}u_{\varepsilon}\in{\cal N}_{\lambda, \Omega} , 即

t_{\varepsilon}^{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda t_{\varepsilon}^{q}|u_{\varepsilon}|^{q}_{L^{q}(\Omega)}-t_{\varepsilon}^{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}=0.

根据 \lambda>0 以及命题3.1有

\begin{eqnarray*} 0&=&t_{\varepsilon}^{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda t_{\varepsilon}^{q}|u_{\varepsilon}|^{q}_{L^{q}(\Omega)}-t_{\varepsilon}^{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq& t_{\varepsilon}^{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-t_{\varepsilon}^{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq &t_{\varepsilon}^{2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}] -t_{\varepsilon}^{22^{\ast}_{\mu, s}}[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}], \end{eqnarray*}

所以

t_{\varepsilon}\leq \bigg[\frac{(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}}{C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}}\bigg]^{\frac{1}{22^{\ast}_{\mu, s}-2}},

其中 \varepsilon 足够小, C_{1} , C_{2} 为正常数.

又因为

{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}=\lambda t_{\varepsilon}^{q-2}|u_{\varepsilon}|^{q}_{L^{q}(\Omega)}+t_{\varepsilon}^{22^{\ast}_{\mu, s}-2}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}},

根据Sobolev嵌入以及命题3.1, 存在正常数 C_{q} , C_{1} 使得

\begin{eqnarray*} 1&=&\lambda t_{\varepsilon}^{q-2}\frac{|u_{\varepsilon}|^{q}_{L^{q}(\Omega)}}{{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}}+t_{\varepsilon}^{22^{\ast}_{\mu, s}-2}\frac{{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}}{{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}}\\ &\leq&\lambda C_{q}t_{\varepsilon}^{q-2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]^{\frac{(q-2)}{2}}\\ &&+t_{\varepsilon}^{22^{\ast}_{\mu, s}-2}(S^{H}_{s})^{-2^{\ast}_{\mu, s}}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]^{2^{\ast}_{\mu, s}-1}, \end{eqnarray*}

\varepsilon\rightarrow 0 时, 可知存在 T>0 使得 t_{\varepsilon}\geq T .

q\in(2, 2^{\ast}_{s}) , 由命题3.1可得

\begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&=&\frac{t_{\varepsilon}^{2}}{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{q} t_{\varepsilon}^{q}|u_{\varepsilon}|^{q}_{L^{q}(\Omega)}-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq&\frac{t_{\varepsilon}^{2}}{2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]-\frac{\lambda}{q} t_{\varepsilon}^{q}C_{3}\varepsilon^{N-(\frac{N-2s}{2})q}\\ &&-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}], \end{eqnarray*}

其中 C_{1} , C_{2} , C_{3} 是正常数.

\begin{eqnarray*} g(t)&=&\frac{t_{\varepsilon}^{2}}{2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]\\ &&-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}], \end{eqnarray*}

易知 g(t) [0, (\frac{(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}}{C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}})^{\frac{1}{22^{\ast}_{\mu, s}-2}}] 上是单增的. 因此, 存在正常数 C_{4} 使得

\begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&\leq&\frac{1}{2}\frac{[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}}{[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}]^{\frac{1}{2^{\ast}_{\mu, s}-1}}}\\ &&-\frac{1}{22^{\ast}_{\mu, s}}\frac{1}{2}\frac{[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}}{[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}]^{\frac{1}{2^{\ast}_{\mu, s}-1}}}-\frac{\lambda}{q} t_{\varepsilon}^{q}C_{3}\varepsilon^{N-(\frac{N-2s}{2})q}\\ &=&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})\frac{[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}}{[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}]^{\frac{1}{2^{\ast}_{\mu, s}-1}}}-\frac{\lambda}{q} t_{\varepsilon}^{q}C_{3}\varepsilon^{N-(\frac{N-2s}{2})q}\\ &=&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+C_{4}\varepsilon^{N-2s}-\frac{\lambda}{q} t_{\varepsilon}^{q}C_{3}\varepsilon^{N-(\frac{N-2s}{2})q}\\ &\leq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+\varepsilon^{N-(\frac{N-2s}{2})q}(C_{4}\varepsilon^{\frac{(N-2s)}{2}q-2s}-\frac{\lambda}{q}T^{q}C_{3})\\ &<&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}, \end{eqnarray*}

其中 \lambda>0 , \varepsilon 足够小, N>\frac{2s(q+2)}{q} .

q=2 , 分为两种情况 N>4s N=4s . N>4s 时,

\begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&=&\frac{t_{\varepsilon}^{2}}{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{2} t_{\varepsilon}^{2}|u_{\varepsilon}|^{2}_{L^{2}(\Omega)}-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq&\frac{t_{\varepsilon}^{2}}{2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]-\frac{\lambda}{2}t_{\varepsilon}^{2}(C_{s}{\varepsilon}^{2s}+C_{5}{\varepsilon}^{N-2s})\\ &&-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}], \end{eqnarray*}

其中 C_{1} , C_{2} , C_{5} 是正常数. 因此我们有

\begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&\leq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+C_{4}\varepsilon^{N-2s}-\frac{\lambda}{2} t_{\varepsilon}^{2}C_{s}\varepsilon^{2s}\\ &\leq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+\varepsilon^{2s}(C_{4}\varepsilon^{N-4s}-\frac{\lambda T^{2}C_{s}}{2})\\ &<&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}, \end{eqnarray*}

其中 \lambda>0 , \varepsilon 足够小.

N=4s 时,

\begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&=&\frac{t_{\varepsilon}^{2}}{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{2} t_{\varepsilon}^{2}|u_{\varepsilon}|^{2}_{L^{2}(\Omega)}-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq&\frac{t_{\varepsilon}^{2}}{2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]-\frac{\lambda}{2} t_{\varepsilon}^{2}(C_{s}\varepsilon^{2s}|\log{\varepsilon}|+C_{5}\varepsilon^{2s})\\ &&-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}], \end{eqnarray*}

其中 C_{1} , C_{2} , C_{5} 是正常数. 所以

\begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&\leq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+C_{4}\varepsilon^{2s}-\frac{\lambda}{2} t_{\varepsilon}^{2}C_{s}\varepsilon^{2s}|\log{\varepsilon}|\\ &\leq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+\varepsilon^{2s}(C_{4}-\frac{T^{2}C_{s}\lambda}{2}|\log{\varepsilon}|)\\ &<&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}, \end{eqnarray*}

其中 \lambda>0 , \varepsilon 足够小. 因此存在 u_{0}=t_{\varepsilon}u_{\varepsilon} , \varepsilon 足够小, 有 u_{0}\in{\cal N}_{\lambda, \Omega} , 使得

I_{\lambda, \Omega}(u_{0})<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}.

因此,

\inf\limits_{u\in{\cal N}_{\lambda, \Omega}}I_{\lambda, \Omega}(u)<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}.

由引理3.1, 引理2.3以及山路引理, 存在 u_{\lambda, \Omega}\in{X}_{\, 0}^{\, s}{(\Omega)} , 使得

I_{\lambda, \Omega}(u_{\lambda, \Omega})=c_{\lambda}=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}} \max\limits_ {t\geq 0}I_{\lambda, \Omega}(tu),

I_{\lambda, \Omega}^{\prime}(u_{\lambda, \Omega})=0 , 即 u_{\lambda, \Omega}\in{\cal N}_{\lambda, \Omega} . 因此, m_{\lambda}\leq c_{\lambda} . 再根据引理2.5, 对任意的 v\in{\cal N}_{\lambda, \Omega} , 存在唯一的 t_{0}>0 , 使得 \max\limits_{t\geq 0}I_{\lambda, \Omega}(tv)=I_{\lambda, \Omega}(t_{0}v) , 又因为 u_{\lambda, \Omega}\in{\cal N}_{\lambda, \Omega} , 即可得 c_{\lambda}\leq\max\limits_{t\geq 0}I_{\lambda, \Omega}(tu)=I_{\lambda, \Omega}(u_{\lambda, \Omega}) , 因此有 m_{\lambda}\geq c_{\lambda} . 即得 m_{\lambda}=c_{\lambda} . 所以存在 u_{\lambda, \Omega}\in{\cal N}_{\lambda, \Omega} , 使得 I_{\lambda, \Omega}(u_{\lambda, \Omega})=c_{\lambda}=m_{\lambda}= \inf\limits_{u\in{\cal N}_{\lambda, \Omega}} I_{\lambda, \Omega}(u) , 又因为 I_{\lambda, \Omega}(u_{\lambda, \Omega})=I_{\lambda, \Omega}(|u_{\lambda, \Omega}|) , 可以假设 u_{\lambda, \Omega}\geq 0 . 证毕.

4 多解的证明

在本节中, 我们利用重心函数将水平集与区域 \Omega 联系起来, 再根据畴数定理推导出方程(1.1)有 {\rm cat}_{\Omega}(\Omega) 个正解.

\lambda=0 时,

I_{0, \Omega}(u)=\frac{1}{2}{\| u \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\frac{1}{22^{\ast}_{\mu, s}}{\| u \|}_{0}^{22^{\ast}_{\mu, s}}.

m_{0}:=\inf\limits_{{\cal N}_{0, \Omega}}I_{0, \Omega}(u), \quad\quad c_{0}:=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}} \max\limits_{t\geq 0}I_{0, \Omega}(tu).

{\cal N}_{0, \Omega}=\{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}:{\| u \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}={\| u \|}_{0}^{22^{\ast}_{\mu, s}}\}.

引理4.1   m_{0}=(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} .

  若 A, B>0 , 则

\max\limits_{t\geq 0}\{\frac{t^{2}}{2}A-\frac{t^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}B\}=(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(\frac{A^{2^{\ast}_{\mu, s}}}{B})^{\frac{1}{2^{\ast}_{\mu, s}-1}}.

因此

m_{0}=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}}\max\limits_{t\geq 0}I_{0, \Omega}(tu)=(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}.

证毕.

引理4.2  若 \lambda_{n}\rightarrow 0 , 则 c_{\lambda_{n}}\rightarrow c_{0} .

  已知对所有的 n\in {\Bbb N} , 有 c_{\lambda_{n}}\leq c_{0}. \{u_{n}\}_{n\in {\Bbb N}}\subset{X}_{\, 0}^{\, s}{(\Omega)} , 使得 I_{\lambda_{n}, \Omega}(u_{n})=c_{\lambda_{n}} , 且 I_{\lambda_{n}, \Omega}^{\prime}(u_{n})=0 以及 \{t_{n}\}\subset{{\Bbb R}} , t_{n}u_{n}\in{\cal N}_{0, \Omega} , 则有

c_{0}\leq I_{0, \Omega}(t_{n}u_{n})=I_{\lambda_{n}, \Omega}(t_{n}u_{n})+\frac{\lambda_{n}t_{n}^{q}}{q}|u_{n}|^{q}_{L^{q}({\Omega})}.

因此

c_{0}\leq c_{\lambda_{n}}+\frac{\lambda_{n}t_{n}^{q}}{q}|u_{n}|^{q}_{L^{q}{(\Omega)}}.

我们断言 \{t_{n}\} 是有界序列. 否则若 t_{n}\rightarrow \infty , 由 c_{\lambda_{n}}\leq c_{0} , 可得 \{u_{n}\}_{n\in {\Bbb N}}\subset{X}_{\, 0}^{\, s}{(\Omega)} 是有界序列, 又因为 t_{n}u_{n}\in{\cal N}_{0, \Omega} , 有

{\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}=t_{n}^{22^{\ast}_{\mu, s}-2}{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}},

所以当 n\rightarrow \infty 时,

{\| u_{n}\|}_{0}^{22^{\ast}_{\mu, s}}\rightarrow 0.

根据 \langle{I_{\lambda_{n}, \Omega}^{\prime}(u_{n}), u_{n}}\rangle=0 , 即

\begin{eqnarray*} {\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}={\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda_{n}|u_{n}|^{q}_{L^{q}({\Omega})} \geq {\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda_{n}C_{q}{\| u_{n} \| }^{q}_{{X}_{\, 0}^{\, s}(\Omega)} \geq (C^{\prime})^{2}-\lambda_{n}\bar{C}, \end{eqnarray*}

其中 \bar{C}>0 是适当的常数. 当 \lambda_{n}\rightarrow 0 , 可知 {\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\nrightarrow 0 , 所以 \{t_{n}\} 是有界的. 因此由 c_{0}\leq c_{\lambda_{n}}+\frac{\lambda_{n}t_{n}^{q}}{q}|u_{n}|^{q}_{L^{q}({\Omega})} 可得

\begin{eqnarray*} c_{0}\leq\liminf\limits_{n\rightarrow \infty} c_{\lambda_{n}}\leq\limsup\limits_{n\rightarrow \infty} c_{\lambda_{n}}\leq c_{0}, \end{eqnarray*}

{ } c_{0}=\lim\limits_{n\rightarrow \infty}c_{\lambda_{n}} . 证毕.

引理4.3  令 \{v_{n}\} 是一个序列, 在 {{D}}^{\, s, 2}{({{\Bbb R}} ^N)} 中弱收敛到 v , 使得在测度的意义下

\begin{eqnarray*} |(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\rightharpoonup\omega , \quad\quad |v_{n}|^{2^{\ast}_{s}}\rightharpoonup\tau , \quad\quad (|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}\rightharpoonup\nu. \end{eqnarray*}

其中 \omega , \tau \nu {{\Bbb R}} ^N 中的有界非负测度, 并且定义

\begin{eqnarray*} &&\omega_{\infty}:=\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{|x|>R}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x, \\ &&\tau_{\infty}:=\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{|x|>R}|v_{n}|^{2^{\ast}_{s}}{\rm d}x, \\ &&\nu_{\infty}:=\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{|x|>R}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x. \end{eqnarray*}

则有以下式子成立

\begin{equation} \limsup\limits_{n\rightarrow \infty}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}=\int_{{{\Bbb R}} ^{N}}{\rm d}\omega+\omega_{\infty}, \end{equation}
(4.1)

\begin{equation} \limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}\int_{{{\Bbb R}} ^{N}}\frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=\int_{{{\Bbb R}} ^{N}}{\rm d}\nu+\nu_{\infty}, \end{equation}
(4.2)

\begin{equation} (S^{H}_{s})^{2}{\nu_{\infty}}^{\frac{2}{2^{\ast}_{\mu, s}}}\leq\omega_{\infty} \bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega+\omega_{\infty}\bigg). \end{equation}
(4.3)

并且, 当 v=0 , \int_{{{\Bbb R}} ^{N}}{\rm d}\omega=(\int_{{{\Bbb R}} ^{N}}{\rm d}\nu)^{\frac{1}{2^{\ast}_{\mu, s}}}S^{H}_{s} 时, v 集中于一点.

  先证(4.1)式. 令 \eta\in C^{\infty}({{\Bbb R}} ^{N}) , 使得在 {{\Bbb R}} ^{N} 上, 0\leq\eta\leq1 , 在 B_{1} 上, \eta=0 且在 {{\Bbb R}} ^{N}\setminus B_{2} 上, \eta=1 . 对所有的 R>0 , 令 \eta_{R}(x)=\eta(\frac{x}{R}) , 则有

\begin{eqnarray*} \int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x=\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\eta_{R}^{2}{\rm d}x+\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}(1-\eta_{R}^{2}){\rm d}x. \end{eqnarray*}

又因为

\begin{eqnarray*} \int_{|x|>2R}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x\leq\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\eta_{R}^{2}{\rm d}x\leq\int_{|x|>R}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x, \end{eqnarray*}

可得

\omega_{\infty}=\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\eta_{R}^{2}{\rm d}x,

并且

\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}(1-\eta_{R}^{2}){\rm d}x=\lim\limits_{R\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}(1-\eta_{R}^{2}){\rm d}\omega=\int_{{{\Bbb R}} ^{N}}{\rm d}\omega.

因此当 R\rightarrow \infty , 由Lebesgue定理可知

{ } \limsup\limits_{n\rightarrow \infty}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}=\int_{{{\Bbb R}} ^{N}}{\rm d}\omega+\omega_{\infty}.

再证(4.2)式. 根据

\begin{eqnarray*} \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}&=&\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}{\eta_{R}(x)}^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}\\ &&+\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}(1-{\eta_{R}(x)}^{2^{\ast}_{\mu, s}})}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}. \end{eqnarray*}

以及

\begin{eqnarray*} \int_{|x|>2R}\int_{{{\Bbb R}} ^N}\frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}&\leq&\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|{\eta_{R}(x)}v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}\\ &\leq&\int_{|x|>R}\int_{{{\Bbb R}} ^N}\frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}, \end{eqnarray*}

可得

\nu_{\infty}=\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^N}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|\eta_{R}v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x.

又有

\begin{eqnarray*} &&\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}(1-{\eta_{R}(x)}^{2^{\ast}_{\mu, s}}){{\rm d}x{\rm d}y}\\ &=&\lim\limits_{R\rightarrow \infty}\int_{{{\Bbb R}} ^N}(1-{\eta_{R}(x)}^{2^{\ast}_{\mu, s}}){\rm d}\nu =\int_{{{\Bbb R}} ^N}{\rm d}\nu, \end{eqnarray*}

所以当 R\rightarrow \infty , 由Lebesgue定理可知

\begin{eqnarray*} \limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}\int_{{{\Bbb R}} ^{N}}\frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=\int_{{{\Bbb R}} ^{N}}{\rm d}\nu+\nu_{\infty}. \end{eqnarray*}

接下来证不等式(4.3). 由Sobolev不等式可得

\begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\eta_{R}v_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}\leq\bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\eta_{R}^{2}{\rm d}x\bigg)^{\frac{1}{2}}+\bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}\eta_{R}|^{2}|v_{n}|^{2}{\rm d}x\bigg)^{\frac{1}{2}}. \end{eqnarray*}

由文献[3, 引理1.4.5]有

\begin{eqnarray*} \lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}\eta_{R}|^{2}|v_{n}|^{2}{\rm d}x=0, \end{eqnarray*}

\begin{eqnarray*} \lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\eta_{R}v_{n})|^{2}{\rm d}x\leq\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\eta_{R}^{2}{\rm d}x=\omega_{\infty}. \end{eqnarray*}

所以, 由Hardy-Littlewood-Sobolev不等式, 可得

\begin{eqnarray*} \nu_{\infty}&=&\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^N}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|\eta_{R}v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &\leq & C(N, \mu)\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\bigg[\int_{{{\Bbb R}} ^N}|v_{n}|^{2^{\ast}_{s}}{\rm d}x\int_{{{\Bbb R}} ^N}|\eta_{R}v_{n}|^{2^{\ast}_{s}}{\rm d}x\bigg]^{\frac{2N-\mu}{2N}}\\ &\leq & C(N, \mu)S_{s}^{-2^{\ast}_{\mu, s}}\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\bigg[\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\eta_{R}v_{n})|^{2}{\rm d}x\bigg]^{\frac{2^{\ast}_{\mu, s}}{2}}\\ &\leq&(S_{s}^{H})^{-2^{\ast}_{\mu, s}}\bigg[\omega_{\infty}(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega+\omega_{\infty})\bigg]^{\frac{2^{\ast}_{\mu, s}}{2}}. \end{eqnarray*}

(S^{H}_{s})^{2}{\nu_{\infty}}^{\frac{2}{2^{\ast}_{\mu, s}}}\leq\omega_{\infty}(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega+\omega_{\infty}) . 接下来证明

\begin{equation} S^{H}_{s}\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}\leq\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}. \end{equation}
(4.4)

\xi_{n}=v_{n}-v , 则有

|(-\Delta)^{\frac{s}{2}}\xi_{n}|^{2}\rightharpoonup\bar{\omega}, \quad\quad(|x|^{-\mu}\ast|\xi_{n}|^{2^{\ast}_{\mu, s}})|\xi_{n}|^{2^{\ast}_{\mu, s}}\rightharpoonup\kappa.

\psi\in C^{\infty}_{c}({{\Bbb R}} ^{N}) , 使得在 {{\Bbb R}} ^{N} 上, 0\leq\psi\leq1 ; 在 B_{1} 上, \psi=1 且在 {{\Bbb R}} ^{N}\setminus B_{2} 上, \psi=0 . S^{H}_{s} 的定义可知

\begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|\psi\xi_{n}(x)|^{2^{\ast}_{\mu, s}}|\psi\xi_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y} \bigg)^{\frac{1}{22^{\ast}_{\mu, s}}}\leq({S^{H}_{s}})^{-\frac{1}{2}}\bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\psi\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}. \end{eqnarray*}

由Minkowski不等式可得

\begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\psi\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}&\leq& \bigg(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} |\psi(y)|^{2}\frac{|\xi_{n}(x)-\xi_{n}(y)|^{2}}{|x-y|^{N+2s}}{{\rm d}x{\rm d}y}\bigg)^{\frac{1}{2}}\\ &&+\bigg(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} |\xi_{n}(x)|^{2}\frac{|\psi(x)-\psi(y)|^{2}}{|x-y|^{N+2s}}{{\rm d}x{\rm d}y}\bigg)^{\frac{1}{2}}\\ &=&\bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{2}|(-\Delta)^{\frac{s}{2}}(\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}+\bigg(\int_{{{\Bbb R}} ^{N}}|\xi_{n}|^{2}|(-\Delta)^{\frac{s}{2}}\psi|^{2}{\rm d}x\bigg)^{\frac{1}{2}}. \end{eqnarray*}

下面证明

\int_{{{\Bbb R}} ^{N}}|\xi_{n}|^{2}|(-\Delta)^{\frac{s}{2}}\psi|^{2}{\rm d}x=o(1).

简单起见, 假设supp \psi=\bar{B_{1}} , 令 w(x)=\int_{{{\Bbb R}} ^{N}}\frac{|\psi(x)-\psi(y)|^{2}}{|x-y|^{N+2s}}{\rm d}y . 因为

\begin{eqnarray*} w(x)&=&\int_{|y-x|\leq1}\frac{|\psi(x)-\psi(y)|^{2}}{|x-y|^{N+2s}}{\rm d}y+w(x)+\int_{|y-x|>1}\frac{|\psi(x)-\psi(y)|^{2}}{|x-y|^{N+2s}}{\rm d}y\\ &\leq&|\nabla\psi|^{2}_{L^{\infty}({{\Bbb R}} ^{N})}\int_{|y-x|\leq1}\frac{1}{|x-y|^{N+2s-2}}{\rm d}y+4|\psi|^{2}_{L^{\infty}({{\Bbb R}} ^{N})}\int_{|y-x|>1}\frac{1}{|x-y|^{N+2s}}{\rm d}y\\ &\leq& C, \end{eqnarray*}

所以 w\in L^{\infty}({{\Bbb R}} ^{N}) . 并且, 当 |x|>2 , |y|\leq1 时, 可得 |x-y|\geq|x|-|y|\geq|x|-1\geq\frac{|x|}{2} , 因此

\begin{eqnarray*} w(x)=\int_{|y|\leq1}\frac{|\psi(y)|^{2}}{|x-y|^{N+2s}}{\rm d}y\leq\frac{|\psi|^{2}_{L^{\infty}({{\Bbb R}} ^{N})}2^{N+2s}\omega_{n}}{|x|^{N+2s}}=\frac{C}{|x|^{N+2s}}. \end{eqnarray*}

固定 R>2 , 由Hölder不等式可得

\begin{eqnarray*} \int_{{{\Bbb R}} ^{N}}|\xi_{n}(x)|^{2}w(x){\rm d}x&=&\int_{|x|\leq R}|\xi_{n}(x)|^{2}w(x){\rm d}x+\int_{|x|>R}|\xi_{n}(x)|^{2}w(x){\rm d}x\\ &\leq&|w|_{L^{\infty}({{\Bbb R}} ^{N})}\int_{|x|\leq R}|\xi_{n}(x)|^{2}{\rm d}x+|\xi_{n}(x)|^{2}_{L^{2^{\ast}_{s}}({{\Bbb R}} ^{N})}\bigg(\int_{|x|>R}|w|^{\frac{2^{\ast}_s}{2^{\ast}_s-2}}{\rm d}x\bigg)^{\frac{2^{\ast}_s-2}{2^{\ast}_s}}\\ &\leq& C\int_{|x|\leq R}|\xi_{n}(x)|^{2}{\rm d}x+C \bigg(\int_{|x|>R}\frac{1}{|x|^{\frac{N^{2}}{2s}+N}}{\rm d}x\bigg)^{\frac{2^{\ast}_s-2}{2^{\ast}_s}}, \end{eqnarray*}

根据 \xi_{n}(x)\rightarrow 0 L^{2}(B_{R}) 中, 可以得到, 对 \forall R>2 , 有

\begin{eqnarray*} \limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|\xi_{n}(x)|^{2}w(x){\rm d}x\leq C\bigg(\int_{|x|>R}\frac{1}{|x|^{\frac{N^{2}}{2s}+N}}{\rm d}x\bigg)^{\frac{2^{\ast}_s-2}{2^{\ast}_s}}, \end{eqnarray*}

因此当 n\rightarrow \infty 时,

\begin{eqnarray*} \int_{{{\Bbb R}} ^{N}}|\xi_{n}|^{2}|(-\Delta)^{\frac{s}{2}}\psi|^{2}{\rm d}x=o(1). \end{eqnarray*}

从而,

\begin{equation} \bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\psi\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}\leq\bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{2}|(-\Delta)^{\frac{s}{2}}(\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}+o(1). \end{equation}
(4.5)

另一方面, 已知

\int_{{{\Bbb R}} ^{N}}|\psi|^{2}|(-\Delta)^{\frac{s}{2}}\xi_{n}|^{2}{\rm d}x\rightarrow \int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\bar{\omega},

\int_{{{\Bbb R}} ^{N}}|\psi|^{2^{\ast}_{\mu, s}}\bigg(\int_{{{\Bbb R}} ^{N}}\frac{|\xi_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{\rm d}y\bigg)|\xi_{n}(x)|^{2^{\ast}_{\mu, s}}{\rm d}x\rightarrow \int_{{{\Bbb R}} ^{N}}|\psi|^{2^{\ast}_{\mu, s}}{\rm d}\kappa,

再由文献[14, (2.8)式], 有

\begin{eqnarray*} && \int_{{{\Bbb R}} ^{N}}(|x|^{-\mu}\ast|\psi\xi_{n}(x)|^{2^{\ast}_{\mu, s}})|\psi\xi_{n}(x)|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &=&\int_{{{\Bbb R}} ^{N}}(|x|^{-\mu}\ast|\xi_{n}(x)|^{2^{\ast}_{\mu, s}})|\psi(x)|^{2^{\ast}_{\mu, s}}|\psi(x)\xi_{n}(x)|^{2^{\ast}_{\mu, s}}{\rm d}x+o(1). \end{eqnarray*}

根据(4.5)式以及 S^{H}_{s} 的定义可得

\begin{eqnarray*} &&\bigg(\int_{{{\Bbb R}} ^{N}}|\psi(x)|^{22^{\ast}_{\mu, s}}\bigg(\int_{{{\Bbb R}} ^{N}}\frac{|\xi_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{\rm d}y\bigg)|\xi_{n}(x)|^{2^{\ast}_{\mu, s}}{\rm d}x\bigg)^{\frac{1}{22^{\ast}_{\mu, s}}}\\ &\leq&\bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{2}|(-\Delta)^{\frac{s}{2}}(\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}+o(1). \end{eqnarray*}

故当 n\rightarrow \infty 时, 有

\begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{22^{\ast}_{\mu, s}}{\rm d}\kappa\bigg)^{\frac{1}{22^{\ast}_{\mu, s}}}\leq({S^{H}_{s}})^{-\frac{1}{2}} \bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\bar{\omega}\bigg)^{\frac{1}{2}}. \end{eqnarray*}

取光滑函数 \chi_{R}(x) 满足当 |x|<R-1 \chi_{R}\equiv1 , |x|\geq R \chi_{R}(x)\equiv0 , 且在 {{\Bbb R}} ^{N} 上, 0\leq\chi_{R}(x)\leq1 . 显然 \forall R>1 , 有 \chi_{R}(x)\in C_{c}^{\infty}({{\Bbb R}} ^{N}) . 因而

\begin{eqnarray*} \bigg(\int_{B_{R-1}(0)}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}&\leq&\bigg(\int_{{{\Bbb R}} ^{N}}|\chi_{R}|^{22^{\ast}_{\mu, s}}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}} \leq({S^{H}_{s}})^{-1}\int_{{{\Bbb R}} ^{N}}|\chi_{R}|^{2}{\rm d}\bar{\omega}\\ &= &({S^{H}_{s}})^{-1}\int_{B_{R}(0)}|\chi_{R}|^{2}{\rm d}\bar{\omega}\leq({S^{H}_{s}})^{-1}\int_{B_{R}(0)}{\rm d}\bar{\omega}. \end{eqnarray*}

R\rightarrow \infty , 可得

S^{H}_{s} \bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}\leq\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}.

最后证当 v=0 , \int_{{{\Bbb R}} ^{N}}{\rm d}\omega=(\int_{{{\Bbb R}} ^{N}}{\rm d}\nu)^{\frac{1}{2^{\ast}_{\mu, s}}}S^{H}_{s} 时, v 集中于一点. 当 v=0 时, \kappa=\nu , \bar{\omega}=\omega , 由Hölder不等式可知

\begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{2^{\ast}_{\mu, s}}{\rm d}\nu\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}} &\leq& ({S^{H}_{s}})^{-1}\int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\omega\\ &\leq&({S^{H}_{s}})^{-1} \bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{22^{\ast}_{\mu, s}}{\rm d}\omega\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}} \bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega\bigg)^{\frac{2^{\ast}_{\mu, s}-1}{2^{\ast}_{\mu, s}}}, \end{eqnarray*}

则有

\nu=({S^{H}_{s}})^{-2^{\ast}_{\mu, s}}\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega\bigg)^{2^{\ast}_{\mu, s}-1}\omega.

将其代入 (\int_{{{\Bbb R}} ^{N}}|\psi|^{22^{\ast}_{\mu, s}}{\rm d}\nu)^{\frac{1}{2^{\ast}_{\mu, s}}}\leq({S^{H}_{s}})^{-1}\int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\omega , 可得

\begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{22^{\ast}_{\mu, s}}{\rm d}\nu\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}} &\leq&({S^{H}_{s}})^{-1}\int_{{{\Bbb R}} ^{N}}|\psi|^{2}({S^{H}_{s}})^{2^{\ast}_{\mu, s}} \bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega\bigg)^{1-2^{\ast}_{\mu, s}}{\rm d}\nu\\ &=&\bigg[S^{H}_{s}\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega\bigg)^{-1}\bigg]^{2^{\ast}_{\mu, s}-1}\int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\nu \\ &=&\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\nu\bigg)^{\frac{1-2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}}}\int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\nu. \end{eqnarray*}

所以对任意开集 \Omega , 有 \nu(\Omega)^{\frac{1}{2^{\ast}_{\mu, s}}}\nu({{\Bbb R}} ^{N})^{\frac{2^{\ast}_{\mu, s}-1}{2^{\ast}_{\mu, s}}}\leq\nu(\Omega) . \nu(\Omega)\neq0 , 则有 \nu({{\Bbb R}} ^{N})\leq\nu(\Omega) . \nu 集中于两个以上的点, 取 \Omega 中只包含一个点, 则 \nu(\Omega)<\nu({{\Bbb R}} ^{N})\leq\nu(\Omega) , 矛盾. 因此 \nu 集中于一点. 证毕.

引理4.4  设 \{u_{n}\}_{n\in {\Bbb N}}\subset{X}_{\, 0}^{\, s}{(\Omega)} 是非负序列且

\begin{eqnarray*} {\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}=1, \quad\quad {\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}\rightarrow S_{s}^{H}, \end{eqnarray*}

则存在一个序列 z_{n}\in{{{\Bbb R}} ^{N}} , \alpha_{n}\in{{\Bbb R}} ^{+} , 使得

\begin{eqnarray*} v_{n}(x)=\alpha_{n}^{\frac{N-2s}{2}}u_{n}(\alpha_{n}x+z_{n}) \end{eqnarray*}

有收敛子列, 仍记为 v_{n} . 并且在 {{D}}^{\, s, 2}{({{\Bbb R}} ^N)} v_{n}\rightarrow v{\not\equiv}0 , z_{n}\rightarrow z\in\bar{\Omega} , 且当 n\rightarrow \infty 时, \alpha_{n}\rightarrow 0 . 特别地, v S_{s}^{H} 的极小化子.

  定义Lévy集中函数

\begin{eqnarray*} Q_{n}(\lambda):=\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, \lambda)}(|x|^{-\mu}\ast|u_{n}|^{2^{\ast}_{\mu, s}})|u_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x. \end{eqnarray*}

易知对任意的 n , \lim\limits_{\lambda\rightarrow 0^{+}}Q_{n}(\lambda)=0 , \lim\limits_{\lambda\rightarrow \infty}Q_{n}(\lambda)=1 , 存在 \alpha_{n}>0 , 使得 Q_{n}(\alpha_{n})=\frac{1}{2} . 并且, 存在 z_{n}\in{{{\Bbb R}} ^{N}} 使得

\begin{eqnarray*} \frac{1}{2}=Q_{n}(\alpha_{n})=\int_{B(z_{n}, \alpha_{n})}(|x|^{-\mu}\ast|u_{n}|^{2^{\ast}_{\mu, s}})|u_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x. \end{eqnarray*}

接下来定义 v_{n}(x)=\alpha_{n}^{\frac{N-2s}{2}}u_{n}(\alpha_{n}x+z_{n}) , 则

\begin{eqnarray*} \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=1, \end{eqnarray*}

n\rightarrow \infty 时, |(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}\rightarrow S^{H}_{s} , 且

\begin{eqnarray*} &&\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &=&\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, 1)}(|x|^{-\mu}\ast|\alpha_{n}^{\frac{N-2s}{2}}u_{n}(\alpha_{n}x+z_{n})|^{2^{\ast}_{\mu, s}})|\alpha_{n}^{\frac{N-2s}{2}}u_{n}(\alpha_{n}x+z_{n})|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &=&\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z_{n}+z\alpha_{n}, \alpha_{n})}(|x|^{-\mu}\ast|u_{n}|^{2^{\ast}_{\mu, s}})|u_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &=&\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, \alpha_{n})}(|x|^{-\mu}\ast|u_{n}|^{2^{\ast}_{\mu, s}})|u_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &=&\frac{1}{2}. \end{eqnarray*}

又因为

\begin{eqnarray*} \int_{B(0, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x=\int_{B(z_{n}, \alpha_{n})}(|x|^{-\mu}\ast|u_{n}|^{2^{\ast}_{\mu, s}})|u_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x=\frac{1}{2}, \end{eqnarray*}

因此

\begin{equation} \frac{1}{2}=\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x=\int_{B(0, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x. \end{equation}
(4.6)

因为 \{v_{n}\} {{D}}^{\, s, 2}{({{\Bbb R}} ^N)} 上有界, 所以存在子列仍记为 \{v_{n}\} 使得

v_{n}\rightharpoonup v \quad{{D}}^{\, s, 2}{({{\Bbb R}} ^N)}, \quad\quad\quad v_{n}\rightarrow v\quad {\rm a.e.} \ {{\Bbb R}} ^N.

并且根据文献[35, 定理1.39]可知, 有界测度是弱紧的, 因此存在 \omega , \tau \nu , 在测度的意义下使得

|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\rightharpoonup\omega , \quad\quad |v_{n}|^{2^{\ast}_{s}}\rightharpoonup\tau , \quad\quad (|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}\rightharpoonup\nu.

现在, 利用Brezis-Lieb引理, 我们有

|(-\Delta)^{\frac{s}{2}}(v_{n}-v)|^{2}\rightharpoonup\bar{\omega}:=\omega-|(-\Delta)^{\frac{s}{2}}v|^{2},

|v_{n}-v|^{2^{\ast}_{s}}\rightharpoonup\bar{\tau}:=\tau-|v|^{2^{\ast}_{s}},

(|x|^{-\mu}\ast|v_{n}-v|^{2^{\ast}_{\mu, s}})|v_{n}-v|^{2^{\ast}_{\mu, s}}\rightharpoonup\kappa:=\upsilon-(|x|^{-\mu}\ast|v|^{2^{\ast}_{\mu, s}})|v|^{2^{\ast}_{\mu, s}}.

n\rightarrow \infty 时,

|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}\rightarrow S^{H}_{s}, \ \ \ \ |(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\rightharpoonup\bar{\omega}+|(-\Delta)^{\frac{s}{2}}v|^{2},

通过引理4.3中的(4.1)式有

\begin{eqnarray*} S^{H}_{s}=\limsup\limits_{n\rightarrow \infty}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}=\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}+|(-\Delta)^{\frac{s}{2}}v|^{2}_{2}+\omega_{\infty}. \end{eqnarray*}

\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=1,

(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}\rightharpoonup\kappa+(|x|^{-\mu}\ast|v|^{2^{\ast}_{\mu, s}})|v|^{2^{\ast}_{\mu, s}},

由(4.2)式有

\begin{eqnarray*} 1&=&\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}\\ &=&\int_{{{\Bbb R}} ^N}{\rm d}\kappa+\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}+\nu_{\infty}. \end{eqnarray*}

根据不等式(4.3)以及 S^{H}_{s}=\int_{{{\Bbb R}} ^N}{\rm d}\omega+\omega_{\infty} 可知 (S^{H}_{s}){\nu_{\infty}}^{\frac{2}{2^{\ast}_{\mu, s}}}\leq\omega_{\infty}. 因此

\begin{eqnarray*} S^{H}_{s}&=&\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}+|(-\Delta)^{\frac{s}{2}}v|^{2}_{2}+\omega_{\infty}\\ &\geq& S^{H}_{s}\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}+S^{H}_{s} \bigg(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}+(S^{H}_{s}){\nu_{\infty}}^{\frac{2}{2^{\ast}_{\mu, s}}}, \end{eqnarray*}

\begin{eqnarray*} 1&=&\int_{{{\Bbb R}} ^N}{\rm d}\kappa+\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}+\nu_{\infty}\\ &\geq&\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}+ \bigg(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y} \bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}+{\nu_{\infty}}^{\frac{2}{2^{\ast}_{\mu, s}}}. \end{eqnarray*}

所以

\int_{{{\Bbb R}} ^N}{\rm d}\kappa, \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y},

\nu_{\infty} 等于 1 0 . 利用(4.6)式有 \nu_{\infty}\leq\frac{1}{2} . 因此 \nu_{\infty}=0 . \int_{{{\Bbb R}} ^N}{\rm d}\kappa=1 , 则

\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=0,

由此可知 v=0\ {\rm a.e.} \ {{\Bbb R}} ^N , 所以 S^{H}_{s}=\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}+\omega_{\infty}\geq\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}, 由此可得

S^{H}_{s}\bigg(\int_{{{\Bbb R}} ^N}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}\geq\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega},

因此

S^{H}_{s}\bigg(\int_{{{\Bbb R}} ^N}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}=\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}.

根据 v=0\quad {\rm a.e.} \ {{\Bbb R}} ^N , 可知 v 集中于一点 z_{0} . 又因为

\begin{eqnarray*} \frac{1}{2}&=&\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &\geq&\int_{B(z_{0}, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\rightarrow \int_{{{\Bbb R}} ^N}{\rm d}\kappa=1. \end{eqnarray*}

这是不可能的, 因此

\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=1,

又因为 S^{H}_{s}=\lim\limits_{n\rightarrow \infty}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}=|(-\Delta)^{\frac{s}{2}}v|^{2}_{2}, v S^{H}_{s} 的极小化子. 从引理2.1中可知 S^{H}_{s} 是可达的当且仅当

u=C\Big(\frac{t}{t^{2}+|x-x_{0}|^{2}}\Big)^{\frac{N-2s}{2}},

其中 x \in {{\Bbb R}} ^N , x_{0}\in {{\Bbb R}} ^N , C>0 , t>0 . v=u=C(\frac{t}{t^{2}+|x-x_{0}|^{2}})^{\frac{N-2s}{2}} . 特别的, v\not\equiv0 .

接下来证明 \alpha_{n}\rightarrow 0 z_{n}\rightarrow z_{0}\in\bar{\Omega} . 首先证明 \{\alpha_{n}\}_{n\in {\Bbb N}} 有界. 若 \alpha_{n}\rightarrow \infty , 因为 \{u_{n}\} {X}_{\, 0}^{\, s}{(\Omega)} 上是有界的, 则 \{u_{n}\}_{n\in {\Bbb N}}\subset L^{2}(\Omega) 也是有界的. 所以定义 \Omega_{n}=\frac{\Omega-z_{n}}{\alpha_{n}}, 可得

\int_{\Omega_{n}}|v_{n}|^{2}{\rm d}x=\int_{\Omega_{n}}|{\alpha_{n}}^{\frac{N-2s}{2}}u_{n}(\alpha_{n}+z_{n})|^{2}{\rm d}x=\frac{1}{{\alpha_{n}}^{2s}}\int_{\Omega}|u_{n}|^{2}{\rm d}x\leq\frac{C}{{\alpha_{n}}^{2s}}\rightarrow0,

其中 C 是正常数. 另外由Fatou引理, 有

0=\liminf\limits_{n\rightarrow \infty}\int_{\Omega_{n}}|v_{n}|^{2}{\rm d}x\geq\int_{\Omega_{n}}|v|^{2}{\rm d}x,

可得 v\equiv0 , 矛盾. 因此 \{\alpha_{n}\}_{n\in {\Bbb N}} 是有界的, 故可以设当 n\rightarrow \infty 时, \alpha_{n}\rightarrow \alpha_{0} , \alpha_{0}\in{{\Bbb R}} .

再证 \{z_{n}\}_{n\in {\Bbb N}} 有界. 因为 \Omega 是有界域, 当 z_{n}\rightarrow \infty , 对 \forall x\in\Omega , n 足够大, 可得 \alpha_{n}x+z_{n}\notin\bar{\Omega} . 根据 u_{n}\in{X}_{\, 0}^{\, s}{(\Omega)} , 对 \forall x\in\Omega , 有 u_{n}(\alpha_{n}x+z_{n})=0 , 这与假设 {\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}=1 矛盾, 所以 \{z_{n}\}_{n\in {\Bbb N}} 是有界的, 因此可以假设当 n\rightarrow \infty 时, z_{n}\rightarrow z_{0} .

下面证明 \alpha_{n}\rightarrow0 . 因为 \Omega_{n}\rightarrow \frac{\Omega-z_{0}}{\alpha_{0}}=\Omega_{0}\neq{{\Bbb R}} ^N . 根据假设可得

\int_{\Omega_{0}}\int_{\Omega_{0}} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}={\|u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}=1, \int_{\Omega_{0}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x={\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}\rightarrow S^{H}_{s}.

通过当 n\rightarrow \infty , 在 {{D}}^{\, s, 2}{({{\Bbb R}} ^N)} v_{n}\rightarrow v , 可得

\int_{\Omega_{0}}\int_{\Omega_{0}} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=1, \quad\int_{\Omega_{0}}|(-\Delta)^{\frac{s}{2}}v|^{2}{\rm d}x=S^{H}_{s},

这是不可能的. 所以, 当 n\rightarrow \infty 时, \alpha_{n}\rightarrow0 .

最后, 若 z_{0}\notin\bar{\Omega} . n\rightarrow \infty 时, 对所有的 x\in\Omega , 有 \alpha_{n}x+z_{n}\rightarrow z_{0} , 根据 z_{0}\notin\bar{\Omega} , 可得当 n 很大时, \alpha_{n}x+z_{n}\notin\bar{\Omega} , 因此 u_{n}(\alpha_{n}x+z_{n})=0 , 这与 {\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}=1 矛盾, 即 z_{0}\in\bar{\Omega} . 证毕.

因为 \Omega 是有界域, 选择 r>0 足够小, 使得

\Omega^{+}_{r}:=\{x\in{{\Bbb R}} ^N:\mbox{dist}(x, \Omega)<r\} , {\quad} \Omega^{-}_{r}:=\{x\in\Omega:\mbox{dist}(x, \partial\Omega)>r\}

\Omega 是同伦的. 设 B_{r}=B_{r}(0)\subset\Omega .

m(\lambda)=\inf\{I_{\lambda, B_{r}}(u):u\in{\cal N}_{\lambda, B_{r}}\},

其中

I_{\lambda, B_{r}}(u):=\frac{1}{2}{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(B_{r})}-\frac{\lambda}{q}\int_{B_{r}}|u|^{q}{\rm d}x-\frac{1}{22^{\ast}_{\mu, s}}\int_{B_{r}}\int_{B_{r}} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}.

特别地, 在第3节中, 引理4.1和引理4.2中均取 \Omega=B_{r} , 相关结论也成立. 另外, 由定理1.1, 可知存在 u_{\lambda, B_{r}}\in{\cal N}_{\lambda, B_{r}} , 在 B_{r} u_{\lambda, B_{r}}\geq0 , 且

I_{\lambda, B_{r}}(u_{\lambda, B_{r}})=\inf\limits_{u\in{\cal N}_{\lambda, B_{r}}}I_{\lambda, B_{r}}(u)<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}.

由极值原理, u_{\lambda, B_{r}}>0 , 根据文献[24]可得 u_{\lambda, B_{r}} 是球对称的. 下面令 I_{\lambda, \Omega}^{m(\lambda)}=\{u\in{\cal N}_{\lambda, \Omega}:I_{\lambda, \Omega}(u)\leq m(\lambda)\} , 对给定的 u_{\lambda, B_{r}} 定义 \phi_{\lambda}:\Omega^{-}_{r}\rightarrow I_{\lambda, \Omega}^{m(\lambda)} ,

\begin{equation} \phi_{\lambda}(y)(x)=\left\{\begin{array}{ll}u_{\lambda, B_{r}}(x-y) , \quad &\mbox{若}\ x\in B_{r}(y), \\ 0, &\mbox{若}\ x\notin B_{r}(y). \end{array}\right. \end{equation}
(4.7)

另外, 定义重心映射 \beta:{\cal N}_{\lambda, \Omega}\rightarrow {{\Bbb R}} ^{N} 如下

\beta(u)=\frac{\int_{\Omega}\int_{\Omega} \frac{x|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}}{{\|u \|}_{0}^{22^{\ast}_{\mu, s}}},

因为 u_{\lambda, B_{r}} 是球对称的, 对任意 y\in\Omega^{-}_{r} , 有 \beta(\phi_{\lambda}(y))=y .

引理4.5  令 s\in(0, 1) , n>2s , q\in[2, 2^{\ast}_{s}) , 存在 \lambda^{\ast}>0 , 使得对 \lambda\in(0, \lambda^{\ast}) , 若 u\in I_{\lambda, \Omega}^{m(\lambda)} , 则 \beta(u)\in\Omega^{+}_{r} .

  用反证法, 假设存在 \{\lambda_{n}\}\in{{\Bbb R}} ^{+} , u_{n}\in I_{\lambda_{n}, \Omega}^{m(\lambda_{n})} 使得 \lambda_{n}\rightarrow0 , \beta(u_{n})\notin\Omega^{+}_{r} . 已知

c_{\lambda_{n}}\leq I_{\lambda_{n}, \Omega}(u_{n})=\frac{1}{2}{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda_{n}}{q}\int_{\Omega}|u_{n}|^{q}{\rm d}x-\frac{1}{22^{\ast}_{\mu, s}}{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\leq m(\lambda_{n})

0=\langle{I_{\lambda_{n}, \Omega}^{\prime}(u_{n}), u_{n}}\rangle={\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda_{n}\int_{\Omega}|u_{n}|^{q}{\rm d}x-{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}.

因为 \{u_{n}\}_{n\in {\Bbb N}} {X}_{\, 0}^{\, s}(\Omega) 上有界, 由Sobolev紧嵌入我们有

o(1)={\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}

c_{\lambda_{n}}+o(1)\leq\frac{1}{2}{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{1}{22^{\ast}_{\mu, s}}{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\leq m(\lambda_{n})+o(1).

又当 \lambda_{n}\rightarrow0 时, 有

c_{\lambda_{n}}\rightarrow (\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}, \quad\quad m(\lambda_{n})\rightarrow (\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}.

w_{n}:=\frac{u_{n}}{{\| u_{n} \|}_{0}} , 则 {\| w_{n} \|}_{0}=1 , 且

{\| w_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}=\frac{{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}}{{\| u_{n} \|}^{2}_{0}} =\frac{(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+o(1)}{((S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+o(1))^{\frac{1}{2^{\ast}_{\mu, s}}}} \leq S^{H}_{s}+o(1),

S^{H}_{s}\leq{\| w_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}\leq S^{H}_{s}+o(1) , 因此 {\| w_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}\rightarrow S^{H}_{s} .

由引理4.4, 存在 \alpha_{n}\in{{\Bbb R}} ^{+} , 序列 z_{n}\in{{{\Bbb R}} ^{N}} 使得 v_{n}(x)=\alpha_{n}^{\frac{N-2s}{2}}w_{n}(\alpha_{n}x+z_{n}) 强收敛到 v\in{{D}}^{\, s, 2}{({{\Bbb R}} ^N)} . 注意到

\begin{eqnarray*} \beta(u_{n})&=&\frac{\int_{\Omega}\int_{\Omega} \frac{x|u_{n}(x)|^{2^{\ast}_{\mu, s}}|u_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}}{{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}} =\frac{\int_{\Omega}\int_{\Omega} \frac{x|w_{n}(x)|^{2^{\ast}_{\mu, s}}|w_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}}{{\| w_{n} \|}_{0}^{22^{\ast}_{\mu, s}}} =\beta(w_{n}). \end{eqnarray*}

\varphi\in C_{0}^{\infty}({{\Bbb R}} ^{N}) , 使得 \varphi(x)=x , 对所有的 x\in\bar{\Omega} , 可得

\begin{eqnarray*} \beta(w_{n})&=&\frac{\int_{\Omega}\int_{\Omega} \frac{x|w_{n}(x)|^{2^{\ast}_{\mu, s}}|w_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}}{{\| w_{n} \|}_{0}^{22^{\ast}_{\mu, s}}}\\ &=&\frac{\int_{{{\Bbb R}} ^{N}}\int_{{{\Bbb R}} ^{N}} \frac{\varphi(\alpha_{n}x+z_{n})|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}}{\int_{{{\Bbb R}} ^{N}}\int_{{{\Bbb R}} ^{N}} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}} \rightarrow z\in\bar{\Omega}, \end{eqnarray*}

这与 \beta(u_{n})\notin\Omega^{+}_{r} 矛盾, 所以 \beta(u_{n})\in\Omega^{+}_{r} . 证毕.

引理4.6  假设 s\in(0, 1) , N>2s , q\in[2, 2^{\ast}_{s}) . \lambda\in(0, \lambda^{\ast}) {\rm cat}_{\Omega}(\Omega)\leq {\rm cat}_{I_{\lambda, \Omega}^{m(\lambda)}}(I_{\lambda, \Omega}^{m(\lambda)}).

  设 I_{\lambda, \Omega}^{m(\lambda)}=A_{1}\cup A_{2}\cdots\cup A_{n} , 其中 A_{j} , j=1, 2, \cdots, n , 是 I_{\lambda, \Omega}^{m(\lambda)} 中的可压缩集, 即存在 h_{j}\in C([0, 1]\times A_{j}, I_{\lambda, \Omega}^{m(\lambda)}) , 使得对 \forall u, v\in A_{j} , 有

h_{j}(0, u)=u, {\quad} h_{j}(1, u)=h_{j}(1, v).

由(4.7)式定义的 \phi_{\lambda} , 令

B_{j}=\phi_{\lambda}^{-1}(A_{j}), {\quad} j=1, 2, \cdots, n,

B_{j} 是闭集且 B_{j}\subset\Omega_{r}^{-} , 对 \forall x\in\Omega_{r}^{-} , \phi_{\lambda}(x)\in I_{\lambda, \Omega}^{m(\lambda)}\subset\bigcup\limits_{j=1}^n{A_{j}} , 所以存在 j_{0} , 使得 \phi_{\lambda}(x)\in A_{j_{0}} , 即 x\in\phi_{\lambda}^{-1}(A_{j_{0}})=B_{j_{0}} . 因此 \Omega_{r}^{-}=\bigcup\limits_{j=1}^n{B_{j}}. 再证 B_{j} \Omega_{r}^{+} 上可压缩. 令 g_{j}(t, x)\in C([0, 1]\times B_{j}, \Omega_{r}^{+}) ,

g_{j}(t, x)=\beta(h_{j}(t, \phi_{\lambda}(x))), \quad 1\leq j\leq n,

g_{j}(0, x)=\beta(h_{j}(0, \phi_{\lambda}(x)))=\beta(\phi_{\lambda}(x)) , \forall x, y\in B_j ,

g_{j}(1, x)=\beta(h_{j}(1, \phi_{\lambda}(x)))=\beta(h_{j}(1, \phi_{\lambda}(y)))=g_{j}(1, y).

所以 B_{j} \Omega_{r}^{+} 上可压缩, 即可得 {\rm cat}_{\Omega}(\Omega)={\rm cat}_{\Omega_{r}^{+}}(\Omega_{r}^{-})\leq {\rm cat}_{I_{\lambda, \Omega}^{m(\lambda)}}(I_{\lambda, \Omega}^{m(\lambda)}) . 证毕.

定理1.2的证明  由引理3.2, 当 c<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} , \lambda\in(0, \lambda_{1, s}) 时, I_{\lambda, \Omega} {\cal N}_{\lambda, \Omega} 上满足 (PS)_{c} 条件. 当 q\in(2, 2^{\ast}_{s}) , \lambda>0 , N>\frac{2s(q+2)}{q} q=2 , \lambda\in(0, \lambda_{1, s}) , N\geq 4 , 则由定理1.1,

\inf\limits_{u\in{\cal N}_{\lambda, \Omega}}I_{\lambda, \Omega}(u)<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}}) (S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}.

再根据Lusternik-Schnirelman定理[35]以及引理4.6, 对任意的 \lambda\in(0, \bar{\lambda}) , 其中当 q=2 时, \bar{\lambda}=\min\{\lambda_{1, s}, \lambda^{\ast}\} , 当 q\in(2, 2^{\ast}_{s}) 时, \bar{\lambda}=\lambda^{\ast} , 在 {\cal N}_{\lambda, \Omega} I_{\lambda, \Omega} 至少有 {\rm cat}_{\Omega}(\Omega) 个非平凡的临界点, 利用引理2.4, 可知在 {X}_{\, 0}^{\, s}(\Omega) I_{\lambda, \Omega} 至少有 {\rm cat}_{\Omega}(\Omega) 非平凡的个临界点. 证毕.

参考文献

Alves C O , Ding Y H .

Multiplicity of positive solutions to a p-Laplacian equation involving critical nonlinear

J Math Anal Appl, 2003, 279 (2): 508- 521

DOI:10.1016/S0022-247X(03)00026-X      [本文引用: 1]

Ambrosetti A , Brezis H , Cerami G .

Combined effects of concave and convex nonlinearities in some elliptic problems

J Funct Anal, 1994, 122 (2): 519- 543

DOI:10.1006/jfan.1994.1078      [本文引用: 1]

Ambrosio V .

Nonlinear Fractional Schrödinger Equations in Rn

Swizerland: Birkhäuser, 2021,

[本文引用: 2]

Bahri A , Coron J M .

On a nonlinear elliptic equation involving the Sobolev exponent: the effect of the topology of the domain

Comm Pure Appl Math, 1988, 41, 253- 294

DOI:10.1002/cpa.3160410302      [本文引用: 1]

Benci V , Cerami G .

Positive solutions of some nonlinear elliptic problems in exterior domains

Arch Rational Mech Anal, 1987, 99, 283- 300

DOI:10.1007/BF00282048      [本文引用: 1]

Benci V , Cerami G .

The effect of the domain topology on the number of positive solutions of nonlinear elliptic problems

Arch Rational Mech Anal, 1991, 114, 79- 93

DOI:10.1007/BF00375686      [本文引用: 1]

Benci V , Cerami G .

Multiple positive solutions of some elliptic problems via the Morse theorem and the domain topology

Calc Var Partial Differ Equ, 1994, 2, 29- 48

DOI:10.1007/BF01234314      [本文引用: 1]

Brezis H , Lieb E .

A relation between pointwise convergence of functions and convergence of functionals

Proc Amer Math Soc, 1983, 88 (3): 486- 490

DOI:10.1090/S0002-9939-1983-0699419-3      [本文引用: 1]

Cerami G , Passaseo D .

Existence and multiplicity of positive solutions for nonlinear elliptic problems in exterior domains with rich topology

Nonlinear Anal, 1992, 18 (2): 109- 119

DOI:10.1016/0362-546X(92)90089-W      [本文引用: 1]

Cerami G , Passaseo D .

Existence and multiplicity for semilinear elliptic Dirichlet problems in exterior domains

Nonlinear Anal, 1995, 24 (11): 1533- 1547

DOI:10.1016/0362-546X(94)00116-Y      [本文引用: 1]

Cingolani S , Clapp M , Secchi S .

Multiple soluions to a magnetic nonlinear Choquard equation

Z Angew Math Phys, 2012, 63, 233- 248

DOI:10.1007/s00033-011-0166-8      [本文引用: 1]

Coron J M .

Topologie et cas limite des injections de Sobolev

C R Acad Sci Paris Sér I, 1984, 299, 209- 212

[本文引用: 1]

Figueiredo G M, Bisci G M, Servadei R. The effect of the domain topology on the number of solutions of fractional Laplace problems. Calc Var Partial Differ Equ, 2018, 57: Article number 103

[本文引用: 2]

Gao F S , Da Silva E D , Yang M B , Zhou J Z .

Existence of solutions for critical Choquard equations via the concentration compactness method

Proc R Soc Edinb Sect A Math, 2020, 150 (2): 921- 954

DOI:10.1017/prm.2018.131      [本文引用: 2]

Gao F S , Yang M B .

On the Brezis-Nirenberg type critical problem for nonlinear Choquard equation

Sci China Math, 2018, 61 (7): 1219- 1242

DOI:10.1007/s11425-016-9067-5      [本文引用: 2]

Ghimenti M, Pagliardini D. Multiple positive solutions for a slightly subcritical Choquard problem on bounded domains. Calc Var Partial Differ Equ, 2019, 58: Article number 167

[本文引用: 1]

Goel D .

The effect of topology on the number of positive solutions of elliptic equation involving Hardy-Littlewood-Sobolev critical exponent

Topol Methods Nonlinear Anal, 2019, 54, 751- 771

[本文引用: 1]

Goel D , Rădulescu V D , Sreenadh K .

Coron problem for nonlocal equations involving Choquard Nonlinearity

Adv Nonlinear Stud, 2020, 20 (1): 141- 161

DOI:10.1515/ans-2019-2064     

Goel D , Sreenadh K .

Critical growth elliptic problems involving Hardy-Littlewood-Sobolev critical exponent in non-contractible domains

Adv Nonlinear Anal, 2020, 9, 803- 835

[本文引用: 1]

Lieb E H, Loss M. Analysis. Providence: Proc Amer Math Soc, 2001

[本文引用: 1]

Lions P L .

The Choquard equation and related questions

Nonlinear Anal, 1980, 4, 1063- 1072

DOI:10.1016/0362-546X(80)90016-4      [本文引用: 1]

Lusternik L , Schnirelman L . Methodes Topologiques dans les Problémes Variationnels. Paris: Hermann and Cie, 1934

[本文引用: 1]

Molica Bisci G , Servadei R .

Lower semicontinuity of functionals of fractional type and applications to nonlocal equations with critical Sobolev exponent

Adv Differ Equ, 2015, 20, 635- 660

[本文引用: 1]

Moroz V , Van Schaftingen J .

Ground states of nonlinear Choquard equations: existence, qualitative properties and decay asymptotics

J Funct Anal, 2013, 265, 153- 184

DOI:10.1016/j.jfa.2013.04.007      [本文引用: 2]

Moroz V , Van Schaftingen J .

Existence of groundstates for a class of nonlinear Choquard equations

Trans Amer Math Soc, 2015, 367 (9): 6557- 6579

Moroz V , Van Schaftingen J .

Semi-classical states for the Choquard equation

Calc Var Partial Differ Equ, 2015, 52, 199- 235

DOI:10.1007/s00526-014-0709-x     

Moroz V , Van Schaftingen J .

A guide to the Choquard equation

J Fixed Point Theory Appl, 2017, 19 (1): 773- 813

DOI:10.1007/s11784-016-0373-1      [本文引用: 1]

Mukherjee T , Sreenadh K .

Fractional Choquard equation with critical nonlinearities

Nonlinear Differ Equ Appl, 2017, 24, 63

DOI:10.1007/s00030-017-0487-1      [本文引用: 5]

Palatucci G , Pisante A .

Improved Sobolev embeddings, profile decomposition and concentration compactness fractional Sobolev space

Calc Var Partial Differ Equ, 2014, 50, 799- 829

DOI:10.1007/s00526-013-0656-y      [本文引用: 1]

Pekar S . Untersuchung über die Elektronentheorie der Kristalle. Berlin: Akademie Berlag, 1954

[本文引用: 1]

Rey O .

A multiplicity result for a variational problem with lack of compactness

Nonlinear Anal, 1989, 13, 1241- 1249

DOI:10.1016/0362-546X(89)90009-6      [本文引用: 1]

Servadei R , Valdinoci E .

Variational methods for non-local operators of elliptic type

Discrete Contin Dyn Syst, 2013, 33, 2105- 2137

DOI:10.3934/dcds.2013.33.2105      [本文引用: 1]

Servadei R , Valdinoci E .

A Brezis-Nirenberg result for the fractional laplacian

Trans Amer Math Soc, 2015, 367, 67- 102

[本文引用: 1]

Shen Z , Gao F S , Yang M B .

Ground states for nonlinear fractional Choquard equations with general nonlinearities

Math Methods Appl Sci, 2016, 39, 4082- 4098

DOI:10.1002/mma.3849      [本文引用: 1]

Willem M. Minimax Theorems. Progress in Nonlinear Differential Equations and their Applications. Boston: Birkhäuser, 1996

[本文引用: 6]

Yang J F , Zhu L P .

Multiple solutions to Choquard equation in exterior domain

J Math Anal Appl, 2022, 507, 125726

DOI:10.1016/j.jmaa.2021.125726      [本文引用: 1]

/