本文研究分数阶Choquard方程

(1.1) $ \begin{equation} \left\{\begin{array}{ll} { } (-{\Delta})^s{u}=\lambda|u|^{q-2}{u}+ \bigg(\int_\Omega\frac{|u(y)|^{2^\ast_{\mu, s}}}{|x-y|^\mu}{\rm d}y\bigg)|u|^{2^\ast_{\mu, s}-2}u, & x\in\Omega, \\ {u=0}, &x\in{{{\Bbb R}} ^N}\setminus\Omega \end{array}\right. \end{equation} $

多解的存在性, 其中$ \Omega\subset {{\Bbb R}} ^N $是具有光滑边界的有界开集, $ N>2s $, $ s\in(0, 1) $, $ 0<\mu<N $, $ \lambda $是正实参数, $ q\in[2, 2^\ast_s) $, $ 2^\ast_{s}=\frac{2N}{N-2s} $是分数阶临界Sobolev指数. 分数阶Laplace算子$ (-{\Delta})^s $定义为

$ (-{\Delta})^s{u(x)}=C(N, s)\lim\limits_{\varepsilon\rightarrow0^{+}} \int_{{{\Bbb R}} ^N\setminus B_{\varepsilon}(x)}\frac{u (x)-u(y)}{|x-y|^{N+2s}}{\rm d}y. $

关于Choquard方程的研究, 最早开始于1954年物理学家Pekar^[30]为了研究极化子在静止时的量子理论而提出的, 同时Choquard在研究等离子体物理中也提出了同样的问题. 此后, 关于非线性Choquard方程解的存在性和解的性质研究得到了广泛关注, 相关的文献见[11, 15–19, 21, 24–27]. 特别地, 对于分数阶算子的Choquard方程, 当$ q=2 $时, 文献[28] 研究了问题(1.1) 解的存在性, 更多分数阶方程的结果见文献[23, 33, 34].

我们将研究解的存在性与区域拓扑的关系. 在文献[12]中, Coron研究了方程

(1.2) $ \begin{equation} \left\{\begin{array}{ll} -{\Delta}u+{\lambda}u=u^{p-1}, {\quad} &x\in{\Omega}, \\ u>0, &x\in{\Omega}, \\ u=0, &x\in{\partial}\Omega \end{array}\right. \end{equation} $

解的存在性与区域$ \Omega $拓扑的关系, 其中$ \Omega $是有界光滑区域, $ N\geq3 $, $ 2<p<2^{\ast}=\frac{2N}{N-2} $, $ \lambda\in {{\Bbb R}} ^{+} $. 当$ \lambda=0 $, $ p=2^{\ast} $, $ N\geq3 $时, 如果$ \Omega $是不可压缩的, 则问题(1.2)具有一个正解, 更一般的结果见文献[4].

对于临界和逼近临界的问题(1.2), 利用Lusternik-Schnirelman定理^[22], 在文献[5, 6, 31, 35]中, 作者证明了问题(1.2) 至少有$ {\rm cat}_{\Omega}(\Omega) $个正解, 而在外区域$ \Omega $上, 文献[9–10]得到了类似的结果.

对于Choquard方程

(1.3) $ \begin{equation} \left\{\begin{array}{ll} { } -\Delta{u}=\lambda|u|^{q-2}{u}+\bigg(\int_\Omega\frac{|u(y)|^{p}}{|x-y|^\mu}{\rm d}y\bigg)|u|^{p-2}u, {\quad} & x\in\Omega, \\ {u=0}, &x\in{{{\Bbb R}} ^N}\setminus\Omega, \end{array}\right. \end{equation} $

其中$ \Omega\subset{{\Bbb R}} ^N $是光滑有界域, Goel^[17]证明了存在$ 0<\Lambda^{\ast} $, 当$ p={2^\ast_{\mu}}=\frac{2N-\mu}{N-2} $, $ \lambda\in(0, \Lambda^{\ast}) $, $ q\in[2, 2^{\ast}) $, $ N>3 $或$ 4<q<6 $, $ N=3 $时, 问题(1.3)至少有$ {\rm cat}_{\Omega}(\Omega) $个正解. Ghimenti和Pagliardini^[16]也对$ p=2^\ast_{\mu}-\varepsilon $, $ \lambda\geq0 $, $ q=2 $, $ \Omega\subset{{\Bbb R}} ^N $是光滑有界域时进行研究, 他们证明了存在$ \bar{\varepsilon}>0 $, 当$ \varepsilon\in(0, \bar{\varepsilon}] $时, 方程(1.3) 有$ {\rm cat}_{\Omega}(\Omega) $个正解.

Figueiredo等^[13]研究了关于临界分数阶类问题(1.2)

(1.4) $ \begin{equation} \left\{\begin{array}{ll} -{\Delta}^{s}u=\mu u^{q-2}u+|u|^{2^{\ast}_{s}-2}u, {\quad} &x\in{\Omega}, \\ u=0, & x\in{{{\Bbb R}} ^N}\setminus\Omega, \end{array}\right. \end{equation} $

其中$ \Omega\subset{{\Bbb R}} ^N $是光滑有界域, $ N>2s $, $ s\in(0, 1) $, $ \mu $是正的实参数, $ q\in[2, 2^{\ast}_{s}) $, 当$ \mu\in(0, \tilde{\mu}) $时, 问题(1.4)在条件$ q=2 $, $ N\geq4s $或$ q\in(2, 2^{\ast}_{s}) $, $ N>\frac{2s(q+2)}{q} $下有至少$ {\rm cat}_{\Omega}(\Omega) $个非平凡解.

更多关于多解问题的研究, 可见文献[1, 2, 7, 36]等.

本文首先证明问题(1.1)基态解的存在性, 即能量极小解的存在性.

定理1.1  假设$ s\in(0, 1) $, $ N>2s $. 当$ q\in(2, 2^{\ast}_{s}) $时, 进一步假设$ \lambda>0 $, $ N>\frac{2s(q+2)}{q} $, 而当$ q=2 $时, 假设$ \lambda\in(0, \lambda_{1, s}) $, $ N\geq 4s $, 则问题(1.1)至少有一个非负基态解.

定理1.1的证明, 主要在于验证$ (PS)_{c} $条件. 利用基态解的存在, 我们得到以下主要结果.

定理1.2  设$ s\in(0, 1) $, $ N>2s $, $ q\in[2, 2^\ast_s) $, $ \Omega\subset {{\Bbb R}} ^N $是具有光滑边界的有界域. 当$ q\in(2, 2^{\ast}_{s}) $, $ \lambda>0 $, $ N>\frac{2s(q+2)}{q} $或$ q=2 $, $ \lambda\in(0, \lambda_{1, s}) $, $ N\geq 4s $时, 则存在$ \bar{\lambda}>0 $, 对$ \lambda\in(0, \bar{\lambda}) $, 问题(1.1)至少有$ {\rm cat}_{\Omega}(\Omega) $个非平凡解.

定理1.2的证明主要在Nehari流形上应用Lusternik-Schnirelman定理, 通过文献[3, 14, 29]中的集中紧引理和重心函数$ \beta(u_{n})\in\Omega^{+}_{r} $, 建立Nehari流形上的水平集与$ \Omega $之间的联系, 最后得到泛函有$ {\rm cat}_{\Omega}(\Omega) $个临界点. 我们遇到的困难主要有以下几点: 首先是临界情形下的紧性缺失问题, 其次便是对能量泛函的估计, 最后是建立区域拓扑与解个数的关系.

本文的结构如下: 在第2节中介绍了一些基本定义, 性质和引理, 然后给出了几个重要引理的证明.第3节主要是证明当能量压到某个值以下, 限制在Nehari流形上的泛函满足$ (PS)_{c} $条件, 并且求出了这个值为$ (\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} $. 做好了这些准备工作, 在第4节中利用集中紧引理, 通过重心函数$ \beta(u_{n})\in\Omega^{+}_{r} $, 将区域$ \Omega $与Nehari流形上的水平集联系到一起, 再利用Lusternik-Schnirelman畴数定理得出限制在Nehari流形上的泛函有$ {\rm cat}_{\Omega}(\Omega) $个临界点.

首先, 我们定义函数空间

$ {X}_{\, 0}^{\, s}{(\Omega)}=\{u\in{{H}}^{\, s}{({{\Bbb R}} ^N)}:u=0\ \ {\rm a.e.}\ \ {{{\Bbb R}} ^N}\setminus\Omega\}, $

其对偶空间记为$ {X}_{\, 0}^{'s}(\Omega) $, 空间上的范数为

$ \| u \| _{{X}_{\, 0}^{\, s}(\Omega)}= \bigg(\int_{{{\Bbb R}} ^{N}\times{{\Bbb R}} ^{N}}\frac{|u(x)-u(y)|^{2}}{|x-y|^{N+2s}}{\rm d}x{\rm d}y\bigg)^{\frac{1}{2}}. $

为了用变分法研究问题(1.1), 我们需要以下Hardy-Littlewood-Sobolev不等式.

命题2.1^[20]  设$ t, r>1 $且$ 0<\mu<N $, $ \frac{1}{t}+\frac{\mu}{N}+\frac{1}{r}=2 $, $ f\in L^{t}({{{\Bbb R}} }^N) $, $ h\in L^{r}({{{\Bbb R}} }^N) $. 则存在与$ f, h $无关的常数$ C(t, r, \mu, N) $, 使得

(2.1) $ \begin{equation} \int_{{{\Bbb R}} ^{N}}\int_{{{\Bbb R}} ^{N}}\frac{f(x)h(y)}{|x-y|^\mu}{\rm d}x{\rm d}y\leq C(t, r, \mu, N)|f|_{L^t} |h|_{L^r}. \end{equation} $

若$ t=r=\frac{2N}{2N-\mu} $, 则

$ C(t, r, \mu, N)=C(N, \mu)=\pi^{\frac{\mu}{2}}\frac{\Gamma(\frac{N}{2}-\frac{\mu}{2})}{\Gamma(N-\frac{\mu}{2})} \bigg\{\frac{\Gamma(\frac{N}{2})}{\Gamma(N)}\bigg\}^{-1+\frac{\mu}{N}}. $

(2.1)式中等式成立当且仅当$ f\equiv Ch $且

$ h(x)=A(\gamma^2 +|x-a|^{2})^{\frac{-(2N-\mu)}{2}}, $

其中$ A\in {\Bbb C} $, $ 0\neq \gamma \in {{\Bbb R}} $, $ a\in {{\Bbb R}} ^N $.

我们知道$ {X}_{\, 0}^{\, s}{(\Omega)} $嵌入到$ L^{2^{\ast}_s}({{\Bbb R}} ^N) $的最佳常数定义为

$ S_{s}=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}}\frac{\int_{{{\Bbb R}} ^N \times {{\Bbb R}} ^N} \frac{|u(x)-u(y)|^{2}}{|x-y|^{N+2s}}{\rm d}x{\rm d}y}{(\int_{{{\Bbb R}} ^N} |u(x)|^{2^{\ast}_s}{{\rm d}x})^{\frac{2}{2^{\ast}_s}}}. $

同样地, 我们定义

(2.2) $ \begin{equation} S_{s}^{H}=S_{s}^{H}({{\Bbb R}} ^N)=\inf\limits_{{H}^{\, s}{({{\Bbb R}} ^N)}\setminus\{0\}}\frac{\int_{{{\Bbb R}} ^N \times {{\Bbb R}} ^N} \frac{|u(x)-u(y)|^{2}}{|x-y|^{N+2s}}{\rm d}x{\rm d}y}{(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y})^{\frac{1}{2^{\ast}_{\mu, s}}}} \end{equation} $

和

(2.3) $ \begin{equation} S_{s}^{H}(\Omega)=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}}\frac{\int_{{{\Bbb R}} ^N \times {{\Bbb R}} ^N} \frac{|u(x)-u(y)|^{2}}{|x-y|^{N+2s}}{\rm d}x{\rm d}y}{(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y})^{\frac{1}{2^{\ast}_{\mu, s}}}}. \end{equation} $

根据文献[28, 引理2.2]可知$ S_{s}^{H}(\Omega)=S_{s}^{H} $且$ S_{s}^{H}(\Omega) $不可达除非$ \Omega={{\Bbb R}} ^N $.

引理2.1^[15]  由(2.2)式定义的常数$ S_{s}^{H} $是可达的当且仅当

$ u=C\Big(\frac{t}{t^{2}+|x-x_{0}|^{2}}\Big)^{\frac{N-2s}{2}}, $

其中$ x \in {{\Bbb R}} ^N $, $ x_{0}\in {{\Bbb R}} ^N $, $ C>0 $, $ t>0 $, 并且有$ S_{s}^{H}=\frac{S_{s}}{C(N, \mu)^{\frac{1}{2^{\ast}_{\mu, s}}}} $.

引理2.2^[28]  令

$ {\| u \|}_{0}:= \bigg(\int_{\Omega}\int_{\Omega} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y} \bigg)^{\frac{1}{22^{\ast}_{\mu, s}}}. $

则$ {\|{\cdot}\|}_{0} $是定义于$ Y_{0}:=\{u:{\Omega}{\rightarrow }{{\Bbb R}} :u\ \mbox{是可测的}, \ {\|}{\cdot}{\|}_{0}< + \infty\} $上的范数.

与方程(1.1)对应的能量泛函为

$ I_{\lambda, \Omega}(u):=\frac{1}{2}{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{q}\int_{\Omega}|u|^{q}{\rm d}x-\frac{1}{22^{\ast}_{\mu, s}}\int_{\Omega}\int_{\Omega} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}. $

设$ {\cal N}_{\lambda, \Omega} $是与$ I_{\lambda, \Omega} $有关的Nehari流形, 则

$ {\cal N}_{\lambda, \Omega}=\{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}:\langle{I_{\lambda, \Omega}^{\prime}(u), u}\rangle=0\}, $

其中$ \langle{I_{\lambda, \Omega}^{\prime}(u), u}\rangle={\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda|u|^{q}_{L^{q}(\Omega)}-{\| u \|}_{0}^{22^{\ast}_{\mu, s}}. $

根据Hardy-Littlewood-Sobolev不等式(2.1), 可以得到

$ \begin{eqnarray*} \bigg(\int_{\Omega}\int_{\Omega} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y} \bigg)\leq C(N, \mu)|u|^{22^{\ast}_{\mu, s}}_{2^{\ast}_{s}}, \end{eqnarray*} $

由此可以证明$ I_{\lambda, \Omega}\in C^{1}({X}_{\, 0}^{\, s}) $. 我们知道$ I_{\lambda, \Omega} $的临界点就是问题(1.1) 的弱解. 最后, 在文献[32]中证明了在齐次Dirichlet边界条件下

$ \begin{eqnarray*} \lambda_{1, s}=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}}\frac{\int_{{{\Bbb R}} ^N \times {{\Bbb R}} ^N} \frac{|u(x)-u(y)|^{2}}{|x-y|^{N+2s}}{\rm d}x{\rm d}y}{\int_{{{\Bbb R}} ^N} |u(x)|^{2}{\rm d}x}>0 \end{eqnarray*} $

是$ (-\Delta)^{s} $的第一特征值.

引理2.3  若$ \lambda\in(0, \lambda_{1, s}) $, 则能量泛函$ I_{\lambda, \Omega} $满足以下性质

(i) 存在$ \beta, \rho>0 $, 使得当$ \| u \| _{{X}_{\, 0}^{\, s}(\Omega)}=\rho $时, $ I_{\lambda, \Omega}\geq \beta $.

(ii) 存在$ e\in{X}_{\, 0}^{\, s}{(\Omega)} $, 当$ \| e \| _{{X}_{\, 0}^{\, s}(\Omega)}>{\rho} $时, 有$ I_{\lambda, \Omega}(e)<0 $.

证  (i)  由Hölder不等式, Sobolev嵌入以及Hardy-Littlewood-Sobolev不等式, 可得

$ \begin{eqnarray*} I_{\lambda, \Omega}(u)\geq\left\{\begin{array}{ll} { } \frac{1}{2}(1-\frac{\lambda}{\lambda_{1, s}}){\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{(S^{H}_{s})^{-1}}{22^{\ast}_{\mu, s}}{\| u \| }^{22^{\ast}_{\mu, s}} _{{X}_{\, 0}^{\, s}(\Omega)}, \quad &\mbox{若}\ q=2, \\ { } \frac{1}{2}{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda|\Omega|^{\frac{2^{\ast}_{s}-q}{2^{\ast}_{s}}}}{qS_{s}^{\frac{q}{2}}}{\| u \| }^{q} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{(S^{H}_{s})^{-1}}{22^{\ast}_{\mu, s}}{\| u \| }^{22^{\ast}_{\mu, s}} _{{X}_{\, 0}^{\, s}(\Omega)}, &\mbox{若}\ q\in(2, 2^{\ast}_{s}). \end{array}\right. \end{eqnarray*} $

因此, 根据$ \lambda\in(0, \lambda_{1, s}) $, $ 2<22^{\ast}_{\mu, s} $, 可以选择$ \beta, \rho>0 $, 使当$ \| u \| _{{X}_{\, 0}^{\, s}(\Omega)}=\rho $时, $ I_{\lambda, \Omega}\geq \beta $.

(ii)   设$ u \in {X}_{\, 0}^{\, s}(\Omega) $, 则当$ t\rightarrow {\infty} $时, 有

$ \begin{eqnarray*} I_{\lambda, \Omega}(tu)=\frac{t^{2}}{2}{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda t^{q}}{q}\int_{\Omega}|u|^{q}{\rm d}x-\frac{t^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}\int_{\Omega}\int_{\Omega} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y} \end{eqnarray*} $

趋于$ -\infty $. 所以, 可以选取$ t_{0}>0 $, 使得$ e:=t_{0}u $, 当$ \| e \| _{{X}_{\, 0}^{\, s}(\Omega)}>{\rho} $时, 有$ I_{\lambda, \Omega}(e)<0 $. 证毕.

引理2.4  若$ u_{0} $是$ I_{\lambda, \Omega} $在$ {\cal N}_{\lambda, \Omega} $上的临界点, 则$ u_{0} $也是$ I_{\lambda, \Omega} $在$ {X}_{\, 0}^{\, s}(\Omega) $上的临界点.

证  令$ J_{\lambda, \Omega}(u)=\langle{I_{\lambda, \Omega}^{\prime}(u), u}\rangle $, 对任意的$ u\in{\cal N}_{\lambda, \Omega} $, 有$ J_{\lambda, \Omega}^{\prime}(u)\neq0 $, 因此根据文献[35]可知$ {\cal N}_{\lambda, \Omega} $是一个$ C^{1} $流形. 若$ u_{0} $是$ I_{\lambda, \Omega} $在$ {\cal N}_{\lambda, \Omega} $上的临界点, 则有$ \langle{I_{\lambda, \Omega}^{\prime}(u_{0}), u_{0}}\rangle=0 $. 由文献[35], 存在$ \theta\in{{\Bbb R}} $, 使得$ I_{\lambda, \Omega}^{\prime}(u_{0})=\theta J_{\lambda, \Omega}^{\prime}(u_{0}) $, 其中

$ J_{\lambda, \Omega}(u_{0})={\| u_{0} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda|u_{0}|^{q}_{L^{q}(\Omega)}-{\| u_{0} \|}_{0}^{22^{\ast}_{\mu, s}}. $

又因为

$ \langle{J_{\lambda, \Omega}^{\prime}(u_{0}), u_{0}}\rangle=(2\lambda-q\lambda)|u_{0}|^{q}_{L^{q}(\Omega)}+(2-22^{\ast}_{\mu, s}){\| u_{0}\|}_{0}^{22^{\ast}_{\mu, s}}<0. $

所以由$ I_{\lambda, \Omega}^{\prime}(u_{0})=\theta J_{\lambda, \Omega}^{\prime}(u_{0}) $, 可得

$ 0=\theta \langle{J_{\lambda, \Omega}^{\prime}(u_{0}), u_{0}}\rangle. $

因此可以推断出$ \theta=0 $, 即有$ I_{\lambda, \Omega}^{\prime}(u_{0})=0 $. 证毕.

引理2.5  若$ \lambda>0 $, 则$ {\cal N}_{\lambda, \Omega}\neq\emptyset $且$ I_{\lambda, \Omega} $在$ {\cal N}_{\lambda, \Omega} $上有下界.

证  令$ u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\} $, 考虑函数

$ \begin{eqnarray*} f(t)=I_{\lambda, \Omega}(tu)=\frac{t^{2}}{2}{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda t^{q}}{q}\int_{\Omega}|u|^{q}{\rm d}x-\frac{t^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}{\| u \|}_{0}^{22^{\ast}_{\mu, s}}. \end{eqnarray*} $

则$ f(0)=0 $, 当$ t\rightarrow \infty $时, $ f(t)\rightarrow {-\infty} $.

接下来我们证明存在唯一的$ t_{0}>0 $, 使得$ f^{\prime}(t_{0})=0 $. 因为

$ \begin{eqnarray*} f^{\prime}(t)&=&t{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda t^{q-1}\int_{\Omega}|u|^{q}{\rm d}x-t^{22^{\ast}_{\mu, s}-1}{\| u \|}_{0}^{22^{\ast}_{\mu, s}}\\ &=&t\bigg({\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda t^{q-2}\int_{\Omega}|u|^{q}{\rm d}x-t^{22^{\ast}_{\mu, s}-2}{\| u \|}_{0}^{22^{\ast}_{\mu, s}}\bigg). \end{eqnarray*} $

令

$ k(t)=\lambda t^{q-2}\int_{\Omega}|u|^{q}{\rm d}x+t^{22^{\ast}_{\mu, s}-2}{\| u \|}_{0}^{22^{\ast}_{\mu, s}}, $

由于$ k(t) $关于$ t>0 $是连续的, 且当$ t\rightarrow \infty $时, $ k(t)\rightarrow {+}\infty $, $ k^{\prime}(t)>0 $, 因此, 存在唯一的$ t_{0}>0 $, 使得$ k(t_{0})={\| u \| }^{2} _{{X}_{\, 0}^{\, s}} $, 即$ f^{\prime}(t_{0})=0 $. 所以$ t_{0}f^{\prime}(t_{0})=0 $, $ t_{0}u\in{\cal N}_{\lambda, \Omega} $, 即$ {\cal N}_{\lambda, \Omega}\neq\emptyset $. 若$ u\in{\cal N}_{\lambda, \Omega} $,

$ \begin{eqnarray*} {\| u \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}=\lambda\int_{\Omega}|u|^{q}{\rm d}x+{\| u \|}_{0}^{22^{\ast}_{\mu, s}} \leq C\lambda{\| u \| }^{q}_{{X}_{\, 0}^{\, s}(\Omega)}+C{\| u \| }^{22^{\ast}_{\mu, s}}_{{X}_{\, 0}^{\, s}(\Omega)}, \end{eqnarray*} $

因此$ {\| u \| } _{{X}_{\, 0}^{\, s}(\Omega)} $具有一致的正下界. 则由

$ \begin{eqnarray*} I_{\lambda, \Omega}(u)=(\frac{1}{2}-\frac{1}{q})\lambda\int_{\Omega}|u|^{q}{\rm d}x+(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}}){\| u \|}_{0}^{22^{\ast}_{\mu, s}}>0. \end{eqnarray*} $

可得, $ \inf\limits_{u\in{\cal N}_{\lambda, \Omega}}I_{\lambda, \Omega}(u)>0 $. 也就是说$ I_{\lambda, \Omega} $在$ {\cal N}_{\lambda, \Omega} $上有下界. 证毕.

在本节中, 我们将给出$ (PS)_{c} $条件的证明以及$ I_{\lambda, \Omega} $在Nehari流形上的极小达到函数的存在性. 我们定义

$ \begin{eqnarray*} m_{\lambda}:=\inf\limits_{{\cal N}_{\lambda, \Omega}}I_{\lambda, \Omega}(u), \quad\quad c_{\lambda}:=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}} \max\limits_ {t\geq 0}I_{\lambda, \Omega}(tu). \end{eqnarray*} $

引理3.1  设$ N>2s $, $ s\in(0, 1) $, $ \lambda\in(0, \lambda_{1, s}) $, $ q\in[2, 2^\ast_s) $, 若$ c<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} $, 则$ I_{\lambda, \Omega} $满足$ (PS)_{c} $条件.

证  设$ \{u_{n}\}_{n\in {\Bbb N}} $是$ {X}_{\, 0}^{\, s}(\Omega) $上的$ (PS)_{c} $列, 则当$ q\in(2, 2^{\ast}_{s}) $时,

$ \begin{eqnarray*} c+1+{\| u_{n} \| } _{{X}_{\, 0}^{\, s}(\Omega)}&\geq &I_{\lambda, \Omega}(u_{n})-\frac{1}{q}\langle{I_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle\\ &=&(\frac{1}{2}-\frac{1}{q}){\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+(\frac{1}{q}-\frac{1}{22^{\ast}_{\mu, s}}){\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\geq&(\frac{1}{2}-\frac{1}{q}){\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}, \end{eqnarray*} $

因此$ {\| u_{n} \| }_{{X}_{\, 0}^{\, s}(\Omega)} $有界.

当$ q=2 $时,

$ \begin{eqnarray*} c+1+{\| u_{n} \| } _{{X}_{\, 0}^{\, s}(\Omega)}&\geq& I_{\lambda, \Omega}(u_{n})-\frac{1}{22^{\ast}_{\mu, s}}\langle{I_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle\\ &=&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}}){\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+(\frac{1}{22^{\ast}_{\mu, s}}-\frac{1}{2})\lambda\int_{\Omega}|u_{n}|^{2}{\rm d}x\\ &\geq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(1-\frac{\lambda}{\lambda_{1, s}}){\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}, \end{eqnarray*} $

因此$ {\| u_{n} \| }_{{X}_{\, 0}^{\, s}(\Omega)} $有界.

由于$ {X}_{\, 0}^{\, s}(\Omega) $是自反的, 所以存在子列仍记为$ \{u_{n}\} $, 以及$ u_{0}\in{X}_{\, 0}^{\, s}(\Omega) $, 使得当$ n\rightarrow {\infty} $时,

$ u_{n}\rightharpoonup u_{0}\quad {X}_{\, 0}^{\, s}(\Omega), \quad u_{n}\rightarrow u_{0}\quad L^{r}(\Omega), \ \mbox{其中}\ r\in[1, 2^{\ast}_{s}), \quad u_{n}\rightarrow u_{0}\quad {\rm a.e.} \ \Omega. $

并且对任意的$ \varphi\in{X}_{\, 0}^{\, s}(\Omega) $, 有

$ \langle{I_{\lambda, \Omega}^{\prime}(u_{n}), \varphi}\rangle\rightarrow \langle{I_{\lambda, \Omega}^{\prime}(u_{0}), \varphi}\rangle=0, $

即$ I_{\lambda, \Omega}^{\prime}(u_{0})=0 $.

接下来令$ v_{n}:=u_{n}-u_{0} $. 由Brezis-Lieb引理^[8], 可得

$ {\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}={\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+{\| u_{0} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+o(1), $

再根据文献[28], 有

$ {\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}={\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}+{\| u_{0} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1). $

所以当$ n\rightarrow {\infty} $时,

$ \begin{eqnarray*} \langle{I_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle&=&{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda\int_{\Omega}|u_{n}|^{q}{\rm d}x-{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &=&{\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+{\| u_{0} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda\int_{\Omega}|u_{0}|^{q}{\rm d}x-{\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}-{\| u_{0} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1)\\ &=&\langle{I_{\lambda, \Omega}^{\prime}(u_{0}), u_{0}}\rangle+{\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-{\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1). \end{eqnarray*} $

又因为$ I_{\lambda, \Omega}^{\prime}(u_{n})\rightarrow 0 $, $ I_{\lambda, \Omega}^{\prime}(u_{0})=0 $, 我们得到当$ n\rightarrow {\infty} $时, $ {\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}={\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1). $假设$ {\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}\rightarrow b $, 则有$ {\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\rightarrow b $.

我们断言$ b=0 $. 若$ b\neq0 $, 则由$ S_{s}^{H} $的定义, 可得$ {\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}\geq S_{s}^{H}{\| v_{n} \|}_{0}^{2}. $因此可得$ b\geq S_{s}^{H}b^{\frac{1}{2^{\ast}_{\mu, s}}} $, 即$ b\geq(S_{s}^{H})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} $又因为当$ n\rightarrow {\infty} $时,

$ \begin{eqnarray*} I_{\lambda, \Omega}(u_{n})&=&\frac{1}{2}{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{q}\int_{\Omega}|u_{n}|^{q}{\rm d}x-\frac{1}{22^{\ast}_{\mu, s}}{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &=&\frac{1}{2}{\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}+\frac{1}{2}{\| u_{0} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{q}|u_{0}|^{q}_{L^{q}_{(\Omega)}}\\ &&-\frac{1}{22^{\ast}_{\mu, s}}{\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}-\frac{1}{22^{\ast}_{\mu, s}}{\| u_{0} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1)\\ &=&I_{\lambda, \Omega}(u_{0})+\frac{1}{2}{\| v_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{1}{22^{\ast}_{\mu, s}}{\| v_{n} \|}_{0}^{22^{\ast}_{\mu, s}}+o(1)\\ &\geq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})b \geq (\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S_{s}^{H})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}. \end{eqnarray*} $

根据

$ (\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}\leq I_{\lambda, \Omega}(u_{n})\leq c<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} $

可得矛盾. 因此$ b=0 $, 即$ (PS)_{c} $条件成立. 证毕.

引理3.2  设$ N>2s $, $ s\in(0, 1) $, $ \lambda\in(0, \lambda_{1, s}) $, $ q\in[2, 2^\ast_s) $. 若$ c<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} $, 则$ I_{\lambda, \Omega} $在$ {\cal N}_{\lambda, \Omega} $上满足$ (PS)_{c} $条件.

证  设$ u_{n}\in{\cal N}_{\lambda, \Omega} $, 使得$ I_{\lambda, \Omega}(u_{n})\rightarrow c $. 由文献[35, 性质5.12] 可知存在一个序列$ \{\theta_{n}\}\subset{{\Bbb R}} $, 当$ n\rightarrow {\infty} $时, $ {\| I_{\lambda, \Omega}^{\prime}(u_{n})-\theta_{n}J_{\lambda, \Omega}^{\prime}(u_{n}) \| }^{2} _{{X}_{\, 0}^{'s}(\Omega)}\rightarrow 0, $其中$ J_{\lambda, \Omega}(u_{n})={\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda|u_{n}|^{q}_{L^{q}(\Omega)}-{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}. $因此有$ I_{\lambda, \Omega}^{\prime}(u_{n})=\theta_{n}J_{\lambda, \Omega}^{\prime}(u_{n})+o(1). $又因为

$ \begin{eqnarray*} \langle{J_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle&=&2{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-q\lambda |u_{n}|^{q}_{L^{q}(\Omega)}-22^{\ast}_{\mu, s}{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &=&\lambda(2-q)|u_{n}|^{q}_{L^{q}(\Omega)}+(2-22^{\ast}_{\mu, s}){\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq& 0. \end{eqnarray*} $

当$ u_{n}\in{\cal N}_{\lambda, \Omega} $时,

$ \begin{eqnarray*} {\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}=\lambda\int_{\Omega}|u_{n}|^{q}{\rm d}x+{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}} \leq C\lambda{\| u_{n} \| }^{q}_{{X}_{\, 0}^{\, s}(\Omega)}+C{\| u_{n} \| }^{22^{\ast}_{\mu, s}}_{{X}_{\, 0}^{\, s}(\Omega)}, \end{eqnarray*} $

因此存在$ C^{\prime}>0 $, $ {\| u_{n} \| }_{{X}_{\, 0}^{\, s}(\Omega)}\geq C^{\prime} $. 所以设$ \langle{J_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle\rightarrow l<0 $. 又由$ \langle{I_{\lambda, \Omega}^{\prime}(u_{n}), u_{n}}\rangle=0 $, 可得当$ n\rightarrow {\infty} $时, $ \theta_{n}\rightarrow 0 $. 因此, $ I_{\lambda, \Omega}^{\prime}(u_{n})\rightarrow 0 $, 即

$ \begin{eqnarray*} I_{\lambda, \Omega}(u_{n})\rightarrow c<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}, \quad \quad I_{\lambda, \Omega}^{\prime}(u_{n})\rightarrow 0. \end{eqnarray*} $

由引理3.1可知$ (PS)_{c} $条件成立. 证毕.

不失一般性, 我们假设$ 0\in\Omega $, 固定$ \delta>0 $使得$ B_{4\delta}(0)\subset\Omega $. 再定义$ \eta\in C^{\infty}_{c}({{\Bbb R}} ^{N}) $使得在$ {{\Bbb R}} ^{N} $上, $ 0\leq\eta\leq1 $, 在$ B_{\delta}(0) $上, $ \eta\equiv1 $, 在$ {{\Bbb R}} ^{N}\setminus B_{2\delta}(0) $上, $ \eta\equiv0 $且$ |\nabla\eta|<C $.

定义函数族

$ U_{\varepsilon}(x)=\varepsilon^{-\frac{(N-2s)}{2}}(\frac{u^{\ast}(\frac{x}{\varepsilon})}{|u^{\ast}|_{2^{\ast}_{s}}}), \quad \quad x\in{{{\Bbb R}} ^{N}} $

和

$ u_{\varepsilon}(x):=\eta(x)U_{\varepsilon}(x), \quad \quad x\in{{{\Bbb R}} ^{N}}, $

其中$ u^{\ast}(x)=\alpha(\beta^{2}+|\frac{x}{S_{s}^{\frac{1}{2s}}}|^{2})^{-\frac{(N-2s)}{2}} $, $ \alpha\in{{\Bbb R}} \setminus\{0\} $, $ \beta>0 $是固定常数.

命题3.1  设$ s\in(0, 1) $且$ N>2s $. 则当$ \varepsilon\rightarrow 0 $时, 以下估计成立：

(i) $ {\| u_{\varepsilon} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}\leq (C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+O(\varepsilon^{N-2s}) $.

(ii) $ {\| u_{\varepsilon} \|}_{0}^{2}\leq(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N-2s}{2}}+O(\varepsilon^{N-2s}) $且

$ {\| u_{\varepsilon} \|}_{0}^{2}\geq((C(N, \mu))^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-O(\varepsilon^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}))^{\frac{N-2s}{2N-\mu}} $, 其中$ 0<\sigma<2N-\mu $.

(iii)

$ \begin{eqnarray*} \int_{\Omega}|u_{\varepsilon}(x)|^{2}{\rm d}x\geq\left\{\begin{array}{ll} C_{s}\varepsilon^{2s}+O(\varepsilon^{N-2s}), \quad&\mbox{若}\ N>4s, \\ C_{s}\varepsilon^{2s}|\log{\varepsilon}|+O(\varepsilon^{2s}), \quad&\mbox{若}\ N=4s, \\ C_{s}\varepsilon^{N-2s}+O(\varepsilon^{2s}), \quad&\mbox{若}\ N<4s, \end{array}\right. \end{eqnarray*} $

其中$ C_{s} $是正常数.

(iv) $ |u_{\varepsilon}|^{q}_{L^{q}_{(\Omega)}}\geq O(\varepsilon^{N-(\frac{N-2s}{2})q}) $.

证  (i), (ii), (iii)的证明见文献[28]. (iv)的证明见文献[13]. 证毕.

定理1.1的证明  我们考虑变分问题$ m_{\lambda}=\inf\limits_{u\in{\cal N}_{\lambda, \Omega}}I_{\lambda, \Omega}(u) $. 可以验证$ m_{\lambda} $的达到函数即为问题(1.1)的基态解. 为了证明$ m_{\lambda} $可达, 我们需要证明泛函$ I_{\lambda, \Omega}(u) $满足$ (PS)_{c} $条件. 根据引理3.1, 只要证明$ \inf\limits_{u\in{\cal N}_{\lambda, \Omega}} I_{\lambda, \Omega}(u)<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} $. 为此, 只要证明存在$ u_{0}\in{\cal N}_{\lambda, \Omega} $, 使得

$ I_{\lambda, \Omega}(u_{0})<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}. $

对于任意的$ \varepsilon>0 $, 且存在$ t_{\varepsilon}=t_{\varepsilon, \lambda}>0 $使得$ t_{\varepsilon}u_{\varepsilon}\in{\cal N}_{\lambda, \Omega} $, 即

$ t_{\varepsilon}^{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda t_{\varepsilon}^{q}|u_{\varepsilon}|^{q}_{L^{q}(\Omega)}-t_{\varepsilon}^{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}=0. $

根据$ \lambda>0 $以及命题3.1有

$ \begin{eqnarray*} 0&=&t_{\varepsilon}^{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda t_{\varepsilon}^{q}|u_{\varepsilon}|^{q}_{L^{q}(\Omega)}-t_{\varepsilon}^{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq& t_{\varepsilon}^{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-t_{\varepsilon}^{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq &t_{\varepsilon}^{2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}] -t_{\varepsilon}^{22^{\ast}_{\mu, s}}[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}], \end{eqnarray*} $

所以

$ t_{\varepsilon}\leq \bigg[\frac{(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}}{C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}}\bigg]^{\frac{1}{22^{\ast}_{\mu, s}-2}}, $

其中$ \varepsilon $足够小, $ C_{1} $, $ C_{2} $为正常数.

又因为

$ {\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}=\lambda t_{\varepsilon}^{q-2}|u_{\varepsilon}|^{q}_{L^{q}(\Omega)}+t_{\varepsilon}^{22^{\ast}_{\mu, s}-2}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}, $

根据Sobolev嵌入以及命题3.1, 存在正常数$ C_{q} $, $ C_{1} $使得

$ \begin{eqnarray*} 1&=&\lambda t_{\varepsilon}^{q-2}\frac{|u_{\varepsilon}|^{q}_{L^{q}(\Omega)}}{{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}}+t_{\varepsilon}^{22^{\ast}_{\mu, s}-2}\frac{{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}}{{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}}\\ &\leq&\lambda C_{q}t_{\varepsilon}^{q-2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]^{\frac{(q-2)}{2}}\\ &&+t_{\varepsilon}^{22^{\ast}_{\mu, s}-2}(S^{H}_{s})^{-2^{\ast}_{\mu, s}}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]^{2^{\ast}_{\mu, s}-1}, \end{eqnarray*} $

当$ \varepsilon\rightarrow 0 $时, 可知存在$ T>0 $使得$ t_{\varepsilon}\geq T $.

若$ q\in(2, 2^{\ast}_{s}) $, 由命题3.1可得

$ \begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&=&\frac{t_{\varepsilon}^{2}}{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{q} t_{\varepsilon}^{q}|u_{\varepsilon}|^{q}_{L^{q}(\Omega)}-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq&\frac{t_{\varepsilon}^{2}}{2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]-\frac{\lambda}{q} t_{\varepsilon}^{q}C_{3}\varepsilon^{N-(\frac{N-2s}{2})q}\\ &&-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}], \end{eqnarray*} $

其中$ C_{1} $, $ C_{2} $, $ C_{3} $是正常数.

令

$ \begin{eqnarray*} g(t)&=&\frac{t_{\varepsilon}^{2}}{2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]\\ &&-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}], \end{eqnarray*} $

易知$ g(t) $在$ [0, (\frac{(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}}{C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}})^{\frac{1}{22^{\ast}_{\mu, s}-2}}] $上是单增的. 因此, 存在正常数$ C_{4} $使得

$ \begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&\leq&\frac{1}{2}\frac{[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}}{[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}]^{\frac{1}{2^{\ast}_{\mu, s}-1}}}\\ &&-\frac{1}{22^{\ast}_{\mu, s}}\frac{1}{2}\frac{[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}}{[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}]^{\frac{1}{2^{\ast}_{\mu, s}-1}}}-\frac{\lambda}{q} t_{\varepsilon}^{q}C_{3}\varepsilon^{N-(\frac{N-2s}{2})q}\\ &=&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})\frac{[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}}{[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}]^{\frac{1}{2^{\ast}_{\mu, s}-1}}}-\frac{\lambda}{q} t_{\varepsilon}^{q}C_{3}\varepsilon^{N-(\frac{N-2s}{2})q}\\ &=&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+C_{4}\varepsilon^{N-2s}-\frac{\lambda}{q} t_{\varepsilon}^{q}C_{3}\varepsilon^{N-(\frac{N-2s}{2})q}\\ &\leq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+\varepsilon^{N-(\frac{N-2s}{2})q}(C_{4}\varepsilon^{\frac{(N-2s)}{2}q-2s}-\frac{\lambda}{q}T^{q}C_{3})\\ &<&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}, \end{eqnarray*} $

其中$ \lambda>0 $, $ \varepsilon $足够小, $ N>\frac{2s(q+2)}{q} $.

若$ q=2 $, 分为两种情况$ N>4s $与$ N=4s $. 当$ N>4s $时,

$ \begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&=&\frac{t_{\varepsilon}^{2}}{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{2} t_{\varepsilon}^{2}|u_{\varepsilon}|^{2}_{L^{2}(\Omega)}-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq&\frac{t_{\varepsilon}^{2}}{2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]-\frac{\lambda}{2}t_{\varepsilon}^{2}(C_{s}{\varepsilon}^{2s}+C_{5}{\varepsilon}^{N-2s})\\ &&-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}], \end{eqnarray*} $

其中$ C_{1} $, $ C_{2} $, $ C_{5} $是正常数. 因此我们有

$ \begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&\leq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+C_{4}\varepsilon^{N-2s}-\frac{\lambda}{2} t_{\varepsilon}^{2}C_{s}\varepsilon^{2s}\\ &\leq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+\varepsilon^{2s}(C_{4}\varepsilon^{N-4s}-\frac{\lambda T^{2}C_{s}}{2})\\ &<&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}, \end{eqnarray*} $

其中$ \lambda>0 $, $ \varepsilon $足够小.

当$ N=4s $时,

$ \begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&=&\frac{t_{\varepsilon}^{2}}{2}{\| u_{\varepsilon} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda}{2} t_{\varepsilon}^{2}|u_{\varepsilon}|^{2}_{L^{2}(\Omega)}-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}{\| u_{\varepsilon} \|}_{0}^{22^{\ast}_{\mu, s}}\\ &\leq&\frac{t_{\varepsilon}^{2}}{2}[(C(N, \mu))^{\frac{N(N-2s)}{2s(2N-\mu)}}(S_{s}^{H})^{\frac{N}{2s}}+C_{1}{\varepsilon}^{N-2s}]-\frac{\lambda}{2} t_{\varepsilon}^{2}(C_{s}\varepsilon^{2s}|\log{\varepsilon}|+C_{5}\varepsilon^{2s})\\ &&-\frac{t_{\varepsilon}^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}[C(N, \mu)^{\frac{N}{2s}}(S_{s}^{H})^{\frac{2N-\mu}{2s}}-C_{2}{\varepsilon}^{\frac{N(2N-\mu-\sigma)}{2N-\sigma}}], \end{eqnarray*} $

其中$ C_{1} $, $ C_{2} $, $ C_{5} $是正常数. 所以

$ \begin{eqnarray*} I_{\lambda, \Omega}(t_{\varepsilon}u_{\varepsilon})&\leq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+C_{4}\varepsilon^{2s}-\frac{\lambda}{2} t_{\varepsilon}^{2}C_{s}\varepsilon^{2s}|\log{\varepsilon}|\\ &\leq&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+\varepsilon^{2s}(C_{4}-\frac{T^{2}C_{s}\lambda}{2}|\log{\varepsilon}|)\\ &<&(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}, \end{eqnarray*} $

其中$ \lambda>0 $, $ \varepsilon $足够小. 因此存在$ u_{0}=t_{\varepsilon}u_{\varepsilon} $, $ \varepsilon $足够小, 有$ u_{0}\in{\cal N}_{\lambda, \Omega} $, 使得

$ I_{\lambda, \Omega}(u_{0})<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}. $

因此,

$ \inf\limits_{u\in{\cal N}_{\lambda, \Omega}}I_{\lambda, \Omega}(u)<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}. $

由引理3.1, 引理2.3以及山路引理, 存在$ u_{\lambda, \Omega}\in{X}_{\, 0}^{\, s}{(\Omega)} $, 使得

$ I_{\lambda, \Omega}(u_{\lambda, \Omega})=c_{\lambda}=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}} \max\limits_ {t\geq 0}I_{\lambda, \Omega}(tu), $

且$ I_{\lambda, \Omega}^{\prime}(u_{\lambda, \Omega})=0 $, 即$ u_{\lambda, \Omega}\in{\cal N}_{\lambda, \Omega} $. 因此, $ m_{\lambda}\leq c_{\lambda} $. 再根据引理2.5, 对任意的$ v\in{\cal N}_{\lambda, \Omega} $, 存在唯一的$ t_{0}>0 $, 使得$ \max\limits_{t\geq 0}I_{\lambda, \Omega}(tv)=I_{\lambda, \Omega}(t_{0}v) $, 又因为$ u_{\lambda, \Omega}\in{\cal N}_{\lambda, \Omega} $, 即可得$ c_{\lambda}\leq\max\limits_{t\geq 0}I_{\lambda, \Omega}(tu)=I_{\lambda, \Omega}(u_{\lambda, \Omega}) $, 因此有$ m_{\lambda}\geq c_{\lambda} $. 即得$ m_{\lambda}=c_{\lambda} $. 所以存在$ u_{\lambda, \Omega}\in{\cal N}_{\lambda, \Omega} $, 使得$ I_{\lambda, \Omega}(u_{\lambda, \Omega})=c_{\lambda}=m_{\lambda}= \inf\limits_{u\in{\cal N}_{\lambda, \Omega}} I_{\lambda, \Omega}(u) $, 又因为$ I_{\lambda, \Omega}(u_{\lambda, \Omega})=I_{\lambda, \Omega}(|u_{\lambda, \Omega}|) $, 可以假设$ u_{\lambda, \Omega}\geq 0 $. 证毕.

在本节中, 我们利用重心函数将水平集与区域$ \Omega $联系起来, 再根据畴数定理推导出方程(1.1)有$ {\rm cat}_{\Omega}(\Omega) $个正解.

当$ \lambda=0 $时,

$ I_{0, \Omega}(u)=\frac{1}{2}{\| u \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\frac{1}{22^{\ast}_{\mu, s}}{\| u \|}_{0}^{22^{\ast}_{\mu, s}}. $

$ m_{0}:=\inf\limits_{{\cal N}_{0, \Omega}}I_{0, \Omega}(u), \quad\quad c_{0}:=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}} \max\limits_{t\geq 0}I_{0, \Omega}(tu). $

$ {\cal N}_{0, \Omega}=\{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}:{\| u \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}={\| u \|}_{0}^{22^{\ast}_{\mu, s}}\}. $

引理4.1  $ m_{0}=(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} $.

证  若$ A, B>0 $, 则

$ \max\limits_{t\geq 0}\{\frac{t^{2}}{2}A-\frac{t^{22^{\ast}_{\mu, s}}}{22^{\ast}_{\mu, s}}B\}=(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(\frac{A^{2^{\ast}_{\mu, s}}}{B})^{\frac{1}{2^{\ast}_{\mu, s}-1}}. $

因此

$ m_{0}=\inf\limits_{u\in {X}_{\, 0}^{\, s}{(\Omega)}\setminus\{0\}}\max\limits_{t\geq 0}I_{0, \Omega}(tu)=(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}. $

证毕.

引理4.2  若$ \lambda_{n}\rightarrow 0 $, 则$ c_{\lambda_{n}}\rightarrow c_{0} $.

证  已知对所有的$ n\in {\Bbb N} $, 有$ c_{\lambda_{n}}\leq c_{0}. $设$ \{u_{n}\}_{n\in {\Bbb N}}\subset{X}_{\, 0}^{\, s}{(\Omega)} $, 使得$ I_{\lambda_{n}, \Omega}(u_{n})=c_{\lambda_{n}} $, 且$ I_{\lambda_{n}, \Omega}^{\prime}(u_{n})=0 $以及$ \{t_{n}\}\subset{{\Bbb R}} $, $ t_{n}u_{n}\in{\cal N}_{0, \Omega} $, 则有

$ c_{0}\leq I_{0, \Omega}(t_{n}u_{n})=I_{\lambda_{n}, \Omega}(t_{n}u_{n})+\frac{\lambda_{n}t_{n}^{q}}{q}|u_{n}|^{q}_{L^{q}({\Omega})}. $

因此

$ c_{0}\leq c_{\lambda_{n}}+\frac{\lambda_{n}t_{n}^{q}}{q}|u_{n}|^{q}_{L^{q}{(\Omega)}}. $

我们断言$ \{t_{n}\} $是有界序列. 否则若$ t_{n}\rightarrow \infty $, 由$ c_{\lambda_{n}}\leq c_{0} $, 可得$ \{u_{n}\}_{n\in {\Bbb N}}\subset{X}_{\, 0}^{\, s}{(\Omega)} $是有界序列, 又因为$ t_{n}u_{n}\in{\cal N}_{0, \Omega} $, 有

$ {\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}=t_{n}^{22^{\ast}_{\mu, s}-2}{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}, $

所以当$ n\rightarrow \infty $时,

$ {\| u_{n}\|}_{0}^{22^{\ast}_{\mu, s}}\rightarrow 0. $

根据$ \langle{I_{\lambda_{n}, \Omega}^{\prime}(u_{n}), u_{n}}\rangle=0 $, 即

$ \begin{eqnarray*} {\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}={\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda_{n}|u_{n}|^{q}_{L^{q}({\Omega})} \geq {\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}-\lambda_{n}C_{q}{\| u_{n} \| }^{q}_{{X}_{\, 0}^{\, s}(\Omega)} \geq (C^{\prime})^{2}-\lambda_{n}\bar{C}, \end{eqnarray*} $

其中$ \bar{C}>0 $是适当的常数. 当$ \lambda_{n}\rightarrow 0 $, 可知$ {\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\nrightarrow 0 $, 所以$ \{t_{n}\} $是有界的. 因此由$ c_{0}\leq c_{\lambda_{n}}+\frac{\lambda_{n}t_{n}^{q}}{q}|u_{n}|^{q}_{L^{q}({\Omega})} $可得

$ \begin{eqnarray*} c_{0}\leq\liminf\limits_{n\rightarrow \infty} c_{\lambda_{n}}\leq\limsup\limits_{n\rightarrow \infty} c_{\lambda_{n}}\leq c_{0}, \end{eqnarray*} $

即$ { } c_{0}=\lim\limits_{n\rightarrow \infty}c_{\lambda_{n}} $. 证毕.

引理4.3  令$ \{v_{n}\} $是一个序列, 在$ {{D}}^{\, s, 2}{({{\Bbb R}} ^N)} $中弱收敛到$ v $, 使得在测度的意义下

$ \begin{eqnarray*} |(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\rightharpoonup\omega , \quad\quad |v_{n}|^{2^{\ast}_{s}}\rightharpoonup\tau , \quad\quad (|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}\rightharpoonup\nu. \end{eqnarray*} $

其中$ \omega $, $ \tau $和$ \nu $是$ {{\Bbb R}} ^N $中的有界非负测度, 并且定义

$ \begin{eqnarray*} &&\omega_{\infty}:=\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{|x|>R}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x, \\ &&\tau_{\infty}:=\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{|x|>R}|v_{n}|^{2^{\ast}_{s}}{\rm d}x, \\ &&\nu_{\infty}:=\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{|x|>R}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x. \end{eqnarray*} $

则有以下式子成立

(4.1) $ \begin{equation} \limsup\limits_{n\rightarrow \infty}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}=\int_{{{\Bbb R}} ^{N}}{\rm d}\omega+\omega_{\infty}, \end{equation} $

(4.2) $ \begin{equation} \limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}\int_{{{\Bbb R}} ^{N}}\frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=\int_{{{\Bbb R}} ^{N}}{\rm d}\nu+\nu_{\infty}, \end{equation} $

(4.3) $ \begin{equation} (S^{H}_{s})^{2}{\nu_{\infty}}^{\frac{2}{2^{\ast}_{\mu, s}}}\leq\omega_{\infty} \bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega+\omega_{\infty}\bigg). \end{equation} $

并且, 当$ v=0 $, $ \int_{{{\Bbb R}} ^{N}}{\rm d}\omega=(\int_{{{\Bbb R}} ^{N}}{\rm d}\nu)^{\frac{1}{2^{\ast}_{\mu, s}}}S^{H}_{s} $时, $ v $集中于一点.

证  先证(4.1)式. 令$ \eta\in C^{\infty}({{\Bbb R}} ^{N}) $, 使得在$ {{\Bbb R}} ^{N} $上, $ 0\leq\eta\leq1 $, 在$ B_{1} $上, $ \eta=0 $且在$ {{\Bbb R}} ^{N}\setminus B_{2} $上, $ \eta=1 $. 对所有的$ R>0 $, 令$ \eta_{R}(x)=\eta(\frac{x}{R}) $, 则有

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x=\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\eta_{R}^{2}{\rm d}x+\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}(1-\eta_{R}^{2}){\rm d}x. \end{eqnarray*} $

又因为

$ \begin{eqnarray*} \int_{|x|>2R}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x\leq\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\eta_{R}^{2}{\rm d}x\leq\int_{|x|>R}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x, \end{eqnarray*} $

可得

$ \omega_{\infty}=\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\eta_{R}^{2}{\rm d}x, $

并且

$ \lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}(1-\eta_{R}^{2}){\rm d}x=\lim\limits_{R\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}(1-\eta_{R}^{2}){\rm d}\omega=\int_{{{\Bbb R}} ^{N}}{\rm d}\omega. $

因此当$ R\rightarrow \infty $, 由Lebesgue定理可知

$ { } \limsup\limits_{n\rightarrow \infty}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}=\int_{{{\Bbb R}} ^{N}}{\rm d}\omega+\omega_{\infty}. $

再证(4.2)式. 根据

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}&=&\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}{\eta_{R}(x)}^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}\\ &&+\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}(1-{\eta_{R}(x)}^{2^{\ast}_{\mu, s}})}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}. \end{eqnarray*} $

以及

$ \begin{eqnarray*} \int_{|x|>2R}\int_{{{\Bbb R}} ^N}\frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}&\leq&\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|{\eta_{R}(x)}v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}\\ &\leq&\int_{|x|>R}\int_{{{\Bbb R}} ^N}\frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}, \end{eqnarray*} $

可得

$ \nu_{\infty}=\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^N}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|\eta_{R}v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x. $

又有

$ \begin{eqnarray*} &&\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}(1-{\eta_{R}(x)}^{2^{\ast}_{\mu, s}}){{\rm d}x{\rm d}y}\\ &=&\lim\limits_{R\rightarrow \infty}\int_{{{\Bbb R}} ^N}(1-{\eta_{R}(x)}^{2^{\ast}_{\mu, s}}){\rm d}\nu =\int_{{{\Bbb R}} ^N}{\rm d}\nu, \end{eqnarray*} $

所以当$ R\rightarrow \infty $, 由Lebesgue定理可知

$ \begin{eqnarray*} \limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}\int_{{{\Bbb R}} ^{N}}\frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=\int_{{{\Bbb R}} ^{N}}{\rm d}\nu+\nu_{\infty}. \end{eqnarray*} $

接下来证不等式(4.3). 由Sobolev不等式可得

$ \begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\eta_{R}v_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}\leq\bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\eta_{R}^{2}{\rm d}x\bigg)^{\frac{1}{2}}+\bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}\eta_{R}|^{2}|v_{n}|^{2}{\rm d}x\bigg)^{\frac{1}{2}}. \end{eqnarray*} $

由文献[3, 引理1.4.5]有

$ \begin{eqnarray*} \lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}\eta_{R}|^{2}|v_{n}|^{2}{\rm d}x=0, \end{eqnarray*} $

则

$ \begin{eqnarray*} \lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\eta_{R}v_{n})|^{2}{\rm d}x\leq\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\eta_{R}^{2}{\rm d}x=\omega_{\infty}. \end{eqnarray*} $

所以, 由Hardy-Littlewood-Sobolev不等式, 可得

$ \begin{eqnarray*} \nu_{\infty}&=&\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^N}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|\eta_{R}v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &\leq & C(N, \mu)\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\bigg[\int_{{{\Bbb R}} ^N}|v_{n}|^{2^{\ast}_{s}}{\rm d}x\int_{{{\Bbb R}} ^N}|\eta_{R}v_{n}|^{2^{\ast}_{s}}{\rm d}x\bigg]^{\frac{2N-\mu}{2N}}\\ &\leq & C(N, \mu)S_{s}^{-2^{\ast}_{\mu, s}}\lim\limits_{R\rightarrow \infty}\limsup\limits_{n\rightarrow \infty}\bigg[\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\eta_{R}v_{n})|^{2}{\rm d}x\bigg]^{\frac{2^{\ast}_{\mu, s}}{2}}\\ &\leq&(S_{s}^{H})^{-2^{\ast}_{\mu, s}}\bigg[\omega_{\infty}(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega+\omega_{\infty})\bigg]^{\frac{2^{\ast}_{\mu, s}}{2}}. \end{eqnarray*} $

即$ (S^{H}_{s})^{2}{\nu_{\infty}}^{\frac{2}{2^{\ast}_{\mu, s}}}\leq\omega_{\infty}(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega+\omega_{\infty}) $. 接下来证明

(4.4) $ \begin{equation} S^{H}_{s}\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}\leq\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}. \end{equation} $

令$ \xi_{n}=v_{n}-v $, 则有

$ |(-\Delta)^{\frac{s}{2}}\xi_{n}|^{2}\rightharpoonup\bar{\omega}, \quad\quad(|x|^{-\mu}\ast|\xi_{n}|^{2^{\ast}_{\mu, s}})|\xi_{n}|^{2^{\ast}_{\mu, s}}\rightharpoonup\kappa. $

令$ \psi\in C^{\infty}_{c}({{\Bbb R}} ^{N}) $, 使得在$ {{\Bbb R}} ^{N} $上, $ 0\leq\psi\leq1 $; 在$ B_{1} $上, $ \psi=1 $且在$ {{\Bbb R}} ^{N}\setminus B_{2} $上, $ \psi=0 $. 由$ S^{H}_{s} $的定义可知

$ \begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|\psi\xi_{n}(x)|^{2^{\ast}_{\mu, s}}|\psi\xi_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y} \bigg)^{\frac{1}{22^{\ast}_{\mu, s}}}\leq({S^{H}_{s}})^{-\frac{1}{2}}\bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\psi\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}. \end{eqnarray*} $

由Minkowski不等式可得

$ \begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\psi\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}&\leq& \bigg(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} |\psi(y)|^{2}\frac{|\xi_{n}(x)-\xi_{n}(y)|^{2}}{|x-y|^{N+2s}}{{\rm d}x{\rm d}y}\bigg)^{\frac{1}{2}}\\ &&+\bigg(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} |\xi_{n}(x)|^{2}\frac{|\psi(x)-\psi(y)|^{2}}{|x-y|^{N+2s}}{{\rm d}x{\rm d}y}\bigg)^{\frac{1}{2}}\\ &=&\bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{2}|(-\Delta)^{\frac{s}{2}}(\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}+\bigg(\int_{{{\Bbb R}} ^{N}}|\xi_{n}|^{2}|(-\Delta)^{\frac{s}{2}}\psi|^{2}{\rm d}x\bigg)^{\frac{1}{2}}. \end{eqnarray*} $

下面证明

$ \int_{{{\Bbb R}} ^{N}}|\xi_{n}|^{2}|(-\Delta)^{\frac{s}{2}}\psi|^{2}{\rm d}x=o(1). $

简单起见, 假设supp$ \psi=\bar{B_{1}} $, 令$ w(x)=\int_{{{\Bbb R}} ^{N}}\frac{|\psi(x)-\psi(y)|^{2}}{|x-y|^{N+2s}}{\rm d}y $. 因为

$ \begin{eqnarray*} w(x)&=&\int_{|y-x|\leq1}\frac{|\psi(x)-\psi(y)|^{2}}{|x-y|^{N+2s}}{\rm d}y+w(x)+\int_{|y-x|>1}\frac{|\psi(x)-\psi(y)|^{2}}{|x-y|^{N+2s}}{\rm d}y\\ &\leq&|\nabla\psi|^{2}_{L^{\infty}({{\Bbb R}} ^{N})}\int_{|y-x|\leq1}\frac{1}{|x-y|^{N+2s-2}}{\rm d}y+4|\psi|^{2}_{L^{\infty}({{\Bbb R}} ^{N})}\int_{|y-x|>1}\frac{1}{|x-y|^{N+2s}}{\rm d}y\\ &\leq& C, \end{eqnarray*} $

所以$ w\in L^{\infty}({{\Bbb R}} ^{N}) $. 并且, 当$ |x|>2 $, $ |y|\leq1 $时, 可得$ |x-y|\geq|x|-|y|\geq|x|-1\geq\frac{|x|}{2} $, 因此

$ \begin{eqnarray*} w(x)=\int_{|y|\leq1}\frac{|\psi(y)|^{2}}{|x-y|^{N+2s}}{\rm d}y\leq\frac{|\psi|^{2}_{L^{\infty}({{\Bbb R}} ^{N})}2^{N+2s}\omega_{n}}{|x|^{N+2s}}=\frac{C}{|x|^{N+2s}}. \end{eqnarray*} $

固定$ R>2 $, 由Hölder不等式可得

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^{N}}|\xi_{n}(x)|^{2}w(x){\rm d}x&=&\int_{|x|\leq R}|\xi_{n}(x)|^{2}w(x){\rm d}x+\int_{|x|>R}|\xi_{n}(x)|^{2}w(x){\rm d}x\\ &\leq&|w|_{L^{\infty}({{\Bbb R}} ^{N})}\int_{|x|\leq R}|\xi_{n}(x)|^{2}{\rm d}x+|\xi_{n}(x)|^{2}_{L^{2^{\ast}_{s}}({{\Bbb R}} ^{N})}\bigg(\int_{|x|>R}|w|^{\frac{2^{\ast}_s}{2^{\ast}_s-2}}{\rm d}x\bigg)^{\frac{2^{\ast}_s-2}{2^{\ast}_s}}\\ &\leq& C\int_{|x|\leq R}|\xi_{n}(x)|^{2}{\rm d}x+C \bigg(\int_{|x|>R}\frac{1}{|x|^{\frac{N^{2}}{2s}+N}}{\rm d}x\bigg)^{\frac{2^{\ast}_s-2}{2^{\ast}_s}}, \end{eqnarray*} $

根据$ \xi_{n}(x)\rightarrow 0 $在$ L^{2}(B_{R}) $中, 可以得到, 对$ \forall R>2 $, 有

$ \begin{eqnarray*} \limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^{N}}|\xi_{n}(x)|^{2}w(x){\rm d}x\leq C\bigg(\int_{|x|>R}\frac{1}{|x|^{\frac{N^{2}}{2s}+N}}{\rm d}x\bigg)^{\frac{2^{\ast}_s-2}{2^{\ast}_s}}, \end{eqnarray*} $

因此当$ n\rightarrow \infty $时,

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^{N}}|\xi_{n}|^{2}|(-\Delta)^{\frac{s}{2}}\psi|^{2}{\rm d}x=o(1). \end{eqnarray*} $

从而,

(4.5) $ \begin{equation} \bigg(\int_{{{\Bbb R}} ^{N}}|(-\Delta)^{\frac{s}{2}}(\psi\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}\leq\bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{2}|(-\Delta)^{\frac{s}{2}}(\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}+o(1). \end{equation} $

另一方面, 已知

$ \int_{{{\Bbb R}} ^{N}}|\psi|^{2}|(-\Delta)^{\frac{s}{2}}\xi_{n}|^{2}{\rm d}x\rightarrow \int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\bar{\omega}, $

$ \int_{{{\Bbb R}} ^{N}}|\psi|^{2^{\ast}_{\mu, s}}\bigg(\int_{{{\Bbb R}} ^{N}}\frac{|\xi_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{\rm d}y\bigg)|\xi_{n}(x)|^{2^{\ast}_{\mu, s}}{\rm d}x\rightarrow \int_{{{\Bbb R}} ^{N}}|\psi|^{2^{\ast}_{\mu, s}}{\rm d}\kappa, $

再由文献[14, (2.8)式], 有

$ \begin{eqnarray*} && \int_{{{\Bbb R}} ^{N}}(|x|^{-\mu}\ast|\psi\xi_{n}(x)|^{2^{\ast}_{\mu, s}})|\psi\xi_{n}(x)|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &=&\int_{{{\Bbb R}} ^{N}}(|x|^{-\mu}\ast|\xi_{n}(x)|^{2^{\ast}_{\mu, s}})|\psi(x)|^{2^{\ast}_{\mu, s}}|\psi(x)\xi_{n}(x)|^{2^{\ast}_{\mu, s}}{\rm d}x+o(1). \end{eqnarray*} $

根据(4.5)式以及$ S^{H}_{s} $的定义可得

$ \begin{eqnarray*} &&\bigg(\int_{{{\Bbb R}} ^{N}}|\psi(x)|^{22^{\ast}_{\mu, s}}\bigg(\int_{{{\Bbb R}} ^{N}}\frac{|\xi_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{\rm d}y\bigg)|\xi_{n}(x)|^{2^{\ast}_{\mu, s}}{\rm d}x\bigg)^{\frac{1}{22^{\ast}_{\mu, s}}}\\ &\leq&\bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{2}|(-\Delta)^{\frac{s}{2}}(\xi_{n})|^{2}{\rm d}x\bigg)^{\frac{1}{2}}+o(1). \end{eqnarray*} $

故当$ n\rightarrow \infty $时, 有

$ \begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{22^{\ast}_{\mu, s}}{\rm d}\kappa\bigg)^{\frac{1}{22^{\ast}_{\mu, s}}}\leq({S^{H}_{s}})^{-\frac{1}{2}} \bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\bar{\omega}\bigg)^{\frac{1}{2}}. \end{eqnarray*} $

取光滑函数$ \chi_{R}(x) $满足当$ |x|<R-1 $时$ \chi_{R}\equiv1 $, $ |x|\geq R $时$ \chi_{R}(x)\equiv0 $, 且在$ {{\Bbb R}} ^{N} $上, $ 0\leq\chi_{R}(x)\leq1 $. 显然$ \forall R>1 $, 有$ \chi_{R}(x)\in C_{c}^{\infty}({{\Bbb R}} ^{N}) $. 因而

$ \begin{eqnarray*} \bigg(\int_{B_{R-1}(0)}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}&\leq&\bigg(\int_{{{\Bbb R}} ^{N}}|\chi_{R}|^{22^{\ast}_{\mu, s}}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}} \leq({S^{H}_{s}})^{-1}\int_{{{\Bbb R}} ^{N}}|\chi_{R}|^{2}{\rm d}\bar{\omega}\\ &= &({S^{H}_{s}})^{-1}\int_{B_{R}(0)}|\chi_{R}|^{2}{\rm d}\bar{\omega}\leq({S^{H}_{s}})^{-1}\int_{B_{R}(0)}{\rm d}\bar{\omega}. \end{eqnarray*} $

令$ R\rightarrow \infty $, 可得

$ S^{H}_{s} \bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}\leq\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}. $

最后证当$ v=0 $, $ \int_{{{\Bbb R}} ^{N}}{\rm d}\omega=(\int_{{{\Bbb R}} ^{N}}{\rm d}\nu)^{\frac{1}{2^{\ast}_{\mu, s}}}S^{H}_{s} $时, $ v $集中于一点. 当$ v=0 $时, $ \kappa=\nu $, $ \bar{\omega}=\omega $, 由Hölder不等式可知

$ \begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{2^{\ast}_{\mu, s}}{\rm d}\nu\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}} &\leq& ({S^{H}_{s}})^{-1}\int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\omega\\ &\leq&({S^{H}_{s}})^{-1} \bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{22^{\ast}_{\mu, s}}{\rm d}\omega\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}} \bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega\bigg)^{\frac{2^{\ast}_{\mu, s}-1}{2^{\ast}_{\mu, s}}}, \end{eqnarray*} $

则有

$ \nu=({S^{H}_{s}})^{-2^{\ast}_{\mu, s}}\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega\bigg)^{2^{\ast}_{\mu, s}-1}\omega. $

将其代入$ (\int_{{{\Bbb R}} ^{N}}|\psi|^{22^{\ast}_{\mu, s}}{\rm d}\nu)^{\frac{1}{2^{\ast}_{\mu, s}}}\leq({S^{H}_{s}})^{-1}\int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\omega $, 可得

$ \begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^{N}}|\psi|^{22^{\ast}_{\mu, s}}{\rm d}\nu\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}} &\leq&({S^{H}_{s}})^{-1}\int_{{{\Bbb R}} ^{N}}|\psi|^{2}({S^{H}_{s}})^{2^{\ast}_{\mu, s}} \bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega\bigg)^{1-2^{\ast}_{\mu, s}}{\rm d}\nu\\ &=&\bigg[S^{H}_{s}\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\omega\bigg)^{-1}\bigg]^{2^{\ast}_{\mu, s}-1}\int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\nu \\ &=&\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\nu\bigg)^{\frac{1-2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}}}\int_{{{\Bbb R}} ^{N}}|\psi|^{2}{\rm d}\nu. \end{eqnarray*} $

所以对任意开集$ \Omega $, 有$ \nu(\Omega)^{\frac{1}{2^{\ast}_{\mu, s}}}\nu({{\Bbb R}} ^{N})^{\frac{2^{\ast}_{\mu, s}-1}{2^{\ast}_{\mu, s}}}\leq\nu(\Omega) $. 若$ \nu(\Omega)\neq0 $, 则有$ \nu({{\Bbb R}} ^{N})\leq\nu(\Omega) $. 若$ \nu $集中于两个以上的点, 取$ \Omega $中只包含一个点, 则$ \nu(\Omega)<\nu({{\Bbb R}} ^{N})\leq\nu(\Omega) $, 矛盾. 因此$ \nu $集中于一点. 证毕.

引理4.4  设$ \{u_{n}\}_{n\in {\Bbb N}}\subset{X}_{\, 0}^{\, s}{(\Omega)} $是非负序列且

$ \begin{eqnarray*} {\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}=1, \quad\quad {\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}\rightarrow S_{s}^{H}, \end{eqnarray*} $

则存在一个序列$ z_{n}\in{{{\Bbb R}} ^{N}} $, $ \alpha_{n}\in{{\Bbb R}} ^{+} $, 使得

$ \begin{eqnarray*} v_{n}(x)=\alpha_{n}^{\frac{N-2s}{2}}u_{n}(\alpha_{n}x+z_{n}) \end{eqnarray*} $

有收敛子列, 仍记为$ v_{n} $. 并且在$ {{D}}^{\, s, 2}{({{\Bbb R}} ^N)} $中$ v_{n}\rightarrow v{\not\equiv}0 $, $ z_{n}\rightarrow z\in\bar{\Omega} $, 且当$ n\rightarrow \infty $时, $ \alpha_{n}\rightarrow 0 $. 特别地, $ v $是$ S_{s}^{H} $的极小化子.

证  定义Lévy集中函数

$ \begin{eqnarray*} Q_{n}(\lambda):=\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, \lambda)}(|x|^{-\mu}\ast|u_{n}|^{2^{\ast}_{\mu, s}})|u_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x. \end{eqnarray*} $

易知对任意的$ n $, $ \lim\limits_{\lambda\rightarrow 0^{+}}Q_{n}(\lambda)=0 $, $ \lim\limits_{\lambda\rightarrow \infty}Q_{n}(\lambda)=1 $, 存在$ \alpha_{n}>0 $, 使得$ Q_{n}(\alpha_{n})=\frac{1}{2} $. 并且, 存在$ z_{n}\in{{{\Bbb R}} ^{N}} $使得

$ \begin{eqnarray*} \frac{1}{2}=Q_{n}(\alpha_{n})=\int_{B(z_{n}, \alpha_{n})}(|x|^{-\mu}\ast|u_{n}|^{2^{\ast}_{\mu, s}})|u_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x. \end{eqnarray*} $

接下来定义$ v_{n}(x)=\alpha_{n}^{\frac{N-2s}{2}}u_{n}(\alpha_{n}x+z_{n}) $, 则

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=1, \end{eqnarray*} $

当$ n\rightarrow \infty $时, $ |(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}\rightarrow S^{H}_{s} $, 且

$ \begin{eqnarray*} &&\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &=&\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, 1)}(|x|^{-\mu}\ast|\alpha_{n}^{\frac{N-2s}{2}}u_{n}(\alpha_{n}x+z_{n})|^{2^{\ast}_{\mu, s}})|\alpha_{n}^{\frac{N-2s}{2}}u_{n}(\alpha_{n}x+z_{n})|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &=&\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z_{n}+z\alpha_{n}, \alpha_{n})}(|x|^{-\mu}\ast|u_{n}|^{2^{\ast}_{\mu, s}})|u_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &=&\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, \alpha_{n})}(|x|^{-\mu}\ast|u_{n}|^{2^{\ast}_{\mu, s}})|u_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &=&\frac{1}{2}. \end{eqnarray*} $

又因为

$ \begin{eqnarray*} \int_{B(0, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x=\int_{B(z_{n}, \alpha_{n})}(|x|^{-\mu}\ast|u_{n}|^{2^{\ast}_{\mu, s}})|u_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x=\frac{1}{2}, \end{eqnarray*} $

因此

(4.6) $ \begin{equation} \frac{1}{2}=\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x=\int_{B(0, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x. \end{equation} $

因为$ \{v_{n}\} $在$ {{D}}^{\, s, 2}{({{\Bbb R}} ^N)} $上有界, 所以存在子列仍记为$ \{v_{n}\} $使得

$ v_{n}\rightharpoonup v \quad{{D}}^{\, s, 2}{({{\Bbb R}} ^N)}, \quad\quad\quad v_{n}\rightarrow v\quad {\rm a.e.} \ {{\Bbb R}} ^N. $

并且根据文献[35, 定理1.39]可知, 有界测度是弱紧的, 因此存在$ \omega $, $ \tau $和$ \nu $, 在测度的意义下使得

$ |(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\rightharpoonup\omega , \quad\quad |v_{n}|^{2^{\ast}_{s}}\rightharpoonup\tau , \quad\quad (|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}\rightharpoonup\nu. $

现在, 利用Brezis-Lieb引理, 我们有

$ |(-\Delta)^{\frac{s}{2}}(v_{n}-v)|^{2}\rightharpoonup\bar{\omega}:=\omega-|(-\Delta)^{\frac{s}{2}}v|^{2}, $

$ |v_{n}-v|^{2^{\ast}_{s}}\rightharpoonup\bar{\tau}:=\tau-|v|^{2^{\ast}_{s}}, $

$ (|x|^{-\mu}\ast|v_{n}-v|^{2^{\ast}_{\mu, s}})|v_{n}-v|^{2^{\ast}_{\mu, s}}\rightharpoonup\kappa:=\upsilon-(|x|^{-\mu}\ast|v|^{2^{\ast}_{\mu, s}})|v|^{2^{\ast}_{\mu, s}}. $

当$ n\rightarrow \infty $时,

$ |(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}\rightarrow S^{H}_{s}, \ \ \ \ |(-\Delta)^{\frac{s}{2}}v_{n}|^{2}\rightharpoonup\bar{\omega}+|(-\Delta)^{\frac{s}{2}}v|^{2}, $

通过引理4.3中的(4.1)式有

$ \begin{eqnarray*} S^{H}_{s}=\limsup\limits_{n\rightarrow \infty}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}=\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}+|(-\Delta)^{\frac{s}{2}}v|^{2}_{2}+\omega_{\infty}. \end{eqnarray*} $

又

$ \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=1, $

$ (|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}\rightharpoonup\kappa+(|x|^{-\mu}\ast|v|^{2^{\ast}_{\mu, s}})|v|^{2^{\ast}_{\mu, s}}, $

由(4.2)式有

$ \begin{eqnarray*} 1&=&\limsup\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}\\ &=&\int_{{{\Bbb R}} ^N}{\rm d}\kappa+\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}+\nu_{\infty}. \end{eqnarray*} $

根据不等式(4.3)以及$ S^{H}_{s}=\int_{{{\Bbb R}} ^N}{\rm d}\omega+\omega_{\infty} $可知$ (S^{H}_{s}){\nu_{\infty}}^{\frac{2}{2^{\ast}_{\mu, s}}}\leq\omega_{\infty}. $因此

$ \begin{eqnarray*} S^{H}_{s}&=&\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}+|(-\Delta)^{\frac{s}{2}}v|^{2}_{2}+\omega_{\infty}\\ &\geq& S^{H}_{s}\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}+S^{H}_{s} \bigg(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}+(S^{H}_{s}){\nu_{\infty}}^{\frac{2}{2^{\ast}_{\mu, s}}}, \end{eqnarray*} $

即

$ \begin{eqnarray*} 1&=&\int_{{{\Bbb R}} ^N}{\rm d}\kappa+\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}+\nu_{\infty}\\ &\geq&\bigg(\int_{{{\Bbb R}} ^{N}}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}+ \bigg(\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y} \bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}+{\nu_{\infty}}^{\frac{2}{2^{\ast}_{\mu, s}}}. \end{eqnarray*} $

所以

$ \int_{{{\Bbb R}} ^N}{\rm d}\kappa, \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}, $

$ \nu_{\infty} $等于$ 1 $或$ 0 $. 利用(4.6)式有$ \nu_{\infty}\leq\frac{1}{2} $. 因此$ \nu_{\infty}=0 $. 若$ \int_{{{\Bbb R}} ^N}{\rm d}\kappa=1 $, 则

$ \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=0, $

由此可知$ v=0\ {\rm a.e.} \ {{\Bbb R}} ^N $, 所以$ S^{H}_{s}=\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}+\omega_{\infty}\geq\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}, $由此可得

$ S^{H}_{s}\bigg(\int_{{{\Bbb R}} ^N}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}\geq\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}, $

因此

$ S^{H}_{s}\bigg(\int_{{{\Bbb R}} ^N}{\rm d}\kappa\bigg)^{\frac{1}{2^{\ast}_{\mu, s}}}=\int_{{{\Bbb R}} ^{N}}{\rm d}\bar{\omega}. $

根据$ v=0\quad {\rm a.e.} \ {{\Bbb R}} ^N $, 可知$ v $集中于一点$ z_{0} $. 又因为

$ \begin{eqnarray*} \frac{1}{2}&=&\sup\limits_{z\in{{\Bbb R}} ^N}\int_{B(z, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\\ &\geq&\int_{B(z_{0}, 1)}(|x|^{-\mu}\ast|v_{n}|^{2^{\ast}_{\mu, s}})|v_{n}|^{2^{\ast}_{\mu, s}}{\rm d}x\rightarrow \int_{{{\Bbb R}} ^N}{\rm d}\kappa=1. \end{eqnarray*} $

这是不可能的, 因此

$ \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=1, $

又因为$ S^{H}_{s}=\lim\limits_{n\rightarrow \infty}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}_{2}=|(-\Delta)^{\frac{s}{2}}v|^{2}_{2}, $即$ v $是$ S^{H}_{s} $的极小化子. 从引理2.1中可知$ S^{H}_{s} $是可达的当且仅当

$ u=C\Big(\frac{t}{t^{2}+|x-x_{0}|^{2}}\Big)^{\frac{N-2s}{2}}, $

其中$ x \in {{\Bbb R}} ^N $, $ x_{0}\in {{\Bbb R}} ^N $, $ C>0 $, $ t>0 $.即$ v=u=C(\frac{t}{t^{2}+|x-x_{0}|^{2}})^{\frac{N-2s}{2}} $. 特别的, $ v\not\equiv0 $.

接下来证明$ \alpha_{n}\rightarrow 0 $且$ z_{n}\rightarrow z_{0}\in\bar{\Omega} $. 首先证明$ \{\alpha_{n}\}_{n\in {\Bbb N}} $有界. 若$ \alpha_{n}\rightarrow \infty $, 因为$ \{u_{n}\} $在$ {X}_{\, 0}^{\, s}{(\Omega)} $上是有界的, 则$ \{u_{n}\}_{n\in {\Bbb N}}\subset L^{2}(\Omega) $也是有界的. 所以定义$ \Omega_{n}=\frac{\Omega-z_{n}}{\alpha_{n}}, $可得

$ \int_{\Omega_{n}}|v_{n}|^{2}{\rm d}x=\int_{\Omega_{n}}|{\alpha_{n}}^{\frac{N-2s}{2}}u_{n}(\alpha_{n}+z_{n})|^{2}{\rm d}x=\frac{1}{{\alpha_{n}}^{2s}}\int_{\Omega}|u_{n}|^{2}{\rm d}x\leq\frac{C}{{\alpha_{n}}^{2s}}\rightarrow0, $

其中$ C $是正常数. 另外由Fatou引理, 有

$ 0=\liminf\limits_{n\rightarrow \infty}\int_{\Omega_{n}}|v_{n}|^{2}{\rm d}x\geq\int_{\Omega_{n}}|v|^{2}{\rm d}x, $

可得$ v\equiv0 $, 矛盾. 因此$ \{\alpha_{n}\}_{n\in {\Bbb N}} $是有界的, 故可以设当$ n\rightarrow \infty $时, $ \alpha_{n}\rightarrow \alpha_{0} $, $ \alpha_{0}\in{{\Bbb R}} $.

再证$ \{z_{n}\}_{n\in {\Bbb N}} $有界. 因为$ \Omega $是有界域, 当$ z_{n}\rightarrow \infty $, 对$ \forall x\in\Omega $, $ n $足够大, 可得$ \alpha_{n}x+z_{n}\notin\bar{\Omega} $. 根据$ u_{n}\in{X}_{\, 0}^{\, s}{(\Omega)} $, 对$ \forall x\in\Omega $, 有$ u_{n}(\alpha_{n}x+z_{n})=0 $, 这与假设$ {\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}=1 $矛盾, 所以$ \{z_{n}\}_{n\in {\Bbb N}} $是有界的, 因此可以假设当$ n\rightarrow \infty $时, $ z_{n}\rightarrow z_{0} $.

下面证明$ \alpha_{n}\rightarrow0 $. 因为$ \Omega_{n}\rightarrow \frac{\Omega-z_{0}}{\alpha_{0}}=\Omega_{0}\neq{{\Bbb R}} ^N $. 根据假设可得

$ \int_{\Omega_{0}}\int_{\Omega_{0}} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}={\|u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}=1, \int_{\Omega_{0}}|(-\Delta)^{\frac{s}{2}}v_{n}|^{2}{\rm d}x={\| u_{n} \| }^{2}_{{X}_{\, 0}^{\, s}(\Omega)}\rightarrow S^{H}_{s}. $

通过当$ n\rightarrow \infty $, 在$ {{D}}^{\, s, 2}{({{\Bbb R}} ^N)} $中$ v_{n}\rightarrow v $, 可得

$ \int_{\Omega_{0}}\int_{\Omega_{0}} \frac{|v(x)|^{2^{\ast}_{\mu, s}}|v(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}=1, \quad\int_{\Omega_{0}}|(-\Delta)^{\frac{s}{2}}v|^{2}{\rm d}x=S^{H}_{s}, $

这是不可能的. 所以, 当$ n\rightarrow \infty $时, $ \alpha_{n}\rightarrow0 $.

最后, 若$ z_{0}\notin\bar{\Omega} $. 当$ n\rightarrow \infty $时, 对所有的$ x\in\Omega $, 有$ \alpha_{n}x+z_{n}\rightarrow z_{0} $, 根据$ z_{0}\notin\bar{\Omega} $, 可得当$ n $很大时, $ \alpha_{n}x+z_{n}\notin\bar{\Omega} $, 因此$ u_{n}(\alpha_{n}x+z_{n})=0 $, 这与$ {\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}=1 $矛盾, 即$ z_{0}\in\bar{\Omega} $. 证毕.

因为$ \Omega $是有界域, 选择$ r>0 $足够小, 使得

$ \Omega^{+}_{r}:=\{x\in{{\Bbb R}} ^N:\mbox{dist}(x, \Omega)<r\} , {\quad} \Omega^{-}_{r}:=\{x\in\Omega:\mbox{dist}(x, \partial\Omega)>r\} $

与$ \Omega $是同伦的. 设$ B_{r}=B_{r}(0)\subset\Omega $. 令

$ m(\lambda)=\inf\{I_{\lambda, B_{r}}(u):u\in{\cal N}_{\lambda, B_{r}}\}, $

其中

$ I_{\lambda, B_{r}}(u):=\frac{1}{2}{\| u \| }^{2} _{{X}_{\, 0}^{\, s}(B_{r})}-\frac{\lambda}{q}\int_{B_{r}}|u|^{q}{\rm d}x-\frac{1}{22^{\ast}_{\mu, s}}\int_{B_{r}}\int_{B_{r}} \frac{|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}. $

特别地, 在第3节中, 引理4.1和引理4.2中均取$ \Omega=B_{r} $, 相关结论也成立. 另外, 由定理1.1, 可知存在$ u_{\lambda, B_{r}}\in{\cal N}_{\lambda, B_{r}} $, 在$ B_{r} $中$ u_{\lambda, B_{r}}\geq0 $, 且

$ I_{\lambda, B_{r}}(u_{\lambda, B_{r}})=\inf\limits_{u\in{\cal N}_{\lambda, B_{r}}}I_{\lambda, B_{r}}(u)<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}. $

由极值原理, $ u_{\lambda, B_{r}}>0 $, 根据文献[24]可得$ u_{\lambda, B_{r}} $是球对称的. 下面令$ I_{\lambda, \Omega}^{m(\lambda)}=\{u\in{\cal N}_{\lambda, \Omega}:I_{\lambda, \Omega}(u)\leq m(\lambda)\} $, 对给定的$ u_{\lambda, B_{r}} $定义$ \phi_{\lambda}:\Omega^{-}_{r}\rightarrow I_{\lambda, \Omega}^{m(\lambda)} $,

(4.7) $ \begin{equation} \phi_{\lambda}(y)(x)=\left\{\begin{array}{ll}u_{\lambda, B_{r}}(x-y) , \quad &\mbox{若}\ x\in B_{r}(y), \\ 0, &\mbox{若}\ x\notin B_{r}(y). \end{array}\right. \end{equation} $

另外, 定义重心映射$ \beta:{\cal N}_{\lambda, \Omega}\rightarrow {{\Bbb R}} ^{N} $如下

$ \beta(u)=\frac{\int_{\Omega}\int_{\Omega} \frac{x|u(x)|^{2^{\ast}_{\mu, s}}|u(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}}{{\|u \|}_{0}^{22^{\ast}_{\mu, s}}}, $

因为$ u_{\lambda, B_{r}} $是球对称的, 对任意$ y\in\Omega^{-}_{r} $, 有$ \beta(\phi_{\lambda}(y))=y $.

引理4.5  令$ s\in(0, 1) $, $ n>2s $, $ q\in[2, 2^{\ast}_{s}) $, 存在$ \lambda^{\ast}>0 $, 使得对$ \lambda\in(0, \lambda^{\ast}) $, 若$ u\in I_{\lambda, \Omega}^{m(\lambda)} $, 则$ \beta(u)\in\Omega^{+}_{r} $.

证  用反证法, 假设存在$ \{\lambda_{n}\}\in{{\Bbb R}} ^{+} $, $ u_{n}\in I_{\lambda_{n}, \Omega}^{m(\lambda_{n})} $使得$ \lambda_{n}\rightarrow0 $, $ \beta(u_{n})\notin\Omega^{+}_{r} $. 已知

$ c_{\lambda_{n}}\leq I_{\lambda_{n}, \Omega}(u_{n})=\frac{1}{2}{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{\lambda_{n}}{q}\int_{\Omega}|u_{n}|^{q}{\rm d}x-\frac{1}{22^{\ast}_{\mu, s}}{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\leq m(\lambda_{n}) $

和

$ 0=\langle{I_{\lambda_{n}, \Omega}^{\prime}(u_{n}), u_{n}}\rangle={\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\lambda_{n}\int_{\Omega}|u_{n}|^{q}{\rm d}x-{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}. $

因为$ \{u_{n}\}_{n\in {\Bbb N}} $在$ {X}_{\, 0}^{\, s}(\Omega) $上有界, 由Sobolev紧嵌入我们有

$ o(1)={\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}} $

和

$ c_{\lambda_{n}}+o(1)\leq\frac{1}{2}{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}-\frac{1}{22^{\ast}_{\mu, s}}{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}\leq m(\lambda_{n})+o(1). $

又当$ \lambda_{n}\rightarrow0 $时, 有

$ c_{\lambda_{n}}\rightarrow (\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}, \quad\quad m(\lambda_{n})\rightarrow (\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}. $

令$ w_{n}:=\frac{u_{n}}{{\| u_{n} \|}_{0}} $, 则$ {\| w_{n} \|}_{0}=1 $, 且

$ {\| w_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}=\frac{{\| u_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}}{{\| u_{n} \|}^{2}_{0}} =\frac{(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+o(1)}{((S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}+o(1))^{\frac{1}{2^{\ast}_{\mu, s}}}} \leq S^{H}_{s}+o(1), $

即$ S^{H}_{s}\leq{\| w_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}\leq S^{H}_{s}+o(1) $, 因此$ {\| w_{n} \| }^{2} _{{X}_{\, 0}^{\, s}(\Omega)}\rightarrow S^{H}_{s} $.

由引理4.4, 存在$ \alpha_{n}\in{{\Bbb R}} ^{+} $, 序列$ z_{n}\in{{{\Bbb R}} ^{N}} $使得$ v_{n}(x)=\alpha_{n}^{\frac{N-2s}{2}}w_{n}(\alpha_{n}x+z_{n}) $强收敛到$ v\in{{D}}^{\, s, 2}{({{\Bbb R}} ^N)} $. 注意到

$ \begin{eqnarray*} \beta(u_{n})&=&\frac{\int_{\Omega}\int_{\Omega} \frac{x|u_{n}(x)|^{2^{\ast}_{\mu, s}}|u_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}}{{\| u_{n} \|}_{0}^{22^{\ast}_{\mu, s}}} =\frac{\int_{\Omega}\int_{\Omega} \frac{x|w_{n}(x)|^{2^{\ast}_{\mu, s}}|w_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}}{{\| w_{n} \|}_{0}^{22^{\ast}_{\mu, s}}} =\beta(w_{n}). \end{eqnarray*} $

令$ \varphi\in C_{0}^{\infty}({{\Bbb R}} ^{N}) $, 使得$ \varphi(x)=x $, 对所有的$ x\in\bar{\Omega} $, 可得

$ \begin{eqnarray*} \beta(w_{n})&=&\frac{\int_{\Omega}\int_{\Omega} \frac{x|w_{n}(x)|^{2^{\ast}_{\mu, s}}|w_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}}{{\| w_{n} \|}_{0}^{22^{\ast}_{\mu, s}}}\\ &=&\frac{\int_{{{\Bbb R}} ^{N}}\int_{{{\Bbb R}} ^{N}} \frac{\varphi(\alpha_{n}x+z_{n})|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}}{\int_{{{\Bbb R}} ^{N}}\int_{{{\Bbb R}} ^{N}} \frac{|v_{n}(x)|^{2^{\ast}_{\mu, s}}|v_{n}(y)|^{2^{\ast}_{\mu, s}}}{|x-y|^{\mu}}{{\rm d}x{\rm d}y}} \rightarrow z\in\bar{\Omega}, \end{eqnarray*} $

这与$ \beta(u_{n})\notin\Omega^{+}_{r} $矛盾, 所以$ \beta(u_{n})\in\Omega^{+}_{r} $. 证毕.

引理4.6  假设$ s\in(0, 1) $, $ N>2s $, $ q\in[2, 2^{\ast}_{s}) $. 对$ \lambda\in(0, \lambda^{\ast}) $有$ {\rm cat}_{\Omega}(\Omega)\leq {\rm cat}_{I_{\lambda, \Omega}^{m(\lambda)}}(I_{\lambda, \Omega}^{m(\lambda)}). $

证  设$ I_{\lambda, \Omega}^{m(\lambda)}=A_{1}\cup A_{2}\cdots\cup A_{n} $, 其中$ A_{j} $, $ j=1, 2, \cdots, n $, 是$ I_{\lambda, \Omega}^{m(\lambda)} $中的可压缩集, 即存在$ h_{j}\in C([0, 1]\times A_{j}, I_{\lambda, \Omega}^{m(\lambda)}) $, 使得对$ \forall u, v\in A_{j} $, 有

$ h_{j}(0, u)=u, {\quad} h_{j}(1, u)=h_{j}(1, v). $

由(4.7)式定义的$ \phi_{\lambda} $, 令

$ B_{j}=\phi_{\lambda}^{-1}(A_{j}), {\quad} j=1, 2, \cdots, n, $

则$ B_{j} $是闭集且$ B_{j}\subset\Omega_{r}^{-} $, 对$ \forall x\in\Omega_{r}^{-} $, $ \phi_{\lambda}(x)\in I_{\lambda, \Omega}^{m(\lambda)}\subset\bigcup\limits_{j=1}^n{A_{j}} $, 所以存在$ j_{0} $, 使得$ \phi_{\lambda}(x)\in A_{j_{0}} $, 即$ x\in\phi_{\lambda}^{-1}(A_{j_{0}})=B_{j_{0}} $. 因此$ \Omega_{r}^{-}=\bigcup\limits_{j=1}^n{B_{j}}. $再证$ B_{j} $在$ \Omega_{r}^{+} $上可压缩. 令$ g_{j}(t, x)\in C([0, 1]\times B_{j}, \Omega_{r}^{+}) $,

$ g_{j}(t, x)=\beta(h_{j}(t, \phi_{\lambda}(x))), \quad 1\leq j\leq n, $

有$ g_{j}(0, x)=\beta(h_{j}(0, \phi_{\lambda}(x)))=\beta(\phi_{\lambda}(x)) $, $ \forall x, y\in B_j $,

$ g_{j}(1, x)=\beta(h_{j}(1, \phi_{\lambda}(x)))=\beta(h_{j}(1, \phi_{\lambda}(y)))=g_{j}(1, y). $

所以$ B_{j} $在$ \Omega_{r}^{+} $上可压缩, 即可得$ {\rm cat}_{\Omega}(\Omega)={\rm cat}_{\Omega_{r}^{+}}(\Omega_{r}^{-})\leq {\rm cat}_{I_{\lambda, \Omega}^{m(\lambda)}}(I_{\lambda, \Omega}^{m(\lambda)}) $. 证毕.

定理1.2的证明  由引理3.2, 当$ c<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}})(S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}} $, $ \lambda\in(0, \lambda_{1, s}) $时, $ I_{\lambda, \Omega} $在$ {\cal N}_{\lambda, \Omega} $上满足$ (PS)_{c} $条件. 当$ q\in(2, 2^{\ast}_{s}) $, $ \lambda>0 $, $ N>\frac{2s(q+2)}{q} $或$ q=2 $, $ \lambda\in(0, \lambda_{1, s}) $, $ N\geq 4 $, 则由定理1.1,

$ \inf\limits_{u\in{\cal N}_{\lambda, \Omega}}I_{\lambda, \Omega}(u)<(\frac{1}{2}-\frac{1}{22^{\ast}_{\mu, s}}) (S^{H}_{s})^{\frac{2^{\ast}_{\mu, s}}{2^{\ast}_{\mu, s}-1}}. $

再根据Lusternik-Schnirelman定理^[35]以及引理4.6, 对任意的$ \lambda\in(0, \bar{\lambda}) $, 其中当$ q=2 $时, $ \bar{\lambda}=\min\{\lambda_{1, s}, \lambda^{\ast}\} $, 当$ q\in(2, 2^{\ast}_{s}) $时, $ \bar{\lambda}=\lambda^{\ast} $, 在$ {\cal N}_{\lambda, \Omega} $上$ I_{\lambda, \Omega} $至少有$ {\rm cat}_{\Omega}(\Omega) $个非平凡的临界点, 利用引理2.4, 可知在$ {X}_{\, 0}^{\, s}(\Omega) $上$ I_{\lambda, \Omega} $至少有$ {\rm cat}_{\Omega}(\Omega) $非平凡的个临界点. 证毕.