本文主要考虑如下极小化问题

(1.1) $ \begin{equation} m(c)=\inf \left\{E(u):u\in S_c\right\}, \end{equation} $

其中

$ E(u)=\frac{a}{2}\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u|^2{\rm d}x+\frac{b}{4}\left(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u|^2{\rm d}x\right)^2-\int_{{{\Bbb R}} ^N} G(|x|, u){\rm d}x, $

$ a, b>0 $, $ c $是给定的常数, $ 0<s<1 $,

$ S_c:=\left\{\ u\in H^s({{\Bbb R}} ^N):\int_{{{\Bbb R}} ^N}|u|^2{\rm d}x=c^2\right\}, {\quad} G(r, t)=\int_{0}^{t}g(r, s){\rm d}s. $

$ H^s({{\Bbb R}} ^N) $表示通常的Besov空间, 定义为

$ H^s=\left\{u\in L^2({{\Bbb R}} ^N): \frac{u(x)-u(y)}{|x-y|^{\frac{N+2s}{2}}}\in L^2({{\Bbb R}} ^N\times{{\Bbb R}} ^N)\right\}. $

空间$ H^s({{\Bbb R}} ^N) $上的范数定义为

$ \| u\| _{H^s({{\Bbb R}} ^N)}=\left(\int_{{{\Bbb R}} ^N} \left(|(-\Delta )^\frac{s}{2}u|^2+|u|^2\right){\rm d}x\right)^{\frac{1}{2}}, $

其中

$ \int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2}u|^2{\rm d}x=\int\!\!\!\!\int_{{{\Bbb R}} ^{2N}}\frac{|u(x)-u(y)|^2}{|x-y|^{N+2s}}{\rm d}x{\rm d}y. $

问题(1.1) 是一类含分数阶拉普拉斯算子的Kirchhoff型约束变分问题. 近年来, 分数阶拉普拉斯算子频繁出现在数学物理和相关领域的各类方程中, 见文献[1–2] 及其相关文献. 自从Di Nezza等在文献[3] 中得到分数阶索伯列夫嵌入不等式后, 关于分数阶拉普拉斯方程解的存在性、唯一性和非退化性等结果如雨后春笋般出现, 如Ou, Li和Chen^[4]研究了非线性分数阶方程在次临界、临界、超临界情形下解的存在性, 并且利用保形对称这一特点证明了解的唯一性. Li^[5]证明了非线性分数阶方程存在唯一的正解. 在文献[6] 中, Frank和Lenzmann利用约束变分的思想和常微分理论证明了一维空间中非线性分数阶方程基态解的唯一性和非退化性. 进一步, Frank等在文献[7] 中改进了文献[6] 的方法, 克服了维数障碍, 分别得到了线性和非线性分数阶方程高维情形时径向解的唯一性.

本文主要考虑当非线性项函数$ G $满足合适的条件时, 极小化问题(1.1) 在空间$ H^s({{\Bbb R}} ^N) $上极小解的存在性. 此时非线性项是一般非线性情形, 难以利用集中紧引理得到紧性, 因此, 本文主要考虑极小化问题(1.1) 在空间$ H^s({{\Bbb R}} ^N) $上Schwarz对称极小解的存在性. 易知若函数$ u $是问题(1.1) 的解, 则存在拉格朗日乘子$ \mu $, 使得$ u $满足下列分数阶基尔霍夫方程

(1.2) $ \begin{equation} \left(a+b\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u|^2{\rm d}x \right)(-\Delta)^su-g(x, u)=\mu u. \end{equation} $

关于方程(1.2) 解的存在性及其相关性质的研究, 近年来受到广泛关注. 当$ s=1 $时, 方程(1.2) 为经典的稳态基尔霍夫方程, 相关文献结果非常丰富, 如当$ f(x, u) $满足临界或次临界条件时解的存在性结果可见文献[8–13], 解的多重性结果可见文献[13–15], 峰解的存在性可见文献[16–17], 解的唯一性可见文献[18–19], 解的爆破分析可见文献[20–21] 等. 当$ 0<s<1 $时, 关于方程$ (1.2) $解的存在性及其相关性质, 如临界指数情形基态解的存在性可见文献[22], 变号解的存在性可见文献[23], 解的多重性可见文献[24], 次临界情形基态解的存在性和唯一性可见文献[25] 等. 而关于一般非线性情形约束在流形$ S_c $上非平凡解的研究, 据我们所知, 暂时未见文献结果. 在此基础上, 本文研究问题(1.1) Schwarz对称极小解的存在性, 即考虑方程(1.2) 满足条件$ S_{c} $的Schwarz对称解的存在性.

假设函数$ G $满足条件

$ (G_{0}) $$ G:[0, \infty)\times {{\Bbb R}} \rightarrow {{\Bbb R}} $是Carathéodory函数且满足

$ \bullet $对$ \forall\ t\in {{\Bbb R}} $, $ G(., t):(0, \infty)\rightarrow {{\Bbb R}} $在$ (0, \infty) $上是可测的;

$ \bullet $对每个$ r\in [0, \infty) \setminus \Gamma $, $ G(r, .): {{\Bbb R}} \rightarrow {{\Bbb R}} $连续, 其中$ \Gamma $是一维零测集.

$ (G_{1}) $对几乎处处的$ r\geq 0 $和每个$ t\in {{\Bbb R}} $, 均有$ G(r, t)\leq G(r, |t|) $成立.

$ (G_{2}) $对几乎处处的$ r\geq 0 $和每个$ t\geq 0 $, $ 0\leq G(r, t)\leq K(t^2+t^{p+2}), $其中$ K>0 $, $ 0<p<\frac{4s}{N-2s} $.

$ (G_{3}) $对$ \forall\ \varepsilon >0 $, $ \exists\ R_{0}>0 $和$ t_{0}>0 $, 使得对几乎处处的$ r\geq R_{0} $和$ 0\leq t\leq t_{0} $, $ G(r, t)\leq \varepsilon t^2 $成立.

$ (G_{4}) $对每个$ 0 \leq r\leq R $和$ 0\leq a\leq A $, $ G(r, a)+G(R, A)\geq G(r, A)+G(R, a). $

在给出本文结论之前, 我们介绍如下分数阶Gagliardo-Nirenberg不等式^{[7, 25]}

(1.3) $ \begin{eqnarray} \int_{{{\Bbb R}} ^N} |u|^{p+2}{\rm d}x\leq \frac{p+2}{|\phi_p|_{2}^p}\alpha_p\beta_p \left(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u|^2{\rm d}x\right)^{\frac{Np}{4s}}\left(\int_{{{\Bbb R}} ^N} |u|^2{\rm d}x\right)^{\frac{2ps-Np+4s}{4s}}, \end{eqnarray} $

其中$ 0<p<\frac{4s}{N-2s} $, $ \alpha_p=\frac{2s}{2ps-Np+4s} $, $ \beta_p=\left(\frac{2ps-Np+4s}{Np}\right)^{\frac{Np}{4s}} $. 上述等式成立当且仅当$ u=\phi_p(x) $且$ \phi_p(x) $是下述非线性分数阶方程唯一的非负径向解

(1.4) $ \begin{equation} (-\Delta)^s u+u-|u|^{p}u=0, \ \ x\in{{{\Bbb R}} ^N}. \end{equation} $

由方程(1.4) 和Pohozaev恒等式, 通过计算可得

(1.5) $ \begin{equation} \int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} \phi_p|^2{\rm d}x=\frac{Np}{2s(p+2)-Np}\int_{{{\Bbb R}} ^N} |\phi_p|^2{\rm d}x=\frac{Np}{2s(p+2)}\int_{{{\Bbb R}} ^N} |\phi_p|^{p+2}{\rm d}x. \end{equation} $

令

(1.6) $ \begin{equation} \tilde{m}_{c}=\inf\bigg \{E(u):u\in H^{s}_{+}({{\Bbb R}} ^N) , \ \int_{{{\Bbb R}} ^N}|u|^2{\rm d}x\leq c^2\bigg\}. \end{equation} $

可得本文的主要结论为

定理1.1  假设函数$ G(|x|, t) $满足条件$ (G_{0}) $–$ (G_{4}) $且当$ d<c $时, $ \tilde{m}_{c} < \tilde{m}_{d} $. 则

(1) 当$ 0<p<\frac{4s}{N} $时, 对任意$ c>0 $, 在空间$ H^s({{\Bbb R}} ^N) $上, 极小化问题(1.1) 存在Schwarz对称极小解.

(2) 当$ p=\frac{4s}{N}, N < 4s $时, 对任意$ c>c_1=(\frac{aN}{K(4s+2N)})^{\frac{N}{4s}}|\phi_p|_{2} $时, 在空间$ H^s({{\Bbb R}} ^N) $上, 极小化问题(1.1) 存在Schwarz对称极小解, 且

$ m(c)\geq-\frac{k^2(2s+N)^2c^{\frac{8s}{N}}}{bN^2|\phi_p|_{2}^{\frac{8s}{N}}}+\frac{aK(2s+N)c^{\frac{4s}{N}}}{bN|\phi_p|_{2}^{\frac{4s}{N}}}-\frac{a^2}{4b}-Kc^2. $

若$ c\leq c_1 $且$ \liminf\limits_{s\rightarrow 0^+}\frac{G(r, s)}{s^{2}}=K $, 则在空间$ H^s({{\Bbb R}} ^N) $上, 极小化问题(1.1) 不存在非零极小解.

(3) 当$ \frac{4s}{N}<p<\frac{8s}{N} $且$ N < 4s $时, 对任意

$ c\geq c_2=\left(\frac{\left(\frac{2as}{8s-Np}\right)^{\frac{8s-Np}{4s}}\left(\frac{bs}{Np-4s}\right)^{\frac{Np-4s}{4s}}}{K(p+2)\alpha_p\beta_p}{|\phi_p|_{2}^p}\right)^{\frac{1}{p+2-\frac{NP}{2s}}}, $

在空间$ H^s({{\Bbb R}} ^N) $上, 极小化问题(1.1) 存在Schwarz对称极小解, 且

$ m(c)\geq \left[\frac{K(p+2)\alpha_p\beta_p}{|\phi_p|_{2}^p}(c_2^{p+2-\frac{Np}{2s}}-c^{p+2-\frac{Np}{2s}})\right] \left(\frac{2(Np-4s)a}{(8s-Np)b}\right)^{\frac{Np}{4s}}-Kc^2. $

若$ c< c_2 $, $ \liminf\limits_{s\rightarrow 0^+}\frac{G(r, s)}{s^{2}}=K $, 则在空间$ H^s({{\Bbb R}} ^N) $上, 极小化问题(1.1) 不存在非零极小解.

(4) 当$ p= \frac{8s}{N} $, $ \liminf\limits_{s\rightarrow 0}\frac{G(r, s)}{s^{p+4}}=A>0 $或$ p> \frac{8s}{N} $, $ \liminf\limits_{s\rightarrow 0}\frac{G(r, s)}{s^{p+2}}=B>0 $时, 对任意$ c>0 $, 在空间$ H^s({{\Bbb R}} ^N) $上, 极小化问题(1.1) 不存在非零Schwarz对称极小解.

本文中, 常数主要表示为$ C, C_1, C_2, \cdots $, 空间$ L^p({{\Bbb R}} ^N) $中的范数为

$ |u|_p=\left(\int_{{{\Bbb R}} ^N}|u|^{p}{\rm d}x\right)^{\frac{1}{p}}. $

引理2.1  假设函数$ f_p(t)=\frac{a}{2}t+\frac{b}{4}t^2-Kc^2-\frac{K(p+2)c^{p+2-\frac{Np}{2s}}}{|\phi_p|_{2}^{p}}\alpha_p\beta_p t^{\frac{Np}{4s}} $, 其中$ t>0 $.

(i) 若$ 0<p<\frac{4s}{N} $, 则$ \forall\ c>0 $, 函数$ f_p(t) $存在唯一的极小值点, 记为$ t_1>0 $, 使得$ f_p(t)\geq f_p(t_1) $.

(ii) 若$ p=\frac{4s}{N} $, 当$ c>c_1=(\frac{aN}{K(4s+2N)})^{\frac{N}{4s}}|\phi_p|_{2} $时, 函数$ f_p(t) $存在唯一的极小点$ t_2=\frac{K(4s+2N)c^{\frac{4s}{N}}}{bN|\phi_p|_{2}^{\frac{4s}{N}}}-\frac{a}{b}>0 $, 使得$ f_p(t)\geq f_p(t_2)=-\frac{k^2(2s+N)^2c^{\frac{8s}{N}}}{bN^2|\phi_p|_{2}^{\frac{8s}{N}}}+\frac{aK(2s+N)c^{\frac{4s}{N}}}{bN|\phi_p|_{2}^{\frac{4s}{N}}}-\frac{a^2}{4b}-Kc^2; $当$ c\leq c_1=(\frac{aN}{K(4s+2N)})^{\frac{N}{4s}}|\phi_p|_{2} $时, 函数$ f_p(t) $无极小值点.

(iii) 若$ \frac{4s}{N}<p<\frac{8s}{N} $, 当$ c\geq c_2=\left(\frac{\left(\frac{2as}{8s-Np}\right)^{\frac{8s-Np}{4s}} \left(\frac{bs}{Np-4s}\right)^{\frac{Np-4s}{4s}}}{K(p+2)\alpha_p\beta_p}{|\phi_p|_{2}^p}\right)^{\frac{1}{p+2-\frac{NP}{2s}}} $时, 函数$ f_p(t) $存在唯一极小值点$ t_3=\frac{2(Np-4s)a}{(8s-Np)b}>0 $, 使得

$ f_p(t)\geq f_p(t_3)=\left[\frac{K(p+2)\alpha_p\beta_p}{|\phi_p|_{2}^p}(c_2^{p+2-\frac{Np}{2s}}-c^{p+2-\frac{Np}{2s}})\right] \left(\frac{2(Np-4s)a}{(8s-Np)b}\right)^{\frac{Np}{4s}}-Kc^2; $

而当$ c< c_2 $时, 函数$ f_p(t) $无极小值点.

(iv) 若$ p=\frac{8s}{N} $, 当$ c> c_3=(\frac{bN^2|\phi_p|_{2}^{\frac{8s}{N}}}{K(4s+N)(4s-N)})^{\frac{N}{8s-2N}} $时, 函数$ f_p(t) $在极大值点$ t_4=\frac{aN^2|\phi_p|_{2}^{\frac{8s}{N}}}{K(4s+N)(4s-N)c^{\frac{8s-2N}{N}}-N^2|\phi_p|_{2}^{\frac{8s}{N}}} $处取得极大值, 且无极小值点；对于$ c\leq c_3 $, $ f_p(t) $无极小值点.

证 (i) 当$ 0<p<\frac{4s}{N} $时, 即$ \frac{NP}{4s}<1 $, 易知函数$ f_p(t) $有一个唯一的极小点, 设为$ t_1>0 $. 因此, 对$ \forall\ c>0 $, $ f_p(t)\geq f_p(t_1) $.

(ii) 当$ p=\frac{4s}{N} $时, 通过计算知$ \alpha_p\beta_p=\frac{1}{2} $, 且$ f_p(t)=\frac{b}{4}t^2+\frac{1}{2}(a-\frac{K(4s+2N)c^{\frac{4s}{N}}}{N|\phi_p|_{2}^{\frac{4s}{N}}})t-Kc^2 $.

当$ a-\frac{K(4s+2N)c^{\frac{4s}{N}}}{N|\phi_p|_{2}^{\frac{4s}{N}}}<0 $, 即$ c>c_1=(\frac{aN}{K(4s+2N)})^{\frac{N}{4s}}|\phi_p|_{2} $时, 由$ f'_p(t)=0 $, 计算可得极小点为$ t_2=\frac{K(4s+2N)c^{\frac{4s}{N}}}{bN|\phi_p|_{2}^{\frac{4s}{N}}}-\frac{a}{b} $, 且

$ f_p(t)\geq f_p(t_2)=-\frac{k^2(2s+N)^2c^{\frac{8s}{N}}}{bN^2|\phi_p|_{2}^{\frac{8s}{N}}}+\frac{aK(2s+N)c^{\frac{4s}{N}}}{bN|\phi_p|_{2}^{\frac{4s}{N}}}-\frac{a^2}{4b}-Kc^2. $

而当$ c\leq c_1=(\frac{aN}{K(4s+2N)})^{\frac{N}{4s}}|\phi_p|_{2} $时, 因为$ f_p(t) $在$ (0, +\infty) $上为增函数, 即$ f_p(t)\geq -Kc^2 $, 因此当$ t>0 $时, 函数$ f_p(t) $无极小值点.

(iii) 当$ \frac{4s}{N}<p<\frac{8s}{N} $时, 有$ f_p(t)=\frac{b}{4}t^2+\frac{a}{2}t-\frac{K(p+2)c^{p+2-\frac{Np}{2s}}}{|\phi_p|_{2}^p}\alpha_p\beta_pt^{\frac{NP}{4s}}-Kc^2 $, 其中$ 1<\frac{NP}{4s}<2 $, 取$ \gamma=\frac{8s-Np}{4s} $和$ \xi=1-\gamma=\frac{Np-4s}{4s} $, 由Young不等式, 对任意的$ t>0 $, 有

$ \begin{eqnarray*} \left(\frac{2as}{8s-Np}\right)^{\frac{8s-Np}{4s}}\left(\frac{bs}{Np-4s}\right)^{\frac{Np-4s}{4s}}t^{\frac{Np}{4s}}=\left(\frac{a}{2\gamma}\right)^{\gamma} \left(\frac{b}{4\xi}\right)^{\xi}t^{\gamma+2\xi}\leq \frac{a}{2}t+\frac{b}{4}t^2. \end{eqnarray*} $

上式中第二个$ "=" $成立当且仅当$ \frac{a}{2\gamma}t=\frac{b}{4\xi}t^2 $, 由此即得$ t\triangleq t_3=:\frac{2a\xi}{b\gamma}=\frac{2(Np-4s)a}{(8s-Np)b} $. 利用上面的不等式可得

(2.1) $ \begin{eqnarray} f_p(t)&\geq &\left(\left(\frac{2as}{8s-Np}\right)^{\frac{8s-Np}{4s}}\left(\frac{bs}{Np-4s}\right)^{\frac{Np-4s}{4s}}-\frac{K\alpha_p\beta_p(p+2)c^{p+2-\frac{NP}{2s}}}{|\phi_p|_{2}^p}\right){t_3}^{\frac{Np}{4s}}-Kc^2 \\ &=&f_p(t_3). \end{eqnarray} $

此时, 令

$ c_2^{p+2-\frac{Np}{2s}}=\frac{\left(\frac{2as}{8s-Np}\right)^{\frac{8s-Np}{4s}}\left(\frac{bs}{Np-4s}\right)^{\frac{Np-4s}{4s}}}{K(p+2)\alpha_p\beta_p}{|\phi_p|_{2}^p}, $

即

$ c_2=\left(\frac{\left(\frac{2as}{8s-Np}\right)^{\frac{8s-Np}{4s}} \left(\frac{bs}{Np-4s}\right)^{\frac{Np-4s}{4s}}}{K(p+2)\alpha_p\beta_p}{|\phi_p|_{2}^p}\right)^{\frac{1}{p+2-\frac{Np}{2s}}}. $

当$ c<c_2 $时, 恒有$ f_p(t)> -Kc^2 $, 此时$ f_p(t) $无极小值点；当$ c\geq c_2 $时, $ f_p(t) $在$ t_3=\frac{2(Np-4s)a}{(8s-Np)b} $处达到极小值

$ f_p(t_3)=\left[\frac{K(p+2)\alpha_p\beta_p}{|\phi_p|_{2}^p}(c_2^{p+2-\frac{Np}{2s}}-c^{p+2-\frac{Np}{2s}})\right] \left(\frac{2(Np-4s)a}{(8s-Np)b}\right)^{\frac{Np}{4s}}-Kc^2. $

(iv) 当$ p=\frac{8s}{N}, N < 4s $时, 则$ f_p(t)=\frac{a}{2}t+\frac{1}{4}(b-\frac{K(4s+N)(4s-N)c^{\frac{8s-2N}{N}}}{N^2|\phi_p|_{2}^{\frac{8s}{N}}})t^2-Kc^2 $, 再根据$ f'_p(t)=\frac{a}{2}+\frac{1}{2}(b-\frac{K(4s+N)(4s-N)c^{\frac{8s-2N}{N}}}{N^2|\phi_p|_{2}^{\frac{8s}{N}}})t=0 $, 得$ t_4=\frac{N^2|\phi_p|_{2}^{\frac{8s}{N}}}{K(4s+N)(4s-N)c^{\frac{8s-2N}{N}}-bN^2|\phi_p|_{2}^{\frac{8s}{N}}} $.

如果$ b-\frac{K(4s+N)(4s-N)c^{\frac{8s-2N}{N}}}{N^2|\phi_p|_{2}^{\frac{8s}{N}}}\geq 0 $, 即$ c\leq c_3=(\frac{bN^2|\phi_p|_{2}^{\frac{8s}{N}}}{K(4s+N)(4s-N)})^{\frac{N}{8s-2N}} $, 可知$ f_p(t) $在$ (0, +\infty) $上是单调递增函数, 且$ f_p(t)\geq-Kc^2 $, 因此当$ t>0 $时，$ f_p(t) $无极小值. 若$ c> c_3 $, $ f_p(t) $有最大值$ f_p(t_4) $且当$ t\rightarrow \infty $时, $ f_p(t)\rightarrow -\infty $, 易知$ f_p(t) $无极小值.证毕.

引理2.2  假设函数$ G(|x|, t) $满足条件$ (G_{0})\mbox{、} $$ (G_{2}) $和$ (G_{3}) $, $ \{u_n\} $是一列Schwarz对称极小化序列, 如果在$ H^s({{\Bbb R}} ^N) $上$ u_n\rightharpoonup u $, 则$ E(u)\leq \liminf\limits_{n\rightarrow \infty} E(u_n) $成立.

证  由文献[3] 可知$ \| u\| _{H^s} $范数具有弱下半连续性, 即

$ \bigg(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2}u|^2{\rm d}x\bigg)^{\frac{1}{2}}\leq \liminf\limits_{n\rightarrow \infty} \bigg(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2}u_n|^2{\rm d}x\bigg)^{\frac{1}{2}}, $

进一步可得

(2.2) $ \begin{equation} \int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2}u|^2{\rm d}x\leq \bigg(\liminf\limits_{n\rightarrow \infty} \bigg(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2}u_n|^2{\rm d}x\bigg)^{\frac{1}{2}}\bigg)^2 \leq \liminf\limits_{n\rightarrow \infty} \int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2}u_n|^2{\rm d}x, \end{equation} $

因此

(2.3) $ \begin{equation} \bigg(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2}u|^2{\rm d}x\bigg)^2\leq \liminf\limits_{n\rightarrow \infty} \bigg(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2}u_n|^2{\rm d}x\bigg)^2. \end{equation} $

令常数$ R>0 $, $ B(0, R)=\left\{ x\in {{\Bbb R}} ^N:|x|\leq R \right\} $表示以为$ 0 $中心, $ R $为半径的球. 由于在$ H^s({{\Bbb R}} ^N) $中$ u_n\rightharpoonup u $, 所以在$ L^{p+2}(|x|\leq R) $$ (0\leq p<\frac{4s}{N-2s}) $中$ u_n\rightarrow u $. 再根据$ L^p $空间的完备性知, 存在子列$ \{u_{n_k}\}\subset \{u_n\} $, 使得在$ L^{p+2}(|x|\leq R) $$ (0\leq p<\frac{4s}{N-2s}) $中$ u_{n_k}\rightarrow u $几乎处处成立且$ |u_{n_k}|\leq h(x) $, 其中$ h(x)\in L^{p+2}(|x|\leq R) $$ (0\leq p<\frac{4s}{N-2s}) $. 进一步, 由条件$ (G_{2}) $得$ G(|x|, u_{n_k})\leq G(|x|, |u_{n_k}|)\leq K(h^2+h^{p+2}) $, $ h^2+h^{p+2}\in L^1(|x|\leq R) $. 因此, 利用控制收敛定理, 可得

(2.4) $ \begin{equation} \lim\limits_{n\rightarrow \infty}\int_{|x|\leq R} G(|x|, u_n){\rm d}x=\int_{|x|\leq R} G(|x|, u){\rm d}x. \end{equation} $

由于$ \{u_n\} $是Schwarz对称极小化序列, 记$ u_n^* $为$ |u_n| $的对称递减重排, 由重排具有径向对称且不增的性质知当$ |y|\leq|x| $时有$ 0\leq u_n^*(x)\leq u_n^*(y) $, 即$ u_n(x)\leq u_n(y) $. 因此可得

$ \int_{|y|\leq|x|}u_n^2(x){\rm d}y\leq \int_{|y|\leq|x|}u_n^2(y){\rm d}y, $

即存在常数$ c_1>0 $, 使得

$ \begin{eqnarray*} \int_{|y|\leq|x|}u_n^2(x){\rm d}y&=&\int_{|S^{N-1}|}{\rm d}\omega\int_{0}^{r}u_n^2(x)R^{N-1}{\rm d}R \\ &=&\frac{|S^{N-1}|}{N}|x|^Nu_n^2(x)\leq \int_{|y|\leq|x|}u_n^2(y){\rm d}y\leq c_1^2, \end{eqnarray*} $

即$ u_n(x)\leq \frac{c_1N^{\frac{1}{2}}}{|S^{N-1}|^{\frac{1}{2}}|x|^{\frac{N}{2}}}\leq \frac{c_1N^{\frac{1}{2}}}{|S^{N-1}|^{\frac{1}{2}}R^{\frac{N}{2}}} $, 对$ \forall |x|\geq R $, 这意味着在此情形满足条件$ (G_{3}) $. 因此对任意$ \varepsilon >0 $, $ R $足够大, 由条件$ (G_{3}) $有

$ 0<\int_{|x|> R} G(|x|, u_n(|x|)){\rm d}x<\varepsilon \int_{|x|> R} u_n^2(x){\rm d}x<\varepsilon c_1^2, $

即

$ \lim\limits_{R\rightarrow \infty}\lim\limits_{n\rightarrow \infty}\int_{|x|> R} G(|x|, u_n){\rm d}x=0. $

进一步可得

$ \lim\limits_{R\rightarrow \infty}\int_{|x|> R} G(|x|, u){\rm d}x=0. $

上面两个公式结合(2.4) 式可得

(2.5) $ \begin{equation} \lim\limits_{n\rightarrow \infty}\int_{{{\Bbb R}} ^N} G(|x|, u_n){\rm d}x=\int_{{{\Bbb R}} ^N} G(|x|, u){\rm d}x, \end{equation} $

结合(2.2), (2.3) 和(2.5) 式可得$ E(u)\leq \liminf\limits_{n\rightarrow \infty} E(u_n). $证毕.

证  首先由条件$ (G_{1}) $和$ (G_{2}) $得

(3.1) $ \begin{eqnarray} \int_{{{\Bbb R}} ^N}G(|x|, u(x)){\rm d}x&\leq &\int_{{{\Bbb R}} ^N}G(|x|, |u(x)|){\rm d}x \leq \int_{{{\Bbb R}} ^N}K(|u|^2+|u|^{p+2}){\rm d}x \\ &=&Kc^2+K\int_{{{\Bbb R}} ^N}|u|^{p+2}{\rm d}x. \end{eqnarray} $

令$ t=\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2}u|^2{\rm d}x $, 利用分数阶Gagliardo-Nirenberg不等式(1.3), 可得

(3.2) $ \begin{eqnarray} E(u)&\geq &\frac{a}{2}\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u|^2{\rm d}x+\frac{b}{4}\bigg(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u|^2{\rm d}x\bigg)^2-Kc^2 \\ &&-\frac{K(p+2)c^{p+2-\frac{Np}{2s}}}{|\phi_p|_{2}^{p}}\alpha_p\beta_p \left(\int_{{{\Bbb R}} ^N}|(-\Delta )^\frac{s}{2}u|^2{\rm d}x\right)^{\frac{Np}{4s}} \\ &\triangleq& f_p(t). \end{eqnarray} $

(i) 当$ 0<p<\frac{4s}{N} $时, 由引理2.1中(i) 知, 对$ \forall\ c>0 $, $ f_p(t)\geq f_p(t_1) $, 因此$ m(c)\geq f_p(t)\geq f_p(t_1) $, 即$ m(c)> -\infty $.

设$ \{u_n\} $是极小化序列且满足$ \int_{{{\Bbb R}} ^N}|u_n|^2{\rm d}x=c^2 $, 由$ m(c) $的定义, 对$ \forall\ \varepsilon >0 $, 有$ E(u_n)<m(c)+\varepsilon $, 结合不等式$ (3.2) $可知存在常数$ M>0 $, 使得$ \int_{{{\Bbb R}} ^N}|(-\Delta )^\frac{s}{2}u_n|^2{\rm d}x<M $, 进一步可得$ \| u_n\| _{H^s({{\Bbb R}} ^N)}=\left(\int_{{{\Bbb R}} ^N} \left(|(-\Delta )^\frac{s}{2}u_n|^2+|u_n|^2\right){\rm d}x\right)^{\frac{1}{2}} $有界, 即极小化序列$ \{u_n\} $在$ H^{s}({{\Bbb R}} ^{N}) $中有界. 综上可知, 存在有界序列$ \{u_n\}\subset H^{s}({{\Bbb R}} ^{N}) $使得$ { } \lim_{n\rightarrow +\infty}E(u_n)=m(c)=\inf \left\{E(\omega):\omega \in S_c\right\} $. 由$ \{u_n\}\subset H^{s}({{\Bbb R}} ^{N}) $知$ |u_n|\subset L^{2}({{\Bbb R}} ^{N}) $且

$ \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N}\frac{\| u_n(x)|-|u_n(y)\| ^2}{|x-y|^{N+2s}}{\rm d}x{\rm d}y\leq \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N}\frac{|u_n(x)-u_n(y)|^2}{|x-y|^{N+2s}}{\rm d}x{\rm d}y<\infty, $

即$ |u_n|\in H^s({{\Bbb R}} ^N) $. 又$ \|u_n\|_{2}^2 =\|| u_n|\|_{2}^2=c^2 $, 进而$ |u_n| \in S_c $. 由条件$ (G_{1}) $知

$ \begin{eqnarray*} E(|u|)&=&\frac{a}{2}\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} |u\| ^2{\rm d}x+\frac{b}{4}\bigg(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} |u\| ^2{\rm d}x\bigg)^2-\int_{{{\Bbb R}} ^N} G(|x|, |u|){\rm d}x \nonumber\\ &\leq& \frac{a}{2}\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u|^2{\rm d}x+\frac{b}{4}\bigg(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u|^2{\rm d}x\bigg)^2-\int_{{{\Bbb R}} ^N} G(|x|, u){\rm d}x \nonumber\\ &=&E(u). \end{eqnarray*} $

现设$ u_n^* $为$ |u_n| $的Schwarz对称递减重排. 因为$ u_n\in H^s({{\Bbb R}} ^N) $, 由文献[26], 知$ u_n^* \in H^s({{\Bbb R}} ^N) $, 且$ \|u_n^*\|_{2}^2 =\|u_n\|_{2}^2=c^2 $, 因此, $ u_n^* \in S_c $. 再利用文献[27] 和条件$ (G_{1}) $, 可得

$ \begin{eqnarray*} E(u_n^*)&=&\frac{a}{2}\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u_n^*|^2{\rm d}x+\frac{b}{4}\bigg(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u_n^*|^2{\rm d}x\bigg)^2-\int_{{{\Bbb R}} ^N} G(|x|, u_n^*){\rm d}x \nonumber\\ &\leq& \frac{a}{2}\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u_n|^2{\rm d}x+\frac{b}{4}\bigg(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u_n|^2{\rm d}x\bigg)^2-\int_{{{\Bbb R}} ^N} G(|x|, |u_n|){\rm d}x \nonumber\\ &\leq &\frac{a}{2}\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u_n|^2{\rm d}x+\frac{b}{4}\bigg(\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u_n|^2{\rm d}x\bigg)^2-\int_{{{\Bbb R}} ^N} G(|x|, u_n){\rm d}x \nonumber\\ &=&E(u_n). \end{eqnarray*} $

因此, $ m(c)\leq E(u_n^*)\leq E(u_n) $, 极小化问题(1.1) 在空间$ H^s({{\Bbb R}} ^N) $上存在Schwarz对称极小化序列$ \{u_n^*\} $且序列$ \{u_n^*\} $在空间$ H^s({{\Bbb R}} ^N) $中有界.

由于$ \{u_n^*\} $在空间$ H^s({{\Bbb R}} ^N) $中有界, 可知存在$ u\in H^s({{\Bbb R}} ^N) $, 使得在空间$ H^s({{\Bbb R}} ^N) $中$ u_n^*\rightharpoonup u $, 且

$ \int_{{{\Bbb R}} ^N}u^2{\rm d}x\leq \int_{{{\Bbb R}} ^N}{u_n^*}^2{\rm d}x=c^2. $

利用引理2.2可得

(3.3) $ \begin{equation} E(u)\leq \liminf\limits_{n\rightarrow +\infty} E(u_n^*)=m(c). \end{equation} $

相似前面的讨论, 不妨假设序列$ \{v_n\} $是问题(1.6) 在空间$ H^s({{\Bbb R}} ^N) $上的Schwarz对称极小化序列, 通过计算可知$ \{v_n\} $在空间$ H^s({{\Bbb R}} ^N) $中有界, 因此存在一个子列, 仍记做$ \{v_n\} $, 存在$ v\in H^s({{\Bbb R}} ^N) $, 使得

$ \int_{{{\Bbb R}} ^N}{v}^2{\rm d}x\leq \int_{{{\Bbb R}} ^N}{v_n}^2{\rm d}x\leq c^2, $

在空间$ H^s({{\Bbb R}} ^N) $中$ v_n\rightharpoonup v $且相似(3.3)式的证明有

$ E(v)\leq \liminf\limits_{n\rightarrow +\infty} E(v_n)=\tilde{m}_c, $

即$ E(v)\leq \tilde{m}_c $. 设$ \| v\| _2^2=:d^2\leq c^2 $, 不妨假设$ 0<d<c $, 则$ \tilde{m}_c<\tilde{m}_d $, 且

$ \begin{eqnarray*} \tilde{m}_c< \tilde{m}_d&=&\inf \bigg\{E(u):u\in H^{s}_{+}({{\Bbb R}} ^N) , \int_{{{\Bbb R}} ^N}|u|^2{\rm d}x\leq d^2\bigg\} \nonumber\\ &\leq& \inf \bigg\{E(u):u\in H^{s}_{+}({{\Bbb R}} ^N) , \int_{{{\Bbb R}} ^N}|u|^2{\rm d}x=d^2\bigg\} \nonumber\\ &=&E(v)\leq \tilde{m}_c, \end{eqnarray*} $

矛盾, 因此$ \| v\| _2^2=d^2=c^2 $, 则

$ \begin{eqnarray*} m(c)&\leq & E(v)=\tilde{m_c}=\inf\bigg \{E(u):u\in H^{s}_{+}({R}^N) , \int_{{{\Bbb R}} ^N}|u|^2{\rm d}x\leq c^2\bigg\} \nonumber\\ &\leq &\inf \bigg\{E(u):u\in H^{s}_{+}({R}^N) , \int_{{{\Bbb R}} ^N}|u|^2{\rm d}x= c^2\bigg\}= m(c), \end{eqnarray*} $

因此$ m(c)= E(v) $. 进一步类似文献[27, 定理1]的证明可知, 极小化问题(1.1) 在$ v=v* $时几乎处处可达, 其中$ v^* $为$ v $的Schwarz对称递减重排.

(ii) 当$ p=\frac{4s}{N} $时, 设$ u_{\mu}(x)=\frac{c\mu^{\frac{N}{2}}}{|\phi_p|_{2}}\phi_p(\mu x) $, 其中$ \mu $是待定常数, 函数$ \phi_p(x) $表示方程(1.4) 的非负径向解. 通过计算易知$ u_{\mu}(x) \in S_c $, 结合(1.5) 式可得

$ \int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u_\mu|^2{\rm d}x=\frac{Np}{2s(p+2)-Np}c^{2}\mu^{2s}. $

另一方面, 利用$ \liminf\limits_{t\rightarrow 0^+}\frac{G(r, t)}{t^{2}}=K $可得, 对任意的$ {\varepsilon}>0 $, $ \exists\ \delta>0 $, 当$ |t|\leq \delta $时有$ G(r, t)>(K-{\varepsilon})|t|^{2} $. 则当$ \mu\rightarrow 0^+ $时, 可得

$ \begin{eqnarray*} E(u_{\mu})<\frac{aNp}{4s(p+2)-2Np}c^{2}\mu^{2s}+\frac{bNp}{8s(p+2)-4Np}c^{4}\mu^{4s}-(K-{\varepsilon})c^2 \rightarrow -(K-\varepsilon)c^2. \end{eqnarray*} $

若令$ \varepsilon\rightarrow 0 $, 易知$ m(c)<-Kc^2 $. 而由引理2.1中(ii) 可知, 若$ c\leq c_1 $, 可得$ m(c)\geq -Kc^2 $. 故矛盾, 因此当$ c\leq c_1 $时, 极小化问题(1.1) 在空间$ H^s({{\Bbb R}} ^N) $上不存在非零Schwarz对称极小解.

若$ c>c_1=(\frac{aN}{K(4s+2N)})^{\frac{N}{4s}}|\phi_p|_{2} $, 问题(1.1) 在空间$ H^s({{\Bbb R}} ^N) $上Schwartz对称极小解存在性的证明类似情况{(i)} 的证明. 进一步, 由引理2.1可得$ m(c)\geq f_p(t)\geq f_p(t_2) $.

(iii) 当$ c\geq c_2 $时, 问题(1.1) 在空间$ H^s({{\Bbb R}} ^N) $上Schwarz对称极小解存在性的证明类似{(i)}, 进一步由引理2.1知$ m(c)\geq f_p(t)\geq f_p(t_3) $. 当$ c< c_2 $时, 类似{(ii)} 中不存在性的证明, 可得极小化问题(1.1) 在空间$ H^s({{\Bbb R}} ^N) $上不存在非零Schwarz对称极小解.

(iv) 令$ u_{\lambda}(x)={\lambda}^{\frac{N}{2}}u({\lambda} x) $, 其中$ \lambda>0 $且$ u\in S_c $, 简单计算可以推断出

$ \int_{{{\Bbb R}} ^N}|u_{\lambda}(x)|^2{\rm d}x={\lambda}^N\bigg(\int_{{{\Bbb R}} ^N}|u|^2{\lambda}^{-N}{\rm d}x\bigg)=c^2, $

即$ u_{\lambda}(x) \in S_c $.

当$ p= \frac{8s}{N} $时, 由$ \liminf\limits_{s\rightarrow 0}\frac{G(r, s)}{s^{p+4}}=A>0 $, 对$ \forall\ \varepsilon>0 $, $ \exists \ \delta>0 $, 当$ |s|< \delta $时, $ G(r, s)>(A-\varepsilon)|s|^{p+4} $, 因此当$ p= \frac{8s}{N} $, 即$ \frac{Np}{2}=4s $时, 可得

$ \begin{eqnarray*} E(u_{\lambda})&<&\frac{{\lambda}^{2s}}{2}\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u_{\lambda}|^2{\rm d}x+\frac{{\lambda}^{4s}}{4}\bigg(\int_{{{\Bbb R}} ^N} (|(-\Delta )^\frac{s}{2} u|^2{\rm d}x\bigg)^2-(A-\varepsilon){\lambda}^{4s+N}\int_{{{\Bbb R}} ^N}|u|^{p+4}{\rm d}x \nonumber\\ &\rightarrow &-\infty, \qquad (\mbox{当} \ \lambda\rightarrow +\infty). \end{eqnarray*} $

即对所有的$ c $, $ m(c)=- \infty $, 极小化问题(1.1) 在空间$ H^s({{\Bbb R}} ^N) $上不存在Schwarz对称极小解. 类似地, 当$ p> \frac{8s}{N} $时, 因为$ \liminf\limits_{s\rightarrow 0}\frac{G(r, s)}{s^{p+2}}=B>0 $, 对$ \forall\ {\varepsilon}_1>0 $, $ \exists \ {\delta}_1>0 $, 当$ |s|< {\delta}_1 $时, $ G(r, s)>(B-{\varepsilon}_1)|s|^{p+2} $, 因此当$ p> \frac{8s}{N} $, 即$ \frac{Np}{2}>4s $时, 可得

$ \begin{eqnarray*} E(u_{\lambda})&<&\frac{{\lambda}^{2s}}{2}\int_{{{\Bbb R}} ^N} |(-\Delta )^\frac{s}{2} u_{\lambda}|^2{\rm d}x+\frac{{\lambda}^{4s}}{4}\bigg(\int_{{{\Bbb R}} ^N} (|(-\Delta )^\frac{s}{2} u|^2{\rm d}x\bigg)^2-(B-{\varepsilon}_1){\lambda}^{\frac{Np}{2}}\int_{{{\Bbb R}} ^N}|u|^{p+2}{\rm d}x \nonumber\\ &\rightarrow &-\infty, \qquad (\mbox{当}\ \lambda\rightarrow +\infty). \end{eqnarray*} $

因此对所有的$ c $, $ m(c)=- \infty $, 即极小化问题(1.1) 在空间$ H^s({{\Bbb R}} ^N) $上不存在Schwarz对称极小解.证毕.