本文研究分数阶Laplace方程

(1.1) $ \begin{equation} \left\{ \begin{array}{lll} (-\Delta)^\alpha u(x) = f(|x|, u), &\quad x\in\Omega, \\ u(x) = 0, &\quad x\in{{\Bbb R}} ^n\setminus\Omega \end{array}\right. \end{equation} $

的解的对称性问题,其中$ \Omega\subset{{\Bbb R}} ^n $是球或环形区域,函数$ f $: $ \Omega\times{{\Bbb R}} \rightarrow{{\Bbb R}} $连续且关于第二个变量是$ C^1 $的.

这里的分数阶Laplace算子, $ (-\Delta)^\alpha $,定义为

$ (-\Delta)^\alpha u(x) = C_{n, \alpha}P.V\int_{{{\Bbb R}} ^n}\frac{u(x)-u(y)}{|x-y|^{n+2\alpha}}{\rm d}y, $

其中$ 0<\alpha<1 $, $ P.V $表示积分的柯西主值(参见文献[8, 21]).

近年来,涉及分数阶Laplace算子的非线性方程的研究受到众多国内外学者的关注.这一非局部算子在物理学,概率论和金融学中有非常广泛的应用,参见文献[1-2, 4, 7-9].而关于该类方程的解的定性性质，特别是解的对称性问题已得到了广泛的研究.例如, Felmer和Wang^[13]研究了方程

(1.2) $ \begin{equation} \left\{ \begin{array}{ll} (-\Delta)^\alpha u(x) = f(u), &\quad x\in B, \\ u(x) = 0, &\quad x\in{{\Bbb R}} ^n\setminus B\\ \end{array}\right. \end{equation} $

的解的对称性问题,其中$ B = B_R(0) $, $ R>0 $, $ f(s) $是连续函数.作者指出:若$ f $局部Lipschitz连续,则问题(1.2)的任意正古典解都是径向对称的且沿径向单调递减,并将此结果推广到了方程组的情形.而Chen, Fang和Yang在$ f $非负单调的假设下,应用积分方程的移动平面法,证明了正弱解$ u\in L^p(B) $的径向对称性^[6].更多相关结果,可以参见文献[10-11, 13, 16].

众所周知,移动平面法是研究偏微分方程和积分方程的正解的对称性的非常有效的方法.可以注意到上述结果都是关于方程正解的对称性.最近, Pol$ \acute{\rm a}\check{\rm c} $ik应用移动平面法,给出了一类非线性方程的非负解的对称性^[24].然而,若解变号、方程中的非线性项依赖空间变量但不具有一定的单调性、或区域不具有凸性,则移动平面法将失效.那么在这种情况下,解是否具有部分对称性呢?针对该问题,文献[23]证明了:当非线性项$ f(|x|, u) $关于$ u $严格凸且区域$ \Omega $是球或环形区域时,方程

(1.3) $ \begin{equation} \left\{ \begin{array}{ll} -\Delta u(x) = f(|x|, u), &\quad\hbox{ in }\Omega, \\ u(x) = 0, &\quad\hbox{ in }\partial\Omega \end{array}\right. \end{equation} $

的任意Morse指数为1的解都是分片Schwarz对称的或余维数为1的对称性,即解关于过原点的某个轴是轴对称的,且关于偏离该轴的极角单调不增.之后, Pacella和Weth将此结果推广到方程(1.3)的Morse指数不超过空间维数的解^[27].类似结果,可以参见文献[3, 25-26, 30].

例如,在方程(1.1)中$ f(|x|, u) = |u|^{p-1}u $,其中$ p>1 $.众所周知,方程

(1.4) $ \begin{equation} \left\{ \begin{array}{ll} (-\Delta)^\alpha u(x) = u^p, &\quad x\in B, \\ u(x) = 0, &\quad x\in{{\Bbb R}} ^n\setminus B \end{array}\right. \end{equation} $

的正解是泛函

$ J[v] = \inf\limits_{0\neq v\in H^\alpha_0(B)}\frac{\varepsilon(v, v)}{\int_Bu^{p+1}(x){\rm d}x} $

的极小元,其中$ H^\alpha_0(B) = \{v\in H^\alpha({{\Bbb R}} ^n)|\; v(x) = 0, \; x\in{{\Bbb R}} ^n\setminus B\} $,

$ H^\alpha({{\Bbb R}} ^n) = \Big\{u\in L^2({{\Bbb R}} ^n)|\; \frac{|u(x)-u(y)|}{|x-y|^{\frac{n}{2}+\alpha}}\in L^2({{\Bbb R}} ^n\times{{\Bbb R}} ^n)\Big\}. $

该极小化问题给出了空间$ H^\alpha_0(B) $紧嵌入$ L^p(B) $的最优常数. Chen, Fang和Yang在文献[6]中指出,此极小元是径向对称的.但是,若将方程(1.4)中的非线性项替换为$ f = |x|^a |u|^{p-1}u $,其中$ a>0 $, $ p>1 $,则对应的极小化问题将给出空间空间$ H^\alpha_0(B) $到$ L^p(B) $的加权嵌入的最优常数.这时,此极小元是否仍然径向对称呢?本文将围绕这一问题展开.

本文主要研究方程(1.1)的解的对称性问题.这里的解是指方程(1.1)的非负或变号全局弱解.文中始终假设$ 0\in\Omega $且解的极大值在某点$ x_0\in\Omega $处达到.令$ \mu_0 = \frac{\overrightarrow{ox_0}}{|\overrightarrow{ox_0}|} $, $ T_0 $是过$ \mu_0 $的超平面.本文主要将文献[23]中的结果推广到分数阶Laplace方程,得到以下结果:

定理1.1  设$ f(|x|, s) $关于变量$ s $凸,若$ u\in H^\alpha_0(\Omega)\cap L^\infty(\Omega) $是方程(1.1)的$ \rm Morse $指数为1的全局弱解,则

(ⅰ) $ u $关于$ \mu_0 $是轴对称的;

(ⅱ)若$ \Omega $是球且$ x_0 = 0 $,则$ u $关于原点径向对称;

(ⅲ)若$ \Omega $是球而$ u $不是径向对称的,则$ u $是分片$ \rm Schwarz $对称的且$ u $的所有极值点都落在对称轴上,具体地,所有极大值点落在$ x_0 $所在的半轴,而所有极小值点落在不含$ x_0 $的半轴,且对任意不过$ \overrightarrow{ox_0} $的超平面$ T $,

$ (\partial_{n_T})_\alpha u(x)>0, \quad x\in T\cap\Omega, $

其中, $ n_T $是$ T $的法向量,指向包含$ x_0 $的半空间.

注1.1  很显然,在$ f(|x|, s) $关于$ s $凸的假设下,若$ \Omega $是球且$ u $是方程(1.1)的$ \rm Morse $指数为$ 0 $的全局弱解,即$ \lambda_1(L_\alpha, \Omega)\geq0 $,则根据极值原理, $ u $在$ \Omega $中是径向对称的.这里, $ L_\alpha = (-\Delta)^\alpha-f'(|x|, u) $, $ f'(|x|, s) $表示$ f(|x|, s) $关于变量$ s $的导数.

注1.2  定理1.1可视为文献[23]中的结果到分数阶Laplace方程的一个推广.另外,当$ \Omega = B_R(0) $时,与文献[6, 13]相比,本文的结果不需要关于解的正定性假设.

若$ \Omega $是球且$ f = c_1|x|^au +c_2|x|^bu^p $,则有以下结果.

推论1.1  假设$ u\in H^\alpha_0(\Omega)\cap L^\infty(\Omega) $是方程

$ \left\{ \begin{array}{ll} (-\Delta)^\alpha u(x) = c_1|x|^au+c_2|x|^bu^p, &\; x\in B_R(0), \nonumber\\ u(x) = 0, &\; x\in{{\Bbb R}} ^n\setminus B_R(0)\nonumber\\ \end{array}\right. $

的指数为1的正全局弱解,其中$ a $, $ b $, $ c_1 $, $ c_2>0 $, $ p>1 $,若$ u $在原点达到极大值,则$ u $是径向对称的;不然, $ u $关于过原点和极大值点的轴是轴对称的.

注1.3  相反地,经过类似的过程及分数阶$ \rm Kelvin $变换可得,若$ 1<p\leq\frac{n+2\alpha}{n-2\alpha} $,方程

$ \left\{ \begin{array}{ll} (-\Delta)^\alpha u(x) = c_1|x|^au+c_2|x|^bu^p, &\; x\in{{\Bbb R}} ^n\setminus B_R(0), \nonumber\\ u(x) = 0, &\; x\in B_R(0)\nonumber\\ \end{array}\right. $

的指数为1的正全局弱解是径向对称或轴对称的.

注1.4  本文推测,定理1.1或文献[23]中的结论对一般的非线性偏微分方程,例如

$ \label{1.6} \left\{ \begin{array}{ll} F(D^2u)(x) = f(|x|, u), &\; x\in\Omega, \nonumber \\ u(x) = 0, &\; x\in\partial\Omega\nonumber\\ \end{array}\right. $

也成立,其中$ F $是一致椭圆的,即存在正常数$ c $和$ C $使得对任意$ x\in\Omega $和$ \xi\in{{\Bbb R}} ^n $,

$ c|\xi|^2\leq F_{q_{ij}}(D^2u)(x)\xi_i\xi_j\leq C|\xi|^2. $

这里的困难在于$ \omega = \bar{u}-u $是算子

$ L = -a_{ij}(x)D_{ij}-f_u(|x|, u), \quad a_{ij}(x) = \int^1_0F_{q_{ij}}(D^2v^t)(x){\rm d}t $

的上解,其中$ v^t = tu+(1-t)\bar{u} $,而不是方程$ F(D^2u)(x) = f(|x|, u) $的线性化算子,即

$ \bar{L} = -a_{ij}(x)D_{ij}-f_u(|x|, u), \quad a_{ij}(x) = F_{q_{ij}}(D^2u)(x). $

这将在下一步的研究中进行探讨.

定理1.1给出了解的极值点的精确位置.很自然地,我们希望方程(1.1)的指数为$ 1 $的解只有一个极大值点,至少对某些不依赖空间变量$ x $的非线性项$ f $如此.为此,考虑下述问题

(1.5) $ \begin{equation} \left\{ \begin{array}{ll} (-\Delta)^\alpha u(x) = c_1u^p-c_2 u, &x\in\Omega, \\ u(x) = 0, & x\in{{\Bbb R}} ^n\setminus \Omega, \\ \end{array}\right. \end{equation} $

其中$ \Omega $是$ {{\Bbb R}} ^n $中的星形区域, $ n\geq2 $, $ 1<p<\frac{n+2\alpha}{n-2\alpha} $, $ c_1 $, $ c_2 $是正常数.

定理1.2  假设$ u\in L_{2\alpha}\cap C^{1, 1}_{loc}({{\Bbb R}} ^n) $方程(1.5)的$ \rm Morse $指数为$ m $的正解,若$ p $充分靠近$ \frac{n+2\alpha}{n-2\alpha} $,则$ u $至多有$ m $个极大值点.

注1.5  这里^[29]

$ L_{2\alpha} = \bigg\{u:{{\Bbb R}} ^n\rightarrow{{\Bbb R}} |\int_{{{\Bbb R}} ^n}\frac{|u(x)|}{1+|x|^{n+2\alpha}}{\rm d}x<+\infty\bigg\}.\nonumber $

根据文献[20,注2.1],显然,定理1.2对方程(1.5)的全局弱解均成立.

设$ \Omega\subset{{\Bbb R}} ^n $为有界区域, $ c(x)\in L^\infty(\Omega) $.对任意$ u $, $ v\in H^\alpha({{\Bbb R}} ^n) $,定义双线性形式

$ \widetilde{\epsilon}(u, v)_\Omega = \epsilon(u, v)+ \int_\Omega cuv{\rm d}x, $

其中

$ \epsilon(u, v) = \frac{C_{n, \alpha}}{2}\int_{{{\Bbb R}} ^n}\int_{{{\Bbb R}} ^n} \frac{[u(x)-u(y)][v(x)-v(y)]}{|x-y|^{n+2\alpha}}{\rm d}x{\rm d}y $

是定义在$ H^\alpha({{\Bbb R}} ^n) $上的双线性形式.

称$ u\in{\cal M}^\alpha(\Omega) = \{u\in H^\alpha({{\Bbb R}} ^n)|\; \widetilde{\epsilon}(u, u)_\Omega<\infty\} $是方程

(2.1) $ \begin{equation} (-\Delta)^\alpha u+c(x)u = 0, \; x\in\Omega \end{equation} $

的全局弱上(下)解,若对任意$ \varphi\in H^\alpha_0(\Omega) $, $ \varphi\geq0 $,有

$ \widetilde{\epsilon}(u, \varphi)_\Omega\geq(\leq)0, $

且

$ u(x)\geq(\leq)0\quad x\in{{\Bbb R}} ^n-\Omega. $

相应地,称$ u $为方程(2.1)的全局弱解,若$ u $既是全局弱上解又是全局弱下解(参见文献[14]).特别地,若对任意$ \varphi\in H^\alpha_0(\Omega) $, $ \varphi\geq0 $,有

$ \epsilon(u, \varphi)-\int_{\Omega}f(|x|, u)\varphi = 0, $

则称$ u\in H^\alpha_0(\Omega) $是方程(1.1)的全局弱解.

另外,令$ D_\alpha = (-\Delta)^\alpha+c(x) $.对任意有界区域$ \Omega $,定义

(2.2) $ \begin{equation} \lambda_1(D_\alpha, \Omega) = \inf\limits_{v\in H^\alpha_0(\Omega), v\neq0} \frac{\widetilde{\epsilon}(v, v)_\Omega}{\int_{\Omega}v^2(x){\rm d}x}. \end{equation} $

经过简单的计算可发现, (2.2)式的极小元是$ D_\alpha $在$ \Omega $中的特征值$ \lambda_1(D_\alpha, \Omega) $所对应的满足齐次Dirichlet边界条件的特征函数.关于分数阶Laplace算子的特征值的相关结果可以参考文献[17, 19, 31].

本节主要给出在证明定理1.1的过程中所需的一些基本结果.

引理3.1 (弱极值原理)  假设$ \Omega $是$ {{\Bbb R}} ^n $中有界区域, $ u\in H^\alpha_0(\Omega) $是方程

(3.1) $ \begin{equation} (-\Delta)^\alpha u(x)+c(x)u = 0, \; x\in\Omega \end{equation} $

的全局弱上解.若$ \lambda_1(D_\alpha, \Omega)>0 $,则$ u(x)\geq0 $, $ \forall x\in\Omega $.

证  受文献[14]的启发.假设$ \lambda_1(D_\alpha, \Omega)>0 $, $ u $是方程(3.1)的全局弱上解.令$ \phi = u^-\chi_\Omega\in H^\alpha_0(\Omega) $,其中$ u^-(x) = -\min\{u(x), 0\} $,则对任意$ x, y\in{{\Bbb R}} ^n $,有

$ [u(x)-u(y)][\phi(x)-\phi(y)]+[\phi(x)-\phi(y)]^2 = - \phi(x)[\phi(y)+u(y)]-\phi(y)[\phi(x)+u(x)]. $

由$ u $是方程(3.1)的全局弱上解,故

$ \begin{eqnarray*} 0\leq\widetilde{\epsilon}(u, \phi)_\Omega& = &\epsilon(u, \phi)+ \int_\Omega cu\phi {\rm d}x\nonumber\\ & = &-\epsilon(\phi, \phi)+\int_{\Omega}cu\phi {\rm d}x-C_{n, \alpha}\int_{{{\Bbb R}} ^n}\int_{{{\Bbb R}} ^n} \frac{\phi(x)[\phi(y)+u(y)]}{|x-y|^{n+2\alpha}}{\rm d}x{\rm d}y\nonumber\\ & = &-\epsilon(\phi, \phi)+\int_{\Omega}cu\phi {\rm d}x-C_{n, \alpha}\int_\Omega\int_\Omega\frac{u^-(x)u^+(y)}{|x-y|^{n+2\alpha}}{\rm d}x{\rm d}y\nonumber\\ &\leq&-\epsilon(\phi, \phi)-\int_{\Omega}c\phi^2{\rm d}x\nonumber\\ & = &-\widetilde{\epsilon}(\phi, \phi)_\Omega, \nonumber \end{eqnarray*} $

再结合$ \lambda_1(D_\alpha, \Omega) $的定义,则

$ 0\leq\widetilde{\epsilon}(u, \phi)_\Omega \leq-\lambda_1(D_\alpha, \Omega)\int_\Omega\phi^2{\rm d}x\leq0, $

由此可得, $ \phi(x)\equiv0 $, $ \forall x\in\Omega $.故, $ u(x)\geq0 $, $ \forall x\in\Omega $.

进一步地,注意到分数阶Laplace算子第一特征值所对应特征函数的正定性(参见文献[15]),可得如下结果.

推论3.1  设$ \Omega\subset{{\Bbb R}} ^n $为有界区域, $ u $是方程(3.1)的全局弱上解,则弱极值原理成立当且仅当$ \lambda_1(D_\alpha, \Omega)>0 $.

设$ \Omega $是包含原点的区域且关于超平面$ T = \{x_1 = 0\} $对称,令

$ \Omega^+ = \Omega\cap\{x_1>0\}\hbox{及}\Omega^- = \Omega\cap\{x_1<0\}. $

假设$ u $是方程(1.1)的解,则对应的线性化算子为$ L_\alpha = (-\Delta)^\alpha-f'(|x|, u) $,其中$ f'(|x|, s) $是函数$ f(|x|, s) $关于变量$ s $的导数.记$ \lambda_1(L_\alpha, \Omega) $是算子$ L_\alpha $在$ \Omega $上满足Dirichlet边界条件的第一特征值;类似地, $ \lambda_1(L_\alpha, \Omega^+) $及$ \lambda_1(L_\alpha, \Omega^-) $分别为算子$ L_\alpha $在$ \Omega^+ $及$ \Omega^- $上的第一特征值.

为证明定理1.1,首先给出以下结果.

命题3.1  若$ \Omega_1 $, $ \Omega_2 $是$ {{\Bbb R}} ^n $中有界区域满足$ \Omega_1\subset\Omega_2 $,则$ \lambda_1(L_\alpha, \Omega_2)\leq\lambda_1(L_\alpha, \Omega_1) $.

注意到$ H^\alpha_0(\Omega_1)\subset H^\alpha_0(\Omega_2) $,命题3.1显然.

命题3.2  设$ \Omega\subset{{\Bbb R}} ^n $为有界区域.若$ \lambda_1(L_\alpha, \Omega^-)\leq0 $且$ \lambda_1(L_\alpha, \Omega^+)<0 $,则

$ \lambda_2(L_\alpha, \Omega)<0. $

证  设$ \phi_1 $是$ L_\alpha $在$ \Omega $中对应于$ \lambda_1(L_\alpha, \Omega) $的特征函数.类似地, $ \psi^+ $ ($ \psi^- $)是$ L_\alpha $对应于$ \lambda_1(L_\alpha, \Omega^+) $ ($ \lambda_1(L_\alpha, \Omega^-) $)的特征函数.

令$ \phi^* = a\psi^++\psi^- $,其中$ a = -\frac{\int_\Omega\psi^-(x)\phi_1(x){\rm d}x}{\int_\Omega\psi^+(x)\phi_1(x){\rm d}x}<0, $则$ \langle\phi^*, \phi_1\rangle = 0 $且

$ \begin{eqnarray*} \widetilde{\epsilon}(\phi^*, \phi^*)& = &\widetilde{\epsilon}(a\psi^++\psi^-, a\psi^++\psi^-)\nonumber\\ & = &a^2\widetilde{\epsilon}(\psi^+, \psi^+)+\widetilde{\epsilon}(\psi^-, \psi^-)+2a\widetilde{\epsilon}(\psi^+, \psi^-)\nonumber\\ &<& a^2\widetilde{\epsilon}(\psi^+, \psi^+)+\widetilde{\epsilon}(\psi^-, \psi^-)\nonumber\\ & = &a^2\lambda_1(L_\alpha, \Omega^+)\int_{\Omega^+}(\psi^+)^2+\lambda_1(L_\alpha, \Omega^-)\int_{\Omega^-}(\psi^-)^2\nonumber\\ &<&0\nonumber \end{eqnarray*} $

因此, $ \lambda_2(L_\alpha, \Omega)<0 $.

引理3.2  假设$ \Omega $关于超平面$ T = \{x_1 = 0\} $对称且$ f(|x|, s) $关于$ s $严格凸.若$ u\in H^\alpha_0(\Omega) $是方程(1.1)的全局弱解,且$ \lambda_1(L_\alpha, \Omega^-) $和$ \lambda_1(L_\alpha, \Omega^+) $均非负,则

$ u(x_1, x_2, \cdots, x_n) = u(-x_1, x_2, \cdots, x_n). $

证  假设$ u $是方程(1.1)的解.令$ \bar{u}(x) = u(\bar{x}) $及$ \omega(x) = \bar{u}(x)-u(x) $, $ \forall x\in{{\Bbb R}} ^n $,其中$ \bar{x} $是$ x $关于超平面$ T $的对称点.

事实上,若能证明$ \omega $在$ \Omega $中不变号,则必有$ \omega\equiv0 $,即$ u $关于超平面$ T $对称.

下证

(3.2) $ \begin{equation} \omega(x)\geq0, \; x\in\Omega^+. \end{equation} $

反证法.假设不对,则

$ \emptyset\neq\Sigma^- = \{x\in \Omega^+|\; \omega(x)<0\}\varsubsetneq\Omega^+. $

令

$ \omega^+(x) = \left\{ \begin{array}{lll} 0, \; &x\in\Sigma^-, \\ \omega, \; &x\in(\Sigma^-)^c, \end{array}\right. \; \; \; \; \omega^-(x) = \left\{ \begin{array}{lll} \omega, \; &x\in\Sigma^-, \\ 0, \; &x\in(\Sigma^-)^c. \end{array}\right. $

显然$ \omega = \omega^-+\omega^+ $.

对任意$ \phi\in H^\alpha_0(\Sigma^-) $, $ \phi\geq0 $,有

$ \begin{eqnarray*} \epsilon(\omega^+, \phi)& = &\frac{C_{n, \alpha}}{2}\int_{{{\Bbb R}} ^n}\int_{{{\Bbb R}} ^n} \frac{[\omega^+(x)-\omega^+(y)][\phi(x)-\phi(y)]}{|x-y|^{n+2\alpha}}{\rm d}x{\rm d}y\nonumber\\ & = &C_{n, \alpha}\int_{{{\Bbb R}} ^n}\int_{{{\Bbb R}} ^n} \frac{[\omega^+(x)-\omega^+(y)]\phi(x)}{|x-y|^{n+2\alpha}}{\rm d}x{\rm d}y\nonumber\\ & = &C_{n, \alpha}\int_{\Sigma^-}\int_{{{\Bbb R}} ^n-\Sigma^-} \frac{-\omega^+(x)\phi(y)}{|x-y|^{n+2\alpha}}{\rm d}x{\rm d}y.\nonumber \end{eqnarray*} $

注意到

$ \begin{eqnarray*} &&\int_{{{\Bbb R}} ^n-\Sigma^-}\frac{\omega^+(x)}{|x-y|^{n+2\alpha}}{\rm d}x\nonumber\\ & = &\int_{(\Sigma^-)'}\frac{\omega^+(x)}{|x-y|^{n+2\alpha}}{\rm d}x\int_{(\Omega^+-\Sigma^-)\cup(\Omega^+-\Sigma^-)'}\frac{\omega^+(x)}{|x-y|^{n+2\alpha}}{\rm d}x\nonumber\\ & = &-\int_{\Sigma^-}\frac{\omega(x)}{|\bar{x}-y|^{n+2\alpha}}{\rm d}x +\int_{\Omega^+-\Sigma^-}\omega(x)\Big(\frac{1}{|x-y|^{n+2\alpha}}-\frac{1}{|\bar{x}-y|^{n+2\alpha}}\Big){\rm d}x\nonumber\\ &\geq&0, \nonumber \end{eqnarray*} $

其中$ (\Sigma^-)' $是$ \Sigma^- $关于超平面$ T $的对称区域.因此, $ \epsilon(\omega^+, \phi)\leq0 $.进而

(3.3) $ \begin{eqnarray} \epsilon(\omega^-, \phi)& = &\epsilon(\omega, \phi)-\epsilon(\omega^+, \phi) \geq\epsilon(\bar{u}-u, \phi) = \epsilon(\bar{u}, \phi)-\epsilon(u, \phi)\\ & = &\int_{\Sigma^-}((f|x|, \bar{u})-f(|x|, u))\phi(x){\rm d}x\\ &\geq&\int_{\Sigma^-}f'(|x|, u)(\bar{u}-u)\phi {\rm d}x, \end{eqnarray} $

这里的严格不等式成立当$ f $关于$ u $严格凸.

由假设条件$ u\in H^\alpha_0(\Omega) $可知, $ \omega\in H^\alpha_0(\Omega) $.经过计算可知$ \omega^-\in H^\alpha_0(\Sigma^-) $.在(3.3)式中取$ \phi = -\omega^- $,则

$ \varepsilon(\omega^-, \omega^-)\leq\int_{\Sigma^-}f'(|x|, u)(\omega^-)^2, $

由此可知$ \lambda_1(L_\alpha, \Sigma^-)\leq0 $.再根据特征值关于区域的单调性,即命题3.1,可得$ \lambda_1(L_\alpha, \Omega^+)<0 $.而这显然与假设条件$ \lambda_1(L_\alpha, \Omega^+)\geq0 $矛盾.

类似的过程可证, $ \omega(x)\geq0 $$ \forall x\in\Omega^- $.因此, $ \omega $在$ {{\Bbb R}} ^n $中不变号;从而可得$ u $一定关于超平面$ \{x_1 = 0\} $对称.

本节主要给出定理1.1的证明.

证  (ⅰ)假设$ u $是方程(1.1)的全局弱解.取一个过$ \mu_0 $的超平面,该超平面将$ \Omega $分割为$ \Omega^+ $和$ \Omega^- $两部分.根据引理3.2,只需证明$ \lambda_1(L_\alpha, \Omega^-) $和$ \lambda_1(L_\alpha, \Omega^+) $均为非负.

反证法.假设结论不成立,则$ \lambda_1(L_\alpha, \Omega^-) $和$ \lambda_1(L_\alpha, \Omega^+) $中至少有一个小于零.不失一般性,假设$ \lambda_1(L_\alpha, \Omega^+)<0 $.由于$ u $是方程(1.1)的指数为$ 1 $的解,所以$ \lambda_2(L_\alpha, \Omega)\geq0 $.再根据命题3.2,必有$ \lambda_1(L_\alpha, \Omega^-)>0 $.

令$ \widetilde{\Sigma}^- = \{x\in\Omega^-|\quad w(x)<0\} $,且$ \omega $, $ \omega^- $, $ \omega^+ $与在引理3.2的证明过程中的定义类似并用$ \widetilde{\Sigma}^- $来替换$ \Sigma^- $.假设$ \widetilde{\Sigma}^-\neq\emptyset $,则对任意$ \phi\in H^\alpha_0(\widetilde{\Sigma}^-) $, $ \phi\geq0 $,有

(4.1) $ \begin{equation} \epsilon(\omega^-, \phi)\geq\int_{\widetilde{\Sigma}^-}f'(|x|, u)\omega^-\phi. \end{equation} $

注意到

(4.2) $ \begin{equation} \omega^- = 0\quad x\in(\widetilde{\Sigma}^-)^c. \end{equation} $

则根据弱极值原理可得, $ \omega^-\geq0 $ in $ \widetilde{\Sigma}^- $.显然矛盾.因此, $ \widetilde{\Sigma}^- = \emptyset $ i.e. $ \omega\geq0 $, $ \forall x\in\Omega^- $.

下证: $ \omega>0 $或$ \omega\equiv0 $, $ \forall x\in\Omega^- $.

假设$ \omega\not\equiv0 $且$ \Sigma_0 = \{x\in\Omega^-|\quad \omega(x) = 0\}\neq\emptyset $.则对任意$ \phi\in H^\alpha_0(\Sigma_0) $, $ \phi\geq0 $,有

$ \begin{eqnarray*} \epsilon(\omega, \phi)& = &\epsilon(\bar{u}-u, \phi) = \epsilon(u, \bar{\phi})-\epsilon(u, \phi)\nonumber\\ & = &\int_{\Sigma_0}[f(|x|, \bar{u}(x))-f(|x|, u(x))]\phi(x){\rm d}x\nonumber\\ & = &0.\nonumber \end{eqnarray*} $

另一方面

$ \begin{eqnarray*} \epsilon(\omega, \phi)& = &\frac{C_{n, \alpha}}{2}\int_{{{\Bbb R}} ^n}\int_{{{\Bbb R}} ^n} \frac{[\omega(x)-\omega(y)][\phi(x)-\phi(y)]}{|x-y|^{n+2\alpha}}{\rm d}x{\rm d}y\nonumber\\ & = &C_{n, \alpha}\int_{{{\Bbb R}} ^n}\int_{{{\Bbb R}} ^n} \frac{[\omega(x)-\omega(y)]\phi(x)}{|x-y|^{n+2\alpha}}{\rm d}y {\rm d}x\nonumber\\ & = &C_{n, \alpha}\int_{\Sigma_0}\int_{{{\Bbb R}} ^n-\Sigma_0} \frac{-\omega(y)\phi(x)}{|x-y|^{n+2\alpha}}{\rm d}y {\rm d}x\nonumber\\ & = &-C_{n, \alpha}\int_{\Sigma_0}\int_{\Omega^–\Sigma_0} \omega(y)\phi(x)\Big[\frac{1}{|x-y|^{n+2\alpha}}-\frac{1}{|x-\bar{y}|^{n+2\alpha}}\Big]{\rm d}y {\rm d}x\nonumber\\ &<&0.\nonumber \end{eqnarray*} $

显然矛盾,故结论得证.

若$ \omega(x)\equiv0 $, $ \forall x\in\Omega^- $,则$ u $关于$ T_0 $对称.因此, $ \lambda_1(L_\alpha, \Omega^-) = \lambda_1(L_\alpha, \Omega^+) $.这显然与两个特征值异号矛盾.

若$ \omega(x)>0 $, $ \forall x\in\Omega^- $,则对任意$ \phi\in H^\alpha_0(\Omega^-) $, $ \phi\geq0 $,有

$ \epsilon(\omega, \phi) = \int_{\Omega^-}[f(|x|, \bar{u})-f(|x|, u)]\phi{\rm d}x\geq\int_{\Omega^-}f'(|x|, u)\omega\phi{\rm d}x, $

且

$ \omega(x)\geq0, \quad \forall x\in H, $

其中$ H = \{x\in{{\Bbb R}} ^n|\; x_1<0\} $.由此可知, $ \omega $是方程

$ L_\alpha \omega(x) = (-\Delta)^\alpha\omega(x)-f'(|x|, u)\omega(x) = 0, \quad\forall x\in\Omega^- $

的反对称全局弱上解(参见文献[14]).由$ u\in L^\infty(\Omega) $及$ f(|x|, u) $关于$ u $凸,根据文献[22]中的正则性结果可得, $ \frac{u}{|x|^\alpha}\in C^\beta(\overline{\Omega}) $,其中$ \beta\in(0, 1) $.进一步地,同样的正则性结论对$ \omega $也成立.进而,根据关于反对称全局弱上解的极值原理,即文献[14,命题3.3],可得

$ (\partial\eta)_\alpha u(x_0) = -\frac{1}{2}(\partial\eta)_\alpha\omega(x_0) = \lim\limits_{t\rightarrow0^+}\inf\frac{\omega(x_0+t\eta(x_0))}{t^\alpha}>0, $

其中$ \eta(x_0) $是边界$ T_0\cap\Omega^- $在点$ x_0 $处的单位内法向量.因此必存在充分小的$ \epsilon>0 $使得$ u(x) $在$ B_\epsilon(x_0) $中沿方向$ \vec{n}(x_0) $单调递增.这显然与$ x_0 $是$ u $在$ \Omega $中的极大值点矛盾.故$ \lambda_1(L_\alpha, \Omega^+) $和$ \lambda_1(L_\alpha, \Omega^-) $均非负.应用引理3.1,可得(ⅰ).

(ⅱ)由(ⅰ),很容易得到$ u $是径向对称的.

(ⅲ)根据(ⅱ),必有$ x_0\neq0 $.下证: $ u $关于任意不过$ \mu_0 $的超平面不对称.

假设结论不成立,则$ u $关于某个不过$ \mu_0 $的超平面$ T' $对称.设$ T' $将$ \Omega $分为$ \Omega^{+'} $和$ \Omega^{-'} $,并使$ x_0\in\Omega^{+'} $,则$ u(\bar{x}_0) = u(x_0) $,其中$ \bar{x}_0 $是$ x_0 $关于超平面$ T' $的对称点.记$ \nu' $为超平面$ T' $的指向$ \Omega^{+'} $的法向量.取方向集$ N(\nu')\subset S^1 $,即$ \nu' $的一个邻域.若取集合$ N(\nu') $的测度充分小使得对任意方向$ \nu\in N(\nu') $都有$ x_0\in\Omega^+_\nu $,其中$ \Omega^+_\nu $是由超平面$ T_{\nu} $分割得到的半球,则显然$ y_0 = \bar{x}_0\in\Omega^-_\nu $.

接下来,证明:在上述条件下, $ u $关于超平面$ T_\nu $对称.根据引理3.1,只需证明$ \lambda_1(L_\alpha, \Omega^-_\nu) $和$ \lambda_1(L_\alpha, \Omega^+_\nu) $均为非负.

若$ \lambda_1(L_\alpha, \Omega^+_\nu)<0 $,根据命题3.2,必有$ \lambda_1(L_\alpha, \Omega^-_\nu)>0 $,则经过与(i)类似的证明过程可证$ \omega(x)>0 $, $ \forall x\in\Omega^-_\nu $或$ \omega(x)\equiv0 $, $ \forall x\in{{\Bbb R}} ^n $.而$ \lambda_1(L_\alpha, \Omega^+_\nu) $和$ \lambda_1(L_\alpha, \Omega^-_\nu) $异号说明后者不可能.而由$ \omega(x)>0 $$ \forall x\in\Omega^-_\nu $,可得$ u(y_0)<u(\bar{y_0}) $.这显然与$ u $在$ y_0 $点达到极大值矛盾.故, $ \lambda_1(L_\alpha, \Omega^+_\nu)\geq0 $.类似地,可证$ \lambda_1(L_\alpha, \Omega^-_\nu)\geq0 $.因此, $ u $必关于超平面$ T_\nu $对称.

考虑方向集

$ S_0 = \{e\in S^{n-1}|\; u \hbox{关于超平面}\; T_e\; \hbox{对称}\}, $

其中$ S^{n-1} $是$ n-1 $维单位球面, $ T_e = \{x\in{{\Bbb R}} ^n|\; x\cdot e = 0\} $.上述证明过程说明$ S_0 $是$ H_0 $中的开集,这里的$ H_0 $是过$ \mu_0 $,以$ \nu_0 $为边界的超平面($ \nu_0 $垂直于超平面$ T_0 $).注意到$ S_0 $显然是闭集,所以$ S_0 = H_0 $.因此, $ u $必关于原点径向对称.这显然与假设矛盾.故对任意不过$ \mu_0 $的超平面$ T $, $ u $关于$ T $一定不对称.

取一个不过$ \mu_0 $的超平面$ T $.假设$ x_0\in\Omega^+ $.根据命题3.2和引理3.1,必有$ \lambda_1(L_\alpha, \Omega^+)<0 $且$ \lambda_1(L_\alpha, \Omega^-)>0 $.经过与(i)类似的证明过程,可证$ \omega(x)>0 $, $ \forall x\in\Omega^- $或$ \omega(x)\equiv0 $, $ \forall x\in{{\Bbb R}} ^n $.而$ \lambda_1(L_\alpha, \Omega^+) $和$ \lambda_1(L_\alpha, \Omega^-) $异号说明后者不成立.因此, $ \omega(x)>0 $$ \forall x\in\Omega^- $,即$ u(x)<u(\bar{x}) $$ \forall x\in\Omega^- $.取遍所有不过$ x_0 $的超平面$ T $,可得$ u $关于$ \theta = \arccos(\frac{x}{|x|}, \mu_0) $单调不增.再结合(i),可得$ u $一定是分片Schwarz对称的.并且不难发现, $ u $的所有极大值点和极小值点分别落在对称轴由原点分开的两个半轴上.定理1.1得证.

本节主要给出定理1.2的证明.

证  受文献[12]所启发.设$ x^1_p $是$ u $在$ \Omega $中的极大值点.根据分数阶Laplace方程的Pohozaev恒等式(参见文献[28]),可知当$ p = \frac{n+2\alpha}{n-2\alpha} $时,方程(1.5)不存在正解.因此,当$ p $趋于$ \frac{n+2\alpha}{n-2\alpha} $时, $ \|u\|_{L^\infty} = u(x^1_p) $将趋于无穷.

令$ \lambda_p = \|u\|_{L^\infty} $且$ G_p = \lambda^\beta_p(\Omega-x^1_p) $, $ \beta = \frac{p-1}{2\alpha} $,并定义

$ v_p(x) = \frac{1}{\lambda_p}u(x^1_p+\frac{1}{\lambda^\beta_p}x), \quad \forall x\in G_p. $

则经过计算可知, $ v_p(x) $满足

$ \left\{ \begin{array}{lll} { } (-\Delta)^\alpha v_p(x) = c_1v^p_p(x)-\frac{c_2}{\lambda^{p-1}_p}v_p, &\quad x\in G_p, \\ v_p(x) = 0, &\quad x\in{{\Bbb R}} ^n\setminus G_p, \nonumber\\ 0\leq v_p(x)\leq1, &\quad x\in G_p, \\ \end{array}\right. $

且$ v_p(0) = 1 $.又关于分数阶Laplace方程的正则性估计可知,当$ p $趋于$ \frac{n+2\alpha}{n-2\alpha} $时, $ v_p $在$ C^{1, 1}_{loc} $中趋近于函数$ v $,且$ v $是方程

$ (-\Delta)^\alpha v(x) = c_1v^{\frac{n+2\alpha}{n-2\alpha}}, \quad x\in G $

的解,其中$ G = {{\Bbb R}} ^n $或$ {{\Bbb R}} ^n_+ $.然而,根据文献[5]中的Liouville结果,当$ G = {{\Bbb R}} ^n_+ $时,结论不成立.故$ v $是方程

$ (-\Delta)^\alpha v(x) = c_1v^{\frac{n+2\alpha}{n-2\alpha}}, \quad x\in{{\Bbb R}} ^n $

的解且$ v(0) = 0 $,由此可知

$ v(x) = \frac{1}{(1+|x|^2)^{\frac{n-2\alpha}{2}}}. $

令$ \varphi_1(x) = (x-x^1_p)\cdot\nabla u(x)+\frac{u(x)}{\beta} $,注意到

$ (-\Delta)^\alpha (x\cdot\nabla u) = 2\alpha(-\Delta)^\alpha u+x\cdot\nabla(-\Delta)^\alpha u, $

则经过计算可得

(5.1) $ \begin{equation} L\varphi_1 = (-\Delta)^\alpha\varphi_1-c_1pu^{p-1}\varphi_1+c_2\varphi_1 = -2\alpha c_2 u\leq0, \quad x\in\Omega. \end{equation} $

令$ \Omega_1 = B_{\frac{R}{\lambda^\beta_p}}(x^1_p) $,这里$ R>1 $,可证

(5.2) $ \begin{equation} \varphi_1(x)<0, \quad x\in\partial\Omega_1. \end{equation} $

事实上,经计算可知

$ x\cdot \nabla v(x)+\frac{v(x)}{\beta} = \frac{n-2\alpha}{2}\frac{1-|x|^2}{(1+|x|^2)^{\frac{n-2\alpha}{2}+1}}<0, \quad |x|>1. $

由于$ p $趋于$ \frac{n+2\alpha}{n-2\alpha} $时, $ v_p $趋于$ v $,故当$ p $充分靠近$ \frac{n+2\alpha}{n-2\alpha} $时,有

$ x\cdot\nabla v_p+\frac{v_p(x)}{\beta}<0, \quad |x|>1. $

(5.2)式得证.

由$ \varphi_1(x^1_p)>0 $及(5.2)式可得,一定存在区域$ D_1\subset \Omega_1 $使得$ \varphi_1(x)>0 $, $ \forall x\in D_1 $.方程(5.1)乘以$ \varphi_1 $并在$ D_1 $上积分,可得$ \lambda_1(L, D_1)\leq0 $.并且,由于当$ x\neq0 $时,有

(5.3) $ \begin{equation} x\cdot\nabla v(x) = -\frac{(n-2\alpha)|x|^2}{(1+|x|^2)^{\frac{n-2\alpha}{2}+1}}<0, \end{equation} $

当$ p $靠近$ \frac{n+2\alpha}{n-2\alpha} $时, $ x^1_p $是$ u $在$ D_1 $中唯一的极大值点.

若$ u $在区域$ \Omega\setminus\Omega_1 $中还有极大值点$ x^2_p $,重复上述过程,则存在$ D_2\subset\Omega\setminus\Omega_1 $使得$ \lambda_1(L, D_2)\leq0 $且$ u $在$ D_2 $只有一个极大值点$ x^2_p $.进一步地,根据(5.3)式, $ D_1\cap D_2 = \emptyset $.

假设$ u $有极大值点$ x^1_p $, $ x^2_p $, $ \cdots $, $ x^s_p $,则存在互不相交的$ D_1 $, $ D_2 $, $ \cdots $, $ D_s $使得$ \lambda_1(L, D_i)\leq0 $, $ i = 1, 2, \cdots, s $.由$ u $是方程(1.5)的指数为$ m $的解,可知$ s\leq m $.因此当$ p $趋于$ \frac{n+2\alpha}{n-2\alpha} $时, $ u $最多有$ m $个极大值点.定理1.2得证.