设$ \Omega $是$ {{\Bbb R}} ^{n} $中具有光滑边界$ \partial\Omega $的连通有界区域, 考虑$ p $ -扭转刚性问题

(1.1) $ \begin{equation} \left\{\begin{array}{ll} \triangle_{p} u = -1, & x\in \Omega, \\ u = 0, & x\in \partial\Omega, \end{array}\right. \end{equation} $

其中$ \triangle_{p}u = {\rm div}(|\nabla u|^{p-2}\nabla u) $, $ 2\leq p<\infty $.

定义1.1  设$ \varphi\in C_{0}^{\infty}(\Omega $)是任意具有紧支集的光滑函数, 称$ u\in W_{0}^{1, p}(\Omega) $是方程(1.1)的弱解, 当且仅当

$ \begin{eqnarray*} \int_{\Omega}|\nabla u|^{p-2}\nabla u\nabla\varphi {\rm d}x = \int_{\Omega}\varphi {\rm d}x. \end{eqnarray*} $

我们知道, $ p $ -扭转刚性问题(1.1)有唯一解$ u\in C^{1, \alpha} $, 这里$ \alpha\in(0, 1) $, 参见文献[16]. 一般地, 在$ \nabla u = 0 $处$ u $不是$ C^{2} $的. 本文我们假定$ u\in C^{1}(\bar{\Omega}) $, 那么$ |\nabla u|^{p-1}\in W^{1, 2}(\Omega) $, 参见文献[11].

定义1.2  设$ {\cal A} $是$ {{\Bbb R}} ^{n} $中具有光滑边界的所有连通有界区域的集合, 若

$ \begin{eqnarray*} J(D) = (1+\frac{p}{n(p-1)})\int_{D}|\nabla u_{D}|^{p}{\rm d}x-\int_{\partial D}|\nabla u_{D}|^{2p-1}{\rm d}\sigma, \end{eqnarray*} $

则称$ J(D) $是关于区域$ D $的泛函. 这里对于每个$ D\in{\cal A} $, $ u_{D} \in W^{1, p}(D)\bigcap C^{1}(\overline{D}) $是$ p $ -扭转刚性问题(1.1)的解.

考虑最优化问题

(1.2) $ \begin{eqnarray} \sup\limits_{D\in{\cal A}}J(D). \end{eqnarray} $

当$ p = 2 $时, Choulli等^[3]证明了泛函$ J(D) $的最优形状是球形. 最近Farjudian等^[5]研究了定义在光滑有界的体积约束区域$ {\cal A_{\epsilon}} = \{D\subseteq {{\Bbb R}} ^{n}:\ |D| = \epsilon, \ \epsilon>0 \}$上$ p $ -扭转刚性问题(1.1)的另一个域泛函

$ \begin{eqnarray*} \Phi(D) = \int_{D}u_{D}{\rm d}x. \end{eqnarray*} $

他们推广了Talenti^[15]的经典结果, 即证明了该泛函的最优形状是球形. 对于Monge-Ampère方程的形状优化问题, 参见文献[2].

Choulli等^[3]证明在$ p = 2 $的情况下, $ D_{0} $是域泛函$ J(D) $的最优形状, 当且仅当超定问题

(1.3) $ \begin{equation} \left\{\begin{array}{ll} \triangle u = -1, & x\in D_{0}, \\ u = 0, \ |\nabla u| = c, & x\in \partial D_{0} \end{array}\right. \end{equation} $

有解, 因此由Serrin^[12]的定理知$ D_{0} $是球形. 事实上, 这个结论可由Choulli等^[3]的结论直接推导出来, 因为在$ p = 2 $时, 他们证明对于任意的$ D\in{\cal A} $都有$ J(D)\geq0 $, 如果存在一个区域$ D_{0} $使得$ J(D_{0}) = 0 $, 那么从他们的证明中可以推出, $ \nabla^{2}u = -\frac{1}{n}I $, 其中$ I $表示单位矩阵, 因此$ u = R^{2}-\frac{|x-x_{0}|^{2}}{2n} $, 所以根据Dirichlet边界条件可知$ D_{0} $是球形.

本文我们讨论$ p $ -扭转刚性问题(1.1)的最优区域, 不是简单地从$ p = 2 $推广到更一般的情况, 因为当$ p\neq2 $时, 不能从$ J(D_{0}) = 0 $推出等式$ \nabla^{2}u = -\frac{1}{n}I $, 所以我们不能使用$ p = 2 $时获得最优区域的办法.

为了克服这个困难, 我们引进辅助函数

$ P(x) = \frac{p-1}{p}|\nabla u|^{p}+\frac{1}{n}u. $

我们利用Bernstein的方法证明$ P(x) $在边界上是常数, 那么由Dirichlet边界条件可知$ |\nabla u| $在边界上是常数, 即：$ u $是如下超定问题(1.4)的解.

定理1.1  设$ D_{0} $是$ {{\Bbb R}} ^{n} $中具有光滑边界$ \partial D_{0} $的连通有界区域. 假设$ u(x) \in W^{1, p}(D_{0})\bigcap $$ C^{1}(\overline{D}_{0}) $是在$ \Omega = D_{0} $中$ p $ -扭转刚性问题(1.1)的解, 那么$ D_{0} $是域泛函$ J(D) $在$ {\cal A} $中的最优形状当且仅当$ u(x) $是超定问题$ (1.4) $在$ \Omega = D_{0} $中的解.

Garofalo等^[8]证明了, 如果$ p $ -扭转刚性超定问题

(1.4) $ \begin{equation} \left\{\begin{array}{ll} \triangle_{p} u = -1, & x\in \Omega, \\ u = 0, \ |\nabla u| = c, & x\in \partial\Omega \end{array}\right. \end{equation} $

有解$ u\in W^{1, p}(\Omega)\bigcap C^{1}(\overline{\Omega}) $, 那么$ \Omega $是球形. 因此可得如下推论.

推论1.1  域泛函$ J(D) $在$ {\cal A} $中的最优形状是球形.

超定问题(1.3)是由Serrin^[12]通过移动平面法证明的. 随后Weinberger^[17]利用极大值原理和Pohožaev^[10]恒等式给出一个非常简单的证明. Choulli等^[3]利用域导数和Alexandrov^[1]的定理给出超定问题(1.3)的另一种证明. 超定问题(1.4)首先是由Garofalo等^[8]利用Weinberger的方法证明的, 也参见文献[6-7, 9]. 据目前所知, 超定问题(1.4)还没有其他证明方法, 本文我们利用Choulli等^[3]域导数的方法给出超定问题(1.4)的另一种证明.

定理1.2  设$ \Omega = D_{0} $是$ {{\Bbb R}} ^{n} $中具有光滑边界$ \partial D_{0} $的连通有界区域. 如果超定问题$ (1.4) $有解$ u\in W^{1, p}(D_{0})\bigcap C^{1}(\overline{D}_{0}) $, 那么$ D_{0} $是球形.

首先我们给出定理1.1的证明, 这里分为三个部分. 第一部分是证明对于任意的$ D\in{\cal A} $, 有$ J(D)\leq0 $. 第二部分是证明如果存在区域$ D_{0} $使得$ J(D_{0}) = 0 $, 那么超定问题(1.4)在$ \Omega = D_{0} $中有解. 第三部分是证明如果在$ \Omega = D_{0} $中超定问题(1.4)有解, 那么$ J(D_{0}) = 0 $.

我们先证明如下引理.

引理2.1  设$ D $是$ {{\Bbb R}} ^{n} $中具有光滑边界$ \partial D $的连通有界区域. 假设$ u(x) \in W^{1, p}(D)\bigcap C^{1}(\overline{D}) $是$ p $ -扭转刚性问题$ (1.1) $在$ \Omega = D $中的解, 那么

$ \begin{eqnarray*} \int_{D}u|\nabla u|^{2p-4}(|\nabla^{2}u|^{2}+p(p-2)(\nabla^{2}u(\frac{\nabla u}{|\nabla u|}, \frac{\nabla u}{|\nabla u|}))^{2}){\rm d}x\geq\frac{1}{n}\int_{D}u{\rm d}x. \end{eqnarray*} $

证  首先我们证明在$ D $中恒有$ u\geq0 $. 在定义1.1中取截断函数$ \varphi = \min\{u, 0\} $. 因为$ \nabla \varphi = \nabla u $在$ \{u<0\} $中几乎处处相等, 在其他地方$ \varphi = 0 $, 所以

$ \begin{eqnarray*} 0\geq\int_{u<0}u {\rm d}x = \int_{u<0}|\nabla u|^{p}{\rm d}x\geq0, \end{eqnarray*} $

因此在$ \{u<0\} $中$ u = 0 $, 即在$ \Omega $中几乎处处有$ u\geq0 $, 又因为$ u\in C^{1}(\overline{D}) $, 所以在$ D $中$ u\geq0 $.

其次证明$ {\cal K}\triangleq \{x| \nabla u(x) = 0\} $的测度是零. 事实上, $ {{\cal K}} $的内点组成的集合$ \mathop{{\cal K}}\limits^{\circ} $是空集, 若不然, 假设存在内点$ x_{0}\in \mathop{{\cal K}}\limits^{\circ} $, 那么必然存在$ x_{0} $的一个邻域$ D' $使得$ D'\subset\subset {\cal K} $. 那么可取截断函数$ \eta $使得它的支集包含在$ {\cal K} $中, 并且在$ D' $中$ \eta\equiv1 $, 在$ {\cal K} $中$ |\nabla\eta|\leq C $. 因此

$ \begin{eqnarray*} 0\leq\int_{D'}u {\rm d}x & = &-\int_{{\cal K}}\eta u \triangle_{p}u{\rm d}x = \int_{{\cal K}}|\nabla u|^{p-2}\nabla u \cdot\nabla (\eta u){\rm d}x\\ & = &\int_{{\cal K}}|\nabla u|^{p}\eta {\rm d}x+\int_{{\cal K}}u |\nabla u|^{p-2}\nabla u \cdot\nabla \eta {\rm d}x\\ &\leq&C||u||_{L^{\infty}}\int_{{\cal K}} |\nabla u|^{p-1} {\rm d}x = 0. \end{eqnarray*} $

上式蕴含着在$ D' $中$ u\equiv 0 $. 因为$ u $是方程(1.1)的弱解, 所以这是不可能的. 由矛盾性可知$ \mathop{{\cal K}}\limits^{\circ} = \phi $. 又由$ u(x) \in C^{1}(\overline{D}) $知, 测度$ {\cal K}\triangleq \{x| \nabla u(x) = 0\} $等于零.

现在我们开始引理的证明. 对使得$ \nabla u(x_{0})\neq0 $的任意$ x_{0}\in D $, 取标准正交基$ e_{1}, \cdot\cdot\cdot, e_{n} $使得在水平集$ \{x|u(x) = u(x_{0})\} $上$ e_{n} = \frac{-\nabla u}{|\nabla u|} $, 那么

$ \begin{eqnarray*} &&|\nabla^{2}u|^{2}+p(p-2)(\nabla^{2}u(\frac{-\nabla u}{|\nabla u|}, \frac{-\nabla u}{|\nabla u|}))^{2}\\ &\geq&\sum\limits_{i = 1}^{n}u_{ii}^{2}+p(p-2)u_{nn}^{2} = \sum\limits_{i = 1}^{n-1}u_{ii}^{2}+(p-1)^{2}u_{nn}^{2}\\ &\geq&\frac{1}{n}(\sum\limits_{i = 1}^{n-1}u_{ii}+(p-1)u_{nn})^{2} = \frac{1}{n}(\triangle u+(p-2) \nabla^{2}u(\frac{\nabla u}{|\nabla u|}, \frac{\nabla u}{|\nabla u|}))^{2}. \end{eqnarray*} $

对以上不等式两边同时乘以$ u|\nabla u|^{2p-4} $并在$ D\setminus{\cal K} $上积分, 可得

$ \begin{eqnarray*} \int_{D\setminus{\cal K}}u|\nabla u|^{2p-4}(|\nabla^{2}u|^{2}+p(p-2)(\nabla^{2}u(\frac{\nabla u}{|\nabla u|}, \frac{\nabla u}{|\nabla u|}))^{2}){\rm d}x\geq\frac{1}{n}\int_{D\setminus{\cal K}}u(\triangle_{p} u)^{2}{\rm d}x. \end{eqnarray*} $

因为测度$ {\cal K}\triangleq \{x| \nabla u(x) = 0\} $是零, $ |\nabla u|^{p-1}\in W^{1, p}(D) $和$ \triangle_{p} u = -1 $, 所以

$ \begin{eqnarray*} \int_{D}u|\nabla u|^{2p-4}(|\nabla^{2}u|^{2}+p(p-2)(\nabla^{2}u(\frac{\nabla u}{|\nabla u|}, \frac{\nabla u}{|\nabla u|})^{2})){\rm d}x\geq\frac{1}{n}\int_{D}u{\rm d}x. \end{eqnarray*} $

显然, 以上不等式的等号成立当且仅当对使得$ \nabla u(x)\neq0 $的所有$ x $, 都有

(2.1) $ \begin{eqnarray} u_{11}(x) = u_{22}(x) = \cdot\cdot\cdot = (p-1)u_{nn}(x), \ \ u_{ij}(x) = 0, \mbox{when} \ \ i\neq j. \end{eqnarray} $

这就完成了引理2.1的证明.

引理2.2  对任意的$ D\in{\cal A} $, 有$ J(D)\leq0 $.

证  设$ \varepsilon_{0}>0 $充分小, 对$ \varepsilon<\varepsilon_{0} $, 定义$ D_{\varepsilon_{0}} = \{x\in D|\ dist(x, \partial D)>\varepsilon_{0}\} $. 设$ \rho_{\varepsilon} $是磨光算子, 定义$ u^{\varepsilon} = u*\rho_{\varepsilon} $. 我们注意, 在$ D_{\varepsilon_{0}} $中$ \Delta_{p}u^{\varepsilon} = -1 $, 那么由分部积分公式得

$ \begin{eqnarray*} &&\int_{D_{\varepsilon_{0}}}|\nabla u^{\varepsilon}|^{p}{\rm d}x = \int_{D_{\varepsilon_{0}}}|\nabla u^{\varepsilon}|^{p}(-\triangle_{p}u^{\varepsilon}){\rm d}x\nonumber\\ & = &\int_{\partial D_{\varepsilon_{0}}}-u^{\varepsilon}_{\nu}|\nabla u^{\varepsilon}|^{2p-2}{\rm d}\sigma+\int_{D_{\varepsilon_{0}}}\nabla |\nabla u^{\varepsilon}|^{p}\cdot \nabla u^{\varepsilon} |\nabla u^{\varepsilon}|^{p-2} {\rm d}x\nonumber\\ & = &\int_{\partial D_{\varepsilon_{0}}}(-u^{\varepsilon}_{\nu}|\nabla u^{\varepsilon}|^{2p-2}+\nabla |\nabla u^{\varepsilon}|^{p}\cdot \nu |\nabla u^{\varepsilon}|^{p-2}u^{\varepsilon}){\rm d}\sigma\nonumber\\ &&-\int_{D_{\varepsilon_{0}}}u^{\varepsilon}(|\nabla u^{\varepsilon}|^{p-2}\triangle|\nabla u^{\varepsilon}|^{p}+\nabla|\nabla u^{\varepsilon}|^{p}\cdot\nabla|\nabla u^{\varepsilon}|^{p-2} ){\rm d}x\nonumber\\ & = &\int_{\partial D_{\varepsilon_{0}}}(-u^{\varepsilon}_{\nu}|\nabla u^{\varepsilon}|^{2p-2}+\nabla |\nabla u^{\varepsilon}|^{p}\cdot \nu |\nabla u^{\varepsilon}|^{p-2}u^{\varepsilon}){\rm d}\sigma\nonumber\\ &&-\int_{D_{\varepsilon_{0}}}u^{\varepsilon}(|\nabla u^{\varepsilon}|^{p-2}{\rm div}(p|\nabla u^{\varepsilon}|^{p-2}\nabla^{2}u^{\varepsilon}\cdot\bigtriangledown u^{\varepsilon})+p(p-2)|\nabla u^{\varepsilon}|^{2p-6}|\nabla^{2} u^{\varepsilon}\cdot\nabla u^{\varepsilon}|^{2} ){\rm d}x\nonumber\\ & = &\int_{\partial D_{\varepsilon_{0}}}(-u^{\varepsilon}_{\nu}|\nabla u^{\varepsilon}|^{2p-2}+\nabla |\nabla u^{\varepsilon}|^{p}\cdot \nu |\nabla u^{\varepsilon}|^{p-2}u^{\varepsilon}){\rm d}\sigma\nonumber\\ &&-p\int_{D_{\varepsilon_{0}}}u^{\varepsilon}( |\nabla u^{\varepsilon}|^{2p-4}(|\nabla^{2}u^{\varepsilon}|^{2}+\nabla\triangle u^{\varepsilon}\cdot\nabla u^{\varepsilon})+2(p-2)|\nabla u^{\varepsilon}|^{2p-6}|\nabla^{2} u^{\varepsilon}\cdot\nabla u^{\varepsilon}|^{2} ){\rm d}x. \end{eqnarray*} $

继续利用分部积分公式, 可知

$ \begin{eqnarray*} &&\int_{D_{\varepsilon_{0}}}|\nabla u^{\varepsilon}|^{p}{\rm d}x\nonumber\\ & = &\int_{\partial D_{\varepsilon_{0}}}(-u^{\varepsilon}_{\nu}|\nabla u^{\varepsilon}|^{2p-2}+\nabla |\nabla u^{\varepsilon}|^{p}\cdot \nu |\nabla u^{\varepsilon}|^{p-2}u^{\varepsilon}-pu^{\varepsilon}|\nabla u^{\varepsilon}|^{2p-4}\triangle u^{\varepsilon}u^{\varepsilon}_{\nu}){\rm d}\sigma\nonumber\\ &&-p\int_{D_{\varepsilon_{0}}}[u^{\varepsilon}( |\nabla u^{\varepsilon}|^{2p-4}(|\nabla^{2}u^{\varepsilon}|^{2}-(\triangle u^{\varepsilon})^{2})-\nabla|\nabla u^{\varepsilon}|^{2p-4}\cdot\nabla u^{\varepsilon}\triangle u^{\varepsilon}\nonumber\\ &&+2(p-2)|\nabla u^{\varepsilon}|^{2p-6}|\nabla^{2} u^{\varepsilon}\cdot\nabla u^{\varepsilon}|^{2}) -|\nabla u^{\varepsilon}|^{2p-2}\triangle u^{\varepsilon}]{\rm d}x\nonumber\\ & = &\int_{\partial D_{\varepsilon_{0}}}(-u^{\varepsilon}_{\nu}|\nabla u^{\varepsilon}|^{2p-2}+\nabla |\nabla u^{\varepsilon}|^{p}\cdot \nu |\nabla u^{\varepsilon}|^{p-2}u^{\varepsilon}-pu^{\varepsilon}|\nabla u^{\varepsilon}|^{2p-4}\triangle u^{\varepsilon}u^{\varepsilon}_{\nu}){\rm d}\sigma\nonumber\\ &&-p\int_{D_{\varepsilon_{0}}}[u^{\varepsilon}( |\nabla u^{\varepsilon}|^{2p-4}|\nabla^{2}u^{\varepsilon}|^{2}-(|\nabla u^{\varepsilon}|^{p-2}\triangle u^{\varepsilon})^{2}-2\nabla|\nabla u^{\varepsilon}|^{p-2}\cdot\nabla u^{\varepsilon}|\nabla u^{\varepsilon}|^{p-2}\triangle u^{\varepsilon}\nonumber\\ &&+2(p-2)|\nabla u^{\varepsilon}|^{2p-6}|\nabla^{2} u^{\varepsilon}\cdot\nabla u^{\varepsilon}|^{2})-|\nabla u^{\varepsilon}|^{2p-2}\triangle u^{\varepsilon}]{\rm d}x. \end{eqnarray*} $

因为$ \triangle_{p}u^{\varepsilon} = |\nabla u^{\varepsilon}|^{p-2}\triangle u^{\varepsilon}+\nabla|\nabla u^{\varepsilon}|^{p-2}\cdot\nabla u^{\varepsilon} = -1 $, 所以

(2.2) $ \begin{eqnarray} &&\int_{D_{\varepsilon_{0}}}|\nabla u^{\varepsilon}|^{p}{\rm d}x\\ & = &\int_{\partial D_{\varepsilon_{0}}}-u^{\varepsilon}_{\nu}|\nabla u^{\varepsilon}|^{2p-2}+\int_{\partial D_{\varepsilon_{0}}}u^{\varepsilon}(\nabla |\nabla u^{\varepsilon}|^{p}\cdot \nu |\nabla u^{\varepsilon}|^{p-2}-p|\nabla u^{\varepsilon}|^{2p-4}\triangle u^{\varepsilon}u^{\varepsilon}_{\nu}){\rm d}\sigma\\ &&-p\int_{D_{\varepsilon_{0}}}\{u^{\varepsilon} [|\nabla u^{\varepsilon}|^{2p-4}|\nabla^{2}u^{\varepsilon}|^{2}-1+(\nabla |\nabla u^{\varepsilon}|^{p-2}\cdot\nabla u^{\varepsilon})^{2}\\ &&+2(p-2)|\nabla u^{\varepsilon}|^{2p-6}|\nabla^{2} u^{\varepsilon}\cdot\nabla u^{\varepsilon}|^{2}]-|\nabla u^{\varepsilon}|^{2p-2}\triangle u^{\varepsilon} \}{\rm d}x. \end{eqnarray} $

因为在$ \partial D $上$ u = 0 $, 所以在$ \partial D $上$ |\nabla u|>0 $. 因此, 可取充分小的$ \varepsilon_{0} $使得在$ \overline{D}\setminus D_{\varepsilon_{0}} $中$ u\in C^{2, \alpha} $. 由标准的边界正则性理论, 我们得到在$ \partial D $上$ |\nabla u| $是有界的. 因为在$ \partial D $上$ u = 0 $, 则由方程可知在$ \partial D $上$ \nabla^{2}u $是有界的, 从而得到$ u $在$ \overline{D}\setminus D_{\varepsilon_{0}} $中$ C^{2} $范数的界, 它不依赖于$ \varepsilon_{0} $. 令$ \varepsilon\rightarrow 0 $和$ \varepsilon_{0}\rightarrow 0 $, 我们得到(2.2)式右边第二项是零. 事实上, 由$ u_{\nu} = -|\nabla u| $, 可得

$ \begin{eqnarray*} &&\int_{D}|\nabla u|^{p}{\rm d}x\nonumber\\ & = &\int_{\partial D}|\nabla u|^{2p-1} {\rm d}\sigma-p\int_{D}\{u [|\nabla u|^{2p-4}|\nabla^{2}u|^{2}-1+(\nabla |\nabla u|^{p-2}\cdot\nabla u)^{2}\nonumber\\ &&+2(p-2)|\nabla u|^{2p-6}|\nabla^{2} u\cdot\nabla u|^{2}] -|\nabla u|^{2p-2}\triangle u \}{\rm d}x\nonumber\\ & = &\int_{\partial D}|\nabla u|^{2p-1} {\rm d}\sigma-p\int_{D}\{u [|\nabla u|^{2p-4}|\nabla^{2}u|^{2}-1+(p-2)^{2}|\nabla u|^{2p-8}(\nabla^{2} u(\nabla u, \nabla u))^{2}\nonumber\\ &&+2(p-2)|\nabla u|^{2p-6}|\nabla^{2} u\cdot\nabla u|^{2}]-|\nabla u|^{2p-2}\triangle u \}{\rm d}x. \end{eqnarray*} $

由Cauchy-Schwarz不等式知$ |\nabla u|^{2}|\nabla^{2} u\cdot\nabla u|^{2}\geq(\nabla^{2} u(\nabla u, \nabla u))^{2} $, 那么

$ \begin{eqnarray*} \int_{D}|\nabla u|^{p}{\rm d}x&\leq&\int_{\partial D}|\nabla u|^{2p-1} {\rm d}\sigma-p\int_{D}\{u [|\nabla u|^{2p-4}|\nabla^{2}u|^{2} -1\nonumber\\ &&+ p(p-2)|\nabla u|^{2p-8}(\nabla^{2} u(\nabla u, \nabla u))^{2}] -|\nabla u|^{2p-2}\triangle u \}{\rm d}x. \end{eqnarray*} $

由引理2.1, 可知

(2.3) $ \begin{eqnarray} \int_{D}|\nabla u|^{p}{\rm d}x\leq \int_{\partial D}|\nabla u|^{2p-1} {\rm d}\sigma+p(1-\frac{1}{n})\int_{D}u {\rm d}x +p\int_{D}|\nabla u|^{2p-2}\triangle u {\rm d}x. \end{eqnarray} $

下面我们计算(2.3)式的最后一项,

$ \begin{eqnarray*} &&\int_{D}|\nabla u|^{2p-2}\triangle u {\rm d}x\nonumber\\ & = &\int_{D}|\nabla u|^{p}(-1-\nabla|\nabla u|^{p-2}\cdot\nabla u){\rm d}x\nonumber\\ & = &-\int_{D}|\nabla u|^{p}{\rm d}x-\frac{p-2}{2p-2}\int_{D}\nabla|\nabla u|^{2p-2}\cdot\nabla u{\rm d}x\nonumber\\ & = &-\int_{D}|\nabla u|^{p}{\rm d}x-\frac{p-2}{2p-2}\int_{\partial D}|\nabla u|^{2p-2}u_{\nu}{\rm d}\sigma+\frac{p-2}{2p-2}\int_{D} |\nabla u|^{2p-2}\triangle u{\rm d}x. \end{eqnarray*} $

因为$ u_{\nu} = -|\nabla u| $, 所以上面的等式可化为

(2.4) $ \begin{eqnarray} p\int_{D}|\nabla u|^{2p-2}\triangle u {\rm d}x = -(2p-2)\int_{D}|\nabla u|^{p}{\rm d}x+(p-2)\int_{\partial D}|\nabla u|^{2p-1}{\rm d}\sigma. \end{eqnarray} $

将式(2.4)代入式(2.3), 注意到$ \int_{D}u {\rm d}x = \int_{D}|\nabla u|^{p}{\rm d}x $, 可得

$ \begin{eqnarray*} (1+\frac{p}{n(p-1)})\int_{D}|\nabla u|^{p}{\rm d}x-\int_{\partial D}|\nabla u|^{2p-1}{\rm d}\sigma\leq0. \end{eqnarray*} $

从而完成了引理2.2的证明.

引理2.3  如果存在区域$ D_{0} $使得$ J(D_{0}) = 0 $, 那么在$ \Omega = D_{0} $中超定问题$ (1.4) $有解.

证  由引理2.1的证明得知, 如果$ J(D_{0}) = 0 $, 那么式(2.1)在$ \overline{D}_{0} $中成立. 因为在$ \partial D_{0} $上$ |\nabla u(x)|\neq0 $, 从而可取标准正交基$ e_{1}, \cdot\cdot\cdot, e_{n} $使得在$ \partial D_{0} $上$ e_{n} = \nu = -\frac{\nabla u}{|\nabla u|} $. 因此, 在$ \partial D_{0} $上, 如下的方程成立

$ \begin{eqnarray*} -1 = \triangle_{p}u = (p-1)|\nabla u|^{p-2}u_{\nu\nu}+\sum\limits_{i = 1}^{n-1}|\nabla u|^{p-2}u_{ii}, \end{eqnarray*} $

由式(2.1), 可得

(2.5) $ \begin{eqnarray} (p-1)|\nabla u|^{p-2}u_{\nu\nu} = -\frac{1}{n}. \end{eqnarray} $

另一方面, 在$ \partial D_{0} $上, 有

(2.6) $ \begin{eqnarray} -1 = \triangle_{p}u = (p-1)|\nabla u|^{p-2}u_{\nu\nu}-(n-1)H|\nabla u|^{p-1}. \end{eqnarray} $

将式(2.5)代入式(2.6), 在$ \partial D_{0} $上, 可得

(2.7) $ \begin{eqnarray} H|\nabla u|^{p-1} = \frac{1}{n}. \end{eqnarray} $

现在我们引进辅助函数$ P(x) = \frac{p-1}{p}|\nabla u|^{p}+\frac{1}{n}u $. 我们将利用Bernstein的方法证明在$ \partial D_{0} $上该辅助函数为常数.

设$ a_{ij} = |\nabla u|^{p-2}\delta_{ij}+(p-2)|\nabla u|^{p-4}u_{i}u_{i} $, 其中$ \delta_{ij} = 1 $, 如果$ i = j $, 否则$ \delta_{ij} = 0 $, 并且$ u_{i} = \frac{\partial u}{\partial x_{i}} $. 自然地有$ a_{ij}u_{ij} = -1 $, 其中$ u_{ij} = \frac{\partial^{2} u}{\partial x_{i}\partial x_{j}} $, 重复指标代表从$ 1 $到$ n $求和.

由Caffarelli等^[4]的定理2.2, 我们在集合$ {\cal C} = \{x\ |\ \nabla u (x)\neq0 , x\in D_{0}\} $中得到如下结论

(2.8) $ \begin{eqnarray} a_{ij}P_{ij}-(p-2)|\nabla u|^{-2}P_{i}u_{i}\geq0. \end{eqnarray} $

由式(2.7), 我们知道在$ \partial D_{0} $上$ |\nabla u(x)|\neq0 $. 因为$ u\in C^{1}(\overline{D}_{0}) $, 所以可取$ D_{\varepsilon}\subset D_{0} $使得$ |\nabla u(x)|\neq0 $, 对$ x\in D_{\varepsilon} $, 并且对于充分小的正常数$ \varepsilon $, 它的两个边界由$ u = 0 $和$ u = \varepsilon $组成. 因为$ P(x) $满足式$ (2.8) $, 所以, 由Hopf's引理知, $ P_{\nu}(x_{0})>0 $, 对于$ \partial D_{\varepsilon} $上的极大值点$ x_{0} $, 或在$ \overline{D}_{\varepsilon} $上$ P(x) $为常数. 然而由式(2.5), 可推出$ P_{\nu}(x_{0}) = (p-1)|\nabla u|^{p-2}u_{\nu\nu}u_{\nu}-\frac{1}{n}u_{\nu} = 0 $. 因此, $ P(x) $在$ \overline{D}_{\varepsilon} $中是常数. 又因为在$ \partial D_{0} $上$ u = 0 $, 所以在$ \partial D_{0} $上$ |\nabla u| = c $.

这就完成了引理2.3的证明.

引理2.4  设在$ \Omega = D_{0} $中超定问题$ (1.4) $有解, 那么$ J(D_{0}) = 0 $.

证  由分部积分公式知

(2.9) $ \begin{eqnarray} \int_{D_{0}}|\nabla u|^{p}{\rm d}x = \int_{D_{0}}u{\rm d}x = -\frac{1}{n}\int_{D_{0}}x\cdot\nabla u{\rm d}x. \end{eqnarray} $

因为$ |\nabla u|^{p-1} \in W^{1, 2}(D_{0}) $, 所以

$ \begin{eqnarray*} \int_{D_{0}}x\cdot\nabla u{\rm d}x & = &\int_{D_{0}}x\cdot\nabla u(-\triangle_{p}u){\rm d}x\nonumber\\ & = &-\int_{\partial D_{0}}(x\cdot\nabla u)(|\nabla u|^{p-2}u_{\nu}){\rm d}\sigma+\int_{D_{0}}(|\nabla u|^{p}+\nabla^{2}u(\nabla u, x)|\nabla u|^{p-2}){\rm d}x. \end{eqnarray*} $

事实上, 在边界$ \partial D_{0} $上, 由$ \nu = -\frac{\nabla u}{|\nabla u|} $和$ |\nabla u| = c $, 可知

(2.10) $ \begin{eqnarray} \int_{D_{0}}x\cdot\nabla u{\rm d}x & = &-c^{p}\int_{\partial D_{0}}x\cdot\nu {\rm d}\sigma+\int_{D_{0}}(|\nabla u|^{p}+ \frac{1}{p}\nabla|\nabla u|^{p}\cdot x){\rm d}x{}\\ & = &-c^{p}\int_{ D_{0}}{\rm div}(x){\rm d}x+\int_{\partial D_{0}}\frac{1}{p}|\nabla u|^{p} x\cdot\nu {\rm d}\sigma+\int_{D_{0}}(|\nabla u|^{p}-\frac{1}{p}|\nabla u|^{p} {\rm div}(x)){\rm d}x{}\\ & = &-\frac{n(p-1)}{p}c^{p}|D_{0}| +\frac{p-n}{p}\int_{D_{0}}|\nabla u|^{p}{\rm d}x{}\\ & = &\frac{n(p-1)}{p}c^{p}\int_{D_{0}}{\rm div}(|\nabla u|^{p-2}\nabla u){\rm d}x +\frac{p-n}{p}\int_{D_{0}}|\nabla u|^{p}{\rm d}x{}\\ & = &\frac{n(p-1)}{p}c^{p}\int_{\partial D_{0}}|\nabla u|^{p-2} u_{\nu}{\rm d}\sigma +\frac{p-n}{p}\int_{D_{0}}|\nabla u|^{p}{\rm d}x{}\\ & = &-\frac{n(p-1)}{p}\int_{\partial D_{0}}|\nabla u|^{2p-1}{\rm d}\sigma +\frac{p-n}{p}\int_{D_{0}}|\nabla u|^{p}{\rm d}x \end{eqnarray} $

将式(2.10)代入式(2.9), 我们就得到$ J(D_{0}) = 0 $. 从而完成了引理2.4的证明.

现在开始定理1.2的证明. 在定理的证明之前我们有必要回顾域导数的定义, 关于域导数更详细的介绍, 读者可以参考Simon^[13]的经典文章或Sokolowski等^[14]的著作. 设$ V: {{\Bbb R}} ^{n}\rightarrow {{\Bbb R}} ^{n} $是一个光滑向量场, 对每个充分小$ t>0 $, 定义$ \phi_{t}(x) = x+tV $, $ D_{t} = \phi_{t}(D) $, $ J $在方向$ V $上关于区域$ D $的导数定义为

$ {\rm d}J(D, V) = \lim\limits_{t\rightarrow0}\frac{J(D_{t})-J(D)}{t}. $

用$ u' $表示在方向$ V $上$ u $关于区域$ D $的域导数,

$ u' = \lim\limits_{t\rightarrow0}\frac{u(\phi_{t}(x))-u(x)}{t}. $

由Simon^[13]的结论知, 如果$ u $是方程(1.4)的解, 那么域导数$ u'\in W^{1, p}(D)\bigcap C^{1}(\overline{D}) $满足如下的方程

(2.11) $ \begin{equation} \left\{\begin{array}{ll} {\rm div}(W) = 0, & x\in D, \\ { } u' = -\frac{\partial u}{\partial \nu}V\cdot\nu, {\quad} & x\in \partial D, \end{array}\right. \end{equation} $

其中$ W = (p-2)|\nabla u|^{p-4}\nabla u\cdot\nabla u'\nabla u+|\nabla u|^{p-2}\nabla u'. $

证  我们注意到

$ \begin{eqnarray} J(D, V) = (1+\frac{p}{n(p-1)})\int_{D}u{\rm d}x-\int_{\partial D}|\nabla u|^{2p-1}{\rm d}\sigma. \end{eqnarray} $

由经典的Hadamard公式^[13], 我们可以得到了$ J(D) $在方向$ V $上关于区域$ D_{0} $的域导数

(2.12) $ \begin{eqnarray} {\rm d}J(D_{0}, V)& = &(1+\frac{p}{n(p-1)})\int_{D_{0}}u'{\rm d}x -\int_{\partial D_{0}}((2p-1)|\nabla u|^{2p-3}\nabla u\cdot\nabla u'\\ &&+(n-1)H|\nabla u|^{2p-1} V\cdot\nu+\frac{\partial}{\partial \nu}(|\nabla u|^{2p-1})V\cdot\nu) {\rm d}\sigma. \end{eqnarray} $

由于$ u' $满足具有边界条件$ |\nabla u| = c $和$ \nu = -\frac{\nabla u}{|\nabla u|} $的方程(2.11), 那么由散度定理, 显然有

$ \begin{eqnarray*} 0 = \int_{D_{0}}{\rm div}(W){\rm d}x = -(p-1)c^{p-3}\int_{\partial D_{0}}\nabla u\cdot \nabla u'{\rm d}\sigma, \end{eqnarray*} $

因此

(2.13) $ \begin{eqnarray} \int_{\partial D_{0}}\nabla u\cdot \nabla u'{\rm d}\sigma = 0, \end{eqnarray} $

对式(2.11)两边乘以$ u $, 由分部积分公式可得

(2.14) $ \begin{eqnarray} \int_{D_{0}}|\nabla u|^{p-2}\nabla u\cdot \nabla u'{\rm d}x = 0. \end{eqnarray} $

再结合式(2.13)和(2.14), 得到

(2.15) $ \begin{eqnarray} \int_{D_{0}}u'{\rm d}x& = &-\int_{D_{0}}u'\triangle_{p}u{\rm d}x\\ & = &-\int_{\partial D_{0}}u'|\nabla u|^{p-2}u_{\nu} {\rm d}\sigma+\int_{D_{0}}|\nabla u|^{p-2}\nabla u\cdot \nabla u'{\rm d}x\\ & = &\int_{\partial D_{0}}|\nabla u|^{p}V\cdot\nu {\rm d}\sigma \end{eqnarray} $

和

(2.16) $ \begin{eqnarray} \int_{\partial D_{0}}|\nabla u|^{2p-3}\nabla u\cdot\nabla u'{\rm d}\sigma = c^{2p-3}\int_{\partial D_{0}}\nabla u\cdot\nabla u'{\rm d}\sigma = 0. \end{eqnarray} $

在$ \partial D_{0} $上考虑方程$ \triangle_{p}u = -1 $, 在$ \partial D_{0} $上, 我们知道

$ (p-1)|\nabla u|^{p-2}u_{\nu\nu}-(n-1)H|\nabla u|^{p-1} = -1, $

所以

(2.17) $ \begin{eqnarray} \int_{\partial D_{0}}\frac{\partial}{\partial \nu}(|\nabla u|^{2p-1})V\cdot\nu {\rm d}\sigma& = &-\int_{\partial D_{0}}(2p-1)|\nabla u|^{2p-2}u_{\nu\nu}V\cdot\nu {\rm d}\sigma{}\\ & = &\int_{\partial D_{0}}\frac{2p-1}{p-1}(|\nabla u|^{p} -(n-1)H|\nabla u|^{2p-1})V\cdot\nu {\rm d}\sigma. \end{eqnarray} $

将方程(2.15)–(2.17)代入式(2.12), 得到

(2.18) $ \begin{eqnarray} {\rm d}J(D_{0}, V) = \frac{p(n-1)}{p-1}\int_{\partial D_{0}}|\nabla u|^{p} (H|\nabla u|^{p-1}-\frac{1}{n})V\cdot\nu {\rm d}\sigma = 0. \end{eqnarray} $

由于向量场$ V $的任意性和$ |\nabla u| = c\neq0 $, 方程(2.18)在$ \partial D_{0} $上蕴含着

$ \begin{eqnarray*} H = \frac{1}{nc^{p-1}}. \end{eqnarray*} $

从而由Alexandrov的定理^[1], 我们得到区域$ D_{0} $是球形.定理1.2证毕.