设$\Omega$是${\Bbb R}^{n}$中光滑连通有界域带有充分光滑边界$\partial\Omega$. $H$是${\Bbb R}^{n}$中的范数,它等价于下面三个性质: \begin{equation} H \mbox{是凸函数,}\\\ \tag{1.1} \end{equation} \begin{equation} H(\xi)\geq0 \mbox{对任意} \xi\in {\Bbb R}^{n},\mbox{且} H(\xi)=0 \mbox{当且仅当} \xi=0,\ \tag{1.2} \end{equation} \begin{equation} H(t\xi)=|t|H(\xi) \mbox{对任意}\xi\in {\Bbb R}^{n}\mbox{和} t\in {\Bbb R}. \ \tag{1.3} \end{equation} 例如,如果我们取$H$为${\Bbb R}^{n}$中的$L_{p}$范数, 那么$H(\xi)=(\sum\limits_{i=1}^{n}|\xi_{i}|^{p})^{\frac{1}{p}}$,其中$p>1.$

我们知道,${\Bbb R}^{n}$中所有的范数都是等价的,因此, $H(\xi)$等价于欧拉范数$|\xi|$,即存在常数$c$使得 $$c^{-1}|\xi|\leq H(\xi)\leq c|\xi|,\forall\xi\in {\Bbb R}^{n}.$$

在下文中,为了方便起见,我们统一用$c$来表示常数,它可以表示不同的常数.

现在我们定义${\Bbb R}^{n}$中范数$H$的对偶范数 $H_{0}$ \begin{eqnarray} H_{0}(x)=\sup\limits_{\xi eq0}\frac{x\cdot\xi}{H(\xi)},\ \mbox{对任意}x\in {\Bbb R}^{n},\tag{1.4} \end{eqnarray} 其中 $x\cdot\xi$表示${\Bbb R}^{n}$中$x$与$\xi$的内积. 显然, 当$H(\xi)=|\xi|$时,$H_{0}(x)=|x|$.

令$B_{H_{0}}(r)$是范数$H_{0}$中以原点为圆心,$r$为半径的球,即 \begin{eqnarray}\ B_{H_{0}}(r)=\{x\in{\Bbb R}^{n}: H_{0}(x)<r\}.\tag{1.5}\end{eqnarray} 当$H(\xi)=|\xi|$,它就是欧氏空间中的球. $B_{H_{0}}(r)$通常称为以$H$为范数具有Wulff形状.

现在考虑如下各向异性超定问题 \begin{equation} \left\{\begin{array}{ll} \triangle_{F}u=-1,& \mbox{在 $\Omega$中},\\ u=0 \mbox{且} H(\nabla u)^{2}=c x\cdot\nabla u ,~& \mbox{在边界 $\partial\Omega$上}, \end{array}\right.\tag{1.6} \end{equation} 这里$\triangle_{F}u={\rm div}(H(\nabla u)\nabla_{\xi}H(\nabla u))$, $\nabla$和$\nabla_{\xi}$分别表示关于变量$x$和$\xi$的梯度算子, div表示散度算子. 有时$\triangle_{F}u$也称为作用于函数 $u$的芬斯拉-拉普拉斯算子. 我们称$u$是问题(1.6)的弱解是指$u\in C_{0}^{1}(\overline{\Omega})$, 在边界$\partial\Omega$上满足$H(\nabla u)^{2}=c x\cdot\nabla u $,而且 \begin{eqnarray} \int_{\Omega}H(\nabla u)\nabla_{\xi}H(\nabla u)\cdot\nabla\varphi {\rm d}x=\int_{\Omega}\varphi {\rm d}x,\mbox{对任意}\varphi\in C_{0}^{1}(\Omega),\tag{1.7} \end{eqnarray} 其中被积函数在$\nabla u(x)=0$处的$x$点的值为零.

注意到各向异性超定问题(1.6)的边界条件是非常数,而在文献^[5] (或见文献^[15])中Cianchi 和 Salani讨论了边界是常数的情况,他们证明了,如果各向异性超定问题 \begin{equation} \left\{\begin{array}{ll} \triangle_{F}u=-1,&\mbox{在 $\Omega$中,}\\ u=0 \mbox{和} H(\nabla u)=c ,& \mbox{在 $\partial\Omega$上} \end{array}\right.\tag{1.8} \end{equation} 存在弱解,那么存在$R>0$使得$\Omega=B_{H_{0}}(R)$,在相差平移情况下,有 $$u(x)=\frac{R^{2}-H_{0}^{2}(x)}{2n},\mbox{对任意} x\in B_{H_{0}}(R).$$ 最近Lv^[8]等人推广该结果到各向异性超定$p$拉普拉斯方程.

受以上结果的启发,我们发现当 $\Omega=B_{H_{0}}(R)$时,$u(x)=\frac{R^{2}-H_{0}^{2}(x)}{2n}$也是各向异性超定问题(1.6)的解,这时$c=-\frac{1}{n}.$ 另一方面,当$H(\xi)=|\xi|$, Payne 和 Schaefer^[12] 证明了如果超定问题(1.6)存在弱解, 那么$\Omega$是一个球. 这样我们自然会问,如果各向异性超定问题(1.6)存在弱解, 那么$\Omega$是否等于$B_{H_{0}}(R)$?本文主要证明了下面的定理.

定理 1  设$\Omega$是${\Bbb R}^{n}$中有界连通开集, 带有充分光滑边界$\partial\Omega$. $H$是${\Bbb R}^{n}$中具有$ C^{3}({\Bbb R}^{n}\setminus\{0\})$正则性, 并使得$H^{2}$是严格凸的. 如果各向异性超定问题(1.6)存在弱解, 那么存在一正常数使得$\Omega=B_{H_{0}}(R)$ (可能相差一个平移).

超定问题的研究已经有丰富的成果,当$H(\xi)=|\xi|$,超定问题({1.8})变成 \begin{equation} \left\{\begin{array}{ll} \triangle u=-1,& \mbox{在$\Omega$中},\\ u=0 \mbox{且} u_{u}=c, & \mbox{在$\partial\Omega$上}, \end{array}\right.\tag{1.9} \end{equation} 其中$u$是边界$\partial\Omega$上单位外法向量. Serrin^[13] 最先证明了如果超定问题({1.9})有解,则$\Omega$是一个球. 他的证明的主要工具是采用移动平面的技巧并利用极大模原理的方法. 后来Weinberger^[14] 通过构造辅助函数和极大模原理给出了一个简单证明,超定问题({1.9})的其它的证明方法可以参考文献 ^{[3, 4, 11, 12, 16]}. 在文献 ^{[1, 2, 6, 9, 10]}中,作者研究了具有非常数边界条件的超定问题,然而对于具有非常数边界条件的各向异性超定问题好像没有人研究过. 研究这类问题主要的困难在于该方程是拟线性方程,它缺乏正则性,一般来讲我们不能假设方程的解$u\in C^{2}(\Omega)$. 为了解决这个困难我们采用文献^[5]中逼近的技巧.

为了证明主要定理,我们引入一些引理. 同时为了方便起见,在下面的证明中我们有时省略函数的变量,如$H=H(x)$等等.

引理 1^[5]  设$H$是${\Bbb R}^{n}$中的范数使得$H$,$H_{0}\in C^{1}({\Bbb R}^{n}\setminus\{0\})$,则

(Ⅰ)$H$和$H_{0}$满足如下关系 $$ \mbox{对任意} \xi\in{\Bbb R}^{n}\setminus\{0\},~~H_{0}(\nabla_{\xi}H(\xi))=1 $$ 且 $$ \mbox{对任意} x\in{\Bbb R}^{n}\setminus\{0\},~~H(\nabla H_{0}(x))=1 .$$

(Ⅱ)映射$H\nabla_{\xi}H: {\Bbb R}^{n}\rightarrow {\Bbb R}^{n}$是可逆的且 $$ H\nabla_{\xi}H=(H_{0}\nabla H_{0})^{-1}.$$ 这里以及如下部分,我们定义映射$H\nabla_{\xi}H$和$H_{0}\nabla H_{0}$把原点映射到原点.

(Ⅲ)$\nabla H_{0}(tx)=\mbox{sign}(t)\nabla H_{0}(x)$ 对任意 $x eq0$ 和 $t eq0$.

(Ⅵ)如果$H \in C^{2}({\Bbb R}^{n}\setminus\{0\})$, 那么$\xi\cdot\nabla_{\xi}H(\xi)=H(\xi)$且$\nabla^{2}_{\xi} H(\xi)\cdot\xi=0$ 对任意$\xi\in {\Bbb R}^{n}\setminus\{0\}$,其中$\nabla^{2}_{\xi} $表示关于$\xi$变量的Hessian矩阵算子.

下面引理说明超定问题(1.6)的弱解在$\Omega$中是非负的.

引理 2^[5]  设$H$是${\Bbb R}^{n}$中属于$ C^{1}({\Bbb R}^{n}\setminus\{0\})$类范数, $\Omega$是 ${\Bbb R}^{n}$中有界域具有充分光滑边界$\partial\Omega$. 如果$u\in C^{1}(\overline{\Omega})$是下面方程的弱解$\triangle_{F}u=-1$ 在$\Omega$上,且$u=0$ 在边界$\partial\Omega$上,那么在$\Omega$上$u\geq0$.

为了简单起见,我们约定指标相同代表求和,而且下列符号可以简写为 $$H_{i}=\nabla_{\xi_{i}}H,~~ H_{ij}=\nabla^{2}_{\xi_{i}\xi_{j}}H,~~ a_{ij}=H_{i}H_{j}+HH_{ij}, $$ $$ u_{i}=\frac{\partial u}{\partial x_{i}},~~ u_{ij}=\frac{\partial^{2} u}{\partial x_{i}\partial x_{j}},~~ H_{,i}=\frac{\partial H}{\partial x_{i}},~~ (H^{2})_{,ij}=\frac{\partial^{2} H^{2}}{\partial x_{i}\partial x_{j}}.$$ 下面引理是由Wang和Xia^[15]证明的Bochner型公式.

引理 3^[15]  设$u\in C^{3}(\Omega)$,那么我们有 $$a_{ij}(H^{2})_{,ij}+(a_{ij})_{,j}(H^{2})_{,i}=2a_{ij}a_{kl}u_{ik}u_{jl}+2(a_{ij}u_{ij})_{,k}H_{k}H.$$

下面我们介绍一矩阵不等式. 我们知道如果矩阵$C=(c_{ij})\in {\Bbb R}^{n\times n}$对称的, 那么矩阵$C^{2}$迹满足下面不等式 \begin{eqnarray}\ {\rm tr}(C^{2})\geq\frac{1}{n}({\rm tr}(C))^{2},\tag{2.1} \end{eqnarray} 其中等号成立当且仅当$C$是单位矩阵$I$的数量积. 在本文中,矩阵$C$可以表示成$C=AB$,它是非对称矩阵. 然而$A$和$B$都是对称矩阵,其中$A$还是半正定矩阵. 我们证明了不等式(2.1)也成立.

引理 4  设$A$和$B$是${\Bbb R}^{n\times n}$中对称矩阵,其中$A$还是半正定矩阵. 令$C=AB$, 那么不等式(2.1)成立. 而且如果tr$(C)eq0$,那么不等式(2.1)中的等号成立当且仅当 \begin{eqnarray}\ C= \frac{ {\rm tr}(C)}{n}I.\tag{2.1}\end{eqnarray} 证  因为$A$是对称且半正定矩阵, 那么存在一对角矩阵$\Lambda=(\lambda_{i}\delta_{ij})$,其中 $\lambda_{i}\geq0$, $i=1,\cdots ,n$,是矩阵$A$的特征值,$\delta_{ij}$是Kronecker符号, 以及正交矩阵$P$使得$A=P^{T}\Lambda P.$ 众所周知,对任意的矩阵$A$和$B$, ${\rm tr}(AB)={\rm tr}(BA)$. 所以我们有 $$ {\rm tr}(C^{2})= {\rm tr}(P^{T}\Lambda PBP^{T}\Lambda PB)={\rm tr}(\Lambda P BP^{T}\Lambda PBP^{T}).$$ 现在设$D=P BP^{T}$. 我们用$d_{ij}$表示矩阵$D$的元素,$\mu_{ij}$表示矩阵$\Lambda D$的元素. 容易看出矩阵$D$是对称的,即 $\mu_{ij}=\lambda_{i}d_{ij}=\lambda_{i}d_{ji}.$ 这样我们可以得到 \begin{equation}\ {\rm tr}(C^{2})= \sum\limits_{i=1}^{n}\lambda_{i}^{2}d_{ii}^{2}+\sum\limits_{i eq j}\lambda_{i}\lambda_{j}d_{ij}^{2} \geq\frac{1}{n}(\lambda_{i}d_{ii})^{2}=\frac{1}{n}({\rm tr}(C))^{2}.\tag{2.3} \end{equation} 下面我们假设${\rm tr}(C) eq 0$,不等式(2.1)中的等号成立, 那么不等式(2.3)中的等号成立,即 \begin{equation}\ \lambda_{1}d_{11}=\lambda_{2}d_{22}=\cdots =\lambda_{n}d_{nn}, \tag{2.4} \end{equation} 且 \begin{equation}\ \lambda_{i}\lambda_{j}d_{ij}=0,\mbox{若}i eq j.\tag{2.5} \end{equation} 从(2.4)式和${\rm tr}(C) eq 0$ 可以看出,对$i=1,\cdots ,n$,$\lambda_{i}>0$. 这样由(2.5)式,我们知道当$i eq j$时,$d_{ij}=0$. 所以由(2.4)式容易证明$C= \frac{ {\rm tr}(C)}{n}I$.

现在我们介绍最后一个引理,这个引理对于后面的证明很重要.

引理 5  设$\Omega$是${\Bbb R}^{n}$ 中有界开集且满足$\partial\Omega\in C^{1},$ $H$是${\Bbb R}^{n}$ 中的范数使得 $H\in C^{2}({\Bbb R}^{n}\setminus\{0\}).$ 如果$0\leq u\in W^{2, 2}_{0}(\Omega)$,那么 \begin{eqnarray}\ \int_{\Omega}|\nabla^{2} u|_{F}^{2}u {\rm d}x\geq\frac{1}{n}\int_{\Omega}(\triangle_{F}u)^{2}u{\rm d}x,\tag{2.6} \end{eqnarray} 其中$|\nabla^{2} u|_{F}^{2}=a_{ij}a_{kl}u_{ik}u_{jl}$. 而且如果不等式(2.6)中的等号成立, 且$\triangle_{F}u=-1$,那么存在一正常数$R$使得$\Omega=B_{H_{0}}(R)$, 即它具有Wulff形状(可能相差一个平移).

证  取$A=(a_{ij})$,$B=(u_{ij})$. 注意到$A=(a_{ij})$是半正定对称矩阵,$B=(u_{ij})$是对称矩阵,所以由引理4, 可以得到不等式 (2.6).

现在假设不等式(2.6)中的等号成立. 由引理4,我们知道 $$ (a_{ik}u_{kj})=\frac{\triangle_{F}u}{n}I=-\frac{1}{n}I, $$ 即 $$ \nabla(H\nabla_{\xi}H)=-\frac{1}{n}I.$$ 这样我们推断,存在某个$x_{0}\in {\Bbb R}^{n}$使得 $$ H\nabla_{\xi}H=-\frac{1}{n}(x-x_{0}).$$ 于是,作一个平移,可以得到 $$ H\nabla_{\xi}H=-\frac{x}{n}.$$ 从引理1,我们知道 $$ \nabla u= H_{0}(-\frac{x}{n})\nabla H_{0}(-\frac{x}{n})=-\frac{1}{2n} \nabla H_{0}^{2}(x).$$ 它等价于存在一正常数$R$使得 $$ u=\frac{1}{2n}(R^{2}-H_{0}^{2}(x)).$$ 因为在边界$\partial\Omega$上$u=0$,所以$\Omega$具有Wulff形状.

下面我们来证明定理1. 由椭圆方程的正则性(参见文献^[5]), 方程(1.6)的弱解$u$属于$W^{2,2}(\Omega)$, 这个正则性无法用来证明我们的结论,因为我们要用到引理3. 为了克服这个困难,我们采用文献^[5]中引理4.3的证明方法,先考虑一个$C^{3}$的函数, 然后用逼近的方法去证明. 引理 3.1  设$\Omega$是$ {\Bbb R}^{n}$中的有界开集且满足$\partial\Omega\in C^{1}$,$H$是$ {\Bbb R}^{n}$中的范数使得 $H\in C^{2}({\Bbb R}^{n}\setminus\{0\}).$ 如果$u\in W^{2,2}(\Omega)\bigcap C^{1}(\overline{\Omega})$, 在边界$\partial\Omega$上$u=0$,那么 \begin{eqnarray}\ \int_{\Omega}a_{ij}(H^{2})_{,i}u_{j}{\rm d}x =-2\int_{\Omega}\{|\nabla^{2} u|_{F}^{2}u -(\triangle_{F}u)^{2}u-H^{2}\triangle_{F}u \}{\rm d}x.\tag{3.1}\end{eqnarray}

证  如文献^[5]中引理4.3的证明,我们分两步来证明(3.1)式. 第一步,假设$H\in C^{3}({\Bbb R}^{n}),$ $u\in C^{3}(\Omega)\bigcap W^{2,2}(\Omega)\bigcap C^{1}(\overline{\Omega})$,在边界$\partial\Omega$上$u=0$, 我们证明(3.1)式成立.

考虑一族光滑函数$\rho_{\epsilon}: \Omega\rightarrow [0,1],$ 对任意$\epsilon>0$ 使得 $\rho_{\epsilon}$在$\Omega$中具有紧支集,而且在$\Omega_{\epsilon}=\{x\in \Omega|$ dist$(x,\partial\Omega)\geq\epsilon\}$中, $\rho_{\epsilon}\equiv1$; 在$\Omega$中,$|\nabla \rho_{\epsilon}|\leq\frac{c}{\epsilon}$. 由分部积分和引理3,我们得到 \begin{eqnarray}\ \int_{\Omega}\rho_{\epsilon}a_{ij}(H^{2})_{,i}u_{j}{\rm d}x &=&-\int_{\Omega}\{\rho_{\epsilon}u (a_{ij,j}(H^{2})_{,i}+a_{ij}(H^{2})_{,ij})+\rho_{\epsilon,j}a_{ij}(H^{2})_{,i}u\}{\rm d}x onumber\\ &=&-\int_{\Omega}\{2\rho_{\epsilon}u (a_{ij}a_{kl}u_{ik}u_{jl}+(a_{ij}u_{,ij})_{k}H H_{k})+\rho_{\epsilon,j}a_{ij}(H^{2})_{,i}u\}{\rm d}x onumber\\ &=&-\int_{\Omega}2\rho_{\epsilon}\{|\nabla^{2} u|_{F}^{2}u -(\triangle_{F}u){\rm div}(H H_{\xi})u-H H_{k}u_{k}\triangle_{F}u \}{\rm d}x onumber\\ &+&2\int_{\Omega}\{uH H_{k}\rho_{\epsilon,k}a_{ij}u_{ij} -\rho_{\epsilon,j}a_{ij}H H_{k}u_{ki}u\}{\rm d}x onumber\\ &=&-\int_{\Omega}2\rho_{\epsilon}\{|\nabla^{2} u|_{F}^{2}u -(\triangle_{F}u)^{2}u-H^{2}\triangle_{F}u \}{\rm d}x onumber\\ &&+2\int_{\Omega}\{uH H_{k}\rho_{\epsilon,k}a_{ij}u_{ij} -\rho_{\epsilon,j}a_{ij}H H_{k}u_{ki}u\}{\rm d}x.\tag{3.2}\end{eqnarray}

因为$u\in C^{1}(\overline{\Omega})$,在边界$\partial\Omega$上$u=0$, 所以存在与$\epsilon$无关的常数$c$使得$||\nabla u||_{C^{0}(\overline{\Omega})}\leq c,$ 且对任意$x\in \Omega\setminus\Omega_{\epsilon}$,$|u|\leq c\epsilon$. 那么对任意$x\in \Omega$,$|u\nabla\rho_{\epsilon}|\leq c$, $|H\nabla_{\xi}H|\leq c$,$|a_{ij}u_{ij}|\leq c|\nabla^{2}u|$. 这样我们可以来估计(3.2)式中的最后一项, \begin{eqnarray}\ &&2\bigg|\int_{\Omega}\{uH H_{k}\rho_{\epsilon,k}a_{ij}u_{ij} -\rho_{\epsilon,j}a_{ij}H H_{k}u_{ki}u\}{\rm d}x\bigg| onumber\\ &=&2\bigg|\int_{\Omega\setminus\Omega_{\epsilon}}\{uH H_{k}\rho_{\epsilon,k}a_{ij}u_{ij} -\rho_{\epsilon,j}a_{ij}H H_{k}u_{ki}u\}{\rm d}x\bigg| onumber\\ &\leq&c\int_{\Omega\setminus\Omega_{\epsilon}}|\nabla^{2}u|{\rm d}x \leq c|\Omega|^{\frac{1}{2}} \bigg(\int_{\Omega\setminus\Omega_{\epsilon}}|\nabla^{2}u|^{2}{\rm d}x\bigg)^{\frac{1}{2}}.\tag{3.3}\end{eqnarray} 由区域$\Omega$的有界性,$u\in W^{2,2}(\Omega)$,所以令$\epsilon\rightarrow 0^{+}$,可知(3.3)式右端趋于零. 这样在(3.2)式的两边令 $\epsilon\rightarrow 0^{+}$,我们得到(3.1)式.

第二步,我们证明对于满足引理3.1条件中的任意的 $H$和$u$,(3.1)式都成立.

现在我们设$V(\xi)=\frac{1}{2}H(\xi)^{2}$,则$H$的假设说明存在常数$C$使得 $$c^{-1}|\xi|^{2}\leq V(\xi)\leq c|\xi|^{2},|\nabla_{\xi} V(\xi)|\leq c|\xi| $$ 且 $$ ||\nabla^{2}_{\xi} V(\xi)||_{L^{\infty}}\leq c,\forall \xi\in {\Bbb R}^{n}.$$

所以利用标准的卷积方法可以证明存在一族凸函数$V_{\varepsilon}: {\Bbb R}^{n}\rightarrow[0,+\infty)$,其中$\varepsilon>0$ 满足$V_{\varepsilon}\in C^{\infty}({\Bbb R}^{n}),$ 而且 $$ \lim\limits_{\varepsilon\rightarrow0+}V_{\varepsilon}=V \mbox{在} \ C^{1}({\Bbb R}^{n})\mbox{和}C^{2}({\Bbb R}^{n}\setminus B(r))\mbox{中}, \forall r>0, onumber $$ $$ V_{\varepsilon}(\xi)\leq c(1+|\xi|^{2}),|\nabla_{\xi} V_{\varepsilon}(\xi)|\leq c(1+|\xi| ),|\nabla^{2}_{\xi} V_{\varepsilon}(\xi)|\leq c, \forall \xi\in {\Bbb R}^{n}, $$ 这里常数 $c$ 与$\varepsilon$无关,$V_{\varepsilon}$,$\nabla_{\xi}V_{\varepsilon}$ 和 $\nabla^{2}_{\xi}V_{\varepsilon}$在${\Bbb R}^{n}$是一致连续的. 而且存在函数列$\{u^{N}\}$使得,$u^{N}\in C^{\infty}(\Omega)\bigcap W^{2,2}(\Omega)\bigcap C^{1}(\overline{\Omega})$,在边界$\partial\Omega$上,$u^{N}=0$, $$ \lim\limits_{N\rightarrow\infty}u^{N}=u \mbox{在} C^{1}(\overline{\Omega})\mbox{和}W^{2,2}(\Omega))\mbox{ 中,} $$ 且 $$ \lim\limits_{N\rightarrow\infty}\nabla^{2}u^{N}=\nabla^{2}u \mbox{在$ \Omega$ 中几乎处处成立} $$ (参考文献^[5]). 由第一步,我们得到 \begin{eqnarray}\ &&\int_{\Omega}\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u^{N})\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u^{N})u^{N}_{ik} u^{N}_{j}{\rm d}x onumber\\ &=&-\int_{\Omega}\{\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u^{N})\nabla^{2}_{\xi_{k}\xi_{l}}V_{\varepsilon}(\nabla u^{N})u^{N}_{ik} u^{N}_{jl} u^{N} -(\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u^{N})u^{N}_{ij})^{2}u^{N} onumber\\ &&-2\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u^{N})u^{N}_{k}\nabla^{2}_{\xi_{i}\xi_{j}} V_{\varepsilon}(\nabla u^{N})u^{N}_{ij} \}{\rm d}x.\tag{3.4}\end{eqnarray} 我们提醒上式中的最后一项与(3.1)式最后一项不同,因为 $\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u^{N})u^{N}_{k}=V_{\varepsilon}(\nabla u^{N})$在卷积下一般不成立.

现在我们在(3.4)式两边先令 $N\rightarrow\infty,$ 然后令$\varepsilon\rightarrow 0^{+}$, 我们得到(3.1)式.事实上,我们有 \begin{eqnarray}\ &&\int_{\Omega}|\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u^{N})\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u^{N})u^{N}_{ik} u^{N}_{j}-\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u )\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u )u _{ik} u _{j}|{\rm d}x onumber\\ &\leq&\int_{\Omega}|\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u^{N})\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u^{N})u^{N}_{ik} ||u^{N}_{j}-u_{j}|{\rm d}x onumber\\ &&+\int_{\Omega}|\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u^{N})\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u^{N})u_{j}||u^{N}_{ik}-u_{ik}|{\rm d}x onumber\\ &&+\int_{\Omega}|\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u^{N})u_{j}u_{ik}||\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u^{N})-\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u)|{\rm d}x onumber\\ &&+\int_{\Omega}|\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u)u_{j}u_{ik}||\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u^{N})-\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)|{\rm d}x onumber\\ &\leq&c|\Omega|^{\frac{1}{2}}(1+|\nabla u^{N}|_{C^{0}(\overline{\Omega})})|\nabla u^{N}-\nabla u|_{C^{0}(\overline{\Omega})}||\nabla^{2}u^{N}||_{L^{2}} onumber\\ &&+c|\Omega|^{\frac{1}{2}}(1+|\nabla u^{N}|_{C^{0}(\overline{\Omega})})|\nabla u|_{C^{0}(\overline{\Omega})}||\nabla^{2}u^{N}-\nabla^{2}u||_{L^{2}} onumber\\ &&+c|\Omega|^{\frac{1}{2}}|\nabla u|_{C^{0}(\overline{\Omega})}||\nabla^{2}u||_{L^{2}}||\nabla_{\xi} V_{\varepsilon}(\nabla u^{N})-\nabla_{\xi} V_{\varepsilon}(\nabla u)||_{L^{\infty}} onumber\\ &&+c|\Omega|^{\frac{1}{2}}(1+|\nabla u|_{C^{0}(\overline{\Omega})}^{2})||\nabla^{2}u||_{L^{2}}||\nabla^{2}_{\xi}V_{\varepsilon}(\nabla u^{N})-\nabla^{2}_{\xi}V_{\varepsilon}(\nabla u)||_{L^{\infty}},\tag{3.5} \end{eqnarray} 其中常数$c$与$\varepsilon$和$N$无关. 而且,当$N\rightarrow\infty$时, 不等式({3.5})的右边趋于零. 类似可证 \begin{eqnarray*} &&\lim\limits_{N\rightarrow\infty}\int_{\Omega}\{\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u^{N})\nabla^{2}_{\xi_{k}\xi_{l}}V_{\varepsilon}(\nabla u^{N})u^{N}_{ik} u^{N}_{jl} u^{N} -(\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u^{N})u^{N}_{ij})^{2}u^{N} onumber\\ &&-2\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u^{N})u^{N}_{k}\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u^{N})u^{N}_{ij} \}{\rm d}x onumber\\ &=&\int_{\Omega}\{\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)\nabla^{2}_{\xi_{k}\xi_{l}}V_{\varepsilon}(\nabla u)u_{ik} u_{jl} u -(\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)u_{ij})^{2}u onumber\\ &&-2\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u)u_{k}\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)u_{ij} \}{\rm d}x.\end{eqnarray*} 这样令 $N\rightarrow\infty$,(3.4)式变成 \begin{eqnarray}\ &&\int_{\Omega}\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u)u_{ik} u_{j}{\rm d}x onumber\\ &=&\int_{\Omega}\{\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)\nabla^{2}_{\xi_{k}\xi_{l}}V_{\varepsilon}(\nabla u)u_{ik} u_{jl} u -(\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)u_{ij})^{2}u onumber\\ &&-2\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u)u_{k}\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)u_{ij} \}{\rm d}x.\end{eqnarray}

注意到在$C^{0}({\Bbb R}^{n})$中 $\nabla_{\xi}V_{\varepsilon}(\nabla u)\rightarrow \nabla_{\xi}V (\nabla u)$,在$\{x| \nabla u(x) eq 0\}$处有, $\nabla^{2}_{\xi}V_{\varepsilon}(\nabla u)\rightarrow\nabla^{2}_{\xi}V(\nabla u)$. 另一方面,由文献[7,定理6.19]可知, 在$\{x| \nabla u(x)=0\}$中$\nabla^{2}u=0$几乎处处成立,所以在$\{x| \nabla u(x)=0\}$中 $\nabla^{2}_{\xi}V_{\varepsilon}(\nabla u)\nabla^{2}u=\nabla^{2}_{\xi}V(\nabla u)\nabla^{2}u$ 几乎处处成立. 所以有$\lim\limits_{\varepsilon\rightarrow 0^{+}}\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u)u_{ik} u_{j}$$=\nabla^{2}_{\xi_{i}\xi_{j}}V(\nabla u)\nabla_{\xi_{k}}V(\nabla u)u_{ik} u_{j}$. 而且存在常数$c$使得 $$|\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)\nabla_{\xi_{k}}V_{\varepsilon} (\nabla u)u_{ik} u_{j}|\leq c(1+ ||\nabla u||_{C^{0}(\overline{\Omega})}^{2})|\nabla^{2}u|,\mbox{在$\Omega$ 中几乎处处成立 } $$ 以及 $$|\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)\nabla^{2}_{\xi_{k}\xi_{l}} V_{\varepsilon}(\nabla u)u_{ik} u_{jl} u |\leq c|| u||_{C^{0}(\overline{\Omega})} |\nabla^{2}u|^{2},\mbox{在$\Omega$ 中几乎处处成立.} $$ 类似我们可知 $$|(\nabla^{2}_{\xi_{i}\xi_{j}}V_{\varepsilon}(\nabla u)u_{ij})^{2}u|\leq c|| u||_{C^{0}(\overline{\Omega})}|\nabla^{2}u|^{2}, \mbox{在$\Omega$ 中几乎处处成立} $$ 以及 $$|2\nabla_{\xi_{k}}V_{\varepsilon}(\nabla u)u_{k}\nabla^{2}_{\xi_{i}\xi_{j}} V_{\varepsilon}(\nabla u)u_{ij}|\leq c(1+||\nabla u||_{C^{0} (\overline{\Omega})}^{2})|\nabla^{2}u|,\mbox{在$\Omega$ 中几乎处处成立.} $$ 运用控制收敛定理于(3.6)式,令$\varepsilon\rightarrow 0^{+}$,我们得到(3.1)式.

现在我们利用引理3.1来证明定理1.

证  由分部积分和引理3.1,可以得到 \begin{eqnarray}\ \int_{\Omega}u {\rm d}x&=&\int_{\Omega}H^{2}(\nabla u){\rm d}x =\int_{\Omega}H^{2}(\nabla u)(-\triangle_{F}u){\rm d}x onumber\\ &=&-\int_{\partial\Omega}H^{2}(\nabla u)H H_{\xi}\cdot u {\rm d}\sigma+\int_{\Omega}a_{ij}(H^{2})_{,i}u_{j}{\rm d}x onumber\\ &=&-c\int_{\partial\Omega}H^{2}(\nabla u)x\cdot u {\rm d}\sigma-2\int_{\Omega}\{|\nabla^{2} u|_{F}^{2}u -(\triangle_{F}u)^{2}u-H^{2}\triangle_{F}u \}{\rm d}x onumber\\ &=&-c\int_{\Omega}{\rm div}(xH^{2}(\nabla u)){\rm d}x-2\int_{\Omega}|\nabla^{2} u|_{F}^{2}u {\rm d}x.\tag{3.7}\end{eqnarray} 由引理1和分部积分,可以推断 \begin{eqnarray}\ \int_{\Omega}{\rm div}(xH^{2}(\nabla u)){\rm d}x&=&\int_{\Omega}nH^{2}{\rm d}x+2\int_{\Omega}H H_{j}u_{ij}x_{i}{\rm d}x onumber\\ &=&\int_{\Omega}n u{\rm d}x+2\int_{\Omega}u_{k}a_{kj}u_{ij}x_{i}{\rm d}x.\tag{3.8}\end{eqnarray} 类似引理3.1的证明,我们可以设$u\in C^{3}(\Omega)$和 $H\in C^{3}({\Bbb R}^{n})$,从而得到 \begin{eqnarray}\ \int_{\Omega}u_{k}a_{kj}u_{ij}x_{i}{\rm d}x&=&-\int_{\Omega}u(a_{kj,k}u_{ij}x_{i}+a_{kj}u_{ijk}x_{i}+a_{ij}u_{ij}){\rm d}x onumber\\ &=&-\int_{\Omega}u(a_{ij}u_{ij})_{,k}x_{k}{\rm d}x+\int_{\Omega}u{\rm d}x onumber\\ &=&\int_{\Omega}u{\rm d}x .\tag{3.9}\end{eqnarray} 再利用逼近的方法,我们知道 ({3.9})式对于定理1中所有的$H$和$u$都成立,所以 $$ \int_{\Omega}div(xH^{2}(\nabla u)){\rm d}x=\int_{\Omega}(n+2) u{\rm d}x.$$ 这样有引理2和引理5,({3.7})式满足 \begin{eqnarray}\ \int_{\Omega}u {\rm d}x&=&c(n+2)\int_{\Omega}u{\rm d}x-2\int_{\Omega}|\nabla^{2} u|_{F}^{2}u {\rm d}x onumber\\ &\leq&c(n+2)\int_{\Omega}u{\rm d}x-\frac{2}{n}\int_{\Omega}(\triangle_{F}u)^{2}u {\rm d}x onumber\\ &\leq&\bigg(c(n+2)-\frac{2}{n}\bigg)\int_{\Omega}u{\rm d}x.\tag{3.10}\end{eqnarray} 这说明 \begin{equation}\ c\geq\frac{1}{n}.\tag{3.11} \end{equation} 另一方面,由散度定理,我们知道 \begin{equation}\ |\Omega|=-\int_{\Omega}\triangle_{F}u{\rm d}x =-\int_{\partial\Omega}HH_{\xi}\cdot u {\rm d}\sigma=\int_{\partial\Omega}x\cdot u {\rm d}\sigma=cn |\Omega|. \tag{3.12} \end{equation} 结合(3.11) 和(3.12)式,我们得到(3.10)式中的等号成立. 这样由引理5,定理1得证.