在本文中, 我们主要研究当$2\leq k \leq n$时k-Hessian方程

$S_{k}[u]=f(y,u,Du)\,$

(1.1)

在${\Bbb R}^{n}$中的开区域$\Omega$内的局部解的存在性.若$u\in C^2$是一个光滑函数, k-Hessian算子$S_{k}$定义为

$S_{k}[u]=S_k(D^2u)=\sigma_{k}(\lambda(D^{2}u))=\sum_{1\leq i_{1}< i_{2}\cdots<i_{k}\leq n}\lambda_{i_{1}}\lambda_{i_2}\cdots\lambda_{i_{k}},$

(1.2)

其中$\lambda(D^{2}u)=(\lambda_{1},\cdots ,\lambda_{n})$是Hessian矩阵$(D^{2}u)$的特征值, $\sigma_{k}(\lambda)$是$k$次初等对称多项式, $S_k[u]$是Hessian矩阵$(D^{2}u)$的所有$k$阶主子式的和.如果Hessian矩阵$(D^{2}u)$的特征值是在G{\aa}rding锥

$ \Gamma_{k}(n)=\{\lambda=(\lambda_1,\lambda_2,\cdots,\lambda_n)\in{\Bbb R}^{n}: \sigma_j(\lambda)>0,1\leq j\leq k\} $

内取值, 就称光滑函数$u$是$k$ -凸的.

当$f\in C^\infty$且非负时, Hong和Zuily在文献[6]中得到了Monge-Ampère方程

$\det D^{2}u=f(y,u,Du),~ y\in \Omega\subset{\Bbb R}^{n}$

(1.3)

的$C^\infty$局部解的存在性, 这是方程(1.1) 中$k=n$的情形.有关Monge-Ampère方程的几何背景可参看文献[4-5, 8].由于$k=1$是Hessian方程经典的情形, 本文只考虑$2\leq k< n$.我们将利用文献[6] (也可以参见文献[7, 9])中的方法, 通过对$S_{k}[u]=c$ ($c$为实数)的多项式形式解的扰动构造局部解.由于方程(1.1) 右端函数有可能等于0, 所以解的取值范围要取为$\Gamma_{k}$的闭包, 而$\Gamma_{k}$闭包的边界为

$\partial\Gamma_{k}(n)=\{\lambda\in {\Bbb R}^{n}: \sigma_{j}(\lambda)\geq0 ,\sigma_{k}(\lambda)=0,1\leq j\leq k-1\}. $

由Maclaurin's不等式

$ \left[\frac{\sigma_{k}(\lambda)}{\big(^{n}_{k}\big)}\right]^{1/k}\leq \left[\frac{\sigma_{l}(\lambda)}{\big(^{n}_{l}\big)}\right]^{1/l},\ \ \lambda\in \Gamma_{k},\,k\geq l\geq 1 $

可知:当$\lambda\in\partial \Gamma_{k}(n)$时, $\sigma_{k+1}(\lambda)>0$是不可能发生的.因此, 我们可以把$\partial \Gamma_{k}$记为两部分

$tial\Gamma_{k}(n)= {\bf P}_{1}\cup {\bf P}_{2},$

其中

$\ {\bf P}_{1}=\{\lambda\in \Gamma_{k}(n):\sigma_{j}(\lambda)\geq0,\,\sigma_{k}(\lambda)=\sigma_{k+1}(\lambda)=0,1\leq j\leq k-1\},\\ {\bf P}_{2}= \{\lambda\in \Gamma_{k}(n):\sigma_{j}(\lambda)\geq0,\,\sigma_{k}(\lambda)=0,\,\sigma_{k+1}(\lambda)<0,1\leq j\leq k-1\},$

并且当$ k=n$时, ${\bf P}_{2}=\emptyset.$

关于k-Hessian方程(1.1) 的局部解, 我们有如下结论:

定理1.1 当$2\leq k\leq n-1$时, 假设$f=f(y,u,p)$在点$Z_0=(0,0,0)\in {\Bbb R}^n\times{\Bbb R}\times{\Bbb R}^{n}$附近连续, 并设$f$关于$y$是$C^\alpha (0<\alpha <1)$连续, 关于$u,p$是$C^{2,1}$光滑的, 那么

(1) 如果$f(Z_0)=0$, 则方程(1.1) 在$y_0=0$附近有一个$(k-1)$ -凸但不是$(k+1)$ -凸的局部$C^{2,\alpha }$解, 满足:对任意固定的$(\tau_{1},\cdots,\tau_{n})\in {\bf P}_{2}$,

$u(y)=\frac{1}{2}\sum^{n}_{i=1}\tau_{i}y^{2}_{i}+{\varepsilon '}\varepsilon ^{4}w(\varepsilon ^{-2} y),$

(1.4)

其中$\varepsilon '$满足

$\varepsilon '=\left\{\begin{array}{ll} \varepsilon ^\alpha ,& 0<\alpha \le \frac{1}{2},\\[3mm] \varepsilon ,& \frac 12<\alpha <1,\end{array}\right.$

(1.5)

$\varepsilon >0$很小, $w$满足

$\left\{ \begin{array}{l} \|w\|_{C^{2,\alpha }}\leq 1,\\ w(0)=0,\nabla w(0)=0. \end{array}\right.$

(1.6)

(2) 如果在点$Z_0$附近$f\geq 0$, 则方程(1.1) 在$y_0=0$附近有一个$k$ -凸但不是$(k+1)$ -凸的局部解$u\in C^{2,\alpha }$, 并且$u$满足(1.4) 式.

此外, 还可以得到方程(1.1) 关于解(1.4) 是一致椭圆的.如果在$Z_0$附近$f\in C^\infty$, 那么在$y_0$附近$u\in C^\infty$.

我们注意到, Chen和Han在文献[1]中证明了$C^\infty$局部解的存在性, Tian, Wang和Xu在文献[9-10]中证明了无穷多个$C^\infty$局部解的存在性, 当然我们这里也是证明无穷多个$C^{2+\alpha }$局部解的存在性.因为从微分几何的角度来说, 只需要$C^\infty$局部解的存在性; 但是从偏微分方程的观点看, 我们需要考虑如何在对$f$要求最低的光滑性条件下得到经典的局部解.经典的Schauder估计还包括:当$f(y,u,Du)$关于$y$是Dini连续的, 则解$u$是连续的, 而且解的连续模受到Dini积分的控制.从下文的(2.1) 式可以看出, 本文的方法对Dini连续的情形是失效的.在定理1.1中, 条件$f\in C^\alpha $与经典的Schauder估计对$f$的要求是一致的, 从而是最佳的.

为了方便, 我们在$B_1(0)$中用变量$x$代替变量$y$, 用$w$代替函数$u$来研究方程(1.1), 并把局部概念引入到新方程中.方法来自文献[7].取$\tau=(\tau_1,\cdots,\tau_n)\in{\bf P}_{2}$, 那么$\psi(y)=\frac{1}{2}\sum\limits_{i=1}^n\tau_i y_i^2$是方程$S_k[\psi]=0$的一个多项式形式的解.类似于文献[7]引入函数

$ u(y)=\frac{1}{2}\sum_{i=1}^n\tau_i y_i^2+{\varepsilon '}\varepsilon ^{4}w(\varepsilon ^{-2}y) =\psi(y)+{\varepsilon '}\varepsilon ^{4}w(\varepsilon ^{-2}y),\begin{matrix} {} & {} \\ \end{matrix} \tau\in{\bf P}_{2},\,\,\varepsilon >0 $

作为方程(1.2) 的候选(candidate)解.记$y=\varepsilon ^2 x$, 可得

$ (D_{y_j} u)(x)=\tau_j \varepsilon ^2 x_j+{\varepsilon '}\varepsilon ^2 w_j(x),\begin{matrix} {} & {} \\ \end{matrix} j=1,\cdots,n $

和

$ (D_{y_jy_k} u)(x)=\delta ^j_k \tau_j +{\varepsilon '} w_{jk}(x),\begin{matrix} {} & {} \\ \end{matrix} j,k=1,\cdots,n $

成立, 其中$\delta ^j_k$是Kronecker记号, $w_j(x)=(D_{y_j} w)(x)$, $w_{jk}(x)=(D^2_{y_{jk}} w)(x)$.因此方程(1.1) 转化为

$ \tilde{S}_{k}(w)=\tilde{f}_\varepsilon (x,w(x),Dw(x)),\begin{matrix} {} & {} \\ \end{matrix} x\in B_1(0)=\{x\in {\Bbb R}^{n}; |x|< 1\},$

其中$ \tilde{S}_{k}[w]=S_{k}(\delta _{i}^{j}\tau_i+{\varepsilon '} w_{ij}(x))=S_{k}(r(w)),$对称阵$r(w)=(\delta _{i}^{j}\tau_i+{\varepsilon '} w_{ij}(x))$, $ \tilde{f}_\varepsilon (x,w(x),$ $Dw(x))=f(\varepsilon ^{2}x,\varepsilon ^{4}\psi(x)+{\varepsilon '}\varepsilon ^{4}w(x),$ $\tau_1 \varepsilon ^2 x_1+{\varepsilon '}\varepsilon ^2 w_1(x),\cdots,\tau_n \varepsilon ^2 x_n+{\varepsilon '}\varepsilon ^2 w_n(x)). $

下面我们给出范数的定义.假设对某个固定的$A>0$, $f=f(x,u,p)$定义在集合

$ {\cal B}=\left\{(x,u,p)\in {\Bbb R}^n\times {\Bbb R} \times {\Bbb R}^n:x\in B_1(0),|u|\leq A,|p|\leq A \right\} $

上.如果

$ \|f\|_{C^{\alpha }_{x}}=\|f\|_{L^\infty({\cal B})}+ \sup_{(x,u,p)\in {\cal B},(z,u,p)\in {\cal B}} \frac{|f(x,u,p)-f(z,u,p)|}{|x-z|} <\infty,$

就称$f\in C^\alpha _x$.那么当$f=f(x)$时, $f\in C^\alpha _x$就是通常意义下的$f\in C^\alpha (B_1(0))$.定义

$ \|f\|_{C^{1,1}_{u,p}}=\mathop {\sup }\limits_B\left\{|D^{\beta}_{u,p}f(z,u,p)|:0\leq|\beta|\leq2\right\}<\infty,$

$ \|f\|_{C^{2,\alpha }_{u,p}}=\|f\|_{C^{1,1}_{u,p}}+ \mathop {\sup }\limits_{(z,u,p) \in B,(z,u',p') \in B}\,\left\{\frac{|D^{\beta}_{u,p} f(z,u,p)- D^{\beta}_{u,p} f(z,u',p')|}{|(u,p)-(u',p')|^\alpha },|\beta|=2\right\}<\infty,$

其中$0<\alpha < 1$, $z$是一个参数.类似可定义$\|f\|_{C^{2,1}_{u,p}}$.当函数$f=f(x,u,p)$关于$x$是Hölder连续时, 记为$f\in C^\alpha _x$; 关于$u,p$是$C^{2,1}$光滑时, 记为$f\in C^{2,1}_{u,p}$.为了简单起见, 下面我们把范数$\|f\|_{C^{\alpha }_{x}},\|f\|_{C^{1,1}_{u,p}}$和$\|f\|_{C^{2,1}_{u,p}}$分别记为$\|f\|_{C^{\alpha }},\|f\|_{C^{1,1}}$和$\|f\|_{C^{2,1}}$.

类似于文献[7], 我们在$B_1(0)$中研究非线性算子

$G(w)=\frac{1}{{\varepsilon '}}[{S}_{k}(r(w))-\tilde{f_\varepsilon }(x,w,Dw)].$

(2.1)

$G$在$w$处的线性化算子为

$L_{G}(w)=\sum_{i,j=1}^{n}\frac{\partial S_{k}(r(w))}{\partial r_{ij}}\partial ^2_{ij}+\sum_{i=1}^{n}a_{i}\partial _{i}+a,$

(2.2)

其中

$ a_{i}=-\frac{1}{{\varepsilon '}}\frac{\partial {\tilde{f_\varepsilon }}(x,z,p_{i})}{\partial p_{i}}(x,w,Dw)=-\varepsilon ^2\frac{\partial f}{\partial p_{i}},$

$ a=-\frac{1}{{\varepsilon '}}\frac{\partial {\tilde{f_\varepsilon }}(x,z,p_{i})}{\partial z}(x,w,Dw)=-\varepsilon ^{4}\frac{\partial f}{\partial z}. $

记$S_{k}^{ij}(r(w))=\frac{\partial S_{k}(r(w))}{\partial r_{ij}}$.

引理2.1 假设$\tau\in{\bf P}_{2}$, $\|w\|_{C^{2}(B_1(0))}\leq 1$.则当$\varepsilon >0$且充分小时, $L_{G}(w)$是一致椭圆算子.

证 为了证明$L_G(w)$的一致椭圆性, 即

$ \sum_{i,j=1}^nS_{k}^{ij}(r(w))\xi_i\xi_j\geq c|\xi|^2,\begin{matrix} {} & {} \\ \end{matrix} \forall (x,\xi)\in B_1(0)\times {\Bbb R}^n. $

只需证

$\left\{ \begin{array}{ll} S_{k}^{ii}(r(w))=\sigma_{k-1;i}(\tau_1,\tau_2,\cdots,\tau_n)+O({\varepsilon '}),~~&1\leq i\leq n,\\ S_{k}^{ij}(r(w))=O({\varepsilon '}),& i\neq j \end{array}\right.$

(2.3)

即可.这是因为如果(2.3) 式成立, 那么由文献[10]中的定理2.6可得

$ S_{k}^{ii}(r(w))-\sum_{j=1,j\neq i}|S_{k}^{ij}(r(w))|> \frac{1}{2}\sigma_{k-1,i}(\tau_1,\cdots,\tau_n)>0,\begin{matrix} {} & {} \\ \end{matrix} 1\leq i\leq n. $

如果$\varepsilon >0$充分小, 那么$(S_{k}^{ij}(r(w)))$是严格对角占优矩阵, 并且$L_{G}(w)$是一致椭圆的.

事实上, 由于$S_k(r)$是Hessian $\det(r)$的所有$k$阶主子式的和, 故

$ S_{k}^{ll}(r(w))=S_{k-1}(r(w;l,l)),$

其中$r(w;l,l)$是一个通过删掉$r$的第$l$行和第$l$列所得到的$(n-1)\times(n-1)$矩阵.而$r(w)=(\delta _{i}^{j}\tau_i+\varepsilon w_{ij}(x))$, 故可得

$S_{k-1}(r(w;l,l))=\sigma_{k-1;l}(\tau_1,\tau_2,\cdots,\tau_n)+O({\varepsilon '}),\\\quad \quad S_{k}^{ij}(r(w))=O({\varepsilon '}),\begin{matrix} {} & {} \\ \end{matrix} i\neq j.$

引理得证.

下面我们将用Hong和Zuily在文献[6]中的方法证明线性化算子解的存在性及先验估计.由于$L_{G}(w)$的一致椭圆性可以看做文献[6]中$L_{G}(w)$为退化椭圆的一种特殊情况, 如果$f$足够光滑, 类似于文献[6]中的证明我们可以得到局部解的存在性.但是当我们降低$f$的光滑性条件取$f\in C^\alpha _x$时, 文献[6]中的方法就不再适用了, 此时即使$L_{G}(w)$是一致椭圆的, 也不能直接得到经典解的存在性和先验Schauder估计.问题在于我们不知道(2.2) 式中$au$的系数$a$是否是非正的.在证明了线性化方程解的存在性(引理2.2) 之后, 我们就可以用Nash-Moser迭代过程证明方程(1.1) 在Hölder空间中局部解的存在性了.我们将用到下述表达式

$\left\{ \label{2.4} \begin{array}{ll} w_{0}=0,\ w_{m}=w_{m-1}+\rho_{m-1},& m\ge 1,\\ L_{G}(w_{m})\rho_{m}=g_{m},& \mbox{在$B_1(0)$内,}\\ \rho_{m}=0,& \mbox{在$\partial B_1(0)$上,}\\ g_{m}=-G(w_{m}) ,\\ \end{array}\right.$

(2.4)

其中

$ g_0(x)=\frac{1}{{\varepsilon '}}\Big(\sigma_k(\tau)-f\big(\varepsilon ^2 x,\varepsilon ^4 \psi(x),\varepsilon ^2(\tau_1 x_1,\tau_2 x_2,\cdots,\tau_n x_n)\big)\Big) . $

文献[3]中的第107页指出:如果算子$L_{G}$不满足$a\leq 0$, 那么$L_{G}(w)\rho=g$的Dirichlet问题的解的存在性是有疑问的; 但是情况不是很坏, 仍然能够保证二择一的结果, 见文献[3]中定理6.15;对Dirichlet问题来说, “二择一”的重要性在于:解的唯一性是解的存在性的充分条件.注意到(2.2) 式中的$a$具有因子$\varepsilon ^4$, 我们将利用$a$比较小的性质得到Dirichlet问题(2.5) 的解的存在性和唯一性, 见文献[3]中的第108页.在这里我们假设$\|w_{m}\|_{C^{2,\alpha }}\leq A$而不是像文献[6]中所设的$\|w_{m}\|_{C^{2,\alpha }}\leq 1$, 优点是可以清楚地看到迭代过程是如何依赖于$A$的.当然$A$也可以取作1.我们得到解的一致Schauder估计的结果如下:

引理2.2 假设$\|w\|_{C^{2,\alpha }(B_1(0))}\le A$, 那么对所有$g\in C^{\alpha }(\overline{B_1(0)})$, Dirichlet问题

$\left\{ \begin{array}{ll} L_{G}(w)\rho=g,~~& \mbox{在$B_1(0)$ 内,}\\ \rho=0,& \mbox{在$tial B_1(0)$ 上} \end{array}\right.$

(2.5)

存在唯一解$\rho\in C^{2,\alpha }(\overline{B_1(0)})$, 并且

$\|\rho\|_{C^{2,\alpha }(\overline{B_1(0)})}\le C\|g\|_{C^{ \alpha }(\overline{B_1(0)})},\forall g\in C^{ \alpha }(\overline{B_1(0)}),$

(2.6)

其中常数$C$依赖于$A,\tau$和$\|f\|_{C^{2,1}}$, 但是对于某个$\varepsilon _0>0$, 当$0<\varepsilon \le \varepsilon _0$时, $C$与$\varepsilon $无关.

利用(2.2) 式可把问题(2.5) 改写为

$\label {2.7}\left\{ \begin{array}{ll} L_{G}(w)\rho=\sum_{i,j=1}^{n}\frac{\partial S_{k}(r(w))}{\partial r_{ij}}\partial _i\partial _j\rho+\sum_{i=1}^{n}a_{i}\partial _{i}\rho+a\rho=g,~ &\mbox{在$B_1(0)$ 内,}\\[2mm] \rho=0,& \mbox{在$\partial B_1(0)$上,} \end{array}\right.$

(2.7)

其中$a_{i}=-\varepsilon ^2\frac{\partial f}{\partial p_{i}},a=-\varepsilon ^{4}\frac{\partial f}{\partial z}.$在(2.4) 式中我们把函数的变量都用$x$表示, 例如$\frac{\partial S_{k}(r(w))}{\partial r_{ij}}$, $a_i=a_i(x,w(x),Dw(x))$, $a=a(x,w(x),Dw(x))$和$g_m=-G(w_m)=g_m(x,w_m(x),Dw_m(x),$ $D^2w_m(x))$.在问题(2.7) 中我们也把函数的变量都用$x$表示, 比如

$\quad \tilde{f}_\varepsilon (x,w(x),Dw(x)) \\ =f(\varepsilon ^{2}x,\varepsilon ^{4}\psi(x)+{\varepsilon '}\varepsilon ^{4}w(x),\tau_1 \varepsilon ^2 x_1+{\varepsilon '}\varepsilon ^2 w_1(x),\cdots,\tau_n \varepsilon ^2 x_n+{\varepsilon '}\varepsilon ^2 w_n(x)).$

引理2.2的证明 取

$ \mu(\tau)=\inf\left\{ \sum_{i,j=1}^nS_{k}^{ij}(r(w))\xi_i\xi_j,\begin{matrix} {} & {} \\ \end{matrix} \forall x\in B_1(0),|\xi|=1,\|w\|_{C^{2,\alpha }(B_1(0))}\le A\right\}. $

由引理2.1知$\mu(\tau)>0$.对方程

$ \left\{ \begin{array}{ll} L_{G}(w)u=\sum_{i,j=1}^{n}\frac{\partial S_{k}(r(w))}{\partial r_{ij}}\partial _i\partial _ju+\sum_{i=1}^{n}a_{i}\partial _{i}u=g,&\mbox{在$B_1(0)$内,}\\[2mm] u=0,&\mbox{在$\partial B_1(0)$上} \end{array}\right. $

的解$u\in C^0(\overline{B_1(0)})\cap C^2(B_1(0))$应用文献[3]的定理3.7可得

$\sup |u|\leq \frac{C}{\mu(\tau)}\|g\|_{C^0(\overline{B_1(0)})},$

(2.8)

其中$C={\rm e}^{2(\beta+1)}-1$, $\beta=\sup\left\{\frac{|a_i|}{\mu(\tau)}: i=1,2,\cdots,n\right\}$.

令$C_1=1-C\sup\frac{|a|}{\mu(\tau)}$, 其中$C$是(2.8) 式中的常数.由于$a=O(\varepsilon ^4)$很小, 如果取$\varepsilon _0>0$很小, 那么当$0<\varepsilon <\varepsilon _0$时, $C_1>\frac{1}{2}$与$\varepsilon $无关.对Dirichlet问题(2.7) 的解$\rho$应用文献[3]的推论3.8, 可得

$\sup |\rho|\leq \frac{1}{C_1}\left[\sup_{\partial B_1(0)}|\rho|+\frac{C}{\mu(\tau)}\|g\|_{C^0(\overline{B_1(0)})}\right]= \frac{C}{C_1\mu(\tau)}\|g\|_{C^0(\overline{B_1(0)})}.$

(2.9)

由(2.9) 式可知齐次问题

$ \left\{ \begin{array}{ll} L_{G}(w)\rho=\sum_{i,j=1}^{n}\frac{\partial S_{k}(r(w))}{\partial r_{ij}}\partial _i\partial _j\rho+\sum_{i=1}^{n}a_{i}\partial _{i}\rho+a\rho=0,&\mbox{在$B_1(0)$内,}\\[2mm] \rho=0,& \mbox{在$\partial B_1(0)$上} \end{array}\right. $

只有平凡解.因此, 由文献[3]中的定理6.15 (二择一定理)可得:对所有的$g\in C^{\alpha }(\overline{B_1(0)})$, 非齐次问题(2.7) 有唯一解$\rho\in C^{2,\alpha }(\overline{B_1(0)})$.

由解的存在性、唯一性以及文献[3]中的定理6.19, 我们可以得到问题(2.7) 解的直到边界的更高的正则性.此外, 我们还可以得到如下Schauder估计(参看文献[3]中第142页的问题6.2)

$\|\rho\|_{C^{2,\alpha }}\leq C(A,\tau,\|f\|_{C^{1,1}})\left[\|\rho_{k}\|_{C^0(\overline{B_1(0)})}+ \|g_{k}\|_{C^{\alpha }(\overline{B_1(0)})}\right],$

(2.10)

其中$C$依赖于所有系数的$C^{\alpha }$ -范数、一致椭圆性、边值和边界本身.下面我们将对$C(A,\tau,$ $\|f\|_{C^{1,1}})$的上述依赖性进行说明：首先, 由于$w$的前两阶导数已经包含在$\frac{\partial S_{2}(r(w))}{\partial r_{ij}}$的系数中, 它们的$C^{\alpha }$ -范数也必包含在$\|w\|_{C^{2,\alpha }}$内.即$\|w\|_{C^{2,\alpha }}\leq A$含在$C$内.类似地, 由$a_i$和$a$的性质可知$C$中必包含$\|f\|_{C^{1,1}}$和$\|w\|_{C^{2,\alpha }}\leq A$.其次, $C$依赖于一致椭圆性, 也就是依赖于

$ \inf\left\{ \sum_{i,j=1}^nS_{k}^{ij}(r(w))\xi_i\xi_j,\begin{matrix} {} & {} \\ \end{matrix} \forall x\in B_1(0),|\xi|=1,\|w\|_{C^{2,\alpha }(B_1(0))}\le A\right\} $

和

$ \sup\left\{ \sum_{i,j=1}^nS_{k}^{ij}(r(w))\xi_i\xi_j,\begin{matrix} {} & {} \\ \end{matrix} \forall x\in B_1(0),|\xi|=1,\|w\|_{C^{2,\alpha }(B_1(0))}\le A\right\}. $

因此, $\tau=(\tau_1,\tau_2,\cdots,\tau_n)$和$A$包含在$C$中.最后, 由于边界上的值为零并且边界$\partial B_1(0)$是$C^\infty$的, 这两部分与$C$无关.把(2.9) 式代入(2.10) 式中即可得到(2.6) 式.

由标准的椭圆理论(参看文献[3]中的定理6.17和文献[2]中的注释2) 和迭代可得:

推论2.1 假设$u\in C^{2,\alpha }(\Omega)$是方程(1.1) 的一个解, 关于$u$的线性化算子

$ {\cal L}_u=\sum_{i,j=1}^{n}\frac{\partial S_{k}(u_{ij})}{\partial r_{ij}}\partial ^2_{ij} -\sum_{i=1}^{n}\frac{\partial f}{\partial p_i}(y,u(y),Du(y))\partial _{i}-\frac{\partial f}{\partial z}(y,u(y),Du(y)) $

是一致椭圆的.那么当$f\in C^\infty$时, 有$u\in C^\infty(\Omega)$.

由引理2.2和(2.4) 式可以得到序列$\{w_m\}_{m\in {\Bbb N}}$和$\{g_m\}_{m\in {\Bbb N}}$, 它们具有如下性质:

性质2.1 设$\{w_m\}_{m\in {\Bbb N}}$和$\{g_m\}_{m\in {\Bbb N}}$为(2.4) 式中的序列, 并设对所有的$j=1,\cdots,l$, $\|w_{j}\|_{C^{2,\alpha }}\leq A$.则可得

$\|g_{l+1}\|_{C^{\alpha }}\leq C\|g_{l}\|^{2}_{C^{\alpha }} ,$

(2.11)

其中$C$是只依赖于$\tau$, $A$和$ \|{f}\|_{C^{2,1}}$的正常数.特别地, $C$与$l$无关.

证 对(2.1) 式应用带有积分型余项的Taylor展开式可得

$-g_{l+1}=G(w_{l}+\rho_{l})=G(w_{l})+L_{G}(w_{l})\rho_{l}+Q(w_{l},\rho_{l})\\ =-g_l+L_{G}(w_{l})\rho_{l}+Q(w_{l},\rho_{l})=Q(w_{l},\rho_{l}),$

其中$Q$是由$S_{k}$和$f$构成的$G$的二次误差项,

$Q(w_{l},\rho_{l})=\sum_{ij,st}\frac{1}{\varepsilon }\int (1-\mu)\frac{\partial ^{2}S_{k}(w_l+\mu\rho_l)}{\partial w_{ij}\partial w_{st}}{\rm d}\mu\,(\rho_{l})_{ij}\,(\rho_{l})_{st}\\ \quad \quad \quad \quad -\sum_{i,j}\frac{1}{\varepsilon }\int (1-\mu)\frac{\partial ^{2}\tilde f_\varepsilon (w_l+\mu\rho_l)}{\partial w_{i}\partial w_{j}}{\rm d}\mu\,(\rho_{l})_{i}\,(\rho_{l})_{j}\\ \quad \quad \quad \quad -\frac{1}{\varepsilon }\sum_{i}\int (1-\mu)\frac{\partial ^{2}\tilde f_\varepsilon (w_l+\mu\rho_l)}{\partial w\partial w_{i}}{\rm d}\mu(\rho_{l})_{i}(\rho_l)\\ \quad \quad \quad \quad -\frac{1}{\varepsilon }\int(1-\mu)\frac{\partial ^{2}\tilde f_\varepsilon (w_l+\mu\rho_l)}{\partial w^{2}}{\rm d}\mu\cdot \rho^{2}_l\\ \quad \quad \quad \quad =I_1+I_2+I_3+I_4.$

(2.12)

由于$S_k(r(w))$是$k$ -阶齐次多项式且满足变量$r_{ij}(r(w))$和$\tilde{f_\varepsilon }(x,w,Dw)$与$r_{ij}$无关, 故

$\left|\frac{\partial ^{2}S_{k}(w_l+\mu\rho_l)}{\partial w_{ij}\partial w_{st}}\right|={\varepsilon '}^2\left|\frac{\partial ^{2}S_{k}}{\partial w_{ij}\partial {w_{st}}}(\delta ^{j}_{i}\tau_{i}+{\varepsilon '} (w_l+\mu\rho_l)_{ij})\right|\\ \quad \quad \quad \quad \quad ={\varepsilon '}^2\sum_{j=2}^kC(j,\tau)[\partial ^2(w_l+\mu\rho_l)]^{j-2},$

$\left|\frac{\partial ^{2}\tilde f_\varepsilon (w_l+\mu\rho_l)}{\partial w_{i}\partial w_{j}}\right|=\left|\frac{\partial ^{2}[f(\varepsilon x,\varepsilon ^{4}\psi+{\varepsilon '}\varepsilon ^{4}(w_l+\mu\rho_l),\varepsilon ^{2}D\psi+ {\varepsilon '}\varepsilon ^{2}D(w_l+\mu\rho_l))]}{\partial w_{i}\partial w_{j}}\right|\\ \quad \quad \quad \quad \quad \quad \leq {\varepsilon '}^2\varepsilon ^{4}\cdot \|f\|_{C^{2}},$

$\left|\frac{\partial ^{2}\tilde f_\varepsilon (w_l+\mu\rho_l)}{\partial w\partial w_{i}}\right|=\left|\frac{\partial ^{2}[f(\varepsilon x,\varepsilon ^{4}\psi+{\varepsilon '}\varepsilon ^{4}(w_l+\mu\rho_l),\varepsilon ^{2} D\psi+{\varepsilon '}\varepsilon ^{2}D(w_l+\mu\rho_l))]}{\partial w\partial w_{i}}\right|\\ \quad \quad \quad \quad \quad \leq {\varepsilon '}^2\varepsilon ^{6}\|f\|_{C^{2}},$

$\left|\frac{\partial ^{2}\tilde f_\varepsilon (w_l+\mu\rho_l)}{\partial w^{2}} \right|= \left|\frac{\partial ^{2}[f(\varepsilon x,\varepsilon ^{4}\psi+{\varepsilon '}\varepsilon ^{4}(w_l+\mu\rho_l),\varepsilon ^{2} D\psi+{\varepsilon '}\varepsilon ^{2}D(w_l+\mu\rho_l))]}{\partial w^{2}}\right|\\ \quad \quad \quad \quad \quad ={\varepsilon '}^2\varepsilon ^{8}\|f\|_{C^{2}}.$

因此, $Q$中的$I_i (1\leq i\leq 4)$由$O({\varepsilon '})$, $O({\varepsilon '}\varepsilon ^{4})$, $O({\varepsilon '}\varepsilon ^{6})$和$O({\varepsilon '}\varepsilon ^{8})$控制.因而可得

$ \|I_1\|_{C^{\alpha }}\leq C\sum_{j=1}^{k-1}\|\rho_{l}\|_{C^2}^j\|\rho_{l}\|_{C^{2,\alpha }},$

$\|I_2\|_{C^{\alpha }} \leq C\|f\|_{C^{\alpha }}(\|w_l\|_{C^{1,\alpha }}+\|\rho_l\|_{C^{1,\alpha }})\|\rho_l\|^2_{C^{1}}+ C\|f\|_{C^{2}}\|\rho_l\|_{C^{2,\alpha }}\|\rho_l\|_{C^{1}} \\ \quad \quad \quad \leq C\|\rho_l\|_{C^{2,\alpha }}\|\rho_l\|^2_{C^{1}}+C\|\rho_l\|^2_{C^{1}} +C\|\rho_l\|_{C^{2,\alpha }}\|\rho_l\|_{C^{1}}$

成立, 其中$C$依赖于$A$和$\|f\|_{C^{2,\alpha }}$.类似可估计$\|I_3\|_{C^{\alpha }}$和$\|I_4\|_{C^{\alpha }}$.因此,

$\|g_{l+1}\|_{C^{\alpha }}= \|Q(w_{l},\rho_{l})\|_{C^{\alpha }} \leq \sum_{i=1}^4\|I_i\|_{C^{\alpha }}\\ \quad \quad \leq C\sum_{j=1}^{k-1}\|\rho_{l}\|_{C^2}^j\|\rho_{l}\|_{C^{2,\alpha }}+ C\|\rho_l\|_{C^{2,\alpha }}\|\rho_l\|^2_{C^{1}}+ \|\rho_l\|^2_{C^{1}}+C\|\rho_l\|_{C^{2,\alpha }}\|\rho_l\|_{C^{1}},$

其中$C$依赖于$A$和$\|f\|_{C^{2,1}}$不依赖于$l$.再由插值不等式可得

$ \|g_{l+1}\|_{C^{\alpha }}\leq C\sum_{j=1}^{k-1}\|\rho_{l}\|^{j+1}_{C^{2,\alpha }}+ C\|\rho_{l}\|^3_{C^{2,\alpha }},$

其中$C$与$l$无关.由引理2.2可得

$ \|\rho_{l}\|_{C^{2,\alpha }}\leq C \|g_{l}\|_{C^{\alpha }}. $

又因为当对所有的$j=1,\cdots,l$, $\|w_{j}\|_{C^{2,\alpha }}\leq A$时, 有$\|g_{l}\|_{C^{\alpha }}=\|G(w_m)\|_{C^{\alpha }}\leq C(A)$.由上述两个估计可得(2.11) 式成立.性质得证.

对于$f=f(y)=f(\varepsilon ^2x)$的特殊情况, 在(2.12) 式中有$I_2=I_3=I_4=0$.因此对于下面的估计(2.14) 式和(2.15) 式来说, 条件$f=f(y)\in C^\alpha $是充分的.

由于$C$与$l$无关, 更确切地说是$A$, $\tau$和$\|f\|_{C^{2,1}}$与$l$无关, 我们可以假设$A=1$.

定理1.1的证明 令

$d_{l+1}=C\|g_{l+1}\|_{C^{2,\alpha }},\ \ l=0,1,2,\cdots.$

(2.13)

由(2.11) 式并取$C\geq 1$, 可得

$ d_{l+1}\leq d_{l}^{2}. $

取$\tau\in{\bf P}_{2}$使得$\sigma_k(\tau)=f(0,0,0)$, 有

$g_0(x)=-G(0)=\frac{1}{{\varepsilon '}}[S_k(r(0))-\tilde{f}(x,0,0)]\\ \quad \quad =\frac{1}{{\varepsilon '}}\left[\sigma_k(\tau)- f\big(\varepsilon ^2 x,\varepsilon ^4 \psi(x),\varepsilon ^2(\tau_1 x_1,\cdots,\tau_n x_n)\big)\right]\\ \quad \quad =\frac{1}{{\varepsilon '}}\left[\sigma_k(\tau)- f\big(0,0,0)\right]+\frac{1}{\varepsilon }\left[f(0,0,0)- f(\varepsilon ^2 x,0,0)\right]\\ \quad \quad +\frac{1}{{\varepsilon '}}\left[f(\varepsilon ^2 x,0,0)- f\big(\varepsilon ^2 x,\varepsilon ^4 \psi(x),\varepsilon ^2(\tau_1 x_1,\cdots,\tau_n x_n)\big)\right]\\ \quad \quad =\frac{1}{{\varepsilon '}}\left[f(0,0,0)- f(\varepsilon ^2 x,0,0)\right]\\ \quad \quad -\frac{\varepsilon ^4}{{\varepsilon '}} \int^1_0 \psi(x)(\partial _zf)\Big(\varepsilon ^2 x,t\varepsilon ^4 \psi(x),t\varepsilon ^2(\tau_1 x_1,\cdots,\tau_n x_n)\Big){\rm d}t\\ \quad \quad -\frac{\varepsilon ^2}{{\varepsilon '}} \int^1_0 (\tau_1 x_1,\cdots,\tau_n x_n)\,\cdot\,(\partial _pf)\Big(\varepsilon ^2 x,t\varepsilon ^4 \psi(x),t\varepsilon ^2(\tau_1 x_1,\cdots,\tau_n x_n)\Big){\rm d}t.$

由

$\frac{1}{{\varepsilon '}}\|f(0,0,0)- f(\varepsilon ^2 x,0,0)\|_{C^{ \alpha }(B_1(0))}\leq C\frac{\varepsilon ^{2\alpha }}{{\varepsilon '}} \|f(\cdot,0,0)\|_{C^\alpha (B_{\varepsilon ^2}(0))},$

可得

$\|g_0\|_{C^{ \alpha }(B_1(0))}\le C_1\frac{\varepsilon ^{2\alpha }}{\varepsilon '} \|f\|_{C^{1,1}}.$

(2.14)

由(1.5) 式中$\varepsilon '$的定义, 我们可以选取$0<\varepsilon \leq \varepsilon _0$很小, 使得

$C\|g_{0}\|_{C^{\alpha }(B_1(0))}\leq \frac{1}{4},\begin{matrix} {} & {} \\ \end{matrix} 0<\varepsilon \leq \varepsilon _0$

(2.15)

成立, 其中$\varepsilon _0$与$l$无关.由$d_{0}=C\|g_{0}\|_{C^{\alpha }}$可知$d_1\leq d_0^2$.由归纳可得

$ d_{l+1}\leq 2^{2^{l+1}}d_0^{2^{l+1}}\leq(2C)^{2^{l+1}}\|g_{0}\|^{2^{l+1}}_{C^{\alpha }}. $

再由(2.13) 式和(2.15) 式可以得到

$\|g_{l+1}\|_{C^{\alpha }}\leq (2C)^{2^{l+1}-1}\|g_{0}\|^{2^{l+1}}_{C^{\alpha }}\leq \left(\frac 12\right)^{2^l}\,\,\rightarrow\,\,0.$

(2.16)

因此, 存在依赖于$\tau$和$\|f\|_{C^{2,1}}$的常数$\varepsilon _0>0$使得

$ \|w_{l}\|_{C^{2,\alpha }(B_1(0))}\leq 1,\ \ \forall l\geq 1,$

对$\varepsilon \in (0,\varepsilon _0]$一致成立.

事实上, 令$w_0=0,$由(2.11) 式得

$\|w_{l+1}\|_{C^{2,\alpha }(B_1(0))}=\|\sum_{i=0}^{l}\rho_{i}\|_{C^{2,\alpha }(B_1(0))} \leq\sum_{i=0}^{l}\|\rho_{i}\|_{C^{2,\alpha }(B_1(0))}\\ \quad \quad \quad \quad \quad \quad \quad \leq \sum_{i=0}^{l}C\|g_{i}\|_{C^{\alpha }(B_1(0))}\leq \sum_{i=0}^{l}\Big(C\|g_{0}\|_{C^{\alpha }(B_1(0))}\Big)^{2^{i}},$

其中$C$由性质2.1定义.因此, 对任意$l$,

$\|w_{l+1}\|_{C^{2,\alpha }(B_1(0))}\leq \sum_{i=0}^{\infty}\Big(C\|g_{0}\|_{C^{\alpha }(B_1(0))}\Big)^{2^{i}}\leq \sum_{i=0}^{\infty}2^{-2^{i}}\leq 1.$

(2.17)

然后由Azelà-Ascoli定理可得, 存在$w_{l}$的一个子序列(仍记为$w_{l}$), 使得

$ w_{l}\rightarrow w,~ \mbox{在$C^{2}(B_1(0))$中,} $

并且$w\in C^{2,\alpha }(B_1(0))$.由(2.16) 式和$g_{m}=-G(w_{m})$得到

$ G(w)=\frac{1}{{\varepsilon '}}[S_k(r(w))-\tilde{f}(x,w,Dw)]=0,\begin{matrix} {} & {} \\ \end{matrix}\,\,\,w\in B_1(0). $

也就是说函数

$ u(y)=\frac{1}{2}\sum_{i=1}^n\tau_i y_i^2+{\varepsilon ' \varepsilon ^{4}w(\varepsilon ^{-2}y)\in C^{2,\alpha }(B_{\varepsilon ^2}(0))} $

是

$ S_k[u]=f(y,u,Du),\begin{matrix} {} & {} \\ \end{matrix}\,\,\,u\in B_{\varepsilon ^2}(0) $

的一个解.

如果$f(0,0,0)=0$, 就取$\tau\in{\bf P}_2$, 则$\sigma_{k-1}(\tau)>0,\sigma_k(\tau)=0,\sigma_{k+1}(\tau)<0$.注意到$r(w)=(\delta _{i}^{j}\tau_i+{\varepsilon '} w_{ij}(x))$是对称矩阵, 可得

$ S_j[u]=\sigma_j(\lambda)=\sigma_j(\tau)+O({\varepsilon '}),\begin{matrix} {} & {} \\ \end{matrix}j=1,2,\cdots,k+1. $

因此, 当$\varepsilon >0$比较小时, 在$B_{\varepsilon ^2}(0)$上有$S_j[u]>0\ (1\leq j\leq k-1),S_{k+1}[u]<0$成立.也就是说$u$是$(k-1)$ -凸但不是$(k+1)$ -凸的.并且如果在$Z_0$附近$S_k[u]=f\geq 0$, $f(Z_0)=0$, 那么由定义可得$u$是$k$ -凸但不是$(k+1)$ -凸的.

如果在$Z_0$附近$S_k[u]=f>0$, 由文献[10]中的定理2.7, 当$1\leq l\leq n-k$时, 在$\Gamma_{k-l+1}(n)\setminus \overline\Gamma_{k+l}(n)$中取$\tau\in {\Bbb R}^n$, 就可以得到$(k+l-1)$ -凸但不是$(k+l)$ -凸的局部解.由(2.17) 式和$Z_0=(0,0,0)$就得到了(1.8) 式.

解的$C^\infty$正则性由推论2.1得到.定理1.1得证.

对于$f(Z_0)<0$的情形, 有如下结论:

定理2.1 当$2\leq k\leq n-1$时, 假设在点$Z_0=(0,0,0)\in {\Bbb R}^n\times{\Bbb R}\times{\Bbb R}^{n}$附近$f=f(y,u,p)$有定义并且连续.并设$f$关于$y$是$C^\alpha (0<\alpha <1)$的, 关于$u,p$是$C^{2,1}$的.如果$f(Z_0)<0$, 那么方程(1.1) 在$y_0=0$附近有一个$(k-1)$ -凸但不是$k$ -凸的局部$C^{2,\alpha }$解, 具有下述形式

$u(y)=\frac{1}{2}\sum^{n}_{i=1}\tau_{i}y^{2}_{i}+{\varepsilon '}\varepsilon ^{5}w(\varepsilon ^{-2} y),$

其中$\sigma_k(\tau_1,\cdots,\tau_n)=f(0,0,0)$, $\varepsilon >0$很小, $\varepsilon '$由(1.6) 式定义, $w$满足(1.8) 式.此外, 方程(1.1) 关于上述形式的解是一致椭圆的.如果在$Z_0$附近$f\in C^\infty$, 那么在$y_0$附近$u\in C^\infty$.

证 类似于文献[10]中的定理2.6, 取$\tau\in{\Bbb R}^n$使得$c=f(0,0,0)<0$满足

$ \sigma_{k-1}(\tau)>0,\sigma_k(\tau)=f(0,0,0)<0 $

和

$ \sigma_{k-1,n}(\tau)\geq\sigma_{k-1,n-1}(\tau)\geq\cdots\geq\sigma_{k-1,1}(\tau)>0. $

这样就保证了线性化算子的一致椭圆性, 类似于定理1.1的方法即可证明本定理的结论.