梯度估计是偏微分方程研究领域中的一个重要问题, 它与许多有趣的问题有关, 例如偏微分方程解的 Liouville 性质、各种边值问题解的存在性、解的水平集的正则性等. 本文分别给出了具有两类边界条件的 Hessian 商方程的 $k$-允许解的梯度估计. 考虑如下边值问题.

其中 $0\leq l<k\leq n$ 是整数, $\sigma_k$ 表示 $k$-阶初等对称多项式, $\Omega$ 是 $\mathbb{R}^n$ 中的有界光滑区域, $f(x,\,t)$ 是定义在 $\Omega\times \mathrm{R}$ 上的光滑函数. $G(x,\, u,\,Du)=0$ 包含两类重要的边值: 预定夹角边值和斜导数边值, 后面将给出它们的具体形式. 如果问题 (1.1) 的解 $u$ 的 Hessian 矩阵的特征值 $\lambda(D^{2}u)$ 属于 Gårding 锥 $\Gamma_{k}$,

则称 $u$ 为问题 (1.1) 的 $k$-允许解, 此时问题 (1.1) 中的 Hessian 商方程是椭圆的 (见文献 [4]). 记 $F^{ij}=\frac{\partial \left(\frac{\sigma_{k}(D^{2}u)}{\sigma_{l}(D^{2}u)}\right)}{\partial u_{ij}}$, 则对 $\forall x\in\Omega$, 矩阵 $(F^{ij})$ 关于 $D^{2}u(x)$ 是正定的.

Hessian 商方程是 Hessian 方程的自然推广, Hessian 方程对应于问题 (1.1) 中 $l=0$ 的特殊情形. 它们是典型的完全非线性椭圆方程, 与许多几何问题都息息相关. 对于具有 Dirichlet 边界条件或 Neumann 边界条件的 Hessian 商方程, 存在性问题已经解决, 可以参考文献 [3],[4],[12],[13],[14],[19].

现在, 自然想到考虑问题 (1.1) 解的存在性, 其中 $G(x,u,Du)=\frac{\partial u}{\partial\nu}+\cos\theta\sqrt{1+|Du|^{2}}$ 或者 $G(x,u,Du)=\frac{\partial u}{\partial\beta}-\varphi(x,u)$, $\theta(x)$ 是 $\overline{\Omega}$ 上的光滑函数, $\varphi$ 是 $\overline{\Omega}\times\mathrm{R}$ 上的光滑函数, $\nu$ 是单位法向量场, $\beta$ 是沿 $\partial\Omega$ 的光滑单位向量场. 通常, 我们需要推出 $C^{2,\alpha}$ 先验估计进而得出解的存在性. 然而与 Dirichlet 和 Neumann 边界条件相比, 这类边值条件更加复杂. 这里, 我们得到了 (1.1) 的解的先验梯度估计, 为解的存在性做一点准备.

对于具有预定夹角边界条件的 $k$-曲率方程, 邓和麻在文献 [5] 中得出了整体梯度估计. 对于具有预定夹角或者斜导数边界条件的 $k$-Hessian 方程, 本文第二作者在文献 [18] 中推得 $k$-允许解的整体梯度估计. 本文考虑 Hessian 商方程的问题 (1.1) 的 $k$-允许解的整体梯度估计.

当然, 我们注意到具有上述边界条件的 $k$-Hessian 方程, Hessian 商方程和 $k$-曲率方程的解的存在性仍未解决, 这是一个困难但是很有意义的问题.

首先给出一些记号. 在本文中, $\Omega_{\mu}=\{x\in\Omega\mid d(x)<\mu\}$ 表示靠近 $\partial \Omega$ 附近的环形区域, 其中 $d(x)$ 表示与光滑边界 $\partial \Omega$ 的距离函数. 通常, 如果 $\Omega_{\mu}$ 的 "宽度" 足够小, 则可以得到 $d(x)$ 在 $\Omega_{\mu}$ 中是光滑的.

本文的其余部分组织如下. 在第 2 节中, 我们给出了初等对称多项式和 Hessian 商方程的一些代数性质. 在第 3 节和第 4 节中, 我们分别得到了上述两种边界条件下的问题 (1.1) 解的整体梯度估计.

下面引入初等对称函数的基本性质, 相关证明可参考文献 [4],[11],[19]. 下面的叙述中, $\sigma_{k}(\lambda\mid i)$ 表示 $\lambda_{i}=0$ 的 $k$-阶初等对称函数, $\sigma_{k}(\lambda\mid ij)$ 表示 $\lambda_{i}=\lambda_{j}=0$ 的$k$-阶初等对称函数.

命题2.1 设 $\lambda=(\lambda_{1},\cdots,\lambda_{n})\in\mathbb{R}^{n}$, $k=1,\cdots,n$, 则下列等式成立

命题2.2 (Newton-MacLaurin 不等式) 设 $\lambda\in\Gamma_{k}$, 并且 $k>l\geq0$, $r>s\geq0$, $k\geq r$, $l\geq s$. 则

其中 $C_{n}^{k}=\frac{n!}{k!(n-k)!}$.

命题2.3 设 $\lambda=(\lambda_{1},\cdots,\lambda_{n})\in\Gamma_{k}$, $k\in\{1,2,\cdots,n\}$, 并且

则有

命题2.4 设 $\lambda\in\Gamma_{k}$, $2\leq k\leq n$, 并且 $\lambda_{1}\geq\cdots\geq\lambda_{k}\geq\cdots\geq\lambda_{n}$. 则对 $k\leq s\leq n$, 有

引理2.1 若 $\lambda=(\lambda_{1}, \lambda_{2},\cdots,\lambda_{n})\in\Gamma_{k}$, $k\geq1$. 假设

并且 $\exists\,\,\,\lambda_{s}< 0$. 则

引理2.2 设 $A=\{a_{ij}\}_{n\times n}$ 为对称矩阵, $k> l\geq 0$. 则

证 由初等对称函数的定义, 可得

其中 $\alpha$ 为正常数, 即 $\frac{\sigma_{k}(A)}{\sigma_{l}(A)}$ 是 $k-l$ 次齐次函数. 根据 Euler 定理, 结论成立.

对于问题 (1.1) 的 $k$-允许解, 文献 [3] 给出了它的内部梯度估计.

定理2.1 设 $\Omega\subset\mathrm{R}^{n}$ 为有界区域, 函数 $f(x,t)\in C^{1}\left(\overline{\Omega}\times\mathrm{R}\right)$, 并且 $f>0$, $f_t \ge 0$, $u\in C^{3}(\Omega)$ 是 Hessian 商方程 $\frac{\sigma_{k}\left(D^{2}u\right)}{\sigma_{l}\left(D^{2}u\right)}=f(x, u)$ 的 $k$-允许解, 则

其中 $M_{1}$ 为依赖于 $n, k, l, \mu, |u|_{C^{0}}$, $|D_{x}f|_{C^{0}}$ 和 $|D_{t}f|_{C^{0}}$ 的常数.

本节考虑具有预定夹角边值条件的问题 (1.1), 即 $G(x,u,Du)=\frac{\partial u}{\partial\nu}+\cos\theta\sqrt{1+|Du|^{2}}$ 的情形. 下面定理给出了该问题的$k$-允许解的整体梯度估计.

定理3.1 设 $\Omega \subset \mathrm{R}^{n}(n\geq2)$ 为边界光滑的有界区域, $u$ 是下列问题的 $k$-允许解,

这里 $f(x,\,t)$ 是 $\Omega \times \mathrm{R}$ 上的光滑函数, 并且 $f>0$, $f_t \ge 0$. $\theta(x)$ 是 $\overline{\Omega}$ 上的光滑函数并且 $|\cos\theta|\leq 1-b<1$, 其中 $b>0$ 为常数. $\nu$ 表示 $\partial \Omega$ 的单位内法向量. 假设 $|u|\leq M$, 则存在正的常数 $C=C(M,\, n,\, \overline{\Omega},\, b,\, |\theta|_{C^2(\overline{\Omega})},\, |f|_{C^1(\Omega\times[-M,\ M])})$ 使得

证 由定理 2.1, 我们只需在 $\Omega_{\mu}$ 上考虑梯度估计, 其中 $\mu$ 为待定正常数.

令 $v=\sqrt{1+|Du|^{2}}$, $w=v+\sum\limits_{l=1}^nu_{l}d_l\cos\theta$, 取辅助函数

其中 $h(t)$ 为待定光滑函数, $\tau$ 是待定正常数.

假设 $x_{0}$ 是 $\Phi$ 在 $\overline{\Omega_{\mu}}$ 上的极大值点, 由于已有内部梯度估计, 接下来只需考虑以下两种情形.

情形 Ⅰ $x_{0}\in \partial\Omega$.

根据文献 [18] 中对于具有预定夹角边值条件的 Hessian 方程的证明过程可推得, 这种情形不会发生. 但是为了证明过程的完整性, 我们简要概述这部分相对独立的证明.

方便起见, 在 $x_0$ 点取活动标架, 使得 $\nu=\frac{\partial}{\partial x_n}$, 并且假设 $\frac{\partial}{\partial x_i} (i=1,2,\cdots,n-1)$ 是 $\partial \Omega$ 的切方向. 在该标架下,

其中 $1\le i,j<n-1$, $1\le \alpha \le n$, $\kappa_i(i=1,2,\cdots,n-1)$ 是 $\partial \Omega$ 在 $x_0$ 点的主曲率.

因为 $x_0$ 是 $\Phi$ 在 $\overline{\Omega_{\mu}}$ 上的极大值点, 所以

并且

直接计算, 可得

其中 $k_{ij}$ 表示边界上关于 $\nu$ 的 Weingarten 矩阵.

在 $\partial \Omega$ 上对 $u_n$ 求导, 则对 $i=1,2,\cdots,n-1$ 有

结合 (3.2) 式可得

将 (3.5) 式代入 (3.4) 式, 得

因此

不失一般性, 假设 $v$ 充分大, 当我们取依赖于 $\theta$ 和 $\partial \Omega$ 的 $\tau$ 足够大时, 上面不等式的右端项大于零, 矛盾, 从而这种情形不会发生.

情形 Ⅱ $x_{0}\in \Omega_{\mu}$.

不失一般性, 可假设 $|Du|$ 在该点足够大, 使得 $|Du|, w, v$ 相互等价. 这里我们使用 Einstein 求和约定.

因为 $x_{0}$ 是极大值点, 所以

并且

在 $x_{0}$ 点取活动标架使得 $D^{2}u(x_{0})$ 为对角矩阵. 令 $F=\sum\limits_{i=1}^n F^{ii}$, 则

其中

首先处理 $Ⅰ$. 直接计算得

$\begin{aligned}\nonumber w_{ij}=\left(\frac{u_{l}}{v}+d_{l}\cos \theta\right)u_{lij}+\left(\frac{u_{lj}}{v}-\frac{u_{l}u_{k}u_{kj}}{v^{3}}\right)u_{li}\!+\!( d_{l}\cos \theta)_{j}u_{li}+(d_{l}\cos \theta)_{i}u_{lj} +(d_{l}\cos \theta)_{ij}u_{l}.\end{aligned}$ 因为 $D^{2}u$ 和 $F^{ij}$ 是对角的, 所以

由 (3.6)式和 (3.8) 式, 在 $x_0$ 点有

令

其中 $\mathrm{I}=\{1, 2, \cdot\cdot\cdot, n\}$. 显然指标集 $K$ 非空. 不妨假设 $v\geq\sqrt{\frac{4C}{\left(\frac{b}{8n}+|d_{i}\cos\theta|\right)}}$, $\forall i$, 则可进一步假设

注意这里我们假设 $h'$ 有一个正下界. 在上述假设下, 有

那么对 $i\in K$, 由引理 2.1 可得

因此,

对 $T_1$, 根据 (3.11) 式推得

对 $T_2$, 由 $ax^2+bx\ge -\frac{b^2}{4a}$, $a>0$, 可得

从而

对于 $II$,

对最后一项, 易得

因此,

利用 Newton-Maclaurin 不等式, 可得

若 $k-1=l$, 则

若 $k-1>l$, 则再次利用 Newton-Maclaurin 不等式可得

从而, $\forall \,\,0\leq l<k\leq n$, 有

因此

取 $h(t)=\frac{1}{2}\ln \frac{1}{{(3M - t)}}$, 则 $h"-(h')^{2}=(h')^{2}$. 此时 $h(t)$ 满足上述证明过程中所有假设. 于是在该点有 $v\leq C$, 从而, 在边界附近我们得到了梯度估计. 从而定理 3.1 得证.

本节考虑具有斜导数边值条件的问题 (1), 即 $G(x,u,Du)=\frac{\partial u}{\partial\beta}-\varphi(x,u)$. 下面给出该问题的 $k$-允许解的整体梯度估计.

定理4.1 设 $\Omega$ 是 $\mathbb{R}^{n}(n\geq2)$ 中的有界光滑区域, $u$ 是下列问题的$k$-允许解,

其中 $f(x, t)$ 是定义在 $\Omega\times\mathbb{R}$ 上的光滑函数, 并且 $f>0$, $f_{t}\geq 0$. $\varphi(x, t)$ 是定义在 $\overline{\Omega}\times\mathbb{R}$ 上的光滑函数, $\beta$ 是 $\partial\Omega$ 上的光滑单位向量场并且 $\langle\beta,\nu\rangle=\cos \theta \geq c_{0}>0$, $c_{0}$ 为常数, $\nu$ 表示 $\partial\Omega$ 上的单位内法向量. 若 $|u|\leq M$, 则存在一个正常数 $C=C(M, n, \Omega, c_{0}, |\beta|_{C^{3}(\partial\Omega)}, |f|_{C^{1}(\Omega\times[-M, M])}$, $|\varphi|_{C^{3}(\Omega\times[-M, M])})$ 使得

证 斜导数边界条件在形式上是 Neumann 型边界条件的自然推广, 但是在计算方面与预定夹角边界条件的情形有些类似. 受文献 [18] 的启发, 首先处理边界数据, 令 $w=u-\frac{\varphi d}{\cos\theta}$, 则

与第 3 节的讨论一样, 我们只需在 $\Omega_{\mu}$ 上进行梯度估计. 不失一般性, 可考虑 $\beta$ 在 $\Omega_{\mu}$ 上是光滑的, 并且 $\langle\beta, Dd\rangle\geq c_{0}$. 令

取辅助函数

其中 $h(t)$ 是待定的光滑函数, $\tau$ 是待定的正常数.

假设 $\Phi$ 在 $\overline{\Omega_{\mu}}$ 上的最大值在 $x_{0}$ 点取到. 由于定理 2.1 已经给出了内部梯度估计, 我们只需考虑下列两种情形.

情形 Ⅰ $x_{0}\in \partial\Omega$.

与文献 [18] 中对于 Hessian 方程的斜导数边值问题的讨论一样, 这种情形不会发生. 仍然基于证明的完整性, 我们简要概述本部分的证明.

在 $x_0$ 点取活动标架使得 $\nu=\frac{\partial}{\partial x_n}$, 并且 $\frac{\partial}{\partial x_i}(i=1,2,\cdots,n-1)$ 为 $\partial \Omega$ 的切方向. 于是有

其中 $1\le i,j<n-1$, $1\le \alpha \le n$, $\kappa_i(i=1,2,\cdots,n-1)$ 为 $\partial \Omega$ 在 $x_0$ 点的主曲率.

由于 $x_0$ 是 $\Phi$ 在边界上的最大值点, 所以

并且

由 (4.3) 式和 $\phi$ 的定义, 可得

接下来处理 $\phi_n$.

注意最后一个等式由 (4.5) 式推得, 其中 $\kappa_{ij}$ 表示边界上关于 $\nu$ 的 Weingarten 矩阵. 从而

由 $\phi$ 的定义以及 (4.1)式, 可得

进一步假设

若令依赖于 $c_0,\, |\beta|_{C^1(\partial\Omega)},\, n$ 以及 $\partial\Omega$ 的几何性质的 $\tau$ 充分大, 则这种情形不会发生.

情形 Ⅱ $x_{0}\in \Omega_{\mu}$.

假设在 $x_{0}$ 点 $|Du|$ 足够大使得 $|Du|$ 和 $|Dw|$ 等价. 注意以下所有计算都在该点进行, 记号 $F^{ij}$ 和 $F$ 与第 3 节一样.

因为 $x_0$ 是最大值点, 所以 $\Phi_i =0$, $i=1,\,2,\,\cdots,\,n$, 从而

由于

利用引理 2.2, 在 $x_0$ 点有

为了处理 (4.9) 式, 我们断言存在正常数 $C_{1}$ 使得

事实上, 令

则

从而,

于是有

注意, 此处 $F\geq C>0$ 仍然成立. 假设 $|Du|$ 足够大并且 $\alpha$ 充分小, 使得 $-4\alpha^{2}|x|^{2}F+\alpha F\geq \frac{C\alpha}{2}>0$, 则

由极大值原理可得, (4.10) 式成立.

根据文献 [18] 中的相关证明, 假设 $|Du|$ 在 $\partial\Omega$ 上的最大值在 $x_{1}$ 点取到, 由 (4.10) 式, 可以假设

由于 $\Phi(x_0)\ge \Phi(x_1)$, 则

注意上式最后一个不等式由 (4.11) 式 以及不等式 $(x-y)^2\ge \frac{x^2}{2}-y^2$ 推得.

进一步假设

则结合 (4.10), (4.11) 和 (4.12) 式, 可得

不失一般性, 这里可以假设 $C_0\in (0,\ 1).$

接下来, 我们来说明当 $|Du|$ 足够大时, 存在 $i\in\{1,2,\cdots,n\}$ 使得 $u_{i}$, $w_{i}$, $|Du|$, $|Dw|$ 相互等价并且 $u_{ii} < 0$.

通过在 $x_0$ 点旋转标架, 可以假设 $D^{2}u(x_{0})$ 为对角阵.

对 $k=1,\,2,\cdots,n$, 记 ${T_k} = \sum\limits_{l = 1}^n {{C^{kl}}{w_l}}$, $\overrightarrow{T}=(T_1,\,T_2,\cdots,T_n)$, 则

由 (4.14) 式推得

不妨令 $T_{1}w_{1}=\displaystyle\max_{k}\{T_{k}w_{k}\}$, 可得

另一方面,

即

结合 (4.14) 式, 可得

因此,

由 $u_{1}=w_{1}+\left(\frac{\varphi d}{\cos\theta}\right)_{1}$, 以及 $\varphi,\,\,d$ 的光滑性, 可令 $\mu$ 充分小使得

从而 $u_{1}$ 和 $w_{1}$ 等价. 因为

我们有

综上讨论我们推得 $u_{1}$, $w_{1}$, $T_{1}$, $|T|$, $|Du|$ 和 $|Dw|$ 相互等价.

计算得

由于 $u_{1}$, $w_{1}$, $|Du|$ 和 $|Dw|$ 相互等价, 对 $i=j=1$ 有,

另一方面, 由 (4.8) 式, 可得

特别地, 对 $i=1$, 我们推得

这里用到了 $D^{2}u$ 的对角性质. 因此

将 (4.24) 式代入 (4.21) 式可得

若假设 $h'$ 有一个正下界, $\mu$ 足够小, 则由 $|Dw|$ 充分大可推得

从而利用引理 2.1, 可得

现在, 我们回到 (4.9) 式继续处理 $\Phi$ 的二阶导数. 对于后四项, 根据 (4.19) 式和 (4.25) 式, 易得

其中 $k_0$ 是与 $\partial\Omega$ 的几何性质相关的正常数, $h" - 2{(h')^2}$ 为待定的正函数.

为了处理 $I$, 记

对于 $I_1$, 容易推得

对于 $I_2$, 因为

下面计算 $(\frac{{\varphi (x,u)d}}{{\cos \theta }})_{ijk}$,

其中

注意到

从而推得

因此我们有

类似地, 我们处理剩下两项.

由下列计算,

我们得

对于 $I_4$,

因为

我们推得

结合 (4.30)-(4.33) 式, 可得

记

下面给出 $H$ 的一个下界.

令 $C^{i_0i_0}$ 为 $\{C^{ii}\}_{i=1}^n$ 的最小项, 则有 $C^{ii}\ge \frac{1}{2}$, $\forall i\neq i_{0}, i=1,\cdots,n$. 事实上, 由反证法, 假设存在 $i_{1}\neq i_{0}$ 使得 $C^{i_{1},i_{1}}<\frac{1}{2}$. 则

这与 $\sum\limits_{i=1}^{n}C^{ii}=n-1$ 矛盾.

利用方程可得

因此, 由 $ax^2+bx\ge -\frac{b^2}{4a}$, $a>0$, 推得

将上式代入 (4.34) 式并且结合 (4.14) 式可得

从而, 结合 (4.26)-(4.29) 式和 (4.36) 式可得

注意这里再次用到了 $F\ge C>0$.

若取 $h(t) = \frac{1}{4}\ln \frac{1}{{(3M - t)}}\,,$ $\mu$ 足够小使得 $C_3\mu \le C_2(h')^2$, 则 $h(t)$ 满足上述所有假设并且 $C_2\left[h" - 2{(h')^2}\right]- C_3d \geq C_2\left[h" - 3{(h')^2}\right]=C_2(h')^2\,,$ 则有

因此我们在 $x_0$ 点得到 $|Dw|$ 的一致估计, 从而推得 $u$ 在 $\overline{\Omega}$ 上的梯度估计, 定理 4.1 得证.