复动力系统的研究始于1920年,到目前为止,已经有近百年的历史. 对于复平面中单位圆盘上的全纯自映射,Wolff 和Denjoy在1926年给出了经典的Denjoy-Wolff 定理.

定理 1.1^[3] 设$\Delta$ 是复平面${\Bbb C}$上的单位圆盘, $f \in {\rm Hol}(\Delta,\Delta)$,即$f$是全纯自映射,且$f$ 在$\Delta$ 上没有不动点,那么 $\exists \tau \in \partial \Delta$使得$f$的$n$阶迭代序列$f^n=f \circ f\circ \cdots \circ f$在$\Delta$上内闭一致收敛到常值映射$\tau$.

在经典的Denjoy-Wolff定理的基础上,许多学者尝试着改变映射的区域, 看能否在不同的区域上得到与单位圆盘上同样的收敛性. 1941 年, Heins研究了有限连通区域$D$ 上的全纯自映射$f$ 的$n$ 阶迭代序列 $f^n=f \circ f\circ \cdots \circ f$ 的收敛情形,得到如下的结论

定理 1.2^[20] 设$D\subset {\Bbb C}$是一个有界的有限连通区域, 且边界都是约旦曲线,并且$f\in {\rm Hol}(D,D)$,$f$的$n$阶迭代序列$f^n=f \circ f\circ \cdots \circ f$ 收敛当且仅当$f$不是$D$上的自同构映射,并且如果迭代序列$\{ f^{n} \}$收敛, 一定收敛到某个常值$x \in \overline{D}$.

紧接着学者们研究了一族解析函数的随机迭代问题,也就是说：如果$D\subset {\Bbb C}$ 是一个区域,$F\subset {\rm Hol}(D,D)$,在$D$ 和$F$ 在满足什么条件的基础下, 对$F$ 中任取的序列$\{f_{n}\}$,其有限复合序列$G_{n}=f_{1} \circ f_{2}\circ \cdots \circ f_{n}~(n=1,2,\cdots)$ 在$D$ 上内闭一致收敛到某个常值映射?

Baker和 Rippen等人对${\Bbb C}$中有界凸域上的情形做了研究, 最后给出了$D$与$F$所满足的条件,并得出了如下的结果

定理 1.3^[4] 设$D\subset {\Bbb C}$ 为有界的凸域, $F\subset {\rm Hol}(D,D),\forall f_{i} \in F$,$f_i$可以连续地扩展到$\overline{D}$, 有$|f_i'|\leq 1$在$D$ 上恒成立, 同时存在$z_0 \in D$,使得$\mathop {\sup }\limits_{f\in F}|f'(z_0)|< 1,$ 则有$G_{n}=f_{1} \circ f_{2}\circ \cdots \circ f_{n}~(n=1,2,\cdots)$ 一致收敛到$\overline{D}$ 的一个常数.

随后Beardon通过给出$D$和$F$满足的的另外一种一致性条件,得到了以下结论

定理 1.4^[5] 设$D$是${\Bbb C}$中的双曲区域, $F$是$D$上一族全纯自映射,$F_{0}$是$F$中有限个映射复合生成的半群. 若$F_{0}$在${\rm Hol}(D,C)$ 中关于紧开拓扑的闭包$\overline{F_0}$ 不含恒等映射,且不含 $\partial D$上的常值映射,则对任意$f_n \in F,n=1,2,\cdots,G_{n}=f_{1} \circ f_{2}\circ \cdots \circ f_{n}$在$D$上内闭一致收敛到一个常值映射.

到1988 年,Abate给出了$n$ 维复平面中有界光滑强凸域上的全纯自映射 的Wolff-Denjoy定理^[2],Bracci等人则在$n$ 维复平面的另外的一些区域 (光滑强拟凸域等)做了研究^{[13, 14, 15]}. 但是就非光滑有界凸域上的情形 在后来的二十年内几乎没有研究学者给出相关的结论,直到2012年,Budzynska等人 就$n$维复平面中的有界严格凸域上的单个全纯自映射的Wolff-Denjoy 迭代理论做了研究, 得出如下结论

定理 1.5^[16] 设$D \subset \subset {\Bbb C}^{n}$为 有界严格凸域,并且$f\in {\rm Hol}(D,D)$ 没有不动点,那么$\exists \xi \in \partial D$, 使得$f$的$n$阶迭代序列$\{f^{n}\}$在紧开拓扑下收敛到常值映射$\xi$.

2013年,Abate和Raissy^[3]对$n$维复平面中的非光滑有界凸域上单个全纯自映射 迭代理论的Wolff-denjoy定理进行了研究,对上面的定理给出了新的证明.

本文主要研究目的是在Abate和Raissy的工作基础上,加上一定的一致性条件($D$和$F$所满足的条件), 给出了新的关于非光滑有界凸域上一族解析映射的随机迭代的相关定理. 并且利用Beardon等人的证明思想,给出相关的$G_{n}=f_{1} \circ f_{2}\circ \cdots \circ f_{n},n=1,2,\cdots$ 的收敛性问题, 即得到本文的主要定理

定理A 设$D\subset\subset {\Bbb C}^{n}$ 是一个有界的严格凸域, 序列$\{f_n \}\subset {\rm Hol}(D,D),G_n=f_1\circ f_2 \circ \cdots \circ f_n$, 若$\exists z_0 \in D,$使得$\overline{\{{G_n (z_0 ):n\geq 1}\}} \cap \partial D \ne \emptyset$,则$\exists \{ G_n (z)\}$的子序列$\{ G_{n_i } (z)\}$,使得$\{ G_{n_{i} } (z)\}$ 内闭一致收敛到$\partial D$上的常值映射$w_0$.

定理B 设$D\subset\subset {\Bbb C}^{n}$为有界凸域, $F\subset {\rm Hol}(D,D)$,$F_0$是$F$ 中有限个映射复合生成的半群, 且对$D$中的任意的$m(1\leq m \leq n)$维仿射子集$E$和任意的$g \in \overline{F_0},\quad g|_E\neq {\rm id}$,则对任意$f_n \in F$, $G_{n}=f_{1} \circ f_{2}\circ \cdots \circ f_{n},n=1,2,\cdots$, 在$D$上满足下面两个条件之一

(i) $G_{n}=f_{1} \circ f_{2}\circ \cdots \circ f_{n}$收敛到$D$内一个常值映射;

(ii) $\exists x_0 \in \partial D$,使得$F_0$中存在一个序列$\varphi_{n}$内闭一致收敛到$h$,且有 $$h(D)\subseteq \bigcap\limits_{R>0} {Ch(\overline{F_{z_0}(x_0,R)}\bigcap \partial D)}.$$

定义2.1 (凸域与严格凸域) 给定$\forall x,y \in {\Bbb C}^{n}$,定义 $$[x,y]=\{sx+(1-s)y\in {\Bbb C}^{n}|s\in [0, 1] \} ,\quad (x,y)=\{sx+(1-s)y\in {\Bbb C}^{n}|s\in (0,1) \}.$$

给定集合$D\subset {\Bbb C}^{n}$,如果对$\forall x,y \in D$, 都有$[x,y]\subseteq D$,我们称$D$是凸域;

给定集合$D\subset {\Bbb C}^{n}$,如果对$\forall x,y \in \overline{D}$, 都有$[x,y]\subseteq D$,我们称$D$是严格凸域.

定义2.2 ($ch$的定义) 设$D\subset\subset {\Bbb C}^{n}$ 是凸域,$\forall x\in \partial D$,我们定义 $$ch(x)=\{y\in \partial D|[x,y]\subset \partial D \},$$ 且如果$ch(x)=x$,我们称$x$是一个严格凸点. 更一般地,如果$F\subset \partial D$,定义 $$ch(F)=\bigcup_{x\in F}ch(x).$$

注 如果$D$是一个严格凸域,那么对$\forall x \in \partial D$, $x$都是一个严格凸点.

定义2.3 ($Ch(x)$的定义) 设$D\subset\subset{\Bbb C}^{n}$是凸域, $\forall x\in \partial D$,我们定义$x$这一点的$Ch(x)$为$\overline{D}$和$x$ 点的所有复支撑超平面的交集.

定义2.4 (极限映射) 映射$\varphi \in \overline{F_0},F\subset {\rm Hol}(D,D)$, $F_0$是$F$中有限个映射复合生成的半群,$\{ f_i \} \in F,$ $G_n = f_1 \circ f_2 \circ \cdots f_n ;$ $n = 1,2,\cdots$,如果存在$\{G_n\}$ 中的一个子序列$\{G_{n_i}\}$在$D$上内闭一致收敛到函数$\varphi$, 则称$\varphi$是$\{G_n\}$的极限映射.

命题2.1 (凸域的相关性质)^[2] 设$D\subset\subset {\Bbb C}^{n}$且$D$是凸域, 那么有

(1) $(z,w)\subset D$,对$\forall z \in D$,$\forall w \in D$;

(2) 如果$x,y\in \partial D$,那么或者有$(x,y)\in \partial D$ 或者有 $(x,y)\in D$.

命题2.2 (有界凸域性质)^[2] 设$D\subset\subset {\Bbb C}^{n}$ 是有界凸域,那么有

(1) 如果$z_1 ,z_2 ,w_1 ,w_2 \in D,s \in [0, 1]$,则有 $$K_D (sz_1 + (1 - s)w_1 ,sz_2 + (1 - s)w_2 ) \le \max \{ K_D (z_1 ,z_2 ),K_D (w_1 ,w_2 )\} ;$$

(2) 如果$z,w \in D;s,t \in [0, 1]$,则有 $$K_D (sz + (1 - s)w,tz + (1 - t)w) \le K_D (z,w).$$

命题2.3 (有界凸域性质)^[2] 设$D\subset\subset {\Bbb C}^{n}$ 是有界凸域, $x,y \in \partial D;\{ z_v \} ,\{ w_v \}$ 是$D$中的两个序列, 并且满足$\{z_v\}$收敛到$x$, $\{w_v\}$收敛到$y$,如果有 $$\mathop {\sup }\limits_{v \in N} K_D (z_v ,w_v ) = c < + \infty,$$ 那么有$[x,y] \subset \partial D$,特别地,如果$x$ 或者$y$是一个严格凸点, 那么有$x=y$. 这里$K_D$ 为 $D$ 上的Kobayashi距离.

命题2.4 (凸集分离定理)^[18] 设$X$是一个复的线性赋范空间,$A,B$是$X$中的非空凸域,$A$ 的内部不为空, $A$ 的内部与$B$的交集为空,则存在非零线性泛函$f\in X^{*}$和实数$r$,使得 $$A \subset \{ x:{\mathop{\rm Re}\nolimits} f(x) \le r\} ;B \subset \{ x:{\mathop{\rm Re}\nolimits} f(x) \ge r\}.$$

命题2.5 (Montel定理)^[2] 若$D$是${\Bbb C}^{n}$中的有界凸域,则${\rm Hol}(D,D)$是 ${\rm Hol}(D,{\Bbb C}^{n})$中的相对紧集,也就是${\rm Hol}(D,D)$ 中的任何一个序列都有内闭一致收敛的子序列.

为了给出了本文中两个主要定理的证明,本文先给出定理所需要的四个引理.

引理3.1 设$D\subset\subset {\Bbb C}^{n}$是一个有界凸域, 且$\{ f_n \} \subset {\rm Hol}(D,D)$,则存在$\{ f_n \}$ 的子列$\{ f_{n_i } \}$在$D$上内闭一致收敛到$h \in {\rm Hol}(D,\overline D )$. 特别地, 若$\forall z \in D,f_n (z) \in K_z \subset D,$其中$K_z$ 是仅与$z$的选取有关的紧集,则有$h \in {\rm Hol}(D,D)$.

证 由Montel定理可知,${\rm Hol}(D,D)$在${\rm Hol}(D,{\Bbb C}^{n})$ 中是相对紧的,因此${\rm Hol}(D,D)$ 中的任何一个序列都有内闭一致收敛的子序列, 且收敛到函数$h \in {\rm Hol}(D,{\Bbb C}^{n})$.而且又因为$D$是有界的凸域, 因此有$h(D) \subset \overline D$,因此$h \in {\rm Hol}(D,\overline D )$.

当有$\forall z \in D,f_n (z) \in K_z \subset D$时,很显然有$\{ f_n \}$的 极限函数$h \in {\rm Hol}(D,D)$.

引理3.2 设$D\subset\subset {\Bbb C}^{n}$是一个有界凸域, 且$\{ f_n \} \subset {\rm Hol}(D,D),\{ g_n \} \subset {\rm Hol}(D,D)$, 若 $\{ f_n \}$在$D$ 上内闭一致收敛到函数$f \in {\rm Hol}(D,D)$,$\{ g_n \}$ 在$D$上内闭一致收敛到函数$g \in {\rm Hol}(D,D)$,则$\{ f_n \circ g_n \}$ 在$D$ 上内闭一致收敛到函数$f \circ g \in {\rm Hol}(D,D)$.

证 对于任意的紧集$K_1 \subset D$,而函数$g \in {\rm Hol}(D,D)$, 因此有$g(K{}_1) \subset D$,且$g(K{}_1)$ 也为紧集. 因此$\exists \delta > 0$, 使得紧集$K_2 = \{ \left. {w \in C^n } \right|d(w,g(K_1 )) \le \delta \} \subset D$.

由于$\big| {\frac{{{\rm d}f}}{{{\rm d}z}}} \big|$在紧集$K_2$上有界,故存在正数$L>0$, 使得对于$\forall w_1 ,w_2 \in K_2$,有 $$\left| {f(w_1 ) - f(w_2 )} \right| \le L\left| {w_1 - w_2 } \right|.$$

又因为$\{g_n\}$在$D$上内闭一致收敛到函数$g \in {\rm Hol}(D,D)$, 因此 $\{g_n\}$在紧集$K_1$上内闭一致收敛到函数$g$,故有$\forall 0 < \varepsilon \le 2L\delta ,\exists$ 正整数$N_1$. 当$\forall z \in K_1 ,n > N_1$时有 $$\left| {g_n (z) - g(z)} \right| < \frac{\varepsilon }{{2L}} \le \delta.$$ 所以$g_n (K_1 ) \subseteq K_2 ,\forall n > N_1$.

由于$\{f_n\}$在$D$上内闭一致收敛到函数$f \in {\rm Hol}(D,D)$, 肯定有$\{ f_n \}$在紧集$K_2$上内闭一致收敛到函数$f$. 故存在正整数$N_2 > 0$, 使得对于$\forall w \in K_2 ,n > N_2$时,我们可以得出 $$\left| {f_n (w) - f(w)} \right| < \frac{\varepsilon }{2}.$$

因此当$n > N = \max (N_1 ,N_2 )$时,对于$\forall z \in K_1$ 时, 令$w = w_1 = g_n (z) \in K_2 ,$ $w_2 = g(z) \in K_2$,则有当$n \to \infty$时 $$\begin{eqnarray*} \left|{f_n \circ g_n (z) - f \circ g(z)} \right| &\le& \left| {f_n \circ g_n (z) - f \circ g_n (z)} \right| + \left| {f \circ g_n (z) - f \circ g(z)} \right| \nonumber\\ &=& \left| {f_n (w) - f(w)} \right| + \left| {f(w_1 ) - f(w_2 )} \right| \nonumber\\ &< &\frac{\varepsilon }{2} + L\left| {w_1 - w_2 } \right| \nonumber\\ &= &\frac{\varepsilon }{2} + L\left| {g_n (z) - g(z)} \right| \nonumber\\ &< &\frac{\varepsilon }{2} + L\frac{\varepsilon }{{2L}} \nonumber\\ &= &\varepsilon. \end{eqnarray*}$$ 因此我们说$\{ f_n \circ g_n \}$紧集$K_1 \subset D$上内闭一致收敛到函数 $\{ f \circ g \}$,则 $\{ f_n \circ g_n \}$ 在$D$上内闭一致收敛到函数 $f \circ g \in {\rm Hol}(D,D)$.

引理3.3 设$D\subset\subset {\Bbb C}^{n}$是一个有界凸域, 且$F\subset {\rm Hol}(D,D)$,$F_{0}$是$F$中有限个复合生成的半群, 且满足$\overline{F_{0}}\subseteq {\rm Hol}(D,D)$,若$\varphi , \psi$是$G_{n}$的极限映射,则存在$h\in \overline{F_{0}}$, 使得$\psi =\varphi \circ h$.

证 设$G_n^m=f_{m}\circ f_{m+1}\circ \cdots \circ f_{n}$. 则有 $$G_n^1=f_{1}\circ \cdots \circ f_{m}\circ f_{m+1}\circ \cdots \circ f_{n}=G_m^1\circ G_n^{m+1}.$$

由于$\varphi$是$G_n$的极限映射,$\{G_n^1\}$中存在收敛子列$\{G_{n_i}^1 \}$, 使得当$i \rightarrow \infty$ 时,$\{G_{n_i}^1\}$内闭一致收敛到$\varphi$. 同理可得,$\psi$是$G_n$的极限映射,$\{G_m^1\}$中存在收敛子列$\{G_{m_j}^1\}$, 使得当$j \rightarrow \infty$ 时,$\{G_{m_j}^1\}$内闭一致收敛到$\psi$, 且满足$n_{1} < m_1 < n_2 < m_2 < \cdots < n_j < m_j\cdots$ 则序列$\{G_{m_j}^{n_j+1}\}\subset F_0\subset {\rm Hol}(D,D)$,且根据引理3.1可知, $\{G_{m_j}^{n_j+1}\}$有内闭一致收敛的子列. 简单起见,不妨设 当$j \rightarrow \infty$时,$\{G_{m_j}^{n_j+1}\}$内闭一致收敛到$h$. 由$G_{m_j}^1=G_{n_j}^1\circ G_{m_j}^{n_j+1}$, 有$h\in \overline{F_{0}}\subset {\rm Hol}(D,D)$.

由引理3.2可知有$\psi =\varphi \circ h$,定理得证.

引理3.4 设$D\subset\subset {\Bbb C}^{n}$是一个有界凸域, $\{ f_n \} \subset {\rm Hol}(D,D),G_n=f_1\circ f_2 \circ\cdots \circ f_n$, 记$F_0 = \{ \left. {g_1 \circ g_2 \circ \cdots \circ g_m } \right|\exists j,g_i = f_j,i=1,\cdots,m \}$,且$\overline{F_{0}}\subseteq {\rm Hol}(D,D)$,则下面两条至少有一条成立

(i) $\{ G_n (z)\}$收敛到$D$上的常值映射;

(ii) 存在$D$中$k(1 \le k \le n)$维子流形$E$,$\exists h \in \overline {F_0 }$使得$\left. h \right|_E = \left. {\rm id} \right|_E$.

证 因为$f_i \in {\rm Hol}(D,D)$,因此$G_n = f_1 \circ f_2 \circ \cdots \circ f_{n - 1} \circ f_n \in {\rm Hol}(D,D)$, 根据引理3.1,存在$G_n = f_1 \circ f_2 \circ \cdots \circ f_{n - 1} \circ f_n$中的子列$G_{n_i } = f_1 \circ f_2 \circ \cdots \circ f_{n_i - 1} \circ f_{n_i }$,使得$\{ G_{n_i } \}$ 收敛到函数$h$.

如果$h$是$D$上的常值映射,令$h=\omega_{0}\in D$;

如果$\{G_{n}\}$中存在另外一个极限映射$h'$,我们不妨设$\{G_{n}\}$的子列 $\{G_{k_{i}}\}$ 收敛到函数$h'$,则根据引理3.3中的条件, 一定存在$\theta \in\overline{F_0}$,使得$h' =h\circ \theta$, 则有对于任意的$z\in D,h' (z)=h\circ \theta(z)=\omega_{0}$, 则得出了$h' =h$,即$G_n$的极限映射唯一. 根据归结原则,有$\{G_n\}$ 内闭一致收敛到$D$上的常值映射,此时满足了引理中的第一个条件.

当$h$不是$D$常值映射时,我们令$\varphi _i = f_{n_i + 1} \circ f_{n_i + 2} \circ \cdots \circ f_{n_{i + 1} } \in F_0$, 则有$\varphi _i \in {\rm Hol}(D,D)$及$\varphi _i \in {\rm Hol}(D,D) \cap F_0$. 因此$\{ \varphi _i \}$满足引理3.1中的条件,故存在$\{ \varphi _i \}$的子列收敛.

简单起见,假设$\{ \varphi _{i } \}$ 收敛到函数$\varphi \in \overline {F_0 } \subseteq {\rm Hol}(D,D)$. 而 $$f_1 \circ f_2 \circ \cdots \circ f_{n_i + 1} \circ f_{n_i + 2} \circ \cdots \circ f_{n_{i + 1} } =f_{1}\circ \cdots \circ f_{n_{i}}\circ \varphi_{i}.$$ 取上面式子中的$i_j$子列,并且令$j \to \infty$ $$f_1 \circ f_2 \circ \cdots \circ f_{n_i + 1} \circ f_{n_i + 2} \circ \cdots \circ f_{n_{i + 1} } \to h.$$ 而根据引理3.2有 $$f_1 \circ f_2 \circ \cdots \circ f_{n_i } \circ \varphi {}_i \to h \circ \varphi.$$ 因此我们可以得出$h = h \circ \varphi$.

若上面式子中的$\varphi={\rm id}$,而且$\varphi \in \overline {F_0}$, 则此时我们已经找到了一个子流形,使得在这个子流形上有 $\varphi={\rm id}$, 此时已经满足了引理3.4中的第二个条件. 反之,当我们所取$\varphi \ne {\rm id}$时, 则取$\varphi$的$n$阶迭代序列$\{ \varphi ^n \}$,根据引理3.1有$\exists \phi \in \overline {F_0 } \subseteq {\rm Hol}(D,D)$使得 $\{ \varphi ^n \}$ 的子序列$\{ \varphi ^{n_i } \}$在$D$ 上内闭一致收敛到$\phi$, 并且满足$m_i = n_i - n_{i - 1}$单调递增.

若$\phi \equiv w_0 \in D$为常值映射,由$h = h \circ \varphi$可得$h = h \circ \varphi ^{n_i } ,\forall i \in N$, 则对$\forall z \in D$,有 $$h(z) =\mathop {\lim }\limits_{i \to \infty } h \circ \varphi ^{n_i } (z) = \mathop {\lim }\limits_{i \to \infty } h(w_i ).$$ 上式中的$w_i = \varphi ^{n_i } (z) \to \phi \equiv w_0 \in D$,此时 $$h(z) = \mathop {\lim }\limits_{i \to \infty } h(w_i ) \equiv z_0 \in D.$$ 此时$h$为常值函数,则与$h$是非常值映射矛盾. 反之,若$\phi$不是常值映射, 则对于序列$\{ \varphi ^{m_i } \}$,根据引理3.2有, $\exists \psi \in \overline {F_0 } \subseteq {\rm{Hol}}(D,D)$使得 $\{ \varphi ^{m_i } \}$ 收敛到$\psi$,此时我们有 $$\varphi ^{n_i } = \varphi ^{n_{i - 1} + m_i } = \varphi ^{m_i } \circ \varphi ^{n_{i - 1} }.$$

取上式的$i_j$子列,并令$j \to \infty$,则该子列左边收敛到$\phi$, 右边根据引理3.2有$\varphi ^{m_i } \circ \varphi ^{n_{i - 1} } \to \psi \circ \phi$,因此有 $\phi = \psi \circ \phi$. 注意到$\phi$不是常值函数,故$\exists k(1 \le k \le n)$维子流形$E \subset \phi (D)$,此时由于$\psi$在$\phi(D)$等于恒等映射,故$\psi |_E ={\rm id}|_E$,此时满足了引理3.4中的条件(ii).

定理A的证明 根据引理3.1可知, $\{ G_n (z)\}$满足引理3.1中的条件,因此$\{ G_n (z)\}$中存在收敛的子序列 $\{ G_{n_i } (z)\}$,使得$\{ G_{n_i } (z)\}$ 收敛到函数$f(z) \in {\rm Hol}(D,\overline D )$. 又因为存在$z_0 \in D$, 使得$\overline{\{{G_n (z_0 ):n\geq 1}\}} \cap \partial D \ne \emptyset$, 所以有$w_0 = f(z_0 ) \in \partial D$, 由于$D$是开的凸域,根据凸集分离定理,存在${\Bbb C}^{n}$上的线性函数$L(z) = \sum\limits_{j = 1}^n {\lambda _j z_j } (\lambda _j \in {\Bbb C},j = 1,2,\cdots ,n)$ 和实数$r$使得 $$\overline{D} \subseteq \{ z:{\rm Re} L(z) \leqslant r\} , w_0 \in \{ z:{\rm Re} L(z) \geqslant r\}.$$

由于$w_0 \in \partial D \subset \overline{D}$故${\rm Re} L(w_0 ) = r$,且 $$D = \left( { \overline{D}} \right)^ \circ \subseteq \{ z:{\rm Re} L(z) \leqslant r\}^ \circ = \{ z:{\rm Re} L(z) < r\}.$$

由于${\rm Re} L$是${\Bbb C}^{n}$上的调和函数,$f \in {Hol}(D,\bar D)$, 故${\rm Re} L \circ f$是$D$上的调和函数,且有${\rm Re} L \circ f(D) \subseteq {\rm Re} L(\bar D) \subseteq ( - \infty ,r]$. 而${\rm Re} L \circ f(z_0 ) = {\rm Re} L(w_0 ) = r$, 故该调和函数在$z_0 \in D$ 取得最大值,根据调和函数的极值原理,我们有${\rm Re} L \circ f \equiv r$. 又由于$D$是严格凸域, $({\rm Re} L)^{ - 1} (r)$为${\Bbb C}^{n}$中的超平面,且$({\rm Re} L)^{ - 1} (r) \cap D = \emptyset$, 则$({\rm Re} L)^{ - 1} (r) \cap \partial D$必至多包含一个点.

事实上,假设$w_1,w_2 \in ({\rm Re} L)^{ - 1} (r) \cap \partial D$且 $w_1 \neq w_2$,由于$D$是严格凸域且$({\rm Re} L)^{ - 1} (r)$为 ${\Bbb C}^{n}$中的超平面,故连接$w_1,w_2$ 的线段满足 $$l = \{ \lambda w_1 + (1 - \lambda )w_2 ,0 < \lambda < 1\} \subset ({\rm Re} L)^{ - 1} (r) \cap D.$$ 这与$({\rm Re} L)^{ - 1} (r) \cap D = \emptyset$矛盾, 故$({\rm Re} L)^{ - 1} (r) \cap \partial D$ 至多包含一个点, 而$w_0 \in ({\rm Re} L)^{ - 1} (r) \cap \bar D$,因此 $$({\rm Re} L)^{ - 1} (r) \cap \bar D = \{ w_0 \}.$$ 而${\rm Re} L \circ f \equiv r$,故对于$\forall z \in D$有$f(z) \in ({\rm Re} L)^{ - 1} (r) \cap \bar D = \{ w_0 \}$, 即$f(z) \equiv w_0 ,\forall z \in D$,所以有$\{ G_{n_{i}}(z)\}$ 收敛到边界上的一个常值函数$w_0$.

推论4.1 设$D\subset\subset {\Bbb C}^{n}$ 为有界严格凸域,$F\in {\rm Hol}(D,D)$, $F_0$是$F$ 中有限个映射复合生成的半群,且对$D$中的任意的$m(1\leq m \leq n)$ 维仿射子集$E$和任意的$g \in \overline{F_0},\quad g|_E\neq {\rm id}$, 则有下面的结论成立

(i) 当存在$\exists z_0 \in D$,使得$\overline{\{{G_n (z_0 ):n\geq 1}\}} \cap \partial D \ne \emptyset$时,有$\{G_n(z)\}$收敛到$\partial D$上的常值映射;

(ii) 当$\overline{F_{0}}\subseteq {\rm Hol}(D,D)$时,$\{G_n\}$在$D$上内闭一致收敛到常值映射.

证 (i) 如果$\exists z_0 \in D$,使得$\overline{\{{G_n (z_0 ):n\geq 1}\}} \cap \partial D \ne \emptyset$, 此时根据引理3.4可知$\{ G_n (z)\}$ 内闭一致收敛到$\partial D$上的一个常数, 此时定理已经证明.

(ii) 当$\overline{F_{0}}\subseteq {\rm Hol}(D,D)$时,已经满足了引理3.4中的条件, 则引理3.4中结论必有一条成立,当存在$D$中$k(1 \le k \le n)$维子流形$E$, $\exists h \in \overline {F_0 }$使得$\left. h \right|_E = \left. {\rm id} \right|_E$ 成立时与定理中的假设矛盾.

因此$\{ G_n \}$只能在$D$上内闭一致收敛到一个常值映射.

定理B的证明 当满足$\overline{F_{0}}\subseteq {\rm Hol}(D,D)$时, 此时根据引理3.4有$G_{n}=f_{1} \circ f_{2}\circ \cdots \circ f_{n}$ 收敛到$D$内的常值函数. 反之,则存在$z_0\in D$, 序列$\{\varphi_{n}\}\subseteq F_0$,使得$\varphi_{n}$收敛到映射$h$ 且满足$h(z_0)\in \partial D$,下面证明 $$h(D) \subseteq \mathop \bigcap \limits_{R > 0} Ch(\overline {F_{z_0 } (x_0 ,R)} \cap \partial D).$$

设$h(z_0)=w_0\in \partial D$,由于$D$是开的凸域,根据凸集分离定理, 存在${\Bbb C}^{n}$上的线性函数$L(z) = \sum\limits_{j = 1}^n {\lambda _j z_j } (\lambda _j \in {\Bbb C},j = 1,2,\cdots ,n)$ 和实数$r$使得 $$\overline{D} \subseteq \{ z:{\rm Re} L(z) \leqslant r\} , w_0 \in \{ z:{\rm Re} L(z) \geqslant r\}.$$ 由于$w_0 \in \partial D \subset \overline{D}$,故${\rm Re} L(w_0 ) = r$且 $$D = \left( { \overline{D}} \right)^ \circ \subseteq \{ z:{\rm Re} L(z) \leqslant r\}^ \circ = \{ z:{\rm Re} L(z) < r\}.$$ 由于${\rm Re} L$是${\Bbb C}^{n}$上的调和函数,$h \in {{\rm Hol}}(D,\bar D)$, 故${\rm Re} L \circ h$是$D$上的调和函数且有${\rm Re} L \circ h(D) \subseteq {\rm Re} L(\bar D) \subseteq ( - \infty ,r]$. 而${\rm Re} L \circ h(z_0 ) = {\rm Re} L(w_0 ) = r$,故该调和函数在$z_0 \in D$取得最大值, 根据调和函数的极值原理,我们有${\rm Re} L \circ h \equiv r$. 故$h(D)\cap D=\emptyset$. 又$h(D)\subseteq {\rm Hol}(D,\overline{D})$,故$h(D) \subset \partial D$, 根据文献[1,性质2.5]可知 $$h(D) \subseteq \mathop \bigcap \limits_{z \in D} Ch(h(z)) \subseteq \partial D.$$ 由文献[3,命题2.4.17]可知,$\exists x_0 \in \partial D,\forall R > 0,\forall f_i \in {\rm Hol}(D,D)$有 $$f_i (E_{z_0 } (x_0 ,R)) \subseteq F_{z_0 } (x_0 ,R).$$ 因此有$f_{n_1}\circ f_{n_2}\circ \cdots \circ f_{n_j} (E_{z_0 } (x_0 ,R)) \subseteq F_{z_0 } (x_0 ,R)$, 所以当$j\rightarrow \infty$时,$h(E_{z_0 } (x_0 ,R)) \subseteq \overline {F_{z_0 } (x_0 ,R)}$,对于$\forall z \in E_{z_0 } (x_0 ,R),$ 都有 $$h(z) \in \overline {F_{z_0 } (x_0 ,R)} \cap \partial D.$$ 因此$h(z) \in Ch(\overline {F_{z_0 } (x_0 ,R)} \cap \partial D)$. 进而 $$h(E_{z_0 } (x_0 ,R)) \subseteq Ch(\overline {F_{z_{0} } (x_0 ,R)} \cap \partial D).$$ 而 $$\bigcap\limits_{z \in D} {Ch(h(z)) \subseteq } \bigcap\limits_{z \in E_{z_0 } (x_0 ,R)} {Ch(h(z)) \subseteq } h(E_{z_0 } (x_0 ,R)).$$ 所以有 $$h(D) \subseteq \mathop \bigcap \limits_{z \in D} Ch(h(z)) \subseteq Ch(\overline {F_{z_0 } (x_0 ,R)} \cap \partial D).$$ 证毕.

当本文两个主要定理中的随机迭代的解析映射相同时,那么定理就变成了单个解析函数的迭代理论, 因此本文给出的定理仍然适合Marco Abate 所给的Wolff-Denjoy 定理的证明, 下面应用本文主要定理的证明方法证明经典的Wolff-Denjoy 定理.

定理5.1 设$D\subset\subset {\Bbb C}^{n}$中的有界凸域, $f\in {\rm Hol}(D,D)$,且$f$是$D$上的非自同构映射,若$f$有不动点$z_{0}$,则$f$ 的迭代序列$f^{n}$ 内闭一致收敛到$z_{0}$.

证 我们记$F=\{ f \}$,则$F_{0}=\{ f ^{n} \}$. 若假设$\exists z\in D$,使得$\mathop {\lim }\limits_{n \to + \infty }K_D (f^{n}(z' ),z' )= +\infty$, 则存在$f^{n}$的子列$f^{n_{j}}$,使得$f^{n_{j}} \rightarrow x_{0},j\rightarrow +\infty$ 且$x_{0}\in \partial D$,这与$z_{0}$是$f$的不动点矛盾. 所以对$\forall z \in D$ $$\mathop {\lim }\limits_{n \to + \infty } K_D (f^n (z),z) = c < + \infty.$$

假设${\rm id} \in \overline {F_0 }$且有$f^{n}$的子列$f^{n_{j}}$, 使得$j \to + \infty$时有$f^{n_j } \to {\rm id}$. 而区域$D$是双曲区域, 则有${\rm Hol}(D,D)$为正规族. 假设$j \to + \infty$时$f^{n_j - 1} \to h$,则有 $$h(f(z)) = \mathop {\lim }\limits_{j \to + \infty } f^{n_j - 1} (f(z)) = \mathop {\lim }\limits_{j \to + \infty } f^{n_j } (z) = {\rm id}(z) = z,~\forall z \in D.$$ 故有$h \circ f ={\rm id}$,此时映射$f$为单射,$h$为满射. 下面证明$f$是满射. 由文献[20,引理2.1.19]可知对于$\forall z_0 \in D$,对于$z_{0}$的任意邻域$U$,当$j \to + \infty$时有$z_0 \in f^{n_j } (U) \subset f(D)$,故$f$为满射,$h$为满射, 因此$f\circ h$ 在$D$上有定义,且有 $$f \circ h(z) = \mathop {\lim }\limits_{j \to + \infty } f \circ f^{n_j - 1} (z) = \mathop {\lim }\limits_{j \to + \infty } f^{n_j } (z) = z,~\forall z \in \partial D .$$ 故$f \circ h ={\rm id}$,所以$f$ 为 $D$上的自同构映射,这与题设中 $f$ 是非自同构矛盾,因此有${\rm id} \notin \overline {F_0 }$,故对于 $D$中任意的$m(1 \le m \le n)$ 维仿射子集 $E$和任意的映射 $g \in \overline {F_0 }$,都有 $\left. g \right|_E \ne {\rm id}$,此时已经满足了我们定理B中的条件(i),故有对于$\forall z \in D$,$\{ f^n \}$内闭一致收敛到$D$ 内的一个常值映射$c$,而又因为$z_{0}$是 $D$内的不动点, 因此 $f$的迭代序列 $f^{n}$内闭一致的收敛到 $z_{0}$.

本文中给出的条件相对于Baker和Ripen的条件弱些,最后的结论也相对弱些, 由此可见,对于一族复解析函数的随机迭代问题的收敛的程度是由定理中相 应的一致性条件决定的,在很弱的一致性条件下得到很强的结论是我们研究 复解析函数的迭代理论的目标,因此寻求 ${\Bbb C}^{n}$中有界凸域上一族 全纯自映射的随机迭代的内闭一致收敛到常值映射的较弱的条件是非常重要的, 这也是我们今后要继续研究的问题.