在本文中,一个紧致系统 $(X,f)$ 是指 $X$ 是一个紧致度量空间, 度量为$d$,$f: X\rightarrow X$ 是一个连续映射.

动力系统的复杂性研究已成为动力系统研究的一个中心问题. 通常有许多概念例如拓扑熵,混沌和一些拓扑传递属性被用来刻画 一个系统的复杂性. 目前,人们已得到许多很好的结果. 在已得到的结果中,Coven 和 Smital 的工作^[1]是值得关注的. 文献 ^[1] 引进了如下一类特殊的系统.

定义1.1    ^[1] 设 $(X,f)$ 是一个紧致系统. $f$ 称为熵极小的如果存在非空不变闭子集$Y$使得 ${\rm ent}(f|_Y)={\rm ent}(f)$,则 $Y=X$.

另外,Coven 和 Smital 证明了如下结论.

定理 1.1    ^[1] 设 $(X,f)$ 是一个紧致系统. 如果 $f$ 是熵极小的,则 $f$ 是拓扑传递的. 如果 $X=[0,1]$ 且 $f$ 是分段单调的,则上述结论的逆命题也成立.

显然,每一个极小映射是熵极小的. $f$ 称为极小的是指$X$是$X$的唯 一非空$f$ -不变的闭子集.

最近,受文献 ^[1]启发,王肖义和黄煜在文献^[2]中引进了混沌极小这个新概念.

定义1.2    ^[2] 设 $(X,f)$ 是一个紧致系统. $(X,f)$称为混沌极小的,如果它本身在 Li-Yorke 意义下是混沌的并 且所有真子系统在Li-Yorke 意义下 都不是混沌的.

文献^[2]证明了一个极小的在 Li-Yorke 意义下是混沌的系统是混沌极小的. 一个混沌极小的系统是拓扑传递的且在 Li-Yorke 意义下是混沌的. 并且有例子说明反过来是不成立的. 作者在文献^[2]中还证明了如下与定 理1.1类似的结果.

定理 1.2    ^[2] 设 $(X,f)$ 是一个紧致系统. $f$ 是熵混沌极小的当且仅当 $f$ 是拓扑传递的和在 Li-Yorke 意义下是混沌的,且存在一个包含 $f$ 的非传递点的不可数混沌集.

至今,对于上述两类动力系统,除了上述结果以外我们知之甚少. 本文首先给出了处理上述动力系统的一般方法. 我们引进如下的$P$ -极小概念.

定义1.3     设 $(X,f)$ 是一个紧致系统. $f$ 称为$P$ -极小的如果$f$具有性质$P$且如果存在非空不变闭子集 $Y$使得$f|_Y$具有性质$P$,则 $Y=X$.

显然,如果我们取$P$ -性质分别为

(1)~ 拓扑传递性质,则 $f$ 是$P$ -极小的当且仅当 $f$ 是极小的.

(2)~ 与 $f$ 有相同的拓扑熵这一性质,则 $f$ 是$P$ -极小的当且 仅当 $f$ 是熵极小的.

(3)~ 在 Li-Yorke 意义下是混沌的这一性质,则 $f$ 是$P$ -极小的 当且仅当 $f$ 是混沌极小的.

本文主要考虑熵极小系统的复杂性,我们得到: 如果$f$是熵极小的,则

(1)~ $f$ 是强遍历的.

此外,如果还存在$f$的真(拟)弱几乎周期点,则

(2)~ 对任意的$n>0$,$f^n$ 是遍历敏感的. 因此 $f$ 在 Takens-Ruelle 意义下是混沌的.

(3)~ $f$ 具有正拓扑熵. 因此 $f$ 在 Li-Yorke 意义下是混沌的.

另外,我们还给出例子说明混沌极小系统可以不是熵极小的. 反之, 熵极小系统可以不是混沌极小的.

本文结构如下: 第2部分回顾了一些概念,第3部分给出了本文的主要 结果及证明.

设 $(X,f)$ 是一个紧致系统,${\Bbb Z}_+$是正整数集. 对于 $X$ 中的非空开集 $U,V$以及$x\in X$,令 $$N(U,V)=\{n\in {\Bbb Z}_+:U\cap f^{-n}(V)\neq\emptyset\}, N(x,U)=\{n\in {\Bbb Z}_+:f^n(x)\in U\}.$$ 令 $A\subset {\Bbb Z}_+$, 定义 $A$ 在${\Bbb Z}_+$ 中的上密度为 $$\eta(A)=\limsup_{n \rightarrow\infty} \frac{\sharp(A\cap \{0,1,2,\cdots,n-1\})}{n},$$ 其中$\sharp(\cdot)$表示基数.

如果$\eta(A)>0$则称 $A$ 具有正上密度; 称$A$ 是 Syndetic集如果存在 $N\in {\Bbb Z}_+$ 使得对任意的$n\in {\Bbb Z}_+$, 有 $[n,n+N]\cap A\neq\emptyset$.

称$f$是拓扑传递的,如果对 $X$ 中任意的非空开子集 $U$和$V$, $N(U,V)\neq\emptyset$ (见文献^[3] 或 ^[4]). 称 $f$ 是拓扑遍历的,如果对 $X$ 中任意的非空开子集 $U$和$V$,$N(U,V)$ 具有上密度(见文献^[5]). 称$f$ 是强遍历的,如果对 $X$ 中任意的非空开子集 $U$和$V$, $N(U,V)$ 是一个Syndetic集 (见文献^[5]). 显然 $f$ 是强遍历的 蕴涵 $f$ 是拓扑遍历的. $f$ 是拓扑遍历的蕴涵$f$是拓扑传递的. 一般情况下,反过来是不正确的.

$X$的一个子集$M$称为是极小的,如果它是非空的$f$ -不变闭集且$M$没 有真子集满足这些性质. 设$M$是个极小集,如果 $x\in M$, 则$x$ 是$f$ 的一个的极小点. 记 $f$ 的极小点集为 $$A(f)=\{x\in M| \mbox{存在} \ \ M\subset X \mbox{ 是极小的}\}.$$

$x\in X$ 叫做 $f$ 的一个弱几乎周期点 (见文献^[6]), 如果对任意的 $\varepsilon >0$,存在 $N>0$ 使得

$x\in X$ 叫做 $f$ 的一个拟弱几乎周期点(见文献 ^[6]), 如果对任意的 $\varepsilon >0$,存在 $N_\varepsilon>0$ 和正整数序列 $\{n_j\}_{j=1}^{\infty}$ 使得

在文献^[8] 中,拟弱几乎周期点被称为遍历点. 用 $W(f)$ 和 $QW(f)$ 分别表示 $f$ 的弱几乎周期点集和拟弱几乎周期点集. 显然, $A(f)\subset W(f)\subset QW(f)$. 文献^[6] 中有例子说明 $A(f)\subsetneqq W(f)$ 和 $W(f)\subsetneqq QW(f)$是可能的.

设 $(X,f)$ 是一个紧致系统,点 $x\in X$ 叫做 $f$ 的等度连 续点如果对任意的 $\varepsilon >0$,存在 $\delta> 0$ 使得 对任意的 $y \in X$满足 $d(x,y)<\delta$以及对任意的 $n \in {\Bbb Z}_+$,有 $d(f^n(x),f^n(y)) <\varepsilon$. $(X,f)$ 称为几乎等度连续的如果 $f$ 是拓扑传递的且在 $X$ 中至少存在 一个等度连续点.

根据文献^[9],$f$ 称为初值敏感依赖的,如果存在 $\delta > 0$ 使得对任意的 $x \in X$ 以及 $x$ 的任意开邻域 $V_x$, 存在 $n \in {\Bbb Z}_+$ 使得 $\sup\{d(f^n(x),f^n(y)):y \in V_x\} > \delta$. 在文献 ^[8]中,作者用如下新方式来刻画几种敏感性质:

对于 $V \subset X$ 和 $\delta > 0$,令 $$S_f(V,\delta) = \{n \in {\Bbb Z}_+: \mbox{存在}\ x,y \in V \mbox{使得} \ d(f^n(x),f^n(y)) >\delta\}.$$

(1)~ $f$ 是初值敏感依赖的如果存在 $\delta > 0$ 使得对任意的非空开集 $V \subset X$,$S_f(V,\delta)$ 非空.

(2)~ $f$ 是遍历敏感的如果存在 $\delta > 0$ 使得对任意的非空开集 $V \subset X$,$S_f(V,\delta)$ 具有正上密度.

$f$ 在 Takens-Ruelle 意义下是混沌的如果 $f$ 是拓扑传递的和初值敏感依赖的 (见文献^[10]).

我们称 $f$ 在 Li-Yorke 意义下是混沌的如果存在 $X$ 的一个不可数子集 $S$ 使得 $$\liminf_{n\rightarrow\infty} d(f^n(x),f^n(y))=0$$ 和 $$\limsup_{n\rightarrow\infty} d(f^n(x),f^n(y))>0$$ 对任意的 $x,y\in S,x\neq y$成立 (见文献^[11]).

设 $(X,f)$ 和 $(Y,g)$ 是两个紧致系统,我们说 $f$ 和 $g$ 是拓扑共轭的如果存在一个同胚映射 $h:X\rightarrow Y$ 使得 $h\circ f=g\circ h$.

拓扑熵的定义如常,详见文献^[4]. 我们用 ${\rm ent}(f)$ 来表示 $f$ 的拓扑熵. 关于拓扑熵,有下列经典结论.

定理 2.1    ^[4] 设 $(X,f)$ 和 $(Y,g)$ 是两个紧致系统. 如果 $f$ 和 $g$ 是拓扑共轭的,则${\rm ent}(f)={\rm ent}(g)$.

设 ${\cal B}(X)$ 是由 $X$ 中开集生成的 Borel $\sigma$ -代数,$M(X)$ 是 $(X,{\cal B}(X))$ 上的 Borel 概率测度集. 定义映射$\widetilde{f}: M(X)\rightarrow M(X)$,对任意的 $A \in {\cal B}(X)$, $\widetilde{f}(\mu)(A)=\mu(f^{-1}(A))$. 用 $M(X,f)=\{ \mu\in M(X): \widetilde{f}(\mu)=\mu\}$ 表示 $f$ 的不变测度集. 众所周知,$M(X)$ 在 $\omega^*$ 拓扑下是一个紧致度量空间,$M(X,f)$ 是 $M(X)$ 的非空闭子集. 详见文献^[4].

对于 $m\in M(X)$,将集合 $\{x\in X: \mbox{对}\ x \mbox{的任意的邻域}\ U ,\mbox{有}\ m(U) > 0\}$ 称为 $m$ 的支撑,用 ${\rm supp}(m)$ 表示. $(X,f)$ 称为一个 $E$ -系统,如果 $f$ 是拓扑传递的且存在 $m\in M(X,f)$ 使得 ${\rm supp}(m)=X$ (见文献 ^[12]).

$X$ 的一个不变闭子集 $M$ 叫做 $f$ 的测度中心,如果对任意的 $\mu \in M(X,f)$,有$\mu(M) = 1$ 且 $M$ 没有真子集满足上述性质. 记 $f$ 的测度中心为 $M(f)$. 注意到 $M(f)$ 是 $X$ 的 一个非空不变闭子集,那么从遍历理论而言,$f|_{M(f)}$ 是系统$(X,f)$的最重要的子系统.

关于 (拟) 弱几乎周期点集与 $f$ 的测度中心的关系,文献^[7] 证明了如下结果

在给出主要结果之前,先列出几个命题和引理.

命题 3.1     设 $(X,f)$ 和 $(Y,g)$ 是两个紧致系统, 假设 $f$ 是熵极小的且 $f$,$g$ 是拓扑共轭的,则 $g$ 是熵极小的.

证    设 $h: X\rightarrow Y$ 是从 $f$ 到 $g$ 的拓扑共轭映射. 假设 $Y_1$ 是 $Y$ 的满足 ${\rm ent}(g|_{Y_1})={\rm ent}(g)$ 的非空不变闭子集,则 $h^{-1}(Y_1)\subset X$ 是闭集且 $f(h^{-1}(Y_1))\subset h^{-1}(Y_1)$. 此外,$f|_{h^{-1}(Y_1)}: h^{-1}(Y_1)\rightarrow h^{-1}(Y_1)$ 和 $g|_{Y_1}: Y_1\rightarrow Y_1$ 是拓扑共轭的,其中 $f|_{h^{-1}(Y_1)}$ 和 $g|_{Y_1}$ 分别表示 $f$ 和 $g$ 在 $h^{-1}(Y_1)$ 和 $Y_1$ 上的限制. 因此 $${\rm ent}(g)={\rm ent}(g|_{Y_1})={\rm ent}(f|_{h^{-1}(Y_1)})={\rm ent}(f).$$ 因为 $f$ 是熵极小的,所以 $h^{-1}(Y_1)=X$. 因此 $Y_1=h(h^{-1}(Y_1))=h(X)=Y$,这蕴涵 $g$ 是熵极小的.

引理 3.1    ^[13] 设 $(X,f)$ 是一个紧致系统,则 ${\rm ent}(f|_{M(f)})={\rm ent}(f)$.

推论 3.1     设 $(X,f)$ 是一个紧致系统,如果 $f$ 是熵极小的,则 $M(f)=X$.

引理 3.2    ^[14] 设 $(X,f)$ 是一个紧致系统, 如果 $f$ 是拓扑传递的且 $M(f)=X$,则 $(X,f)$ 是一个 $E$ -系统. 因此 $f$ 是强遍历的.

定理 3.1     设 $(X,f)$ 是一个紧致系统,如果 $f$ 是熵极小的,则 $f$ 是强遍历的.

证     因为 $f$ 是熵极小的,由定理1.1知$f$ 是拓扑传递的. 由推论3.1和引理3.2直接得到本定理结论.

注记 3.1     因为一个强遍历映射是拓扑传递的, 所以定理3.1的结果改进了定理1.1的结果.

引理 3.3    ^[15] 设 $(X,f)$ 是一个紧致系统, 如果 $f$ 有正拓扑熵,则 $f$ 在 Li-Yorke 意义下是混沌的.

引理 3.4     设 $(X,f)$ 是一个紧致系统,如果 $f$ 是熵极小的且 ${\rm ent}(f)=0$,则$f$ 是极小的.

证     设 $f$ 是熵极小的且 ${\rm ent}(f)=0$,则对任 意的 $X$ 的非空不变闭子集 $X_1$,有 ${\rm ent}(f|_{X_1})={\rm ent}(f)$. 根据熵极小的定义,有 $X_1=X$. 因此 $f$ 是极小的.

推论 3.2     设 $(X,f)$ 是一个紧致系统,如果 $f$ 是熵极小的且 ${\rm ent}(f)=0$,则$X$中至多存在 $f$ 的一条周期轨.

推论 3.3    设 $(X,f)$ 是一个紧致系统, 如果 $f$ 是熵极小的且 $QW(f)-W(f)\neq\emptyset$ 或 $W(f)-A(f)\neq\emptyset$,则 $f$ 有正拓扑熵. 因此$f$ 在 Li-Yorke 意义下是混沌的.

证     如果 $QW(f)-W(f)\neq\emptyset$ 或 $W(f)-A(f)\neq\emptyset$,则 $f$ 不是极小的. 根据引理3.4 可得 ${\rm ent}(f)>0$. 由引理3.3知,$f$ 在 Li-Yorke 意义下是混沌的.

为了证明下面的结果,先引进下面的引理3.5.

引理 3.5    ^[12] 设紧致系统 $(X,f)$ 是强遍历且几乎等度连续的,则 $(X,f)$ 是极小且等度连续的.

定理 3.2     设 $(X,f)$ 是一个紧致系统,如果 $f$ 是熵极小的且 $W(f)-A(f)\neq\emptyset$ 或 $QW(f)-W(f)\neq\emptyset$, 则 $f$ 在 Takens-Ruelle 意义下是混沌的.

证     设 $f$ 是熵极小的且 $W(f)-A(f)\neq\emptyset$ 或 $QW(f)-W(f)\neq\emptyset$,由定理1.1知 $f$ 是拓扑传递的. 注意到 $W(f)-A(f)\neq\emptyset$ 和 $QW(f)-W(f)\neq\emptyset$ 都蕴涵 $f$ 不是极小的. 由定理3.1可以看出 $f$ 是强遍历的. 因此由引理3.5 知 $f$ 不是几乎等度连续的,这蕴涵了 $f$ 是初值敏感依赖的. 注意到 $f$ 是拓扑传递的,因此 $f$ 在 Takens-Ruelle 意义下是混沌的.

引理 3.6    ^[8] 设 $f$ 是初值敏感依赖的, 且 $f\times f$ 的遍历点集在 $X\times X$ 中稠密,则对任意的 $n > 0$, $f^n$ 是遍历敏感的.

引理 3.7    设 $(X,f)$ 和 $(Y,g)$ 是两个紧致系统. 则 $M(f)\times M(g)=M(f\times g)$. 特别地, $M(f)\times M(f)=M(f\times f)$.

证     设 $(x,y)\in M(f)\times M(g)$,则 $(x,y)\in X \times Y$ 并且对 $(x,y)$ 的任何邻域 $U$,存在 $x$ 在 $X$ 中的邻域 $U_1$ 和 $y$ 在 $Y$ 中的邻域 $U_2$ 使得 $U_1\times U_2 \subset U$. 因为 $x\in M(f)$,$y\in M(g)$,则$x$ 和 $y$ 分别是 $f$ 和 $g$ 的支撑点. 因此存在 $\mu_1\in M(X,f)$ 和 $\mu_2\in M(Y,g)$ 使得 $\mu_1(U_1)>0$,$\mu_2(U_2)>0$.

令 $m(U_1\times U_2)=\mu_1(U_1)\times\mu_2(U_2)$,把$m$ 延拓到由 $X\times Y$的开子集所生成的$\sigma$ -代数上(依然用$m$表示$m$的延拓). 则$m\in M(X\times Y)$ $$m(U)\geq m(U_1\times U_2)=\mu_1(U_1) \times\mu_2(U_2)>0.$$ 于是 $(x,y)$ 是 $f\times g$ 的一个支撑点, 故 $(x,y)\in M(f\times g)$.

反过来,根据 $\overline{W(f)}=M(f)$,$\overline{W(g)}=M(g)$ 和 $\overline{W(f\times g)}=M(f\times g)$,只需证明 $W(f\times g) \subset W(f)\times W(g)$.

设 $(x,y)\in W(f\times g)$,对任意 $\varepsilon_1>0$ 和 $\varepsilon_2>0$,令 $\varepsilon=\min\{\varepsilon_1, \varepsilon_2\}$,则 $V((x,y),\varepsilon)$ 是 $(x,y)$ 的一个邻域并且 $V((x,y),\varepsilon) \subset V(x,\varepsilon_1) \times V(y,\varepsilon_2)$. 因为 $(x,y)\in W(f\times g)$, 根据弱几乎周期点的定义可知,存在 $N>0$, 使得对任意的 $n\geq 0$,有 $$\begin{eqnarray*} &&\sharp (\{i|(f\times g)^i((x,y))\in V_1\times V_2,0\leq i< nN\})\\ &=&\sharp(\{i|f^i(x) \in V_1, \ g^i(y) \in V_2,0\leq i< nN\})>n.\end{eqnarray*}$$ 于是可得 $$\sharp(\{i|f^i(x) \in V_1,0\leq i< nN\})>n$$ 且 $$\sharp(\{i|g^i(y) \in V_2,0\leq i< nN\})>n,$$ 其中 $V_1=V(x,\varepsilon_1)$ 且 $V_2=V(y,\varepsilon_2)$. 故 $x\in W(f)$ 且 $y\in W(g)$. 这说明 $$W(f\times g) \subset W(f)\times W(g).$$ 于是 $$M(f\times g)=\overline{W(f\times g)}\subset \overline{W(f)\times W(g)}=\overline{W(f)}\times \overline{W(g)}=M(f)\times M(g).$$ 证毕.

定理 3.3     设 $(X,f)$ 是一个紧致系统,如果 $f$ 是熵极小的且 $W(f)-A(f)\neq\emptyset$ 或 $QW(f)-W(f)\neq\emptyset$, 则对任意的 $n > 0$,$f^n$ 是遍历敏感的.

证     根据推论3.1,定理3.2,引理3.6 和引理3.7 直接得到本定理结论.

接下来,考虑熵极小系统和混沌极小系统的关系. 首先给出如下的命题.

命题 3.2     设 $(X,f)$ 和 $(Y,g)$ 是两个紧致系统. 如果 $f$ 是混沌极小的且 $f$,$g$ 是拓扑共轭的,则 $g$ 是混沌极小的.

证     设 $h: X\rightarrow Y$ 是从 $f$ 到 $g$ 的拓 扑共轭映射. 如果 $Y_1$ 是 $Y$ 的满足 $g|_{Y_1}$ 在 Li-Yorke意义 下是混沌的非空不变闭子集,则 $h^{-1}(Y_1)\subset X$,且 $$f|_{(h^{-1}(Y_1))}: h^{-1}(Y_1)\rightarrow h^{-1}(Y_1)$$ 在 Li-Yorke意义下也是混沌的. 因为 $f$ 是混沌极小的,所以 $h^{-1}(Y_1)=X$. 因此 $Y_1=h(h^{-1}(Y_1))=h(X)=Y$. 于是 $g$ 是混沌极小的.

下列结论在文献^[2]中提到过,为了本文的完整性,我们给出它的完整证明过程.

定理 3.4     设 $(X,f)$ 是一个紧致系统,如果 $f$ 是混沌极小的且 ${\rm ent}(f)>0$,则 $f$ 是熵极小的.

证     设 $f$ 是混沌极小的且 ${\rm ent}(f)>0$. 显然,对于 $X$ 的任意非空真不变闭子集 $Y$,$f|_Y$ 在 Li-Yorke意义下不是混沌的, 这说明 ${\rm ent}(f|_Y)=0$. 因此 $f$ 是熵极小的.

例 3.1     假设 $x\in \Sigma_2$ 同文献 ^[2] 中例4.7 构造的点. 为了方便,我们如下重述如下$x$的构造.

设 $P_0=(1)$,$Q_0=(00)$,$P_{i+1}=P_iP_iQ_i,i\geq0$,其中 $Q_i=(0,\cdots,0)$. $Q_i$ 的长度是 $|Q_i|=2|P_i|$. 因此 $$|P_i|=4^i,|Q_i|=2\times4^i.$$ 令 $x=\lim\limits_{i\rightarrow\infty}P_0P_0Q_0P_1Q_1P_2Q_2\cdots$, $M=\omega(x,\sigma)$,其中 $\sigma: \Sigma_2\rightarrow\Sigma_2$ 是 $\Sigma_2$ 上的转移自映射. 文献^[2]证明了 $\sigma|_M$ 是混沌极小的并且有零拓扑熵. 然而,由于在 $M$ 中存在 $\sigma|_M$ 的不动点 $(0,0,\cdots)$,因此 $\sigma|_M$ 不是熵极小的.

例 3.2     设 $S=\{(x,y)| (x,y)\in {\Bbb R}^2,x^2+y^2=1 \}$ 是单位圆周,且旋转映射 $f: S\rightarrow S$ 定义为 $f(x)=e^{2\pi i(\theta+\alpha)}$,对任意的 $x=e^{2\pi\theta i}$,其中 $\alpha$ 是一个固定的无理数. 我们知道 $f$ 是极小的并且有零拓扑熵 (因为旋转映射是等距的). 因此 $f$ 是熵极小的. 然而,由于对任意的 $w,z \in S$,$w\neq z$,有 $$\liminf_{n\rightarrow\infty}d(f^n(w),f^n(z))=d(w,z)>0.$$ 于是 $f$ 在 Li-Yorke意义下不是混沌的,这说明 $f$ 不是混沌极小的.

注记 3.2     例3.1 说明一个混沌极小系统可以不 是熵极小的,例3.2 说明一个熵极小系统也可以不是混沌极小的. 因此熵极小系统和混沌极小系统之间没有必然的蕴涵关系.