神经网络是近几年的一个热门话题, 它已被广泛应用到科学和工程的各个领域, 如信号处理、模型识别、关联存储器、电路设计和并行计算[1-5].众所周知, 由于放大器的有限切换速度, 时间延迟不可避免地出现在神经网络中, 并且可能导致系统振荡和不稳定性.因此, 时间延迟神经网络的稳定性分析问题是神经网络领域中的重点.最近, 许多研究结果已经提出了稳定性问题的处理, 并且带有时间延迟的神经网络的性能已经得到改进[6-12, 14-15].
时滞分割作为将延迟区间划分为许多子区间的延迟分解方法可以获得较低保守性的稳定性条件.前面的方法是Lyapunov-Krasovskii函数在整个区间的导数, 其使用时滞分割法将范围向下到每个子区间.在2001年, 文献[9]提出了第一个有效延迟划分的理念, 它让我们知道可以降低稳定性标准的保守性方法.当分区越来越细时, 矩阵公式和计算负担变得越来越复杂, 但它可以显示最大延迟边界的改善.
最近, 用于神经网络稳定性分析的时滞分割法已经得到了大量的研究结果, 其以线性矩阵不等式的形式求导而得并且通过基于优化的技术可以容易地求解.在文献[13, 17, 19-20]中, 提出了广义的时滞分割方法, 它只是划分了时间延迟区间的一部分并且分解成l个等效段, 并且使用一些常规方式来处理Lyapunov-Krasovski函数, 诸如在每个延迟子区间中利用不同的自由加权矩阵.文献[25]中提出了一种用于中性型神经网络的延迟相关稳定性分析的延迟分割方法, 这使得时间延迟区间[0, r]被分解为l个等效段, 但时间延迟不是变量.与其他发展相比, 文献[18]中提出的方法表现出显著的优势, 它首先假设在某个特定子区间的时间延迟, 然后延伸到任意子区间.然而, 文献[18]中提出的Lyapunov-Krasovskii函数仅包括一些简单的积分和双重积分项, 并不包含三重积分项.增加一些三重积分的Lyapunov-Krasovskii函数对于降低保守性是非常有用的.使用延迟分解方法和互逆凸技术, 对于伴有时变延迟的神经网络, 一些改进的稳定性标准在文献[23-24]中已经得到了发展.当分区变得更精细时, 保守性显著降低.为了进一步加强研究结果, 本文采用新不等时滞分割法, 并通过引入变量$\rho_{k}(t)$ ($\rho_{k}(t)=\frac{\tau(t)-\tau^{-}}{r \times 2^{r+1-k}}$) 以确定$\tau(t)$作为子区间的时间延迟.
参考上面提到的讨论, 第一次尝试研究新不等时滞分割法以处理具有离散和分布式延迟的神经网络稳定性分析的问题.在本文中, 通过构造一个新的Lyapunov-Krasovskii函数, 其中一些项包含三重积分, 比如
这在改进低保守性的结果中起到重要作用.此外, 新不等时滞分割法还用来分析神经网络全局渐近稳定性的问题.首先, 通过使用新不等时滞分割法, 将时间延迟间隔$[\tau^{-}, \tau^{+}]$分为$r$段, 然后我们将每个子区间$[\tau^{-}+(k-1)\delta, \tau^{-}+k\delta]$划分为$2^{r+1-k}$段.其次, 与文献[25]相比, 没有解释子区间中的时变延迟$\tau(t)$.为了得到准确的结果, 本文通过引入时间变量$\rho_{k}(t)$来细分时间延迟区间$[\tau^{-}, \tau^{+}]$.在不等时滞分割法中, 每个子区间中存在不同的$\rho_{k}(t)$.这是本文的亮点, 在之前的文献中从来没有提出过.第三, 延迟区间$[\tau^{-}, \tau^{+}]$被分解为$2^{r+3}-2$个子区间, 每个子区间不相等, 在每个子区间中应用牛顿莱布尼兹公式, 并且选择不同的无权矩阵, 这将导致较低保守性的结果.与文献[18, 23-25]相比, 新不等时滞分割法是本文的亮点.此外, 与以前的结果相比, 为了降低保守性的目的, 一个新积分不等式被应用在互逆凸不等式中.通过使用线性矩阵不等式来评估低保守性的稳定性标准.最后, 给出了一些示例以显示所提方法的有效性.注:该文中, $\mathbb{R} ^n$表示$n$维欧几里德空间, $\mathbb{R} ^{n \times n}$是所有$n \times n$实矩阵的集合.对于对称矩阵$X$, 符号$X> 0$ ($X\ge 0$) 意味着是实对称正定矩阵 (正半定), 对于对称矩阵$X$和$Y$, 符号$X> Y$ ($X\ge Y$) 意味着矩阵$X-Y$是正定的 (非负的).矩阵$A^T$是矩阵$A$的转置, 符号$*$被用作包含对称的项的省略, $I$表示具有适当维度的单位矩阵, $O_{m \times n}$表示具有$m \times n$维的零矩阵. $col[x_{1}, x_{2}, \cdots, x_{n}]$表示$[x_{1}^{T}, x_{2}^{T}, \cdots, x_{n}^{T}]^{T}$.如果没有明确说明, 则假设矩阵具有兼容的维度.
对于一个离散分布式延迟神经网络模型
其中$x(t)=[x_1(t), \cdots, x_{n}(t)]^T\in \Re^n$是神经元状态向量; $f(x(\cdot))=[f_{1}(x_1(\cdot)), \cdots, f_{n}(x_n(\cdot))]^T \in \Re^n$是神经元激活函数向量; $A=diag(a_{1}, \cdots, a_{n})$且$a_{i}>0, i=1, 2, \cdots, n$. $B\in \mathbb{R}^{n\times n}$是互连权重矩阵, $C, D\in \mathbb{R}^{n\times n}$是延迟互连权重矩阵.在全文中, 我们有以下假设:
假设2.1 在 (2.1) 式中的时间延迟$\tau(t)$, $d(t)$是连续时变函数并满足
对于任意整数$r\geq 1$, $k\geq 1$, $i\geq 1$, $i=1, 2, \cdots, 2^{r+1-k}$, $k=1, 2, \cdots, r$, 令$\delta=\frac{\tau^{+}-\tau^{-}}{r}$, $\rho_{k}(t)=\frac{\tau(t)-\tau^{-}}{r \times 2^{r+1-k}}$, 区间$[\tau^{-}, \tau^{+}]$可分解为$r$段.然后将每个子区间$[\tau^{-}+(k-1)\delta, \tau^{-}+k\delta]$分解为$2^{r+1-k}$段.对于每个子区间$[\tau^{-}+(k-1)\delta+\frac{i-1}{2^{r+1-k}}\delta, \tau^{-}+(k-1)\delta+\frac{i}{2^{r+1-k}}\delta]$=$[\tau^{-}+(k-1)\delta+\frac{i-1}{2^{r+1-k}}\delta, \tau^{-}+(k-1)\delta+\frac{i-1}{2^{r+1-k}}\delta+\rho_{k}(t)]\bigcup[\tau^{-}+(k-1)\delta+\frac{i-1}{2^{r+1-k}}\delta+\rho_{k}(t), \tau^{-}+(k-1)\delta+\frac{i}{2^{r+1-k}}\delta]$.另一方面, 对任意$t\geq 0$, 存在整数$i=1, 2, \cdots, 2^{r+1-k}$, $k=1, 2, \cdots, r$, 使$\tau(t)\in[\tau^{-}+(k-1)\delta+\frac{i-1}{2^{r+1-k}}\delta, \tau^{-}+(k-1)\delta+\frac{i}{2^{r+1-k}}\delta]$.
假设2.2 系统 (2.2) 中的任意激活函数$f_{i}(\cdot)$是连续有界的, 并满足以下不等式
其中$a$, $b \in{\mathbb{R}}$, $a\neq b$, $\sigma_{i}^-$, $\sigma_{i}^+$是已知常量.
注2.2 $\sigma_{i}^-$, $\sigma_{i}^+(i=1, 2, \cdots, n)$是一些常量, 在假设2.2中可以是正的, 负的和零.因此, 这种类型的激活函数比通常的激活函数和分段线性函数$f_{i}(u)=\frac{1}{2}(|u_{i+1}|-|u_{i}|)$显然更加普遍, 这个分段线性函数有利于获得低保守性结果.
在得出主要结论之前, 我们将引用之后要使用的几个引理:
引理2.1[21]对于任意常矩阵$V$, $W\in{\mathbb{R}^{n\times n}}$和$M>0$, 标量$b>a$, 矢量函数$V:[a, b]\rightarrow{\mathbb{R} ^m}$, 特别是以下集合有明确的定义,
引理2.2[22] 令$f_{1}$, $f_{2}, \cdots, f_{n}: \mathbb{R}^{m}\rightarrow \mathbb{R} $在$\mathbb{R}^{m}$公开的子集合D中有正值.那么, 在D之上$f_{{i}}$的互逆凸组合满足
服从
在此部分, 我们将通过LMI方法来得到主要结论, 为了方便陈述, 在下文中, 我们定义
我们所提的主要结论如下:
定理3.1 根据假设2.1, 2.2, 神经网络 (2.1) 是全局渐近稳定的, 当存在矩阵$V_{ij_{i}}>0$, $U_{ij_{i}}>0$, $W_{ij_{i}}>0$, $Q_{ij_{i}}>0$, $M_{ij_{i}}>0$, $F_{ij_{i}}>0$, $Q_{i}^{\ast}$, $R_{i}>0$, $\Lambda_{ij_{i}, p}$, $i=1, 2, \cdots, r$, $j_{i}=1, 2, \cdots, 2^i$, $p=1, 2, \cdots, 2^{r+3}-2$, $M>0$, 和正定对角矩阵$K_1, K_2, T, T_1, T_2$使下面的LMIs持有
其中
证 针对以下候选Lyapunov-Krasovskii函数
现在, 沿着 (2.1) 式的解决方法对$V(x_{t})$进行时间求导, 可以得到
我们令
因此我们可以得到
根据 (3.6), (3.8) 式和引理2.2, 如果$\left[\begin{array}{cc} Q_{ij_i} ~& Q_{i}^{\ast} \\ \ast~ & Q_{ij_i} \end{array} \right]>0 $, 有
从 (3.5), (3.6), (3.8) 和 (3.9) 式, 我们可以得到
根据假设2.2, $[f_{i}(x_{i}(t))-\sigma_{i}^{+}x_{i}(t)][\sigma_{i}^{-}x_{i}(t)-f_{i}(x_{i}(t))]\geq0$, $i=1, 2, \cdots, n$, 我们很容易得到:对任意对角矩阵$T_{1}=diag(t_{11}, \cdots, t_{1n})\geq0$, $T_{2}=diag(t_{21}, \cdots, t_{2n})\geq0$, 有
通过使用牛顿莱布尼兹公式和任意矩阵$\Lambda_{ij_{i}}$, $j_{i}=1, 2, \cdots, 2^i$, $i=1, 2, \cdots r$, 有
我们可以得到
由 (3.3) 到 (3.15) 式可以得到
应用萧氏转换等价于 (3.2) 式, 可得
至此证得神经网络 (2.1) 是全局渐近稳定的.
注3.1 本文使用新不等时滞分割法对神经网络全局渐近稳定性问题进行了分析, 时间延迟区间$[\tau^{-}, \tau^{+}]$可被分为$r$段, 我们将每个子区间$[\tau^{-}+(k-1)\delta, \tau^{-}+k\delta]$分为$2^{r+1-k}$段.分区方法不同于以前的方法, 在本文中首次被提出.
注3.2 在文献[25]中, 时滞区间$[\tau_{2}^{-}, \tau_{2}^{+}]$的子区间$[0, \tau_{2}^{-}]$被分解为n个相等的段, 没有移除子区间时变延迟$\tau_{2}(t)$, 为了得到准确的结果, 本文分割时滞区间$[\tau_{2}^{-}, \tau_{2}^{+}]$并引入时间变量$\rho_{k}(t)$ ($\rho_{k}(t)=\frac{\tau(t)-\tau^{-}}{r \times 2^{r+1-k}}$).由于引入了时间变量$\rho_{k}(t)$, 我们可以构建Lyapunov-Krasovskii $V_{4}$和$V_{5}$, 如此类形式
因为不等时滞分割法, 所引入的时间变量$\rho_{k}(t)$是不同的且在每个子区间中都是变化的.
注3.3 在本文中, 通过构造一个新的Lyapunov-Krasovskii函数, 其中一些项包含三重积分, 比如
这在改进低保守性的结果中起到重要作用.
注3.4 时滞分解的思想是受到文献[18]的启发, 但本文采用的是新不等时滞分割法, 这是一个特别的方法, 因为在每个子区间中拥有不同的变化趋势.在之前的方法中, 我们通常假设每个子区间拥有相同的状态, 但实际上状态会随着实间的改变而改变.为了获得普遍性的结论, 新不等时滞分割法在本文中被引入.
注3.5 延迟区间$[\tau^{-}, \tau^{+}]$被分解为$r$个子区间, 每个子区间的长度不相等, 在每个子区间中应用牛顿莱布尼兹公式, 并且选择不同的无权矩阵, 这将导致较低保守性的结果.
在此部分, 将给出两个数值实例来说明所提方法的有效性.
例1 对于系统 (2.1), 给出以下参数:
激活函数假设为$f_{i}(x_i)=0.5(|x_i+1|-|x_i-1|)$, $i=1, 2$.
对于不同的未知$\mu$的上界$ \tau^{+}$可通过本文中定理3.1得到, 将文献[6-8, 13, 16-20]的结果列在表 1中, 此例明显显示了对现有结果的改进.
注4.1 从表 1中可知, 相对于文献[6-8, 13, 16-20], 我们的结果有更低的保守性.进一步, 如果$r$值较大, 那么时间延迟的上界也将变大.因此, 通过使用新不等时滞分割法可得到更好的结果.
如果令$\tau^{+}=2.9184$, 初始状态$(-0.2, 0.2)^T$, 全局渐近稳定的结果可通过图 1被证实. 图 1显示了在所给参数的条件下, 系统 (2.1) 是全局渐近稳定的.
例2 对于系统 (2.1), 给出以下参数:
激活函数假设为$f_{i}(x_i)=a_{i}(|x_i+1|-|x_i-1|)$, $i=1, 2, 3, 4$.其中$a_1=0.05685$, $a_2=0.06395$, $a_3=0.3997$, $a_4=0.1184$对于不同的未知$\mu$的上界$\tau^{+}$可通过本文中定理3.1得到, 将文献[6-8, 13, 16-20]的结果列在表 2中, 通过表 2, 此例明显显示了对现有结果的改进.
如果令$\tau^{+}=3.9957$, 初始状态$(-0.4, 0.5, -0.5, 0.4)^T$, 全局渐近稳定的结果可通过图 2被证实. 图 2显示了在所给参数的条件下, 系统 (2.1) 是全局渐近稳定的.
在该文中, 新的不等时滞分割法被应用于分析具有离散和分布式延迟的神经网络系统的稳定性判据.关于通过构建新的Lyapunov-Krasovskii函数而提出的新的不等时滞分割法, 其中考虑了涉及三重积分的一些项.结合一些有效的数学技术和新的不等时滞分割法, 可以显著增强获得时间延迟最大上限的效率.最后, 提出了保守性更小的稳定性标准.并给出了数值仿真以证明所提技术与一些现有结果相比的有效性.