非光滑牛顿算法的收敛性
The Convergence of Nonsmooth Newton's Method
通讯作者:
收稿日期: 2021-10-14
基金资助: |
|
Received: 2021-10-14
Fund supported: |
|
This paper studies the convergence of nonsmooth Newton's method for generalized inclusions. By applying metric regularity, a local convergence result of nonsmooth Newton's method is proved. The compactness in a known result is weakened through the measure of non-compactness. A convergence result in global version is established in which the conditions are assumed at the initial point while not the solution of the generalized inclusions.
Keywords:
本文引用格式
许文丁, 钟婷.
Xu Wending, Zhong Ting.
1 引言
众所周知, 最优化理论中有不少问题可转化为如下包含问题
其中
即等价于包含问题
其中
牛顿算法是求解包含问题(1.1) 的重要算法, 在过去几十年受到学者们的广泛研究.
设
则称
由度量正则模的定义可知,
对于求解问题(1.1) 的牛顿算法, 当
的局部(超线性)收敛性. 此结论对映射
为了将上述收敛性结论中的强度量正则性这一条件削弱, 文献[6] 通过假设和映射
在问题(1.1) 解点
一个自然的问题即为: 如何将上述结论推广至
在问题(1.1) 解点
的局部收敛性. 相关结论还可参见文献[15].
的局部(超线性) 收敛性.
另一方面, 在局部收敛性的结果中, 算法的初始点需落入包含问题的解点的某邻域内, 换句话说, 初始点需充分靠近包含问题的解点. 因此, 当问题的解点位置不明确甚至解的存在性尚且未知时, 所得结论的假设条件便不易验证. 而如果假设条件均关于算法的初始点, 则在理论上可有效的避免这一方面的缺陷. 本文第3节将证明牛顿算法的一个全局情形的收敛性结果, 结论中的假设条件均施加于算法的初始点, 而非包含问题的解点.
本文中, 符号
引理1.1
(i)
(ii)
(iii)
注1.1 引理1.1的结论中邻域半径
2 非光滑牛顿算法的局部收敛性
本节介绍算法(1.7) 的局部收敛性结果. 为了削弱文献[1, 定理4.3] 中的紧性条件, 将用到如下关于集合的非紧性测度的概念.
定义2.1[27] 对于度量空间
由集合紧性的定义可知, 若集合
下面介绍本节的主要结论.
定理2.1 设
(i)
(ii)
(iii) 对每一
在点
(iv)
则存在
产生的序列
证 由条件(iv), 可取常数
由非紧性测度的定义可知, 存在
由条件(iii), 对任意
则对任意
由
结合(2.5), (2.8) 两式可得
取
由条件(2.1) 可知存在
任取
若
若
则存在
设
于是也只需取
下面假设
于是存在
由
则
即映射
由
即得
于是, 存在
即
即
现证明, 若
类似地, 若
若
取
则存在
设
由
则
即
于是, 存在
即
即
由归纳法原理可知序列
即
注2.1 在定理2.1中, 若
3 非光滑牛顿算法的一个全局情形的收敛性结果
本节介绍本文关于非光滑牛顿算法的一个全局情形的收敛性结果, 该结果的假设条件均施加于算法的初始点, 而非所求解的包含问题的解点.
定理3.1 设
假设对任意
在集合
若以下条件成立
(i)
(ii) 存在
(iii)
则存在由
产生的序列
证 首先证明存在以
(a)
(b)
(c)
若
下面假设
故存在
由定理条件可知映射
则
注意到(由(3.1) 式)
于是存在
这蕴含(a) 当
即(b) 当
类似地, 若
假设
故存在
同样, 由定理条件可知映射
并构造函数
则
通过
于是, 由(3.8) 式以及条件(ii), 有
结合
结合(3.7) 式即得到
故存在
即知(c) 当
即(a) 当
即(b) 当
现假设存在
设
故由条件(i) 可知
故存在
同样, 由定理条件可知映射
并构造函数
则
由
由假设(当
于是, 由条件(ii) 得
又由假设\ (当
故
故存在
即知(c) 当
即(a) 当
即(b) 当
由(a)易知
令
最后证明
故
由
定理3.1的条件中假设了映射族
命题3.1 设
则存在
即
证 由条件(3.20), 可取
任取
取
现任给
4 结论
本文通过利用集值映射的度量正则性, 证明了非光滑牛顿算法的两个收敛性结果. 所得到的局部收敛性结果通过利用集合族的非紧性测度, 削弱了文献[1, 定理4.3] 的紧性条件. 同时, 通过将所有假设条件均施加于算法的初始点, 得到了非光滑牛顿算法的一个全局情形的收敛性结果.
参考文献
Newton's method for solving inclusions using set-valued approximations
,DOI:10.1137/130926730 [本文引用: 10]
Newton's method for solving generalized equations: Kantorovich's and Smale's approaches
,DOI:10.1016/j.jmaa.2016.02.047
Stability of metric regularity with set-valued perturbations and application to Newton's method for solving generalized equations
,
Newton's method for generalized equations: A sequential implicit function theorem
,
Stability of Mann's iterates under metric regularity
,
Metric regularity of Newton's iteration
,DOI:10.1137/100792585 [本文引用: 2]
Metrically regular mappings and its application to convergence analysis of a confined Newton-type method for nonsmooth generalized equations
,DOI:10.1007/s11425-019-9757-0 [本文引用: 1]
Convergence of the proximal point method for metrically regular mappings
,
A Lyusternik-Graves theorem for the proximal point method
,
Uniformity and inexact version of a proximal method for metrically regular mappings
,DOI:10.1016/j.jmaa.2007.01.050 [本文引用: 1]
Metric regularity and subdifferential calculus
,DOI:10.4213/rm292
Metric regularity - a survey, Part 1 Theory
,
Metric regularity - a survey, Part 2 Applications
,DOI:10.1017/S1446788715000695 [本文引用: 1]
Kantorovich-type theorems forgeneralized equations
,
Local analysis of a Newton-type method based on partial linearization
,
A general iterative procedure for solving nonsmooth generalized equations
,DOI:10.1007/s10589-005-1104-5 [本文引用: 1]
Inexact Newton methods and Dennis-Mor'e theorems for nonsmooth generalized equations
,DOI:10.1137/140969476 [本文引用: 1]
Convergence of inexact Newton methods for generalized equations
,
On semiregularity of mappings
,DOI:10.1016/j.jmaa.2018.12.071 [本文引用: 1]
The radius of metric regularity
,
The Graves theorem revisited
,
A proof of the Lyusternik-Graves theorem
,DOI:10.1080/02331934.2014.926359
Lyusternik-Graves theorem and fixed points
,
Perturbations and metric regularity
,
Stability of p-order metric regularity
,DOI:10.1007/s10013-018-0281-3 [本文引用: 1]
Inverse and implicit function theorems for nonsmooth maps in Banach spaces
,DOI:10.1006/jmaa.1997.5358 [本文引用: 1]
/
〈 | 〉 |