Processing math: 3%

数学物理学报, 2020, 40(1): 20-30 doi:

论文

复合凸优化问题的Fenchel-Lagrange强对偶之研究

方东辉, 田利萍,, 王仙云,

Strong Fenchel-Lagrange Duality for Convex Optimization Problems with Composite Function

Fang Donghui, Tian Liping,, Wang Xianyun,

通讯作者: 方东辉

收稿日期: 2018-08-30  

基金资助: 国家自然科学基金.  11861033
湖南省教育厅科研基金.  17A172

Received: 2018-08-30  

Fund supported: 国家自然科学基金.  11861033
湖南省教育厅科研基金.  17A172

作者简介 About authors

田利萍,E-mail:littleequation@163.com , E-mail:littleequation@163.com

王仙云,E-mail:495102048@qq.com , E-mail:495102048@qq.com

摘要

利用共轭函数的上图性质,引入新的约束规范条件,等价刻画了目标函数为凸函数与凸复合函数之和的复合优化问题及其Fenchel-Lagrange对偶问题之间的强对偶与稳定强对偶.

关键词: Fenchel-Lagrange强对偶 ; 约束规范条件 ; 复合凸优化问题

Abstract

In this paper, we consider a convex composite optimization problem which consists in minimizing the sum of a convex function and a convex composite function. By using the properties of the epigraph of the conjugate functions, some sufficient and necessary conditions for the strong and stable strong Fenchel-Lagrange dualities are provided.

Keywords: Fenchel-Lagrange duality ; Constraint qualification ; Convex composite optimization problem

PDF (316KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

方东辉, 田利萍, 王仙云. 复合凸优化问题的Fenchel-Lagrange强对偶之研究. 数学物理学报[J], 2020, 40(1): 20-30 doi:

Fang Donghui, Tian Liping, Wang Xianyun. Strong Fenchel-Lagrange Duality for Convex Optimization Problems with Composite Function. Acta Mathematica Scientia[J], 2020, 40(1): 20-30 doi:

1 引言

X, Y是实局部凸Hausdorff拓扑向量空间, XY分别表示XY的共轭空间,分别赋予弱拓扑w(X,X)w(Y,Y). KY中的闭凸锥且Y是由K所定义的序空间.设f:X¯R:=R{+}是真凸函数, g:Y¯R是真凸K -增函数, h:XY是真K -凸映射且满足h(domf)domg.近年来,复合凸优化问题

(Pf)inf
(1.1)

引起了学者们的广泛关注,许多优化和逼近问题都可以转化成问题(1.1)的形式(参看文献[1, 3-4, 7-10, 12-13, 15-18]及文中的参考文献).特别地,当 h 为线性算子时,问题(1.1)即为经典的无约束优化问题(参看文献[2, 5-6, 14, 17])

\begin{equation} ( {\cal P})\quad \inf\limits_{x\in X}\{f(x)+g(Ax)\}. \end{equation}
(1.2)

对于问题 (P_f) ,我们可以定义不同的对偶问题.通常,学者们主要研究经典的Fenchel对偶问题,通过引入新的正则条件,建立了问题 (P_f) 及其Fenchel对偶问题之间的强对偶.例如,文献[3]利用闭性条件刻画了 (P_f) 的Fenchel强对偶,文献[1]利用共轭函数的上图性质,引入新的正则条件,研究了 (P_f) \epsilon -对偶间隙性质.近来,凸优化问题的Fenchel-Lagrange型对偶受到了学者们的高度重视.然而,据我们所知,很少有学者研究复合优化问题 (P_f) 的Fenchel-Lagrange强对偶和Fenchel-Lagrange稳定强对偶.

受上述文献的启发,本文研究复合凸优化问题 (P_f) 及其Fenchel-Lagrange对偶问题

\begin{equation} (D_f)\quad\quad \sup\limits_{x^\ast\in X^\ast, y^\ast\in Y^\ast} \left\{-f^\ast(-x^\ast) -g^\ast(y^\ast)-(y^\ast h)^\ast(x^\ast) \right\} \end{equation}
(1.3)

之间的强对偶和稳定强对偶.设 v(P_f) v(D_f) 分别表示问题 (P_f) (D_f) 的最优值,则 v(P_f)\ge v(D_f) ,即 (P_f) (D_f) 之间的弱对偶成立.但是,这两个值不总是相等的.因此,寻找合适的约束规范条件,使得Fenchel-Lagrange强对偶(即 v(P_f) = v(D_f) 且对偶问题 (D_f) 有最优解)成立就成为了凸分析中的一个热点和难点问题.本文在一般假设下,即 f , g h 是真凸函数(不一定是下半连续函数),研究问题 (P_f) (D_f) 之间的Fenchel-Lagrange强对偶.通过引入新的约束规范条件 (FRC) (CC) 并建立 (FRC) (CC) 成立的充分和(或)必要条件,等价刻画了问题 (P_f) (D_f) 之间的强对偶和稳定强对偶.

2 记号与定义

X Y 是实局部凸Hausdorff拓扑向量空间, X^{\ast } X 的共轭空间并赋予弱 ^{\ast } 拓扑 w^{\ast }(X^{\ast }, X). \langle x^{\ast }, x\rangle 表示泛函 x^{\ast }\in X^{\ast } x\in X 处的值,即 \langle x^{\ast }, x\rangle = x^{\ast }(x) .对于空间 X^{\ast }\times {{{\Bbb R}} } ,我们赋予乘积拓扑 w^{\ast }(X^{\ast }, X) 和Euclidean拓扑.设 f:X\to \overline{{\Bbb R}} 是真函数,定义 f 的有效定义域,共轭函数和上图分别为

\mbox{dom}\, f: = \{x\in X:\; f(x)<+\infty\},

f^*(x^*): = \sup\{\langle x^*, x\rangle-f(x):\; x\in X\}\quad \forall x^*\in X^*

{\rm epi}\, f: = \{(x, r)\in X\times {{\Bbb R}}:\; f(x)\le r\}.

显然, {\rm epi}\, f^* 是弱 ^* 闭凸集.由定义可知, Young-Fenchel不等式成立

\begin{equation} f(x)+f^\ast(x^\ast)\ge \langle x, x^\ast \rangle, \; \; \forall\; (x, x^\ast)\in X\times X^\ast. \end{equation}
(2.1)

g, h:X\rightarrow \overline{{{\Bbb R}} } 为真函数且满足 {\rm dom}g\cap {\rm dom}h\neq\emptyset ,则

\begin{equation} {\rm epi}\, g^\ast+{\rm epi}\, h^\ast\subseteq{\rm epi}\, (g+h)^\ast, \end{equation}
(2.2)

\begin{equation} g\le h \Rightarrow g^\ast\ge h^\ast \Leftrightarrow {\rm epi}\, g^\ast\subseteq {\rm epi}\, h^\ast. \end{equation}
(2.3)

进一步,定义 g h 的下端卷积函数 g\square h:X\rightarrow {{\Bbb R}}\cup \{\pm \infty\}

(g\square h)(x): = \inf\limits_{z\in X}\{g(z)+h(x-z)\}.

若存在 z\in X 使得 (g\square h)(x) = g(z)+h(x-z) ,则称 g\square h x\in X 点是精确的.注意到,若 g\square h x 点是精确的,则 (g\square h)(x)>-\infty ;若 (g\square h)(x) = +\infty ,则 g\square h x 点是精确的.

定义2.1[6]  设 M_{1}, M_{2}, N_{1}, N_{2} 是非空集合.定义映射 F:M_{1}\rightarrow M_{2} G:N_{1}\rightarrow N_{2} 的乘积映射 F\times G:M_{1}\times N_{1}\rightarrow M_{2}\times N_{2}

(F\times G)(x, y): = (F(x), G(y)).

定义2.2[6]  设 A:X\rightarrow Y 是线性算子,函数 h:X\rightarrow \overline{{{\Bbb R}} } .

(Ah)(y): = \inf \{h(x):Ax = y\}

所定义的函数 Ah:Y\rightarrow { {{\Bbb R}} }\cup \{\pm \infty \} 称为 h A 之下的像.若 A^{-1}(y): = \{x\in X:Ax = y\} 为空集,则约定 (Ah)(y) = +\infty .

引理2.1[11, 17]  设 g, h:X\rightarrow \overline{{{{\Bbb R}} }} 是真凸函数且满足 {\rm dom}\, g\cap {\rm dom}\, h\neq \emptyset .

(ⅰ)若 g, h 是下半连续函数,则

\begin{equation} {\rm epi}\, (g+h)^{\ast } = {\rm cl}\, ({\rm epi}\, (g^{\ast }\square h^{\ast })) = {\rm cl}\, ({\rm epi}\, g^{\ast }+{\rm epi}\; h^{\ast }). \label{{lem2.1-1}} \end{equation}
(2.4)

(ⅱ)若 g h 在点 x_{0}\in {\rm dom}\, g\cap {\rm dom}\, h 处连续,则

\begin{equation} {\rm epi}\, (g+h)^{\ast } = {\rm epi}\, g^{\ast }+{\rm epi}\; h^{\ast }. \end{equation}
(2.5)

3 Fenchel-Lagrange强对偶

X, \, Y 是实局部凸Hausdorff拓扑向量空间, Y 是由闭凸锥 K\subseteq Y 所定义的序空间.定义 Y 上的序为:若 y-x\in -K, y\le_K x . Y^\bullet = Y\cup\{\infty_Y\} ,其中 \{\infty_Y\} 是关于偏序 \le_K 的最大元.在 Y^\bullet 上定义以下运算:对任意的 y\in Y , y+\infty = \infty+y = \infty , t\infty = \infty , \forall t\ge 0 .设函数 \varphi: Y\to \overline {{\Bbb R}} ,对任意的 x, y\in Y ,若当 y\le_K x 时有 \varphi(y)\le \varphi(x) ,则称 \varphi K -增函数.设函数 \psi: X \to Y^\bullet ,若对任意的 x, y\in {\rm dom}\psi: = \{x\in X:\psi(x)\in Y\} t\in [0, 1] ,

\psi(tx+(1-t)y)\le _K t\psi(x)+(1-t)\psi (y),

则称 \psi K -凸函数(参见文献[17]).设 f:X\rightarrow \overline{{\Bbb R}} 是真凸函数, h:X\to Y^\bullet 是真 K -凸映射, g :Y^\bullet\rightarrow \overline{{\Bbb R}} 是真凸 K -增函数.定义

(g\circ h)(x): = \left\{\begin{array}{ll} g(h(x)), \ &\mbox{若}\ x\in {\rm dom}\, h, \\ +\infty, \ &\mbox{其它}. \end{array}\right.

g\circ h 是真凸函数.为简便起见,对任意的 \mu\in Y^\ast ,记

\label{fex}(\mu h )(x): = \left\{\begin{array}{ll} \langle\mu, h (x)\rangle, \ &\mbox{若}\ x\in {\rm dom}\, h, \\ +\infty, \ &\mbox{其它}. \end{array}\right.

p\in X^\ast .考虑以下带线性扰动的复合凸优化问题

\begin{equation} (P_{f+p}) \quad \inf\limits_{x\in X}\{f(x)+g(h(x))- \langle p, x\rangle\} \end{equation}
(3.1)

及其Fenchel-Lagrange对偶问题

\begin{equation} (D_{f+p}) \quad \sup\limits_{x^\ast\in X^\ast, y^\ast\in Y^\ast} \left\{-f^\ast(p-x^\ast) -g^\ast(y^\ast)-(y^\ast h)^\ast(x^\ast) \right\}. \end{equation}
(3.2)

v(P_{f+p}) v(D_{f+p}) 分别表示问题 (P_{f+p}) (D_{f+p}) 的最优值,即

\begin{equation} v(P_{f+p}) = \inf\limits_{x\in X}\{f(x)+g(h(x))-\langle p, x\rangle \}, \end{equation}
(3.3)

\begin{equation} v(D_{f+p}) = \sup\limits_{x^\ast\in X^\ast, y^\ast\in Y^\ast} \left\{-f^\ast(p-x^\ast) -g^\ast(y^\ast)-(y^\ast h)^\ast(x^\ast) \right\}. \end{equation}
(3.4)

特别地,当 p = 0 时,问题 (P_{f+p}) (D_{f+p}) 即为问题 (P_f) (D_f) .注意到,对任意的 x^\ast\in X^\ast , y^\ast\in Y^\ast ,下列式子成立

\begin{eqnarray*} && -f^\ast(p-x^\ast) -g^\ast(y^\ast)-(y^\ast h)^\ast(x^\ast)\\ &\le& f(x)-\langle p-x^\ast, x\rangle+g(h(x))-\langle y^\ast, h(x)\rangle+\langle y^\ast, h(x)\rangle-\langle x^\ast, x\rangle\\ & = & f(x)+g(h(x))- \langle p, x\rangle, \quad \forall x\in X. \end{eqnarray*}

因此, (P_{f}) (D_{f}) 之间的稳定弱对偶成立,即

\begin{equation} v(D_{f+p}) \le v(P_{f+p}), \quad \forall p\in X^\ast. \end{equation}
(3.5)

本节主要研究问题 (P_f) 和对偶问题 (D_f) 之间的Fenchel-Lagrange强对偶,即 v(P_f) = v(D_f) 且问题 (D_f) 有最优解.为此,我们将利用到以下特征函数 \Phi_h^\ast: X^\ast \to \overline{{{\Bbb R}}} (参看文献[8])

\begin{equation} \Phi_h^\ast(x^\ast) : = \inf\limits_{y^\ast\in Y^\ast} \left( y^\ast h-g^\ast(y^\ast) \right)^\ast(x^\ast), \quad \forall x^\ast\in X^\ast. \end{equation}
(3.6)

由文献[17,定理2.3.1]可知,对任意的 x^\ast\in X^\ast ,有

\Phi_h^\ast(x^\ast) = \inf\limits_{y^\ast\in Y^\ast} \left\{ (y^\ast h)^\ast(x^\ast)+g^\ast(y^\ast) \right\}.

据文献[8,命题3.1]知, \Phi_h^\ast X^\ast 上是凸函数且

\begin{equation} \Phi_h^\ast\ge (g\circ h)^\ast, \quad\quad {\rm epi} \Phi_h^\ast \subseteq {\rm epi} (g\circ h)^\ast. \end{equation}
(3.7)

进一步,由(2.3)式可得

\begin{equation} \bigcup\limits_{y^\ast\in Y^\ast}{\rm epi} \, \left(y^\ast h-g^\ast(y^\ast) \right)^\ast \subseteq {\rm epi} \, \Phi_h^\ast. \end{equation}
(3.8)

由定义易知,以下等式成立

\begin{equation} v(P_f) = -(f+g\circ h)^{\ast }(0), \end{equation}
(3.9)

\begin{equation} v(D_f ) = -(f^{\ast }\square \Phi_h^{\ast })(0). \end{equation}
(3.10)

事实上, (3.9)式显然成立,而

\begin{eqnarray*} (f^{\ast }\square \Phi_h^{\ast })(0) & = & \inf\limits_{x^{\ast }\in X^{\ast }}\{f^{\ast }(-x^{\ast })+\Phi_h^{\ast }(x^{\ast })\} \\ & = & \inf\limits_{x^{\ast }\in X^{\ast }}\{f^{\ast }(-x^{\ast })+\inf\limits_{y^\ast\in Y^\ast}\{(y^\ast h)^\ast(x^\ast)+g^\ast(y^\ast)\}\} \\ & = & -\sup\limits_{x^\ast\in X^\ast, y^{\ast }\in Y^{\ast }}\{-f^{\ast }(x^\ast)-g^{\ast }(y^{\ast })-(y^\ast h)^\ast(x^\ast)\} \\ & = & -v(D_{f}), \end{eqnarray*}

从而, (P_f) (D_f) 之间的弱对偶成立(即 v(D_f)\le v(P_f) )等价于

\begin{equation} (f+g\circ h)^{\ast }(0)\leq (f^{\ast }\square \Phi_h^{\ast})(0) \end{equation}
(3.11)

或等价于

\begin{equation} {\rm epi}\; (f^{\ast }\square \Phi_h^{\ast })\cap (\{0\}\times {\mathbb{R}})\subseteq {\rm epi}\; (f+g\circ h)^{\ast }\cap (\{0\}\times {{{\Bbb R}} }). \end{equation}
(3.12)

定义3.1  若存在 x^{\ast }\in X^{\ast } 使得 (f^{\ast }\square \Phi_h^\ast)(0) = f^{\ast }(-x^{\ast })+ \Phi_h^\ast(x^{\ast }) \Phi_h^\ast(x^{\ast }) 可取到下确界,则称 f^{\ast }\square \Phi_h^\ast 0 点是精确的.

定义3.2  若 f^{\ast }\square \Phi_h^\ast 0 点是精确的且

\begin{equation} (f+g\circ h)^{\ast }(0)\geq (f^{\ast }\square \Phi_h^\ast)(0), \end{equation}
(3.13)

则称 (f, g, h) 满足 (FRC) 条件.

注3.1   \rm(a) 由(3.9)式和(3.10)式可知,以下结论成立

\begin{equation} v(D_{f})>-\infty \Longleftrightarrow {\rm epi}\; (f^{\ast }\square \Phi_h^\ast)\cap (\{0\}\times {{{\Bbb R}} })\not = \emptyset , \end{equation}
(3.14)

\begin{equation} v(P_{f})>-\infty \Longleftrightarrow {\rm epi}\; (f+g\circ h)^{\ast }\cap (\{0\}\times {{{\Bbb R}} })\not = \emptyset . \end{equation}
(3.15)

\rm(b) f^{\ast }\square \Phi_h^{\ast } 0 点是精确的,则最优值 v(D_f) 有限.

\rm(c) 由(3.9), (3.10)式和(3.5)式可知, (3.13)式成立当且仅当

\begin{equation} (f+g\circ h)^{\ast}(0) = (f^{\ast }\square \Phi_h^\ast)(0), \end{equation}
(3.16)

同时, (3.16)式成立等价于 v(P_f) = v(D_f) ,即 (P_f) (D_f) 之间的零对偶间隙性质成立.

\rm(d) A 是从 X Y 的线性连续算子.由文献[14,定义4.2]可知,若

\begin{equation} ( f+ g\circ A)^{\ast }(0)\geq ( f^{\ast }\square A^{\ast } g^{\ast })(0), \end{equation}
(3.17)

且存在 x^{\ast }\in X^{\ast } 使得 ( f^{\ast }\square A^{\ast } g^{\ast })(0) = f^{\ast }(-x^{\ast })+(A^{\ast } g^{\ast })(x^{\ast }) (A^{\ast } g^{\ast })(x^{\ast }) 可取到下确界,则称 (f, g;A) 满足 (FRC)_{A} 条件.注意到,当 h = A 时, \Phi_A^\ast = A^\ast g^\ast ,因此本文中的 (FRC) 条件即转化为文献[14]中的 (FRC)_A 条件.

命题3.1  下列命题等价

(ⅰ) (f, g, h) 满足 (FRC) 条件.

(ⅱ) (3.13)式及以下包含关系成立

\begin{equation} {\rm epi}\; (f^{\ast }\square \Phi_h^\ast)\cap (\{0\}\times {{{\Bbb R}} })\subseteq\Big( {\rm epi}\; f^{\ast }+\bigcup\limits_{y^\ast\in Y^\ast} \big({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast))\big)\Big)\cap (\{0\}\times {\mathbb{R}}). \end{equation}
(3.18)

(ⅲ)以下包含关系成立

\begin{equation} {\rm epi}\; (f+g\circ h)^{\ast }\cap (\{0\}\times {{{\Bbb R}} })\subseteq \Big({\rm epi}\; f^{\ast }+\bigcup\limits_{y^\ast\in Y^\ast} \big({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast))\big)\Big) \cap (\{0\}\times {\mathbb{R}}). \end{equation}
(3.19)

   {\rm(i)}\Rightarrow {\rm(ii)} 假设(i)成立.欲证(ii),只需证(3.18)式成立.为此,设 (0, r)\in {\rm epi}\; (f^{\ast }\square \Phi_h^\ast) (若(3.18)式左边的集合为空集,则包含关系自动成立),则 (f^{\ast }\square \Phi_h^\ast)(0)\leq r . (FRC) 条件可知, f^{\ast }\square \Phi_h^\ast 0 点是精确的,因此存在 x^{\ast }\in X^{\ast } y_0^{\ast }\in Y^{\ast } 使得

(f^\ast\square \Phi_h^\ast)(0) = f^\ast(-x^\ast)+\Phi_h^\ast(x^\ast), \quad \Phi_h^\ast(x^\ast) = (y_0^\ast h)^\ast(x^\ast)+g^\ast(y_0^\ast).

这就意味着

f^\ast(-x^\ast)+(y_0^\ast h)^\ast(x^\ast)+g^\ast(y_0^\ast)\le r.

因此

(-x^\ast, r-(y_0^\ast h)^\ast(x^\ast)-g^\ast(y_0^\ast))\in {\rm epi}f^\ast.

从而

\begin{eqnarray*} (0, r) & = &(-x^\ast, r-(y_0^\ast h)^\ast(x^\ast)-g^\ast(y_0^\ast))+(x^\ast, (y_0^\ast h)^\ast(x^\ast))+(0, g^\ast(y_0^\ast)) \\ &\in & {\rm epi}\; f^{\ast }+ {\rm epi}(y_0^\ast h)^\ast+(0, g^\ast(y_0^\ast))\\ &\subseteq& {\rm epi}\; f^{\ast }+\bigcup\limits_{y^\ast\in Y^\ast}\big( {\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast)) \big). \end{eqnarray*}

于是(3.18)式成立.

{\rm(ii)}\Rightarrow {\rm(iii)} 假设(ⅱ)成立.则(3.13)式和(3.18)式成立.若(3.19)式左边集合为空集,则结论自然成立.下设 (0, r)\in {\rm epi}\; (f+g\circ h)^{\ast } ,则 (f+g\circ h)^{\ast }(0)\leq r .因此,由(3.13)式可知, (f^{\ast }\square \Phi_h^\ast)(0)\leq r .这就意味着 (0, r)\in {\rm epi}\; (f^{\ast }\square \Phi_h^\ast)\cap (\{0\}\times {{\Bbb R}} ) .从而由(3.18)式可得

(0, r)\in {\rm epi}\; f^{\ast }+\bigcup\limits_{y^\ast\in Y^\ast}({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast))).

因此, (3.19)式成立.

{\rm(iii)}\Rightarrow {\rm(i)} 假设(3.19)式成立.若 v(P_f) = -\infty ,则由(3.9)式, (3.10)式和(3.5)式可知, v(D_f) = -\infty .因此,结论自动成立.下设 r: = v(P_f)\in {{\Bbb R}} .由(3.9)式可知, (f+g\circ h)^{\ast }(0) = -r ,即 (0, -r)\in {\rm epi}\; (f+g\circ h)^{\ast } .由(3.19)式可得

(0, -r)\in {\rm epi}\; f^{\ast }+\bigcup\limits_{y^\ast\in Y^\ast}({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast))).

故存在 y_0^\ast\in Y^\ast 使得

(0, -r)\in {\rm epi}f^\ast+{\rm epi}(y_0^\ast h)^\ast+(0, g^\ast(y_0^\ast)).

因此,存在 (x_1^\ast, r_1)\in {\rm epi}f^\ast (x_2^\ast, r_2)\in {\rm epi}(y_0^\ast h)^\ast 使得

\begin{equation} x_{1}^{\ast }+x_{2}^{\ast } = 0, \quad\quad r_{1}+r_{2}+g^\ast(y_0^\ast) = -r. \end{equation}
(3.20)

由于 f^{\ast }(x_{1}^{\ast })\leq r_{1} (y_0^\ast h)^\ast(x_2^\ast) \leq r_{2} ,则由(3.20)式有

\begin{equation} f^{\ast }(-x_{2}^{\ast })+(y_0^\ast h)^\ast(x_2^\ast)+g^{\ast }(y_0^{\ast })\leq r_{1}+r_{2}+g^{\ast }(y_0^{\ast }) = -r = -v(P_f). \end{equation}
(3.21)

注意到 \Phi_h^\ast(x_2^\ast)\leq (y_0^\ast h)^\ast(x_2^\ast)+g^{\ast }(y_0^{\ast }) ,故由(3.5)式和(3.21)式可得

\begin{equation} f^{\ast }(-x_{2}^{\ast })+\Phi_h^\ast(x_2^\ast)\leq f^{\ast }(-x_{2}^{\ast })+ (y_0^\ast h)^\ast(x_2^\ast)+g^{\ast }(y_0^{\ast })\leq -v(P_f)\leq -v(D_f). \end{equation}
(3.22)

进一步,由(3.10)式和下卷积的定义可知

-v(D_f) = (f^{\ast }\square \Phi_h^{\ast })(0)\leq f^{\ast }(-x_{2}^{\ast })+\Phi_h^\ast(x_{2}^{\ast }).

结合上式及(3.21)式和(3.22)式可得

(f^{\ast }\square \Phi_h^{\ast })(0) = f^{\ast }(-x_{2}^{\ast })+\Phi_h^{\ast }(x_{2}^{\ast}) = f^{\ast }(-x_{2}^{\ast })+ (y_0^\ast h)^\ast(x_2^\ast)+g^{\ast }(y_0^{\ast }).

于是,由(3.9)式可知

(f^{\ast }\square \Phi_h^{\ast })(0) = -v(P_f) = (f+g\circ h)^{\ast }(0)

f^{\ast }\square \Phi_h^\ast 0 点是精确的,即 (f, g, h) 满足 (FRC) 条件.

注3.2  注意到, (3.18)式和(3.19)式中反包含关系自动成立.因此, (3.18)式和(3.19)式中的包含关系可以用等式代替.

下面定理说明 (FRC) 条件与Fenchel-Lagrange强对偶等价.

定理3.1   (f, g, h) 满足 (FRC) 条件当且仅当 v(P_f) = v(D_f) (D_f) 有最优解.

  假设 (f, g, h) 满足 (FRC) 条件.则由注3.1(c)可知

(f^{\ast }\square \Phi_h^{\ast })(0) = (f+g\circ h)^{\ast }(0).

从而由(3.9)式和(3.10)式可得 v(P_f) = v(D_f) .下证 (D_f) 有最优解.事实上,由于 f^{\ast }\square \Phi_h^{\ast } 0 点是精确的,故存在 x_0^{\ast }\in X^{\ast } y_0^{\ast }\in Y^{\ast } 使得

\begin{eqnarray*} -v(D_f) & = &(f^{\ast }\square \Phi_h^\ast)(0) = f^{\ast }(-x_0^{\ast })+ \Phi_h^\ast(x_0^\ast) \\ & = &f^{\ast }(-x_0^{\ast })+ (y_0^\ast h)(x_0^\ast)+g^\ast(y_0^\ast). \end{eqnarray*}

这就意味着 (x_0^{\ast }, y_0^\ast) (D_f) 的最优解.

反之,假设 v(P_f) = v(D_f) (D_f) 有最优解.由命题3.1可知,欲证 (f, g, h) 满足 (FRC) 条件,只需证(3.19)式成立.为此,设 (0, r)\in {\rm epi}(f+g\circ h)^{\ast } (若 {\rm epi} \; (f+g\circ h)^{\ast }\cap (\{0\}\times {{\Bbb R}} ) = \emptyset ,则结论自动成立),则 -v(P_f) = (f+g\circ h)^{\ast }(0)\leq r .由于 v(P_f) = v(D_f) (D_f) 有最优解,故 -v(D_f)\leq r 且存在 x_0^\ast\in X^\ast y_0^{\ast }\in Y^{\ast } 使得

f^\ast(-x_0^\ast)+g^\ast(y_0^\ast)+(y_0^\ast h)^\ast(x_0^\ast) = -v(D_{f})\le r.

因此

f^\ast(-x_0^\ast)\le r-g^\ast(y_0^\ast)-(y_0^\ast h)^\ast(x_0^\ast).

于是 (-x_0^\ast, r-g^\ast(y_0^\ast)-(y_0^\ast h)^\ast(x_0^\ast))\in {\rm epi}f^\ast .显然, (x_0^\ast, (y_0^\ast h)^\ast(x_0^\ast))\in {\rm epi}(y_0^\ast h)^\ast

(0, r) = (-x_0^\ast, r- g^\ast(y_0^\ast)-(y_0^\ast h)^\ast(x_0^\ast))+(x_0^\ast, (y_0^\ast h)^\ast(x_0^\ast))+(0, g^\ast(y_0^\ast)).

因此, (0, r)\in {\rm epi}\; f^{\ast }+ {\rm epi}(y_0^\ast h)^\ast+(0, g^\ast(y_0^\ast)) ,从而

(0, r)\in {\rm epi}\; f^{\ast }+\bigcup\limits_{y^\ast\in Y^\ast}\big( {\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast)) \big).

于是(3.19)式成立.

p\in X^{\ast } 表示函数 p(\cdot ): = \langle p, \cdot \rangle , 其对应的共轭函数 p^{\ast } = \delta _{\{p\}} .故对任意的 a\in{{\Bbb R}} 和函数 \varphi:X\to \overline {{\Bbb R}} ,下列等式成立

\begin{equation} (\varphi+p+a)^\ast(x^\ast) = \varphi^\ast(x^\ast-p)-a, \quad\forall x^\ast\in X^\ast; \end{equation}
(3.23)

\begin{equation} {\rm epi}(\varphi+p+a)^* = {\rm epi}\varphi^*+(p, -a). \end{equation}
(3.24)

{\rm Id}_{{\Bbb R}} 表示 {{\Bbb R}} 上的单位算子,集合 (A^{\ast }\times {\rm Id}_{{\Bbb R}})({\rm epi}g^{\ast }) 表示 {\rm epi} g^\ast 在映射 A^{\ast }\times {\rm Id}_{{\Bbb R}} 下的像,定义为

(x^{\ast }, r)\in (A^{\ast }\times {\rm Id}_{{\Bbb R}})({\rm epi}\; g^{\ast })\Leftrightarrow [\exists y^{\ast }\in Y^{\ast }, \ \ \mbox{s.t. }(y^{\ast }, r)\in {\rm epi}\; g^{\ast }, \ A^{\ast }y^{\ast } = x^{\ast }].

为刻画 (P_f) (D_f) 之间的Fenchel-Lagrange稳定强对偶(即,对任意的 p\in X^\ast , v(P_{f+p}) = v(D_{f+p}) 且问题 (D_{f+p}) 有最优解),我们引入以下约束规范条件.

定义3.3  若

\begin{equation} {\rm epi}\; (f+g\circ h)^{\ast} \subseteq{\rm epi}\; f^{\ast }+\bigcup\limits_{y^\ast\in Y^\ast}\big({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast))\big), \end{equation}
(3.25)

则称 (f, g, h) 满足 (CC) 条件.

注3.3   \rm(a) 注意到, (3.25)式中的反包含关系自动成立,因此 (CC) 条件成立当且仅当

\begin{equation} {\rm epi}\; (f+g\circ h)^{\ast} = {\rm epi}\; f^{\ast }+\bigcup\limits_{y^\ast\in Y^\ast}\big({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast))\big). \end{equation}
(3.26)

\rm(b) A 是从 X Y 的连续线性算子.由文献[14,定义3.1]可知,若

\begin{equation} {\rm epi}(f+ g\circ A)^{\ast }\subseteq {\rm epi}\; f^{\ast }+(A^{\ast }\times {\rm Id}_{{{\Bbb R}} })({\rm epi}\; g^{\ast }), \end{equation}
(3.27)

则称 ( f, g, A) 满足 (CC)_{A} 条件.注意到

\bigcup\limits_{y^\ast\in Y^\ast}\big({\rm epi}(y^\ast A)^\ast+(0, g^\ast(y^\ast))\big) = \bigcup\limits_{y^\ast\in Y^\ast}(A^\ast y^\ast, g^\ast(y^\ast))+\{0\}\times {{\Bbb R}}_+ = (A^{\ast }\times {\rm Id}_{{{\Bbb R}} })({\rm epi}\; g^{\ast }).

因此,当 h = A 时,本文中的 (CC) 即转化为文献[14]中的 (CC)_A 条件.

命题3.2  假设存在点 x_0\in {\rm dom}f\cap h^{-1}({\rm dom}g) 使得 g h 分别在 h(x_0) x_0 处连续,则 (f, g, h) 满足 (CC) 条件.

  由于 g K -增函数,故对任意的 y^\ast\notin K^\oplus g^\ast(y^\ast) = +\infty .因此,由文献[17,定理2.8.10]可知

{\rm epi}(f+g\circ h)^\ast\subseteq \bigcup\limits_{y^\ast\in Y^\ast}{\rm epi}(f+y^\ast h-g^\ast(y^\ast))^\ast;

而由引理2.1(ⅱ)和(3.24)式知

\bigcup\limits_{y^\ast\in Y^\ast}{\rm epi}(f+y^\ast h-g^\ast(y^\ast))^\ast = {\rm epi}f^\ast+\bigcup\limits_{y^\ast\in Y^\ast}\big({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast))\big).

从而 (CC) 条件成立.

以下定理刻画了 (CC) 条件和 (FRC) 条件之间的关系.

定理3.2   (f, g, h) 满足 (CC) 条件当且仅当对任意的 p\in X^{\ast } , (f-p, g, h) 满足 (FRC) 条件.

  设 p\in X^\ast .

K(p): = {\rm epi}\; (f-p)^{\ast }+\bigcup\limits_{y^\ast\in Y^\ast}\big({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast))\big).

由命题3.1知,欲证此结论,只需证明 (f, g, h) 满足 (CC) 条件当且仅当对任意的 p\in X^\ast ,有

\begin{equation} {\rm epi}\; (f-p+g\circ h)^{\ast }\cap (\{0\}\times {{{\Bbb R}} }) = K(p)\cap (\{0\}\times {{{\Bbb R}} }). \end{equation}
(3.28)

为此,设 p\in X^\ast .由(3.24)式可知

{\rm epi}\; (f-p+g\circ h)^{\ast } = {\rm epi}\; (f+g\circ h)^{\ast }+ (-p, 0),

因此

\begin{equation} {\rm epi}\; (f-p+g\circ h)^{\ast }\cap (\{0\}\times {{\Bbb R}}) = {\rm epi}\; (f+g\circ h)^{\ast }\cap (\{p\}\times {{\Bbb R}})+ (-p, 0). \end{equation}
(3.29)

类似可得

K(p)\cap (\{0\}\times {{\Bbb R}}) = \big({\rm epi} f^{\ast }+\bigcup\limits_{y^\ast\in Y^\ast}({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast)))\big)\cap (\{p\}\times {{\Bbb R}})+ (-p, 0).

由此可知, (3.28)式成立等价于

{\rm epi}\; (f+g\circ h)^{\ast }\cap (\{p\}\times {{\Bbb R}}) = \big({\rm epi} f^{\ast }+\bigcup\limits_{y^\ast\in Y^\ast}({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast)))\big)\cap (\{p\}\times {{\Bbb R}}).

从而,对任意的 p\in X^* , (3.28)式成立当且仅当(3.26)式成立,即 (CC) 条件成立.

由定理3.1和定理3.2直接可得以下结论.

定理3.3   (f, g, h) 满足 (CC) 条件当且仅当对任意的 p\in X^{\ast } , v(P_{f+p}) = v(D_{f+p}) (D_{f+p}) 有最优解.

由命题3.2和定理3.3可知推论3.1和推论3.2成立.

推论3.1  若存在 x_0\in {\rm dom}f\cap h^{-1}({\rm dom}g) 使得 g h 分别在 h(x_0) x_0 处连续,则对任意的 p\in X^{\ast } , v(P_{f+p}) = v(D_{f+p}) (D_{f+p}) 有最优解.

推论3.2  若 (f, g, h) 满足 (CC) 条件,则 v(P_f) = v(D_f) (D_f) 有最优解.

\varphi: X\to \overline {{\Bbb R}} 为一真凸函数, {\rm cont}\, \varphi 表示 \varphi 的所有连续点所构成的集合,即

{\rm cont}\, \varphi: = \{x\in X:\;\varphi\mbox{在$x$点处连续}\}.

则以下结论成立.

推论3.3  下列命题等价

\rm(i) 下列包含关系成立

\begin{equation} {\rm epi}(g\circ h)^\ast\subseteq\bigcup\limits_{y^\ast\in Y^\ast}\big({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast)) \big). \end{equation}
(3.30)

\rm(ii) 对任意满足 {\rm cont }\varphi\cap h^{-1}({\rm dom}g)\neq \emptyset 的真凸函数 \varphi , v(P_\varphi) = v(D_\varphi) 且问题 (D_\varphi) 有最优解.

\rm(iii) 对任意 p\in X^\ast , v(P_{p}) = v(D_{p}) 且问题 (D_{p}) 有最优解.

   (i) \Rightarrow (ii)假设(i)成立.设 \varphi X 上的真凸函数且满足 {\rm cont }\varphi\cap h^{-1}({\rm dom}g)\neq \emptyset ,则由引理2.1(ii)可知

{\rm epi}(\varphi+g\circ h)^\ast = {\rm epi}\varphi^\ast+{\rm epi}(g\circ h)^\ast\subseteq {\rm epi}\varphi^\ast+\bigcup\limits_{y^\ast\in Y^\ast}\big({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast)) \big).

这就意味着 (\varphi, g, h) 满足 (CC) 条件.因此,由定理3.3可知(ii)成立.

(ii) \Rightarrow (iii)该结论显然成立.

(iii) \Rightarrow (i)由定理3.3 (令 f = 0 )直接可得.

注3.4  由注3.3(a)可知, (3.30)式成立当且仅当

{\rm epi}(g\circ h)^\ast = \bigcup\limits_{y^\ast\in Y^\ast}\big({\rm epi}(y^\ast h)^\ast+(0, g^\ast(y^\ast)) \big).

进一步,若存在 x_0\in h^{-1}({\rm dom}g) 使得 g 在点 h(x_0) 处连续,则由[17,定理2.8.10]可知, (3.30)成立.

h = A 为从 X Y 的线性算子时,问题 (P_f) 转化为经典的凸优化问题

\begin{equation} ({\mathcal P})\quad\quad \inf\limits_{x\in X}\{f(x)+g(Ax)\}. \end{equation}
(3.31)

注意到,对任意的 x^\ast\in X^\ast y^\ast\in Y^\ast ,有

(y^\ast A)^\ast(x^\ast): = \left\{\begin{array}{ll} 0, &{x^\ast = A^\ast y^\ast}, \\ +\infty, &{\mbox {其它.}} \end{array}\right.

则问题 (P_f) 的对偶问题 (D_f) 转化为

\begin{equation} ({\cal D}) \quad\quad \sup\limits_{y^\ast\in Y^\ast} \{- f^\ast(-A^\ast y^\ast)-g^\ast(y^\ast)\}. \end{equation}
(3.32)

因此,由注3.1(d),注3.3(b),定理3.1和定理3.3可得以下推论,其中推论3.4和推论3.5分别为文献[14]中的定理4.4和定理4.6.

推论3.4   (f, g, A) 满足 (FRC)_A 条件当且仅当 v({\mathcal P}) = v({\mathcal D}) ({\mathcal D}) 有最优解.

推论3.5   (f, g, A) 满足 (CC)_A 条件当且仅当对任意的 p\in X^\ast ,有

\inf\limits_{x\in X}\{f(x)+g(Ax)-\langle p, x\rangle\} = \max\limits_{y^\ast\in Y^\ast} \{- f^\ast(p-A^\ast y^\ast)-g^\ast(y^\ast)\}.

参考文献

Boncea H V , Grad S M .

Characterizations of ε-duality gap statements for composed optimization problems

Nonlinear Anal, 2013, 92, 96- 107

URL     [本文引用: 2]

Boţ R I , Csetnek E R , Wanka G .

Regularity conditions via quasi-relative interior in convex programming

SIAM J Optim, 2008, 19, 217- 233

URL     [本文引用: 1]

Boţ R I , Grad S M , Wanka G .

A new constraint qualification for the formula of the subdifferential of composed convex functions in infinite dimensional spaces

Math Nachr, 2008, 281, 1088- 1107

URL     [本文引用: 2]

Boţ R I , Grad S M , Wanka G .

Generalized Moreau-Rockafellar results for composed convex functions

Optim, 2009, 58, 917- 933

URL     [本文引用: 1]

Boţ R I, Grad S M, Wanka G. Duality in Vector Optimizaition. New York: Springer, 2009

[本文引用: 1]

Boţ R I , Wanka G .

A weaker regularity condition for subdifferential calculus and Fenchel duality in infinite dimensional spaces

Nonlinear Anal, 2006, 64, 2787- 2804

URL     [本文引用: 3]

Dinh N , Vallet G , Volle M .

Functional inequalities and theorems of the alternative involving composite functions

J Glob Optim, 2014, 59, 837- 863

URL     [本文引用: 1]

Fang D H , Anasri Q H , Zhao X P .

Constraint qualifications and zero duality gap properties in conical programming involving composite functions

J Nonlinear Convex Anal, 2018, 19 (1): 53- 69

URL     [本文引用: 2]

方东辉, 刘伟玲.

带复合函数的分式优化问题的Farkas引理

数学物理学报, 2018, 38A (5): 842- 854

URL    

Fang D H , Liu W L .

The farkas lemmas for fractional optimization problem with composite functions

Acta Math Sci, 2018, 38A (5): 842- 854

URL    

胡伶俐, 方东辉.

带锥约束的复合优化问题的最优性条件

数学物理学报, 2018, 38A (6): 1112- 1121

URL     [本文引用: 1]

Hu L L , Fang D H .

Optimality conditions for composite optimization problems with conical constraints

Acta Math Sci, 2018, 38A (6): 1112- 1121

URL     [本文引用: 1]

Fang D H , Li C , Ng K F .

Constraint qualifications for extended Farkas's lemmas and Lagrangian dualities in convex infinite programming

SIAM J Optim, 2009, 20 (3): 1311- 1332

URL     [本文引用: 1]

Fang D H , Gong X .

Extended Farkas lemma and strong duality for composite optimization problems with DC functions

Optim, 2017, 66 (2): 179- 196

URL     [本文引用: 1]

Fang D H , Zhang Y .

Extended Farkas's lemmas and strong dualities for conic constraint problem involving composite functions

J Optim Theory Appl, 2018, 176 (2): 351- 376

[本文引用: 1]

Li C , Fang D H , López G , López M A .

Stable and total Fenchel duality for convex optimization problems in locally convex spaces

SIAM J Optim, 2009, 20, 1032- 1051

URL     [本文引用: 6]

Long X J , Sun X K , Peng Z Y .

Approximate optimality conditions for composite convex optimization problems

J Oper Res Soc China, 2017, 5, 469- 485

URL     [本文引用: 1]

Li G , Zhou Y Y .

The stable Farkas lemma for composite convex functions in infinite dimensional spaces

Acta Math Appl Sinica, 2015, 31, 677- 692

URL    

Zǎlinescu C. Convex Analysis in General Vector Spaces. New Jersey: World Scientific, 2002

[本文引用: 6]

Zhou Y Y , Li G .

The Toland-Fenchel-Lagrange duality of DC programs for composite convex functions

Numer Algebra Contr Optim, 2014, 4, 9- 23

URL     [本文引用: 1]

/