设$X$, $Y$是实局部凸Hausdorff拓扑向量空间, $C$是$X$中的非空凸子集, $S$是$Y$中的闭凸锥且$Y$是由$S$定义的序空间.设$f:X\rightarrow\overline{\mathbb{R}}:=\overline{\mathbb{R}}\cup\{+\infty\}$是真凸函数, $h:X\to Y^\bullet$是$S$ -凸函数.许多学者研究了如下锥约束优化问题

(0.1) $({\cal P})\quad \begin{array}{*{35}{l}} \text{inf}&f(x) \\ \text{s}\text{.t}\text{.}&x\in C, h(x)\in -S, \\\end{array}$

利用内点条件,闭性条件,上图类条件等,建立了锥约束优化问题的强对偶,全对偶, Farkas引理等系列结论.特别地,锥约束优化问题$({\cal P})$的KKT类最优性条件引起了学者们的广泛关注,得到了一系列有意义的结论(参看文献[1-7]及文中的参考文献).

由于许多的优化问题,例如凸优化问题,极小极大问题,最佳一致逼近问题等,都可以看作复合优化问题的特例,因此复合优化问题的相关研究也受到了学者们的高度重视(参看文献[8-12]).例如,文献[8]在函数具有连续性,集合是闭集的情形下,利用闭性条件等价刻画了复合优化问题与其对偶问题之间的稳定强对偶和稳定Farkas引理.文献[9]利用共轭函数的上图性质,等价刻画了带锥约束的复合优化问题与其Lagrange对偶问题之间的弱对偶,零对偶及强对偶.进一步,文献[10]研究了目标函数为两个复合函数的差的锥约束优化问题,通过凸化方法,定义了该问题的Lagrange对偶问题,建立了该优化问题与其对偶问题之间的弱对偶和强对偶等.

注意到,上述文献的研究主要集中在复合优化问题的对偶理论和Farkas引理等,据我们目前掌握的文献所知,很少有学者对带复合函数的锥约束优化问题的最优性条件及其Lagrange函数的鞍点进行研究.受此启发,本文主要研究如下带锥约束的复合优化问题

$ (P)\quad \quad \quad \quad \begin{array}{*{35}{l}} \text{inf}&{{f}_{1}}({{f}_{2}}(x)) \\ \text{s}\text{.t}\text{.}&x\in C, h(x)\in -S \\\end{array}$

的KKT类最优性条件和问题$(P)$的Lagrange函数的鞍点定理,其中$f_2:X\rightarrow Y^\bullet, f_1:Y^\bullet\rightarrow \overline{\mathbb{R}}$是真凸函数,满足$f_1(\infty_Z)=+\infty$.在函数不一定下半连续,集合不一定是闭集的情形下,利用函数的次微分性质,引进新的约束规范条件,建立了问题$(P)$的最优解的特征刻画和问题$(P)$的Lagrange函数的鞍点定理成立的充分必要条件.由于锥约束优化问题$({\cal P})$是问题$({P})$的特例,因此本文推广和改进了前人的相关结论.

设$X$, $Y$是实局部凸Hausdorff拓扑向量空间, $X^{*}$和$Y^{*}$分别是$X$和$Y$的共轭空间,分别赋予弱$^{*}$拓扑$\omega^{*}(X^{*}, X)$和$\omega^{*}(Y^{*}, Y)$. $\langle x^\ast, x\rangle$表示泛函$x^\ast\in X^\ast$在$x\in X$的值,即$\langle x^\ast, x\rangle=x^\ast(x)$.设$S$是$Y$中的闭凸锥, $Y$是$S$所定义的序空间.对于$Y$中的偏序$\le_S$,定义$Y$中的最大元为$\infty_Y$.记$Y^\bullet=Y\cup\{\infty_Y\}$.对$X$的子集$Z$, $\hbox{cl}Z$和coneZ分别表示$Z$的闭包及凸锥包.进一步,若$Z$是$X$的凸子集, $Z^\oplus$表示$Z$的对偶锥,即

$Z^\oplus:=\{x^{*}\in X^{*}:\langle x^{*}, z\rangle\ge 0, \mbox{$\forall$}z\in Z\}, $

$N_Z(z_0)$表示$Z$在$z_0$点的法锥,定义为

$N_Z(z_0)=\{x^\ast\in X^\ast:\langle x^\ast, z-z_0\rangle \le 0, \ \\forall z\in Z\}.$

令$\delta_Z$表示$Z$的示性函数,定义为

$\delta_Z(x)=\left\{\begin{array}{ll}0, \quad&x\in Z, \\ +\infty, \quad&x\in X\setminus Z.\end{array}\right.$

设$f:X\to \overline{\mathbb{R}}$是真凸函数,分别定义$f$的有效定义域,次微分,共轭函数为

${\rm dom}\, f:=\{x\in X:f(x)<+\infty\}, $

$\partial f(x):=\{x^*\in X^*:\;\;f(x)+\langle x^*, y-x\rangle\le f(y), \mbox{$\forall$}y\inX\}, $

$f^{\ast}(x^{\ast}):=\sup\{\langle x^{\ast}, x\rangle-f(x):x\in X\}, \forall x^{\ast}\in X^{\ast}.$

特别地,由定义有

(2.1) $\begin{equation}\label{2.1}N_{Z}(x)=\partial\delta_{Z}(x), \quad \forall x\in Z.\end{equation}$

由文献[13定理2.3.1和定理2.4.2 (ⅲ)]知, Young-Fenchel不等式和Young等式成立,即

(2.2) $\begin{equation}\label{YF}f(x)+f^\ast(x^\ast)\ge \langle x^\ast, x \rangle, \quad {\rm \mbox{$\forall$}}(x, x^\ast)\in X\times X^\ast, \end{equation}$

(2.3) $f(x)+{{f}^{*}}({{x}^{*}})=\langle {{x}^{*}}, x\rangle \Leftrightarrow {{x}^{*}}\in \partial f(x).$

如果$h:X\to \overline{\mathbb{R}}$是真凸函数且满足${\rm dom}\, f\cap {\rm dom}\, h\neq \emptyset$,则

(2.4) $\begin{equation}\label{partial*}\partial f(a)+\partial h(a)\subseteq \partial (f+h)(a), \quad \mbox{$\forall$$a\in {\rm dom}\, f\cap {\rm dom}\, h$}.\end{equation}$

进一步,设函数$g:Y\rightarrow \overline{\mathbb{R}}$,对任意的$y_1, y_2\in Y$,若当$y_1\leq_S y_2$时有$g(y_1)\leq g(y_2)$,则称$g$是$S$ -增函数.定义函数$h:X\rightarrow Y^{\bullet}$的定义域为

${\rm dom}h:=\{x\in X: h(x)\in Y\}.$

若${\rm dom}\, h\neq \emptyset$,则称$h$是真函数. $h$的$S$ -上图为

${\rm epi}_S h:=\{(x, y)\in X\times Y: y\in h(x)+S\}.$

若${\rm epi}_S h$为闭集,则称$h$为$S$ -上图闭函数.若对任意的$x_1, x_2\in X$和$t\in [0, 1]$,有

$h(tx_1+(1-t)x_2)\leq_S t h(x_1)+(1-t)h(x_2), $

则称$h$是$S$ -凸函数.对任意的$\lambda\in S^\oplus$,定义$(\lambda h)(\cdot): X\rightarrow\overline{\mathbb{R}}$为

$\label{fex}(\lambda h)(x): =\left\{\begin{array}{ll} \langle\lambda, h(x)\rangle, \ &\mbox{当}x\in {\rm dom}\, h, \\ +\infty, \ &\mbox{其他}.\end{array}\right.$

显然, $h$是$S$ -凸函数当且仅当对任意的$\lambda\in S^{\oplus}$, $\lambda h$是凸函数.

考虑带锥约束的复合优化问题

$({P})\quad\quad\quad\quad \begin{array}{ll}\inf &f_{1}(f_{2}(x))\\{\rm s.t.}&x\in C, h(x)\in-S, \end{array}$

其中$f_1:Y^\bullet\rightarrow {\overline{\mathbb{R}}}$是真凸$S$ -增函数, $f_2:X\rightarrow Y^\bullet$是真$S$ -凸函数.设$A$表示问题$({P})$的解集,即$A: =\{x\in C:\;h(x)\in -S\}. $如不加特殊说明,下文均假设$ A\cap f_{2}^{-1}({\rm dom} f_{1})\neq\emptyset$.令$x_0\in A\cap f_{2}^{-1}({\rm dom} f_{1})$.显然, $x_0$是问题$(P)$的最优解当且仅当$x_0$是问题

$ \inf\limits_{x\in A}f_1(f_2(x)) $

的最优解.本文主要研究问题$(P)$的KKT类最优性条件.称系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_0$点满足KKT条件,如果

$\begin{align} &\;\;\;\;\;\;\;[({{f}_{1}}\circ {{f}_{2}})({{x}_{0}})=\underset{x\in A}{\mathop{\min }}\, ({{f}_{1}}\circ {{f}_{2}})(x)] \\ &\Leftrightarrow [\exists \lambda \in {{S}^{\oplus }}, \ \text{s}.\text{t}.\ 0\in \bigcup\limits_{\mu \in \partial {{f}_{1}}({{f}_{2}}({{x}_{0}}))}{\partial }(\mu {{f}_{2}})({{x}_{0}})+{{N}_{C}}({{x}_{0}})+\bigcup\limits_{(\lambda h)({{x}_{0}})=0}{\partial }(\lambda h)({{x}_{0}})]. \\ \end{align}$

易证$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_0$点满足KKT条件当且仅当下面式子成立

$0\in\partial(f_1\circ f_2+\delta_{A})(x_{0})\Leftrightarrow 0\in\bigcup\limits_{\mu\in\partial f_{1}(f_{2}(x_{0}))}\partial(\mu f_{2})(x_{0})+N_{C}(x_{0})+\bigcup\limits_{\lambda\in S^{\oplus}\atop (\lambda h)(x_{0})=0}\partial(\lambda h)(x_{0}).$

为简便起见,不妨设$\partial f_{1}(f_{2}(x_{0}))\neq\emptyset$.分别记

$\Omega_1(x_0):=\bigcup\limits_{\underset{\left( \lambda h \right)\left( {{x}_{0}} \right)=0}{\overset{\mu \in \partial {{f}_{1}}\left( {{f}_{2}}\left( {{x}_{0}} \right) \right)}{\mathop{\lambda \in S\oplus }}}\, }\partial(\mu f_{2}+\delta_{C}+\lambda h)(x_{0}), $

$\Omega_2(x_0):=\bigcup\limits_{\mu \in \partial {{f}_{1}}\left( {{f}_{2}}\left( {{x}_{0}} \right) \right)}\partial(\mu f_{2})(x_{0})+N_{C}(x_{0})+\bigcup\limits_{\underset{\left( \lambda h \right)\left( x_0 \right)=0}{\mathop{\lambda \in S\oplus }}\, }.$

由(2.4)式有

(3.1) $\begin{equation}\label{22}\Omega_2(x_0)\subseteq \Omega_1(x_0).\end{equation}$

为等价刻画问题$(P)$的KKT类最优性条件和鞍点定理,我们引入以下约束规划条件,其中$(BCQ)$条件可参考文献[2-3].

定义3.1  (ⅰ)若

(3.2) $\begin{equation}\label{bcq}N_{A}(x_{0})=N_{C}(x_{0})+\bigcup\limits_{\underset{\left( \lambda h \right)\left( {{x}_{0}} \right)=0}{\mathop{\lambda \in S\oplus }}\, }\partial(\lambda h)(x_{0})\end{equation}$

成立,则称系统$\{\delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$点满足$(BCQ)$条件.

(ⅱ)若

(3.3) $\begin{equation}\label{eq03}\partial(f_1\circ f_2+\delta_{A})(x_{0})\subseteq\Omega_1(x_0)\end{equation}$

成立,则称系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$点满足$(C$-$WBCQ)$条件.

(ⅲ)若

(3.4) $\begin{equation}\label{CBCQ}\partial(f_1\circ f_2+\delta_{A})(x_{0})\subseteq\Omega_2(x_0)\end{equation}$

成立,则称系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$点满足$(C$-$BCQ)$条件.

注3.1 (a)在文献[2]中, $(BCQ)$条件称之为GBCQ$_1(0, A)$.由文献[2]可知,系统$\{\delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$点满足$(BCQ)$条件当且仅当

$N_{A}(x_{0})\subseteq N_{C}(x_{0})+\bigcup\limits_{\underset{\left( \lambda h \right)\left( {{x}_{0}} \right)=0}{\mathop{\lambda \in S\oplus }}\, }\partial(\lambda h)(x_{0}).$

(b)当$X=Y$, $f:=f_1$, $f_2$为$X$中的单位算子时,由于对任意的$x\in A$,有

$\bigcup\limits_{{\mu\in\partial f_{1}(f_{2}(x))}}\partial(\mu f_{2})(x)=\partial f_1(x), $

$\Omega_1(x)=\partial f(x)+\bigcup\limits_{\underset{(\lambda g)(x)=0}{\mathop{\lambda\in S^{\oplus}\atop}}\, }\partial(\delta_C+\lambda g)(x).$

因此$(C$-$BCQ)$条件转化为文献[2-3]中的$GBCQ_1(f, A)$条件,即

$\partial (f+\delta_A)(x)\subseteq\partial f(x)+N_C(x) +\bigcup\limits_{\underset{\left( \lambda g \right)\left( x \right)=0}{\mathop{\lambda \in S\oplus }}\, }\partial(\lambda g)(x);$

而$(C$-$WBCQ)$条件即转化为文献[2]中的$GBCQ_2(f, A)$条件,即

$\partial (f+\delta_A)(x)\subseteq \partial f(x)+\bigcup\limits_{\underset{\left( \lambda g \right)\left( x \right)=0}{\mathop{\lambda \in S\oplus }}\, }{{\partial(\delta_C+\lambda g)(x)}}$

命题3.1 (ⅰ)系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$点满足$(C$-$WBCQ)$条件当且仅当

(3.5) $\begin{equation}\partial(f_1\circ f_2+\delta_{A})(x_{0})= \Omega_1(x_0).\end{equation}$

(ⅱ)系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$点满足$(C$-$BCQ)$条件当且仅当

(3.6) $\begin{equation}\label{3.6}\partial(f_1\circ f_2+\delta_{A})(x_{0})= \Omega_2(x_0).\end{equation}$

证 (ⅰ)欲证(ⅰ),只需证明

(3.7) $\begin{equation}\label{a1}\Omega_1(x_0)\subseteq \partial(f_1\circ f_2+\delta_{A})(x_{0}).\end{equation}$

为此,任取$p\in \Omega_1(x_0)$.故存在$\bar\mu\in\partial f_{1}(f_{2}(x_{0})), \bar{\lambda}\in S^{\oplus}$满足$(\bar\lambda h)(x_{0})=0$使得$ p\in \partial(\bar\mu f_{2}+\delta_{C}+\bar\lambda h)(x_{0}). $从而由次微分定义可得

$\langle p, y-x_{0}\rangle\leq(\bar\mu f_{2}+\delta_{C}+\bar\lambda h)(y)-(\bar\mu f_{2}+\delta_{C}+\bar\lambda h)(x_{0}), \forall y\in X.$

注意到$x_0\in A$, $(\bar\lambda h)(x_{0})=0$且$\delta_C+\bar\lambda h\le \delta_A$,因此

$\langle p, y-x_{0}\rangle\leq (\bar\mu f_{2})(y)+\delta_A(y)-(\bar\mu f_{2})(x_{0}), \quad \forall y\in X.$

由于$\bar\mu\in\partial f_{1}(f_{2}(x_{0}))$,由定义有

$(\bar\mu f_{2})(y) -(\bar\mu f_{2})(x_{0})\leq(f_1\circ f_2)(y)-(f_1\circ f_2)(x_{0}), \quad\forall y\in X.$

从而

$\langle p, y-x_{0}\rangle\leq (f_1\circ f_2+\delta_A)(y)-(f_1\circ f_2+\delta_A)(x_0), \quad\forall y\in X, $

即$p\in\partial(f_1\circ f_2+\delta_{A})(x_{0}).$因此(3.7)式成立.

(ⅱ)由(3.1)和(3.7)式可知

$\Omega_2(x_0)\subseteq\partial(f_1\circ f_2+\delta_{A})(x_{0}).$

故(ⅱ)成立.

命题3.2 (ⅰ)若系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$点满足$(C$-$BCQ)$条件,则该系统在$x_{0}$点满足$(C$-$WBCQ)$条件.

(ⅱ)假设$f_{1}$, $f_{2}$分别在点$f_{2}(x_{0})$与$x_{0}$处连续.若系统$\{\delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$点满足$(BCQ)$条件,则系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$点满足$(C$-$BCQ)$条件.

证 (ⅰ)假设系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$点满足$(C$-$BCQ)$条件.则(3.4)式成立.从而由(3.1)式可知(3.3)式成立.

(ⅱ)假设系统$\{\delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$点满足$(BCQ)$条件.则(3.2)式成立.由于$f_{1}$, $f_{2}$分别在点$f_{2}(x_{0})$与$x_{0}$处连续,由文献[13,定理2.8.10]可得

$ \partial(f_1\circ f_2+\delta_{A})(x_{0})=\bigcup\limits_{\mu\in\partial f_{1}(f_{2}(x_{0}))}\partial(\mu f_{2}+\delta_{A})(x_{0}). $

又因为$f_{2}$在$x_{0}$处连续,则由文献[13,定理2.8.7]可得

$\bigcup\limits_{\mu\in\partial f_{1}(f_{2}(x_{0}))}\partial(\mu f_{2}+\delta_{A})(x_{0})=\bigcup\limits_{\mu\in\partial f_{1}(f_{2}(x_{0}))}\partial(\mu f_{2})(x_{0})+N_{A}(x_{0}). $

因此

(3.8) $\begin{equation}\label{2.5} \partial(f_1\circ f_2+\delta_{A})(x_{0})=\bigcup\limits_{\mu \in \partial {f_1}({f_2}({x_0}))} \partial(\mu f_{2})(x_{0})+N_{A}(x_{0}). \end{equation} $

从而由(3.2)式可知等式(3.6)成立.于是结论(ⅱ)得证.

定理3.1 下列命题等价

(ⅰ)系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_0$处满足$(C$-$BCQ)$条件.

(ⅱ)对任意的$p\in X^{*}$, $x_0$是问题

$\mathop {\inf }\limits_{x \in A}, \{f_1(f_2(x))-\langle p, x\rangle\}$

的最优解当且仅当存在$\mu\in\partial f_{1}(f_{2}(x_{0}))$, $\lambda \in S^{\oplus}$满足$(\lambda h)(x_0)=0 $,使得

(3.9) $\begin{equation}\label{op1}p\in \partial(\mu f_{2})(x_{0})+N_{C}(x_{0})+ \partial(\lambda h)(x_{0}).\end{equation}$

证  由次微分定义, (ⅱ)等价于

$0\in \partial(f_1\circ f_2+\delta_{A}-p)(x_{0})\Leftrightarrow p\in \Omega_2(x_0), \quad \forall p\in X^\ast, $

即

$p\in \partial(f_1\circ f_2+\delta_{A})(x_{0})\Leftrightarrow p\in \Omega_2(x_0), \quad \forall p\in X^\ast.$

显然,上式等价于(3.6)式.因此,由命题3.1(ⅱ),结论成立.

特别地,当$p=0$时,由定理3.1和命题3.2可得以下结论.

推论3.1 若系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_0$点处满足$(C$-$BCQ)$条件,则该系统满足KKT条件.

推论3.2 若存在$x_0\in A\cap f_{2}^{-1}({\rm dom} f_{1})$使得$f_{1}$, $f_{2}$分别在点$f_{2}(x_0)$与$x_0$处连续,且系统$\{\delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_{0}$处满足$(BCQ)$条件,则系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$满足KKT条件.

下面考虑问题$({P})$的Lagrange函数的鞍点.设$p\in X^{*}$.定义问题

$({{P}_{p}})\quad \quad \quad \quad \begin{array}{*{35}{l}} \text{inf}&\{{{f}_{1}}({{f}_{2}}(x))-\langle p, x\rangle \} \\ \text{s}\text{.t}\text{.}&x\in C, h(x)\in -S \\\end{array}$

的Lagrange函数$L_{p}:C\times S^{\oplus}\times {\rm dom} f_{1}^{*}\to \overline{\mathbb{R}}$为

$L_{p}(x, \lambda, \mu)=-f_{1}^{*}(\mu)+(\mu f_{2}-p)(x)+(\lambda h)(x), \forall (x, \lambda, \mu)\in C\times S^{\oplus}\times {\rm dom} f_{1}^{*}.$

设$x_{0}\in A\cap f_{2}^{-1}({\rm dom}f_{1})$,若对任意的$(x, \lambda, \mu)\in C\times S^{\oplus}\times {\rm dom}f_{1}^{*}$有

(3.10) $\begin{equation}L_{p}(x_{0}, \lambda, \mu)\leq L_{p}(x_{0}, \bar\lambda, \bar\mu)\leq L_{p}(x, \bar\lambda, \bar{\mu}), \end{equation} $

则称$(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L_{p}$的鞍点.定义问题$ (P_p)$的Lagrange对偶问题为

$({D_p})\quad\quad \sup\limits _{ {\lambda\in S^\oplus}\atop {\mu \in{\rm dom}f^{*}_{1}}}\inf\limits_{x\in C}L_{p}(x, \lambda, \mu) .$

令$v(P_p)$和$v(D_p)$分别表示问题$(P_p)$和$(D_p)$的最优值, $S(P_p)$和$S(D_p)$分别表示问题$(P_p)$和$(D_p)$的最优解集.显然,对任意的$p\in X^\ast$有$v(D_p)\le v(P_p)$,即$(P_p)$与$(D_p)$之间的弱对偶成立.若对任意的$p\in X^\ast$, $v{({P_p})}=v({{D_p}})$且$S {({D_p})}\neq\emptyset$,则称问题$(P)$与$(D)$之间的稳定强对偶成立.特别地,当$p=0$时,问题$(P_p)$即为前述问题$(P)$,记问题$(D_0)$为$(D)$,且对任意$(x, \lambda, \mu)\in C\times S^{\oplus}\times {\rm dom} f_{1}^{*}$,记$L(x, \lambda, \mu):=L_0(x, \lambda, \mu)$.若$v{({P})}=v({{D}})$且$S {({D})}\neq\emptyset$,则称问题$(P)$与$(D)$之间的强对偶成立.

定理3.2  设$p\in X^\ast$, $x_0\in A\cap f_{2}^{-1}({\rm dom} f_{1})$且$(\bar\lambda, \bar\mu)\in S^{\oplus}\times {\rm dom} f_{1}^{*}$.下面结论等价

(ⅰ) $x_{0}\times(\bar\lambda, \bar\mu)\in S(P_p)\times S(D_p)$且$v(P_p)=v(D_p)$.

(ⅱ) $f_{1}(f_{2}(x_{0}))-\langle p, x_0\rangle=L_p(x_{0}, \bar\lambda, \bar\mu)=\inf\limits_{x\in C} L_p(x, \bar\lambda, \bar\mu).$

(ⅲ) $f_{1}(f_{2}(x_{0}))-\langle p, x_0\rangle\le L_p(x_{0}, \bar\lambda, \bar\mu)=\inf\limits_{x\in C} L_p(x, \bar\lambda, \bar\mu).$

(ⅳ) $(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L_p$的一个鞍点.

证  由$(\bar\lambda h)(x_{0})\leq 0$和(2.2)式有$f_{1}(f_{2}(x_{0}))-\langle p, x_0\rangle\geq L_p(x_{0}, \bar\lambda, \bar\mu), $因此(ⅱ)$\Leftrightarrow$(ⅲ). (ⅰ)$\Rightarrow$(ⅱ) 假设(ⅰ)成立.由(2.2)式有

(3.11) $\begin{equation}\label{28}L_p(x_{0}, \bar\lambda, \bar\mu)\leq f_{1}(f_{2}(x_{0}))-\langle p, x_0\rangle=v(P_p)=v(D_p).\end{equation}$

再由$(\bar\lambda, \bar\mu)\in S(D_p)$有

(3.12) $\begin{equation}\label{29}v(D_p)=\inf\limits_{x\in C} L_p(x, \bar\lambda, \bar\mu)\leq L_p(x_{0}, \bar\lambda, \bar\mu).\end{equation}$

因此由(3.11)和(3.12)两式可知(ⅱ)成立.

(ⅱ)$\Rightarrow$(ⅰ) 假设(ⅱ)成立.则

$v(P_p)\leq f_{1}(f_{2}(x_{0}))-\langle p, x_0\rangle=L_p(x_{0}, \bar\lambda, \bar\mu)=\inf\limits_{x\in C} L_p(x, \bar\lambda, \bar\mu)\leq v(D_{p}) .$

由于问题$(P_p)$与问题$(D_p)$之间的弱对偶成立,即$v(P_p)\geq v(D_p), $因此$v(P_p)=v(D_p)$且$x_{0}$和$(\bar\lambda, \bar\mu)$分别为问题$(P_p)$和$(D_p)$的最优解.

(ⅱ)$\Rightarrow$(ⅳ) 假设(ⅱ)成立.由(2.2)式知,对任意的$(\lambda, \mu)\in S^{\oplus}\times {\rm dom} f_{1}^{*}$有

$L_p(x_{0}, \lambda, \mu)\leq f_{1}(f_{2}(x_{0}))-\langle p, x_0\rangle= L_p(x_{0}, \bar\lambda, \bar\mu)\leq L_p(x, \bar\lambda, \bar\mu) .$

故$(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L_p$的一个鞍点.

(ⅳ)$\Rightarrow$(ⅱ) 设$(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L_p$的鞍点,则

(3.13) $\begin{equation}\label{a17} -f_{1}^{*}(\bar\mu)+(\bar\mu f_{2}-p)(x_{0})+(\bar\lambda h)(x_{0})\leq -f_{1}^{*}(\bar\mu)+(\bar\mu f_{2}-p)(x)+(\bar\lambda h)(x), \forall x\in C. \end{equation} $

因此$L_p(x_{0}, \bar\lambda, \bar\mu)=\inf\limits_{x\in C} L_p(x, \bar\lambda, \bar\mu).$由于对任意的$(\lambda, \mu)\in S^{\oplus}\times {\rm dom}f_{1}^{*}, $

(3.14) $\begin{equation}\label{a16} -f_{1}^{*}(\mu)+(\mu f_{2}-p)(x_{0})+(\lambda h)(x_{0})\leq -f_{1}^{*}(\bar\mu)+(\bar\mu f_{2}-p)(x_{0})+(\bar\lambda h)(x_{0}). \end{equation} $

特别地,设$\mu\in\partial f_{1}(f_{2}(x_{0})), \lambda=0, $则由(3.14)和(2.3)式可得

$\begin{eqnarray*}-f_{1}^{*}(\mu)+(\mu f_{2}-p)(x_{0})+(\lambda h)(x_{0})&=&f_{1}(f_{2}(x_{0}))-\langle p, x_0\rangle\\&\leq &-f_{1}^{*}(\bar\mu)+(\bar\mu f_{2}-p)(x_{0})+(\bar\lambda h)(x_{0}). \end{eqnarray*}$

而由Young-Fenchel不等式(2.2),有

$ f_{1}(f_{2}(x_{0}))-\langle p, x_0\rangle\geq L_p(x_{0}, \bar\lambda, \bar\mu), $

因此上式的不等号变为等号,从而结论(ⅱ)成立.

引理3.1 任取$p\in X^{*}$.若$(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L_{p}$的鞍点,则有

(ⅰ) $\bar\mu\in \partial f_{1}(f_{2}(x_{0}))$;

(ⅱ) $(\bar\lambda h)(x_{0})=0$;

(ⅲ) $p\in \partial(\bar\mu f_{2}+\delta_{C}+\bar\lambda h)(x_{0})$.

证  任取$p\in X^{*}$,设$(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L_{p}$的一个鞍点,则有(3.13)式成立.注意到$\delta_C(x_0)=0$,因此由(3.13)式有

$\langle p, x-x_0\rangle\le (\bar\mu f_{2}+\delta_{C}+\bar\lambda h)(x)-(\bar\mu f_{2}+\delta_{C}+\bar\lambda h)(x_{0}), \quad\forall x\in X.$

从而由次微分的定义知

(3.15) $\begin{equation}\label{a15} p\in \partial(\bar\mu f_{2}+\delta_{C}+\bar\lambda h)(x_{0}). \end{equation} $

下证$\bar\mu\in \partial f_{1}(f_{2}(x_{0}))$且$(\bar\lambda h)(x_{0})=0.$由于$(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L_{p}$的鞍点,因此对任意的$(\lambda, \mu)\in S^{\oplus}\times {\rm dom}f_{1}^{*}$有(3.14)式成立.不妨设$\mu=\bar\mu, \lambda=0$,则有

$ -f_{1}^{*}(\bar\mu)+(\bar\mu f_{2}-p)(x_{0})\leq -f_{1}^{*}(\bar\mu)+(\bar\mu f_{2}-p)(x_{0})+(\bar\lambda h)(x_{0}), $

故$(\bar\lambda h)(x_{0})=0.$另取$\mu\in\partial f_{1}(f_{2}(x_{0})), \lambda=0, $则由(2.3)式可推出

$-f_{1}^{*}(\mu)+(\mu f_{2})(x_{0})=f_{1}(f_{2}(x_{0})), $

从而由(3.14)式可得

$ -f_{1}^{*}(\bar\mu)+(\bar\mu f_{2})(x_{0})\geq f_{1}(f_{2}(x_{0})), $

而由Young-Fenchel不等式有

$ -f_{1}^{*}(\bar\mu)+(\bar\mu f_{2})(x_{0})\leq f_{1}(f_{2}(x_{0})), $

因此上式的不等号变为等号,从而由Young等式(2.3)知$\bar\mu\in\partial f_{1}(f_{2}(x_{0}))$.

定理3.3 下列命题等价

(ⅰ)系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_0$点满足$(C$-$WBCQ)$条件;

(ⅱ)对任意的$p\in X^\ast$, $x_{0}$是问题$({P}_{p})$的最优解当且仅当存在$(\bar\lambda, \bar\mu)\in S^{\oplus}\times {\rm dom}f_{1}^{*}$使得$(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L_{p}$的鞍点.

证 (ⅰ)$\Rightarrow$(ⅱ) 设(ⅰ)成立.任取$p\in X^{*}$,设$x_{0}$是问题$({P}_{p})$的最优解,由次微分定义知$p\in \partial(f_1\circ f_2+\delta_{A})(x_{0})$,再由$(C$-$WBCQ)$条件成立可知$p\in \Omega_1(x_0), $因此存在$\bar\mu\in\partial f_{1}(f_{2}(x_{0})), \bar{\lambda}\in S^{\oplus}$满足$(\bar\lambda h)(x_{0})=0$使得(3.15)式成立.由于$\bar\mu\in\partial f_{1}(f_{2}(x_{0}))$,则由(2.3)式可得

$f_{1}(f_{2}(x_{0}))=\langle\bar\mu, f_{2}(x_{0})\rangle-f_{1}^{*}(\bar\mu). $

而由Young-Fenchel不等式(2.2)有

$f_{1}(f_{2}(x_{0}))\geq\langle\mu, f_{2}(x_{0})\rangle-f_{1}^{*}(\mu) , \forall\mu\in {\rm dom}f_{1}^{*}.$

注意到$(\bar\lambda h)(x_{0})=0$且对任意的$\lambda\in S^{\oplus}, (\lambda h)(x_{0})\leq 0, $因此对任意的$(\lambda, \mu)\in S^{\oplus}\times {\rm dom} f_{1}^{*}$有(3.14)式成立,即

$L_{p}(x_{0}, \lambda, \mu)\leq L_{p}(x_{0}, \bar\lambda, \bar\mu), \forall(\lambda, \mu)\in S^{\oplus}\times {\rm dom} f_{1}^{*}. $

进一步由(3.15)式得

$(\bar\mu f_{2}-p)(x_{0})+\delta_{C}(x_{0})+(\bar\lambda h)(x_{0})\leq (\bar\mu f_{2}-p)(x)+\delta_{C}(x)+(\bar\lambda h)(x), \forall x\in C. $

注意到对任意的$x\in C$, $\delta_{C}(x_{0})=\delta_{C}(x)=0$,故对任意的$x\in C$有(3.13)式成立,即

$ L_{p}(x_{0}, \bar\lambda, \bar\mu)\leq L_{p}(x, \bar\lambda, \bar\mu), \quad \forall x\in C. $

因此$(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L_{p}$的一个鞍点.

反之,任取$p\in X^{*}$,设$(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L_{p}$的一个鞍点,则由引理3.1可知, $p\in \Omega_1(x_0).$再根据$(C$-$WBCQ)$条件成立,则有$p\in \partial(f_1\circ f_2+\delta_{A})(x_{0})$,即$x_{0}$是问题$({P}_{p})$的最优解.

(ⅰ)$\Rightarrow$(ⅱ) 设(ⅱ)成立,任取$p\in\partial(f_{1}\circ f_{2}+\delta_{A})(x_{0})$,由次微分的定义知, $x_{0}$为问题$(P_{p})$的最优解.又(ⅱ)成立,故存在$(\bar\lambda, \bar\mu)\in S^{\oplus}\times {\rm dom}f_{1}^{*}$,使得$(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L_{p}$的一个鞍点,则由引理3.1可知, $p\in \Omega_1(x_0), $因此(ⅰ)成立.

由定理3.2和定理3.3可得以下定理.

定理3.4 下列命题等价

(ⅰ) 系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$满足$(C$-$WBCQ)$条件.

(ⅱ) 对任意$p\in X^\ast$,若$S(P_p)\neq \emptyset$,则$(P_p)$和$(D_p)$之间的强对偶成立.

由定理3.3和定理3.4可知以下推论成立.

推论3.3 若系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$满足$(C$-$WBCQ)$条件,则以下结论成立

(ⅰ) $x_{0}\in A$是问题$({P})$的最优解当且仅当存在$(\bar\lambda, \bar\mu)\in S^{\oplus}\times {\rm dom}f_{1}^{*}$使得$(x_{0}, \bar\lambda, \bar\mu)$是Lagrange函数$L$的一个鞍点.

(ⅱ)如果$S(P)\neq \emptyset$,则$(P)$和$(D)$之间的强对偶成立.

注3.2 令$X=Y$, $f:=f_1$, $f_2$为$X$中的单位算子,则问题$(P)$转化为经典的凸锥约束优化问题$({\cal P})$.由注3.1(b)可知,此时$(C$-$BCQ)$条件转化为文献[3]中的$GBCQ_1(f, A)$条件,而系统$\{f_1, f_2, \delta_{C};\lambda h:\lambda\in S^{\oplus}\}$在$x_0$点满足KKT条件等价于

$\Big[f(x_0)=\mathop {\min }\limits_{x \in A} f(x)\Big]\Leftrightarrow\bigg[\exists\lambda \in S^{\oplus}, \ {\rm s.t.}\ 0\in\partial f(x)+N_{C}(x)+\bigcup\limits_{(\lambda g)(x)=0}\partial(\lambda g)(x)\bigg].$

因此,本文的定理3.1推广了文献[3]中的定理6.1.进一步,由注3.1(b)知,此时$(C$-$WBCQ)$条件即为文献[2]中的$GBCQ_2(f, A)$条件,而对偶问题$(D)$转化为

$\sup\limits_{ { \lambda\in S^\oplus}\atop {x^\ast \in{\rm dom}f^{*}}}\{-f^\ast(x^\ast)-(\delta_{C}+ \lambda h)^{*}(-x^\ast)\}.$

因此,由本文的定理3.4可得文献[2,定理6].注意到文献[2]中要求函数$f$是下半连续函数, $g$是$S$ -上图闭函数, $C$是闭集,因此本文推广和改进了文献[2]中的相关结论.