由于许多的实际问题都可以看成或转化为一个约束优化问题, 因此, 约束优化问题的研究受到了学者们的高度重视. 特别地, 许多学者研究了如下经典的凸约束优化问题

其中$C$为Banach空间$X$的非空凸子集, $T$是任意(可能无限)指标集, $f, h_t:X\rightarrow \overline{{{\Bbb R}}}: = {\Bbb R}\cup\{+\infty\}, t\in T$是真凸函数. 学者们利用内点条件、闭性条件、上图条件或次微分条件等, 建立了约束优化问题的KKT类最优性条件、Farkas引理、强对偶、全对偶等系列结论^[1-5].

注意到, 问题$(P)$的最优性条件的研究大都集中在最优解的特征刻画上. 事实上, 约束优化问题的最优解并不总是能找到的. 因此, 我们往往需要寻找其近似解. 于是, 约束优化问题的近似解的特征刻画引起了学者们的极大兴趣. 例如, 文献[6] 利用上图类条件, 等价刻画了凸约束优化问题的$\varepsilon$ -最优解; 文献[7-9]则利用上图类条件, 建立了凸优化问题的拟$\varepsilon$ -最优性条件.

注意到, 上述结论都是在假设目标函数和约束函数是凸函数的情形下得到的, 而这些凸性假设在一定程度上限制了约束优化问题在实际生活中的应用. 因此, 如何在函数不具有凸性的情形下建立约束优化问题的最优解或近似解的特征刻画就成为了最优化理论中的一个热点问题. 近年来, 部分学者对非凸约束优化问题进行了研究, 并得到了一系列有意义的结论^[10-15]. 特别地, 文献[10] 在目标函数为$\varepsilon$ -半凸函数的情形下, 利用函数Clarke次微分性质, 建立了非凸优化问题的近似最优性条件及其混合型对偶理论; 文献[11] 在目标函数和约束函数为广义凸函数的假设下, 利用Mordukhovich次微分的性质, 引入一类次微分类约束规范条件, 建立了非凸优化问题的近似解的特征刻画.

受上述文献的启发, 本文首先引入一类新的非凸约束优化问题, 即目标函数和约束函数为$\alpha$ -凸函数. 显然, 凸函数一定是$\alpha$ -凸函数, 而$\alpha$ -凸函数不一定是凸函数. 利用函数Fréchet次微分的性质, 引入新的约束规范条件, 建立该类非凸约束优化问题的近似解的特征刻画. 进一步, 通过定义该非凸约束优化问题的混合型对偶问题, 建立了原问题与混合型对偶问题之间的弱对偶, 强对偶等.

设$X$是Banach空间, $X^\ast$是$X$的对偶空间, $\rm{赋予弱} ^{\ast}$拓扑$w^\ast(X^\ast, X)$. $\langle x^\ast, x\rangle$表示泛函$x^\ast\in X^\ast$在$x\in X$处的值, 即$\langle x^\ast, x\rangle = x^\ast(x)$. ${\Bbb B}^\ast$表示$X^\ast$上的闭单位球. 记$\xi\in X$的范数为$\|\xi\|$, 定义为

设集合$C$是$X$的非空集合, ${\rm co}\, C$和${\rm cone}\, C$分别表示集合$C$的凸包和凸锥包. 对于非空凸集$C$, 有$C = {\rm co}\, C$. 集合$C$的示性函数定义为

设$T$是任意(可能无限)指标集, 记${\Bbb R}^{(T)}: = \{\lambda = (\lambda_t)_{t\in T}:\rm{只有有限多个}\lambda_t\neq0\},$${\Bbb R}_+^{(T)}$表示${\Bbb R}^{(T)}$上的非负锥, 即

设$f:X\rightarrow \overline{{{\Bbb R}}}$为真凸函数. 定义$f$的有效定义域, 上图和共轭函数分别为

定义函数$f$在点$x\in {\rm dom}f$处的次微分为

由定义可知, Young-Fenchel不等式和Young等式成立, 即

定义集合$C$在点$x_0$处的法锥为

令$\varphi:X\rightarrow \overline{{{\Bbb R}}}$为实值延拓函数, $x\in {\rm dom}\varphi$满足$|\varphi(x)|<\infty$, 定义$\varphi$在点$x$处的Fréchet次微分为(参看文献[14]):

注意到, 当$\varphi$为凸函数时, 则$\hat{\partial}\varphi(x) = \partial\varphi(x)$, $\forall x\in {\rm dom}\varphi$. 若$\varphi$在点$x$处Fréchet可微, 且梯度为$\nabla\varphi(x)$, 则$\hat{\partial}\varphi(x)$是单点集, 记为$\{\nabla\varphi(x)\}$. 显然, 由Fréchet次微分的定义可知

定义2.1^[15]   令$\alpha\geq0, f:X\rightarrow \overline{{{\Bbb R}}}$为真函数. 若对任意的$x, y\in X$和$\lambda\in[0, 1],$有

则称函数$f$是$\alpha$ -凸函数. 特别地, 若$\alpha = 0$, 则$f$为经典的凸函数.

引理2.2^[15]  令$\alpha\geq0, f$为$\alpha$ -凸函数. 若$x^\ast\in\hat{\partial}f(x)$, 则

引理2.3^[9]  设$f, g:X\rightarrow \overline{{{\Bbb R}}}$是真凸函数, ${\rm dom}f\cap {\rm dom}g\neq\emptyset$. 若$f$或$g$在${\rm dom}f\cap {\rm dom}g$上有连续点, 则

引理2.4^[16]   令$\varphi, \psi:X\rightarrow \overline{{{\Bbb R}}}$. 若$\varphi$在点$x$处Fréchet可微, $\psi$在点$x$处有限, 则

设$f, h_t:X\rightarrow \overline{{{\Bbb R}}}, t\in T$为真函数, $A: = \{x\in C:h_t(x)\leq0, t\in T\}$为问题$(P)$的可行集. 令$x\in A$, 定义$A(x): = \{\lambda\in {\Bbb R}_+^{(T)}:\lambda_th_t(x) = 0, t\in T\}$, $T(x): = \{t\in T:h_t(x) = 0\}.$注意到, 为简化问题的处理, 文献[17-19] 均假设$A$是凸集, 并在此假设下建立了约束优化问题的KKT类最优性条件. 受上述文献的启发, 本文总假设$A$是凸集. 类似于文献[20]中的定义3.2, 我们引入如下约束规范条件.

定义3.1   令$x\in A$. 若

则称系统$\{\delta_C; h_t:t\in T\}$在点$x$处满足$(ABCQ)$条件. 若对任意的$x\in A$, (3.1) 式成立, 则称该系统满足$(ABCQ)$条件.

定义3.2   令$\varepsilon\geq0,$$x_0\in A$. 对任意的$x\in A$,

$\rm(i)$若$f(x_0)\leq f(x)$, 则称$x_0$是问题$(P)$的最优解;

$\rm(ii)$若$f(x_0)\leq f(x)+\varepsilon\|x-x_0\|$, 则称$x_0$是问题$(P)$的拟$\varepsilon$ -最优解.

下述定理分别建立了问题$(P)$的近似最优性条件成立的必要条件和充分条件.

定理3.3   令$\varepsilon\geq0$, $x_0\in A$. 假设$f$在点$x_0$处Fréchet可微, 且系统$\{\delta_C; h_t:t\in T\}$在点$x_0$处满足$(ABCQ)$条件. 若$x_0$是问题$(P)$的拟$\varepsilon$ -最优解, 则存在$\bar{\lambda}\in A(x_0)$, 使得

证  设$x_0$是问题$(P)$的拟$\varepsilon$ -最优解, 则对任意的$x\in A$, 有

故$x_0$是以下问题的最优解

因此

由于$f$在点$x_0$处Fréchet可微, 由引理2.4可知

由于$\|\cdot-x_0\|$是凸函数, 且集合$A$是凸集, 从而可得

又$\|\cdot-x_0\|$是连续函数, 故由引理2.3可知

从而由系统$\{\delta_C;h_t:t\in T\}$在点$x_0$处满足$(ABCQ)$条件可知, 存在$\bar{\lambda}\in A(x_0)$使得(3.2) 式成立.

定理3.4   令$x_0\in A, \varepsilon, \alpha, \alpha_t\geq0, t\in T$. 假设$f$是$\alpha$ -凸函数, $h_t$是$\alpha_t$ -凸函数. 若存在$\bar{\lambda}\in A(x_0)$使得下式成立

则$x_0$是问题$(P)$的拟$(\varepsilon+2\alpha+2\sum\limits_{t\in T}\bar{\lambda}_t\alpha_t)$ -最优解.

证  设存在$\bar{\lambda}\in A(x_0)$使得(3.3) 式成立. 故存在$\xi\in\hat{\partial}f(x_0), \gamma\in N(x_0;C), \eta_t\in\hat{\partial}h_t(x_0), t\in T$和$b\in {\Bbb B}^\ast$使得

由$\gamma\in N(x_0;C)$可知, 对任意的$x\in C$有$\langle\gamma, x-x_0\rangle\leq0$. 结合(3.4) 式, 有

因此, 由Cauchy-Schwarz不等式可得

由于$f$是$\alpha$ -凸函数, $h_t$是$\alpha_t$ -凸函数, 且$\xi\in\hat{\partial}f(x_0), \eta_t\in\hat{\partial}h_t(x_0), t\in T$, 由引理2.2有

显然, $A\subseteq C\subseteq X$. 于是由(3.5)–(3.7) 式可得

注意到, 对任意的$x\in A$, $\bar{\lambda}_th_t(x)\leq0$且$\bar{\lambda}_th_t(x_0) = 0$. 故由上式有

因此$x_0$是问题$(P)$的拟$(\varepsilon+2\alpha+2\sum\limits_{t\in T}\bar{\lambda}_t\alpha_t)$ -最优解.

下例说明当$f$不是$\alpha$ -凸函数, $h_t$不是$\alpha_t$ -凸函数时, 定理3.4的结论不一定成立.

例3.5   令$X = C: = {\Bbb R}$, $T: = \{1, 2, \cdots, m\}, m$为正整数, $\alpha = \alpha_1 = \cdots = \alpha_m = 1$. 设$f(x) = x^3, h_t(x) = -tx^2, t\in T$. 易证$f$不是$\alpha$ -凸函数. 事实上, 取$x_1 = -5, x_2 = 1, \lambda = \frac{1}{2}$, 此时

从而由定义2.1可知$f(x) = x^3$不是$\alpha$ -凸函数. 类似可证$h_t$不是$\alpha_t$ -凸函数. 例如, 取$x_1 = -2, x_2 = 1, \lambda = \frac{1}{2}$, 此时

显然, 当$t\in T$时, $-\frac{1}{4}t>-\frac{5}{2}t+\frac{1}{4}$. 故由定义2.1可知$h_t(x) = -tx^2$不是$\alpha_t$ -凸函数, $t\in T$. 注意到, $A = \{x\in C:h_t(x)\leq0, t\in T\} = {\Bbb R}$. 令$x_0 = 0, \varepsilon = \bar{\lambda}_t = 1, t\in T$, 则$x_0\in A$, $\bar\lambda = (\bar\lambda_T)_{t\in T}\in A(x_0)$且(3.3) 式成立, 但$x_0 = 0$不是问题$(P)$的拟$(3+2m)$ -最优解.

若$f, h_t, t\in T$均为凸函数, 我们引入如下约束规范条件.

定义3.6   令$x\in A$. 若

则称系统$\{\delta_C; h_t:t\in T\}$在点$x$处满足$(ABCQ)_f$条件. 若对任意的$x\in A$, (3.8) 式成立, 则称该系统满足$(ABCQ)_f$条件.

类似定理3.3和定理3.4的证明, 我们可得如下定理.

定理3.7   令$x_0\in A$, $f, h_t, t\in T$为凸函数. 假设系统$\{\delta_C; h_t:t\in T\}$在点$x_0$处满足$(ABCQ)_f$条件, 则$x_0$是问题$(P)$的拟$\varepsilon$ -最优解当且仅当存在$\bar{\lambda}\in A(x_0)$使得

令$\varepsilon = 0$. 由定理3.7可得如下推论.

推论3.8   令$x_0\in A$, $f, h_t, t\in T$为凸函数. 假设系统$\{\delta_C; h_t:t\in T\}$在点$x_0$处满足$(ABCQ)_f$条件, 则$x_0$是问题$(P)$的最优解当且仅当存在$\bar{\lambda}\in A(x_0)$使得

注3.9   为建立问题$(P)$的$KKT$类最优性条件, 文献[5] 引入了如下约束规范条件

其中$x\in A,$并在该约束规范条件下得到了与推论3.8相同的结论. 显然, $(BCQ)_f$条件强于$(ABCQ)_f$条件, 故推论3.8改进了文献[5, 推论4.1] 的结论.

令$\alpha, \alpha_t\ge 0, t\in T$. 在本节中, 若无特别说明, 我们总是假设$f:X\rightarrow \overline{{{\Bbb R}}}$是$\alpha$ -凸函数, $h_t:X\rightarrow \overline{{{\Bbb R}}}$是$\alpha_t$ -凸函数, $t\in T$. 定义问题$(P)$的混合型对偶问题为

其中, Lagrange函数$L:C\times {\Bbb R}_+^{(T)}\rightarrow \overline{{{\Bbb R}}}$定义为

记$F(D)$为问题$(D)$的可行集.

定义4.1   令$\varepsilon\geq0$, $(y_0, \bar{\lambda}, \bar{\mu})\in F(D)$. 若对任意的$(y, \lambda, \mu)\in F(D)$有

则称$(y_0, \bar{\lambda}, \bar{\mu})$是问题$(D)$的拟$\varepsilon$ -最优解.

定理4.2   令$\varepsilon \geq0$. 对任意的$x\in A$和$(y, \lambda, \mu)\in F(D)$, 以下不等式成立

证  任取$x\in A$和$(y, \lambda, \mu)\in F(D)$. 则有

故存在$\xi\in\hat{\partial}f(y), \eta_t\in\hat{\partial}h_t(y), t\in T, \gamma\in N(y;C)$和$b\in {\Bbb B}^\ast$使得

由$\gamma\in N(y;C)$, $x\in A\subseteq C$可知, $\langle\gamma, x-y\rangle\leq0$. 结合(4.2) 式和Cauchy-Schwarz不等式可得

又因为$f$是$\alpha$ -凸函数, $h_t$是$\alpha_t$ -凸函数, $t\in T$, 由引理2.2可知

注意到, 对任意的$x\in A$, $(\lambda_t+\mu_t)h_t(x)\leq0$且$\mu_th_t(y)\geq0$. 故由上式可得

即

因此(4.1) 式成立.

定理4.3   令$\varepsilon\geq0$, $(x_0, \bar{\lambda}, 0)$或$(x_0, 0, \bar{\lambda})\in F(D)$满足$\bar{\lambda}_th_t(x_0) = 0$. 若$x_0\in A$, 则$x_0$是问题$(P)$的拟$(\varepsilon+2\alpha+2\sum\limits_{t\in T}\bar{\lambda}_t\alpha_t)$ -最优解.

证  设$(x_0, \bar{\lambda}, 0)$或$(x_0, 0, \bar{\lambda})\in F(D)$满足$\bar{\lambda}_th_t(x_0) = 0$, 则存在$\xi\in\hat{\partial}f(x_0), \gamma\in N(x_0;C), \eta_t\in\hat{\partial}h_t(x_0), t\in T$和$b\in {\Bbb B}^\ast$使得(3.4) 式成立. 假设$x_0\in A$不是问题$(P)$的拟$(\varepsilon+2\alpha+2\sum\limits_{t\in T}\bar{\lambda}_t\alpha_t)$ -最优解, 则存在$\bar{x}\in A$使得

由于$f$是$\alpha$ -凸函数, $h_t:X\rightarrow \overline{{{\Bbb R}}}$是$\alpha_t$ -凸函数, $t\in T$, 由引理2.2有

同时, 由$\gamma\in N(x_0;C)$, $\bar x \in A\subseteq C$可知

从而由(3.4), (4.4)–(4.6) 式可得

注意到, $\bar{\lambda}_th_t(\bar{x})\leq0$和$\bar{\lambda}_th_t(x_0) = 0$. 因此

与(4.3) 式矛盾, 故$x_0$是问题$(P)$的拟$(\varepsilon+2\alpha+2\sum\limits_{t\in T}\bar{\lambda}_t\alpha_t)$ -最优解.

定理4.4   令$\varepsilon\ge 0, x_0\in A$. 假设$f$是$\alpha$ -凸函数, $h_t$是凸函数, $t\in T$. 若存在$\bar{\lambda}\in A(x_0)$使得(3.3) 式成立, 则$x_0$是问题$(P)$的拟$(\varepsilon+2\alpha)$ -最优解, 且$(x_0, \bar{\lambda}, 0) \rm{和} (x_0, 0, \bar{\lambda})$是问题$(D)$的拟$(\varepsilon+2\alpha)$ -最优解.

证  设$\bar{\lambda}\in A(x_0)$使得(3.3) 式成立. 故由定理3.4可知$x_0$是问题$(P)$的拟$(\varepsilon+2\alpha)$ -最优解, 且$(x_0, \bar{\lambda}, 0)$和$(x_0, 0, \bar{\lambda})$是问题$(D)$的可行解. 注意到, 对任意的$(y, \lambda, \mu)\in F(D)$,

故$(x_0, \bar{\lambda}, 0) \rm{和} (x_0, 0, \bar{\lambda})$是问题$(D)$的拟$(\varepsilon+2\alpha)$ -最优解.

当$\mu_t = 0, t\in T$时, 问题$(D)$转化为Wolfe型对偶问题, 即

记$F(D^W)$为问题$(D^W)$的可行集. 故由定理4.2和定理4.3, 我们可得以下推论.

推论4.5   令$\varepsilon\geq0$. 则对任意的$x\in A$和$(y, \lambda)\in F(D^W)$有

推论4.6   令$\varepsilon\geq0$. 设$(x_0, \bar{\lambda})\in F(D^W)$满足$\bar{\lambda}_th_t(x_0) = 0$. 若$x_0\in A$, 则$x_0$是问题$(P)$的拟$(\varepsilon+2\alpha+2\sum\limits_{t\in T}\bar{\lambda}_t\alpha_t)$ -最优解.

推论4.7   令$\varepsilon \geq0, x_0\in A$. 若存在$\bar{\lambda}\in A(x_0)$使得(3.3) 式成立, 则$x_0$和$(x_0, \bar{\lambda})$分别是问题$(P)$和问题$(D^W)$的拟$(\varepsilon+2\alpha+2\sum\limits_{t\in T}\bar{\lambda}_t\alpha_t)$ -最优解.

证  设$\bar{\lambda}\in A(x_0)$使得(3.3) 式成立. 故由定理3.4可知$x_0$是问题$(P)$的拟$(\varepsilon+2\alpha+2\sum\limits_{t\in T}\bar{\lambda}_t\alpha_t)$ -最优解且$(x_0, \bar{\lambda})$是问题$(D^W)$的可行解. 注意到, 对任意的$(y, \lambda, \mu)\in F(D^W)$,

故$(x_0, \bar{\lambda})$是问题$(D^W)$的拟$(\varepsilon+2\alpha+2\sum\limits_{t\in T}\bar{\lambda}_t\alpha_t)$ -最优解.

当$\lambda_t = 0, t\in T$时, 问题$(D)$转化为Mond-Weir型对偶问题, 即

记$F(D^M)$为问题$(D^M)$的可行集. 由定理4.2, 我们可得如下推论.

推论4.8   令$\varepsilon \geq0$. 则对任意的$x\in A$和$(y, \mu)\in F(D^M)$有

类似定理4.3和推论4.7的证明, 我们可得以下结论.

推论4.9   令$\varepsilon \geq0$, $(x_0, \bar{\mu})\in F(D^M)$. 若$x_0\in A$, 则$x_0$是问题$(P)$的拟$(\varepsilon+2\alpha+2\sum\limits_{t\in T}\bar{\mu}_t\alpha_t)$ -最优解.

推论4.10   令$\varepsilon\geq0, x_0\in A$. 若存在$\bar{\mu}\in{\Bbb R}_+^{(T)}$使得$\bar{\mu}_th_t(x_0) = 0, t\in T$和下式成立

则$x_0$和$(x_0, \bar{\mu})$分别是问题$(P)$和问题$(D^M)$的拟$(\varepsilon+2\alpha+2\sum\limits_{t\in T}\bar{\mu}_t\alpha_t)$ -最优解.