近年来, 如下分数阶Choquard方程受到许多学者的关注

(1.1) $ \begin{equation} (-\triangle)^s u +\lambda u = (|x|^{-\mu} \ast |u|^p\big)|u|^{p-2}u, \; \; \; x \in\Omega, \end{equation} $

其中$ s \in (0, 1) $, $ \mu \in (0, N) $, $ N>2s $, $ \Omega $是$ {{\Bbb R}} ^N $中光滑的区域. 需要指出的是, 当$ N = 3 $, $ s = 1 $, $ \mu = 1 $, $ p = 2 $, $ \Omega = {{\Bbb R}} ^N $, 方程(1.3) 退化为如下所谓的Choquard-Pekar方程

(1.2) $ \begin{equation} -\triangle u +\lambda u = (|x|^{-1} \ast u^2\big)u, \; \; \; x \in{{\Bbb R}} ^N. \end{equation} $

这类方程可作为描述极化子的一种量子理论模型, 也可作为近似于Hartree-Fock理论中的一组等离子体来刻画限制在自身洞中的电子模型^{[19, 27]}. 在文献[28] 中, Penrose将方程(1.3) 作为自引力的模型, 并将该过程中量子减少的状态解释成一种引力现象.

在数学上, 研究方程(1.2) 似乎始于文献[19] 和[21]. 在文献[19] 中, Lieb证明了方程(1.2) 对称基态解的存在性和惟一性(在平移的意义下); 在文献[21] 中, Lions证明了方程(1.2) 无穷多对称解的存在性. 更多涉及方程(1.3) 解的存在性、多重性结果, 可参见文献[1, 5, 7-8, 15-16, 24-25, 31]及其参考文献.

当$ s \in (0, 1) $时, 称方程(1.3) 为分数阶Choquard方程. 在文献[14] 中, Frank和Lenzmann证明了如下分数阶Choquard方程基态解的正则性、解析性和对称性

$ \sqrt{-\triangle u}+u = (|x|^{-1} \ast |u|^2\big)u, \; \; \; \; \; \; x \in {{\Bbb R}} ^N. $

在文献[11]中, 作者研究了如下分数阶Choquard方程弱解的正则性和基态解的存在性

$ \begin{eqnarray*} (-\triangle )^su+\lambda u = \big(|x|^{-\mu}\ast |u|^p\big)|u|^{p-2}u, \; \; \; \; x \in{{\Bbb R}} ^N, \end{eqnarray*} $

其中$ 2_{\mu, s}< p< 2_{\mu, s}^\ast $, $ 2_{\mu, s}^\ast: = \frac{2N-\mu}{N-2s} $和$ 2_{\mu, s}: = \frac{2N-\mu}{N} $分别是Hardy-Littlewood-Sobole不等式的意义下的上、下临界指数. 在文献[26] 中, 作者考虑了如下带有临界指数增长的分数阶Choquard方程

$ \begin{eqnarray*} \left\{\begin{array}{ll} (-\triangle )^su-\beta u = (|x|^{-\mu}\ast |u|^{2_{\mu, s}^\ast}\big)|u|^{2_{\mu, s}^\ast-2}u, \; \; &x \in\Omega, \\ u = 0, &x \in{{\Bbb R}} ^N\setminus\Omega, \end{array}\right. \end{eqnarray*} $

其中$ \Omega $是$ {{\Bbb R}} ^N $中光滑的有界区域. 作者利用变分法证明了上述方程解的存在性、多重性以及正则性. 更多关于分数阶Choquard方程的结果, 可参见文献[6, 18, 32] 及其参考文献.

然而, 在非线性项超临界增长的条件下, 关于分数阶Choquard方程解的存在性和相关性质却鲜有研究. 当非线性项是幂函数$ |u|^{p-2}u $时, 条件$ 2_{\mu, s}\leq p\leq2_{\mu, s}^\ast $似乎是必不可少的, 因为此条件保证了相应的能量泛函在$ H^s(\Omega) $中是有定义的, 从而各种临界点理论能够得于使用. 特别地, 作者在文献[12] 中证明了当$ p>2_{\mu, s}^\ast $时方程(1.3) 没有非平凡解. 受上述文献的启发, 该文将致力于研究带有临界增长或超临界增长的分数阶Choquard方程解的存在性和多重性. 据作者所知, 目前还没有任何结果涉及此问题的研究.

首先, 该文考虑如下分数阶Choquard方程

$ \begin{align} (-\triangle)^s u+u = f(u)+\lambda(|x|^{-\mu} \ast |u|^q\big)|u|^{q-2}u, \; \; \; \; x\in{{\Bbb R}} ^N, \;\;\;\;\;\left( {{P_\lambda }} \right)\end{align} $

其中$ s \in (0, 1) $, $ \mu\in (0, N) $, $ N>2s $, $ q\geq 2_{\mu, s}^\ast $, $ f $满足如下假设:

$ (f_1) $$ f\in C({{\Bbb R}} , {{\Bbb R}} ) $, $ f(t) = 0 $, $ \forall t\leq0 $, 以及存在$ p\in (2, 2_s^\ast) $使得$ |f(t)|\leq C(1+|t|^{p-1}) $.

$ (f_2) $$ \lim\limits_{t\rightarrow0}\frac{f(t)}{t} = 0 $和$ \lim\limits_{t\rightarrow +\infty}\frac{F(t)}{t^2} = +\infty $.

$ (f_3) $$ t\mapsto\frac{f(t)}{t} $在$ (0, +\infty) $上是非减的.

注1.1  该文并不需要如下著名的$ \rm {Ambrosetti-Rabinowize} $条件(简称$ \rm {AR} $条件):

$ (f) $存在$ \alpha>2 $使得$ f(t)t\geq\alpha F(t) $, $ \forall t\in {{\Bbb R}} $.

其经常用来保证相应能量泛函的$ (PS)_c $序列的有界性. 事实上, 有许多函数满足条件$ (f_1) $–$ (f_3) $, 但不满足条件$ (f) $. 例如

$ \begin{eqnarray*} f(t) = \left\{\begin{array}{ll} t^2, \; \; \; &0\leq t<1, \\ t^p, \; &t\geq1, \end{array}\right. \end{eqnarray*} $

其中$ p\in (2, 2_s^\ast) $. 此外, 条件$ f\in C^1({{\Bbb R}} , {{\Bbb R}} ) $可弱化为$ f\in C({{\Bbb R}} , {{\Bbb R}} ) $.

注1.2 由条件$ (f_1) $–$ (f_3) $可知$ f(t)t\geq 2F(t)\geq 0 $, $ \forall t \in {{\Bbb R}} $.

该文第一个结果如下：

定理1.1  在$ (f_1) $–$ (f_3) $和$ \mu \in (0, \frac{4Ns}{N+2s}) $的假设下, 当$ \lambda $充分小时方程$ (P_\lambda) $至少有一个正解.

其次, 该文将考虑如下分数阶Choquard方程

$ \begin{align} \left\{\begin{array}{ll} (-\triangle )^su+u = f(u)+\big(|x|^{-\mu} \ast |u|^q\big)|u|^{q-2}u, \; \; &x \in\Omega, \\ u = 0, &x \in{{\Bbb R}} ^N\setminus\Omega, \end{array}\right. \;\;\;\;\left( P \right)\end{align} $

其中$ s \in (0, 1) $, $ \mu\in (0, N) $, $ N>2s $, $ q\geq 2_{\mu, s}^\ast $, $ \Omega $是$ {{\Bbb R}} ^N $中光滑的有界区域, $ f $满足如下假设:

$ (f_4) $存在$ \delta_1>0 $使得$ f\in C((-\delta_1, \delta_1), {{\Bbb R}} ) $, 以及$ \lim\limits_{t\rightarrow 0}\frac{f(t)}{t} = +\infty. $

$ (f_5) $存在$ \alpha\in (0, 2) $, $ \delta_2>0 $和$ \beta>0 $使得对任意的$ t\in(-\delta_2, \delta_2) $都有$ \alpha F(t)-f(t)t\geq \beta |t|^q $, 其中$ F(t) = \int_0^tf(r){\rm d}r $.

$ (f_6) $存在$ \delta_3>0 $使得对任意的$ t\in(-\delta_3, \delta_3) $都有$ f(-t) = -f(t) $.

注1.3  不失一般性, 可假设$ \delta_0: = \delta_1 = \delta_2 = \delta_3 $. 此外, 若$ f(t) = |t|^{r-2}t $且$ q\geq r+1 $, 则$ f $满足条件$ (f_4) $–$ (f_6) $.

方程$ (P) $对应的能量泛函定义为

$ \begin{eqnarray*} E(u)& = &\frac{1}{2}\int_\Omega |(-\triangle)^{\frac{s}{2}}u|^2{\rm d}x+\frac{1}{2}\int_\Omega |u|^2{\rm d}x -\int_{\Omega}F(u){\rm d}x\\ &&-\frac{1}{2p}\int_{\Omega}\big(|x|^{-\mu} \ast |u|^p\big)|u|^p{\rm d}x, \; \; \forall u\in H_0^s(\Omega). \end{eqnarray*} $

定义1.1  若方程$ (P) $的弱解$ u $满足$ E(u)< 0 $, 则称$ u $是负能量解; 若方程$ (P) $的弱解序列$ \{u_k\} $满足当$ k\rightarrow \infty $时, $ u_k\rightarrow 0 $ ($ H^s $模意义下), 则称$ \{u_k\} $是小解序列.

该文的第二个结果如下:

定理1.2  假设条件$ (f_4) $–$ (f_6) $成立. 则方程$ (P) $有无穷多对负能量小解.

如下推论可由定理1.2和注1.3直接得出.

推论1.1  考虑如下分数阶Choquard方程

$ \begin{eqnarray*} \label{eq1.1} \left\{\begin{array}{ll} (-\triangle )^su+u = |u|^{p-2}u+\big(|x|^{-\mu} \ast |u|^q\big)|u|^{q-2}u, \; \; &x \in\Omega, \\ u = 0, &x \in{{\Bbb R}} ^N\setminus\Omega, \end{array}\right. \end{eqnarray*} $

其中$ \mu\in (0, N) $, $ N>2s $, $ q\geq 2_{\mu, s}^\ast $. 如果下列条件之一成立, 则上述方程有无穷多对负能量小解:

(1) $ 2_{\mu, s}^\ast<2\leq q $和$ p \in (0, 1) $,

(2) $ 2_{\mu, s}^\ast\leq q < 2 $和$ p \in (0, q-1) $.

注1.4  在利用变分方法处理临界问题时, Brézis和Nirenberg在文献[3] 中的技巧被广泛地使用, 即通过精确估计山路水平值使得能量泛函在某一水平集之下的紧性得于恢复. 该文的一个创新点是不利用这种技巧而是通过一个新的截断技巧来处理临界情形.

注1.5  通过一个类似的讨论, 当$ s = 1 $时定理1.1和1.2仍成立.

该文所面临的一些困难和应对策略陈述如下. 首先, 该文考虑超临界问题, 从变分的观点看, 证明定理1.1和定理1.2一个主要困难是没有适当的工作空间使得对应能量泛函在其上是有意义的. 克服这一困难的策略是引入两种不同的截断技巧. 通过利用截断技巧, 将原问题转化为次临界问题来研究, 然后利用已有的变分方法来研究此修正问题, 最后通过$ L^\infty $估计得到原问题解的存在性, 类似的思想可参见文献[22].

然而, 截断后的修正问题所对应的Nehari流形并不是$ C^1 $的完备流形. 为了克服这一困难, 该文将使用Szulkin在文献[30] 中提出的方法. 另一方面, 相比于局部问题, 卷积项的出现导致$ L^\infty $的估计需要更加精细, 因此一些分析技巧将被使用. 最后, 如前所述, 证明定理1.1的另一个困难是AR条件的缺失导致泛函的$ (PS)_c $序列的有界性难于验证. 为了克服这一困难, 该文将使用一个单调性技巧和Ekeland变分原理.

记号: $ \rightarrow $和$ \rightharpoonup $分别表示强收敛和弱收敛. $ | \cdot|_r $表示$ L^r(\Omega) $上的范数, $ 1\leq r\leq \infty $. $ S_1 $表示Banach空间中的单位球. $ B_\rho(x) $表示以$ x $为中心$ \rho $为半径的球. $ C $表示不同的常数.

在证明主要结果之前, 给出一些有用定义和记号. 对任意的$ s\in(0, 1) $, 分数阶Sobolev空间$ H^s({{\Bbb R}} ^N) = W^{s, 2}({{\Bbb R}} ^N) $定义如下:

$ H^s({{\Bbb R}} ^N) = \bigg\{u\in L^2({{\Bbb R}} ^N)\bigg|\int_{{{\Bbb R}} ^N}\big(|\xi|^{2s}|{{\cal F}(u)}|^2+|{{\cal F}(u)}|^2\big){\rm d}\xi<\infty\bigg\}, $

其范数定义为

$ \|u\|^2_{H^{s}({{\Bbb R}} ^N)} = \int_{{{\Bbb R}} ^N}\big(|\xi|^{2s}|{{\cal F}(u)}|^2+|{{\cal F}(u)}|^2\big){\rm d}\xi, $

其中$ {\cal F} $表示Fourier变换. 定义齐次分数阶Sobolev空间$ {\cal D}^{s, 2}({{\Bbb R}} ^N) $为$ {\cal C}_0^\infty({{\Bbb R}} ^N) $在如下范数下的完备化空间

$ [u]: = \bigg({{\int\!\!\int}}_{{{\Bbb R}} ^N\times {{\Bbb R}} ^N}\frac{|u(x)-u(y)|^2}{|x-y|^{N+2s}}{\rm d}x{\rm d}y\bigg)^{\frac{1}{2}}, $

其内积为

$ [u, v]: = \int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N} \frac{(u(x)-u(y))(v(x)-v(y))}{|x-y|^{N+2s}}{\rm d}x{\rm d}y. $

嵌入$ {\cal D}^{s, 2}({{\Bbb R}} ^N)\hookrightarrow L^{2^*_s}({{\Bbb R}} ^N) $是连续的, 即对任意的$ s\in(0, 1) $, 存在一个最佳常数$ S_s>0 $使得

$ S_s: = \inf\limits_{u\in{\cal D}^{s, 2}({{\Bbb R}} ^N)}\frac{[u]^2}{|u|_{2^*_s}^2}. $

分数阶Laplace算子$ (-\Delta)^s $定义为:

$ {\cal F}((-\Delta)^s u)(\xi) = |\xi|^{2s}{\cal F}(u)(\xi), {\quad} \xi\in {{\Bbb R}} , $

其中$ u:{{\Bbb R}} ^N\rightarrow {{\Bbb R}} $是光滑函数. 此外, 由Fourier分析中的Plancherel公式可知

$ [u]^2_{H^{s}({{\Bbb R}} )} = \frac{2}{C(s)}|(-\Delta)^{\frac{s}{2}}u|^2_2. $

从而, 如下分数阶Sobolev空间上的范数等价

$ \begin{eqnarray*} &&u\longmapsto\bigg(\int_{{{\Bbb R}} }|u|^2{\rm d}x+{{\int\!\!\int}}_{{{\Bbb R}} ^N\times{{\Bbb R}} ^N}\frac{|u(x)-u(y)|^2}{|x-y|^{N+2s}}{\rm d}x{\rm d}y\bigg)^{\frac{1}{2}};\\ &&u\longmapsto\bigg(\int_{{{\Bbb R}} ^N}(|\xi|^{2s}|{{\cal F}(u)}|^2+|{{\cal F}(u)}|^2){\rm d}\xi\bigg)^{\frac{1}{2}};\\ &&u\longmapsto\bigg(\int_{{{\Bbb R}} ^N}|u|^2{\rm d}x+|(-\Delta)^{\frac{s}{2}}u|^2_2 \bigg)^{\frac{1}{2}}. \end{eqnarray*} $

更多关于分数阶Sobolev空间的性质可参见文献[12]及其参考文献.

由于卷积项的出现, 需要如下著名的Hardy-Littlewood-Sobolev不等式^[20].

引理2.1  假设$ \mu\in(0, N) $和$ s, r>1 $且满足$ \frac{1}{s}+\frac{1}{r} = 1+\frac{\mu}{N} $. 若$ g\in L^s({{\Bbb R}} ^N) $和$ h\in L^r({{\Bbb R}} ^N) $, 则存在一个与$ g $和$ h $无关的最佳常数$ C(s, \mu, r, N) $使得

$ \int_{{{\Bbb R}} ^N}(|x|^{-\mu}\ast g)h\leq C(s, \mu, r, N)|g|_s|h|_r. $

由文献[4] 可知, 对任意的$ u \in H^s({{\Bbb R}} ^N) $, 如下方程的唯一解$ w \in X^s({{\Bbb R}} ^{N+1}_+) $

$ \begin{eqnarray*} \left\{\begin{array}{ll} -\hbox{div}(y^{1-2s}\nabla w) = 0, \; \; &(x, y)\in {{\Bbb R}} ^{N+1}_+: = \{(x, y)|x\in {{\Bbb R}} ^N, \; y\geq0\}, \\ w = u, \; &(x, y)\in {{\Bbb R}} ^N\times \{0\}, \end{array}\right. \end{eqnarray*} $

称为$ u $的$ s $ -调和延拓, 记为$ w = E_s(u) $或$ u = \hbox{tr}_{{{\Bbb R}} ^N}(w) $. 由文献[4] 可知

$ (-\Delta)^s u = -\frac{1}{\kappa_s}\lim\limits_{y\rightarrow0^+}y^{1-2s}\frac{\partial w}{\partial y}(x, y), $

其中

$ \kappa_s = 2^{1-2s}\frac{\Gamma(1-s)}{\Gamma(s)}. $

$ X^s({{\Bbb R}} ^{N+1}_+) $表示$ C_0^\infty(\overline{{{\Bbb R}} ^{N+1}_+}) $关于如下范数的完备化空间

$ \|w\|^2 = \kappa_s\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y. $

由文献[4] 可知$ X^s({{\Bbb R}} ^{N+1}_+)\hookrightarrow L^{2_s^*}({{\Bbb R}} ^N) $是连续的. 因此, 非局部方程$ (P_{\lambda}) $可转化为如下局部方程

(2.1) $ \begin{equation} \left\{\begin{array}{ll} -\hbox{div}(y^{1-2s}\nabla w) = 0, & (x, y)\in{{\Bbb R}} ^{N+1}_+, \\ { } \frac{\partial w}{\partial\nu}+w = f(w)+\lambda\big(|x|^{-\mu} \ast |w|^q\big)|w|^{q-2}w, \; \; &(x, 0)\in{{\Bbb R}} ^N\times \{0\}, \end{array}\right. \end{equation} $

其中$ \frac{\partial w}{\partial\nu} = -\frac{1}{\kappa_s}\lim\limits_{y\rightarrow0^+}y^{1-2s}\frac{\partial w}{\partial y}(x, y). $显然, 若$ w(x, y) \in X^s({{\Bbb R}} ^{N+1}_+) $是方程(2.1) 的解, 则$ u(x) = w(x, 0) $是方程$ (P_\lambda) $的解. 记

$ E: = \bigg\{w \in X^s({{\Bbb R}} ^{N+1}_+)\bigg|\int_{{{\Bbb R}} ^N}w^2(x, 0)<\infty\bigg\} $

并赋予如下范数

$ \|w\|^2 = \int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y+\int_{{{\Bbb R}} ^N}w^2(x, 0){\rm d}x. $

此外, tr$ _{{{\Bbb R}} ^N}E = H^s({{\Bbb R}} ^N) $, 其中tr$ _{{{\Bbb R}} ^N}E = \{w(x, 0)|w(x, y) \in E\} $. 对任意的$ 2\leq r \leq 2_s^* $, $ E\hookrightarrow L^r({{\Bbb R}} ^N) $是连续的；对任意的$ 1\leq r < 2_s^* $, $ E\hookrightarrow L_{loc}^r({{\Bbb R}} ^N) $是紧的. 为了方便起见, 将省略常数$ \kappa_s $和积分符号$ {\rm d}x $, 以及用$ w(x) $代替$ w(x, 0) $.

显然, 定义在$ E $上的泛函

$ I_\lambda(w) = \frac{1}{2}\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y+\frac{1}{2}\int_{{{\Bbb R}} ^N}|w|^2-\int_{{{\Bbb R}} ^N}F(w)-\frac{\lambda}{2q}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast |w|^q\big)|w|^q $

的临界点是方程(2.1) 的弱解. 此外, 由于该文考虑的是超临界问题, 所以泛函$ I_\lambda $在$ E $上没有定义. 为了克服这一困难, 该文借用文献[22] 中的截断技巧来控制超临界项. 设$ \kappa>1 $为一正常数（取值稍后确定）和$ \theta = 2_{\mu, s} $, 定义函数

(2.2) $ \begin{equation} g_{\kappa}(t) = \left\{\begin{array}{ll} 0, \; \; &t\leq0, \\ t^{q-1}, &0<t\leq \kappa, \\ \kappa^{q-\theta} t^{\theta-1}, \; \; &t>\kappa, \end{array}\right. \end{equation} $

则$ g_{\kappa}\in C({{\Bbb R}} , {{\Bbb R}} ) $且

(2.3) $ \begin{equation} G_{\kappa}(t) = \int_0^tg_{\kappa}(r)dr = \left\{\begin{array}{ll} 0, \; &t\leq0, \\ { } \frac{t^q}{q}, \; \; &0<t\leq \kappa, \\ { } \frac{\kappa^{q-\theta}}{\theta}t^\theta+\big(\frac{1}{q}-\frac{1}{\theta}\big)\kappa^q, \; \; &t>\kappa. \end{array}\right. \end{equation} $

引理2.2  对任意的$ t\in{{\Bbb R}} $, $ g_{\kappa} $和$ G_{\kappa} $满足如下性质:

(1) $ 0\leq g_{\kappa}(t)\leq\kappa^{q-\theta}t^{\theta-1} $和$ 0\leq G_{\kappa}(t)\leq\frac{\kappa^{q-\theta}}{\theta}t^\theta $.

(2) 对任意的$ \varepsilon>0 $, 存在$ C_\varepsilon>0 $使得

$ g_{\kappa}(t)\leq\varepsilon t+ C_\varepsilon\kappa^{q-\theta}t^{p-1} \; \; \hbox{和}\; \; G_{\kappa}(t)\leq\frac{\varepsilon}{2} t^2+\frac{C_\varepsilon\kappa^{q-\theta}}{p} t^{p}. $

证   因为性质$ (1) $的证明是标准的, 故只证明性质$ (2) $. 由$ g_{\kappa}(t) $的定义可知, 对任意的$ \varepsilon>0 $, 存在$ \delta = \delta(\varepsilon)>0 $使得当$ 0<t<\delta $时$ g_{\kappa}(t)<\varepsilon t $. 若$ t>\kappa>1 $, 则

$ g_{\kappa}(t) = \kappa^{q-\theta} t^{\theta-1}\leq \kappa^{q-\theta} t^{p-1}. $

对任意的$ \delta\leq t\leq\kappa $, 若$ q>p $, 则

$ g_{\kappa}(t) = t^{q-1} = t^{q-p}t^{p-1}\leq \kappa^{q-\theta} t^{p-1}, $

若$ q\leq p $, 则

$ g_{\kappa}(t) = t^{q-1} = t^{q-p}t^{p-1}\leq \delta^{q-\theta} t^{p-1}\leq \kappa^{q-\theta}\delta^{q-\theta} t^{p-1}. $

因此, 对任意的$ t\in{{\Bbb R}} $有

$ g_{\kappa}(t)\leq \varepsilon t+C_\delta\kappa^{q-\theta}t^{p-1}, $

其中$ C_\varepsilon = (1+\delta^{q-\theta}) $.

考虑如下方程

$ \begin{align} \left\{\begin{array}{ll} -\hbox{div}(y^{1-2s}\nabla w) = 0, &(x, y)\in{{\Bbb R}} ^{N+1}_+, \\ { } \frac{\partial w}{\partial\nu}+w = f(w)+\lambda q \big(|x|^{-\mu} \ast G_\kappa(w)\big)g_\kappa(w), \; \; &(x, 0)\in{{\Bbb R}} ^N\times \{0\}, \end{array}\right. \;\;\;\;\left( {{P_\lambda }, \kappa } \right)\end{align} $

其能量泛函定义为

$ J_{\lambda, \kappa}(w) = \frac{1}{2}\|w\|^2-\int_{{{\Bbb R}} ^N}F(w)-\frac{\lambda q}{2}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast G_\kappa(w)\big) G_\kappa(w). $

由条件$ (f_1) $–$ (f_2) $和引理2.1–2.2可得$ J_{\lambda, \kappa} \in C^1(E, {{\Bbb R}} ) $. 此外, 若方程$ (P_\lambda, \kappa) $的正解$ w_{\lambda, \kappa} $满足$ |w_{\lambda, \kappa}|_\infty\leq \kappa $, 则$ w_{\lambda, \kappa} $是方程$ (P_\lambda) $的解. 为了完成定理1.1的证明, 首先证明如下定理.

定理2.1 假设$ (f_1) $–$ (f_3) $成立. 则对任意的$ \lambda, \; \kappa, >0 $, 方程$ (P_{\lambda, \kappa}) $至少有一个正解.

引理2.3  $ J_{\lambda, \kappa} $满足山路几何结构, 即

(1) 存在$ \alpha, \; \rho_0>0 $使得对任意的$ w\in \partial B_{\rho_0} $, $ J_{\lambda, \kappa}(w)\geq \alpha $.

(2) 存在$ e\in E $使得当$ e \notin B_{\rho_0} $时, $ J_{\lambda, \kappa}(e)<0 $.

证   由条件$ (f_1) $–$ (f_2) $可知, 对任意的$ \sigma>0 $, 存在$ C_\sigma>0 $使得

$ f(t)\leq \sigma|t|+C_\sigma|t|^{p-1} \; \; \hbox{和}\; \; F(t)\leq \sigma|t|^2+C_\sigma|t|^p, $

结合Hardy-Littlewood-Sobolev不等式可知, 对充分小的$ \sigma>0 $, $ w\in \partial B_\rho $, 有

$ \begin{eqnarray*} J_{\lambda, \kappa}(w)& = &\frac{1}{2}\|w\|^2-\int_{{{\Bbb R}} ^N}F(w)-\frac{\lambda q}{2}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast G_\kappa(w)\big) G_\kappa(w)\\ &\geq &\frac{1}{2}\|w\|^2-\sigma\int_{{{\Bbb R}} ^N}w^2-C_\sigma\int_{{{\Bbb R}} ^N}|w|^p-C\lambda\bigg(\int_{{{\Bbb R}} ^N}\big|G_\kappa(w)\big|^{\frac{2N}{2N-\mu}}\bigg) ^\frac{2N-\mu}{N}\\ &\geq &\frac{1}{2}\|w\|^2-\sigma|w|_2^2-C_\sigma|w|^p_p-C|w|_2^{2\theta}\\ &\geq &\frac{1}{4}\|w\|^2-C\|w\|^p-C\|w\|^{2\theta}\\ & = &\frac{1}{4}\rho^2-C\rho^p-C\rho^{2\theta}. \end{eqnarray*} $

因为$ \theta>1 $和$ p>2 $, 则可选取$ \rho_0>0 $使得$ (1) $成立. 现取$ w_0\in C_0^\infty({{\Bbb R}} ^{N+1}_+)\setminus \{0\} $满足$ w_0\geq 0 $, 由$ (f_2) $和Fatou引理可知

$ \begin{eqnarray*} J_{\lambda, \kappa}(tw_0)\leq\frac{t^2}{2}\|w_0\|^2-t^2\int_{w_0>0}\frac{F(tw_0)}{t^2w_0^2}w_0^2\rightarrow -\infty. \end{eqnarray*} $

选取充分大的$ t_0>0 $, 则当$ e = t_0w_0 $时结论$ (2) $成立.

记$ h(t) = J_{\lambda, \kappa}(tw) $, $ E^+ = \{w\in E|w^+\neq0\} $和

$ {\cal N}_{\lambda, \kappa} = \{w\in E\setminus\{0\} |\langle J_{\lambda, \kappa}^\prime(w), w\rangle = 0\}. $

引理2.4  对任意的$ w\in E^+ $, 存在唯一的$ t_w>0 $使得当$ t>t_w $时$ h^\prime(t)>0 $; 当$ t<t_w $$ h^\prime(t)<0 $. 此外, $ t_w w\in {\cal N}_{\lambda, \kappa} $和$ h(t_w ) = \max\limits_{t\geq0}h(t). $

证   类似于引理2.3的证明可知, 当$ t $充分小时$ h(t)>0 $, 当$ t $充分大时$ h(t)<0 $. 则存在$ t_w>0 $使得$ h^\prime(t_w) = 0 $, 即$ t_w w\in {\cal N}_{\lambda, \kappa} $和$ h(t_w ) = \max\limits_{t\geq0}h(t). $

下证$ t_w $是唯一的. 事实上, $ h^\prime(t) = 0 $等价于

(2.4) $ \begin{equation} \|w\|^2 = \int_{w>0}\frac{f(tw)}{tw}w^2+\int_{w>0}\int_{w>0}\frac{g_\kappa(tw(y))}{tw(y)} \frac{G_\kappa(tw(x))w^2(y)}{|x-y|^\mu}. \end{equation} $

条件$ (f_3) $和函数$ g_\kappa $在$ (0, +\infty) $上单调递增可导出一个矛盾, 故引理得证.

记

$ c_{1, \lambda, \kappa} = \inf\limits_{w\in E^+}\max\limits_{t\geq0}J_{\lambda, \kappa}(tw), \; \; \; c_{2, \lambda, \kappa} = \inf\limits_{w\in {\cal N}_{\lambda, \kappa}}J_{\lambda, \kappa}(w) $

和

$ c_{3, \lambda, \kappa} = \inf\limits_{\gamma\in\Gamma_{\lambda, \kappa}}\max \limits_{t\in[0, 1]}J_{\lambda, \kappa}(\gamma(t)), $

其中

$ \Gamma_{\lambda, \kappa} = \{\gamma\in C([0, 1], E)|\gamma(0) = 0, \; J_{\lambda, \kappa}(\gamma(1))<0\}. $

由引理2.3–2.4可知

(2.5) $ \begin{equation} c_{\lambda, \kappa}: = c_{1, \lambda, \kappa} = c_{2, \lambda, \kappa} = c_{3, \lambda, \kappa}>0. \end{equation} $

引理2.5  $ t_w $满足如下性质:

(1) 存在$ \tau>0 $使得对任意的$ w\in S: = S_1\cap E^+ $, 有$ t_w>\tau $.

(2) 对任意的紧子集$ {\cal W}\subset S $, 存在$ C_{{\cal W}}>0 $使得对任意的$ w\in {\cal W} $, 有$ t_w\leq C_{{\cal W}} $.

证   任取$ w\in S $. 对充分小的$ \sigma>0 $, 存在$ C_\sigma>0 $使得

$ \begin{eqnarray*} t_w& = &\int_{{{\Bbb R}} ^N}f(t_ww)w+\lambda q\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast G_\kappa(t_ww)\big) g_k(t_ww)w\\ &\leq& \sigma t_w|w|_2^2+ C_\sigma t_w^{p-1}|w|_p^p+C t_w^{2s-1}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast |w|^\theta\big) |w|^\theta\\ &\leq &\sigma t_w|w|^2_2+ C_\sigma t_w^{p-1}|w|_p^p+C t_w^{2s-1}|w|_2^{2\theta}\\ &\leq &C(\sigma t_w + C_\sigma t_w^{p-1}+t_w^{2s-1})\\ &\leq &\frac{1}{2}t_w+C t_w^{p-1}+C t_w^{2s-1}, \end{eqnarray*} $

上式表明性质(1) 成立.

假设性质(2)不成立, 则存在$ \{w_n\}\subset {\cal W} $以及$ t_n: = t_{w_n}\rightarrow \infty $. 不失一般性, 可假设在$ E $中$ w_n\rightarrow w $. 显然, $ w \in S $和$ \Omega_0: = \{x\in {{\Bbb R}} ^N|w(x)>0\}\neq\emptyset $. 由条件$ (f_2) $可知对任意的$ x\in\Omega_0 $, 当$ n\rightarrow \infty $时, 有$ \frac{F(t_nw_n(x))}{t_n^2w_n^2(x)}w_n^2(x)\rightarrow \infty $. 由Fatou引理和(2.5) 式可知

$ \begin{eqnarray*} 0&\leq&\frac{c_{\lambda, \kappa}}{t_n^2}\leq\frac{J_{\lambda, \kappa}(t_nw_n)}{t_n^2}\\ & = &\frac{1}{2}-\int_{{{\Bbb R}} ^N}\frac{F(t_nw_n)}{t_n^2w_n^2}w_n^2-\frac{\lambda q}{2t_n^2}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast G_\kappa(t_nw_n)\big) G_\kappa(t_nw_n)\\ &\leq&\frac{1}{2}-\int_{\Omega_0}\frac{F(t_nw_n)}{t_n^2w_n^2}w_n^2\\ &\rightarrow &-\infty, \end{eqnarray*} $

这个矛盾蕴含性质(2)成立.

定义映射$ \tilde{m}:E^+\rightarrow {\cal N}_{\lambda, \kappa} $和$ m:S\rightarrow {\cal N}_{\lambda, \kappa} $为

$ \tilde{m}(w) = t_ww\; \; \; \hbox{和}\; \; m: = \tilde{m}|_S. $

定义泛函$ \tilde{\Psi}:E^{+}\rightarrow {{\Bbb R}} $和$ \Psi: S\rightarrow {{\Bbb R}} $为

$ \tilde{\Psi}(w) = J_{\lambda, \kappa}(\tilde{m}(w))\; \; \; \hbox{和}\; \; \Psi: = \tilde{\Psi}|_S. $

由引理2.4–2.5和文献[30, 推论10] 有

引理2.6  泛函$ J_{\lambda, \kappa} $和$ \Psi $满足如下性质：

(1) $ \Psi \in C^1(S, {{\Bbb R}} ) $以及

$ \langle\Psi^\prime(w), z\rangle = \|m(w)\|\langle J^\prime_{\kappa, \lambda}(m(w)), z\rangle, \; \; \forall z \in T_w(S). $

(2) 若$ \{w_n\} $是泛函$ \Psi $的一个$ (PS) $序列, 则序列$ \{m(w_n)\} $是泛函$ J_{\lambda, \kappa} $的一个$ (PS) $序列. 若$ \{u_n\} $是泛函$ J_{\lambda, \kappa} $的一个有界$ (PS) $序列, 则序列$ \{m^{-1}(u_n)\} $是泛函$ \Psi $的一个有界$ (PS) $序列.

(3) $ w $是泛函$ \Psi $的临界点当且仅当$ m(w) $是泛函$ J_{\lambda, \kappa} $的临界点. 此外, 泛函$ J_{\lambda, \kappa} $和$ \Psi $的临界值是一致的, 且$ \inf\limits_{S}\Psi = \inf\limits_{{\cal N}_{\lambda, \kappa}}J_{\lambda, \kappa} = c_{\lambda, \kappa} $.

(4) 若泛函$ J_{\lambda, \kappa} $是偶的, 则泛函$ \Psi $也是偶的.

引理2.7  假设$ \{w_n\}\subset {\cal N}_{\lambda, \kappa} $, $ J_{\lambda, \kappa}(w_n)\rightarrow c $以及$ c\geq 0 $, 则$ \{w_n\} $在$ E $中有界.

证   若不然, 假设当$ n\rightarrow \infty $时$ \|w_n\|\rightarrow \infty $. 不失一般性, 可假设对任意的$ n \in {\Bbb N} $有$ w_n\neq 0 $. 记$ v_n = \frac{w_n}{\|w_n\|} $, 则对任意的$ r>0 $, 有

(2.6) $ \begin{equation} \lim\limits_{n\rightarrow \infty}\sup\limits_{y \in {{\Bbb R}} ^N}\int_{B_r(y)}|v_n|^2 = 0. \end{equation} $

否则, 存在$ r_0>0 $, $ \{y_n\}\subset {{\Bbb R}} ^N $和$ \delta>0 $使得

$ \int_{B_{r_0}(y_n)}|v_n|^2\geq \delta. $

记$ \tilde{v}_n = v_n(\cdot+y_n) $, 则$ \|\tilde{v}_n\| = 1 $. 现假设$ \tilde{v}_n\rightharpoonup\tilde{v} $和$ \tilde{v}\neq0 $. 此外, 由$ v_n\geq 0 $可知$ \Omega: = \{x\in {{\Bbb R}} ^N|\tilde{v}>0\}\neq \emptyset $. 记$ \tilde{w}_n = \|w_n\|\tilde{v}_n $. 由条件$ (f_2) $可知, 对任意的$ x\in\Omega $, 当$ n\rightarrow \infty $时, $ \frac{F(\tilde{w}_n(x))}{\tilde{w}^2_n(x)}(\tilde{v_n}(x))^2\rightarrow \infty $. 由Fatou引理得

$ \begin{eqnarray*} 0&\leq&\frac{c+o_n(1)}{\|w_n\|^2}\leq\frac{J_{\lambda, \kappa}(w_n)}{\|w_n\|^2}\\ & = &\frac{1}{2}-\int_{{{\Bbb R}} ^N}\frac{F(w_n)}{\|w_n\|^2}-\frac{\lambda q}{\|w_n\|^2}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast G_\kappa(w_n)\big) G_\kappa(w_n)\\ &\leq&\frac{1}{2}-\int_{{{\Bbb R}} ^N}\frac{F(w_n)}{w_n^2}v_n^2\\ & = &\frac{1}{2}-\int_{{{\Bbb R}} ^N}\frac{F(\tilde{w}_n)}{\tilde{w}_n^2}\tilde{v}_n^2\\ &\leq&\frac{1}{2}-\int_{\Omega}\frac{F(\tilde{w}_n)}{\tilde{w}_n^2}\tilde{v}_n^2\\ &\rightarrow &-\infty, \end{eqnarray*} $

矛盾. 故(2.6) 式成立. 由文献[33, 引理1.21] 可知在$ L^r(R^N) $中$ v_n\rightarrow 0 $, 其中$ 2\leq r<2_s^*. $因此, 对任意的$ \tau>0 $有

$ \begin{eqnarray*} &&\int_{{{\Bbb R}} ^N}F(\tau v_n)+\frac{\lambda q}{2}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast G_\kappa(\tau v_n)\big) G_\kappa(\tau v_n)\\ &\leq& C\tau^{2}|v_n|_2^2+C\tau^{p}|v_n|_p^p+ C\kappa^{2q-2\theta}\tau^{2\theta}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast |v_n|^\theta\big) |v_n|^\theta\\ &\leq & C\tau^{2}|v_n|_2^2+C\tau^{p}|v_n|_p^p+C\kappa^{2q-2\theta}\tau^{2\theta}|v_n|^{2\theta}_2\\ & = &o_n(1). \end{eqnarray*} $

对任意的$ \tau>0 $, 有

$ \begin{eqnarray*} c+o_n(1)& = &J_{\lambda, \kappa}(w_n) = \max\limits_{t\geq0}J_{\lambda, \kappa}(tv_n) \geq J_{\lambda, \kappa}(\tau v_n)\\ & = &\frac{\tau^2}{2}-\int_{{{\Bbb R}} ^N}F(\tau v_n)-\frac{\lambda q}{2}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast G_\kappa(\tau v_n)\big) G_\kappa(\tau v_n)\\ & = &\frac{\tau^2}{2}+o_n(1), \end{eqnarray*} $

这蕴含着对任意的$ \tau>0 $有$ c\geq \frac{\tau^2}{2} $, 矛盾.

定理2.1的证明  假设$ \{v_n\}\subset S $使得$ \Psi (v_n)\rightarrow \inf\limits_{S}\Psi $. 由Ekeland变分原理^[13], 在子列的意义下, 可假设

$ \Psi (v_n)\rightarrow \inf\limits_{S}\Psi\; \; \hbox{和}\; \; \Psi^\prime (v_n)\rightarrow 0. $

由引理2.6可知

$ J_{\lambda, \kappa}(m(v_n))\rightarrow c_{\lambda, \kappa}\; \; \hbox{和}\; \; J_{\lambda, \kappa}^\prime (m(v_n))\rightarrow 0. $

记$ w_n: = m(v_n)\subset {\cal N}_{\lambda, \kappa} $, 由引理2.7可知$ \{w_n\} $在$ E $中有界.

现断言存在$ R, \delta>0 $和$ \{y_n\}\subset {{\Bbb R}} ^N $使得

(2.7) $ \begin{equation} \liminf\limits_{n\rightarrow \infty}\int_{B_R(y_n)} |w_n|^2\geq\delta. \end{equation} $

若不然, 对任意的$ r>0 $有

$ \lim\limits_{n\rightarrow \infty}\sup\limits_{y\in {{\Bbb R}} ^N}\int_{B_r(y)}|w_n|^2 = 0, $

则在$ L^t({{\Bbb R}} ^N) $中$ w_n\rightarrow 0 $, 其中$ 2\leq t<2_s^* $. 类似于引理2.7的证明可得

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^N}f(w_n)w_n+\lambda q\int_{{{\Bbb R}} ^N}\int_{{{\Bbb R}} ^N}\frac{G_k(w_n)g_k(w_n)w_n}{|x-y|^\mu} = o_n(1). \end{eqnarray*} $

由$ \{w_n\}\subset {\cal N}_{\lambda, \kappa} $可知在$ E $中$ w_n\rightarrow 0 $. 因此

$ 0<c_{\lambda, \kappa} = \lim\limits_{n\rightarrow \infty}J_{\lambda, \kappa}(w_n) = 0, $

矛盾.

记$ \tilde{w_n} = w_n(\cdot+y_n) $. 因为泛函$ J_{\lambda, \kappa} $和$ J^\prime_{\lambda, \kappa} $是平移不变的, 所以$ \{\tilde{w_n}\} $仍是泛函$ J_{\lambda, \kappa} $的$ (PS)_{c_{\lambda, \kappa}} $序列. 注意到序列$ \{\tilde{w_n}\} $在$ E $中有界. 不失一般性, 可假设在$ E $中$ \tilde{w_n}\rightharpoonup w_{\lambda, \kappa} $以及在$ L^t_{loc}({{\Bbb R}} ^N) $中$ \tilde{w_n}\rightarrow w_{\lambda, \kappa} $, 其中$ 1\leq t<2_s^* $. 易证$ J^\prime_{\lambda, \kappa}(w_{\lambda, \kappa}) = 0 $. 由条件$ (f_1) $和$ g_{\lambda, \kappa} $的定义可知

$ \begin{eqnarray*} \|w_{\lambda, \kappa}^-\|^2 = \int_{{{\Bbb R}} ^N}f(w_{\lambda, \kappa})w_{\lambda, \kappa}^-+q\lambda\int_{{{\Bbb R}} ^N} \int_{{{\Bbb R}} ^N}\frac{G_k(w_{\lambda, \kappa})g_k(w_{\lambda, \kappa})w_{\lambda, \kappa}^-}{|x-y|^\mu} = 0. \end{eqnarray*} $

这蕴含着$ w_{\lambda, \kappa}^-\equiv 0 $从而$ w_{\lambda, \kappa}\geq0 $. 由(2.8) 式可知$ w_{\lambda, \kappa}\neq0 $. 由正则性理论和极大值原理可知$ w_{\lambda, \kappa}>0 $.

为了符号的简便, 在本节中记$ w_{\lambda, \kappa} $为$ w $.

引理2.8  存在一个不依赖$ \kappa $和$ \lambda $的常数$ \xi>0 $使得$ \|w\|\leq \xi $.

证   首先, 由Pohozǎev恒等式

$ \begin{eqnarray*} &&\frac{N-2}{2}\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y+\frac{N}{2}\int_{{{\Bbb R}} ^N}w^2\\ & = &N\int_{{{\Bbb R}} ^N}F(w)+\frac{q\lambda (2N-\mu)}{2}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast G_\kappa(w)\big) G_\kappa(w), \end{eqnarray*} $

$ \begin{eqnarray*} \frac{1}{2}\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y+\frac{1}{2}\int_{{{\Bbb R}} ^N}w^2 = \int_{{{\Bbb R}} ^N}F(w)+\frac{q\lambda}{2}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast G_\kappa(w)\big) G_\kappa(w)+c_{\lambda, \kappa}, \end{eqnarray*} $

可得

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y+\frac{\lambda q(N-\mu)}{2}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast G_\kappa(w)\big) G_\kappa(w) = c_{{\lambda, \kappa}}, \end{eqnarray*} $

则对充分小的$ \varepsilon>0 $有

$ \begin{eqnarray*} \frac{N-2}{2}c_{\kappa, \lambda}+\frac{N}{2}\int_{{{\Bbb R}} ^N}w^2 &\leq&\frac{N-2}{2}\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y+\frac{N}{2}\int_{{{\Bbb R}} ^N}w^2\\ & = &N\int_{{{\Bbb R}} ^N}F(w)+\frac{\lambda q(2N-\mu)}{2}\int_{{{\Bbb R}} ^N}\big(|x|^{-\mu} \ast G_\kappa(w)\big) G_\kappa(w)\\ &\leq& N\varepsilon\int_{{{\Bbb R}} ^N}w^2+C_\varepsilon\int_{{{\Bbb R}} ^N}|w|^{2_s^*}+\frac{2N-\mu}{(N-\mu)q}c_{\lambda, \kappa}\\ &\leq& N\varepsilon\int_{{{\Bbb R}} ^N}w^2+C_\varepsilon\bigg(\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y\bigg)^{\frac{2_s^*}{2}}+\frac{2N-\mu}{(N-\mu)q}c_{\lambda, \kappa}\\ &\leq &N\varepsilon\int_{{{\Bbb R}} ^N}w^2+C_\varepsilon(c_{\lambda, \kappa})^{\frac{2_s^*}{2}}+\frac{2N-\mu}{(N-\mu)q}c_{\lambda, \kappa}\\ &\leq &\frac{N}{4}\int_{{{\Bbb R}} ^N}w^2+C(c_{\lambda, \kappa})^{\frac{2_s^*}{2}}+\frac{2N-\mu}{(N-\mu)q}c_{\lambda, \kappa} . \end{eqnarray*} $

因此, $ \|w\|\leq C(c_{\lambda, \kappa})^{\frac{2_s^*}{2}}+Cc_{\lambda, \kappa} $. 记

$ J_0(w) = \frac{1}{2}\|w\|^2-\int_{{{\Bbb R}} ^N}F(w)\; \; \hbox{和}\; \; c_0 = \inf\limits_{w \in E^+}\max\limits_{t\geq0}J_0(tw). $

由(2.5) 式可知$ c_{\lambda, \kappa}\leq c_0 $, 这意味着

$ \|w\|\leq C(c_{\lambda, \kappa})^{\frac{2_s^*}{2}}+Cc_{\lambda, \kappa}\leq C(c_0+(c_0)^{\frac{2_s^*}{2}}): = \xi. $

引理2.8证毕.

引理2.9 对任意的$ \kappa>1 $, 存在两个不依赖于$ \kappa $的正常数$ C $和$ c $使得

$ |w|_\infty \leq C\big[ (1+\xi^p)^2(1+\lambda\kappa^{2q-2\theta})\big]^{\frac{\alpha-1}{2\alpha^2}}\xi, \; \forall \lambda \in (0, \Lambda_\kappa), $

其中$ \Lambda_\kappa = \big[c (1+\xi^p)(1+\kappa^{q-\theta})\big]^{-1} $和$ \alpha = \frac{2_s^*-p+2}{2} $.

证   证明的思想源于Morse迭代, 可参见文献[34]. 首先断言存在常数$ C>0 $使得

(2.8) $ \begin{equation} K(x): = \int_{{{\Bbb R}} ^N}(|x|^{-\mu}*G_\kappa(w))\leq C(1+\xi^p)\kappa^{q-\theta}. \end{equation} $

事实上, 由$ \mu \in (0, \frac{4Ns}{N+2s}) $可知$ t_0: = \frac{2N^2}{(2N-\mu)(N-2s)}>\frac{N}{N-\mu} $. 因此, $ \theta t_0 = 2_s^* $, $ N-1-\frac{t_0\mu}{t_0-1}>-1 $. 由Hölder不等式和引理2.2可得

$ \begin{eqnarray*} \int_{{{\Bbb R}} ^N}\frac{G_\kappa(y)}{|x-y|^\mu}{\rm d}y& = &\int_{|x-y|\leq1}\frac{G_\kappa(y)}{|x-y|^\mu}{\rm d}y+ \int_{|x-y|>1}\frac{G_\kappa(y)}{|x-y|^\mu}{\rm d}y\\ &\leq & \kappa^{q-\theta}\int_{|x-y|\leq1}\frac{w^\theta}{|x-y|^\mu}{\rm d}y+\int_{|x-y|>1}\frac{w^2+C\kappa^{q-\theta}w^p}{|x-y|^\mu}{\rm d}y\\ & \leq &\kappa^{q-\theta}\bigg(\int_{|x-y|\leq1}|w(y)|^{\theta t_0}{\rm d}y\bigg)^{\frac{1}{t_0}}\bigg (\int_{|x-y|\leq1}|x-y|^{-\frac{t_0\mu}{t_0-1}}{\rm d}y\bigg)^{\frac{t_0-1}{t_0}}\\ &&+\int_{{{\Bbb R}} ^N}w^2+C\kappa^{q-\theta}\int_{{{\Bbb R}} ^N}w^p\\ &\leq&\kappa^{q-\theta}\bigg(\int_0^1r^{N-1-\frac{t_0\mu}{t_0-1}}{\rm d}r\bigg)^{\frac{t_0-1}{t_0}} |w|^\theta_{2_s^*}+C|w|_2^2+C\kappa^{q-\theta}|w|_p^p\\ &\leq & C(\|w\|^\theta+\|w\|^2+\|w\|^p)\kappa^{q-\theta}\\ &\leq & C\kappa^{q-\theta}(1+\|w\|^p)\\ &\leq& C(1+\xi^p)\kappa^{q-\theta}. \end{eqnarray*} $

假设$ T>0 $, 定义$ w^T $如下: 当$ w< T $时, $ w^T = w $；当$ w\geq T $时, $ w^T = T $. 记$ v_T = ww_T^{2(r-1)} $, 其中$ r>0 $. 注意到$ \langle J_{\kappa, \lambda}(w), v_T\rangle = 0 $. 由引理2.2和(2.8) 式可知

$ \begin{eqnarray*} &&\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}w_T^{2(r-1)}|\nabla w|^2{\rm d}x{\rm d}y+\int_{{{\Bbb R}} ^N}w^2w_T^{2(r-1)}\\ &\leq&\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}\nabla w \nabla v_T{\rm d}x{\rm d}y+\int_{R^N}wv_T\\ & = &\int_{{{\Bbb R}} ^N}f(w)v_T+\int_{{{\Bbb R}} ^N}\lambda q\big(|x|^{-\mu} \ast G_\kappa(w)\big) g_\kappa(w)v_T\\ &\leq&\int_{{{\Bbb R}} ^N}f(w)v_T+C\lambda(1+\xi^p)\kappa^{q-\theta}\int_{{{\Bbb R}} ^N} g_\kappa(w)v_T\\ &\leq&C \lambda \int_{{{\Bbb R}} ^N}(1+\xi^p)\kappa^{q-\theta}(\varepsilon w^2+C_\varepsilon\kappa^{q-\theta}w^p)w_T^{2(r-1)}+ \int_{{{\Bbb R}} ^N} (\varepsilon w^2+C_\varepsilon w^p)w_T^{2(r-1)}\\ &\leq& C \lambda(1+\xi^p)(1+\kappa^{q-\theta})\varepsilon\int_{{{\Bbb R}} ^N}w^2w_T^{2(r-1)}+\varepsilon\int_{{{\Bbb R}} ^N}w^2w_T^{2(r-1)}\\ &&+C_\varepsilon \lambda(1+\xi^p)\kappa^{2q-2\theta}\int_{{{\Bbb R}} ^N}w^pw_T^{2(r-1)}+C_\varepsilon \int_{{{\Bbb R}} ^N}w^pw_T^{2(r-1)}. \end{eqnarray*} $

取$ \varepsilon = \frac{1}{4} $和$ c = \frac{4}{C} $, 其中常数$ C $是上式中给定的常数. 则对任意的$ \lambda \in (0, \Lambda_\kappa) $, 有

(2.9) $ \begin{eqnarray} \int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}w_T^{2(r-1)}|\nabla w|^2{\rm d}x{\rm d}y\leq C (1+\xi^p)(1+\lambda\kappa^{2q-2\theta})\int_{{{\Bbb R}} ^N}w^pw_T^{2(r-1)}. \end{eqnarray} $

由(2.9) 式, $ w_T $的定义和引理2.8可知

$ \begin{eqnarray*} \bigg(\int_{{{\Bbb R}} ^N}|ww_T^{r-1}|^{2_s^*}\bigg)^{\frac{2}{2_s^*}}&\leq& C\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla (ww_T^{r-1})|^2{\rm d}x{\rm d}y\\ &\leq& C\bigg(\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla w|^2w_T^{2(r-1)}{\rm d}x{\rm d}y\\ &&+(r-1)^2\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}w_T^{2(r-2)}w^2|\nabla w_T|^2{\rm d}x{\rm d}y\bigg)\\ &\leq& C\big(1+(r-1)^2\big)\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla w|^2w_T^{2(r-1)}{\rm d}x{\rm d}y\\ &\leq& Cr^2\int_{{{\Bbb R}} ^{N+1}_+}y^{1-2s}|\nabla w|^2w_T^{2(r-1)}{\rm d}x{\rm d}y\\ &\leq& Cr^2 (1+\xi^p)(1+\lambda\kappa^{2q-2\theta})\int_{{{\Bbb R}} ^N}w^pw_T^{2(r-1)}\\ &\leq& Cr^2 (1+\xi^p)(1+\lambda\kappa^{2q-2\theta})\bigg(\int_{{{\Bbb R}} ^N}w^{2_s^*}\bigg)^{\frac{p-2}{2_s^*}} \bigg(\int_{R^N}|wv_T|^{\frac{2_s^*}{2_s^*-p+2}}\bigg)^ {\frac{2_s^*-p+2}{2_s^*}}\\ &\leq &Cr^2 (1+\xi^p)^2(1+\lambda\kappa^{2q-2\theta})\bigg(\int_{{{\Bbb R}} ^N}|w|^{\frac{2r2_s^*}{2_s^*-p+2}}\bigg)^ {\frac{2_s^*-p+2}{2_s^*}}. \end{eqnarray*} $

记$ L_{\lambda, \kappa}: = C (1+\xi^p)^2(1+\lambda\kappa^{2q-2\theta}) $. 由Fatou引理可知

$ \bigg(\int_{{{\Bbb R}} ^N}w^{2_s^*r}\bigg)^{\frac{2}{2_s^*}}\leq r^2 L_{\lambda, \kappa}\bigg (\int_{{{\Bbb R}} ^N}|w|^{\frac{2r2_s^*}{2_s^*-p+2}}\bigg)^ {\frac{2_s^*-p+2}{2_s^*}}. $

记$ \beta: = \frac{22_s^*}{2_s^*-p+2} $. 则上式可改写为

$ |w|_{r\alpha\beta}\leq (L_{\lambda, \kappa})^{\frac{1}{2r}}r^{\frac{1}{r}}|w|_{r\beta}. $

对$ m = 1, 2, 3, \cdots, $记$ r_{m+1} = \alpha r_m $. 当$ m = 3 $时, 有

$ |w|_{r_3\beta} = |w|_{r_2\alpha\beta}\leq(L_{\lambda, \kappa})^{\frac{1}{2r_2}}{r_2}^{\frac{1}{r_2}} |w|_{r_2\beta} \leq(L_{\lambda, \kappa})^{\frac{1}{2r_1}+\frac{1}{2r_2}}{r_1}^{\frac{1}{r_1}}{r_2}^{\frac{1}{r_2}}|w|_{r_1\beta}. $

记$ r_1 = \alpha $, 则对任意的$ m $, 利用数学归纳法知

$ \begin{eqnarray*} |w|_{2_s^*\alpha^m}&\leq&(L_{\lambda, \kappa})^{\frac{1}{2}{\sum\limits_{i = 1}^{m-1}}\alpha ^{-i}}\alpha^{\sum\limits_{i = 1}^{m-1}\alpha^{-i}} \alpha^{\frac{1}{\alpha}\sum\limits_{i = 1}^{m-1}i\alpha^{-i}}|w|_{\alpha\beta}\\ &\leq&(L_{\lambda, \kappa})^{\frac{1}{2}{\sum\limits_{i = 1}^{m-1}}\alpha ^{-i}}\alpha^{\sum\limits_{i = 1}^{m-1}\alpha^{-i}} \alpha^{\frac{1}{\alpha}\sum\limits_{i = 1}^{m-1}i\alpha^{-i}} |w|_{2_s^*}\\ &\leq &C (L_{\lambda, \kappa})^{\frac{1}{2}{\sum\limits_{i = 1}^{m-1}}\alpha ^{-i}}\alpha^{\sum\limits_{i = 1}^{m-1}\alpha^{-i}} \alpha^{\frac{1}{\alpha}\sum\limits_{i = 1}^{m-1}i\alpha^{-i}}\xi. \end{eqnarray*} $

因为$ \alpha>1 $, 所以$ \sum\limits_{i = 1}^{\infty}\alpha ^{-i} $和$ \sum\limits_{i = 1}^{\infty}i\alpha ^{-i} $是收敛的. 令$ m\rightarrow \infty $, 则

$ |w|_\infty \leq C(L_{\lambda, \kappa})^{\frac{\alpha-1}{2\alpha^2}}\xi = C\big[ (1+\xi^p)^2(1+\lambda\kappa^{2q-2\theta})\big]^{\frac{\alpha-1}{2\alpha^2}}\xi. $

引理2.9证毕.

定理1.1的证明  给定$ \kappa>C(1+\xi^p)^{\frac{\alpha-1}{\alpha^2}}\xi $, 其中$ C $源自引理2.9. 由定理2.1和引理2.9可知, 若$ \lambda \in (0, \Lambda_\kappa) $, 则方程$ (P_\lambda) $有一个正解$ w_{\lambda, \kappa} $且满足

$ |w_{\lambda, \kappa}|_\infty \leq C\big[ (1+\xi^p)^2(1+\lambda\kappa^{2q-2\theta})\big]^{\frac{\alpha-1}{2\alpha^2}}\xi. $

因此, 对充分小的$ \lambda>0 $有

$ |w_{\lambda, \kappa}|_\infty \leq C(1+\xi^p)^{\frac{\alpha-1}{\alpha^2}}\xi<\kappa. $

由$ g_{\lambda, \kappa} $的定义可知$ w_{\lambda, \kappa} $是方程$ (P_\lambda) $的正解.

为了读者的方便, 在此给出有界区域上分数阶Laplace算子的相关知识. 假设$ \Omega\subset {{\Bbb R}} ^N $是一个有界区域, $ \{(\lambda_k, \; \varphi_k)\}_{k = 1}^\infty $是有界区域上带有Dirichlet边值条件的Laplace算子$ -\triangle $的特征值和特征函数, 并且$ \|\varphi_k\|_{L^2(\Omega)} = 1 $. 记

$ H_0^s(\Omega) = \bigg\{u = \sum\limits_{k = 1}^\infty a_k\varphi_k \in L^2(\Omega):\|u\|_{H_0^s(\Omega)}^2 = \sum\limits_{k = 1}^\infty a_k^2\lambda_k^s<\infty \bigg\}, $

其中$ a_k = \int_\Omega u \varphi_k {\rm d}x $. $ H^{-s}(\Omega) $表示分数阶Soblev空间$ H_0^s(\Omega) $的对偶空间. 对任意的$ u \in H_0^s(\Omega) $, 则$ u = \sum\limits_{k = 1}^\infty a_k\varphi_k $, 分数阶Laplace算子$ (-\triangle)^s $可定义为

$ (-\triangle)^su = \sum\limits_{k = 1}^\infty \lambda_k^s a_k\varphi_k \in H^{-s}(\Omega). $

$ H_0^s(\Omega) $上的内积定义为: $ \langle u, v\rangle_{H_0^s(\Omega)} = \int_\Omega (-\triangle)^{\frac{s}{2}}u(-\triangle)^{\frac{s}{2}}v{\rm d}x $. 不难验证$ H_0^s(\Omega) $是Hilbert空间. 更多细节可参见文献[2, 12] 及其参考文献.

类似上一节的做法, 我们继续运用Caffarelli和Silvestre的方法^[4]. 对任意的$ u \in H_0^s(\Omega) $, 方程

$ \begin{eqnarray*} \left\{\begin{array}{ll} -{\rm div}(y^{1-2s}\nabla w) = 0, \; \; &(x, y)\in{\cal C}_\Omega: = \Omega\times (0, \infty), \\ w = 0, &(x, y)\in\partial_L{\cal C}_\Omega: = \partial\Omega\times (0, \infty), \\ w = u, &(x, y)\in\Omega\times \{0\} \end{array}\right. \end{eqnarray*} $

的唯一解$ w \in H^1_{0, L}({\cal C}_\Omega) $称为$ u $的$ s $ -调和延拓, 记为$ w = E_s(u) $或$ u = \hbox{tr}_\Omega(w) $. 由文献[4] 可知

$ (-\Delta)^s u = -\frac{1}{\kappa_s}\lim\limits_{y\rightarrow0^+}y^{1-2s}\frac{\partial w}{\partial y}(x, y). $

这里空间$ H^1_{0, L}({\cal C}_\Omega) $是$ C_0^\infty({\cal C}_\Omega) $关于如下范数的完备化空间

$ \|w\|^2 = \kappa_s\int_{{\cal C}_\Omega}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y. $

因此, 非局部方程$ (P) $可转化为如下局部方程

(3.1) $ \begin{equation} \left\{\begin{array}{ll} -\hbox{div}(y^{1-2s}\nabla w) = 0, \; \; &(x, y)\in{\cal C}_\Omega, \\ { } \frac{\partial w}{\partial\nu}+w = f(w)+\big(|x|^{-\mu} \ast |w|^p\big)|w|^{p-2}w, \; \; &(x, 0)\in\Omega\times \{0\}, \end{array}\right. \end{equation} $

其中$ \frac{\partial w}{\partial\nu} = -\frac{1}{\kappa_s}\lim\limits_{y\rightarrow0^+}y^{1-2s}\frac{\partial w}{\partial y}(x, y). $显然, 若$ w(x, y)\in H^s_{0, L}({\cal C}_\Omega) $是方程(3.1) 的解, 则$ u(x) = w(x, 0) $是方程$ (P) $的解. 此外, 如下泛函的临界点

$ \begin{eqnarray*} J(w) = \frac{\kappa_s}{2}\int_{{\cal C}_\Omega}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y+\frac{1}{2}\int_{\Omega}|w|^2{\rm d}x-\int_{\Omega}F(w){\rm d}x-\frac{1}{2q}\int_{\Omega}\big(|x|^{-\mu} \ast |w|^q\big)|w|^q{\rm d}x \end{eqnarray*} $

是方程(3.1) 的弱解.

为方便起见, 省略常数$ \kappa_s $和积分符号$ {\rm d}x $, $ |u|_s $表示$ L^t(\Omega) $上的范数, $ 1\leq t\leq\infty $.

引理3.1^[2]

(1) $ \|(-\triangle)^su\|_{H^{-s}(\Omega)} = \|u\|_{H^s_0(\Omega)} = \|E_s(u)\| $.

(2) 存在常数$ C = C(s, r, N, \Omega)>0 $使得对任意的$ w \in H^s_{0, L}({\cal C}_\Omega) $和任意的$ 1\leq r\leq 2_s^* $有$ |\hbox{tr}_\Omega w|_r\leq C\|w\| $, 其中$ 2^*_s = \frac{2N}{N-2s} $. 此外, 对任意的$ 1\leq r< 2_s^* $, $ H^s_{0, L}({\cal C}_\Omega)\hookrightarrow L^r(\Omega) $是紧的.

定理1.2的证明主要运用如下由Kajikiya在文献[17] 中提出的对称山路定理(或参见文献[9]).

定理3.1  假设$ E $是一个无限维的Banach空间, 泛函$ I\in C^1(E, {{\Bbb R}} ) $满足如下$ (A_1) $和$ (A_2) $条件:

$ (A_1) $$ I $是偶的, 并且下方有界, $ I(0) = 0 $以及$ I $满足(PS) 条件.

$ (A_2) $对任意的$ k\in {\Bbb N} $, 存在$ A_k\in \Gamma_k $使得$ { }\sup_{u\in A_k}I(u)<0 $, 其中$ \Gamma_k = \{ A\subset E: A $是对称闭集并且满足$ 0\notin A $和$ \gamma(A)\geq k\} $, 这里$ \gamma(\cdot) $表示集合的亏格.

则对任意的$ k\in {\Bbb N} $, $ { } c_k: = \inf\limits_{A\in \Gamma_k}\sup_{u\in A}I(u)<0 $是泛函$ I $的临界值, 且当$ k\rightarrow \infty $时$ c_k\rightarrow 0^{-} $.

显然, 当$ q>2_{\mu, s}^\ast $时, 泛函$ J $是没有定义的. 为了克服这一困难, 受文献[35] 的启发, 取足够小的$ l>0 $使得$ l\ll\frac{\delta}{4} $, 其中$ \delta = \min\{\delta_0, 1\} $, 并选取偶函数$ h\in C^1({{\Bbb R}}, {{\Bbb R}}) $使得$ 0\leq h(t)\leq 1 $, 且满足当$ |t|\leq l $时$ h(t) = 1 $; 当$ |t|\geq 2l $时$ h(t) = 0 $. 此外, $ h(t) $在$ [l, 2l] $是单调递减的并满足$ |h^\prime(t)|\leq \frac{C}{l}. $

考虑如下方程

(3.2) $ \begin{equation} \left\{\begin{array}{ll} -\hbox{div}(y^{1-2s}\nabla w) = 0, &(x, y)\in{\cal C}_\Omega, \\ { } \frac{\partial w}{\partial\nu} = f(w)h(w)+F(w)h^\prime(w)& \\ {\quad} \; \; \; \; \; +\big(|x|^{-\mu} \ast |h(w)w|^p\big)|h(w)w|^{p-2}h(w)w\big(h^\prime(w)w+h(w)\big), &(x, y)\in\Omega\times \{0\}, \end{array}\right. \end{equation} $

其能量泛函定义为

$ \begin{eqnarray*} I(w) = \frac{1}{2}\int_{{\cal C}_\Omega}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y+\frac{1}{2}\int_{\Omega}|w|^2{\rm d}x-\int_{\Omega}G(w)-\frac{1}{2q}\int_{\Omega}\big(|x|^{-\mu} \ast H(w)\big)H(w), \end{eqnarray*} $

其中$ G(t) = F(t)h(t) $, $ H(t) = |h(t)t|^q $. 此外, 由引理3.1可知泛函$ I $可简化为

$ \begin{eqnarray*} I(w) = \frac{1}{2}\|w\|^2-\int_{\Omega}G(w)-\frac{1}{2q}\int_{\Omega}\big(|x|^{-\mu} \ast H(w)\big)H(w). \end{eqnarray*} $

显然, 为了证明定理1.2, 只需要证明方程(3.2) 有一列低能量小解$ \{w_n\} $且满足$ |w_n|_\infty\leq l $.

引理3.2  假设$ q\geq2_{\mu, s}^\ast $和$ f\in C((-\delta, \delta), {{\Bbb R}} ) $, 则存在一个不依赖$ l $的常数$ C_\delta>0 $使得

(1) $ |G^\prime(t)|, |H^\prime(t)|\leq C_\delta $.

(2) $ |G(t)|, |H(t)|^r\leq C_\delta|t| $, $ \forall r\geq 1 $.

证   由$ f\in C((-\delta, \delta), {{\Bbb R}} ) $可知存在$ C_\delta^\prime>0 $使得$ |f(t)|\leq C_\delta^\prime $和$ |F(t)|\leq C_\delta^\prime|t|, \forall t \in [-\frac{\delta}{2}, \frac{\delta}{2}] $. 因此, 对任意的$ t \in [-2l, 2l] $,

$ |G^\prime(t)|\leq |f(t)h(t)|+|h^\prime(t)||F(t)|\leq C_\delta^\prime+\frac{2C}{l}C_\delta^\prime l: = C_\delta. $

另一方面, 对任意的$ t \in [-2l, 2l] $有

$ \begin{eqnarray*} \label{eq2.3} |H^\prime(t)|& = &\big|h^\prime(t)t+h(t)\big||h(t)t|^{q-1}\\ &\leq& |h^\prime(t)||h(t)|^{q-1}|t|^q+|h(t)|^q|t|^{q-1}\\ &\leq &|h^\prime(t)||t|^q+|t|^{q-1}\\ &\leq&\frac{C}{l}l^q+l^{q-1} \leq C\delta^{q-1} : = C_\delta. \end{eqnarray*} $

当$ |t|>2l $时, $ |G^\prime(t)|, |H^\prime(t)| = 0 $, 因此性质(1) 成立. 性质(2) 是显然的.

引理3.3  假设$ q\geq2_{\mu, s}^\ast $和$ f\in C((-\delta_, \delta), {{\Bbb R}} ) $. 则$ I \in C^1(H^s_{0, L}({\cal C}_\Omega), {{\Bbb R}} ) $, $ I $下方有界且满足(PS) 条件.

证   由引理3.1–3.2和Hardy-Littlewood-Sobolev不等式易证$ I \in C^1(H^s_{0, L}({\cal C}_\Omega), {{\Bbb R}} ) $. 结合Hardy-Littlewood-Sobolev不等式和引理3.2可知

$ \begin{eqnarray*} I(w)&\geq&\frac{1}{2}\|w\|^2-C\int_{\Omega}|w| -C\bigg(\int_{\Omega}|H(w)|^{\frac{2N}{2N-\mu}}\bigg)^{\frac{2N-\mu}{N}}\\ &\geq&\frac{1}{2}\|w\|^2-C\int_{\Omega}|w| -C\bigg(\int_{\Omega}|w|\bigg)^{\frac{2N-\mu}{N}}\\ &\geq&\frac{1}{2}\|w\|^2-C\|w\|-C\|w\|^{\frac{2N-\mu}{N}}. \end{eqnarray*} $

这蕴含着当$ \|w\|\rightarrow \infty $时$ I(w)\rightarrow \infty $. 因此泛函$ I $下方有界. 假设$ \{w_n\}\subset H^s_{0, L}({\cal C}_\Omega) $满足$ I(w_n)\rightarrow c $和$ I^\prime(w_n)\rightarrow 0 $. 则$ \{w_n\} $在$ H^s_{0, L}({\cal C}_\Omega) $中有界. 在子列的意义下可设在$ H^s_{0, L}({\cal C}_\Omega) $中$ w_n\rightharpoonup w $, 在$ L^r(\Omega) $中$ w_n\rightarrow w $, 其中$ 1\leq r<2_s^* $. 易证$ I^\prime(w) = 0 $. 因此

(3.3) $ \begin{eqnarray} o_n(1)& = &\langle I^\prime(w_n)-I^\prime(w), w_n-w\rangle{}\\ & = & \frac{1}{2}\| w_n-w\|^2-\int_{\Omega}\big(G^\prime(w_n) -G^\prime(w)\big)(w_n-w){}\\ &&-\int_\Omega\big(|x|^{-\mu}\ast H(w_n)\big)H^\prime(w_n)(w_n-w) +\int_\Omega\big(|x|^{-\mu}\ast H(w)\big)H^\prime(w)(w_n-w). \end{eqnarray} $

由Hardy-Littlewood-Sobolev不等式和引理3.2可知

(3.4) $ \begin{eqnarray} &&\bigg|\int_\Omega\big(|x|^{-\mu}\ast H(w_n)\big)H^\prime(w_n)(w_n-w) -\int_\Omega\big(|x|^{-\mu}\ast H(w)\big)H^\prime(w)(w_n-w)\bigg|{}\\ &\leq& C\big|H(w_n)\big|_{\frac{2N}{2N-\mu}} \big|H^\prime(w_n)(w_n-w)\big|_{\frac{2N}{2N-\mu}} +C\big|H(w)\big|_{\frac{2N}{2N-\mu}} \big|H^\prime(w)(w_n-w)\big|_{\frac{2N}{2N-\mu}}{}\\ &\leq &C|w_n|_{\frac{2N}{2N-\mu}} |w_n-w|_{\frac{2N}{2N-\mu}} +C|w_n|_{\frac{2N}{2N-\mu}} |w_n-w|_{\frac{2N}{2N-\mu}}{}\\ &\leq &C|w_n-w|_{\frac{2N}{2N-\mu}}{}\\ &\rightarrow &0. \end{eqnarray} $

类似地, 有

(3.5) $ \begin{equation} \int_{\Omega}\big(G^\prime(w_n)-G^\prime(w)\big)(w_n-w) = o_n(1). \end{equation} $

由(3.3)–(3.5) 式可知$ \|w_n-w\|\rightarrow 0 $.

引理3.4  假设条件$ (f_4) $成立, 则对任意的$ k\in {\Bbb N} $, 存在$ A_k\in \Gamma_k $使得$ { }\sup_{w\in A_k}I(w)<0. $

证   假设$ E_k $是空间$ H^s_{0, L}({\cal C}_\Omega) $中的$ k $维子空间, 则存在$ \rho_k>0 $使得对任意的$ w\in E_k $且$ \|w\|\leq \rho_k $有

(3.6) $ \begin{equation} \frac{1}{2}\int_{\Omega}|w|^2>\int_{\Omega\cap \{x:|w|>l\}}|w|^2. \end{equation} $

若不然, 存在$ \{w_n\}\subset E_k\setminus\{0\} $满足$ w_n\rightarrow 0 $, 但

$ \frac{1}{2}\int_{\Omega}|w_n|^2\leq\int_{\Omega\cap \{x:|w_n|>l\}}|w_n|^2. $

记$ v_n = \frac{w_n}{\|w_n\|} $. 则$ \|v_n\| = 1 $和

(3.7) $ \begin{equation} \frac{1}{2}\int_{\Omega}|v_n|^2\leq\int_{\Omega\cap \{x:|w_n|>l\}}|v_n|^2. \end{equation} $

因为有限维空间中范数等价, 所以对任意的$ n $有$ |v_n|_2^2\geq C>0 $. 另一方面, 由$ w_n\rightarrow 0 $可知当$ n\rightarrow \infty $时, $ \hbox{meas}\big(\{x:|w_n|>l\}\big)\rightarrow 0 $. 因此

$ \int_{\Omega\cap \{x:|w_n|>l\}}|v_n|\leq \big[\hbox{meas}(\{x:|w_n|>l\})\big]^{\frac{1}{2}}|v_n|_2\leq C\big[\hbox{meas}\big(\{x:|w_n|>l\}\big)\big]^\frac{1}{2}\|v_n\|\rightarrow 0, $

这蕴含着$ \int_{\Omega\cap \{x:|w_n|>l\}}|v_n|^2\rightarrow 0 $. 由(3.7)式可知$ \frac{C}{2}\leq 0 $, 矛盾. 因此(3.6) 式成立.

因为$ E_k $是有限维空间, 所以存在$ \gamma_k>0 $使得

(3.8) $ \begin{equation} \gamma_k\|w\|^2\leq |w|_2^2, \; \; \forall w\in E_k. \end{equation} $

利用条件$ (f_4) $, 取充分小的$ l>0 $使得$ F(t)\geq \frac{2}{\gamma_k}|t|^2, \forall |t|<l $. 结合(3.6) 式和(3.8) 式可知, 对任意的$ w\in E_k $且$ \|w\| = \rho_k $有

$ \begin{eqnarray*} I(w)&\leq& \frac{1}{2}\|w\|^2-\int_{\Omega\cap \{x:|w|\leq l\}}F(w)\\ &\leq&\frac{1}{2}\|w\|^2-\frac{2}{\gamma_k}\int_{\Omega\cap \{x:|w|\leq l\}}|w|^2\\ & = &\frac{1}{2}\|w\|^2+\frac{2}{\gamma_k}\int_{\Omega\cap \{x:|w|> l\}}|w|^2-\frac{2}{\gamma_k}|w|_2^2\\ &\leq&\frac{1}{2}\|w\|^2-\frac{1}{\gamma_k}\big|w\big|_2^2\\ &\leq&-\frac{1}{2}\|w\|^2\\ & = &-\frac{1}{2}\rho_k^2. \end{eqnarray*} $

记$ A_k = \{w\in E_k:\|w\| = \rho_k\} $, 则$ A_k\in \Gamma_k $和$ { }\sup_{w\in A_k}I(w)<0. $

引理3.5  假设条件$ (f_4) $和$ (f_5) $成立. 则对充分小的$ l>0 $, 若$ I(w) = 0 $和$ I^\prime(w) = 0 $, 则$ w = 0 $.

证   取偶函数$ \varphi\in C^1({{\Bbb R}} , {{\Bbb R}} ) $使得$ 0\leq \varphi(t)\leq 1 $, 当$ |t|\leq 2l $时$ \varphi(t) = 0 $; 当$ |t|\geq 3l $时$ \varphi(t) = 1 $, 以及$ \varphi(t) $在$ [2l, 3l] $上是单增的. 由$ I^\prime(w) = 0 $, $ h $和$ \varphi $的定义可知

$ \begin{eqnarray*} 0& = &\langle I^\prime(w), \varphi(w)w\rangle\\ & = &\int_{{\cal C}_\Omega}y^{1-2s}\nabla w\nabla (\varphi(w)w){\rm d}x{\rm d}y+\int_{\Omega}\varphi(w)w^2 -\int_{\Omega}G^\prime(w)\varphi(w)w\\ &&-\frac{1}{q}\int_{\Omega} \big(|x|^{-\mu} \ast H(w)\big)H^\prime(w)\varphi(w)w\\ & = &\int_{{\cal C}_\Omega}y^{1-2s}\nabla w\nabla (\varphi(w)w){\rm d}x{\rm d}y+\int_{\Omega}\varphi(w)w^2-\int_{\Omega}\lambda \big(f(w)h(w)+F(w)h^\prime(w)\big)\varphi(w)w\\ &&-\int_{\Omega}\big(|x|^{-\mu} \ast |h(w)w|^q\big)|h(w)w|^{q-2}h(w)w(h(w)+h^\prime(w)w)\varphi(w)w\\ & = &\int_{{\cal C}_\Omega}y^{1-2s}\nabla w\nabla (\varphi(w)w){\rm d}x{\rm d}y+\int_{\Omega}\varphi(w)w^2\\ &\geq&\int_{{\cal C}_\Omega\cap \{(x, y):|w|\geq 3l\}}y^{1-2s}|\nabla w|^2{\rm d}x{\rm d}y, \end{eqnarray*} $

上式表明$ |w|_{\infty}\leq 3l $. 记

$ K(x): = |x|^{-\mu} \ast H(w). $

取$ t_0>\max\{\frac{1}{q}, \; \frac{N}{N-\mu}\} $, 则$ q t_0\geq 1 $和$ N-1-\frac{t_0\mu}{t_0-1}>-1 $. 由Hölder不等式和引理3.2可知

$ \begin{eqnarray*} &&\int_{|x-y|\leq1}\frac{|h(w(y))w(y)|^q}{|x-y|^\mu}{\rm d}y\\ &\leq&\bigg(\int_{|x-y|\leq1}|h(w(y))w(y)|^{qt_0}{\rm d}y\bigg)^{\frac{1}{t_0}}\bigg (\int_{|x-y|\leq1}|x-y|^{-\frac{t_0\mu}{t_0-1}}{\rm d}y\bigg)^{\frac{t_0-1}{t_0}}\\ &\leq &C\bigg(\int_{\Omega}|w(x)|{\rm d}x\bigg)^{\frac{1}{t_0}}\bigg(\int_0^1r^{N-1-\frac{t_0\mu}{t_0-1}}dr\bigg)^{\frac{t_0-1}{t_0}}\\ &\leq &C({3l\hbox{meas}(\Omega))^\frac{1}{t_0}}. \end{eqnarray*} $

故

$ \begin{eqnarray*} K(x)&\leq&\int_{|x-y|\leq1}\frac{|h(w(y))w(y)|^q}{|x-y|^\mu}{\rm d}y+ \int_{|x-y|>1}\frac{|w(y)|^q}{|x-y|^\mu}{\rm d}y\\ &\leq &C({3l\hbox{meas}(\Omega))^\frac{1}{t_0}}+(3l)^q\hbox{meas}(\Omega).\\ &\leq &C(l^q+l^{\frac{1}{t_0}}), \end{eqnarray*} $

这蕴含着

(3.9) $ \begin{equation} |K|_\infty\leq C(l^q+l^{\frac{1}{t_0}}). \end{equation} $

注意到

$ \begin{eqnarray*} 0& = &\frac{1}{\alpha}\langle I^\prime(w), w\rangle- I(w)\\ & = &\big(\frac{1}{\alpha}-\frac{1}{2}\big)\|w\|^2-\frac{1}{\alpha}\int_{\Omega} F(w)h^\prime(w)w+\int_{\Omega}\big(F(w)-\frac{1}{\alpha}f(w)w\big)h(w)\\ &&+\big(\frac{1}{2q}-\frac{1}{\alpha}\big)\int_{\Omega}\big(|x|^{-\mu} \ast |h(w)w|^q\big)|h(w)w|^q\\ &&-\frac{1}{\alpha}\int_{\Omega}\big(|x|^{-\mu} \ast |h(w)w|^q\big)|h(w)w|^{q-2}h(w)w^2h^\prime(w)w\\ &\geq&\big(\frac{1}{\alpha}-\frac{1}{2}\big)\|w\|^2+\int_{\Omega}\big(F(w)-\frac{1}{\alpha}f(w)w\big)h(w)+ \big(\frac{1}{2q}-\frac{1}{\alpha}\big)\int_{\Omega}\big(|x|^{-\mu} \ast |h(w)w|^q\big)|h(w)w|^q. \end{eqnarray*} $

由$ q>\frac{\alpha}{2} $和(3.9)式, 可取充分小的$ l $使得

$ \begin{eqnarray*} 0&\geq&\big(\frac{1}{\alpha}-\frac{1}{2}\big)\|w\|^2+ \int_{\Omega}\big(F(w)-\frac{1}{\alpha}f(w)w\big)h(w) - C(l^q+l^{\frac{1}{t_0}})\big(\frac{1}{2q}-\frac{1}{\alpha}\big)\int_{\Omega}h(w)|w|^q\\ &\geq& \big(\frac{1}{\alpha}-\frac{1}{2}\big)\|w\|^2+ \int_{\Omega}\big(F(w)-\frac{1}{\alpha}f(w)w-\frac{\beta}{\alpha}|w|^q\big)h(w). \end{eqnarray*} $

由条件$ (f_2) $可知$ w = 0 $. 故引理得证.

引理3.6  假设$ f\in C((-\delta, \delta), {{\Bbb R}} ) $. 若$ I^\prime(w) = 0 $, 则存在一个不依赖$ w $和$ l $的常数$ \xi>0 $使得$ |w|_\infty\leq \xi\|w\|. $

证   注意到对任意的$ v\in H^s_{0, L}({\cal C}_\Omega) $有

(3.10) $ \begin{equation} \int_{{\cal C}_\Omega}y^{1-2s}\nabla w\nabla v{\rm d}x{\rm d}y+\int_{\Omega}wv-\int_{\Omega}G^\prime(w)v-\int_{\Omega} \big(|x|^{-\mu} \ast H(w)\big)H^\prime (w)v = 0. \end{equation} $

假设$ T>0 $, 定义$ w^T $如下: 当$ |w|\leq T $时$ w^T = w $; 当$ |w|\geq T $时, $ w^T = \hbox{sign}(w)T $. 令$ v = w|w^T|^{2r} $, 其中$ r>0 $, 则$ v\in H^s_{0, L}({\cal C}_\Omega) $. 易证

(3.11) $ \begin{eqnarray} \int_{\Omega}G^\prime(w)v+\int_{\Omega} \big(|x|^{-\mu} \ast H(w)\big)H^\prime (w)v & = &\int_{{\cal C}_\Omega}y^{1-2s}\nabla w\nabla( w|w^T|^{2r})+\int_{\Omega}w^2|w^T|^{2r}{}\\ &\geq&\int_{{\cal C}_\Omega}y^{1-2s}|\nabla w|^2|w^T|^{2r}+\int_{{\cal C}_\Omega}2r y^{1-2s}|\nabla w^T|^2|w|^{2r}{}\\ &\geq &\frac{2}{r+1}\int_{{\cal C}_\Omega} y^{1-2s}\big|\nabla\big( w|w^T|^r\big)\big|^2{}\\ &\geq&\frac{C}{r+1}\bigg(\int_{\Omega}\big| w|w^T|^r\big|^{2_s^\ast}\bigg)^{\frac{2}{2_s^\ast}}. \end{eqnarray} $

由(3.9)–(3.10) 式可知

(3.12) $ \begin{equation} \int_{\Omega}G^\prime(w)v+\int_{\Omega} \big(|x|^{-\mu} \ast H(w)\big)H^\prime (w)v\leq C\int_{\Omega}|w||w^T|^{2r}. \end{equation} $

结合(3.11)–(3.12) 式可知

$ \bigg(\int_{\Omega}|w|^{2_s^\ast}|w_n^T|^{2_s^\ast r}\bigg)^{\frac{1}{2_s^\ast(r+1)}}\leq \big(C({r+1})\big)^{\frac{1}{r+1}}\bigg (\int_{\Omega}|w||w^T|^{2r}\bigg)^{\frac{1}{2(r+1)}}. $

令$ T\rightarrow \infty $, 则

$ \bigg(\int_{\Omega}|w|^{2_s^\ast(r+1)}\bigg)^{\frac{1}{2_s^\ast(r+1)}}\leq \big(C({r+1})\big)^{\frac{1}{2(r+1)}}\bigg(\int_{\Omega}|w|^{2r+1}\bigg)^{{\frac{1}{2r+1}} \frac{2r+1}{2(r+1)}}. $

取$ r_0 = \frac{1}{2} $和$ 2r_{k+1}+1 = 2_s^\ast(r_k+1) $, 则

$ \begin{eqnarray*} \bigg(\int_{\Omega}|w_n|^{2_s^\ast( r_k+1)}\bigg)^{\frac{1}{2_s^\ast(r_k+1)}} &\leq &\big(C({r_k+1})\big)^{\frac{1}{2(r_k+1)}}\bigg(\int_{\Omega}|w|^{2(r_{k}+1)}\bigg)^{\frac{1}{2(r_k+1)}}\\ &\leq& \prod\limits_{i = 0}^k \big(C({r_i+1})\big)^{\frac{1}{2(r_i+1)}} \bigg(\int_{\Omega}|w|^2\bigg)^{\frac{1}{2}\prod\limits_{i = 0}^k\frac{2r_i+1}{2(r_i+1)}}\\ &\leq &\prod\limits_{i = 0}^k \big(C({r_i+1})\big)^{\frac{1}{2(r_i+1)}} \bigg(\int_{\Omega}|w|^2\bigg)^{\frac{1}{2}}. \end{eqnarray*} $

令

$ a_k: = \prod\limits_{i = 0}^k \big(C({r_i+1})\big)^{\frac{1}{2(r_i+1)}}\leq \exp\bigg\{\sum\limits_{i = 0}^k\frac{\ln C+\ln d+i (\ln 2_s^\ast-\ln 2 ) }{2d\big(\frac{2_s^\ast}{2}\big)^i-2d}\bigg\}, $

其中$ d = \frac{2_s^\ast-1}{2_s^\ast-2}>1 $. 显然, 数列$ \{a_k\} $收敛. 令$ k\rightarrow \infty $, 则$ a_k\rightarrow a_0 $. 取$ \xi = C(s, 2, N, \Omega)a_0 $, 其中$ C(s, 2, N, \Omega) $是引理3.1中的常数, 则$ |w|_{\infty}\leq a_0 |w|_2\leq \xi \|w\|. $证毕.

定理1.2的证明  由引理3.3–3.4和定理3.1可知, 存在一列$ \{w_k\} \subset H^s_{0, L}({\cal C}_\Omega) $使得$ I^\prime(w_k) = 0 $, $ I(w_k)<0 $, 以及当$ k\rightarrow \infty $时$ I(w_k)\rightarrow0 $. 由引理3.5可知在$ H^s_{0, L}({\cal C}_\Omega) $中$ w_k\rightarrow 0 $. 结合引理3.6可知在$ L^\infty(\Omega) $中$ w_k\rightarrow 0 $. 不失一般性, 对任意的$ k $, 可假设$ |w_k|_\infty\leq l $. 因此, $ \{u_k\} $是方程$ (P) $的解, 其中$ u_k(x) = w_k(x, 0) $. 由引理3.1可知在$ H^s_0(\Omega) $中$ u_k\rightarrow 0 $, $ E(u_k)<0 $, 以及$ E(u_k)\rightarrow 0 $. 故完成了定理的证明.