近年来, 分数阶椭圆型方程边值问题引起了人们的广泛关注, 得到了大量的研究成果, 参见文献[1,2]. Valdinoci 等^[3]通过证明一类定义在 $\mathbb{R}^N$ 中有界区域上的临界 Kirchhoff 问题非负解的存在性, 提出关于 Kirchhoff 方程在分数阶意义下的解释. Zhen^[4] 研究了如下一类带有凹凸非线性项的分数阶 $p$-拉普拉斯方程组

解的存在性, 其中 $\Omega$ 是 $\mathbb{R}^N$ 中边界光滑的有界区域, $s\in (0, 1)$, $N>ps$, $1<q<p$, $\alpha>1$, $\beta>1$ 且 $p<\alpha+\beta<p_s^*=\frac{Np}{N-ps}$, 权函数 $f(x), g(x), h(x)$ 满足给定的条件. 作者通过构造 Nehari 流形, 证明了当参数 $(\lambda, \mu)$ 满足一定条件时该方程组存在两个非平凡的弱解. Mishra 等^[5]用类似的处理方法引入 Nehari 流形研究了如下一类分数阶 $p$-Kirchhoff 椭圆方程

非平凡解及非负解的存在性和多重性, 这里的$\Omega$是$\mathbb{R}^N$中边界光滑的有界区域, $f(x)\in L^{\frac{r}{r-q}}(\Omega)$, $g(x)\in L^{\infty}(\Omega)$ 且是可变号的函数, $M$是连续函数, $ps<N<2ps$, $1<q<p<r\leq p_s^*=\frac{Np}{N-ps}$. 受文献[4,5]的启发, 本文研究一类分数阶$p$-Kirchhoff 椭圆方程边值问题

非负解的存在性, 其中$\Omega$是$\mathbb{R}^N$中边界光滑的有界区域, $(-\Delta )_{p}^s$是分数阶$p$-拉普拉斯算子, 定义为

$s\in (0, 1)$, $N>ps$, $\lambda>0$, $0<q<1<q+1<p<p(h+1)<p+1<p_s^*$, $a(x)$ 与$b(x)$ 为 $\Omega\rightarrow \mathbb{R}$ 可变号的光滑函数. $M(t)$是连续函数, $M(t)=k+lt^h$, $k>0$, $l>0$, $h>0$. 本文通过分析 Nehari 流形, 结合研究与该问题欧拉泛函相关的纤维映射得出解的存在性.

$W^{s, p}(\Omega)(0<s<1)$ 是通常的分数阶 Sobolev 空间, 其上的范数定义为

设$K=\mathbb{R}^{2N}\setminus({\complement{\Omega}}\times{\complement\Omega})$, ${\complement\Omega}=\mathbb{R}^N\setminus\Omega$, 定义空间$X$如下

空间$X$上的范数定义为

记函数空间$X_0$为$C_0^\infty(\Omega)$在$X$ 中的闭包, 其上的范数定义为

显然, 范数 (2.3), (2.1) 是等价范数. 由文献[6,7], 对$\forall r\in [p_s^*]$, $X_0\hookrightarrow L^r(\Omega)$是连续的, 且当$r\in [1, p_s^*)$ 时, 此嵌入是紧的; 当$c\in [p, p_s^*]$时, 对$\forall u\in X_0$, $||u||_{L^c(\Omega)}\leq S||u||_{X_0}$. 关于空间$X$, $X_0$的更多性质可参见文献 [8] 及其参考文献.

定义2.1 设函数$u\in X_0$, 若对任意的$\varphi\in X_0$有

成立, 则称$u\in X_0$为问题 (1.1) 的一个弱解.

问题 (1.1) 的能量泛函定义为

这里$\xi=p(h+1)$. 易知$I_{\lambda}\in C^1(X_0, \mathbb{R})$, 对$\forall \varphi\in X_0$, 有

特别地

易见泛函$I_{\lambda}$的临界点为问题 (1.1) 的弱解, 因此求问题 (1.1) 弱解的问题转化为求能量泛函$I_{\lambda}$在空间$X_0$中的临界点问题.

因为$I_{\lambda}$在空间$X_0$中不是有界的, 因而考虑限制在 Nehari 流形上的泛函. 引入 Nehari 流形

因而, $u\in N_{\lambda}(\Omega)$当且仅当

由 (2.6) 式可知, 对$\forall u\in N_{\lambda}(\Omega)$, 有

定义纤维映射 ${\psi}_{u}:t\longmapsto I_{\lambda}(tu)$, 这里$t>0$, 则有

由 (2.6), (2.9) 式可知, $u\in N_{\lambda}(\Omega)$当且仅当${\psi}_{u}^{'}(1)=0$. 更一般地, $tu \in N_{\lambda}(\Omega)$当且仅当${\psi}_{u}^{'}(t)=0$.

将$N_{\lambda}(\Omega)$分为如下三部分

$\begin{equation*} N_{\lambda}^{+}(\Omega)=\left\{u\in N_{\lambda}:{\psi}_{u}^{''}(1)>0\right\}; \end{equation*}$$\begin{equation*} N_{\lambda}^{-}(\Omega)=\left\{u\in N_{\lambda}:{\psi}_{u}^{''}(1)<0\right\}; \end{equation*}$$\begin{equation*} N_{\lambda}^{0}(\Omega)=\left\{u\in N_{\lambda}:{\psi}_{u}^{''}(1)=0\right\}. \end{equation*}$

$\forall u\in X_0$, 定义${\phi}(u)=\langle I_{\lambda}^{'}(u), u \rangle$, 易知${\phi}(u)=\langle I_{\lambda}^{'}(u), u \rangle={\psi}_{u}^{'}(1)$. 此外, 对$\forall u\in N_{\lambda}(\Omega)$, 结合 (2.6) 式可得

由 (2.10) 式与 (2.11) 式可知$\langle \phi^{'}(u), u \rangle={\psi}_{u}^{''}(1)$.

引理2.1 若$u_0$是$I_{\lambda}$在$N_{\lambda}(\Omega)$上的一个局部极小值点 (或局部极大值点), 且$u_0\notin N_{\lambda}^{0}(\Omega)$, 则$u_0$是$I_{\lambda}$的一个临界点.

证 若$u_0$是$I_{\lambda}$在$N_{\lambda}(\Omega)$上的一个局部极小值点 (或局部极大值点), 由拉格朗日乘子原理可知, 存在$\theta \in \mathbb{R}$ 使得$I_{\lambda}^{'}(u_0)=\theta \phi^{'}(u_0)$. 因而

由于$u_0\notin N_{\lambda}^{0}(\Omega)$, 从而$\langle \phi^{'}(u_0), u_0 \rangle\neq 0$, $\theta=0$, 进而$I_{\lambda}^{'}(u_0)=0$, 即$u_0$ 是$I_{\lambda}$的一个临界点.

引理2.2$I_{\lambda}$在$N_{\lambda}(\Omega)$上是强制的且有下界.

证 由 (2.7) 式可知, 若$u\in N_{\lambda}(\Omega)$, 则

再由 Sobolev 嵌入定理知, 存在正常数$c_1, c_2, c_3$使得

由于$q+1<p<\xi$, 从而 $I_{\lambda}$在$N_{\lambda}(\Omega)$上是强制的, 且有下界.

引理2.3 存在$\lambda_1=\frac{k}{||a||_{\infty}S_1^{q+1}(p-q)}(\frac{k(p-q-1)}{S_2^{p+1}||b||_{\infty}(p-q)})^{p-q-1}>0$, 使得当$0<\lambda<{\lambda}_1$时, $N_{\lambda}^0(\Omega)=\varnothing$.

证 假设$N_{\lambda}^0(\Omega)\neq\varnothing$, 则存在$u\in N_{\lambda}^0(\Omega)$有${\psi}_{u}^{'}(1)=0$, ${\psi}_{u}^{''}(1)=0$. 由 (2.10), (2.11) 式可得下列等式关系

由 Sobolev 嵌入定理可知

其中$S_1$与$S_2$为 Sobolev 嵌入常数. 由 (2.12)-(2.15) 式计算出

从而

化简得

这与条件$0<\lambda<{\lambda}_1$矛盾, 从而假设不成立, 即$N_{\lambda}^0(\Omega)=\varnothing$.

由上述引理知, 对$0<\lambda<{\lambda}_1$, 可记$N_{\lambda}(\Omega)=N_{\lambda}^{+}(\Omega)\cup N_{\lambda}^{-}(\Omega)$. 定义$\gamma_{\lambda}^{+}=\inf\limits_{u\in N_{\lambda}^{+}(\Omega)}I_{\lambda}(u),$$\gamma_{\lambda}^{-}=\inf\limits_{u\in N_{\lambda}^{-}(\Omega)}I_{\lambda}(u)$.

引理2.4 若$0<\lambda<\frac{q+1}{p}\lambda_1$, 则有 (i)$\gamma_{\lambda}^{+}<0$; (ii) 存在正数$e_0>0$, 使得$\gamma_{\lambda}^{-}>e_0$.

证 (i) 设$u\in N_{\lambda}^{+}(\Omega)$, 则${\psi}_{u}^{''}(1)>0$, $\langle \phi^{'}(u), u \rangle>0$. 由 (2.11) 式知

即

再由 (2.7) 式, 得

将 (2.16) 式代入上式, 得

从而$\gamma_{\lambda}^{+}<0$.

(ii) 因为$u\in N_{\lambda}^{-}(\Omega)$, 从而$u\in N_{\lambda}(\Omega)$. 由 (2.7) 式可知

又因$u\in N_{\lambda}^{-}(\Omega)$, 从而$\langle \phi^{'}(u), u \rangle<0$. 由 (2.11), (2.15) 式可知$||u||_{X_0}\geq \frac{k(p-q-1)}{S_2^{p+1}||b||_{\infty}(p-q)}$. 从而

当$0<\lambda<\frac{q+1}{p}\lambda_1$时, $\frac{k}{p(p+1)}(\frac{k(p-q-1)}{S_2^{p+1}||b||_{\infty}(p-q)})^{p-q-1}-\frac{p-q}{(p+1)(q+1)}\lambda||a||_{\infty}S_1^{q+1}>0.$ 从而, 存在正数$e>0$, 使得$I_{\lambda}(u)>e$, 存在正数$e_0>0$, 使得$\gamma_{\lambda}^->e_0$.

由纤维映射的定义, 不难看出$\psi_u(t)$的性质与$\int_{\Omega}a(x)|u|^{q+1}{\rm d}x$与$\int_{\Omega}b(x)|u|^{p+1}{\rm d}x$ 的符号有关.

(1) 若$\int_{\Omega}a(x)|u|^{q+1}{\rm d}x>0$且$\int_{\Omega}b(x)|u|^{p+1}{\rm d}x>0$, 考虑泛函

显然$tu\in N_{\lambda}(\Omega)$当且仅当$O_u(t)=\lambda\int_{\Omega}a(x)|u|^{q+1}{\rm d}x$, 而

当$t\rightarrow+\infty$时, $O_u(t)\rightarrow-\infty$. 由 (2.17) 式, $\lim\limits_{t\rightarrow 0^+} O_u^{'}(t)>0$, $\lim\limits_{t\rightarrow +{\infty}} O_u^{'}(t)<0$. 因此, 存在唯一的$t^*=t^*(u)>0$, 使得$O_u(t)$在$(0, t^*)$上是增加的, 在$(t^*, +\infty)$上是减少的. 此外$t^*$是$O_u^{'}(t)=0$的根, 即

将此式两边乘以$(t^*)^{q+2}$得

从而

因此

当$0<\lambda<\frac{q+1}{p}\lambda_1$时, 由 Sobolev 嵌入定理与 (2.18) 式得

因此, 存在唯一的$t^{+}<t^*$与唯一的$t^{-}>t^*$使得$O_u(t^+)=O_u(t^-)=\lambda\int_{\Omega}a(x)|u|^{q+1}{\rm d}x$. 从而, $t^{+}u\in N_{\lambda}(\Omega)$, $t^{-}u\in N_{\lambda}(\Omega)$. 此外, $\langle\phi^{'}(tu), tu\rangle=\psi_u^{''}(t)=t^{q+2}O_u^{'}(t)$, 故由$O_u^{'}(t^{+})>0$推出$t^{+}u\in N_{\lambda}^{+}(\Omega)$; 由 $O_u^{'}(t^{-})<0$推出$t^{-}u\in N_{\lambda}^{-}(\Omega)$.

(2) 若$\int_{\Omega}a(x)|u|^{q+1}{\rm d}x>0$且$\int_{\Omega}b(x)|u|^{p+1}{\rm d}x\leq0$, 则 $O_u^{'}(t)$恒大于$0$, 故$O_u(t)$ 在 $(0, +\infty)$ 上是严格单调增加的. 因此, 对任意$\lambda\in \mathbb{R}$, 存在唯一的$t^+$, 使得 $t^{+}{u}\in N_{\lambda}(\Omega)$, 又因为$O_u^{'}(t^{+})>0$, 所以$t^{+}{u}\in N_{\lambda}^{+}(\Omega)$.

(3) 若$\int_{\Omega}a(x)|u|^{q+1}{\rm d}x\leq 0$且$\int_{\Omega}b(x)|u|^{p+1}{\rm d}x>0$, 则当$t\rightarrow +\infty$时, $O_u(t)\rightarrow -\infty$. 因此对任意$\lambda\in \mathbb{R}$, 存在唯一的一个$t^{-}>0$, 使得$O_u(t^{-})=\lambda\int_{\Omega}a(x)|u|^{q+1}{\rm d}x$. 此外, 对$\forall t\in(0, t^{-})$, $\psi_u^{'}(t)>0$, 当$t\in(t^{-}, \infty)$ 时, $\psi_u^{'}(t)<0$, 从而$t^{-}u\in N_{\lambda}^{-}(\Omega)$.

(4) 若$\int_{\Omega}a(x)|u|^{q+1}{\rm d}x\leq 0$且$\int_{\Omega}b(x)|u|^{p+1}{\rm d}x\leq0$, 则当$t\in(0, +\infty)$时, $O_{u}^{'}(t)$恒大于$0$. 因此 $O_{u}(t)$ 在此区间内严格单调增加, 因而不存在任何$t\in(0, +\infty)$, 使得 $O_u(t)=\lambda\int_{\Omega}a(x)|u|^{q+1}{\rm d}x$.

引理3.1 若$0<\lambda<\frac{q+1}{p}\lambda_{1}$, 则能量泛函$I_{\lambda}$在$N_{\lambda}^{+}(\Omega)$上有一个极小值点$u_0^{+}$且满足下列结论

(i)$I_{\lambda}(u_0^{+})=\gamma_{\lambda}^{+}<0;$

(ii)$u_0^{+}$是问题 (1.1) 的一个解.

证 因为$I_{\lambda}$在$N_{\lambda}(\Omega)$上有下界, 所以在$N_{\lambda}^{+}(\Omega)$上也有下界. 因而存在极小化序列$\left\{u_k\right\}\subset N_{\lambda}^{+}(\Omega)$使得

由引理 2.2, $I_{\lambda}$是强制的, 从而$\left\{u_k\right\}$ 在 $X_0$ 中有界. 因此存在 $\left\{u_k\right\}$ 的一个子列 (不妨仍记为$\left\{u_k\right\}$), 使得在$X_0$中, $u_k\rightharpoonup u_0^{+}$, $u_0^{+}\in X_0$. 此外, 由紧嵌入知当 $r\in [1, p_s^{*})$时, 在$L^{r}(\Omega)$中有$u_k\rightarrow u_0^{+}$. 故当 $k\rightarrow +{\infty}$ 时, $u_k(x)\rightarrow u_0^{+}(x)$a.e. 在$\Omega$中. 对每个$r\in [1, p_s^{*})$, 由文献 [9] 中的定理 IV-9, 存在$s(x)\in L^{r}(\mathbb{R}^{N})$使得$|u_k(x)|\leq s(x)$a.e. 在$\mathbb{R}^{N}$中. 因此, 由控制收敛定理有

在$N_{\lambda}(\Omega)$上, 由 (2.7) 式得

令$k\rightarrow +\infty$, 由于$0<q<1<q+1<p<p(h+1)<p+1<p_s^*$, 再由引理 2.4, (3.1), (3.2) 式, 可得$\int_{\Omega}a(x)|u_0^{+}|^{q+1}{\rm d}x>0$. 由上述对纤维映射的讨论可知, 存在$t^{+}>0$使得$t^{+}u_0^{+}\in N_{\lambda}^{+}(\Omega)$, 且 $\langle I_{\lambda}^{'}(t^{+}u_0^{+}), (t^{+}u_0^{+})\rangle=0.$

下面证明在空间$X_0$中$u_k\rightarrow u_0^{+}$. 如若不成立, 由范数的弱下半连续性知

因为

且

从而对充分大的$k$, 有$\langle I_{\lambda}^{'}(t^{+}u_k), (t^{+}u_k)\rangle>0$. 又因为$\left\{u_k\right\}\subset N_{\lambda}^{+}(\Omega)$, $\langle I_{\lambda}^{'}(u_k), u_k\rangle=0$, 且对$0<t<1$, $\langle I_{\lambda}^{'}(tu_k), tu_k\rangle<0$, 因此$t^{+}>1$. 另一方面, $I_{\lambda}(tu_0^{+})$ 在$(0, t^{+})$上是减少的, 所以

这与$\gamma_{\lambda}^{+}$的定义矛盾. 因此, 在$X_0$中$u_k\rightarrow u_0^{+}$, 即当$k\rightarrow +\infty$时, $I_{\lambda}(u_k)\rightarrow I_{\lambda}(u_0^{+})=\inf\limits_{u\in N_{\lambda}^{+}(\Omega)}I_{\lambda}(u)=\gamma_{\lambda}^{+}$. 从而$u_0^{+}$ 是$I_{\lambda}$在$N_{\lambda}^{+}(\Omega)$上的一个极小值点. 由引理 2.1, $u_0^{+}$ 是问题 (1.1) 的一个解.

引理3.2 若$0<\lambda<\frac{q+1}{p}\lambda_{1}$, 则能量泛函$I_{\lambda}$在$N_{\lambda}^{-}(\Omega)$ 上有一个极小值点$u_0^{-}$且满足下列结论

(i) $I_{\lambda}(u_0^{-})=\gamma_{\lambda}^{-}>0$;

(ii) $u_0^{-}$是问题 (1.1) 的一个解.

证 因为$I_{\lambda}$在$N_{\lambda}(\Omega)$上有下界, 所以在$N_{\lambda}^{-}(\Omega)$上有下界, 则存在极小化序列 $\left\{\widetilde{u}_k\right\}\subset N_{\lambda}^{-}(\Omega)$ 使得

与引理 3.1 的证明类似, 存在$u_0^{-}\in X_0$及 $\{\widetilde{u}_k\}$ 的一个子列 (不妨仍记为$\left\{\widetilde{u}_{k}\right\}$), 使得在$X_0$中, $\widetilde{u}_k\rightharpoonup u_0^{-}$. 此外, 在$L^{r}(\Omega)$中有$\widetilde{u}_k\rightarrow u_0^{-}$. 故当$k\rightarrow +\infty$时, $\widetilde{u}_k(x)\rightarrow u_0^{-}(x)$a.e. 在$\Omega$中. 对任意$r\in[1, p_s^{*})$, 由控制收敛定理有

类似地, 由前面对纤维映射的讨论可知存在$t^{-}>0$使得$t^{-}u_0^{-}\in N_{\lambda}^{-}(\Omega)$. 下面证明在$X_0$中, $\widetilde{u}_k\rightarrow u_0^{-}$. 倘若不然, 则由范数的弱下半连续性可知

因为$\left\{\widetilde {u}_k\right\}\subset N_{\lambda}^{-}(\Omega)$, $\langle I_{\lambda}^{'}(\widetilde {u}_k), \widetilde {u}_k\rangle=0$, 且对$t>0$, $I_{\lambda}(\widetilde{u}_k)\geq I_{\lambda}(t\widetilde{u}_k)$. 从而

这与$\gamma_{\lambda}^{-}$的定义矛盾. 因此, 在$X_0$中$\widetilde {u}_k\rightarrow u_0^{-}$. 即当$k\rightarrow +\infty$时, $I_{\lambda}(\widetilde {u}_k)\rightarrow I_{\lambda}(u_0^{-})=\inf\limits_{u\in N_{\lambda}^{-}(\Omega)}I_{\lambda}(u)=\gamma_{\lambda}^{-}$. 从而$u_0^{-}$ 是$I_{\lambda}$在$N_{\lambda}^{-}(\Omega)$上的一个极小值点. 由引理 2.1, $u_0^{-}$ 是问题 (1.1) 的一个解.

本文的主要定理如下

定理 3.1 若$0<q<1<q+1<p<p(h+1)<p+1<p_s^{*}$, 则存在一个常数$\lambda_{1}$, 使得当$0<\lambda<\frac{q+1}{p}\lambda_{1}$时, 问题 (1.1) 至少有两个非负解.

证 由引理 3.1 与引理 3.2 可知, 对任意$0<\lambda<\frac{q+1}{p}\lambda_1$, 问题 (1.1) 有两个解, 分别为$u_0^{+}$与$u_0^{-}$, 且$I_{\lambda}(u_0^{+})=I_{\lambda}(|u_0^{+}|)$, $I_{\lambda}(u_0^{-})=I_{\lambda}(|u_0^{-}|)$, $|u_0^{+}|\in N_{\lambda}^{+}(\Omega)$, $|u_0^{-}|\in N_{\lambda}^{-}(\Omega)$. 又因为$N_{\lambda}^{+}(\Omega)\cap N_{\lambda}^{-}(\Omega)=\varnothing$, 从而$u_0^{+}$ 与$u_0^{-}$是问题 (1.1) 两个不同的非负解.