本文研究了Heisenberg群上如下带有Dirichlet边界条件的拟线性椭圆方程

$ (E_{\lambda})~~\left\{\begin{array}{ll} -\Delta_{{\Bbb H},p}u-\mu\frac{|z|^{p}}{\rho^{2p}}|u|^{p-2}u =\lambda f(\xi)|u|^{q-2}u+g(\xi)|u|^{p^{*}-2}u,~ &\mbox{在 $ \Omega$ 中,} \\ u=0,&\mbox{在 $\partial\Omega $上,} \end{array}\right. $

这里$\Omega$是Heisenberg群${\Bbb H}^{N}$上的有光滑边界的有界域, $0\in\Omega$, $1<q<p<Q$, $p^{*}=\frac{pQ}{Q-p}$. $Q=2N+2$是${\Bbb H}^{N}$的齐次维数.且$\lambda >0$是实参量, 权函数$f,g$是变号的.

在假设$f\not\equiv0$及$g\not\equiv1$条件下, $(E_{\lambda})$可以看做如下方程的扰动问题

$ \left\{\begin{array}{ll} -\Delta_{{\Bbb H},p}u=|u|^{p^{*}-2}u,~~& \mbox{在 $\Omega $ 中,} \\ u=0,& \mbox{在$\partial\Omega $上.} \end{array}\right.$

(1.1)

当$p=2$时, 文献 [1]说明了问题$(1.1)$解的存在性受区域$\Omega$的拓扑性质的影响.作者证明了如果$\Omega$至少有一个非平凡同调群时, 问题$(1.1)$存在一个弱解.如果$\Omega$是${\Bbb H}$ -星型的, Garofalo和Lanconelli在文献 [2]中证明了该问题无解.其他相关的结果可以参见文献 [3, 19-20, 23].

Mokrani^[4]研究了Heisenberg群上如下含奇性项的半线性次椭圆方程问题

$ \left\{\begin{array}{ll} -\Delta_{{\Bbb H}}u-\mu V(\xi)u=\lambda u+|u|^{p-2}u ,~ & \mbox{在$ \Omega $中,} \\ u=0,&\mbox{在$\partial\Omega $ 上,} \end{array}\right.$

(1.2)

这里$V$是$\Omega$上一个带奇性的正函数, $\lambda>0$是实参数.利用变分法, 他们证明了问题$(1.2)$在Sobolev空间$H^{1,p}_{0}(\Omega;{\Bbb H}^{N})$上存在一个解.

近些年来, 一些作者运用Nehari流形和纤维映射方法来解决半线性和拟线性问题(参见文献 [5-7]), 陈南博和涂强^[8]研究了下列次临界$p$-Laplace方程多解的存在性

$ \left\{\begin{array}{ll} -\Delta_{{\Bbb H},p}u=\lambda f(\xi)|u|^{p-2}u+g(\xi)|u|^{r-2}u,~ & \mbox{在$ \Omega $ 中,} \\ u=0,&\mbox{在$\partial\Omega $上,} \end{array}\right.$

(1.3)

其中$1<p<r<\frac{pQ}{Q-p}$, $\lambda>0$是实参数, $f$和$g$是$\Omega$上不定变号权函数.作者给出了问题$(1.3)$在$H^{1,p}_0(\Omega;{\Bbb H}^{N})$上至少有两个非负解.

本文中, 我们研究的问题$(E_{\lambda})$是Heisenberg群上包含临界Sobolev指数并且带有奇性项. Tsing-San Hsu在文献 [6]中给出了类似问题在欧式空间中相应的结果.由于$p^{*}$是嵌入$H^{1,p}_{0}(\Omega;{\Bbb H}^{N})\hookrightarrow L^{p^{*}}(\Omega;{\Bbb H}^{N})$的临界指数, 因此标准的变分法不能直接运用.我们的思想是基于Nehari流形的一种特殊技巧来研究$(E_{\lambda})$解的存在性.文献 [9-11]中也应用了这种思想.

本文需要用到如下假设:

($f_{1}$) $f \in C(\overline{\Omega})$且$f^{+}=\max\{f,0\}\not\equiv 0 $.

($f_{2}$)存在$\beta_{0},R>0$及 $x_{0}\in \Omega$ 使得$B_{R}(x_{0})\subset\Omega$且对于所有的$x\in B_{R}(x_{0})$, $f(x)\geq \beta_{0}$.不失一般性, 我们假设$x_{0}=0$.

($g_{1}$) $g(x)\in C(\overline{\Omega})$, $g^{+}=\max\{g,0\}\not\equiv 0 $.

($g_{2}$)存在$\beta \geq \overline{}\frac{Q-p}{p-1}$使得$|g|_{\infty}=g(x_{0})=\max\limits_{x\in\overline{\Omega}} g(x),g(x)>0,\forall x\in B_{R}(x_{0})$, 这里$x_{0}$, ${\rho_{0}}$如$(f_{2})$中所定义.

在本文中, 我们用$|\cdot |_{r}$定义为Heisenberg群上的$L^{r}$ -范数.令

$ \Lambda_{1}=\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{\frac{Q(p-q)}{p^{2}}+\frac{q}{p}}\Big(\frac{p-q}{(p^{*}-q)| g^{+}|_{\infty}}\Big)^{\frac{(Q-p)(p-q)}{p^{2}}} \Big(\frac{p^{*}-p}{p^{*}-q}\Big) \frac{1}{|f^{+}|_{\infty}}|\Omega|^{^{1-\frac{q}{p^{*}}}},$

这里$|\Omega|$是$\Omega$的Lebesgue测度.下面给出本文的主要定理.

定理1.1 假设条件$(f_{1}),(f_{2}),(g_{1})$和$(g_{2})$满足, 令$\overline{\mu}=(\frac{Q-p}{p})^{p}$.则当$0\leq\mu<\overline{\mu}$, $0<\lambda<\Lambda_{1}$时, $(E_{\lambda})$在$H^{1,p}_{0}(\Omega;{\Bbb H}^{N})$中至少存在一个正解；当$0\leq\mu<\overline{\mu},0<\lambda<\frac{q}{p}\Lambda_{1}$时, $(E_{\lambda})$在$H^{1,p}_{0}(\Omega;{\Bbb H}^{N})$中至少存在两个正解.

本文的结构如下:在第2节中, 我们介绍了Heisenberg群以及一些相应准备知识; 在第3节中, 我们给出了定理1.1的证明.

本节中, 我们简单的介绍了Heisenberg群的相关知识.

设$N>1$, Heisenberg群${\Bbb H}^{N}$是在${\Bbb R}^{2N+1}$上赋予运算法则

$(x,y,t)\cdot (x',y',t')=(x+x',y+y',t+t'+2(\langle x',y\rangle-\langle x,y'\rangle)) $

所得的Lie群, 这里$\langle \cdot ,\cdot\rangle$定义为${\Bbb R}^{N}$中的内积, 其左不变向量场是

$X_{j}=\partial _{x_{j}}+2y_{j}\partial _{t},Y_{j}=\partial _{y_{j}}-2x_{j}\partial _{t} ,j=1,2\cdots N . $

$Q=2N+2$为${\Bbb H}^{N}$的齐次维数.在Heisenberg群上, 定义模

$|\xi|=\rho(\xi)=(|z|^{4}+t^{2})^{\frac{1}{4}} ,~ \mbox{其中} ~ z=(x,y),\xi=(z,t). $

${\Bbb H}^{N}$上的次Laplace算子定义为

$\Delta_{{\Bbb H}}:=\nabla_{{\Bbb H}}\cdot\nabla_{{\Bbb H}}=\sum\limits_{i=1}^{N}X_{i}^{2}+Y_{i}^{2},$

(2.1)

即

$\Delta_{{\Bbb H}}=\sum\limits_{i=1}^{N}\partial _{x_{i}}^{2}+\partial _{y_{i}}^{2}+4y_{i}\partial _{x_{i}}\partial _{t} -4x_{i}\partial _{y_{i}}\partial _{t}+4(x_{i}^{2}+y_{i}^{2})\partial _{t}^{2},$

(2.2)

这里$\nabla_{{\Bbb H}}$是$2N$ -维向量$(X_{1},X_{2},\cdots\cdots X_{N},Y_{1},Y_{2},\cdots\cdots Y_{N})$.

对于$p>1$, 次$p$-Laplace算子$\Delta_{{\Bbb H},p}$定义为

$\Delta_{{\Bbb H},p}u=-\sum\limits_{i=1}^{N}[X_{i}(|\nabla_{{\Bbb H}}u|^{p-2}X_{i}u)+Y_{i} (|\nabla_{{\Bbb H}}u|^{p-2}Y_{i}u)]\\ \quad \quad \quad =-\nabla_{{\Bbb H}}(|\nabla_{{\Bbb H}}u|^{p-2}\nabla_{{\Bbb H}}u).$

(2.3)

更多的有关Heisenberg群的知识可以参见文献 [15].令$\Omega$是${\Bbb H}^{N}$上有界开区域, 我们定义${\Bbb H}^{N}$上的Sobolev空间如下

$H^{1,p}(\Omega;{\Bbb H}^{N})=\{u\in L^{p}(\Omega);\nabla_{{\Bbb H}}u\in L^{p}(\Omega)\}. $

空间$H^{1,p}_{0}(\Omega;{\Bbb H}^{N})$定义为$C^{\infty}_{0}(\Omega)$在$H^{1,p}(\Omega;{\Bbb H}^{N})$上的闭包.为方便起见, 我们定义$X=H^{1,p}_{0}(\Omega;{\Bbb H}^{N})$. $X$上的范数定义为

$\|u\|_{X}=\Big(\int_{\Omega}|\nabla_{{\Bbb H}}u|^{p}{\rm d}\xi\Big)^{\frac{1}{p}}. $

下面的不等式被称为Folland-Stein Sobolev不等式

$C|u|_{q}^{p}|| u||_{X}^{p} ,~ \mbox{当} 1<q\leq p^{*},$

(2.4)

其中$C$是使上述不等式成立的最大常数.令

$S=\inf\limits_{u\in X}\frac{\int_{\Omega}|\nabla_{{\Bbb H}}u|^{p}{\rm d}\xi} {(\int_{\Omega}|u|^{p^{*}}{\rm d}\xi)^{p/p^{*}}},$

则$S$与指标$q$和区域$\Omega$有关, 且$S\leq C$.显然$S$满足$(2.4)$式.对于$(E_{\lambda})$, 我们考虑其在$X$上对应的能量泛函$J_{\lambda} $:

$J_{\lambda}(u)=\frac{1}{p}\int_{\Omega}|\nabla_{{\Bbb H}}u|^{p}{\rm d}\xi-\frac{\mu}{p}\int_{\Omega}V(z,t)|u|^{p}{\rm d}\xi -\frac{\lambda}{q}\int_{\Omega}f(\xi)|u|^{q} {\rm d}\xi-\frac{1}{p^{*}}\int_{\Omega}g(\xi)|u|^{p^{*}}{\rm d}\xi ,%\tag{2.5}$

(2.5)

其中$V(z,t)=\frac{|z|^{p}}{\rho^{2p}}$.

在假设$(f_{1}),(f_{2}),(g_{1})$以及$(g_{2})$成立的条件下, 易得$J_{\lambda}$在$X$上定义合理且$J_{\lambda}\in C^{1}(X,{\Bbb R})$.并且$J_{\lambda}$的临界点就是方程$(E_{\lambda})$在$X$上的弱解.现在我们定义$J_{\lambda}$在$X$上的Palais-Smale(简称(PS))序列, (PS)-值, 以及(PS)-条件如下:

定义2.1  (ⅰ)对于$\alpha \in{\Bbb R}$, 当$k\rightarrow\infty$时, 如果$J_{\lambda}(u_{k})=\alpha +o(1)$且$J_{\lambda}'(u_{k})=o(1)$在$X^{*}$上强收敛, 则称序列$\{u_{k}\}_{k\in{\Bbb N}}$为$J_{\lambda}$在$X$上的(PS)$_{\alpha }$ -序列这里$o(1)\rightarrow0$当$k\rightarrow\infty$, $X^{*}$是$X$的对偶空间;

(ⅱ)如果$J_{\lambda}$在$X$上存在一个(PS)$_{\alpha }$ -序列, 则称$\alpha \in{\Bbb R}$为$J_{\lambda}$在$X$上的(PS) -值;

(ⅲ)如果$J_{\lambda}$的任一(PS)$_{\alpha }$ -序列在$X$上都存在收敛子列, 则称$J_{\lambda}$在$X$上满足(PS)$_{\alpha }$ -条件.

下面三个命题在本文主要定理的证明中起着重要作用.

命题2.1  (Hardy不等式)设G是一个${\Bbb H}^{N}$群, $u\in C_{0}^{\infty}(G\backslash\{0\})$, $1<p<Q$, 则

$\overline{\mu}\int_{G}\frac{|z|^{p}}{\rho^{2p}}|u|^{p}{\rm d}\xi\leq\int_{G}|\nabla_{{\Bbb H}}u|^{p}{\rm d}\xi ,$

(2.6)

其中$\overline{\mu}=(\frac{Q-p}{p})^{p}$是上述不等式成立的最佳常数.

命题2.1的证明可以参见文献 [12-15].

命题2.2  (Ekeland变分原理)设$(M,d)$是完备的度量空间.又设$E: M\rightarrow {\Bbb R}\cup +\infty$是下半连续的且下有界, $E\not\equiv \infty$.则对于$\forall \varepsilon ,\delta >0,\forall u\in M$及

$ E(u)\leq \inf\limits_{M}E+\varepsilon ,$

都存在一个元素$v\in M$是如下泛函

$ E_{v}(w)\equiv E(w)+\frac{\varepsilon }{\delta }d(v,w) $

的极小值点.并且有

$E(v)\leq E(u),d(u,v)\leq\delta .$

命题2.3 设$V$是Banach空间, 泛函$E\in C^{1}(V)$是下有界的, 则$E$在$V$上存在一个极小化序列$\{v_{m}\}_{m\in {\Bbb N}}$使得当$ m\rightarrow\infty$时

$ E(v_{m})\rightarrow\inf\limits_{V}E;~ E'(v_{m})\rightarrow 0 ,~\mbox{在$ V^{*}$ 中,} $

这里$V^{*}$是$V$的对偶空间.

命题2.2和命题2.3的证明参见文献 [16].

由于$J_{\lambda}$在$X$上不是下有界的, 我们在Nehari流形$ N_{\lambda}$上考虑$J_{\lambda}$的极值

$ N_{\lambda}=\{u\in X\backslash\{0\}; \langle J_{\lambda}'(u),u\rangle=0\},$

这里$\langle \cdot,\cdot\rangle$定义为$X$和$X^{*}$之间的对偶积.显然, $u\in N_{\lambda}$当且仅当

$\int_{\Omega}|\nabla_{{\Bbb H}}u|^{p}{\rm d}\xi-\mu\int_{\Omega}V(z,t)|u|^{p}{\rm d}\xi-\lambda\int_{\Omega}f(\xi) |u|^{q}{\rm d}\xi-\int_{\Omega}g(\xi)|u|^{p^{*}}{\rm d}\xi=0.$

(2.7)

定义

$\psi_{\lambda}(u):=\langle J_{\lambda}'(u),u\rangle=\int_{\Omega}|\nabla_{{\Bbb H}}u|^{p}{\rm d}\xi-\mu\int_{\Omega}V(z,t)|u|^{p}{\rm d}\xi-\lambda\int_{\Omega} f|u|^{q}{\rm d}\xi-\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi.$

(2.8)

则对于$u\in N_{_{\lambda}}$, 可以得出

$\langle\psi_{\lambda}'(u),u\rangle =(p-q)\Big[\int_{\Omega}|\nabla_{{\Bbb H}}u|^{p}{\rm d}\xi-\mu\int_{\Omega}V(z,t)|u|^{p}{\rm d}\xi\Big]- (p^{*}-q)\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi $

(2.9)

$=(p-p^{*})\Big[\int_{\Omega}|\nabla_{{\Bbb H}}u|^{p}{\rm d}\xi-\mu\int_{\Omega}V(z,t)|u|^{p}{\rm d}\xi\Big]+\lambda (p^{*}-q)\int_{\Omega}f|u|^{q}{\rm d}\xi.$

(2.10)

我们把$N_{\lambda}$分成三部分

$N_{\lambda}^{+}=\{u\in N_{\lambda}; \langle\psi_{\lambda}'(u),u\rangle >0\}; $

$N_{\lambda}^{0}=\{u\in N_{\lambda}; \langle\psi_{\lambda}'(u),u\rangle =0\}; $

$N_{\lambda}^{-}=\{u\in N_{\lambda}; \langle\psi_{\lambda}'(u),u\rangle <0\}. $

在本节中, 我们证明定理1.1.根据Hardy不等式(命题2.1) 及Folland-Stein Sobolev不等式(2.4), 易得:在$X$上, 对于所有$0\leq\mu<\overline{\mu}$, 范数

$\|u\|_{\mu}:=\Big(\int_{\Omega}|\nabla_{{\Bbb H}}u|^{p}{\rm d}\xi-\mu\int_{\Omega}V(z,t)|u|^{p}{\rm d}\xi\Big)^{\frac{1}{p}}$

与如下范数

$ \|u\|_{X}=\Big(\int_{\Omega}|\nabla_{{\Bbb H}}u|^{p}{\rm d}\xi\Big)^{\frac{1}{p}} $

等价.

定理1.1的证明需要以下一些引理.

引理3.1 假设$u_{0}$是$J_{\lambda}$在$N_{\lambda}$上的一个局部极小值点, 且$u_{0}\not\in N_{\lambda}^{0}$.则在$X^{*}$上有$J_{\lambda}'(u_{0})=0$.

证 如果$u_{0}$是$J_{\lambda}$在$N_{\lambda}$上的一个局部极小值点, 则$u_{0}$是如下最优化问题的解

$ \left\{\begin{array}{ll} \min\limits_{u\in N_{\lambda}}J_{\lambda} ,\\ \psi_{\lambda}(u)=\langle J_{\lambda}'(u),u\rangle=0. \end{array}\right. $

因此, 由Lagrange乘数定理, 存在$l\in{\Bbb R}$使得

$J_{\lambda}'(u_{0})=l\psi'_{\lambda}(u_{0}). $

又$u_{0}\in N_{\lambda}$, 我们有$\langle J_{\lambda}'(u_{0}),u_{0}\rangle=0$, 从而$l\langle\psi'_{\lambda}(u_{0}),u_{0}\rangle=0$.若$u_{0}\not\in N_{\lambda}^{0}$, 则$l=0$.证毕.

引理3.2 当$0<\lambda<\Lambda_{1}$且$0\leq\mu<\overline{\mu}$时, 有$N_{\lambda}^{0}=\emptyset$.

证 反证法.即假设存在$\lambda\in{\Bbb R}$且$0<\lambda<\Lambda_{1}$使得$N_{\lambda}^{0}\neq\emptyset$.由$(2.6)$式可得

$ \|u\|_{\mu}^{p}=\int_{\Omega}|\nabla_{{\Bbb H}}u|^{p}{\rm d}\xi -\mu\int_{\Omega}V(z,t)|u|^{p}{\rm d}\xi =\|u\|^{p}_{X}-\mu\int_{\Omega}V|u|^{p}{\rm d}\xi\geq \Big(1-\frac{\mu}{\overline{\mu}}\Big)\|u\|^{p}_{X},$

故有

$\|u\|_{X}\leq\frac{1}{\big(1-\frac{\mu}{\overline{\mu}}\big)^{\frac{1}{p}}}\|u\|_{\mu}.$

(3.1)

对于$u\in N_{\lambda}^{0}$, 由假设$(f_{1})$, $(2.9)$式及$(3.1)$式得

$\begin{align} & \|u\|_{X}^{p}-\mu \int_{\Omega }{V}|u{{|}^{p}}\text{d}\xi =\frac{{{p}^{*}}-q}{p-q}\int_{\Omega }{g}|u{{|}^{{{p}^{*}}}}\text{d}\xi \le \frac{{{p}^{*}}-q}{p-q}|{{g}^{+}}{{|}_{\infty }}|u|_{{{p}^{*}}}^{{{p}^{*}}} \\ & \quad \quad \quad \quad \quad \quad \quad \quad \quad \le \frac{{{p}^{*}}-q}{p-q}|{{g}^{+}}{{|}_{\infty }}{{(\frac{1}{S})}^{\frac{{{p}^{*}}}{p}}}\|u\|_{X}^{{{p}^{*}}} \\ & \quad \quad \quad \quad \quad \quad \quad \quad \quad \le \frac{{{p}^{*}}-q}{p-q}|{{g}^{+}}{{|}_{\infty }}{{(\frac{1}{S})}^{\frac{{{p}^{*}}}{p}}}\frac{1}{{{(1-\frac{\mu }{{\bar{\mu }}})}^{\frac{{{p}^{*}}}{p}}}}\|u\|_{\mu }^{{{p}^{*}}}. \\ \end{align}$

则

$\|u\|_{\mu}^{p^{*}-p}\geq\frac{p-q}{(p^{*}-q)|g^{+}|_{\infty}}\Big(S(1-\frac{\mu}{\overline{\mu}})\Big)^{\frac{p^{*}}{p}}.$

(3.2)

即

$\|u\|_{\mu}^{p}\geq \Big(\frac{p-q}{(p^{*}-q)|g^{+}|_{\infty}}\Big)^{\frac{p}{p*-p}}\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{\frac{Q}{p}}.$

(3.3)

同理, 对于$u\in N_{\lambda}^{0}$, 由假设$(g_{1})$, $(2.10)$式及$(3.1)$式得

$\begin{align} & \|u\|_{X}^{p}-\mu \int_{\Omega }{V}|u{{|}^{p}}\text{d}\xi =\lambda \frac{{{p}^{*}}-q}{{{p}^{*}}-p}\int_{\Omega }{f}|u{{|}^{q}}\text{d}\xi \le \lambda \frac{{{p}^{*}}-q}{{{p}^{*}}-p}|{{f}^{+}}{{|}_{\infty }}|u|_{q}^{q}|\Omega {{|}^{1-\frac{q}{{{p}^{*}}}}} \\ & \quad \quad \quad \quad \quad \quad \quad \quad \quad \le \lambda \frac{{{p}^{*}}-q}{{{p}^{*}}-p}|{{f}^{+}}{{|}_{\infty }}{{(\frac{1}{S})}^{\frac{q}{p}}}\|u\|_{X}^{q}|\Omega {{|}^{1-\frac{q}{{{p}^{*}}}}} \\ & \quad \quad \quad \quad \quad \quad \quad \quad \quad \le \lambda \frac{{{p}^{*}}-q}{{{p}^{*}}-p}|{{f}^{+}}{{|}_{\infty }}{{(\frac{1}{S})}^{\frac{q}{p}}}\frac{1}{{{(1-\frac{\mu }{{\bar{\mu }}})}^{\frac{q}{p}}}}|\Omega {{|}^{1-\frac{q}{{{p}^{*}}}}}\|u\|_{\mu }^{q}, \\ \end{align}$

则有

$ \|u\|_{\mu}^{p-q}\leq\lambda\frac{p^{*}-q}{p^{*}-p}|f^{+}|_{\infty}|\Omega|^{1-\frac{q}{p^{*}}}\Big(\frac{1}{S}\Big)^{\frac{q}{p}} \frac{1}{\big(1-\frac{\mu}{\overline{\mu}}\big)^{\frac{q}{p}}}. $

从而

$\|u\|_{\mu}^{p}\leq\Big(\lambda\frac{p^{*}-q}{p^{*}-p}|f^{+}|_{\infty}\Big)^{\frac{p}{p-q}}\Big((1-\frac{\mu}{\overline{\mu}})S\Big) ^{\frac{q}{q-p}}|\Omega|^{(1-\frac{q}{p^{*}})(\frac{p}{p-q})}.$

(3.4)

由$(3.3)$和$(3.4)$式, 可得

$ \Big(\lambda\frac{p^{*}-q}{p^{*}-p}|f^{+}|_{\infty}\Big)^{\frac{p}{p-q}}\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{\frac{q}{q-p}} |\Omega|^{(1-\frac{q}{p^{*}})(\frac{p}{p-q})}\geq\Big(\frac{p-q}{(p^{*}-q) |g^{+}|_{\infty}}\Big)^{\frac{p}{p*-p}}\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{\frac{Q}{p}}. $

因此

$ \lambda\geq\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{\frac{Q(p-q)}{p^{2}}+\frac{q}{p}}\Big(\frac{p-q} {(p^{*}-q)|g^{+}|_{\infty}}\Big)^{\frac{(Q-p)(p-q)}{p^{2}}}\frac{p^{*}-p}{p^{*}-q}\frac{1}{|f^{+}|_{\infty}} |\Omega|^{\frac{q}{p^{*}}-1}=\Lambda_{1},$

这与假设矛盾, 所以$N_{\lambda}^{0}=\emptyset$.

根据引理3.2, 有$N_{\lambda}=N_{\lambda}^{+}\cup N_{\lambda}^{-}$.定义

$ \alpha _{\lambda}=\inf\limits_{u\in N_{\lambda}}J_{\lambda}(u),\alpha _{\lambda}^{+}=\inf\limits_{u\in N_{\lambda}^{+}}J_{\lambda}(u),\alpha _{\lambda}^{-}=\inf\limits_{u\in N_{\lambda}^{-}}J_{\lambda}(u). $

则有以下结论.

引理3.3  (ⅰ)若$\lambda\in(0,\Lambda_{1}),0\leq\mu<\overline{\mu}$以及$u\in N_{\lambda}^{+}$, 则有$J_{\lambda}(u)<0$且$\alpha _{\lambda}\leq\alpha _{\lambda}^{+}<0$;

(ⅱ)若$\lambda\in(0,\frac{q}{p}\Lambda_{1})$, 则存在正常数$d_{0}$使得$\alpha _{\lambda}^{-}\geq d_{0}$.

证  (ⅰ)令$u\in N_{\lambda}^{+}$, 根据(2.9) 和(2.10) 式有

$ \frac{p-q}{p^{*}-q}\|u\|^{p}_{\mu}>\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi,$

从而

$\begin{align} & {{J}_{\lambda }}(u)=(\frac{1}{p}-\frac{1}{q})\left\| u \right\|_{\mu }^{p}+(\frac{1}{q}-\frac{1}{{{p}^{*}}})\int_{\Omega }{g}|u{{|}^{{{p}^{*}}}}\text{d}\xi \\ & \quad \quad \quad <[(\frac{1}{p}-\frac{1}{q})+(\frac{1}{q}-\frac{1}{{{p}^{*}}})\frac{p-q}{{{p}^{*}}-q}]\left\| u \right\|_{\mu }^{p} \\ & \quad \quad \quad =-\frac{p-q}{qQ}\left\| u \right\|_{\mu }^{p}<0. \\ \end{align}$

因此, 由$\alpha _{\lambda}$和$\alpha ^{+}_{\lambda}$的定义, 可得出$\alpha _{\lambda}\leq\alpha _{\lambda}^{+}<0$.

(ⅱ)对于$u\in N_{\lambda}^{-}$, 由$(2.4)$及$(2.9)$式, 可得

$ \|u\|^{p}_{\mu}<\frac{p^{*}-q}{p-q}|g^{+}|_{\infty}\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{-\frac{p^{*}}{p}}\|u\|^{p^{*}}_{\mu},$

则有

$ \|u\|_{\mu}>\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{\frac{p^{*}}{p(p^{*}-p)}} \Big(\frac{p-q}{(p^{*}-q)|g^{+}|_{\infty}}\Big)^{\frac{1}{p^{*}-p}}. $

另一方面,

$J_{\lambda}(u)=\Big(\frac{1}{p}-\frac{1}{p^{*}}\Big)\|u\|^{p}_{\mu}-\lambda \Big(\frac{1}{q}-\frac{1}{p^{*}}\Big)\int_{\Omega}f|u|^{q}{\rm d}\xi\\ \geq\Big(\frac{1}{p}-\frac{1}{p^{*}}\Big)\|u\|^{p}_{\mu} -\lambda\Big(\frac{1}{q}-\frac{1}{p^{*}}\Big)|f^{+}|_{\infty}|\Omega|^{1-\frac{q}{p^{*}}} \|u\|^{q}_{\mu}\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{-\frac{q}{p}}\\ =\|u\|^{q}_{\mu}\Big[\Big(\frac{1}{p}-\frac{1}{p^{*}}\Big)\|u\|^{p-q}_{\mu}-\lambda \Big(\frac{1}{q}-\frac{1}{p^{*}}\Big) |f^{+}|_{\infty}\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{-\frac{q}{p}}|\Omega|^{1-\frac{q}{p^{*}}}\Big].$

因此, 如果$0<\lambda<\frac{q}{p}\Lambda_{1}$, 则存在$d_{0}>0$使得$ \alpha _{\lambda}^{-}\geq d_{0}.$

对于$u\in X$且满足$\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi>0$, 我们定义

$ t_{\max}=\Big(\frac{(p-q)\|u\|_{\mu}}{(p^{*}-q)\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi}\Big)^{\frac{1}{p^{*}-p}}>0. $

引理3.4 假设$\lambda\in (0,\Lambda_{1}),0\leq\mu<\overline{\mu}$及$u\in X$满足$\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi>0$.则有

(ⅰ)若$\int_{\Omega}f|u|^{q}{\rm d}\xi\leq0$, 则存在唯一的$t^{-}>t_{\max}$使得$t^{-}u\in N_{\lambda}^{-}$且

$ J_{\lambda}(t^{-}u)=\sup\limits_{t\geq0}J_{\lambda}(tu). $

(ⅱ)若$\int_{\Omega}f|u|^{q}{\rm d}\xi>0$, 则存在唯一的$t^{+}$, $t^{-}$使得$0<t^{+}<t_{\max}<t^{-}$, 以及$t^{+}u\in N_{\lambda}^{+}$, $t^{-}u\in N_{\lambda}^{-}$.并且有

$ J_{\lambda}(t^{+}u)=\inf\limits_{0\leq t\leq t_{\max}}J_{\lambda}(tu),J_{\lambda}(t^{-}u)=\sup\limits_{t\geq t^{+}}J_{\lambda}(tu). $

证 固定$u\in X$满足$\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi>0$.对于$t>0$, 令

$ k(t)=t^{p-q}\|u\|^{p}_{\mu}-t^{p^{*}-q}\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi . $

显然有$k(0)=0$, 且当$t\rightarrow\infty$时$k(t)\rightarrow-\infty$.由

$k'(t)=(p-q)t^{p-q-1}\|u\|^{p}_{\mu}-(p^{*}-q)t^{p^{*}-q-1}\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi,$

(3.5)

可知当$t=t_{\max}$时, $k'(t)=0$, $t\in(0,t_{\max})$时$k'(t)>0$, $t\in(t_{\max},+\infty)$时$k'(t)<0$.从而$k(t)$在$t_{\max}$处取得极大值, 且$k(t)$在区间$t\in [0,t_{\max})$上递增, 在区间$t\in (t_{\max},+\infty)$上递减.另外有

$k(t_{\max})=\Big(\frac{(p-q)\|u\|_{\mu}}{(p^{*}-q)\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi}\Big)^{\frac{p-q}{p^{*}-p}}\|u\|^{p}_{\mu}- \Big(\frac{(p-q)\|u\|_{\mu}}{(p^{*}-q)\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi}\Big)^{\frac{p^{*}-q}{p^{*}-p}} \int_{\Omega}g|u|^{p^{*}}{\rm d}\xi \\ \quad \quad \quad =\|u\|^{q}_{\mu}\Big[\Big(\frac{p-q}{p^{*}-q}\Big)^{\frac{p-q}{p^{*}-q}}-\Big(\frac{p-q}{p^{*}-q}\Big)^ {\frac{p^{*}-q}{p^{*}-p}}\Big]\Big(\frac{\|u\|^{p^{*}}_{\mu}}{\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi}\Big)^{\frac{p-q}{p^{*}-p}}\\ \quad \quad \quad \geq\|u\|^{q}_{\mu}\Big(\frac{p-q}{p^{*}-q}\Big)^{\frac{p-q}{p^{*}-q}}\Big(1-\frac{p-q}{p^{*}-q}\Big)\Big (\frac{1}{|g^{+}|_{\infty}}\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{\frac{p^{*}}{p}}\Big)^{\frac{p-q}{p^{*}-p}}\\ \quad \quad \quad =\|u\|^{q}_{\mu}\frac{p^{*}-p}{p^{*}-q}\Big[\frac{p-q}{(p^{*}-q)|g^{+}|_{\infty}}\Big((1-\frac {\mu}{\overline{\mu}})S\Big)^ {\frac{p^{*}}{p}}\Big]^{\frac{p-q}{p^{*}-q}}.%\tag{3.6}$

(3.6)

(ⅰ)当$\int_{\Omega}f|u|^{q}{\rm d}\xi\leq0$时.存在唯一的$t^{-}>t_{\max}$使得

$ k(t^{-})=\lambda\int_{\Omega}f|u|^{q}{\rm d}\xi ~ \mbox{且} ~ k'(t^{-})<0. $

则有

$ (p-q)(t^{-})^{p}\|u\|^{p}_{\mu}-(p^{*}-q)(t^{-})^{p^{*}}\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi\\ =(t^{-})^{q+1}\Big((p-q)(t^{-})^{p-q-1}\|u\|^{p}_{\mu}-(p^{*}-q)(t^{-})^{p^{*}-q-1}\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi\Big)\\ =(t^{-})^{q+1}k'(t^{-})<0 %\tag{3.7}$

(3.7)

及

$\begin{align}&\langle J'_{\lambda}(t^{-}u),t^{-}u\rangle =(t^{-})^{p}\|u\|^{p}_{\mu}-(t^{-})^{p^{*}}\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi -\lambda(t^{-})^{q}\int_{\Omega}f|u|^{q}{\rm d}\xi\\ &\quad \quad \quad \quad \quad \quad =(t^{-})^{q}\Big[(t^{-})^{p-q}\|u\|^{p}_{\mu}-(t^{-})^{p^{*}-q}\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi- \lambda\int_{\Omega}f|u|^{q}{\rm d}\xi\Big]\\ &\quad \quad \quad \quad \quad \quad =(t^{-})^{q}\Big(k(t^{-})-\lambda\int_{\Omega}f|u|^{q}{\rm d}\xi\Big)\\ &\quad \quad \quad \quad \quad \quad =0.\end{align}$

并且可以得出

$ \langle \psi'_{\lambda}(t^{-}u),t^{-}u\rangle=(p-p^{*})(t^{-})^{p}\|u\|^{p}_{\mu}+(p^{*}-q)(t^{-})^{q}\lambda \int_{\Omega}f|u|^{q}{\rm d}\xi<0,$

也即$t^{-}u\in N^{-}_{\lambda}$.

通过计算$J_{\lambda}(tu)$和$\frac{\rm d}{{\rm d}t}J_{\lambda}(tu)$, 我们有

$ J_{\lambda}(tu)=\frac{t^{p}}{p}\|u\|^{p}_{\mu}-\frac{\lambda}{q}(t)^{q}\int_{\Omega}f|u|^{q}{\rm d}\xi-\frac {t^{p^{*}}}{p^{*}}\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi $

及

$\frac{\rm d}{{\rm d}t}J_{\lambda}(tu)=t^{p-1}\|u\|^{p}_{\mu}-\lambda t^{q-1}\int_{\Omega}f|u|^{q}{\rm d}\xi-t^{p^{*}-1} \int_{\Omega}g|u|^{p^{*}}{\rm d}\xi\\ \quad \quad \quad =t^{q-1}\Big(t^{p-q}\|u\|^{p}_{\mu}-t^{p^{*}-q}\int_{\Omega} g|u|^{p^{*}}{\rm d}\xi-\lambda\int_{\Omega}f|u|^{q}{\rm d}\xi\Big)\\ \quad \quad \quad =t^{q-1}\Big(k(t)-k(t^{-})\Big).$

(3.8)

则$\frac{\rm d}{{\rm d}t}J_{\lambda}(t^{-}u)=0$, 且当$t\in(0,t^{-})$时$\frac{\rm d}{{\rm d}t}J_{\lambda}(tu)>0$, $t>t^{-}$时$\frac{\rm d}{{\rm d}t}J_{\lambda}(tu)<0$.故

$ J_{\lambda}(t^{-}u)=\sup\limits_{t\geq 0}J_{\lambda}(tu). $

(ⅱ)当$\int_{\Omega}f|u|^{q}{\rm d}\xi>0$时.对于$\lambda\in(0,\Lambda_{1})$, 由(3.6) 式以及

$\begin{align}&k(0)=0<\lambda \int_{\Omega}f|u|^{q}{\rm d}\xi\leq\lambda|f^{+}|_{\infty}\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{-\frac{q}{p^{*}}}\|u\|^{q}_{\mu}|\Omega|^{1-\frac{q}{p^{*}}}\\ &\quad \quad <\|u\|^{q}_{\mu}\Big(\frac{p^{*}-p}{p^{*}-q}\Big)\Big(\frac{p-q}{(p^{*}-q)|g^{+}|_{\infty}}\Big((1-\frac{\mu} {\overline{\mu}})S\Big)^{\frac{p^{*}}{p}}\Big)^{\frac{p-q}{p^{*}-p}}\\ &\quad \quad \leq k(t_{\max}),\end{align}$

可得存在唯一的$t^{+}$和$t^{-}$使得$0<t^{+}<t_{\max}<t^{-}$满足

$ k(t^{+})=\lambda\int_{\Omega}f|u|^{q}{\rm d}\xi=k(t^{-}),~ k'(t^{+})>0>k'(t^{-}). $

由(3.7) 式, 我们可得出

$ (p-q)(t^{\pm})^{p}\|u\|^{p}_{\mu}-(p^{*}-q)(t^{\pm})^{p^{*}}\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi=(t^{\pm})^{q+1}k'(t^{\pm}) $

及

$\begin{align}&\langle J'_{\lambda}(t^{\pm}u),t^{\pm}u\rangle =(t^{\pm})^{p}\|u\|^{p}_{\mu}-(t^{\pm})^{p^{*}}\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi -\lambda (t^{\pm})^{q}\int_{\Omega}f|u|^{q}{\rm d}\xi\\ &\quad \quad \quad \quad \quad \quad =(t^{\pm})^{q}\Big(k(t^{\pm})-\lambda\int_{\Omega}f|u|^{q}{\rm d}\xi\Big)=0.\end{align}$

即

$\langle \psi'_{\lambda}(t^{+}u),t^{+}u\rangle>0,~ \langle \psi_{\lambda}(t^{-}u),t^{-}u\rangle<0.$

故$t^{+}u\in N_{\lambda}^{+}$, $t^{-}u\in N_{\lambda}^{-}$.根据$(3.8)$式可得

$\frac{\rm d}{{\rm d}t}J_{\lambda}(tu)=t^{q-1}\Big(k(t)-k(t^{\pm})\Big),$

从而$t\in [t^{+},t^{-}]$时

$J_{\lambda}(t^{-}u)>J_{\lambda}(tu)>J_{\lambda}(t^{+}u).$

因此

$ J_{\lambda}(t^{+}u)=\inf\limits_{0\leq t\leq t_{\max}}J_{\lambda}(tu),J_{\lambda}(t^{-}u)=\sup\limits_{t\geq t^{+}}J_{\lambda}(tu). $

证毕.

引理3.5  (ⅰ)若$0<\lambda<\Lambda_{1}$, 则$J_{\lambda}$在$ N_{\lambda}^{+}$上存在一个$(PS)_{\alpha _{\lambda}^{+}}$ -序列$\{u_{k}\}_{k\in{\Bbb N}}$.

(ⅱ)若$0<\lambda<\frac{q}{p}\Lambda_{1}$, 则$J_{\lambda}$在$ N_{\lambda}^{-}$上存在一个$(PS)_{\alpha _{\lambda}^{-}}$ -序列$\{u_{k}\}_{k\in{\Bbb N}}$.

证  (ⅰ)固定$u\in N_{\lambda}^{+}$.由$(2.4)$及$(2.6)$式有

$\begin{align} &J_{\lambda}(u)=\frac{1}{p}\|u\|_{\mu}^{p}-\frac{\lambda}{q}\int_{\Omega}f|u|^{q}{\rm d}\xi-\frac{1}{p^{*}} \int_{\Omega}g|u|^{p^{*}}{\rm d}\xi\\ &\quad \quad =\Big(\frac{1}{p}-\frac{1}{p^{*}}\Big)\|u\|_{\mu}^{p}-\lambda\Big(\frac{1}{q}-\frac{1}{p^{*}}\Big) \int_{\Omega}f|u|^{q}{\rm d}\xi\\ &\quad \quad \geq\Big(\frac{1}{p}-\frac{1}{p^{*}}\Big)\|u\|_{\mu}^{p}-\lambda\Big(\frac{1}{q}-\frac{1}{p^{*}}\Big) |f^{+}|_{\infty}\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{-\frac{q}{p}}|\Omega|^{1-\frac{q}{p^{*}}}\|u\|_{\mu}^{q},\ \end{align}$

并且

$\begin{align} &J_{\lambda}(u)=\Big(\frac{1}{p}-\frac{1}{q}\Big)\|u\|_{\mu}^{p}-\Big(\frac{1}{p^{*}}-\frac{1}{q} \Big)\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi\\ &\quad \quad =\Big(\frac{1}{q}-\frac{1}{p^{*}}\Big)\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi-\Big(\frac{1}{q}-\frac{1}{p}\Big)\|u\|_{\mu}^{p}\\ &\quad \quad \leq\Big(\frac{1}{q}-\frac{1}{p^{*}}\Big)|g^{+}|_{\infty}\Big((1-\frac{\mu}{\overline{\mu}})S\Big)^{-\frac{p^{*}}{p}} \|u\|_{\mu}^{p^{*}}-\Big(\frac{1}{q}-\frac{1}{p}\Big)\|u\|_{\mu}^{p}. \end{align}$

因此$J_{\lambda}(u)$在$N_{\lambda}^{+}$上是强制的, 弱下半连续的且下有界.由$J_{\lambda}(u)\in C^{1}(X,{\Bbb R})$, 根据引理2.2以及命题2.3, 便可得到结论(ⅰ).

(ⅱ)的证明过程类似于(ⅰ).

定理1.1的证明 分两步进行证明.

第一步:对于$0<\lambda<\Lambda_{1}$及$0\leq\mu<\overline{\mu}$, $J_{\lambda}(u)$存在一个极小值点$u^{+}_{\lambda}\in N_{\lambda}^{+}$使得$u^{+}_{\lambda}$是$(E_{\lambda})$的一个正解且$J_{\lambda}(u^{+}_{\lambda})=\alpha ^{+}_{\lambda}$.

事实上, 由引理3.5, 存在一个极小化序列$\{u_{k}\}_{k\in{\Bbb N}}\subset N_{\lambda}^{+}$使得

$ J_{\lambda}(u_{k})=\alpha ^{+}_{\lambda}+o(1) ~ \mbox{及在$X^{*}$上,}~ J'_{\lambda}(u_{k})=o(1),$

(3.9)

这里当$k\rightarrow\infty$时$o(1)\rightarrow0$.由于$J_{\lambda}$在$N_{\lambda}$上是强制的, 可以得出$\{u_{k}\}_{k\in{\Bbb N}}$在$X$上是有界的.通过选取一个子列, 存在$u^{+}_{\lambda}\in N^{+}_{\lambda}$使得当$k\rightarrow\infty$时

$ \left\{\begin{array}{ll} \mbox{在$ X$中,}~ u_{k}\rightharpoonup u^{+}_{\lambda} (\mbox{弱收敛}),\\ \mbox{在 $L^{q} (\Omega)$中,}~ u_{k}\rightarrow u^{+}_{\lambda} (\mbox{强收敛}),\mbox{其中} 1<q\leq p^{*}. \end{array}\right.$

(3.10)

因此有$J'_{\lambda}(u^{+}_{\lambda})=0$.再由$\{u_{k}\}_{k\in{\Bbb N}}\subset N_{\lambda}^{+}$, 可得

$ \lambda\int_{\Omega} f|u_{k}|^{q}{\rm d}\xi\geq\frac{q(p^{*}-p)}{p(p^{*}-q)}\|u_{k}\|_{\mu}^{p}-\frac{p^{*}q}{p^{*}-q}J_{\lambda}(u_{k}).$

(3.11)

在$(3.11)$式中, 令$k\rightarrow\infty$, 由(3.9) 和(3.10) 式以及$\alpha ^{+}_{\lambda}<0$, 有

$ \lambda\int_{\Omega} f|u^{+}_{\lambda}|^{q}{\rm d}\xi\geq-\frac{p^{*}q}{p^{*}-q}\alpha ^{+}_{\lambda}>0. $

(3.12)

这就意味着$u^{+}_{\lambda}$是问题$(E_{\lambda})$的非零解.

下面我们证明当$k\rightarrow\infty$时, $u_{k}\rightarrow u_{\lambda}^{+}$, 即$u_{k}$在$X$上是强收敛到$u_{\lambda}^{+}$.根据引理3.3以及$u_{k},u_{\lambda}^{+}\in N_{\lambda}^{+}$, 便有

$\begin{align} &\alpha ^{+}_{\lambda}\leq J_{\lambda}(u_{\lambda}^{+})=\frac{1}{Q}\|u_{\lambda}^{+}\|_{\mu}^{p}-\lambda\frac{p^{*}-q}{p^{*}q}\int_{\Omega} f|u^{+}_{\lambda}|^{q}{\rm d}\xi\\ &\quad \quad \quad \quad \quad \leq\lim\limits_{k\rightarrow\infty}\inf\Big(\frac{1}{Q}\|u_{k}\|_{\mu}^{p}- \lambda\frac{p^{*}-q}{p^{*}q}\int_{\Omega} f|u_{k}|^{q}{\rm d}\xi\Big)\\ &\quad \quad \quad \quad \quad =\lim\limits_{k\rightarrow\infty}\inf J_{\lambda}(u_{k})=\alpha ^{+}_{\lambda}, \end{align}$

即$J_{\lambda}(u_{\lambda}^{+})=\alpha ^{+}_{\lambda}$且$\lim\limits_{k\rightarrow\infty}\|u_{k}\|_{X}^{p}=\|u_{\lambda}^{+}\|_{X}^{p}$.因此当$k\rightarrow\infty$时$u_{k}\rightarrow u_{\lambda}^{+}$.另外, 由于$N_{\lambda}^{0}=\emptyset$, 可得$u^{+}_{\lambda}\in N_{\lambda}^{+}$.又$J_{\lambda}(u_{\lambda}^{+})=J_{\lambda}(|u_{\lambda}^{+}|)$, 则有$|u_{\lambda}^{+}|\in N_{\lambda}^{+}$是$J_{\lambda}$的一个局部极小值点.从而, 根据引理3.1, 我们可以假设$u_{\lambda}^{+}$是$(E_{\lambda})$的非负解.再根据Heisenberg群上的Harnack不等式^[22], 可以得出$u_{\lambda}^{+}>0$.

第二步:对于$0<\lambda<\frac{q}{p}\Lambda_{1}$及$0\leq\mu<\overline{\mu}$, $J_{\lambda}(u)$存在一个极小值点$u^{-}_{\lambda}\in N_{\lambda}^{-}$使得$u^{-}_{\lambda}$是$(E_{\lambda})$的一个正解且$J_{\lambda}(u^{-}_{\lambda})=\alpha ^{-}_{\lambda}$.

事实上, 由引理3.5, 存在一个极小化序列$\{u_{k}\}_{k\in{\Bbb N}}\subset N_{\lambda}^{-}$使得

$ J_{\lambda}(u_{k})=\alpha ^{-}_{\lambda}+o(1) ~ \mbox{及在$X^{*}$上,}~ J'_{\lambda}(u_{k})=o(1). $

由于$J_{\lambda}$在$N_{\lambda}$上是强制的, 我们可以得到$\{u_{k}\}_{k\in{\Bbb N}}$在$X$上是有界的.通过选取一个子列(仍记为$\{u_{k}\}$), 存在$u^{-}_{\lambda}\in N^{-}_{\lambda}$使得当$k\rightarrow\infty$时有

$\bullet$在$ X$上, $ u_{k}\rightharpoonup u^{-}_{\lambda};$

$\bullet$在$ L^{p^{*}}(\Omega) $中, $ u_{k}\rightharpoonup u^{-}_{\lambda};$

$\bullet$在$ L^{r}(\Omega) $中, $u_{k}\rightarrow u^{-}_{\lambda} $, 其中$ 1\leq r<p^{*}$.

则有$J'_{\lambda}(u^{-}_{\lambda})=0$, 由假设$f\not\equiv0$得$u^{-}_{\lambda}\in N_{\lambda}$是$(E_{\lambda})$的非零解.

下面证明$u^{-}_{\lambda}\in N_{\lambda}^{-}$.反证法, 假设$u^{-}_{\lambda}\in N_{\lambda}^{+}$, 则由$N_{\lambda}^{-}\cup\{0\}$在$X$上是闭的, 可得

$ \|u^{-}_{\lambda}\|_{X}<\lim\limits_{k\rightarrow\infty}\inf\|u_{k}\|_{X}. $

根据$(g_{1})$及$u^{-}_{\lambda}\not\equiv0$, 及在$L^{p^{*}}(\Omega)$中$u_{k}\rightharpoonup u^{-}_{\lambda}$, 则有

$ \int_{\Omega}g|u^{-}_{\lambda}|^{p^{*}}{\rm d}\xi>0. $

再根据引理3.4, 存在唯一的$t^{-}u^{-}_{\lambda}\in N^{-}_{\lambda}$.若$u\in N_{\lambda}$, 则显然有

$ J_{\lambda}(u)=\frac{1}{Q}\|u\|_{\mu}^{p}-\lambda\Big(\frac{1}{q}-\frac{1}{p^{*}}\Big)\int_{\Omega}f|u|^{q}{\rm d}\xi. $

若$u\in N_{\lambda}^{-}$, 由(2.7) 式, 得$\int_{\Omega}g|u|^{p^{*}}{\rm d}\xi>0$.根据引理3.4, 存在$t^{-}$使得

$ \mbox{若} ~\int_{\Omega}f|u|^{q}{\rm d}\xi\leq 0,~ \mbox{则} J_{\lambda}(t^{-}u)=\sup\limits_{t\geq0}J_{\lambda}(tu),$

及

$ \mbox{若} \int_{\Omega}f|u|^{q}{\rm d}\xi\geq 0,~ \mbox{则} J_{\lambda}(t^{-}u)=\sup\limits_{t\geq t^{+}}J_{\lambda}(tu). $

由于$\lambda<\frac{q}{p}\Lambda_{1}$, 由引理3.3(ⅱ), 我们有$J_{\lambda}(t^{-}u)\geq d_{0}>0=J_{\lambda}(0)$.从而

$J_{\lambda}(t^{-}u)=\sup\limits_{t\geq 0}J_{\lambda}(tu).$

另外, 引理3.4也表明对每一个$u\in N_{\lambda}^{-}$, 存在$t^{-}$使得$t^{-}u\in N_{\lambda}^{-}$.则当$u_{k}\in N_{\lambda}^{-}$时, 必然存在某个$u_{k}$使得$u_{k}=t^{-}u$.

由

$ J_{\lambda}(t^{-}u)=\sup\limits_{t\geq0}J_{\lambda}(tu) $

得对所有的$t>0$, 有$J_{\lambda}(u_{k})\geq J_{\lambda}(tu_{k})$.

从而可得出

$ \alpha _{\lambda}^{-}\leq J_{\lambda}(t^{-}u_{\lambda}^{-})<\lim\limits_{k\rightarrow\infty}J_{\lambda}(t^{-}u_{k})\leq\lim\limits_{k\rightarrow\infty} J_{\lambda}(u_{k})=\alpha _{\lambda}^{-}. $

矛盾.故$u_{\lambda}^{-}\in N_{\lambda}^{-}$.

类似于第一步中的讨论, 可得出$u_{k}\rightarrow u^{-}_{\lambda}$及$J_{\lambda}(u_{\lambda}^{-})=\alpha _{\lambda}^{-}$.

根据{第一步}和{第二步}的讨论, 我们完成了定理1.1的证明.