文献[1] 考虑如下具有临界指数的超线性Kirchhoff型问题

(1.1) $ \begin{equation} \left\{\begin{array}{ll} -\left[a+b\left(\int_{\Omega}|\nabla u|^2{\rm d}x\right)^{m}\right]\Delta u= |u|^{2^{\ast}-2}u+f(x, u), \ & x \in \Omega, \\ u=0, & x\in\partial\Omega, \end{array}\right. \end{equation} $

其中$ \Omega\subset {{\Bbb R}} ^{N}(N\geq3) $是一个具有光滑边界$ \partial\Omega $的有界区域, $ a > 0, b\geq0, 0 < m < \frac{2}{N-2} $. $ 2^{\ast}=\frac{2N}{N-2} $是Sobolev空间$ H_{0}^{1}(\Omega) $嵌入到$ L^{p}(\Omega)(p\in[1, 2^{\ast}]) $空间的临界指数, 其中$ \|u\|^{2}=\int_{\Omega}|\nabla u|^{2}{\rm d}x $为$ H_{0}^{1}(\Omega) $空间的标准范数, $ |u|_{p}=\left(\int_{\Omega}|u|^{p}{\rm d}x\right)^{\frac{1}{p}} $为$ L^{p}(\Omega) $空间的标准范数. $ f\in C(\overline{\Omega}\times {{\Bbb R}} ^{+}, {{\Bbb R}}) $是一个超线性次临界项. 当非线性项$ f $满足一定条件时, 作者们利用变分方法获得了问题(1.1) 正基态解存在性的一些结果. 在这些结论中, 非线性项$ f $需满足$ (f_{3}) $条件, 即:

(F)    对任意的$ x\in\overline{\Omega} $和$ t\in {{\Bbb R}} ^{+} $, 都有$ \frac{1}{2m+2}f(x, t)t-F(x, t)\geq0 $.

事实上, 假设$ f(x, u)=u^{q-1}. $此时, 由条件(F) 可知, 当$ 2m+2\leq q < 2^{*} $时, 文献[1] 中的结论才成立. 这里$ q $的下界是根据文献[1] 中的条件$ (f_{2}) $所推得的. 一个自然的问题: 当$ f(x, u)=u^{q-1} $且$ 2 < q < 2m+2 $时, 问题(1.1) 是否也存在正基态解? 本文将就此问题展开研究. 当$ f(x, u)=\lambda|u|^{q-2}u $时, 我们研究问题(1.1), 即

(1.2) $ \begin{equation} \left\{\begin{array}{ll} -\left[a+b\left(\int_{\Omega}|\nabla u|^2{\rm d}x\right)^{m}\right]\Delta u= |u|^{2^{\ast}-2}u+\lambda|u|^{q-2}u, \ & x \in \Omega, \\ u=0, & x\in\partial\Omega, \end{array}\right. \end{equation} $

其中$ 2 < q < 2m+2 $. 问题(1.2) 对应的能量泛函为

$ I(u)=\frac{a}{2}\|u\|^{2}+\frac{b}{2m+2}\|u\|^{2m+2}-\frac{1}{2^{*}}\int_{\Omega}|u|^{2^{*}}{\rm d}x-\frac{\lambda}{q}\int_{\Omega}|u|^{q}{\rm d}x. $

显然, $ I\in C^{1}(H_{0}^{1}(\Omega), {{\Bbb R}}), $且对任意的$ \varphi\in H_{0}^{1}(\Omega) $有

$ \begin{eqnarray*} \langle I'(u), \varphi\rangle=\left(a+b\|u\|^{2m}\right)\int_{\Omega}(\nabla u, \nabla\varphi){\rm d}x-\int_{\Omega}|u|^{2^{*}-2}u\varphi {\rm d}x-\lambda\int_{\Omega}|u|^{q-2}u\varphi {\rm d}x. \end{eqnarray*} $

众所周知, 问题(1.2) 的解与其对应能量泛函$ I(u) $的临界点是等价的.

特别地, 当$ m=1 $时, 2010年文献[2] 率先研究了如下带有临界指数的Kirchhoff型问题

(1.3) $ \begin{equation} \left\{\begin{array}{ll} -\left[M\left( \int_\Omega|\nabla u|^{2}{\rm d}x\right)\right]\Delta u=\lambda f(x, u)+u^{5}, \ &x\in\Omega, \\ u=0, &x\in\partial\Omega, \end{array}\right. \end{equation} $

其中$ \Omega\subset{{\Bbb R}} ^{3} $, $ M: {{\Bbb R}} ^{+}\rightarrow {{\Bbb R}} ^{+} $以及$ f: \Omega\times {{\Bbb R}} \rightarrow {{\Bbb R}} $是连续函数, $ \lambda $是参量. 非线性项$ f $在原点处满足超线性条件, 而在无穷远处满足超三次次临界的条件. 利用变分方法, 当$ \lambda > 0 $充分大时, 作者们获得了问题(1.3) 正解的存在性. 随后, 文献[2] 中的作者Figueiredo利用截断技术将文献[2] 的结果推广至三维及其以上空间, 此时问题(1.3) 中的非线性项$ f $在无穷远处满足超线性次临界的条件, 详见文献[3]. 文献[4] 将研究带临界指数的半线性椭圆问题的经典文献[5] 的结果推广至Kirchhoff型问题. 当$ m=1, N=3, 2 < q\leq4 $时, 文献[4] 在推论1.4中研究了问题(1.2). 当$ \lambda > 0 $充分大时, 作者同样利用截断技术获得了问题(1.2) 正解的存在性. 从文献[3] 和[4]中可看出, 当$ \lambda > 0 $充分大时, 问题(1.2) 具有可解性. 而在$ \lambda > 0 $较小时, 问题(1.2) 的可解性没有被研究. 关于带有临界指数的Kirchhoff型问题还可参阅文献[6-12] 及其引用文献.

为了方便, 记$ S $为最佳Sobolev嵌入常数, 即

(1.4) $ \begin{equation} S:=\inf\limits_{u\in H_{0}^{1}(\Omega)\backslash\{0\}}\frac{\int_{\Omega}|\nabla u|^{2}{\rm d}x}{\left(\int_{\Omega}|u|^{2^{*}}{\rm d}x\right)^{\frac{2}{2^{*}}}}. \end{equation} $

众所周知, 函数

(1.5) $ \begin{equation} U(x)=\frac{[N(N-2)\varepsilon^{2}]^\frac{N-2}{4}}{\left(\varepsilon^{2}+|x|^2\right)^\frac{N-2}{2}}, {\quad} x\in {{\Bbb R}} ^{N} \end{equation} $

是极小问题(1.4) 的极值函数, 即: $ U(x) $是如下临界问题的解

$ \begin{eqnarray*} -\Delta u=Cu^{2^{*}-1}, {\quad} \forall x\in {{\Bbb R}} ^{N}, \end{eqnarray*} $

这里$ C > 0 $为常数.

下面给出本文的主要结果及其证明.

定理1.1   假设$ a > 0, b\geq0, N\geq3, $

$ \max\{0, \frac{6N-N^{2}-4}{2(N-2)(N-1)}\}<m<\frac{2}{N-2}, {\quad} \max\{2, \frac{N^{2}}{(N-2)(N-1)}\}<q<2m+2, $

则存在一个正常数$ \lambda_{*} > 0 $使得对一切的$ 0 < \lambda < \lambda_{*} $问题(1.2) 至少存在一个正基态解.

注1.1   据查阅文献显示, 定理1.1的结果是最新的. 一方面, 定理1.1完善了文献[1] 中的研究问题; 另一方面, 对比文献[3] 和[4], 定理1.1给出了问题(1.2) 新的可解性结果.

在证明定理1.1之前, 我们需要一些重要的引理. 首先, 证明泛函$ I $在$ H_{0}^{1}(\Omega) $上具有山路几何结构.

引理2.1  假设$ a > 0, b\geq0, 0 < m < \frac{2}{N-2}, 2 < q < 2m+2 $, 则

$ \rm (1) $存在$ \alpha, \rho > 0 $, 使得当$ \|u\|=\rho $时, $ I(u)\geq\alpha > 0 $;

$ \rm (2) $存在$ e_{0}\in H_{0}^{1}(\Omega) $, 使得$ \|e_{0}\| > \rho $并且$ I(e_{0}) < 0 $.

证   根据Hölder不等式和(1.4) 式, 可得

(2.1) $ \begin{eqnarray} I(u)&\geq& \frac{a}{2}\|u\|^{2}+\frac{b}{2m+2}\|u\|^{2m+2}-\frac{1}{2^{*}S^{\frac{2^{*}}{2}}}\|u\|^{2^{*}} -\frac{\lambda}{qS^{\frac{q}{2}}}|\Omega|^{\frac{2^{*}-q}{2^{*}}}\|u\|^{q}{}\\ &\geq& \frac{a}{2}\|u\|^2-\frac{1}{2^{*}S^{\frac{2^{*}}{2}}}\|u\|^{2^{*}} -\frac{\lambda}{qS^{\frac{q}{2}}}|\Omega|^{\frac{2^{*}-q}{2^{*}}}\|u\|^{q}{}\\ &=& \|u\|^{2}\left(\frac{a}{2}-\frac{1}{2^{*}S^{\frac{2^{*}}{2}}}\|u\|^{2^{*}-2} -\frac{\lambda}{qS^{\frac{q}{2}}}|\Omega|^{\frac{2^{*}-q}{2^{*}}}\|u\|^{q-2}\right). \end{eqnarray} $

由于$ 2 < q < 2m+2 $, 因此, 存在$ \alpha > 0 $和足够小的$ \rho > 0 $使得$ I(u)\geq\alpha > 0 $对所有的$ \|u\|=\rho $成立. 对任意固定的$ v\in H^{1}_{0}(\Omega) $并且$ v\neq0 $, 有

$ \begin{eqnarray*} I(tv)&=& \frac{a}{2}t^{2}\|v\|^{2}+\frac{b}{2m+2}t^{2m+2}\| v\|^{2m+2}-\frac{t^{2^{\ast}}}{2^{\ast}}\int_{\Omega}|v|^{2^{\ast}}{\rm d}x-\frac{\lambda t^{q}}{q}\int_{\Omega}|v|^{q}{\rm d}x. \end{eqnarray*} $

于是, 当$ t\rightarrow +\infty $时, $ I(tv)\rightarrow -\infty $. 因此, 存在$ t_{0} > 0 $足够大使得$ \|t_{0}v\| > \rho $并且$ I(t_{0}v) < 0 $. 令$ e_{0}=t_{0}v $. 引理2.1证毕.

为了方便, 我们给出文献[1] 中的引理2.1, 记为如下命题.

命题2.1  设$ h(r)=a+bS^{\frac{mN}{2}}r^{2m}-r^{2^{\ast}-2} (r > 0) $, 则有

$ \rm (1) $方程$ h(r)=0 $有唯一的正解, 记为$ r_{0} $, 这意味着

$ \begin{eqnarray*} a+bS^{\frac{mN}{2}}r_{0}^{2m} =r_{0}^{2^{\ast}-2}; \end{eqnarray*} $

$ \rm (2) $不等式$ h(r)\leq0 $的解集为$ \{r|r\geq r_{0}\} $.

下面, 证明泛函$ I $在$ H_{0}^{1}(\Omega) $上满足如下局部$ (PS)_{c} $条件.

引理2.2  假设$ a > 0, b\geq0, 0 < m < \frac{2}{N-2}, 2 < q < 2m+2 $, 则对任意的$ c\in(0, $$ \Lambda-D\lambda^{\frac{2^{*}}{2^{*}-q}}), $$ I $在$ H_{0}^{1}(\Omega) $上满足局部$ (PS)_{c} $条件, 其中

$ \Lambda=\frac{a}{2}r_{0}^{2}S^{\frac{N}{2}}+\frac{b}{2m+2}r_{0}^{2m+2}S^{\frac{N(m+1)}{2}}-\frac{1}{2^{*}}r_{0}^{2^{*}}S^{\frac{N}{2}} , $

$ D=\frac{2^{*}-q}{2^{*}}\left[\frac{2q(m+1)}{2^{*}-2m-2}\right]^{\frac{q}{2^{*}-q}} \left[\frac{2m+2-q}{2q(m+1)}\right]^{\frac{2^{*}}{2^{*}-q}}|\Omega|. $

证   假设$ \{u_{n}\} $是$ I $在$ H_{0}^{1}(\Omega) $上的$ (PS)_{c} $序列, 即当$ n\rightarrow +\infty $有

(2.2) $ \begin{equation} I(u_{n})\rightarrow c, I'(u_{n})\rightarrow0. \end{equation} $

我们断言: $ \{u_{n}\} $是$ H_{0}^{1}(\Omega) $上的有界序列. 事实上, 根据(2.2) 式以及Hölder不等式, 当$ b > 0 $时, 可得

$ \begin{eqnarray*} 1+c+o(1)\|u_{n}\|&\geq& I(u_{n})-\frac{1}{2^{*}}\langle I'(u_{n}), u_{n}\rangle\\ &=& a\left(\frac{1}{2}-\frac{1}{2^{*}}\right)\|u_{n}\|^{2}+b\left(\frac{1}{2m+2}-\frac{1}{2^{*}}\right)\|u_{n}\|^{2m+2}\\ && -\left(\frac{1}{q}-\frac{1}{2^{*}}\right)\int_{\Omega}|u_{n}|^{q}{\rm d}x\\ &\geq& a\frac{2^{*}-2}{2\cdot2^{*}}\|u_{n}\|^{2}+b\frac{2^{*}-2(m+1)}{2\cdot2^{*}(m+1)}\|u_{n}\|^{2m+2} -\frac{2^{*}-q}{q2^{*}}\frac{|\Omega|^{\frac{2^{*}-q}{2^{*}}}}{S^{\frac{q}{2}}}\|u\|^{q}, \end{eqnarray*} $

这就意味着: $ \{u_{n}\} $在$ H_{0}^{1}(\Omega) $上有界; 当$ b=0 $时, 可得

$ \begin{eqnarray*} 1+c+o(1)\|u_{n}\|&\geq& I(u_{n})-\frac{1}{q}\langle I'(u_{n}), u_{n}\rangle\\ &=& a\left(\frac{1}{2}-\frac{1}{q}\right)\|u_{n}\|^{2}+\left(\frac{1}{q}-\frac{1}{2^{*}}\right)\int_{\Omega}|u_{n}|^{2^{*}}{\rm d}x\\ &\geq& a\left(\frac{1}{2}-\frac{1}{q}\right)\|u_{n}\|^{2}, \end{eqnarray*} $

这也意味着: $ \{u_{n}\} $在$ H_{0}^{1}(\Omega) $上有界. 从而, 对任意的$ b\geq0, $存在子列仍记为$ \{u_n\} $以及$ u\in H_{0}^{1}(\Omega) $使得当$ n\rightarrow \infty $时, 有

(2.3) $ \begin{equation} \left\{\begin{array}{ll} u_n\rightharpoonup u, & 在 H_{0}^{1}(\Omega) 中, \\ u_n\rightarrow u, & 在 L^{s}(\Omega) 中 , 1\leq s<2^{*}, \\ u_n(x)\rightarrow u(x), & 几乎处处在 \Omega 中 . \end{array}\right. \end{equation} $

令$ w_{n}=u_{n}-u, $我们只需证明$ \lim\limits_{n\rightarrow \infty}\|w_{n}\|=l=0 $. 假设$ l > 0. $根据在$ H_{0}^{1}(\Omega) $中$ u_n\rightharpoonup u $, 可以推得

$ \begin{eqnarray*} \lim\limits_{n\rightarrow \infty}\int_{\Omega}|\nabla w_{n}|^{2}{\rm d}x&=& \lim\limits_{n\rightarrow \infty}\int_{\Omega}(\nabla(u_{n}-u), \nabla(u_{n}-u)){\rm d}x\\ &=& \lim\limits_{n\rightarrow \infty}\left[\int_{\Omega}|\nabla u_{n}|^{2}{\rm d}x-2\int_{\Omega}(\nabla u_{n}, \nabla u){\rm d}x +\int_{\Omega}|\nabla u|^{2}{\rm d}x\right]\\ &=& \lim\limits_{n\rightarrow \infty}\int_{\Omega}|\nabla u_{n}|^{2}{\rm d}x-\int_{\Omega}|\nabla u|^{2}{\rm d}x, \end{eqnarray*} $

即

(2.4) $ \begin{equation} \int_{\Omega}|\nabla u_{n}|^{2}{\rm d}x=\int_{\Omega}|\nabla w_{n}|^{2}{\rm d}x+\int_{\Omega}|\nabla u|^{2}{\rm d}x+o(1). \end{equation} $

由(2.4) 式, 可得

(2.5) $ \begin{equation} \|u_n\|^{2m+2} = (\|w_{n}\|^{2} + \|u\|^{2})^{m+1} + o(1), \end{equation} $

由(2.3) 式和Br$ \acute{\mathrm{e}} $zis-Lieb引理(参见文献[13, 引理1.32]), 可得

(2.6) $ \begin{equation} \int_{\Omega}|u_{n}|^{2^{*}}{\rm d}x=\int_{\Omega}|w_{n}|^{2^{*}}{\rm d}x+\int_{\Omega}|u|^{2^{*}}{\rm d}x+o(1), \end{equation} $

这里$ o(1) $是$ n\rightarrow \infty $时的无穷小量. 由(2.2) 式和(2.3) 式, 可得

$ \begin{eqnarray*} a\|u_{n}\|^{2}+b\|u_{n}\|^{2m+2}-\int_{\Omega}|u_{n}|^{2^{*}}{\rm d}x-\lambda\int_{\Omega}|u|^{q}{\rm d}x=o(1), \end{eqnarray*} $

进一步, 结合(2.4)–(2.6) 式, 可得

(2.7) $ \begin{equation} a\|u\|^2+a\|w_n\|^2+b(\|w_{n}\|^{2} + \|u\|^{2})^{m+1}-\int_{\Omega}|w_{n}|^{2^{*}}{\rm d}x -\int_{\Omega}|u|^{2^{*}}{\rm d}x-\lambda\int_{\Omega}|u|^{q}{\rm d}x=o(1). \end{equation} $

再次利用(2.2) 式, 可得

(2.8) $ \begin{equation} \lim\limits_{n\rightarrow \infty}\langle I'(u_{n}), u\rangle=a\|u\|^{2}+b(l^{2}+\|u\|^{2})^{m}\|u\|^{2} -\int_{\Omega}|u|^{2^{*}}{\rm d}x-\lambda\int_{\Omega}|u|^{q}{\rm d}x=0. \end{equation} $

一方面, 根据(2.8) 式以及Young不等式, 可得

(2.9) $ \begin{eqnarray} I(u)&=& \frac{a}{2}\|u\|^{2}+\frac{b}{2m+2}\|u\|^{2m+2}-\frac{1}{2^{*}}\int_{\Omega}|u|^{2^{*}}{\rm d}x-\frac{\lambda}{q}\int_{\Omega}|u|^{q}{\rm d}x{}\\ &=& a\left(\frac{1}{2}-\frac{1}{2m+2}\right)\|u\|^{2}+\left(\frac{1}{2m+2}-\frac{1}{2^{*}}\right)\int_{\Omega}|u|^{2^{*}}{\rm d}x{}\\ && -\lambda\left(\frac{1}{q}-\frac{1}{2m+2}\right)\int_{\Omega}|u|^{q}{\rm d}x{}\\ && +\frac{b}{2m+2}\|u\|^{2m+2}-\frac{b}{2m+2}(l^{2}+\|u\|^{2})^{m}\|u\|^{2}{}\\ &\geq& \frac{2^{*}-2m-2}{2(m+1)2^{*}} |u|_{2^{*}}^{2^{*}}-\lambda\frac{2m+2-q}{2q(m+1)}|\Omega|^{\frac{2^{*}-q}{2^{*}}}|u|_{2^{*}}^{q}{}\\ && -\frac{b}{2m+2}\left[(l^{2}+\|u\|^{2})^{m}-\|u\|^{2m}\right]\|u\|^{2}{}\\ &\geq& -\frac{2^{*}-q}{2^{*}}\left[\frac{2q(m+1)}{2^{*}-2m-2}\right]^{\frac{q}{2^{*}-q}} \left[\frac{2m+2-q}{2q(m+1)}\right]^{\frac{2^{*}}{2^{*}-q}}|\Omega| \lambda^{\frac{2^{*}}{2^{*}-q}}{}\\ && -\frac{b}{2m+2}\left[(l^{2}+\|u\|^{2})^{m}-\|u\|^{2m}\right]\|u\|^{2}{}\\ &=& -D\lambda^{\frac{2^{*}}{2^{*}-q}} -\frac{b}{2m+2}\left[(l^{2}+\|u\|^{2})^{m}-\|u\|^{2m}\right]\|u\|^{2}. \end{eqnarray} $

另一方面, 根据(2.7) 式和(2.8) 式, 可得

(2.10) $ \begin{equation} a\|w_{n}\|^{2}+b[(\|w_{n}\|^{2} + \|u\|^{2})^{m+1}-(l^{2}+\|u\|^{2})^{m}\|u\|^{2}]= \int_{\Omega}|w_{n}|^{2^{*}}{\rm d}x +o(1), \end{equation} $

(2.11) $ \begin{equation} I(u_{n})=I(u)+\frac{a}{2}\|w_{n}\|^{2}+\frac{b[(\|w_{n}\|^{2} + \|u\|^{2})^{m+1}-\|u\|^{2m+2}]}{2m+2}-\frac{1}{2^{*}}\int_{\Omega}|w_{n}|^{2^{*}}{\rm d}x+o(1). \end{equation} $

由(1.4) 式, 可得

$ \int_{\Omega}|w_{n}|^{2^{*}}{\rm d}x\leq \frac{\|w_{n}\|^{2^{*}}}{S^{\frac{2^{*}}{2}}}, $

从而根据(2.10) 式, 可得

$ a\|w_{n}\|^{2}+b\|w_{n}\|^{2m+2}\leq a\|w_{n}\|^{2}+b(\|w_{n}\|^{2} + \|u\|^{2})^{m+1}\leq\frac{\|w_{n}\|^{2^{*}}}{S^{\frac{2^{*}}{2}}}, $

这就意味着

$ a+bS^{\frac{Nm}{2}}(lS^{-\frac{N}{4}})^{2m}-(lS^{-\frac{N}{4}})^{2^{*}-2}\leq0. $

再结合命题2.1, 可得$ lS^{-\frac{N}{4}}\geq r_{0} $, 即

(2.12) $ \begin{equation} l \geq r_{0} S^{\frac{N}{4}}. \end{equation} $

因此, 由(2.10)–(2.12) 式, 可得

$ \begin{eqnarray*} I(u)&=& \lim\limits_{n\rightarrow \infty} \left\{I(u_{n})-a\left(\frac{1}{2}-\frac{1}{2^{*}}\right)\|w_{n}\|^{2}-b\left(\frac{1}{2m+2}-\frac{1}{2^{*}}\right)(\|w_{n}\|^{2}+ \|u\|^{2})^{m+1}\right\}\\ && +\frac{b}{2m+2}\|u\|^{2m+2}-\frac{b}{2^{*}}(l^{2}+\|u\|^{2})^{m}\|u\|^{2}\\ &=& c-a\left(\frac{1}{2}-\frac{1}{2^{*}}\right)l^{2}-b\left(\frac{1}{2m+2}-\frac{1}{2^{*}}\right)(l^{2}+\|u\|^{2})^{m}(l^{2}+\|u\|^{2}) +\frac{b\|u\|^{2m+2}}{2m+2}\\ && -\frac{b}{2^{*}}(l^{2}+\|u\|^{2})^{m}\|u\|^{2}\\ &\leq& c-a\left(\frac{1}{2}-\frac{1}{2^{*}}\right)l^{2}-b\left(\frac{1}{2m+2}-\frac{1}{2^{*}}\right)l^{2m+2} -\frac{b\left[(l^{2}+\|u\|^{2})^{m}-\|u\|^{2m}\right]\|u\|^{2}}{2m+2}\\ &\leq& c-a\left(\frac{1}{2}-\frac{1}{2^{*}}\right)r_{0}^{2}S^{\frac{N}{2}}-br_{0}^{2m+2}\left(\frac{1}{2m+2}-\frac{1}{2^{*}}\right)S^{\frac{N(m+1)}{2}}\\ && -\frac{b}{2m+2}\left[(l^{2}+\|u\|^{2})^{m}-\|u\|^{2m}\right]\|u\|^{2}\\ &=& c-\frac{a}{2}r_{0}^{2}S^{\frac{N}{2}}-\frac{br_{0}^{2m+2}S^{\frac{N(m+1)}{2}}}{2m+2}+\frac{1}{2^{\ast}} r_{0}^{2^{\ast}}S^{\frac{N}{2}}-\frac{b\left[(l^{2}+\|u\|^{2})^{m}-\|u\|^{2m}\right]\|u\|^{2}}{2m+2}\\ &<& -D\lambda^{\frac{2^{*}}{2^{*}-q}} -\frac{b}{2m+2}\left[(l^{2}+\|u\|^{2})^{m}-\|u\|^{2m}\right]\|u\|^{2}. \end{eqnarray*} $

这与(2.9) 式矛盾, 其中最后一个等号是根据命题2.1所得. 因此, $ l\equiv0, $即, 当$ n\rightarrow \infty $时, 在$ H_{0}^{1}(\Omega) $中有$ u_{n}\rightarrow u. $即, 对任意的$ c\in(0, \Lambda-D\lambda^{\frac{2^{*}}{2^{*}-q}}), $$ I $在$ H_{0}^{1}(\Omega) $上满足局部$ (PS)_{c} $条件. 引理2.2证毕.

接下来, 估计山路水平值.

引理2.3  假设$ a > 0, b\geq0, \max\left\{0, \frac{6N-N^{2}-4}{2(N-2)(N-1)}\right\} < m < \frac{2}{N-2}, $$ \max\left\{2, \frac{N^{2}}{(N-2)(N-1)}\right\} < q < 2m+2 $, 则存在$ \lambda_{*} > 0 $以及$ u_{0}\in H_{0}^{1}(\Omega) $使得对任意的$ 0 < \lambda < \lambda_{*} $有$ \sup\limits_{t\geq0}I(tu_{0}) < \Lambda-D\lambda^{\frac{2^{*}}{2^{*}-q}}, $其中$ \Lambda, D $为引理2.2中所定义.

证   定义一个截断函数$ \eta\in C_{0}^{\infty}(\Omega) $使得$ 0\leq\eta\leq1 $, $ |\nabla \eta|\leq C_{1}. $给定$ \delta > 0, $定义

$ \eta(x)= \left\{\begin{array}{ll} 1, &{ } |x|\leq\frac{\delta}{2}, \\ 0, & |x|\geq \delta. \end{array}\right. $

令$ u_{\varepsilon}=\eta(x)U(x), $这里$ U(x) $为(1.5) 式所定义. 由常规计算^{[5, 13]}, 可得

(2.13) $ \begin{equation} \|u_{\varepsilon}\|^{2}=\|U\|^{2}+O(\varepsilon^{N-2})=S^{\frac{N}{2}}+O(\varepsilon^{N-2}), \end{equation} $

(2.14) $ \begin{equation} |u_{\varepsilon}|_{2^{*}}^{2^{*}}=|U|_{2^{*}}^{2^{*}}+O(\varepsilon^{N})=S^{\frac{N}{2}}+O(\varepsilon^{N}), \end{equation} $

(2.15) $ \begin{equation} \int_{\Omega}|u_{\varepsilon}|^{q}{\rm d}x=\left\{\begin{array}{ll} { } O\left(\varepsilon^{\frac{q(N-2)}{2}}\right), &{ } 1<q<\frac{N}{N-2}, \\ { } O\left(\varepsilon^{\frac{q(N-2)}{2}}|\mathrm{ln\varepsilon}|\right), &{ } q=\frac{N}{N-2}, \\ { } O\left(\varepsilon^{\frac{2N-q(N-2)}{2}}\right), &{ } \frac{N}{N-2}<q<2^{\ast}. \end{array}\right. \end{equation} $

进一步, 可得

(2.16) $ \begin{equation} \|u_{\varepsilon}\|^{2(m+1)}=S^{\frac{N(m+1)}{2}}+O(\varepsilon^{N-2}). \end{equation} $

对任意的$ t\geq0, $定义$ I(tu_{\varepsilon}) $为

$ I(tu_{\varepsilon})=\frac{a}{2}t^{2}\|u_{\varepsilon}\|^{2}+\frac{b}{2m+2}t^{2m+2}\|u_{\varepsilon}\|^{2m+2} -\frac{t^{2^{*}}}{2^{*}}\int_{\Omega}u_{\varepsilon}^{2^{*}}{\rm d}x-\lambda \frac{t^{q}}{q}\int_{\Omega}u_{\varepsilon}^{q}{\rm d}x, $

则有

$ \lim\limits_{t\rightarrow +0}I(tu_\varepsilon)=0, \ 关于 0<\varepsilon<\varepsilon_{0} 一致成立 , $

$ \lim\limits_{t\rightarrow +\infty}I(tu_\varepsilon)=-\infty, \ 关于 0<\varepsilon<\varepsilon_{0} 一致成立 , $

其中$ \varepsilon_{0} > 0 $为充分小的正常数. 因此, 存在$ t_\varepsilon > 0 $使得$ \sup\limits_{t\geq0}I(tu_\varepsilon)=I(t_{\varepsilon}u_\varepsilon). $我们断言: 存在两个与$ \varepsilon $无关的正常数$ t_{0} $和$ T_{0} $, 使得$ t_0 < t_\varepsilon < T_0. $事实上, 由$ \lim\limits_{t\rightarrow +0}I(tu_\varepsilon)=0 $关于$ 0 < \varepsilon < \varepsilon_{0} $一致成立, 选取$ \epsilon=\frac{I(t_\varepsilon u_\varepsilon)}{4} > 0, $则存在$ t_0 > 0 $使得$ |I(t_{0}u_\varepsilon)|=|I(t_{0}u_\varepsilon)-I(0)| < \epsilon. $从而根据$ I(tu_\varepsilon) $在$ t=0 $附近的单调性, 可得$ t_\varepsilon > t_0. $类似地, 可以证明$ t_\varepsilon < T_0. $故, 断言是成立的. 令

$ I_{\varepsilon}(t)=\frac{a}{2}t^2\|u_{\varepsilon}\|^{2}+\frac{b}{2m+2}t^{2m+2}\|u_{\varepsilon}\|^{2m+2} -\frac{t^{2^{*}}}{2^{*}}\int_{\Omega}u_{\varepsilon}^{2^{*}}{\rm d}x. $

注意到$ \lim\limits_{t\rightarrow +\infty}I_{\varepsilon}(t)=-\infty, \ I_{\varepsilon}(0)=0 $, 并且对足够小的$ t > 0 $有$ I_{\varepsilon}(t) > 0 $. 因此存在$ \tilde{t}_{\varepsilon}\in(0, +\infty) $, 使得

$ \begin{eqnarray*} 0=I_{\varepsilon}'(\tilde{t}_{\varepsilon})&=& \tilde{t}_{\varepsilon}(a\|u_{\varepsilon}\|^{2}+b\|u_{\varepsilon}\|^{2m+2}\tilde{t}_{\varepsilon}^{2m} -\tilde{t}_{\varepsilon}^{2^{\ast}-2}|u_{\varepsilon}|_{2^{*}}^{2^{*}})\\ &=& \tilde{t}_{\varepsilon}[a(S^{\frac{N}{2}}+O(\varepsilon^{N-2}))+b(S^{\frac{N(m+1)}{2}}+O(\varepsilon^{N-2}))\tilde{t}_{\varepsilon}^{2m} -(S^{\frac{N}{2}}+O(\varepsilon^{N}))\tilde{t}_{\varepsilon}^{2^{\ast}-2}]\\ &=& \tilde{t}_{\varepsilon}S^{\frac{N}{2}}[a+bS^{\frac{Nm}{2}}\tilde{t}_{\varepsilon}^{2m}-\tilde{t}_{\varepsilon}^{2^{\ast}-2}+O(\varepsilon^{N-2})], \end{eqnarray*} $

根据命题2.1, 可得$ \tilde{t}_{\varepsilon}=r_{0}+O(\varepsilon^{N-2}). $进一步, 可得

(2.17) $ \begin{eqnarray} I_{\varepsilon}(t)&\leq& I_{\varepsilon}(\tilde{t}_{\varepsilon}) = \tilde{t}_{\varepsilon}^{2}\left(\frac{a}{2}\|u_{\varepsilon}\|^{2}+\frac{b}{2m+2}\tilde{t}_{\varepsilon}^{2m}\|u_{\varepsilon}\|^{2m+2} -\frac{\tilde{t}_{\varepsilon}^{2^{*}-2}}{2^{*}}\int_{\Omega}u_{\varepsilon}^{2^{*}}{\rm d}x\right){}\\ &=& [r_{0}+O(\varepsilon^{N-2})]^{2}\bigg\{\frac{a[S^{\frac{N}{2}}+O(\varepsilon^{N-2})]}{2} +\frac{b[S^{\frac{N(m+1)}{2}}+O(\varepsilon^{N-2})]}{2m+2} [r_{0}+O(\varepsilon^{N-2})]^{2m}{}\\ && -\frac{1}{2^{*}}[S^{\frac{N}{2}}+O(\varepsilon^{N-2})][r_{0}+O(\varepsilon^{N})]^{2^{\ast}-2}\bigg\}{}\\ &=& \frac{a}{2}r_{0}^{2}S^{\frac{N}{2}}+\frac{b}{2m+2}r_{0}^{2m+2}S^{\frac{N(m+1)}{2}}-\frac{1}{2^{*}}r_{0}^{2^{*}}S^{\frac{N}{2}}+O(\varepsilon^{N-2}){}\\ &=&\Lambda+O(\varepsilon^{N-2}). \end{eqnarray} $

因此, 根据(2.15) 式和(2.17) 式, 可得

$ \sup\limits_{t\geq0}I(tu_\varepsilon)\leq I(t_{\varepsilon}u_{\varepsilon}) \leq I_{\varepsilon}(\tilde{t}_{\varepsilon}u_\varepsilon) -\lambda\frac{t_{0}^{q}}{q}\int_{\Omega}u_\varepsilon^{q}{\rm d}x\leq\Lambda+C_{1}\varepsilon^{N-2}-C_{2}\lambda\varepsilon^{\frac{2N-q(N-2)}{2}}. $

由于$ \max\{0, \frac{6N-N^{2}-4}{2(N-2)(N-1)}\} < m < \frac{2}{N-2}, $$ \max\{2, \frac{N^{2}}{(N-2)(N-1)}\} < q < 2m+2 $, 取

$ \varepsilon=\lambda^{\frac{2^{*}}{(N-2)(2^{*}-q)}}=\lambda^{\frac{2N}{[2N-q(N-2)](N-2)}}, {\quad} 0<\lambda<\left(\frac{C_{2}}{C_{1}+D}\right)^{\frac{(N-2)[2N-q(N-2)]}{2(q(N-1)(N-2)-N^{2})}}, $

有

$ C_{3}\varepsilon^{N-2}-C_{4}\lambda\varepsilon^{\frac{2N-q(N-2)}{2}} =\lambda^{\frac{2^{*}}{2^{*}-q}}\left(C_{1}-C_{2}\lambda^{\frac{2[N^{2}-q(N-1)(N-2)}{(N-2)[2N-q(N-2)]}}\right)<-D\lambda^{\frac{2^{*}}{2^{*}-q}}. $

从而, 取$ u_{0}=u_{\varepsilon}, $存在一个$ \lambda_{*} > 0 $使得对任意的$ 0 < \lambda < \lambda_{*} $都有$ \sup\limits_{t\geq0}I(tu_{0}) < \Lambda-D\lambda^{\frac{2^{*}}{2^{*}-q}}. $引理2.3证毕.

下面我们给出定理1.1的证明.

定理1.1的证明  对任意的$ 0 < \lambda < \lambda_{*}, $引理2.1–2.3均成立. 定义

$ \Gamma:=\{\gamma\in C([0, 1], H_{0}^{1}(\Omega)) | \gamma(0)=0, \gamma(1)=e\}, $

$ c=\inf\limits_{\gamma\in\Gamma}\max\limits_{t\in[0, 1]}I(\gamma(t)). $

根据引理2.1–2.3, 存在$ \{u_{n}\}\subset H_{0}^{1}(\Omega) $使得

$ I(u_{n})\rightarrow c>\alpha>0 \ 且 \ I'(u_{n})\rightarrow0, $

则序列$ \{u_{n}\} $在$ H_{0}^{1}(\Omega) $中存在收敛子列(仍记为$ \{u_{n}\} $). 由于$ I(u)=I(|u|), $不妨假设$ u_{n}\geq0 $在$ H_{0}^{1}(\Omega) $中$ u_{n}\rightarrow u_{*}. $从而根据山路定理(参见文献[14, 定理2.1]), 我们可得$ \lim\limits_{n\rightarrow \infty}I(u_{n})=I(u_{*})=c > 0 $且$ I'(u_{*})=0. $因此, 根据强极大值原理可得, $ u_{*} $是问题(1.1) 的一个正解.

定义$ {\Bbb N}=\{u\in H_{0}^{1}(\Omega)\ |\ I'(u)=0, \ u\neq0\}. $由于$ u_{*} > 0 $并且$ I'(u_{*})=0 $, 则$ {\Bbb N}\neq\emptyset $. 类似于引理2.2中证明$ (PS)_{c} $序列有界, 容易证明$ I $在$ {\Bbb N} $上强制并且下方有界. 令$ { } m=\inf_{u\in{\Bbb N}}I(u) $. 类似于文献[1] 或[15], 易证下确界$ m $可达, 且该达到点是问题(1.1) 的一个正解, 即基态解. 定理1.1证毕.