考虑如下一类具有临界指数的非齐次Kirchhoff型方程

(1.1) $ \begin{equation} \left\{\begin{array}{ll} -(a+b\int_{\Omega}|\nabla u|^2{\rm d}x)\Delta u = |u|^{4}u+\lambda f(x), & \ \ x \in \Omega, \\ u = 0, & \ \ x\in\partial\Omega, \end{array}\right. \end{equation} $

其中$ \Omega\subset {\Bbb R} ^{3} $是一个非空有界开集, $ a\geq0, b, \lambda>0 $为三个正参量, $ f\in L^{\frac{6}{5}}(\Omega) $是个非零非负函数.当$ a, b>0 $时,问题(1.1)被称为非退化的Kirchhoff型方程;而当$ a = 0, b>0 $时,问题(1.1)被称为退化的Kirchhoff型方程.

当$ a, b>0 $时, 2015年,文献[3]和[5]先后利用变分法和临界点理论研究了问题(1.1)解的存在性.文献[3]利用Nehari方法获得了问题(1.1)的一个局部极小解和一个山路解,文献[5]利用临界点理论获得了问题(1.1)的一个正的局部极小解.但是文献[3]在证明山路解的存在性时,出现了一个纰漏.即在其引理3.1证明局部(PS)$ _{c} $条件时,误将(PS)$ _{c} $序列的弱极限当成了问题(1.1)的解.这正是半线性椭圆方程与Kirchhoff型方程的区别之一.本文旨在研究问题(1.1)第二个正解的存在性条件.

2010年, Alves, Corrêa以及Figueiredo在文献[1]利用变分方法研究了带有临界指数的Kirchhoff型问题正解的存在性.随后文献[3, 5-15]以及^[18]等在不同的条件下研究了带有临界指数的Kirchhoff型问题解的存在性及多重性.

问题(1.1)对应的能量泛函为

$ I(u) = \frac{a}{2}\|u\|^{2}+\frac{b}{4}\|u\|^{4}-\frac{1}{6}\int_{\Omega}(u^{+})^{6}{\rm d}x-\lambda\int_{\Omega}f(x)u {\rm d}x, $

其中$ \|u\| = \left(\int_{\Omega}|\nabla u|^{2}{\rm d}x\right)^{\frac{1}{2}} $为Sobolev空间$ H_{0}^{1}(\Omega) $的范数, $ u^{+} = \max\{u, 0\}. $显然, $ I\in C^{1}(H_{0}^{1}(\Omega), {\Bbb R} ), $且对任意的$ \varphi\in H_{0}^{1}(\Omega) $有

$ \begin{eqnarray*} \langle I'(u), \varphi\rangle = \left(a+b\int_{\Omega}|\nabla u|^2{\rm d}x\right)\int_{\Omega}(\nabla u, \nabla\varphi){\rm d}x-\int_{\Omega}(u^{+})^{5}\varphi {\rm d}x-\lambda\int_{\Omega}f(x)\varphi {\rm d}x. \end{eqnarray*} $

众所周知,问题(1.1)的解与其对应能量泛函$ I(u) $的临界点是一一对应的.我们记$ |u|_{p} = \left(\int_{\Omega}|u|^{p}{\rm d}x\right)^{\frac{1}{p}} $为空间$ L^{p}(\Omega) $的范数,且$ S $为最佳Sobolev嵌入常数,即

(1.2) $ \begin{equation} S: = \inf\limits_{u\in H_{0}^{1}(\Omega)\backslash\{0\}}\frac{\int_{\Omega}|\nabla u|^{2}{\rm d}x}{\left(\int_{\Omega}|u|^{6}{\rm d}x\right)^{\frac{1}{3}}}. \end{equation} $

众所周知,函数

(1.3) $ \begin{equation} U(x) = \frac{3^\frac{1}{4}}{\left(1+|x|^2\right)^\frac{1}{2}}, x\in {\Bbb R} ^{3} \end{equation} $

是极小问题(1.2)的极值函数.从而,对于某个正常数$ C>0 $, $ U(x) $是如下临界问题的解

$ \begin{eqnarray*} -\Delta u = Cu^{5}, \forall x\in {\Bbb R} ^{3}. \end{eqnarray*} $

我们的主要结果如下.

定理1.1  假设$ a\geq0, b>0, $$ f\in L^{\frac{6}{5}}(\Omega) $是一个非零非负函数且满足如下条件

(F)   存在$ \delta, \rho>0 $和$ \frac{9}{4}<\beta<\frac{5}{2} $使得对任意的$ |x|<\rho $有$ f(x)\geq\delta|x|^{-\beta}, $则存在一个正常数$ \lambda^{*}>0 $使得对一切的$ 0<\lambda<\lambda^{*} $问题(1.1)存在第二个正解.

注1.1  一方面,定理1.1弥补了文献[3]中第二个正解证明中的纰漏,获得了第二正解的存在条件.从而,完善了文献[5]的结果.另一方面,定理1.1的结果对于$ a = 0 $的情况也成立.此时,结合文献[5]很容易证得问题(1.1)同样存在一个正的局部极小解.此外,需要指出的是:当$ a>0 $时,条件(F)中$ \beta $的范围可以放宽为$ 2<\beta<\frac{5}{2}. $

在证明定理1.1之前,给出一些重要的引理.根据文献[3] (或[5]),我们容易得到如下引理.

引理2.1  假设$ a\geq0, b>0, $则存在$ r, \alpha, \lambda_{*}>0 $使得对于任意的$ \lambda\in(0, \lambda_{*}) $,有

(1)对于任意的$ u\in H_{0}^{1}(\Omega) $且$ \|u\| = r, $都有$ I(u)<\alpha; $

(2)存在$ u_{0}\in H_{0}^{1}(\Omega) $且$ \|u_{0}\|>r, $有$ I(u_0)<\alpha. $

接下来,证明泛函$ I $在$ H_{0}^{1}(\Omega) $上满足局部(PS)$ _{c} $条件.

引理2.2  假设$ a\geq0, b>0 $以及$ f\in L^{\frac{6}{5}}(\Omega) $是一个非零非负函数,则对任意的$ c\in(0, \Lambda-D\lambda^{\frac{4}{3}}), $$ I $在$ H_{0}^{1}(\Omega) $上满足局部(PS)$ _{c} $条件,其中

$ \Lambda = \frac{abS^{3}}{4}+\frac{b^{3}S^{6}}{24}+\frac{(b^{2}S^{4}+4aS)^{\frac{3}{2}}}{24}, \quad D = \frac{3}{4}\left(\frac{5|f|_{\frac{6}{5}}}{6\sqrt{S}}\sqrt[4]{\frac{3}{b}}\right)^{\frac{4}{3}}. $

证  假设$ \{u_{n}\} $是$ I $在$ H_{0}^{1}(\Omega) $上的局部(PS)$ _{c} $序列,即当$ n\rightarrow+\infty $有

(2.1) $ \begin{equation} I(u_{n})\rightarrow c, I'(u_{n})\rightarrow0. \end{equation} $

我们断言: $ \{u_{n}\} $是$ H_{0}^{1}(\Omega) $上的有界序列.事实上,根据(2.1)式、(1.2)式以及Hölder不等式,可得

$ \begin{eqnarray*} 1+c+o(1)\|u_{n}\|&\geq& I(u_{n})-\frac{1}{6}\langle I'(u_{n}), u_{n}\rangle\\ &\geq& \frac{a}{3}\|u_{n}\|^{2}+\frac{b}{12}\|u_{n}\|^{4}-\frac{5\lambda}{6}\int_{\Omega}f(x)u_{n}{\rm d}x\\ &\geq& \frac{a}{3}\|u_{n}\|^{2}+\frac{b}{12}\|u_{n}\|^{4}-\frac{5\lambda|f|_{\frac{6}{5}}}{6S^{\frac{1}{2}}}\|u_{n}\|, \end{eqnarray*} $

这就意味着: $ \{u_{n}\} $在$ H_{0}^{1}(\Omega) $上有界.从而存在子列(仍记为$ \{u_n\} $)以及$ u\in H_{0}^{1}(\Omega) $使得当$ n\rightarrow\infty $时,有

(2.2) $ \begin{equation} \left\{\begin{array}{ll} u_n\rightharpoonup u, & \mbox{在$ H_{0}^{1}(\Omega)$中, }\\ u_n\rightarrow u, & \mbox{在$ L^{s}(\Omega)$中, }\ 1\leq s<6, \\ u_n(x)\rightarrow u(x), & \mbox{几乎处处在$\Omega $中.} \end{array}\right. \end{equation} $

由文献[5],依据Vitali收敛定理(文献[16, p 133]),我们可以断言

(2.3) $ \begin{equation} \lim\limits_{n\rightarrow\infty}\int_{\Omega}f(x)u_{n}{\rm d}x = \int_{\Omega}f(x)u{\rm d}x. \end{equation} $

令$ w_{n} = u_{n}-u, $我们只需证明$ \lim_{n\rightarrow\infty}\|w_{n}\| = l = 0 $.假设$ l>0. $根据在$ H_{0}^{1}(\Omega) $中$ u_n\rightharpoonup u $以及Brézis-Lieb引理(文献[17,引理1.32]),可得

(2.4) $ \begin{equation} \|u_{n}\|^{2} = \|w_{n}\|^{2}+\|u\|^{2}+o(1), \end{equation} $

(2.5) $ \begin{equation} \|u_n\|^4 = \|w_n\|^4+\|u\|^4+2\|w_n\|^2\|u\|^2+o(1), \end{equation} $

(2.6) $ \begin{equation} \int_{\Omega}(u_{n}^{+})^{6}{\rm d}x = \int_{\Omega}(w_{n}^{+})^{6}{\rm d}x+\int_{\Omega}(u^{+})^{6}{\rm d}x+o(1), \end{equation} $

这里$ o(1) $是$ n\rightarrow\infty $时的无穷小量.由(2.1)式和(2.3)式,可得

$ \begin{eqnarray*} a\|u_{n}\|^{2}+b\|u_{n}\|^{4}-\int_{\Omega}(u_{n}^{+})^{6}{\rm d}x-\lambda\int_{\Omega}f(x)u{\rm d}x = o(1), \end{eqnarray*} $

进一步,结合(2.4)–(2.6)式,可得

(2.7) $ \begin{eqnarray} && a\|u\|^2+a\|w_n\|^2+b\|u\|^4+b\|w_n\|^4+2b\|w_n\|^2\|u\|^2\\ &&- \int_{\Omega}(w_{n}^{+})^6{\rm d}x-\int_{\Omega}(u^{+})^6{\rm d}x-\lambda\int_{\Omega}f(x)u{\rm d}x = o(1). \end{eqnarray} $

再次利用(2.1)式,可得

(2.8) $ \begin{equation} \lim\limits_{n\rightarrow\infty}\langle I'(u_{n}), u\rangle = a\|u\|^{2}+b\|u\|^{4}+bl^{2}\|u\|^{2} -\int_{\Omega}(u^{+})^6{\rm d}x-\lambda\int_{\Omega}f(x)u{\rm d}x = 0. \end{equation} $

一方面,根据(2.8)式以及Young不等式,可得

(2.9) $ \begin{eqnarray} I(u)& = & \frac{a}{2}\|u\|^{2}+\frac{b}{4}\|u\|^{4}-\frac{1}{6}\int_{\Omega}(u^{+})^6{\rm d}x-\lambda\int_{\Omega}f(x)u{\rm d}x\\ & = & \frac{a}{3}\|u\|^{2}+\frac{b}{12}\|u\|^{4}-\frac{bl^{2}}{6}\|u\|^{2}-\frac{5\lambda}{6}\int_{\Omega}f(x)u{\rm d}x\\ &\geq& -D\lambda^{\frac{4}{3}}-\frac{bl^{2}}{6}\|u\|^{2}, \end{eqnarray} $

其中$ D = \frac{3}{4}\left(\frac{5|f|_{\frac{6}{5}}}{6\sqrt{S}}\sqrt[4]{\frac{3}{b}}\right)^{\frac{4}{3}}. $另一方面,根据(2.7)式和(2.8)式,可得

(2.10) $ \begin{equation} a\|w_n\|^{2}+b\|w_n\|^{4}+b\|w_n\|^{2}\|u\|^{2}-\int_{\Omega}(w_{n}^{+})^{6}{\rm d}x = o(1), \end{equation} $

(2.11) $ \begin{equation} I(u_{n}) = I(u)+\frac{a}{2}\|w_n\|^{2}+\frac{b}{4}\|w_n\|^{4}+\frac{b}{2}\|w_n\|^{2}\|u\|^{2}-\frac{1}{6}\int_{\Omega}(w_{n}^{+})^{6}{\rm d}x+o(1). \end{equation} $

由(1.2)式,可得

$ \int_{\Omega}(w_{n}^{+})^{6}{\rm d}x\leq\int_{\Omega}|w_n|^{6}{\rm d}x\leq \frac{\|w_{n}\|^{6}}{S^{3}}, $

从而根据(2.10)式,可得

$ al^{2}+bl^{4}+bl^{2}\|u\|^{2}\leq \frac{l^{6}}{S^{3}}, $

这就意味着

(2.12) $ \begin{equation} l^{2}\geq\frac{bS^{3}+\sqrt{b^{2}S^{6}+4S^{3}(a+b\|u\|^{2})}}{2}. \end{equation} $

因此,由(2.10)–(2.12)式,可得

$ \begin{eqnarray*} I(u)& = & \lim\limits_{n\rightarrow\infty}\left[I(u_{n})-\frac{a}{2}\|w_n\|^{2}-\frac{b}{4}\|w_n\|^{4}-\frac{b}{2}\|w_n\|^{2}\|u\|^{2} +\frac{1}{6}\int_{\Omega}(w_{n}^{+})^{6}{\rm d}x\right]\\ & = & c-\left(\frac{a}{3}l^{2}+\frac{b}{12}l^{4}+\frac{b}{3}l^{2}\|u\|^{2}\right)\\ &\leq& c-\bigg[\frac{a}{6}\left(bS^{3}+\sqrt{b^{2}S^{6}+4S^{3}(a+b\|u\|^{2})}\right) +\frac{b}{48}\left(bS^{3}+\sqrt{b^{2}S^{6}+4S^{3}(a+b\|u\|^{2})}\right)^{2}\\ && +\frac{b\|u\|^{2}}{24}\left(bS^{3}+\sqrt{b^{2}S^{6}+4S^{3}(a+b\|u\|^{2})}\right)\bigg] -\frac{bl^{2}}{6}\|u\|^{2}\\ &\leq& c-\bigg(\frac{abS^{3}}{4}+\frac{b^{3}S^{6}}{24} +\frac{(b^{2}S^{4}+4aS)^{\frac{3}{2}}}{24}\bigg)-\frac{bl^{2}}{6}\|u\|^{2}\\ &<& -D\lambda^{\frac{4}{3}}-\frac{bl^{2}}{6}\|u\|^{2}, \end{eqnarray*} $

这与(2.9)式矛盾.因此, $ l\equiv0, $即,当$ n\rightarrow\infty $时,在$ H_{0}^{1}(\Omega) $中有$ u_{n}\rightarrow u. $即,对任意的$ c\in(0, \Lambda-D\lambda^{\frac{4}{3}}), $$ I $在$ H_{0}^{1}(\Omega) $上满足局部(PS)$ _{c} $条件.引理2.2证毕.

引理2.3  假设$ a\geq0, b>0, $$ f\in L^{\frac{6}{5}}(\Omega) $是一个非零非负函数且满足(F)条件,则存在$ \lambda_{**}>0 $以及$ u_{0}\in H_{0}^{1}(\Omega) $使得对任意的$ 0<\lambda<\lambda_{**} $有

$ \sup\limits_{t\geq0}I(tu_{0})<\Lambda-D\lambda^{\frac{4}{3}}, $

其中$ \Lambda, D $为引理2.2中所定义.

证  定义一个截断函数$ \eta\in C_{0}^{\infty}(\Omega) $使得$ 0\leq\eta\leq1 $, $ |\nabla \eta|\leq C_{1}, $这里$ C_{1}>0 $为常数.给定$ \tilde{\delta}>\delta>0, $定义

$ \eta(x) = \left\{\begin{array}{ll} 1, & |x|\leq\frac{\tilde{\delta}}{2}, \\ 0, \quad & |x|\geq \tilde{\delta}, \end{array}\right. $

其中$ \delta $由(F)中所定义.令

$ u_{\varepsilon} = \eta(x)\varepsilon^{-\frac{1}{2}}U(\frac{x}{\varepsilon}) = \frac{\eta(x)(3\varepsilon^{2})^{\frac{1}{4}}}{(\varepsilon^{2}+|x|^{2})^{\frac{1}{2}}}, $

其中$ U(x) $为(1.3)式所定义.众所周知(参见文献[4, 17]),可得

(2.13) $ \begin{equation} \|u_{\varepsilon}\|^{2} = \|U\|^{2}+O(\varepsilon) = S^{\frac{3}{2}}+O(\varepsilon), \end{equation} $

(2.14) $ \begin{equation} |u_{\varepsilon}|_{6}^{6} = |U|_{6}^{6}+O(\varepsilon^{3}) = S^{\frac{3}{2}}+O(\varepsilon^{3}), \end{equation} $

进一步,可得

(2.15) $ \begin{equation} \left\{\begin{array}{ll} \|u_{\varepsilon}\|^{4} = S^3+O(\varepsilon), \\ \|u_{\varepsilon}\|^{6} = S^\frac{9}{2}+O(\varepsilon), \\ \|u_{\varepsilon}\|^{8} = S^6+O(\varepsilon), \\ \|u_{\varepsilon}\|^{12} = S^9+O(\varepsilon). \end{array}\right. \end{equation} $

对任意的$ t\geq0, $定义$ I(tu_{\varepsilon}) $为

$ I(tu_{\varepsilon}) = \frac{a}{2}t^{2}\|u_{\varepsilon}\|^{2}+\frac{b}{4}t^{4}\|u_{\varepsilon}\|^{4} -\frac{t^{6}}{6}\int_{\Omega}u_{\varepsilon}^{6}{\rm d}x-\lambda t\int_{\Omega}f(x)u_{\varepsilon}{\rm d}x, $

则有

$ \lim\limits_{t\rightarrow+0}I(tu_\varepsilon) = 0, \ \mbox{关于$ 0<\varepsilon<\varepsilon_{0} $一致成立, } $

$ \lim\limits_{t\rightarrow+\infty}I(tu_\varepsilon) = -\infty, \ \mbox{关于$ 0<\varepsilon<\varepsilon_{0} $一致成立, } $

其中$ \varepsilon_{0}>0 $为充分小的正常数.因此,存在$ t_\varepsilon>0 $使得$ \sup_{t\geq0}I(tu_\varepsilon) = I(t_{\varepsilon}u_\varepsilon). $我们断言:存在两个与$ \varepsilon $无关的正常数$ t_{0} $和$ T_{0} $,使得$ t_0<t_\varepsilon<T_0. $事实上,由$ \lim_{t\rightarrow+0}I(tu_\varepsilon) = 0 $关于$ 0<\varepsilon<\varepsilon_{0} $一致成立,选取$ \epsilon = \frac{I(t_\varepsilon u_\varepsilon)}{4}>0, $则存在$ t_0>0 $使得$ |I(t_{0}u_\varepsilon)| = |I(t_{0}u_\varepsilon)-I(0)|<\epsilon. $从而根据$ I(tu_\varepsilon) $在$ t = 0 $附近的单调性,可得$ t_\varepsilon>t_0. $类似地,可以证明$ t_\varepsilon<T_0. $故,断言成立.令

$ I_{\varepsilon}(t) = \frac{a}{2}t^2\|u_{\varepsilon}\|^{2}+\frac{b}{4}t^4\|u_{\varepsilon}\|^{4}-\frac{t^6}{6}\int_{\Omega}u_{\varepsilon}^{6}{\rm d}x, $

则有$ I_{\varepsilon}'(t) = at\|u_{\varepsilon}\|^2+bt^3\|u_{\varepsilon}\|^4-t^5\int_{\Omega}u_{\varepsilon}^{6}{\rm d}x. $令$ I_{\varepsilon}'(t) = 0, $即有

(2.16) $ \begin{equation} a\|u_{\varepsilon}\|^{2}+bt^{2}\|u_{\varepsilon}\|^4-t^{4}\int_{\Omega}u_{\varepsilon}^{6}{\rm d}x = 0, \end{equation} $

可得

$ T_{\varepsilon}^{2} = \frac{b\|u_\varepsilon\|^4+\sqrt{b^2\|u_\varepsilon\|^8+4a\|u_\varepsilon\|^2\int_{\Omega}u_\varepsilon^6{\rm d}x}} {2\int_{\Omega}u_\varepsilon^6{\rm d}x}. $

因此,对任意的$ 0<t<T_{\varepsilon} $,有$ I_{\varepsilon}'(t)>0, $而当$ t>T_{\varepsilon} $时,有$ I_{\varepsilon}'(t)<0 $且$ I_{\varepsilon}(t) $在$ T_{\varepsilon} $处达到最大值.从而,根据(2.13)–(2.16)式,可得

(2.17) $ \begin{eqnarray} I_{\varepsilon}(t)&\leq& I_{\varepsilon}(T_{\varepsilon})\\ & = & T_{\varepsilon}^{2}\left(\frac{a}{2}\|u_{\varepsilon}\|^{2}+\frac{b}{4}T_{\varepsilon}^{2}\|u_{\varepsilon}\|^{4} -\frac{T_{\varepsilon}^{4}}{6}\int_{\Omega}u_{\varepsilon}^{6}{\rm d}x\right)\\ & = & T_{\varepsilon}^{2}\left(\frac{a}{3}\|u_{\varepsilon}\|^{2}+\frac{b}{12}T_{\varepsilon}^{2}\|u_{\varepsilon}\|^{4}\right)\\ & = & \frac{ab\|u_\varepsilon\|^6+a\|u_\varepsilon\|^{2}\sqrt{b^2\|u_\varepsilon\|^8+4a\|u_\varepsilon\|^2\int_{\Omega}u_\varepsilon^6{\rm d}x} }{6\int_{\Omega}u_\varepsilon^6{\rm d}x}\\ &&+ \frac{b^{3}\|u_\varepsilon\|^{12}+2ab\|u_\varepsilon\|^{6}\int_{\Omega}u_\varepsilon^6{\rm d}x}{24\left(\int_{\Omega}u_\varepsilon^6{\rm d}x\right)^{2}} + \frac{b^{2}\|u_\varepsilon\|^{4}\sqrt{b^2\|u_\varepsilon\|^8+4a\|u_\varepsilon\|^2\int_{\Omega}u_\varepsilon^6{\rm d}x} }{24\left(\int_{\Omega}u_\varepsilon^6{\rm d}x\right)^{2}}\\ & = & \frac{ab\|u_\varepsilon\|^6}{4\int_{\Omega}u_\varepsilon^6{\rm d}x} +\frac{b^3\|u_\varepsilon\|^{12}}{24(\int_{\Omega}u_\varepsilon^6{\rm d}x)^2} +\frac{a\|u_\varepsilon\|^{2} \sqrt{b^2\|u_\varepsilon\|^8+4a\|u_\varepsilon\|^2\int_{\Omega}u_\varepsilon^6{\rm d}x} }{6\int_{\Omega}u_\varepsilon^6{\rm d}x}\\ &&+ \frac{b^{2}\|u_\varepsilon\|^{4}\sqrt{b^2\|u_\varepsilon\|^8+4a\|u_\varepsilon\|^2\int_{\Omega}u_\varepsilon^6{\rm d}x} }{24\left(\int_{\Omega}u_\varepsilon^6{\rm d}x\right)^{2}}\\ & = & \frac{ab(S^{\frac{9}{2}}+O(\varepsilon))}{4(S^{\frac{3}{2}}+o(\varepsilon))}+ \frac{b^3(S^9+O(\varepsilon))}{24(S^{\frac{3}{2}}+o(\varepsilon))^2} + \frac{a(S^{\frac{3}{2}}+O(\varepsilon))\sqrt{b^{2}S^{6}+4aS^{3}+O(\varepsilon)}}{6(S^{\frac{3}{2}}+o(\varepsilon))}\\ &&+ \frac{b^2(S^6+O(\varepsilon))\sqrt{b^{2}S^{6}+4aS^{3}+ O(\varepsilon)}} {24(S^{\frac{3}{2}}+o(\varepsilon))^2}\\ & = & \frac{abS^3}{4}+\frac{b^3S^6}{24}+ \frac{aS\sqrt{b^{2}S^{4}+4aS}}{6}+\frac{b^{2}S^{4}\sqrt{b^{2}S^{4}+4aS}}{24}+O(\varepsilon)\\ & = &\Lambda+O(\varepsilon). \end{eqnarray} $

根据(F)以及$ u_{\varepsilon} $的定义,对任意的$ 0<\varepsilon<\sqrt{\delta}, $可得

(2.18) $ \begin{eqnarray} \int_{\Omega}f(x)u_{\varepsilon}{\rm d}x&\geq& C\int_{|x|<\delta}\frac{|x|^{-\beta}\varepsilon^\frac{1}{2}}{\left(\varepsilon^{2}+|x|^2\right)^\frac{1}{2}}{\rm d}x+\int_{|x|\geq\delta}f(x)u_{\varepsilon}{\rm d}x\\ &\geq& C\varepsilon^\frac{1}{2}\int_{0}^{\delta}\frac{r^{2}}{r^{\beta}\left(\varepsilon^{2}+r^2\right)^\frac{1}{2}}{\rm d}r = C\varepsilon^\frac{5-2\beta}{2}\int_{0}^{\frac{\delta}{\varepsilon}}\frac{t^{2}}{t^{\beta}\left(1+t^2\right)^\frac{1}{2}}{\rm d}t\\ &\geq& C\varepsilon^\frac{5-2\beta}{2}\bigg[\int_{0}^{1}\frac{t^{2}}{\sqrt{2}t^{\beta}}{\rm d}t +\int_{1}^{\frac{\delta}{\varepsilon}}\frac{t^{2}}{\sqrt{2}t^{\beta+1}}{\rm d}t\bigg]\\ &\geq& C\varepsilon^\frac{5-2\beta}{2}, \end{eqnarray} $

其中这里的$ C $表示不同的正常数.因此,根据(2.17)式和(2.18)式,可得

$ \begin{eqnarray*} I(tu_\varepsilon)& = & I_{\varepsilon}(t) -\lambda t\int_{\Omega}f(x)u_{\varepsilon}{\rm d}x \leq I_{\varepsilon}(t_{\varepsilon}) -\lambda t_{\varepsilon}\int_{\Omega}f(x)u_{\varepsilon}{\rm d}x\\ &\leq& I_{\varepsilon}(T_{\varepsilon})-\lambda t_{0}\int_{\Omega}f(x)u_{\varepsilon}{\rm d}x \leq \Lambda+C_{2}\varepsilon-C_{3}\lambda\varepsilon^\frac{5-2\beta}{2}, \end{eqnarray*} $

其中$ C_{2}, C_{3}>0 $为正常数.取$ \varepsilon = \lambda^{\frac{4}{3}} $且$ 0<\lambda<\left(\frac{C_{3}}{C_{2}+D}\right)^{\frac{3}{4\beta-9}}, $由于$ \frac{9}{4}<\beta<\frac{5}{2}, $可得

$ C_{2}\varepsilon-C_{3}\lambda\varepsilon^\frac{5-2\beta}{2} = \lambda^{\frac{4}{3}}(C_{2}-C_{3}\lambda^{\frac{9-4\beta}{3}}) < -D\lambda^{\frac{4}{3}}. $

故存在$ \lambda_{**}\leq\left(\frac{C_{3}}{C_{2}+D}\right)^{\frac{3}{4\beta-9}}, $使得当$ 0<\lambda<\lambda_{**} $时,有

$ I(tu_\varepsilon)<\Lambda-D\lambda^{\frac{4}{3}}. $

因此,取$ u_{0} = u_{\varepsilon}, $当$ 0<\lambda<\lambda_{**} $时,有

$ \sup\limits_{t\geq0}I(tu_{0})<\Lambda-D\lambda^{\frac{4}{3}}. $

故引理2.3证毕.

下面我们给出定理1.1的证明.

定理1.1的证明  取$ \lambda^{*} = \min\{\lambda_{*}, \lambda_{**}\}, $则对任意的$ 0<\lambda<\lambda^{*}, $引理2.1–2.3均成立.定义

$ \Gamma: = \{\gamma\in C([0, 1], H_{0}^{1}(\Omega)) | \gamma(0) = 0, \gamma(1) = u_{0}\}, \quad c = \inf\limits_{\gamma\in\Gamma}\max\limits_{t\in[0, 1]}I(\gamma(t)). $

根据引理2.1–2.3,存在序列$ \{u_{n}\}\subset H_{0}^{1}(\Omega) $使得$ I(u_{n})\rightarrow c\geq\alpha>0 $且$ I'(u_{n})\rightarrow0, $则序列$ \{u_{n}\} $在$ H_{0}^{1}(\Omega) $中存在收敛子列(仍记为$ \{u_{n}\} $).不妨假设在$ H_{0}^{1}(\Omega) $中$ u_{n}\rightarrow u_{**}. $从而根据山路定理(参见文献[2,定理2.1]),可得$ \lim_{n\rightarrow\infty}I(u_{n}) = I(u_{**}) = c>0 $且$ I'(u_{**}) = 0. $因此, $ u_{**} $是问题(1.1)的一个非零解.即有,对任意的$ \phi\in H_{0}^{1}(\Omega) $有

(2.19) $ \begin{equation} \left(a+b\|u_{**}\|^{2}\right)\int_{\Omega}(\nabla u_{**}, \nabla \phi)- \int_{\Omega}(u_{**}^{+})^{5}\phi {\rm d}x-\lambda\int_{\Omega}f(x)\phi {\rm d}x = 0, \end{equation} $

在(2.19)式中取$ \phi = u_{**}^{-} = \max\{-u_{**}, 0\} $,可得$ -\left(a+b\|u_{**}^{-}\|^{2}\right)\|u_{**}^{-}\|^{2}-\lambda\int_{\Omega}f(x)u_{**}^{-}{\rm d}x = 0, $从而$ u_{**}^{-} = 0, $即$ u_{**}\geq0 $在$ \Omega $中几乎处处成立.因此, $ u_{**} $是一个非零非负解.最后,根据强极大值原理可得, $ u_{**} $是问题(1.1)的一个正解.故定理1.1证毕.