该文考虑下列带有凸凹非线性项的Neumann边值问题

其中$1<p<N$,$1<q<p<r<p^{*}$,$p^{*}=Np/(N-p)$,$\Omega$ 是欧几里德空间 $({\Bbb R}^{N},|\cdot|)$ $(N\geq3)$ 中的光滑外部区域,也就是说,$\Omega$ 是某个带有 $C^{1,\delta}(0<\delta<1)$ 边界的有界区域 $\Omega'$ 的补集, ${\bf n}$ 是其边界 $\partial\Omega$ 上的单位外法向量,$\lambda$是一个正的参数. 函数 $a(x)$ 和 $b(x)$ 满足下面的假设

(H$_{1})$ $a\in L_{\rm loc}^{1}(\Omega)$,而且$a(x)\geq a_{0}>0$, a.e. $x\in\Omega$;

(H$_{2})$ $b\in C(\overline{\Omega})$,而且 $b(x)\geq b_{0}>0$, $x\in\Omega$. 此外,当$|x|\rightarrow +\infty$时,$b(x)\rightarrow +\infty$.

最近,$p$-Laplacian 类型的问题引起了中外学者广泛地关注和深入细致地研究, 参见文献[1, 6, 11, 12, 14, 15, 16, 17]. 本文仅引用 Zhao,Li 和 Su 在文献[14] 中考虑的带有混合边值条件的拟线性椭圆问题

文中假设 $\Omega$ 是 ${\Bbb R}^{N}$ $(N\geq3)$ 中的光滑外部区域, $\nu$ 是其边界$\partial\Omega$ 的单位外法向量,$1<p<N$,参数 $\lambda$是实数. 权函数 $a,b$ 和 $g$ 满足

(a) $0<a_{0}\leq a(x)\in L^{\infty}(\Omega)C^{0,\delta}(\overline{\Omega})$;

(b) $0<b(x)\in C(\partial\Omega)$;

(g) $0\leq g(x)\in L^{\infty}(\Omega)\cap L^{p_{0}}(\Omega) $, 其中 $p_{0}=p^{*}/(p^{*}-r)$,$1<r<p^{*}$,而且 $g$ 在 $\Omega$ 的一个非空开子集上是正的.

利用变分法,作者得出如下结论

(1) 设 $1<q<p<r<p^{*}$. 则对任意的 $\lambda>0$, 问题(1.2)有一个非负的基态解和另外无穷多个解.

(2) 设 $p\leq q<r<p^{*}$. 则对任意的 $\lambda>0$,问题(1.2)有一个正的基态解和一列解 $\{u_{k}\}_{k\in {\Bbb N}}$ 满足: 当$k\rightarrow \infty$时, 能量泛函$J_{\lambda}(u_{k})\rightarrow \infty$.

(3) (i) 设 $1<r<p$,$r<q<p^{*}$. 则对任意的$\lambda>0$, 问题(1.2)有一个非负的基态解和一列解 $\{u_{k}\}_{k\in {\Bbb N}}$ 满足: $J_{\lambda}(u_{k})<0$,且当 $k\rightarrow \infty$ 时,$J_{\lambda}(u_{k})\rightarrow 0$.

(ii) 设 $1<r<p$,$1<q\leq r$. 则存在一个仅依赖于 $p,q,r,N,\Omega,g$ 的常数 $\lambda^{*}>0$,使得对任意的$\lambda>\lambda^{*}$,问题(1.2)有一个非负的基态解.

受以上研究的启发,本文利用山路引理 (参见文献[2]) 和Ekeland变分原理 (参见文献[5]) 建立问题$(1.1)$多重弱解的存在性. 这类问题出现在诸如非牛顿流体的数学模型(参见文献[4]), 及由 Keller和 Segel提出的趋化现象的聚合模型 (参见文献[7]) 等许多非线性扩散问题中. 正如文献[13] 所指出的,在非线性Klein-Gordon方程或Schrödinger方程中的某些驻波解可以化成这种形式. 这类非线性边值问题的更多物理背景参见文献[10]. 数学上,对这类问题的研究主要源于寻找Sobolev迹嵌入的最佳常数,参见文献[3]. 由于我们所研究的区域 是无界的,Sobolev嵌入的紧性不再保持,这对我们的研究造成一定的困难. 但有很多方法可以克服这些困难,更准确地说,可以对权函数附加一定的条件, 从而使Sobolev嵌入恢复紧性. 例如: 本文约定$h_{1}$,$h_{2}$ 和 $g$ 满足如下条件

(A$_{1})$ $h_{1}\in L^{\infty}(\Omega)\cap L^{q_{0}}(\Omega)$,其中$q_{0}=p^{*}/(p^{*}-q)$;

(A$_{2})$ $h_{2}\in L^{\infty}(\Omega)$,而且$h_{2}$ 在 $\Omega$的某个非空开子集上是正的;

(A$_{3})$ $g\in L^{p'}(\Omega)$,其中 $1/p+1/p'=1$.

下面叙述我们的结果

定理1.1 假设条件(A$_1)$-(A$_{2})$成立. 并假设下面两个条件之一成立

(i) 当 $g(x)$ 在 $\Omega$ 上不恒等于零时,$g(x)$ 满足条件 (A$_3)$,并且 $g$ 在 $\Omega$ 的某个非空开子集上是正的;

(ii) 当 $g(x)$ 在 $\Omega$ 上恒等于零时,$h_{1}$ 在 $\Omega$ 的某个非空开子集上是正的.

则存在 $\lambda_{0}>0$,$\nu_0>0$,使得对任意 $\lambda\in(0,\lambda_{0})$, 只要 $\|g\|_{p'}< \nu_0$,问题$(1.1)$都至少有两个非平凡的弱解.

本文的余下部分安排如下: 第2节我们建立问题$(1.1)$的变分结构并给出一些引理, 为证明定理 1.1 做准备. 第3节我们给出定理 1.1 的证明.

这里,我们用 $W^{1,p}(\Omega)$ 表示具有范数

$$ \|u\|_{W^{1,p}}=\bigg(\int_{\Omega} (|\nabla u|^{p}+|u|^{p}){\rm d}x\bigg)^{1/p} $$

的标准的Sobolev 空间. 设 $X$ 是 $C_{0}^{\infty}({\Bbb R}^{N})$ 在 $\Omega$ 上的限制按范数

$$ \|u\|_{X}=\bigg(\int_{\Omega} (a(x)|\nabla u|^{p}+b(x)|u|^{p}){\rm d}x\bigg)^{1/p} $$

的完备化空间. 显然,根据假设 (H$_{1})$ 和 (H$_{2})$,$X$ 是自反的Banach空间. 我们用 $L^{s}(\Omega)$ 表示具有范数

$$\|u\|_{s}=\bigg(\int_{\Omega} |u|^{s}{\rm d}x\bigg)^{1/s} $$

的赋范线性空间. 则对任意的 $u\in X$, 下面的不等式成立

设 $D^{1,p}(\Omega)$ 是 $C_{0}^{\infty}({\Bbb R}^{N})$ 在 $\Omega$ 上的限制按范数

$$ \|u\|_{D^{1,p}}=\bigg(\int_{\Omega}|\nabla u|^{p}{\rm d}x\bigg)^{1/p} $$

的完备化空间,并定义

$$ S_{\Omega}=\inf\bigg\{\int_{\Omega}|\nabla u|^{p}{\rm d}x | u \in D^{1,p}(\Omega),\int_{\Omega}|u|^{p*}{\rm d}x=1\bigg\}, $$

则由文献[9]可知

$$ 0

其中 $S$ 是嵌入$D^{1,p}({\Bbb R}^{N})\hookrightarrow L^{p*}({\Bbb R}^{N})$ 的最佳常数. 从而,由假设(H$_{1})$可得: 对任意的 $u\in X\subset D^{1,p}(\Omega)$,有

$$ S_{\Omega}\bigg(\int_{\Omega}|u|^{p*}{\rm d}x\bigg)^{p/p*}\leq \int_{\Omega}|\nabla u|^{p}{\rm d}x\leq \frac{1}{a_{0}}\int_{\Omega}a(x)|\nabla u|^{p}{\rm d}x\leq\frac{1}{a_{0}}\|u\|_{X}^{p}. $$

从而

定义2.1 称函数 $u\in X$ 为问题$(1.1)$ 的弱解,如果对任意的 $\phi\in X$,都有

\begin{eqnarray*} \int_{\Omega} (a(x)|\nabla u|^{p-2}\nabla u \nabla \phi+b(x)|u|^{p-2} u\phi){\rm d}x = \int_{\Omega}(\lambda h_{1}(x)|u|^{q-2}u + h_{2}(x)|u|^{r-2}u+g(x))\phi {\rm d}x \end{eqnarray*}

成立.

考虑泛函 $I: X\rightarrow {\Bbb R}^{1}$,

$I(u) = \frac{1}{p}\left\| u \right\|_X^p - \frac{1}{q}\int_\Omega \lambda {h_1}(x)|u{|^q}{\rm{d}}x - \frac{1}{r}\int_\Omega {{h_2}} (x)|u{|^r}{\rm{d}}x - \int_\Omega g (x)u{\rm{d}}x.$

显然,$I\in C^{1}(X,{\Bbb R}^{1})$,且泛函 $I$ 的临界点 $u\in X$ 满足: 对任意的 $\phi\in X$,都有 $I'(u)\phi=0$,其中

$I'(u)\phi = \int_\Omega {(a|\nabla u{|^{p - 2}}\nabla u\nabla \phi + b|u{|^{p - 2}}u\phi )} {\rm{d}}x - \int_\Omega {(\lambda {h_1}|u{|^{q - 2}}u + {h_2}|u{|^{r - 2}}u + g)} \phi {\rm{d}}x.$

因此泛函 $I$ 的临界点就是问题 $(1.1)$ 的弱解. 如无特别说明,文中的积分区域都是 $\Omega$. 我们需要利用下面的山路引理(参见文献[2]) 证明泛函 $I$ 存在临界点.

引理2.1　设 $X$ 是一个实的 Banach 空间,泛函 $J\in C^{1}(X,{\Bbb R})$ 且满足 $(PS)$ 条件,$J(0)=0$. 假设

(i) 存在 $\gamma,\rho>0$,使得当$\|u\|_{X}=\rho$ 时,$J(u)\geq \gamma$;

(ii) 存在 $e\in X$,$\|e\|_{X} >\rho$,使得$J(e)\leq0$.

定义

$$\Gamma= \left\{g\in C([0,1],X): g(0)=0,g(1)=e\right\},$$

则

$$ c= \underline{}\inf_{g\in \Gamma} \underline{}\max_{y\in[0,1]}I(g(y))\ge \gamma $$

是泛函 $J(u)$ 的一个临界值.

类似于文献[8] 中定理 7.9 的证明,我们可以得到下面的嵌入定理

引理2.2 对于 $p\leq s< p^{*}$,嵌入 $X\hookrightarrow L^{s}(\Omega)$ 是紧的.

证 记 $\Omega_{R}=\Omega\cap B_{R}$, $\Omega_{R}^{c}=\Omega\setminus B_{R}$,其中 $B_{R}$ 是 ${\Bbb R}^{N}$ 中以原点为中心,$R$为半径的球.

情形 1 $s=p$. 设 ${\cal D}$ 是$\Omega$的一个子集, $X({\cal D})$,$Y({\cal D})$ 分别表示空间 $X$ 和 $Y$ 中的函数在${\cal D}$上的限制.

首先,因为嵌入 $W^{1,p}(\Omega_{R})\hookrightarrow L^{p}(\Omega_{R})$ 是紧的,所以

这里,$\hookrightarrow \hookrightarrow$ 表示紧嵌入.

其次,我们断言

实际上,令$c_{R}=\inf\limits_{x\in \Omega_{R}^{c}} \{b(x)\}$,则当$R\rightarrow +\infty$时, $c_{R}\rightarrow +\infty$. 而且

\begin{eqnarray*} \int_{\Omega_{R}^{c}} |u|^{p}{\rm d}x\leq \int_{\Omega_{R}^{c}} \frac{b(x)}{c_{R}}|u|^{p}{\rm d}x \leq \frac{1}{c_{R}}\int_{\Omega_{R}^{c}} b(x)|u|^{p}{\rm d}x\leq \frac{1}{c_{R}} \|u\|_{X}^{p}. \end{eqnarray*}

从而,对任意的 $u\in X,u\neq 0$,当 $R\rightarrow +\infty$ 时,

\begin{eqnarray*}\frac{\int_{\Omega_{R}^{c}} |u|^{p}{\rm d}x}{\|u\|_{X}^{p}}\leq \frac{1}{c_{R}}\rightarrow 0. \end{eqnarray*}

这说明 $(2.4)$ 式成立. 由 $(2.3)$ 和 $(2.4)$ 式我们知道: 存在常数 $C>0$,使得

显然,函数 $\varphi \in C_{0}^{\infty}({\Bbb R}^{N})$ 在 $\Omega$ 上的限制属于 $X$ 和 $L^{p}(\Omega)$. 而 $X$ ( $L^{p}(\Omega)$) 是 $C_{0}^{\infty}({\Bbb R}^{N})|_{\Omega}$ 按照 $X$ ( $L^{p}({\Bbb R}^{N})$) 中范数的完备化空间,公式 $(2.5)$ 说明 $X$ 连续嵌入到 $L^{p}(\Omega)$中.

现在我们证明该嵌入是紧的. 设 $X$ 中的函数列 $\{u_{n}\}$ 弱收敛于 $u$, 则 $\{u_{n}\}$ 是有界的,即

由公式 $(2.4)$ 和 $(2.6)$ 可知,对任意的 $\epsilon>0$,存在 $R_{\epsilon}>0$ 使得

由测度的连续性,我们有 $\lim\limits_{R\rightarrow+\infty}\|u\|_{p}(\Omega_{R}^{c})=0$. 因此存在一个新的$R_{\epsilon}>0$,使得公式 $(2.7)$ 成立,而且

由公式 $(2.3)$,对于上述$\epsilon$ 和$R_{\epsilon}$,我们可以找到一个正整数 $n_{\epsilon}$,使当$n\geq n_{\epsilon}$时

利用公式 (2.7)-(2.9),对任意给定的 $\epsilon >0$,存在 $R_{\epsilon}>0$, $n_{\epsilon}>0$,使得

$$\|u_{n}-u\|_{p}(\Omega)\leq \|u_{n}-u\|_{p}(\Omega_{R_{\epsilon}})+\|u\|_{p}(\Omega_{R}^{c})+\|u_{n}\|_{p} (\Omega_{R}^{c})\leq 3\epsilon. $$

由 $\epsilon$ 的任意性得:在 $L^{p}(\Omega)$ 中,$\!\!u_{n}\rightarrow u$. 因而结论成立.

情形 2 $p<s<p^{*}$. 此时存在$0<\theta<1$,使得 $1/s=\theta/p+(1-\theta)/p^{*}$. 利用紧嵌入 $X\hookrightarrow\hookrightarrow L^{p}(\Omega)$ 和插值不等式,我们有

\begin{eqnarray*}\|u\|_{s}\leq \|u\|_{p}^{\theta} \|u\|_{p^{*}}^{1-\theta} \leq C \|u\|_{X}. \end{eqnarray*}

由情形 1可知当 $p < s < p^{*}$时,嵌入 $X\hookrightarrow L^{s}(\Omega)$ 是紧的.

根据引理2.2,对于任意的 $r \in (p,p^{*})$,存在常数 $S_{r}>0$ 使得

引理2.3 假设条件 (A$_{1})$-(A$_{3})$ 成立. 则存在 $\lambda_{0}>0$,$\mu_{0}>0$, 使得对任意的$\lambda\in(0,\lambda_{0})$,只要$\|g\|_{p'}\leq\mu_{0}$, 都有能量泛函 $I$ 满足引理 $2.1$ 的条件 (i) 和(ii).

证 由公式 $(2.2)$,$(2.10)$ 和 Hölder不等式,我们有

及

此外,对任意的$\epsilon >0$,由Young不等式,

其中 $C_{\epsilon}=(\epsilon b_{0})^{1/(1-p)}$. 记

$$\alpha=\|h_{1}\|_{q_{0}}q^{-1}(a_{0}S_{\Omega})^{-q/p}, \quad \beta=\|h_{2}\|_{\infty}r^{-1}S_{r}^{-r/p}. $$

则由公式 (2.11)-(2.13),我们有

\begin{eqnarray*} I(u)\geq \frac{1}{p}\|u\|_{X}^{p}-\lambda\alpha\|u\|_{X}^{q} -\beta\|u\|_{X}^{r}-\epsilon\|u\|_{X}^{p}- C_{\epsilon}\|g\|_{p'}^{p'}.\end{eqnarray*}

取 $\epsilon=1/2p$,则

其中 $C'=C_{1/2p}$.

为验证 (i),我们考虑函数

\begin{eqnarray*} Q(z)=\lambda\alpha z^{q-p}+\beta z^{r-p},\ \ \ \ z>0. \end{eqnarray*}

下证: 存在某个$z_0>0$,使得

因为 $q<p<r$,所以当 $z\to 0^+$ 或 $z\to +\infty$时,都有 $Q(z)\to +\infty$. 令 $Q'(z)=0$,解得

\begin{eqnarray*} z_{0}=\left(\frac{\lambda\alpha(p-q)}{\beta(r-p)}\right)^{1/(r-q)}>0. \end{eqnarray*}

因此,$Q(z)$在 $z_0$ 处取得最小值. 要想 $Q(z_0)<\frac{1}{2p}$,则需

这样,由公式 (2.14)-(2.16) 知存在 $\mu_{0},\gamma>0$,使得对任意的 $\lambda\in (0,\lambda_0)$,当$\|u\|_{X}=\rho=z_{0}>0$ 时,对任意的$\|g\|_{p'}<\mu_{0}$,都有 $J(u)>\gamma>0$. 因此引理 $2.1$ 的条件 (i) 成立.

由条件 (A$_{2})$,我们取一个有界区域 $\Omega_{0}\subset \Omega$, 使得当 $x\in\Omega_{0}$ 时,$h_{2}(x)>0$. 并取函数 $\varphi \in C_{0}^{\infty}(\Omega_{0})$, 且满足 $\varphi \geq 0$,$\varphi \neq 0$. 再将 $\varphi$ 以如下方式延拓成 $\Omega$ 上的$C_{0}^{\infty}$ 函数 $\varphi_{1}$: 当 $x\in \Omega_{0}$ 时, $\varphi_{1}=\varphi$; 当 $x\in \Omega\backslash \overline{\Omega}_{0}$时,$\varphi_{1}(x)=0$. 这样,$\int h_{2}\varphi_{1}^{r} {\rm d}x>0$, 而且对于 $t>0$

因为 $1<q<p<r$,所以当 $t\rightarrow +\infty$ 时,$I(t\varphi_{1})\rightarrow-\infty$. 从而存在较大的 $t_{0}>0$,使得 $I(t_{0}\varphi_{1})<0$. 这说明引理 $2.1$ 的条件 (ii) 成立.

引理2.4 假设条件 (A$_{1})$-(A$_{3})$ 成立. 则泛函 $I$ 满足 $(PS)$ 条件.

证 设 $\{u_{n}\}$ 是泛函 $I(u)$ 在水平 $c\in {\Bbb R}$ 处的一个 $(PS)$ 序列,也就是说,当 $n\rightarrow \infty$ 时,$I(u_{n})\rightarrow c$, 且在 $X$ 的对偶空间 $X^{*}$ 中,$I'(u_{n})\rightarrow 0$.

首先,我们证明: $\{u_{n}\}$ 在 $X$ 中是有界的. 实际上,由公式 $(2.11)$ 和 $(2.13)$,对足够大的 $n$,我们有

其中 $\alpha'=\|h_{1}\|_{q_{0}}(S_{\Omega}a_{0})^{-q/p}$. 取 $\epsilon$ 满足 $1/p-1/r>(1-1/r)\epsilon$,则上面的不等式蕴含着 $\{u_{n}\}$ 在 $X$ 中是有界的.

其次,我们证明 $\{u_{n}\}$ 在 $X$ 中有一个收敛子列. 由 $X$ 的自反性和引理2.2给出的紧嵌入, 通过取子列,我们不妨设

\begin{eqnarray*} u_{n}\rightharpoonup u_{0}~\mbox{于} ~X,~~ u_{n}\rightarrow u_{0} ~\mbox{于} ~L^{r}(\Omega)~~(p\leq r<p^{*}),~~ u_{n}(x)\rightarrow u_{0}(x),~{\rm a.e.}~x\in \Omega. \end{eqnarray*}

为了证明 ${u_{n}}\rightarrow u_{0}$,即当 $n\rightarrow \infty$ 时,

我们考虑下面序列

\begin{eqnarray*} P_{n}&=&I'(u_{n})(u_{n}-u_{0})\\ &=&\int (a|\nabla u_{n}|^{p-2}\nabla u_{n}\nabla(u_{n}-u_{0})+b|u_{n}|^{p-2}u_{n}(u_{n}-u_{0})){\rm d}x\\ &&-\lambda \int h_{1}|u_{n}|^{q-2}u_{n}(u_{n}-u_{0}){\rm d}x-\int h_{2} |u_{n}|^{r-2}u_{n}(u_{n}-u_{0}){\rm d}x-\int g(u_{n}-u_{0}){\rm d}x \end{eqnarray*}

和

$$ Q_{n}=\int{a|\nabla u_{0}|^{p-2}\nabla u_{0}\nabla(u_{n}-u_{0})+b|u_{0}|^{p-2}u_{0}(u_{n}-u_{0})}. $$

由 $I'(u_{n})\rightarrow 0$,可得当 $n\rightarrow \infty$ 时,$P_{n}\rightarrow 0$. 由 ${u_{n}}\rightharpoonup u_{0}$, 可得 $P_{n}\rightarrow 0$. 从而,当 $n\rightarrow \infty$ 时,

$$ P_{n}-Q_{n}=A_{n}-\lambda B_{n}- C_{n}-D_{n}\rightarrow 0, $$

这里

$\left\{ \begin{array}{l} {A_n} = \int {(a(} |\nabla {u_n}{|^{p - 2}}\nabla {u_n} - |\nabla {u_0}{|^{p - 2}}\nabla {u_0})\nabla ({u_n} - {u_0})\\ \;\;\;\;\;\;\; + b(|{u_n}{|^{p - 2}}{u_n} - |{u_0}{|^{p - 2}}{u_0})({u_n} - {u_0})){\rm{d}}x\\ {B_n} = \int {{h_1}|{u_n}{|^{q - 2}}{u_n}({u_n} - {u_0}){\rm{d}}x} ,\\ {C_n} = \int {{h_2}|{u_n}{|^{r - 2}}{u_n}({u_n} - {u_0}){\rm{d}}x} ,\\ {D_n} = \int g ({u_n} - {u_0}){\rm{d}}x. \end{array} \right.$

现在,我们来证明: 当 $n\rightarrow\infty$ 时,$B_{n}$,$C_{n}$ 和 $D_{n}$ 都趋于零. 因为 $h_{1}\in L^{q_{0}}(\Omega)\cap L^{\infty}(\Omega)$,利用 Hölder 不等式,可得

$$ \int{|h_{1}||u_{n}|^{q-1}|u_{n}-u_{0}|{\rm d}x} \leq\|h_{1}\|_{\infty}^{\theta} \|h_{1}\|_{q_{0}}^{1-\theta}\|u_{n}\|_{p}^{q-1}\|u_{n}-u_{0}\|_{p}\;, $$

其中 $\theta=(p-q)(pq_{0})^{-1}$. 注意到 $\{u_{n}\}$ 在 $L^{p}(\Omega)$ 中是有界的,上述不等式蕴含着 $B_{n}\rightarrow 0$. 类似地,下面两个不等式

$$ \int{|h_{2}||u_{n}|^{r-1}|u_{n}-u_{0}|{\rm d}x}\leq \|h_{2}\|_{\infty}\|u_{n}\|_{r}^{r-1}\|u_{n}-u_{0}\|_{r} $$

和

$$ \int |g||u_{n}-u_{0}|{\rm d}x \leq \|g\|_{p'}\|u_{n}-u_{0}\|_{p} $$

蕴含着 $C_{n}$ 和$ D_{n}$ 收敛于零. 因此当 $n\rightarrow\infty$ 时,$A_{n}\rightarrow 0$.

设 $\xi$,$\eta$ 是 ${\Bbb R}^{N}$ 中的任意两个向量,则下面两个不等式成立

其中 $\gamma_{0}$和 $\gamma_{1}$ 是只依赖于$p$ 和$N$的常数. 公式$(2.20)$ 和 $A_{n}\rightarrow 0$ 蕴含着公式 $(2.19)$ 成立. 从而 $I$ 满足 $(PS)$ 条件.

本节我们将利用山路引理和Ekeland 变分原理证明问题 $(1.1)$ 存在两个非平凡的弱解 $u_{1}$ 和 $u_{2}$,分别满足$I(u_{1})>0$,$I(u_{2})<0$.

定理 1.1 的证明 首先,由引理 2.1,2.3 和 2.4 可知 $I$ 有一个非平凡的临界点,记为$u_{1}$. 根据弱解的定义,$u_{1}$ 是问题 $(1.1)$ 的一个弱解,且满足$I(u_{1})>0$.

下面我们将利用Ekeland变分原理(参见文献[5]) 证明问题 $(1.1)$ 存在另一个非平凡的弱解 $u_{2}$,且满足 $I(u_{2})<0$.

根据对$g$ 和 $h_{1}$ 的假设,若 $g=0$,我们取一个有界区域 $\Omega_{1}\subset \Omega$, 使得当 $x\in\Omega_{1}$ 时,$h_{1}(x)>0$. 并取函数 $\varphi \in C_{0}^{\infty}(\Omega_{1})$,且满足 $\varphi \geq 0$,$\varphi \neq 0$. 再将 $\varphi$ 以如下方式延拓成 $\Omega$上 的 $C_{0}^{\infty}$ 函数 $\varphi_{1}$: 当 $x\in \Omega_{1}$时,$\varphi_{1}=\varphi$; 当$x\in \Omega\backslash \overline{\Omega}_{1}$时,$\varphi_{1}(x)=0$. 这样,$\int h_{1}\varphi^{q} {\rm d}x>0$, 而且当 $t>0$ 时,

从而,当 $t$ 充分小 $(t>0)$ 时,$I(t\varphi_{1})<0$.

若 $g\neq0$,我们取一个有界区域 $\Omega_{2}\subset \Omega$,使得 $g(x)>0$, $x\in\Omega_{2}$. 并取函数 $\psi \in C_{0}^{\infty}(\Omega_{2})$,且满足 $\psi \geq 0$,$\psi \neq 0$. 再将 $\psi$ 以如下方式延拓成 $\Omega$ 上的 $C_{0}^{\infty}$ 函数 $\psi_{1}$: 当$x\in \Omega_{2}$时,$\psi_{1}=\psi$; 当$x\in \Omega\backslash \overline{\Omega}_{2}$时,$\psi_{1}(x)=0$. 这样,$\int g\psi_{1} {\rm d}x>0$, 而且当 $t>0$ 时,

从而,当 $t$ 充分小 $(t>0)$ 时,$I(t\psi_{1})<0$.

另一方面,由引理 $2.3$ 和其证明过程可知,在以原点为中心的开球 $B_{\rho}\subset X$ 上, $\mathop {\inf }\limits_{\partial {B_\rho }} I > 0$,而且

$$ I(u)\geq\frac{1}{2p}\|u\|_{X}^{p}-\lambda\alpha\|u\|_{X}^{q}-\beta\|u\|_{X}^{r}-C'\|g\|_{p'}^{p'}. $$

从而

取单调递减趋于零的数列 $\{\epsilon_n\}$,使其满足

则由 Ekeland 变分原理知,对于泛函 $I: \overline{B}_{\rho}\rightarrow {\Bbb R}$, 存在函数列 $v_{n}\in \overline{B}_{\rho} $,使得

注意到

$$I(v_{n})\leq\underline{}\inf_{\overline{B}_{\rho}}I+\epsilon_{n} \leq \underline{}\inf_{B_{\rho}}I+\epsilon_{n} <\underline{}\inf_{\partial{B_{\rho}}}I $$

表明 $v_{n}\in B_{\rho}$,而且公式 $(3.5)$ 蕴含着

在 $v_{n}$ 处取得极小值. 所以对于足够小的 $\theta>0$,

$$ \frac{F(v_{n}+\theta\phi)-F(v_{n})}{\theta}\geq0,\quad \forall \phi \in B_1. $$

从而,

$$ \frac{I(v_{n}+\theta\phi)-I(v_{n})}{\theta}+\epsilon_{n}\|\phi\|_{X}\geq0. $$

令 $\theta\rightarrow 0$,则有

将公式 $(3.7)$ 中的 $\phi$ 换成 $-\phi$,则有

这说明 $\|I'(v_{n})\|\leq\epsilon_{n}$.

因此存在一个序列 $\{v_{n}\}\in B_{\rho}$,使得 $I(v_{n})\rightarrow c_{\rho}$, $I'(v_{n})\rightarrow 0$. 由引理 2.4 可知,存在一个 $\{v_{n}\}$ 的子序列, 记为 $\{u_{n}\}$,和 $u_{2}\in X$,使得 $u_{n}\rightarrow u_{2}$,从而 $u_{2}$ 是泛函 $I$ 的临界点,且满足$I(u_{2})<0$. 这表明 $u_{2}$ 也是问题 $(1.1)$ 的非平凡弱解. 定理 1.1 证毕.