本文，我们考虑如下问题

(1.1) $\begin{equation}\label{eq:a1}-\sum\limits_{i=1}^{N}\frac{\partial}{\partial x_i}\left(|\triangledown u|^{p-2}\frac{\partial u}{\partial x_i}\right)-\mu\frac{|u|^{p-2}u}{|x|^p}=|u|^{p^*-2}u+\lambda g(x)\quad u\in{\cal D}^{1, p}(\mathbb{R} ^N).\end{equation}$

这里$N\geq 3, N>p\geq 2, 0\leq\mu < \bar\mu=\big(\frac{N-p}{p}\big)^p, \lambda\geq0 \mbox{为实参数}, g(x)\geq0$且$g(x)\not\equiv0.$

形如问题(1.1)非平凡解的存在性已经有许多研究^{[2-4, 6, 9-10]},在$\mathbb{R}^N$上, ${\cal D}^{1, p}(\mathbb{R}^N)\hookrightarrow L^{p^*}(\mathbb{R}^N)$紧性的消失使得寻求方程的解变得困难.当$p=2$时,文献[2, 9]分别研究了有界区域和无界区域上的半线性椭圆方程的非平凡解的存在性结果.在此之后, Abdellaoui等在文献[3]中研究了一类拟线性椭圆方程在有界区域和无界区域上解的存在性和非存在性结果.

为了研究问题(1.1)弱解的存在性,我们可以转化为研究与其相应变分泛函

(1.2) $\begin{equation}\label{eq:a2}I(u)=\frac{1}{p}\int_{\mathbb{R}^N}|\triangledown u|^p-\mu \frac{|u|^p}{|x|^p}\, {\rm d}x-\frac{1}{p^*}\int_{\mathbb{R}^N}|u|^{p^*}\, {\rm d}x-\int_{\mathbb{R}^N}\lambda g(x)u\, {\rm d}x\end{equation}$

临界点的存在性.

本文受文献[3]的启发,考虑泛函$I(u)$存在一个局部极小的临界点以及山路引理形式的另一个临界点,并运用第二集中紧致原理证明了两个临界点的可达性,从而得到如下主要结果.

定理1.1 若存在某个常数$C>0$,使得$\|g\|_*\leq C$,则问题(1.1)在${\cal D}^{1, p}(\mathbb{R}^N)$中至少存在两个非平凡解.

在本文中, $\|\cdot\| _s$表示$L^s(\mathbb{R}^N)$中的范数, ${\cal D}^{1, p}(\mathbb{R}^N)$表示$C^\infty(\mathbb{R}^N)$在范数$\|u\|=(\int_{\mathbb{R}^N}|\triangledown u|^p\, {\rm d}x)^\frac{1}{p}$下的完备空间, $\|\cdot\|_*$表示${\cal D}^{1, p}(\mathbb{R}^N)$的对偶空间中的范数, $C$表示各类常数.由文献[5],我们有著名的Hardy不等式

$\int_{\mathbb{R}^N}\frac{|u|^p}{|x|^p}\, {\rm d}x\leq \frac{1}{\bar\mu}\int_{\mathbb{R}^N}|\triangledown u|^p\, {\rm d}x, \quad\forall u\in{\cal D}^{1, p}(\mathbb{R}^N).$

从而可知范数$\|u\|$等价于$(\int_{\mathbb{R}^N}|\triangledown u|^p-\mu\frac{|u|^p}{|x|^p})^\frac{1}{p}.$更多的,泛函$I\in C^1({\cal D}^{1, p}(\mathbb{R}^N), \mathbb{R}^1)$.

定义如下Sobolev最佳嵌入常数

$S_\mu=\inf\limits_{u\in{\cal D}^{1, p}(\mathbb{R}^N)\setminus\{0\}} \frac{\int_{\mathbb{R}^N}|\triangledown u|^p-\mu \frac{|u|^p}{|x|^p}\, {\rm d}x}{\left(\int_{\mathbb{R}^N}|u|^{p^*}\, {\rm d}x\right)^\frac{p}{p^*}}. $

当$\mu=0$时, $S\triangleq S_0$为${\cal D}^{1, p}(\mathbb{R}^N)\hookrightarrow L^{p^*}(\mathbb{R}^N)$的最佳常数.由文献[8]可知, $S$的达到函数为

$U_\varepsilon(x)=k\frac{\varepsilon^\frac{N-p}{p^2-p}}{\left(\varepsilon^\frac{p}{p-1}+|x|^\frac{p}{p-1}\right)^\frac{N-p}{p}}. $

选取$k>0$使得$U_\varepsilon$满足如下方程

$-\sum\limits_{i=1}^{N}\frac{\partial}{\partial x_i}\left(|\triangledown u|^{p-2}\frac{\partial u}{\partial x_i}\right)=|u|^{p^*-2}u, \quad u\in{\cal D}^{1, p}(\mathbb{R}^N). $

从而有$\|\triangledown U_\varepsilon\|_p^p=\|U_\varepsilon\|_{p^*}^{p^*}=S^\frac{N}{p}.$

为了证明本文的主要结果,我们需要如下几个引理.

引理2.1 若$0 < \mu < \bar \mu, $则有$S_\mu < S$.

证  取光滑截断函数$\Phi(x)\in {\cal D}_+(\mathbb{R}^N), 0\leq\Phi(x)\leq1$,使得

$\mbox{当$|x|\leq\rho$时, }\quad\Phi(x)=1;\quad\mbox{当$|x|\geq2\rho$时, }\quad\Phi(x)=0.$

定义$u_\varepsilon=\Phi(x)U_\varepsilon(x).$容易证明当$\varepsilon\rightarrow 0$时, $u_\varepsilon(x)$满足如下估计

$\int_{\mathbb{R}^N}|\triangledown u_\varepsilon|\, {\rm d}x=S^\frac{N}{p}+O(\varepsilon^\frac{N-p}{p-1}), $

$\int_{\mathbb{R}^N}|u_\varepsilon|^{p^*}\, {\rm d}x=S^\frac{N}{p}+O(\varepsilon^\frac{N}{p-1}), $

$\int_{\mathbb{R}^N}\frac{|u_\varepsilon|^p}{|x|^p}\, {\rm d}x=K-O(\varepsilon^\frac{N-p}{p-1}), $

其中$K$为正常数.从而得到

$S_\mu\leq\frac{\int_{\mathbb{R}^N}|\triangledown u_\varepsilon|^p-\mu \frac{|u_\varepsilon|^p}{|x|^p}\, {\rm d}x}{\left(\int_{\mathbb{R}^N}|u_\varepsilon|^{p^*}\, {\rm d}x\right)^\frac{p}{p^*}}=\frac{S^\frac{N}{p}+O(\varepsilon^\frac{N-p}{p-1})-\mu\left(K-O(\varepsilon^\frac{N-p}{p-1})\right)}{\left(S^\frac{N}{p}+O(\varepsilon^\frac{N}{p-1})\right)^\frac{p}{p^*} }.$

令$\varepsilon\rightarrow 0, $则得到$S_\mu < S.$

引理2.2 若$\{u_n\}$是泛函$I$的$(PS)_c$序列,则存在$u_0\in{\cal D}^{1, p}(\mathbb{R}^N)$,使得$u_0$是问题(1.1)的一个弱解,且$c=I(u_0)$或$c>I(u_0)+\frac{1}{N}S_\mu^\frac{N}{p}$.

证  令$\{u_n\}\in{\cal D}^{1, p}(\mathbb{R}^N)$满足$I(u_n)\to c, I^{'}(u_n)\to 0.$即

(2.1) $\begin{equation}\label{eq:b1}I(u_n)=\frac{1}{p}\int_{\mathbb{R}^N}(|\triangledown u_n|^p-\mu\frac{|u_n|^p}{|x|^p}\, ){\rm d}x-\frac{1}{p^*}\int_{\mathbb{R}^N}|u_n|^{p^*}\, {\rm d}x-\int_{\mathbb{R}^N}\lambda g(x)u_n\, {\rm d}x=c+o(1). \end{equation}$

对任意$\varphi\in {\cal D}^{1, p}(\mathbb{R}^N)$,有

(2.2) $\begin{equation}\label{eq:b2}\int_{\mathbb{R}^N}\sum\limits_{i=1}^{N}|\triangledown u_n|^{p-2}\frac{\partial u_n}{\partial x_i}\frac{\partial\varphi}{\partial x_i}-\mu \frac{|u_n|^{p-2}u_n}{|x|^p}\varphi-|u_n|^{p^*-2}u_n\varphi-\lambda g(x)\varphi \, {\rm d}x=\langle \zeta_n, \varphi\rangle, \end{equation}$

其中当$n\to 0$时, $\zeta_n\rightarrow 0$.

在(2.2)式中取$\varphi=u_n$,结合(2.1)式可得

$\begin{eqnarray*}c+o(1)\|u_n\|\geq I(u_n)-\frac{1}{p^*}\langle I'(u_n), u_n\rangle\geq\left(\frac{1}{p}-\frac{1}{p^*}\right)\|u_n\|^p-\left(1-\frac{1}{p^*}\right)\lambda\|g\|_*\|u_n\|.\end{eqnarray*}$

从而$\{u_n\}$在${\cal D}^{1, p}(\mathbb{R}^N)$中有界.故存在子列仍记为$\{u_n\}$,使得

(2.3) $\begin{equation}\label{eq:b3}u_n\mathop{\rightharpoonup}\limits_nu_0\quad\mbox{在$D^{1, p}(\mathbb{R}^N)$中}, \end{equation}$

(2.4) $\begin{equation}\label{eq:b4}u_n\mathop{\rightarrow}\limits_{n}u_0\quad \mbox{a.e.在$\mathbb{R}^N$中}.\end{equation}$

又由Hardy不等式及$\{u_n\}$在${\cal D}^{1, p}(\mathbb{R}^N)$中的有界性得到

$|\triangledown u_n|^{p-2}\frac{\partial u_n}{\partial x_i}\rightharpoonup |\triangledown u_0|^{p-2}\frac{\partial u_0}{\partial x_i}\quad\mbox{在$L^\frac{p}{p-1}(\mathbb{R}^N)$中}, $

$\frac{|u_n|^{p-2}u_n}{|x|^{p-1}}\rightharpoonup\frac{|u_0|^{p-2}u_0}{|x|^{p-1}}\quad\mbox{在$L^\frac{p}{p-1}(\mathbb{R}^N)$中}, $

$u_n^{p^*-1}\rightharpoonup u_0^{p^*-1}\quad\mbox{在$L^\frac{p^*}{p^*-1}(\mathbb{R}^N)$中}.$

再结合(2.2)式有

(2.5) $\begin{equation}\label{eq:b5}\int_{\mathbb{R}^N}\sum\limits_{i=1}^{N}|\triangledown u_0|^{p-2}\frac{\partial u_0}{\partial x_i}\frac{\partial\varphi}{\partial x_i}-\mu \frac{|u_0|^{p-2}u_0}{|x|^p}\varphi-|u_0|^{p^*-2}u_0\varphi-\lambda g(x)\varphi \, {\rm d}x=0, \end{equation}$

即$u_0$是问题(2.1)的一个弱解.

记$v_n=u_n-u_0$,则$v_n\rightharpoonup 0$,由Brezis-Lieb引理^[1]得

(2.6) $\begin{eqnarray}\label{eq:b6}&&\int_{\mathbb{R}^N}|\triangledown u_n|^p\, {\rm d}x=\int_{\mathbb{R}^N}|\triangledown v_n|^p\, {\rm d}x+\int_{\mathbb{R}^N}|\triangledown u_0|^p\, {\rm d}x+o(1), \\&&\int_{\mathbb{R}^N}\frac{|u_n|^p}{|x|^p}\, {\rm d}x=\int_{\mathbb{R}^N}\frac{|v_n|^p}{|x|^p}\, {\rm d}x+\int_{\mathbb{R}^N}\frac{|u_0|^p}{|x|^p}\, {\rm d}x+o(1), \\&&\int_{\mathbb{R}^N}|u_n|^{p^*}\, {\rm d}x=\int_{\mathbb{R}^N}|v_n|^{p^*}\, {\rm d}x+\int_{\mathbb{R}^N}|u_0|^{p^*}\, {\rm d}x+o(1).\end{eqnarray}$

从而由(2.3)和(2.6)式有

(2.7) $\begin{equation}\label{eq:b7}I(u_n)=I(u_0)+\frac{1}{p}\int_{\mathbb{R}^N}|\triangledown v_n|^p-\mu\frac{|v_n|^p}{|x|^p}\, {\rm d}x-\frac{1}{p^*}\int_{\mathbb{R}^N}|v_n|^{p^*}\, {\rm d}x+o(1), \end{equation}$

$\begin{eqnarray*}\langle I'(u_n), u_n\rangle &=&\int_{\mathbb{R}^N}|\triangledown u_n|^p-\mu\frac{|u_n|^p}{|x|^p}\, {\rm d}x-\int_{\mathbb{R}^N}|u_n|^{p^*}\, {\rm d}x-\int_{\mathbb{R}^N}\lambda g(x)u_n\, {\rm d}x\nonumber\\&=&\langle I'(u_0), u_0\rangle +\int_{\mathbb{R}^N}|\triangledown v_n|^p-\mu\frac{|v_n|^p}{|x|^p}\, {\rm d}x-\int_{\mathbb{R}^N}|v_n|^{p^*}\, {\rm d}x+o(1).\end{eqnarray*}$

在(2.5)式中令$\varphi=u_0$,则有$ < I'(u_0), u_0>=0$,从而由上式得

$\lim\limits_{n\to\infty}\int_{\mathbb{R}^N}|\triangledown v_n|^p-\mu\frac{|v_n|^p}{|x|^p}\, {\rm d}x=\lim\limits_{n\to\infty}\int_{\mathbb{R}^N}|v_n|^{p^*}\, {\rm d}x.$

不妨记$b=\lim\limits_{n\to\infty}\int_{\mathbb{R}^N}|\triangledown v_n|^p-\mu\frac{|v_n|^p}{|x|^p}\, {\rm d}x=\lim\limits_{n\to\infty}\int_{\mathbb{R}^N}|v_n|^{p^*}\, {\rm d}x, $则$b\geq 0$.由$S_\mu$的定义可知

$S_\mu\left(\int_{\mathbb{R}^N}|v_n|^{p^*}\, {\rm d}x\right)^\frac{p}{p^*}\leq\int_{\mathbb{R}^N}|\triangledown v_n|^p-\mu\frac{|v_n|^p}{|x|^p}\, {\rm d}x=\int_{\mathbb{R}^N}|v_n|^{p^*}\, {\rm d}x+o(1), $

从而$S_\mu b^\frac{p}{p^*}\leq b, $即$S_\mu^\frac{N}{p}\leq b.$若$b=0$,则在${\cal D}^{1, p}(\mathbb{R}^N)$中$u_n\rightarrow u_0$,且$I(u_0)=c$.若$b>0$,则由(2.7)式得到

$c=I(u_0)+\left(\frac{1}{p}-\frac{1}{p^*}\right)b\geq I(u_0)+\frac{1}{N}S_\mu^\frac{N}{p}.$

从而引理得证.

引理2.3 定义

${\cal A}=\left\{u\in{\cal D}^{1, p}(\mathbb{R}^N)|\int_{\mathbb{R}^N}|u|^{p^*}\, {\rm d}x=1 \right\}, \quadJ(u)=\int_{\mathbb{R}^N}|\triangledown u|^p-\mu\frac{|u|^p}{|x|^p}\, {\rm d}x.$

则$\mathop {\inf }\limits_{u \in \cal A} J(u)$极小可达,即存在$v\in{\cal A}, $使得$S_\mu=J(v), \mbox{且}\|v\|_{p^*}=1.$

证 令$\{u_n\}$是$S_\mu$的一个极小化序列,即$ \lim\limits_{n\to\infty}J(u_n)=S_\mu, \|u_n\|_{p^*}^{p^*}=1. $定义集中函数

$Q_n(t)=\sup\limits_{y\in \mathbb{R}^N}\int_{B(y, t)}|u_n|^{p^*}\, {\rm d}x.$

则对任意$n\in N_+$,有

(2.8) $\begin{equation}\label{eq:b8} \lim\limits_{t\to 0^+}Q_n(t)=0, \quad \lim\limits_{t\to\infty}Q_n(t)=1.\end{equation}$

则存在$t_n>0$,使得$Q_n(t_n)=\frac{1}{2}.$更多的,存在$y_n\in \mathbb{R}^N$,使得

(2.9) $\begin{equation}\label{eq:b9} \int_{B(y_n, t_n)}|u_n|^{p^*}\, {\rm d}x=Q_n(t_n)=\frac{1}{2}.\end{equation}$

定义$v_n=t_n^{(N-p)/p}u_n(t_nx+y_n), $则$\{v_n\}$也是$S_\mu$的一个极小化序列,并且满足

(2.10) $\begin{equation}\label{eq:b10} \int_{B(0, 1)}|v_n|^{p^*}\, {\rm d}x=\sup\limits_{y\in \mathbb{R}^N}\int_{B(y, 1)}|v_n|^{p^*}\, {\rm d}x=\frac{1}{2}.\end{equation}$

由Hardy不等式易证$\{v_n\}$在${\cal D}^{1, p}(\mathbb{R}^N)$中有界,因此存在子列仍记为$\{v_n\}$使得在${\cal D}^{1, p}(\mathbb{R}^N)$中$v_n\rightharpoonup v.$

假定存在非零测度$\omega, \nu, \gamma$,使得当$n\rightarrow \infty$时,有

$|\triangledown v_n|\rightharpoonup \omega, |v_n|^{p^*}\rightharpoonup \nu, \frac{|v_n|^p}{|x|^p}\rightharpoonup \gamma.$

由Lions^[7]的第二集中紧致原理可知,存在至多可数指标集${\cal J}$以及$\{x_j\}_{j\in{\cal J}}, \{\omega_j\}_{j\in{\cal J}}\subset(0, +\infty)$, $\{\nu_j\}_{j\in{\cal J}}\subset(0, +\infty)$,适合

(1)  $\omega\geq|\triangledown v|^p+\sum\limits_{j\in{\cal J}}\omega_j\delta_{x_j}+\omega_0\delta_0+\omega_\infty\delta_\infty; $

(2)  $\nu=|v|^{p^*}+\sum\limits_{j\in{\cal J}}\nu_j\delta_{x_j}+\nu_0\delta_0+\nu_\infty\delta_\infty; $

(3)  $\gamma=\frac{|v|^p}{|x|^p}+\gamma_0\delta_0+\gamma_\infty\delta_\infty; $

(4)  $S\nu_j^\frac{p}{p^*}\leq\omega_j.$

其中

$\omega_\infty=\lim\limits_{R\to\infty}\overline{\lim\limits_{n\to\infty}}\int_{|x|>R}|\triangledown v_n|^p\, {\rm d}x, \quad\nu_\infty=\lim\limits_{R\to\infty}\overline{\lim\limits_{n\to\infty}}\int_{|x|>R}|v_n|^{p^*}\, {\rm d}x, $

$\gamma_\infty=\lim\limits_{R\to\infty}\overline{\lim\limits_{n\to\infty}}\int_{|x|>R}\frac{|v_n|^p}{|x|^p}\, {\rm d}x.$

取光滑函数$\phi$使得$0\leq\phi(x)\leq1, |\triangledown\phi|\leq\frac{4}{R}, $且

$\phi(x)=\left\{\begin{array}{ll} 1, \quad\mbox{当$|x|>R+1$时};\\ 0, \quad\mbox{当$|x|<R$时}.\end{array}\right.$

由$S_\mu$的定义知

(2.11) $\begin{equation}\label{eq:b11} \int_{\mathbb{R}^N}|\phi\triangledown v_n+v_n\triangledown\phi|^p\, {\rm d}x\geq\mu \int_{\mathbb{R}^N}\frac{|v_n\phi|^p}{|x|^p}\, {\rm d}x+S_\mu\left( \int_{\mathbb{R}^N}|v_n\phi|^{p^*} \right)^\frac{p}{p^*}.\end{equation}$

由Hölder不等式得到

$\begin{eqnarray*}&&\overline{\lim\limits_{n\to\infty}}\int_{\mathbb{R}^N}|v_n|\phi^{p-1}|\triangledown v_n|^{p-1}|\triangledown\phi|\, {\rm d}x\\&\leq&\left(\int_{R<|x|<R+1}|v_n|^p|\triangledown\phi|^p\right)^\frac{1}{p}\left(\int_{R<|x|<R+1}|\triangledown v_n|^p\right)^\frac{p-1}{p}\\&\leq&C\left(\int_{R<|x|<R+1}|v|^p|\triangledown\phi|^p\right)^\frac{1}{p}\leq C\left(\int_{R<|x|<R+1}|v|^{p^*}\right)^\frac{1}{p^*}\left(\int_{R<|x|<R+1}|\triangledown \phi|^N\right)^\frac{1}{N}.\\\end{eqnarray*}$

从而

(2.12) $\begin{equation}\label{eq:b12} \lim\limits_{R\to\infty}\overline{\lim\limits_{n\to\infty}}\int_{\mathbb{R}^N}|v_n|\phi^{p-1}|\triangledown v_n|^{p-1}|\triangledown\phi|\, {\rm d}x=0.\end{equation}$

同理

(2.13) $\begin{equation}\label{eq:b13} \lim\limits_{R\to\infty}\overline{\lim\limits_{n\to\infty}}\int_{\mathbb{R}^N}|v_n|^p|\triangledown\phi|^p\, {\rm d}x=0.\end{equation}$

因为$\left||\phi\triangledown v_n+v_n\triangledown\phi|^p-\phi^p|\triangledown v_n|^p\right|\leq C\left(|\phi\triangledown v_n|^{p-1}|v_n\triangledown\phi|+|v_n\triangledown \phi|^p\right)$,从而得到

(2.14) $\begin{equation}\label{eq:b14} \lim\limits_{R\to\infty}\overline{\lim\limits_{n\to\infty}}\int_{\mathbb{R}^N}|\phi\triangledown v_n+v_n\triangledown\phi|^p-\phi^p|\triangledown v_n|^p\, {\rm d}x=0.\end{equation}$

结合(2.11)和(2.14)式得到

$\begin{eqnarray*} \lim\limits_{R\to\infty}\overline{\lim\limits_{n\to\infty}}\int_{|x|\geq R}|\triangledown v_n|^p\, {\rm d}x\geq\lim\limits_{R\to\infty}\overline{\lim\limits_{n\to\infty}}\left\{\int_{|x|>R+1}\frac{|v_n|^p}{|x|^p}\, {\rm d}x+S_\mu\left(\int_{|x|>R+1}|v_n|^{p^*}\, {\rm d}x\right)^\frac{p}{p^*}\right\}.\end{eqnarray*}$

从而

(2.15) $\begin{equation}\label{eq:b15}\omega_\infty\geq\mu\gamma_\infty+S_\mu\nu_\infty^\frac{p}{p^*}.\end{equation}$

同理可证

(2.16) $\begin{equation}\label{eq:b16}\omega_0\geq\mu\gamma_0+S_\mu\nu_0^\frac{p}{p^*}.\end{equation}$

由性质(4)及引理2.1有$S_\mu \nu_j^\frac{p}{p^*}\leq \omega_j.$又因为$\{v_n\}$是$S_\mu$的一个极小化序列,再结合性质(1)--(4), (2.15)和(2.16)式可以得到

(2.17) $\begin{equation}\label{eq:17}\int_{\mathbb{R}^N}|v|^{p^*}\, {\rm d}x+\sum\limits_{j\in{\cal J}}\nu_j+\nu_0+\nu_\infty=1, \end{equation}$

(2.18) $\begin{equation}\label{eq:18}\left(\int_{\mathbb{R}^N}|v|^{p^*}\, {\rm d}x\right)^\frac{p}{p^*}+\sum\limits_{j\in{\cal J}}\nu_j^\frac{p}{p^*}+\nu_0^\frac{p}{p^*}+\nu_\infty^\frac{p}{p^*}\leq 1.\end{equation}$

从而$\|v\|_{p^*}^{p^*}, \nu_j, \nu_0, \nu_\infty$只能取0或1.由(2.8)及(2.10)式可知$\nu_0=0, \nu_\infty=0.$如果存在$j'\in{\cal J}, $使得$\nu_{j'}=1, $则对任意$j\in{\cal J}\setminus\{j'\}$,有$\nu_j=0$且$\|v\|_{p^*}^{p^*}=0$,从而$v=0.$又由性质(2)知

$\int_{\mathbb{R}^N}|v_n|^{p^*}\, {\rm d}x=\nu_{j'}, $

即$\nu$集中在一个单点$x_{j'}$.从而

$\begin{eqnarray*} \frac{1}{2}=\sup\limits_{y\in \mathbb{R}^N}\int_{B(y, 1)}|v_n|^{p^*}\, {\rm d}x\geq\int_{B(x_{j'}, 1)}|v_n|^{p^*}\, {\rm d}x=\int_{\mathbb{R}^N}|v_n|^{p^*}\, {\rm d}x=1, \end{eqnarray*}$

上式显然是矛盾的.故$\|v\|_{p^*}^{p^*}=1.$从而$v\in {\cal A}, S_\mu\leq J(v).$另结合弱下半连续性得到$J(v)=S_\mu.$引理得证.

在这一部分,我们将给出主要结果的证明.定义

$\overline{B_R}=\{u\in{\cal D}^{1, p}(\mathbb{R}^N): \|u\|\leq R\}, \;\;\;I_0=\inf\limits_{u\in\overline{B_R}}I(u).$

定理3.1 假设$g(x)\geq 0, g(x)\not\equiv0, $且存在常数$C>0$,当$\|g\|_*\leq C$.则

(ⅰ)存在$\delta>0, $使得当$u\in\partial\overline{B_R}$时, $I(u)\geq\delta\|u\|^p.$

(ⅱ)存在$u_0\in{\cal D}^{1, p}(\mathbb{R}^N)$,使得$I(u_0)=I_0 < 0, $且$u_0$是问题(1.1)的解.

证  对任意的$u\in {\cal D}^{1, p}(\mathbb{R}^N)$,由Sobolev嵌入有

$\begin{eqnarray*}I(u)&\geq&\frac{1}{p}\|u\|^p-\frac{C}{p^*}\|u\|^{p^*}-\lambda\|h\|_*\|u\|\\&=&\frac{1}{p}\|u\|\left[\|u\|^{p-1}\left(1-C\frac{p}{p^*}\|u\|^{p^*-p}\right)-p\lambda\|h\|_*\right].\end{eqnarray*}$

选取适当的$R>0$和$\widetilde{C}>0$,当$\|u\|=R$时,有

$1-C\frac{p}{p^*}R^{p^*-p}\geq\frac{1}{2}, \;\;\; p\lambda\|h\|_*\leq\widetilde{C}<\frac{R^{p-1}}{4}.$

则当$R$适当小时,存在$\delta>0, $使得

(3.1) $\begin{equation}\label{eq:c1} I(u)\geq\delta\|u\|^p.\end{equation}$

故(ⅰ)得证.

当$u>0$时,有

$I(tu)=\frac{t^p}{p}\int_{\mathbb{R}^N}|\triangledown u|^p-\mu\frac{|u|^p}{|x|^p}\, {\rm d}x-\frac{t^{p^*}}{p^*}\int_{\mathbb{R}^N}|u|^{p^*}\, {\rm d}x-t\int_{\mathbb{R}^N}\lambda g(x)u\, {\rm d}x, $

$\frac{{\rm d}I(tu)}{{\rm d}t}=t^{p-1}\int_{\mathbb{R}^N}|\triangledown u|^p-\mu\frac{|u|^p}{|x|^p}\, {\rm d}x-t^{p^*-1}\int_{\mathbb{R}^N}|u|^{p^*}\, {\rm d}x-\int_{\mathbb{R}^N}\lambda g(x)u\, {\rm d}x.$

由上式知,存在常数$\bar t>0$,当$0 < t < \bar t$时,有$\frac{{\rm d}I(tu)}{{\rm d}t} < 0.$故当$t\in (0, \bar t)$时, $I(tu)$是关于$t$的减函数.因为$I(0)=0, $所以存在$R>0$及$\bar u\in\overline{B_R}, $适合

(3.2) $\begin{equation}\label{eq:c2}I(\bar u)<0, \quad I_0=\inf\limits_{u\in\overline{B_R}}I(u)<0.\end{equation}$

由(3.1)式知, $I(u)$在$\overline{B_R}$中有下界,且当$\|u\|\rightarrow\infty$时, $I(u)\rightarrow\infty$.因为${\cal D}^{1, p}(\mathbb{R}^N)$是一个自反的Banach空间,且$\overline{B_R}$是${\cal D}^{1, p}(\mathbb{R}^N)$的一个凸闭子集,再结合$I(u)$的弱下半连续性,从而存在$u_0\in\overline{B_R}, $使得$I(u_0)=I_0, $$I^{'}(u_0)=0, $即$u_0$为问题(1.1)的一个解.

定义

(3.3) $\begin{equation}\label{eq:c3}\Gamma=\{\gamma\in C\left([0, 1], {\cal D}^{1, p}(\mathbb{R}^N)\right):\gamma(0)=0, \gamma(1)=t_0\bar u\}, \end{equation}$

(3.4) $\begin{equation}\label{eq:c4}c=\inf\limits_{\gamma\in\Gamma}\sup\limits_{u\in\gamma}I(u).\end{equation}$

定理3.2 假设$g(x)\geq 0, g(x)\not\equiv0, $且存在常数$C>0$,使得$\|g\|_*\leq C$,则$c < I_0+\frac{1}{N}S_\mu^\frac{N}{p}.$其中$I_0=I(u_0)=\inf\limits_{u\in\overline{B_R}}I(u).$

证 由引理2.3知$S_\mu$极小可达,令$\bar u>0$是$S_\mu$的达到函数,不防令$\int_{\mathbb{R}^N}|\bar u|^{p^*}\, {\rm d}x=1$,则

$S_\mu=\int_{\mathbb{R}^N}|\triangledown \bar u|^p-\mu\frac{|\bar u|^p}{|x|^p}\, {\rm d}x.$

记

$f(t)=\frac{t^p}{p}\int_{\mathbb{R}^N}|\triangledown \bar u|^p-\mu\frac{|\bar u|^p}{|x|^p}\, {\rm d}x-\frac{t^{p^*}}{p^*}\int_{\mathbb{R}^N}|\bar u|^{p^*}\, {\rm d}x-t\int_{\mathbb{R}^N}\lambda g(x)\bar u\, {\rm d}x, $

$ \bar f(t)=\frac{t^p}{p}\int_{\mathbb{R}^N}|\triangledown \bar u|^p-\mu\frac{|\bar u|^p}{|x|^p}\, {\rm d}x-\frac{t^{p^*}}{p^*}\int_{\mathbb{R}^N}|\bar u|^{p^*}\, {\rm d}x.$

由于当$t\rightarrow +\infty$时, $f(t)\rightarrow -\infty, $故存在$t_0>0, $使得$\mathop {\sup }\limits_{t \ge 0} f(t) = f({t_0})$,且$f'(t_0)=0$.从而

$\begin{eqnarray*}0&=&t_0^{p-1}\|\bar u\|^p-t_0^{p^*-1}\int_{\mathbb{R}^N}|\bar u|^{p^*}\, {\rm d}x-t_0\int_{\mathbb{R}^N}\lambda g(x)\bar u\, {\rm d}x\\&\leq&t_0^{p-1}\|\bar u\|^p-t_0^{p^*-1}, \end{eqnarray*}$

由上式我们得到$t_0\leq \|\bar u\|^\frac{N}{p}=S_\mu^\frac{N}{p}.$另一方面,由定理3.1可知,存在$\beta>0, $使得$f(t_0)\geq\beta.$故

$0<\beta\leq f(t_0)\leq\frac{t_0^p}{p}\|\bar u\|^p=\frac{t_0^p}{p}S_\mu^p, $

由此得到存在常数$C_1, C_2>0, $使得$C_1\leq t_0\leq C_2.$

不妨令

$\bar f(t)=\frac{t^p}{p}A_1-\frac{t^{p^*}}{p^*}A_2.$

通过计算容易得到

$\bar f(t)_{\max}=\frac{1}{N}A_1^\frac{N}{p}A_2^{-\frac{p}{p^*-p}}.$

从而

$\sup\limits_{t\geq 0}\bar f(t)=\frac{1}{N}\left\{\frac{\int_{\mathbb{R}^N}|\triangledown \bar u|^p-\mu \frac{|\bar u|^p}{|x|^p}\, {\rm d}x}{\left(\int_{\mathbb{R}^N}|\bar u|^{p^*}\, {\rm d}x\right)^\frac{p}{p^*}}\right\}^\frac{N}{p}=\frac{1}{N}S_\mu^\frac{N}{p}.$

故

$\begin{eqnarray*}f(t_0)&=&\bar f(t_0)-t_0\int_{\mathbb{R}^N}\lambda g(x)\bar u\, {\rm d}x\leq\sup\limits_{t\geq 0}\bar f(t)-C_1\int_{\mathbb{R}^N}\lambda g(x)\bar u\, {\rm d}x\\&\leq&\frac{1}{N}S_\mu^\frac{N}{p}-C_1\int_{\mathbb{R}^N}\lambda g(x)\bar u\, {\rm d}x.\end{eqnarray*}$

由Sobolev嵌入不等式可知

$\begin{eqnarray*}|I(u_0)|&\leq&\frac{1}{p}\|u_0\|^p+\frac{C_3}{p^*}\|u_0\|^{p^*}+\lambda\|g\|_*\|u_0\|\\&\leq&\frac{1}{p}\|u_0\|^p+\frac{C_3}{p^*}\|u_0\|^{p^*}+\lambda C_4\|u_0\|.\end{eqnarray*}$

由$I_0$的定义可知当$R\rightarrow 0$时, $I_0\rightarrow 0$,结合$\int_{\mathbb{R}^N}\lambda g(x)\bar u\, {\rm d}x>0, $得到存在适当的$R>0, $使得

(3.5) $\begin{equation}\label{eq:c5}|I_0|<C_1\int_{\mathbb{R}^N}\lambda g(x)\bar u\, {\rm d}x.\end{equation}$

因此得到$\sup\limits_{t\geq 0}I(t\bar u)=\sup\limits_{t\geq 0} f(t)=f(t_0) < I_0+\frac{1}{N}S_\mu^\frac{N}{p}.$

定理1.1的证明 一方面,由定理3.1可知,问题(1.1)在${\cal D}^{1, p}(\mathbb{R}^N)$中存在非平凡解$u_0$;另一方面,由定理3.1及山路引理可知,存在泛函$I$的一个$(PS)_c$序列$\{u_n\}$.另由引理2.2及定理3.2,存在$u_1\in {\cal D}^{1, p}(\mathbb{R}^N)$及子列仍记为$\{u_n\}$在${\cal D}^{1, p}(\mathbb{R}^N)$中强收敛到$u_1$,从而

$I(u_n)\rightarrow c, I'(u_n)\rightarrow0.$

故$I'(u_1)=0$,即$u_1$是问题(1.1)的一个弱解.因为$I(u_1)=c>0>I_0, $故$u_0$和$u_1$是问题(1.1)的两个不同的非平凡解.从而完成定理1.1的证明.