设 $g:\mathbb{R}\rightarrow \mathbb{R}^{+}$ 是 $C^{1}$ 函数, 考虑如下的椭圆型方程

其中 $\Omega\subset \mathbb{R}^{N}$, $N\geq3$ 为有界光滑区域, $\lambda>0$ 为参数, $0<\alpha<\frac{p}{N}$, $1<p<N$, $p^{*}=\frac{Np}{N-p}$ 为 Sobolev 嵌入 $W_{0}^{1,p}(\Omega)\hookrightarrow L^{r}(\Omega)$ 的临界指数.

方程 (1.1) 与如下的拟线性薛定谔方程相关

其中 $z:\mathbb{R}\times {\mathbb{R}^{N}} \to \mathbb{C}$, $W: {\mathbb{R}^{N}} \to \mathbb{R}$是给定的位势函数, $l$, $\rho$ 是实函数. 方程 (1.2) 具有丰富的物理背景. 当 $l(s)=s$ 时, 方程用于描述等离子体物理学中的超流体膜方程^[13], 当 $l(s) = (1+s)^{1/2}$ 时, 方程表示物质中的高能量超短激光方程^[14]. 此外, 对应于不同类型的 $l$ 函数, 此类方程也出现于流体力学、耗散量子力学、海森堡铁磁性理论、磁振子理论和高分子物理理论等学科之中^[5,12].

如果考虑方程 (1.2) 的形如 $z(x,t)=\exp(-{\rm i}et)u(x)$ 的驻波解, 则可得到拟线性椭圆型方程

其中 $V(x)=W(x)-e$ 是新的位势函数.

方程 (1.3) 最近得到了很多的研究. 例如, 当 $l(s) = s$ 时, 对于非线性项 $\rho(u^2)u$ 为次临界增长的情形, 可参见文献 [1,2,6,8,18,19,21], 对于 $\rho(u^2)u$ 为临界增长情形, 可参见文献 [17,24⇓⇓-27].

方程 (1.3) 可推广到更一般的情形. 沈尧天和王友军在文献 [23] 讨论了方程

解的存在性. 如果令

则方程 (1.4) 就化为方程 (1.3). 可见, 方程 (1.4) 可包括多种不同情形的 $l$ 函数. 对于此类方程的讨论, 可参考文献 [9,10,23].

由于关于 $u$ 的函数 $g$ 存在于方程的主部算子中, 方程对应的能量泛函可能不是 $C^{1}$ 的, 并且可能只是下半连续的. 对于此种类型的拟线性椭圆型方程, 经典的临界点理论不能直接应用. 对于方程 (1.1), 如果 $g(t)$ 关于 $t$ 有正的上界和下界, 对应的能量泛函

关于 $u\in W_{0}^{1,p}(\Omega)$ 是连续的, 但并不 Fréchet 可导, 而只对于某些方向 $\varphi\in W_{0}^{1,p}(\Omega)\cap L^{\infty}(\Omega)$ Gâteaux 可微, 其导数为,

对于此类问题, 可以利用 Degiovanni 的非光滑泛函的临界点定理^[7]来研究其解的存在性.

本文考虑函数 $g$ 关于自变量 $t$ 是偶函数, 并且关于 $t>0$ 是单调递减的问题. 例如, 假设 $g(t)=\frac{1}{(1+|t|)^{\alpha}}$, 则方程 (1.1) 具体写出来为

当 $\Omega\subset{\mathbb{R}^N}$ 为有界光滑区域且 $p=2$ 时, 对此方程的解的存在性研究可参见文献 [3,16,22].

对于 $g(t)$ 关于 $t$ 递减, 且出现 $g(\infty)=0$ 的问题, 此时泛函 $I$ 失去了山路几何结构, 即使利用非光滑泛函理论, 也难以讨论方程解的存在性. 为了克服此困难, 可利用文献 [22] 的变量代换的方法, 把方程转化为半线性问题, 进一步讨论其解的存在性. 具体来说, 定义

则 $G$ 是 $C^{1}$ 的, 并且可逆. 记其逆为 $u=G^{-1}(v)$, 把它代入泛函 $I$, 则可得到关于 $v$ 的泛函 $J$

对于此泛函 $J$, 其主部算子是 $C^{1}$ 的. 对 $v\in W_{0}^{1,p}(\Omega)$, 其方向导数为

假若 $v\in W_{0}^{1,p}(\Omega)$ 使得 $J{'}(v)\psi=0$, $\forall\psi\in W_{0}^{1,p}(\Omega)$, 则称 $v$ 为方程

的弱解. 由于原方程的非线性项 $\tilde{f}(u)\triangleq\lambda|u|^{p-2}u+|u|^{p^{*}(1-\alpha)-2}u$ 经变换之后成为 $f(v)$, 故方程(1.6) 的解与经典的半线性方程 $-\triangle_{p}u=\tilde{f}(u)$ 有很大的变化和区别.

记

当 $\lambda<\lambda_1$ 时, 容易证明方程存在着山路解. 我们感兴趣的是, 对于方程 (1.6), 当参数 $\lambda\geq\lambda_{1}$ 时, 是否也存在弱解? 对于此问题, 存在着两方面的困难. 一方面, 注意到泛函 $J$ 在 $\lambda\geq\lambda_{1}$ 时, 其山路几何结构依旧受到破坏, 所以还是不能用山路定理来讨论其解的存在性. 这是本文研究的第一个困难. 对这一困难, 其解决方法是利用环绕定理来代替山路定理. 然而, 基于空间分解的经典的环绕定理对于 $p$-Laplace ($p\neq2$) 算子并不适用, 这是因为 $W_{0}^{1,p}(\Omega)$ 与 $H_{0}^{1}(\Omega)$ 不同, 它并不是 Hilbert 空间, 不具有内积, 空间分解存在困难. 为此, 我们利用 Deginvanni 在文献 [7] 中的环绕方法, 其原理是利用对称锥代替子空间, 来进行空间分解. 对于泛函 $J$, 分析锥的环绕结构将比线性空间复杂很多. 另一方面, 由文献 [16] 的分析可知, 方程中非线性项的指数 $p^*(1-\alpha)$ 对于主部算子来说, 起到了临界指数的影响, 这意味着对于方程, 此时非线性项相当于是临界增长的, 这为证明 $(PS)$ 序列的紧性带来了很大的困难.

对于单调下降的 $g(t)$, 作了变换之后 $u=G^{-1}(v)$, 则对于有限维锥$X_{-}$ (见后文定义), 有 $G^{-1}:X_{-}\rightarrow X_{-}$. 值得注意的是, 对于有界函数 $g(t)$, 可对 $X_{-}$ 作适当的变化也可得到类似结论, 但对于无界的 $g(t)$, 此结果不成立, 因此无法利用环绕定理. 这是此类型研究中尚未解决的问题.

本文假设 $g:\mathbb{R}\rightarrow \mathbb{R}^{+}$ 是 $C^{1}$ 的, 并满足

(g$_{1}$) $g(t)$ 是关于 $|t|$ 是递减的, $g(t)=g(-t)$, $g(0)=1$;

(g$_{2}$) 存在 $\alpha>0$, 使得 $\lim\limits_{|t|\rightarrow\infty} |t|^{\alpha}g(t)\triangleq g_{\infty}>0$;

(g$_{3}$) 对于 (g$_{2})$ 所给定的 $\alpha$, 有 $-\alpha\leq\frac{g{'}(t)t} {g(t)}\leq0$, $\forall t\in \mathbb{R}$.

在下文中, 记 $M=\frac{1-\alpha}{g_{\infty}}$, $\sigma(-\Delta_p)$ 为算子 $-\Delta_p$ 的谱. 首先, 对于方程 (1.1), 有如下结果.

定理 1.1 假设 $0<\alpha<\frac{p}{N}$ 且如下之一的条件成立,

(i) $\Omega$ 具有 $C^{1,\bar{\alpha}}$ 边界, $\bar{\alpha} \in (0,1)$, 且 $N$ 和 $p$ 满足

(ii) $N$ 和 $p$ 满足

(iii) $\lambda\notin\{\lambda_{k}:k\geq1\}=\sigma(-\Delta_p)$ 且 $N$ 和 $p$ 满足

则对于任意的 $\lambda\geq\lambda_{1}$, 方程 (1.1) 存在非平凡解.

在上述定理中, 条件 (i) 和 (ii) 中 $\lambda\geq\lambda_1$, 而条件 (iii) 要求 $\lambda>\lambda_1$.

接下来考虑更一般的非线性项的问题. 设 $p(1-\alpha)\leq q\leq p$, 考虑方程

解的存在性. 通过类似的变换, 其对应的半线性方程为

在下文中, 记 $\gamma= q/p(1-\alpha)$, 则有 $\gamma\in [\frac{1}{1-\alpha}]$.

定理 1.2 设 $0<\alpha< \min{\big\{\frac{p}{N},\frac{1}{p}\big\}}$, $p(1-\alpha)\leq q\leq p$ 且如下之一的条件成立,

(i) $\Omega$ 具有 $C^{1,\bar{\alpha}}$ 边界, $\bar{\alpha} \in (0,1)$, $N$ 和 $p$ 满足

(ii) $N$ 和 $p$ 满足

(iii) $\lambda\notin\{M^{\frac{q-p}{\alpha}}\lambda_{k}:k\geq1\}$, 且 $N$ 和 $p$ 满足

则对于任意的 $\lambda\geq M^{\frac{q-p}{\alpha}}\lambda_{1}$, 方程 (1.10) 存在非平凡解.

利用不同的估算方法, 也可得到如下结论.

定理 1.3 设 $0<\alpha< \min{\big\{\frac{p}{N},\frac{1}{p}\big\}}$, $p(1-\alpha)\leq q\leq p$, 且如下之一的条件成立:

(i) $\Omega$ 具有 $C^{1,\bar{\alpha}}$ 边界, $\bar{\alpha} \in (0,1)$, 且 $N$ 和 $p$ 满足

(ii) $N$ 和 $p$ 满足

则对任意的 $\lambda\geq M^{\frac{q-p}{\alpha}}\lambda_{1}$, 方程 (1.10) 存在非平凡弱解.

在定理 1.2 和 1.3 中, 取 $\gamma=1$, 则可得到定理 1.1 的不等式条件. 因此, 有

定理 1.4 设 $0<\alpha< \min{\big\{\frac{p}{N},\frac{1}{p}\big\}}$, $p(1-\alpha)\leq q\leq p$ 且如下之一的条件成立,

(i) $\Omega$ 具有 $C^{1,\bar{\alpha}}$ 边界, $\bar{\alpha} \in (0,1)$, 且 $N$ 和 $p$ 满足

(ii) $N$ 和 $p$ 满足

(iii) $\lambda\notin\{M^{\frac{q-p}{\alpha}}\lambda_{k}:k\geq1\}$ 且 $N$ 和 $p$ 满足

则对任意的 $p(1-\alpha)<q\leq p$, $\lambda\geq M^{\frac{q-p}{\alpha}}\lambda_{1}$, 方程 (1.10) 存在非平凡解.

注 1.1 在文献 [7] 中, Degiovanni 和 Lancelotti 对半线性方程 $-\triangle_{p}u=\tilde{f}(u)$ 证明了类似于定理 1.1 的结果.

注 1.2 为了和文献 [7] 的结果有比较明了的对比, 定理 1.1 的条件中, 忽略了参数 $\alpha$ 对 $p$ 和 $n$ 的影响, 这也使得了定理 1.1 的条件更简单. 另外, 由于参数 $\alpha$ 的影响, 定理 1.1 的条件 (i) 和 (ii) 中的不等式可以取等号, 这是与文献 [7] 的一个明显区别.

作为一个较为具体的例子, 下面考虑类似 Boccardo 在文献 [3] 中的退化算子问题, 即考虑如下方程

此时根据定理 1.1, 可得到如下结果

定理 1.5 在定理 1.1 的条件下, 当 $\lambda\geq\lambda_{1}$ 时, 方程 (1.2) 存在非平凡弱解.

证 对方程 (1.12), 易知有 $g(u)=(1+|u|)^{-\alpha}$. 容易验证, 此时 $g(u)$ 满足条件 (g$_{1})$-(g$_{3})$, 从而由定理 1.1 可知, 方程 (1.12) 存在非平凡弱解.

在本文中, 记 $\|u\|=(\int_{\Omega}|\nabla u|^{p}{\rm d}x)^{1/p}$ 为 $u\in W_{0}^{1,p}(\Omega)$ 的范数, $\|u\|_{q}=(\int_{\Omega}|u|^{q}{\rm d}x)^{1/q}$ 为 $u\in L^{q}(\Omega)$ 的范数, $B_{\rho}(x)$ 为中心在 $x$, 半径为 $\rho$ 的开球. $C, C_1, C_2, \cdots$ 等表示非负的常数.

在本节, 作为准备工作, 将证明一些引理, 并介绍研究问题所需要的变分框架. 首先, 根据文献 [16], 函数 $G^{-1}(t)$ 具有如下一些性质.

引理 2.1 在 (g$_1$)-(g$_3$) 条件下, 函数 $G^{-1}(t)$ 具有如下的性质,

(1) $G^{-1}(t)$ 是关于 $t$ 是奇函数, 递增的, 并且当 $t>0$ 时是凸的;

(2) $(G^{-1}(t)){'}\geq 1$;

(3) $|G^{-1}(t)|\geq |t|$;

(4) $\lim\limits_{t\rightarrow0}\frac{G^{-1}(t)}{t}=1$;

(5) $(1-\alpha)G^{-1}(t)^{2}g(G^{-1}(t))\leq(1-\alpha)G^{-1}(t)t\leq G^{-1}(t)^{2}g(G^{-1}(t))$;

(6) $\lim\limits_{t\rightarrow\infty}\frac{|G^{-1}(t)|^{1-\alpha}}{|t|} =\frac{1-\alpha}{g_{\infty}}$;

(7) $|G^{-1}(t)|\leq C(|t|+|t|^{\frac{1}{1-\alpha}})$;

(8) $\lim\limits_{|t|\rightarrow\infty}\frac{G^{-1}(t)g(G^{-1}(t))}{|t|} =1-\alpha$.

引理 2.2 记 $M=\frac{1-\alpha}{g_{\infty}}$, 则 $|G^{-1}(t)|^{1-\alpha}\geq M|t|$.

证 假设 $t>0$, 并记

则 $h(0)=0$, 并且

令 $L(t)\triangleq g_{\infty}-G^{-1}(t)^{\alpha}g(G^{-1}(t))$, 由 (g$_{3})$ 可知, $L{'}(t)\leq 0$. 这意味着 $L(t)$ 关于 $t$ 在 $(0,+\infty)$ 是递减的, 从而 $L(t)\in (0,g_{\infty})$, 即对 $t>0$, 有 $L(t)\geq 0$. 由此可得 $h{'}\geq 0$, 即有 $h(t)\geq0$, $\forall t>0$. 由于 $G^{-1}(t)$ 关于 $t$ 是奇函数, 从而可知引理结论成立.

利用文献 [16] 的方法, 可以证明如下的嵌入结论.

引理 2.3 当 $p\leq r\leq p^{*}$ 时, 映射 $T: v\rightarrow G^{-1}(v)$ 是 $W_{0}^{1,p}(\Omega)$ 到 $L^{r}(\Omega)$ 的连续映射, 而当 $p\leq r<p^{*}(1-\alpha)$ 时, 此映射是紧的.

由引理 2.3 可知, 泛函 $J$ 在 $W_{0}^{1,p}(\Omega)$ 上有定义, 并且是 Fréchet 可微的. 下面讨论 $J$ 在 $W_{0}^{1,p}(\Omega)$ 上的临界点, 为此需要如下文献 [7] 给出的环绕定理.

定理 2.1^[7] 设 $X$ 为 Banach 空间, $f:X\rightarrow \mathbb{R}$ 为 $C^{1}$ 函数. 设 $X_{-}, X_{+}\subset X$ 为两个对称锥, 满足条件: (i) $X_{+}$ 在$X$ 中是闭的; (ii) $X_{-}\cap X_{+}=\{0\}$; (iii) ${\mathbb{Z}}_2$ 指标 $\rm{Index}(X_{-}\setminus \{0\})=\rm{Index}(X\setminus X_{+})<\infty$. 设 $e\in X\setminus X_{-}$, $0<r_{+}<r_{-}$, 定义

记

其中 $\mathcal{N}=\{\eta\in C(Q\times[0,1];X):\eta (u,t)=u,\forall (u,t)\in P\times[0,1]\}.$ 若

则

并且存在序列 $\{u_{k}\}\subset X$ 使得 $f(u_{k})\rightarrow c$ 以及 $\|f{'}(u_{k})\|\rightarrow 0$.

为了证明泛函 $J$ 具有环绕结构, 定义锥 $X_{+}$ 为

并记

以及

引理 2.4^[7] 设 $m\geq1$ 使得 $\lambda_{m}<\lambda_{m+1}$, 则存在对称锥 $X_{-}\subset W_{0}^{1,p}(\Omega)$ 使得 $X_{-}$ 在 $L^{p}(\Omega)$ 中是闭的, 并且有

(a) $X_{-}\subseteq \tilde{X}_{-}\cap L^{\infty}(\Omega)\cap C_{loc}^{1,\alpha}(\Omega);$

(b) $X_{-}\cap \mathcal{M}$ 在 $L^{\infty}(\Omega)$ 以及 $L_{loc}^{1,\alpha}(\Omega)$ 中是有界的；

(c) $X_{-}\cap \mathcal{M}$ 在 $W_{0}^{1,p}(\Omega)$ 以及 $C^{1}(\Omega)$ 中是强紧的;

(d) ${\rm Index}(X_{-}\setminus \{0\})=m$.

进一步, 若 $\Omega$ 具有 $C^{1,\bar{\alpha}}$ 边界, $\bar{\alpha}\in(0,1)$, 则 $X_{-}\cap \mathcal{M}$ 在 $C^{1,{\alpha}}(\overline{\Omega})$, ${\alpha}\in(0,1)$ 中是有界的, 并且在 $C^{1}(\overline{\Omega})$ 中是强紧的.

设 $p>1$ 且 $p^{2}\leq N$. 对 $\varepsilon> 0$, 定义

其中 $C(N,p)>0$ 为常数, 使得

其中

根据文献 [4], $u_{\varepsilon}^{*}$ 是方程 $-\triangle_{p}u=|u|^{p^{*}-2}u$, $x\in \mathbb{R}^{N}$ 的解. 定义截断函数 $\eta:\mathbb{R}^{+}\rightarrow[0,1]$ 为: 当 $s\leq\frac{1}{4}$ 时, $\eta(s)=1$; 当 $s\geq\frac{1}{2}$ 时, $\eta(s)=0$. 对 $\varepsilon,\rho>0$, 定义

引理 3.1^[4] 存在常数 $C, \sigma>0$ 使得对任意的 $\rho, \varepsilon>0$, 有

引理 3.2^[20] 设 $1\leq p< N$, $u_{j}\rightharpoonup u$ 于 $W_{0}^{1,p}(\Omega)$, 满足

(i) $|\nabla u_{j}|^{p}$ * 弱收敛到一个非负测度 $\mu$;

(ii) $|u_{j}|^{p^{*}}$ * 弱收敛到一个非负测度$\nu$,

则存在一个至多可数的指标集 $K$ 以及正数 $\{\mu_{k}\}$, $\{\nu_{k}\}$ $k\in K$ 和点集 $\{x_{k}\}\in\overline\Omega$, $k\in K$, 使得对任意的 $k\in K$,

(a) $\nu=|u|^{p^{*}}+\sum\limits_{k\in K}\nu_{k}\delta_{x_{k}}$;

(b) $\mu=|\nabla u|^{p}+\sum\limits_{k\in K}\mu_{k}\delta_{x_{k}}$;

(c) $\mu_{k}\geq S\nu_{k}^{p/p^{*}}$,

其中 $\delta_{x_{k}}$ 表示在 $x_{k}$ 处的 Dirac 测度, $S=\inf\{\|u\|: u\in W_{0}^{1,p}(\Omega),\|u\|_{p^{*}}=1\}$.

命题 3.1 设 $c\in (-\infty,\frac{1}{N}C_{0}S^{\frac{N}{p}})$, 其中 $C_{0}=\big(\frac{g_{\infty}}{1-\alpha}\big)^{N}(1-\alpha)^{\frac{N-p}{p}}$, 则泛函 $J$ 满足 $(PS)_{c}$ 条件.

证 设序列 $\{v_{j}\}\subset W_{0}^{1,p}(\Omega)$, 满足 $J(v_{j})\rightarrow c$, $J{'}(v_{j})\rightarrow 0$.

第一步, 证明 $\{v_{j}\}$ 在 $W_{0}^{1,p}(\Omega)$ 中有界.

假设相反, $\|v_{j}\|\rightarrow\infty$. 下面证明矛盾. 记 $w_{j}=\frac{v_{j}}{\|v_{j}\|}$, 则 $\|w_{j}\|=1$, $\forall j$. 因此, 存在 $w\in W_{0}^{1,p}(\Omega)$, 使得 $w_{j}\rightharpoonup w$ 于 $W_{0}^{1,p}(\Omega)$, $w_{j}\rightharpoonup w$ 于 $L^{p^{*}}(\Omega)$. 不失一般性, 假设 $\Omega_{0}\subset\Omega$ 使得 $w(x)>0,\forall x\in \Omega_{0}$, 并且 $|\Omega_{0}|>0$. 从而对 $x\in \Omega_{0}$, 有

由于 $\{v_{j}\}$ 是 $(PS)_{c}$ 序列, 故利用引理 2.1 中性质 (3) 可得

矛盾, 从而 $\{v_{j}\}$ 有界. 进一步, 存在 $v\in W_{0}^{1,p}(\Omega)$ 使得 $v_j\rightharpoonup v$ 于 $W_{0}^{1,p}(\Omega)$ 且 $v_j\to v$ 几乎处处于 $\Omega$ 中.

第二步, 证明 $\|v_{j}\|_{p^{*}}\rightarrow\|v\|_{p^{*}}$, 从而有 $v_{j}\rightarrow v$ 于 $L^{p^{*}}(\Omega)$ 中.

由 Lions 的集中紧引理知, 存在两个测度 $\mu$ 和 $\nu$, 使得引理 3.2 的结论成立. 下面证明对所有的 $k\in K$, 有 $\nu_{k}=0$.

事实上, 假设 $x_{k}$ 是测度 $\mu$ 和 $\nu$ 的奇点. 定义截断函数 $\phi\in C_{0}^{\infty}(\mathbb{R}^{N},[0,1])$ 为

其中 $\varepsilon>0$, $B(x_{k},\varepsilon)$ 为中心在 $x_{k}$, 半径为 $\varepsilon$ 的球. 由 Hölder 不等式以及 Sobolev 不等式, 有

在 $\langle J{'}(v_j), \psi\rangle=o(1)\|\psi\|$ 中, 取 $\psi=G^{-1}(v_{j})g(G^{-1}(v_{j}))\phi$ 为试验函数, 可得

由于 $v_{j}\rightharpoonup v$ 于 $W_{0}^{1,p}(\Omega)$ 中, 由 Lions 的集中紧性引理,

由引理 2.1 知 (注意到 $\alpha<p/N$)

从而由 (3.2) 式, 假设 (g$_{3}$) 和引理 2.1 中的性质 (5)-(6) 可得

从而由 (3.1) 式以及 Lions 的集中紧性引理可知, $\nu_{k}=0$ 或者 $\nu_{k}\geq (1-\alpha)^{\frac{N}{p}}S^{\frac{N}{p}}M^{-\frac{N^{2}}{N-p}}$, 其中 $M=\frac{1-\alpha}{g_{\infty}}$. 但后者是不可能的. 事实上, 若对某些 $k\in K$, 有后者成立, 则此时由假设 (g$_{2}$) 和 (g$_{3}$) 可知

这与假设矛盾, 所以对所有的 $k\in K$ 有 $\nu_{k}=0$, 从而 $\|v_{j}\|_{p^{*}} \rightarrow\|v\|_{p^{*}}$. 由于 $L^{p^{*}}(\Omega)$ 是一致凸的, 故有 $v_j\to v$ 于 $L^{p^{*}}(\Omega)$.

第三步, 证明 $v_{j}\rightarrow v$ 于 $W_{0}^{1,p}(\Omega)$.

由于 $\langle J{'}(v_{j})-J{'}(v),v_{j}-v\rangle\rightarrow0$, 并注意到 $G^{-1}(v_{j})$ 在 $L^{p^{*}(1-\alpha)}$ 中有界, 从而由第二步可知,

利用不等式[引理 4.1]

其中 $C_{p}>0$, 即可得到 $v_{j}\rightarrow v$ 于 $W_{0}^{1,p}(\Omega)$. 命题 3.1 得证.

接下来证明定理 1.1. 设 $p>1$ 并且 $p^{2}\leq N$, $\Omega\subset \mathbb{R}^{N}$ 具有 $C^{1,\bar{\alpha}}$ 的边界. 对 $\varepsilon>0$, 记

其中 $C(N,p)>0$ 使得

再定义光滑的截断函数 $\eta: \mathbb{R}\rightarrow[0,1]$ 为

对任意的 $\varepsilon, \rho>0$, 记

引理 3.3 存在常数 $C, \sigma>0$ 使得

证 (3.4) 和 (3.5) 式是引理 3.1 的结果, 下面证明 (3.6) 式. 由引理 2.1, 可得 (不妨设 $\rho\geq2\varepsilon$)

分别计算 Ⅰ, Ⅱ 两项积分, 可得到

以及

在上式中, 有 $ N-\frac{N-p}{1-\alpha}<p$.

定义截断函数 $\theta:\mathbb{R}\rightarrow[0,1]$ 为

设 $m\geq1$ 满足 $\lambda_{m}<\lambda_{m+1}$. 假设 $X_{+}$ 由 (2.1) 式所定义, $X_{-}$ 由引理 2.4 所给出. 由假设, $\partial\Omega$ 是 $C^{1,\bar{\alpha}}$ 的, 故存在点 $x_{0}\in \partial\Omega$, 在$x_{0}$ 处存在内部球 $B_{R}(\bar{x})\bigcap\partial\Omega$. 设 $\rho>0$, 记

则$|x_{\rho}-x_{0}|=\rho$, $B_{\rho}(x_{\rho})\subseteq\Omega$. 定义

文献 [7, 引理3.2] 证明了如下结论.

引理 3.4^[7] 设 $\partial \Omega$ 是 $C^{1,\bar{\alpha}}$ 的, 其中 $\bar{\alpha}\in (0,1)$, 则对任意的 $w\in X_{-}$ 以及 $\rho\in(0,R)$, 存在常数 $C>0$, 使得

并且存在 $\rho_{0}\in(0,R)$ 使得对任意的 $\rho\in(0,\rho_{0}]$ 以及 $\varepsilon>0$, 有 $ e_{\rho,\varepsilon}\notin X_{-}^{\rho}$ 且 $X_{-}^{\rho}$ 在 $L^{p}(\Omega)$ 中是闭的, 并且

下面证明泛函 $J$ 具有低于临界水平的临界值.

命题 3.2 设定理 1.1 中的条件 (i) 成立. 设 $m\geq1$ 使得 $\lambda_{m}<\lambda_{m+1}$, $\lambda_{m}\leq\lambda$, 设 $X_{-}$ 由引理 2.4 所给, 则存在 $\varepsilon_{0}>0$, 使得当 $0<\varepsilon<\varepsilon_{0}$ 时, 有

证 注意到

故当 $t$ 充分大时, 有 $G^{-1}(t)tg(G^{-1}(t))^{-1}\approx(1-\alpha)^{-1}G^{-1}(t)^{2}$. 进一步, 由于 $\mbox{supp}(e_{\rho,\varepsilon})\cap\mbox{supp}(w)=\emptyset$, 故可利用文献 [15, 命题4.3] 的方法, 通过计算 $\frac{\rm d}{{\rm d}t}J(te_{\rho,\varepsilon}+w)=0$ 可知 $J(te_{\rho,\varepsilon}+w)$ 在 $t_{0}=(\frac{1-\alpha}{M^{p^*}})^{\frac{1}{p^{*}-p}}$ 附近取得最大值. 把 $t_{0}$ 代入 $J(te_{\rho,\varepsilon}+w)$ 并计算其最大值, 利用引理 3.3 和引理 3.4, 在略去高阶项之后, 可得

利用 Young 不等式, 有

其中 $C_{1}>0$ 为常数. 取 $\rho=C_2\varepsilon^{{p^{2}}/{N^{2}}}$, 可得

对比 $\varepsilon$ 的指数可得到, 在 $p^{2}\leq\frac{N^{3}+p^{3}}{N^{2}+N}$, $\alpha<\frac{p}{N}$, $\lambda\geq\lambda_{1}$ 条件下, 当 $\varepsilon$ 充分小时,有

从而命题得证.

当 $\Omega$ 不具备 $C^{1,\bar{\alpha}}$ 的边界条件时, 引理 3.4 的结论不再成立. 此时, 需要下述的结论.

设 $\bar x\in\Omega, R>0$ 使得 $B_{2R}(\bar{x})\subset\Omega$, 如文献 [7] 一样, 定义如下函数

引理 3.5^[7] 对任意的 $\rho,\varepsilon>0$, 成立

命题 3.3 设定理 1.1 的条件 (ii) 成立. 设 $m\geq1$ 使得 $\lambda_{m}<\lambda_{m+1}$, $\lambda_{m}\leq\lambda$. 设 $X_{-}$ 由引理 2.4 所给. 则存在 $\varepsilon_{0}>0$ 使得当 $0<\varepsilon<\varepsilon_{0}$ 时, 有 (3.10) 式成立.

证 利用引理 3.4 的结果进行证明. 通过直接计算可得到, 对 $w\in X_{-}^{\rho}$, 有

利用 Young 不等式, 有

其中 $C_{1}>0$. 取 $\rho=C_3\varepsilon^{k}$, 其中 $k=\frac{p}{N-p}-\frac{p}{N(1-\alpha)}$, 并取 $C_3$ 充分小, 使得

容易验算得知, 当 $p^{2}\leq\frac{N^{2}}{N+1}$ 时, 有

从而当 $\varepsilon$ 充分小时, 对任意的 $\lambda\geq\lambda_{1}$, 有

从而命题得证.

命题 3.4 设定理 1.1 的条件 (iii) 成立, 则存在 $\varepsilon>0$, 使得当 $0<\varepsilon<\varepsilon_{0}$ 时, 有 (3.10) 式成立.

证 利用文献 [7] 同样的方法, 即可证明命题.

下面证明本文的主要定理.

定理 1.1 的证明 应用引理 2.4 来证明结论. 设 $X_{+}$ 由 (2.1) 式定义, $X_{-}$ 由引理 2.4 所给, 则 $X_{+}$ 和 $X_{-}$ 满足定引理 2.4 中的条件 (i), (ii), (iii). 利用文献 [7] 的方法, 可以验证 $J$ 具有环绕结构, 并且由命题 3.2 的计算, 有

再由引理 2.4 知, 对此水平 $c$, 存在着 $(PS)_c$ 序列 $\{v_n\}$. 由命题 3.1, 此 $(PS)_c$ 序列在 $W_{0}^{1,p}(\Omega)$ 中是紧的, 从而存在 $v\in W_{0}^{1,p}(\Omega)$, 使得 $v_n$ 在 $W_{0}^{1,p}(\Omega)$ 中收敛于$v$, 且满足 $J(v)=c$, 即 $v$ 是 $J$ 在水平 $c$ 的临界点, 从而 $v$ 是方程 (1.1) 的弱解. 进一步, $u=G^{-1}(v)$ 是方程 (1.1) 的弱解.

为了证明定理 1.2, 需要对 $q$ 次增长的非线性项进行估计.

引理 3.6 设 $p(1-\alpha)\leq q\leq p$, $0<\alpha<\min\{\frac{p}{N},\frac{1}{p}\}$, 则 $pq\leq N(q-p+1)$, 且存在 $\sigma, C>0$ 使得

注 3.1 条件 $\alpha<\frac{1}{p}$ 是为了保证 $q-p+1>0$ 成立.

定理 1.2 的证明与定理 1.1 的证明相似, 下面证明中仅写出一些不同之处.

定理 1.2 的证明 首先, 由引理 2.2, 可计算得到

从而有

所以当 $\lambda\geq M^{\frac{q-p}{\alpha}}\lambda_{1}$ 时, 有

进一步, 若 $\lambda \notin\{M^{\frac{q-p}{\alpha}}\lambda_{k}: k\geq1\}$, 则存在 $C>0$ 使得

其次, 若 $\Omega$ 具有 $C^{1,\bar{\alpha}}$ 边界, 则如定理 1.1 的证明, 在忽略高阶项之后, 有

此时可取 $\rho=C_4\varepsilon^{k}$, 其中 $k$ 使得 $N-\gamma(N-p)=kN^{2}/p$, $C_4>0$ 充分小, 从而可使得

此时在定理 1.2 中的条件 (i) 之下, 有

即有 (3.11) 式成立.

若 $\Omega$ 不具有 $C^{1,\bar{\alpha}}$ 边界, 则在忽略高阶项之后, 有

此时取 $\rho=C_5\varepsilon^{k}$, 其中 $k$ 使得 $N-\gamma(N-p)=k(N-p)N/p$, $C_5>0$ 充分小, 从而可使得

此时在定理 1.2 中的条件 (ii) 之下, (3.14) 式成立, 从而有 (3.11) 式成立.

最后, 结论 (iii) 可利用命题 3.4 和 (3.12) 式进行证明.

综上论述, 可知 (3.11) 式成立, 从而利用定理 1.1 的证明方法, 即可证明定理 1.2 成立.

注 3.2 由 (3.14) 式可知 $1-k>\left(N-\gamma(N-p)\right)(p-1)/(N-p)>0$, 这意味着 $0<k<1$.

定理 1.3 的证明 如同定理 1.2 的证明. 若 $\Omega$ 具有 $C^{1,\bar{\alpha}}$ 边界, 取 $\rho=C_6\varepsilon^{\frac{p^{2}}{N^{2}}}$, 即有 (3.13) 式成立. 此时在定理 1.3 中条件 (i) 之下, 有

即有 (3.11) 式成立.

若 $\Omega$ 不具有 $C^{1,\bar{\alpha}}$ 边界, 取 $\rho=C_7\varepsilon^{\frac{p^{2}}{(N-p)N}}$ 以及适当的 $C_7$, 使得 (3.15) 式成立. 此时在定理 1.3 的条件 (ii) 之下, 有

即有 (3.11) 式成立. 如同定理 1.2, 即可以证明定理 1.3.