椭圆偏微分方程是偏微分方程研究的一个重要方向, 解的存在性、多解性以及对称性等是偏微分方程研究的基本问题.该文研究如下椭圆系统

(1.1) $ \begin{equation} \left\{\begin{array}{ll} { } -\Delta u+\mu_1 u = \frac{p}{p+q}|x|^\alpha u^{p-1}v^q, \; \; &x\in \Omega, \\ { } -\Delta v+\mu_2 v = \frac{q}{p+q}|x|^\alpha u^pv^{q-1}, \; \; &x\in \Omega, \\ u, v>0, \; \; x\in\; \Omega, \; \; u = v = 0, \; \; &x\in\partial\Omega, \end{array} \right. \end{equation} $

这里$ \Omega = \{x\in{{\Bbb R}} ^N|r^2<|x|^2<(r+d)^2\}(N\geq4) $是一个圆环, $ \mu_1, \mu_2>0 $, $ p, q>0 $且$ p+q<\frac{2N-2}{N-3} $, $ d>0 $是一个固定的数. 对系统(1.1), 如果$ 2<p+q<\frac{2N}{N-2} $, 则系统(1.1)为次临界问题, 利用经典的变分法可以证明(1.1)存在一个以及多个解; 如果$ p+q = 2^*: = \frac{2N}{N-2} $, 系统(1.1)为临界问题, 文献[1]中, Alves-de Morais-Soutos研究了临界问题非平凡解的存在性. 事实上我们指出如果$ N\geq4 $, 则$ 2^*<\frac{2N-2}{N-3} $, 此时系统(1.1)可能是超临界问题, 那么经典的临界点理论不能使用. 文献[15], 作者利用群临界点理论研究了椭圆方程组非径向对称解的存在性.

许多数学家研究了方程

(1.2) $ \begin{equation} -\Delta u = f(u), \; \; \; u>0, \; x\in \Omega, \; \; u = 0, \; x\in\; \partial \Omega, \end{equation} $

这里$ \Omega\subset {{\Bbb R}} ^N $是一个开区域.关于上述方程解的存在性、多解性以及非退化性均有不少结果. 特别指出Ni-Gidas-Nirenberg^[8-9]利用移动平面法以及椭圆方程比较定理研究了方程(1.2)解的对称性, 他们证明如果非线性项$ f(u)\in C^1 $和$ \Omega $是球或者全空间解有一定衰减性时, 方程(1.2) 的所有正解均是径向对称的, 关于对称性方面的工作还可参见文献[2, 18, 20] 及相关文献. 有研究人员指出如果椭圆方程不能用移动平面法时, 则可能会得到方程的非径向对称解. Ni在文献[16] 中研究了Hénon型椭圆方程

(1.3) $ \begin{equation} -\Delta u = |x|^\alpha u^p, \; \; u>0, \; x\in\; \Omega, \; \; u = 0, \; x\in\; \partial \Omega, \end{equation} $

此处$ \alpha>0, \; p>1 $, $ \Omega $是原点在圆心的单位球. Ni发现加权项$ |x|^\alpha $会得到一个关于$ \alpha $的新的临界指标, 另一方面它还会影响移动平面法的使用. 文献[18]中, Smets-Su-Willem利用伸缩技巧和临界点理论证明了当$ \alpha>0 $足够大时, 方程(1.3)存在非径向对称的基态解. 如果区域$ \Omega $不是凸型区域时, 即使区域是径向对称, 比如环型区域, 方程仍有非径向对称的解, 文献[10], Li证明了如果环形区域半径足够大时, 方程(1.2)有非径向对称解.

我们指出关于椭圆系统超临界问题非径向对称解这方面的工作并不多, 文献[15]研究了一类特殊椭圆系统的非径向对称解, 本文参考上述工作得到如下结果:

定理 1.1  令$ d>0 $是一个常数, $ 2<p+q<\frac{2N-2}{N-3}, N\geq4 $. 如果$ r>10d $足够大, 则系统(1.1)存在至少$ [\frac{N}{2}]-1 $个非径向对称的解.

首先定义工作空间$ {\cal H} = H^1_0(\Omega)\times H^1_0(\Omega) $, 对应范数为

$ \|(u, v)\| = \left(\int_\Omega |\nabla u|^2+\mu_1 u^2+|\nabla v|^2+\mu_2 v^2\right)^{\frac{1}{2}}, $

其中$ H^1_0(\Omega) $为经典的Sobolev空间.定义系统(1.1)的能量泛函为

$ I(u, v) = \frac{1}{2}\int_\Omega |\nabla u|^2+\mu_1 u^2+|\nabla v|^2+\mu_2 v^2 {\rm d}x-\frac{1}{p+q}\int_\Omega |x|^\alpha u^pv^q{\rm d}x, $

以及下面Rayleigh商

$ {\cal R}(u, v) = \frac{\left(\int_\Omega |\nabla u|^2+\mu_1 u^2+|\nabla v|^2+\mu_2 v^2 {\rm d}x\right)^{\frac{p+q}{2}}}{\int_\Omega |x|^\alpha u^pv^q{\rm d}x}. $

为方便定义如下集合

$ \Lambda_k = \left\{(u, v)\in{\cal H}\setminus\left\{(0, 0)\right\}:u(x) = u(|y_1|, |y_2|), \; v(x) = v(|y_1|, |y_2|)\right\}, $

这里$ y_1 = (x_1, \cdots, x_k) $, $ y_2 = (x_{k+1}, \cdots, x_N) $, $ k = 1, 2, \cdots, [\frac{N}{2}] $, 其中$ [\frac{N}{2}] $为不大于$ \frac{N}{2} $的最大整数. 定义如下临界值$ \lambda_k = \inf\limits_{\Lambda_k}{\cal R}(u, v), \; k = 0, 1, 2, \cdots, [\frac{N}{2}]. $下面给出一个紧性结果.

引理2.1^[10]  令$ \Omega = \{x\in{{\Bbb R}} ^N:r^2<|x|^2<(r+d)^2\} $, $ N\geq4 $, $ 1<p<\frac{N+1}{N-3} $且$ d>0 $是固定常数. 令$ \bar{\Lambda}_k = \{u\in H^1_0(\Omega)\setminus\{0\}:u(x) = u(|y_1|, |y_2|)\}, $$ y_1, y_2 $如上所述. 则$ r>10d $足够大时, 对任意$ u\in\bar{\Lambda}_k $, 有如下结果

$ \frac{\left(\int_\Omega|\nabla u|^2{\rm d}x\right)^{\frac{p+1}{2}}}{\int_\Omega u^{p+1}{\rm d}x}\geq C r^{\frac{p-1}{2}}, $

此处$ C>0 $是不依赖与$ r $的常数.

注 2.1  因为$ 1<p<2^*<\frac{2N-2}{N-3} $, 则$ \bar{\Lambda}_k\hookrightarrow L^p $是紧嵌入(参见文献[10]), 而$ \bar{\Lambda}_k\hookrightarrow L^{\frac{2N-2}{N-3}} $是连续的, 因此对$ 2<p<\frac{2N-2}{N-3} $可知$ \bar{\Lambda}_k\hookrightarrow L^p $是紧嵌入.

引理 2.2^[10]  假设$ 2\leq k<\bar{k}\leq [\frac{N}{2}] $, 则$ \bar{\Lambda}_k\cap \bar{\Lambda}_{\bar{k}}\subset \bar{\Lambda}_0. $

由上面的引理可知如果$ u_k\in\bar{\Lambda}_k $和$ u_{\bar{k}}\in\bar{\Lambda}_{\bar{k}} $不是径向对称的, 那么$ u_k\neq u_{\bar{k}} $, 因此我们便得到多解的存在性.

本节分两步来证明定理1.1, 首先得到如下结论:

引理 3.1  存在一个仅依赖于$ p, q, d $的常数$ C>0 $, 使得

(3.1) $ \begin{equation} \lambda_0\geq C r^{(N-1)(\frac{p+q}{2}-1)-\alpha}. \end{equation} $

$ \lambda_0 $参见上面定义.

证  直接计算可得

$ \int_\Omega|\nabla u|^2{\rm d}x = |\partial \Omega|\int_r^{r+d}|u'_\rho|^2\rho^{N-1}{\rm d}\rho\geq C(\Omega, d)r^{N-1}\int_r^{r+d}|u'_\rho|^2{\rm d}\rho $

与

$ \int_\Omega u^2{\rm d}x\geq C(d, \Omega)r^{N-1}\int_r^{r+d}u^2{\rm d}\rho, $

其中$ |\partial \Omega| $是$ \Omega $边界的面积. 因此得到

$ \int_\Omega (|\nabla u|^2+\mu_1 u^2){\rm d}x\geq C(\Omega, d)r^{N-1}\int_r^{r+d}|u'_\rho|^2+\mu_1 u^2{\rm d}\rho $

以及

$ \int_\Omega (|\nabla v|^2+\mu_2 v^2){\rm d}x\geq C(\Omega, d)r^{N-1}\int_r^{r+d}|v'_\rho|^2+\mu_1 v^2{\rm d}\rho. $

利用H$ \ddot{\rm o} $lder不等式可得

(3.2) $ \begin{eqnarray} \int_\Omega |x|^\alpha u^pv^q{\rm d}x& = &|\partial \Omega| \int_{r}^{r+d}\rho^\alpha \rho^{N-1}u^pv^q{\rm d}\rho{}\\ &\leq &C(\Omega, d)r^{N+\alpha-1}\int_{r}^{r+d}u^pv^q{\rm d}\rho{}\\ &\leq &C(\Omega, d) r^{N+\alpha-1} \bigg(\int_{r}^{r+d}u^{p+q}{\rm d}\rho\bigg)^{\frac{p}{p+q}} \bigg(\int_{r}^{r+d}v^{p+q}{\rm d}\rho\bigg)^{\frac{q}{p+q}}. \end{eqnarray} $

再结合Rellich嵌入不等式, 可得

$ \bigg(\int_{r}^{r+d} u^{p+q}{\rm d}\rho\bigg)^{\frac{1}{p+q}} \leq \bigg (\int_{r}^{r+d}|u'_\rho|^2+\mu_1 u^2 {\rm d}\rho\bigg)^{\frac{1}{2}} $

与

$ \bigg(\int_{r}^{r+d} v^{p+q}{\rm d}\rho\bigg)^{\frac{1}{p+q}} \leq \bigg (\int_{r}^{r+d}|v'_\rho|^2+\mu_2 v^2 {\rm d}\rho\bigg)^{\frac{1}{2}}. $

为方便记

$ a = \int_{r}^{r+d}u^{p+q}{\rm d}\rho>0, \; \; b = \int_{r}^{r+d}v^{p+q}{\rm d}\rho>0. $

则我们可以得到

(3.3) $ \begin{eqnarray} \|(u, v)\|^{p+q} &\geq& C(\Omega, d)r^{\frac{p+q}{2}(N-1)}(a^{\frac{2}{p+q}}+b^{\frac{2}{p+q}})^{\frac{p+q}{2}}{}\\ &\geq &C(\Omega, d, p, q)r^{\frac{p+q}{2}(N-1)}(a+b). \end{eqnarray} $

结合Young不等式, 则可得

(3.4) $ \begin{equation} a^{\frac{p}{p+q}}b^{\frac{q}{p+q}}\leq \frac{p}{p+q}a+\frac{q}{p+q}b \leq \max\{\frac{p}{p+q}, \frac{q}{p+q}\} (a+b). \end{equation} $

利用(3.2)–(3.4)式, 得到

$ \lambda_0\geq Cr^{(N-1)(\frac{p+q}{2}-1)-\alpha}, $

其中$ C>0 $为仅依赖于$ p, q, d, $的常数. 引理得证.

利用文献[10]中Li的想法, 我们得到如下结论.

引理 3.2  存在常数$ C>0 $使得

(3.5) $ \begin{equation} \lambda_k\leq C r^{(\frac{p+q}{2}-1)(N-2)-\alpha}, \end{equation} $

其中$ k = 2, \cdots, [\frac{N}{2}] $.

证  选取一个非负函数$ \omega(x)\in C^\infty_0(B_{\frac{d}{10}})\setminus \{0\} $, 此处$ B_{\frac{d}{10}}\subset {{\Bbb R}} ^2 $. 令

$ u_k(x) = v_k(x) = \omega(|y_1|-\frac{1}{\sqrt{2}}(r+d), |y_2|-\frac{1}{\sqrt{2}}(r+d)), $

$ y_1, y_2 $如前面所述.事实上如果令$ B(\frac{1}{\sqrt{2}}(r+\frac{d}{2}), \frac{1}{\sqrt{2}}(r+\frac{d}{2}))\in{{\Bbb R}} ^2 $, 则$ B $与原点的距离为$ |B| = r+\frac{d}{2} $, 因此可知$ (u_2(x), v_2(x))\in{\cal H} $. 综上可以得到

$ \begin{eqnarray*} \int_\Omega|\nabla u_k|^2{\rm d}x&\leq &C\int_{r^2\leq t^2+s^2\leq (r+d)^2}|\nabla \omega|^2t^{k-1}s^{N-k-1}{\rm d}t{\rm d}s\\ &\leq & C(r+d)^{N-2}\int_{r^2\leq t^2+s^2\leq (r+d)^2}|\nabla \omega|^2{\rm d}t{\rm d}s\\ &\leq& C(d, \Omega)r^{N-2}\int_{r^2\leq t^2+s^2\leq (r+d)^2}|\nabla \omega|^2{\rm d}t{\rm d}s \end{eqnarray*} $

和

$ \int_\Omega|\nabla v_k|^2{\rm d}x\leq C(d, \Omega)r^{N-2}\int_{r^2\leq t^2+s^2\leq (r+d)^2}|\nabla \omega|^2{\rm d}t{\rm d}s. $

另一方面直接计算可得

$ \begin{eqnarray*} \int_\Omega u^2_k{\rm d}x& = &|\partial\Omega|\int_{r^2\leq t^2+s^2\leq (r+d)^2}u^2_kt^{k-1}s^{N-k-1}{\rm d}t{\rm d}s\\ &\leq & Cr^{N-2}\int_{r^2\leq t^2+s^2\leq (r+d)^2}\omega^2{\rm d}t{\rm d}s, \end{eqnarray*} $

以及

$ \int_\Omega v^2_k{\rm d}x\leq Cr^{N-2}\int_{r^2\leq t^2+s^2\leq (r+d)^2}\omega^2{\rm d}t{\rm d}s. $

我们还有

$ \int_\Omega |x|^\alpha u^{p}_kv^{q}_k{\rm d}x = \int_\Omega|x|^\alpha\omega^{p+q}{\rm d}x\geq Cr^{N+\alpha-2}\int_{r^2\leq t^2+s^2\leq (r+d)^2}\omega^{p+q}{\rm d}t{\rm d}s. $

综上可得

$ \lambda_k\leq C r^{(\frac{p+q}{2}-1)(N-2)-\alpha}. $

引理证毕.

下面给出定理1.1的证明.

证  利用引理2.1, 可以证明$ \lambda_k $是可达到的, 然后利用伸缩技巧和临界点理论得到存在$ (U_k, V_k)\in\Lambda_k $为椭圆系统(1.1)的非平凡解, $ k = 2, \cdots, [\frac{N}{2}] $. 利用引理3.1和3.5可知$ (U_k, V_k) $是非径向对称的, 注意到引理2.2可知系统(1.1)至少存在$ [\frac{N}{2}]-1 $个旋转等价的非径向对称解. 综上, 完成证明.

注 3.1  旋转等价指的是如果$ y_1 = (x_1, \cdots, x_k) $, $ y_2 = (x_{k+1}, \cdots, x_N) $和$ \bar{y}_1 = (x_{i_1}, \cdots, x_{i_k}), $$ \bar{y}_2 = (x_{i_{k+1}}, \cdots, x_{i_N}) $, 这里$ i_1, \cdots, i_N $是$ 1, \cdots, N $的一个变换, 那么我们认为$ u(|y_1|, |y_2|)\sim u(|\bar{y}_1|, |\bar{y}_2|) $.