应用贝叶斯方法进行统计推断主要取决于"先验分布"和"损失函数"两个方面.一个方面,先验分布经常取决于超参数,在这种情况下我们经常使用多层贝叶斯方法(hierarchical Bayesian method);另一个方面,损失函数在贝叶斯统计推断中也非常重要,最常用的是平方损失函数下的贝叶斯估计.当然,还有一些损失函数在贝叶斯统计推断中也很重要,例如, LINEX损失函数,熵损失函数,加权平方损失函数等. Ali等在文献[1]中,根据不同的损失函数(包括:平方损失,加权平方损失,预防损失,熵损失和K-损失等),用贝叶斯方法推导Lindley分布的性质(包括:贝叶斯估计、后验风险等).

近些年来Bayes方法、多层Bayes方法在参数估计的研究和应用方面都取得了一些进展,详见文献[2-4]等.但用多层Bayes方法得到的结果一般都要涉及复杂积分的计算(有时甚至是一些高维的复杂积分),在有些问题的应用上还是不太方便,这在一定程度上制约了多层Bayes方法的应用.在已有的研究中我们已经看到,参数的E-Bayes估计与多层Bayes估计相比,在表达式上简单,在应用上更方便一些,详见文献[5-10])等.

很多实际问题可以用Poisson分布来描述,例如,可以用Poisson分布来描述在一定时间内稀有事件发生的次数等.对Poisson分布的研究具有重要的理论和实际应用价值.在文献[11]中,对Poisson分布的参数,讨论了极大似然估计、矩估计以及Bayes估计之间的关系,并对优劣性进行了分析.在文献[12]和[13]中,对Poisson分布的参数,分别在$Q$ -对称熵损失和复合LINEX对称损失下给出了参数的Bayes估计.在文献[14]中,对Poisson分布的参数,在平方损失下给出了E-Bayes估计和多层Bayes估计,并在此基础上给出了E-Bayes估计的性质——E-Bayes估计和多层Bayes估计之间的关系.

本文在文献[14]的基础上,对Poisson分布参数的E-Bayes估计及其E-MSE进行了讨论.本文在第二节中,基于E-Bayes估计,引入了E-Bayes估计的E-MSE的定义;在第三节中,讨论了在不同损失函数下参数的Bayes估计;在第四节中,在不同损失函数下给出了Poisson分布参数的E-Bayes估计;在第五节中,在不同损失函数下给出了参数E-Bayes估计的E-MSE的表达式;在第六节中,给出模拟算例;在第七节中,给出应用实例.

设随机变量$X$服从参数为$\lambda$的Poisson分布,其分布律为

设$x=(x_{1}, x_{2}, \cdots, x_{n})$为来自Poisson分布(2.1)的样本观察值,则样本的似然函数为

其中$T=\sum\limits_{i=1}^n x_{i}$.

如果取$\lambda$的先验分布为其共轭分布——Gamma分布,其密度函数为

其中$\Gamma(a)=\int_0^\infty t^{a-1}e^{-t}{\mbox{d}t}$是Gamma函数, $a$和$b$为超参数(hyper parameters),且$a>0$, $b>0$.

根据文献[15],超参数$a$和$b$的选取应使$\pi(\lambda| a, b)$为$\lambda$的减函数. $\pi(\lambda|a, b)$对$\lambda$的导数为

注意到$a>0$, $b>0$, $\lambda>0$,当$0<a<1$, $b>0$时, $\frac{\mbox{d}[\pi(\lambda|a, b)]}{\mbox{d}\lambda}<0$,因此$\pi(\lambda|a, b)$为$\lambda$的减函数.

对$0<a<1$, $b$越大, Gamma分布的密度函数的尾部越细.根据Bayes估计的稳健性(文献[16]),尾部越细的先验分布常会造成Bayes估计的稳健性越差,因此$b$不宜过大,应该有一个界限.设$b$的上界为$c$,其中$c>0$为常数.这样可以确定超参数$a$和$b$的范围为$0<a<1$, $0<b<c$(常数$c$的具体确定,见后面的应用实例).

在文献[14]中给出了参数的E-Bayes估计的定义,现在叙述在如下的定义2.1中.

定义2.1  对$(a, b)\in D$,若$\widehat{\lambda}_{B}(a, b)$是连续的,称

是参数$\lambda$的E-Bayes估计(expected Bayesian estimation).其中$\int\!\!\!\int_{D} \widehat{\lambda}_{B}(a, b)\pi(a, b)\mbox{d}a\mbox{d}b$是存在的, $D$为超参数$a$和$b$取值的集合, $\pi(a, b)$是$a$和$b$在集合$D$上的密度函数, $\widehat{\lambda}_{B}(a, b)$为$\lambda$的Bayes估计(用超参数$a$和$b$表示).

从定义2.1可以看出,参数$\lambda$的E-Bayes估计

是参数$\lambda$的Bayes估计$\widehat{\lambda}_{B}(a, b)$对超参数$a$和$b$的数学期望(expectation),即$\lambda$的E-Bayes估计是$\lambda$的Bayes估计对超参数的数学期望.

提出一种参数估计方法,一般要给出估计的误差.通常用MSE (mean square error)来度量估计的误差. E-Bayes估计法提出的时间不长,其研究成果也不多.以前E-Bayes估计误差的分析表达式一直没有被研究,最近Han在文献[17]中提出了E-MSE (expected mean square error)的定义,并用它来研究E-Bayes估计的误差.关于E-MSE的定义,现在叙述如下.

定义2.2  对$(a, b)\in D$,若MSE$[\widehat{\lambda}_{B}(a, b)]$是连续的,称

是$\widehat{\lambda}_{EB}$的E-MSE (expected mean square error).其中$\iint_{D} MSE[\widehat{\lambda}_{B}(a, b)]\pi(a, b)\mbox{d}a\mbox{d}b$是存在的, $D$为超参数$a$和$b$取值的集合, $\pi(a, b)$是$a$和$b$在集合$D$上的密度函数, MSE$[\widehat \lambda_{B}(a, b)]$为$\widehat{\lambda}_{B}(a, b)$的MSE (用超参数$a$和$b$表示).

从定义2.2可以看出, $\widehat \lambda_{EB}$的E-MSE

是$\lambda$的Bayes估计的MSE (MSE$[\widehat{\lambda}_{B}(a, b)]$)对超参数的数学期望.

损失函数在贝叶斯统计推断中是非常重要的,最常用的是平方损失函数下的贝叶斯估计.根据文献[1],有如下引理3.1.

引理3.1  设$x=(x_{1}, x_{2}, \cdots, x_{n})$为来自某总体的样本观察值, $\theta$是该总体的未知参数,在不同损失函数下,有以下结论:

(ⅰ)在平方损失函数$L_{1}(\theta, \delta)=(\theta-\delta)^{2}$下, $\theta$的Bayes估计为$\widehat{\theta}_{B1}(x)=E(\theta|x);$

(ⅱ)在K -损失函数$L_{2}(\theta, \delta)=\Big(\sqrt{\frac{\theta}{\delta}}- \sqrt{\frac{\delta}{\theta}}\Big)^{2}$下, $\theta$的Bayes估计为$\widehat{\theta}_{B2}(x)=\sqrt{\frac{E(\theta|x)}{E(\theta^{-1}|x)}};$

(ⅲ)在加权平方损失函数$L_{3}(\theta, \delta)=\theta^{-1}(\theta-\delta)^{2}$下, $\theta$的Bayes估计为$\widehat{\theta}_{B3}(x)=\left[E(\theta^{-1}|x)\right]^{-1}$.

这里$\delta$是参数$\theta$的一个估计.

定理4.1  设$x_{1}, x_{2}, \cdots, x_{n}$为来自Poisson分布(2.1)式的样本观察值,似然函数由(2.2)式给出,若$\lambda$的先验分布为Gamma分布,其密度函数由(2.3)式给出,超参数$a$和$b$的先验密度函数由

给出,在不同损失函数下,有以下结论:

(ⅰ)在平方损失函数下, $\lambda$的Bayes估计为$\widehat{\lambda}_{B1}(a, b)= \frac{T+a}{n+b}$, $\lambda$的E-Bayes估计为

(ⅱ)在K-损失函数下, $\lambda$的Bayes估计为$\widehat{\lambda}_{B2}(a, b)=\frac{\sqrt{(T+a-1)(T+a)}}{n+b}$, $\lambda$的E-Bayes估计为

(ⅲ)在加权平方损失函数下, $\lambda$的Bayes估计为$\widehat{\lambda}_{B3}(a, b)=\frac{T+a-1}{n+b}$; $\lambda$的E-Bayes估计为

其中$T=\sum\limits_{i=1}^n x_{i}$.

证  (ⅰ)的证明已在文献[14]中给出了,这里从略.

(ⅱ)设$x_{1}, x_{2}, \cdots, x_{n}$为来自Poisson分布(2.1)式的样本观察值,似然函数由(2.2)式给出,若$\lambda$的先验分布为Gamma分布,其密度函数由(2.3)式给出,根据Bayes定理,则$\lambda$的后验密度函数为

因此$\lambda$的后验分布为Gamma分布——Gamma$(T+a, n+b)$,则$E(\lambda|x)=\frac{T+a}{n+b}$,并且

根据引理3.1的(ⅱ),在K -损失函数下, $\lambda$的Bayes估计为

若超参数$a$和$b$的先验密度函数由(4.1)式给出,根据定义2.1,则$\lambda$的E-Bayes估计为

(ⅲ)根据(ⅱ)的证明过程,有$E(\lambda^{-1}|x)=\frac{n+b}{T+a-1}.$根据引理3.1的(ⅲ),在加权平方损失函数下, $\lambda$的Bayes估计为

若超参数$a$和$b$的先验密度函数由(4.1)式给出,根据定义2.1,则$\lambda$的E-Bayes估计为

证毕.

定理5.1  设$x_{1}, x_{2}, \cdots, x_{n}$为来自Poisson分布(2.1)式的样本观察值,似然函数由(2.2)式给出,若$\lambda$的先验分布为Gamma分布,其密度函数由(2.3)式给出,超参数$a$和$b$的先验密度函数由(4.1)式给出,在不同损失函数下,有以下结论:

(ⅰ)在平方损失函数下, $\widehat{\lambda}_{B1}(a, b)$的MSE为$MSE[\widehat{\lambda}_{B1}(a, b)]= \frac{T+a}{(n+b)^2}$, $\widehat{\lambda}_{EB1}$的E-MSE为

(ⅱ)在K -损失函数下, $\widehat{\lambda}_{B2}(a, b)$的MSE为$MSE[\widehat{\lambda}_{B2}(a, b)]= \frac{2(T+a)}{(n+b)^2}[(T+a)-\sqrt{(T+a-1)(T+a)}]$, $\widehat{\lambda}_{EB2}$的E-MSE为

(ⅲ)在加权平方损失函数下, $\widehat{\lambda}_{B3}(a, b)$的MSE为$MSE[\widehat{\lambda}_{B3}(a, b)]= \frac{T+a+1}{(n+b)^2}$, $\widehat{\lambda}_{EB3}$的E-MSE为

其中$T=\sum\limits_{i=1}^n x_{i}$.

证   (ⅰ)根据定理4.1的(ⅱ)的证明过程, $\lambda$的后验分布为Gamma分布——Gamma$(T+a,$$n+b)$,在平方损失函数下,则有$\widehat{\lambda}_{B1}(a, b)=E(\lambda|x)=\frac{T+a}{n+b}$,并且$Var(\lambda|x)=\frac{T+a}{(n+b)^2}$.于是$\widehat{\lambda}_{B1}(a, b)$的MSE为$MSE[\widehat{\lambda}_{B1}(a, b)]=E\left\{\left[\lambda-\widehat\lambda_{B1}(a, b)\right]^2|x\right\}=Var(\lambda|x)= \frac{T+a}{(n+b)^2}$.

若超参数$a$和$b$的先验密度函数由(4.1)式给出,根据定义2.2,则$\widehat{\lambda}_{EB1}$的E-MSE为

(ⅱ)根据定理4.1的(ⅱ)的证明过程, $\lambda$的后验分布为Gamma分布——Gamma$(T+a,$$n+b)$,则有$E(\lambda|x)=\frac{T+a}{n+b}$,且

根据定理4.1的(ⅱ),在K-损失函数下, $\lambda$的Bayes估计为$\widehat{\lambda}_{B2}(a, b)=\frac{\sqrt{(T+a-1)(T+a)}}{n+b}$,则有

若超参数$a$和$b$的先验密度函数由(4.1)式给出,根据定义2.2,则$\widehat{\lambda}_{EB2}$的E-MSE为

(ⅲ)根据(ⅱ)的证明过程,有$E(\lambda|x)=\frac{T+a}{n+b}$,且$E(\lambda^{2}|x)=\frac{(T+a+1)(T+a)}{(n+b)^2}.$根据定理4.1的(ⅲ),在加权平方损失函数下, $\lambda$的Bayes估计为$\widehat{\lambda}_{B3}(a, b)=\frac{T+a-1}{n+b}$,则有

若超参数$a$和$b$的先验密度函数由(4.1)式给出,根据定义2.2,则$\widehat{\lambda}_{EB3}$的E-MSE为

证毕.

以下采用Monte Carlo方法进行模拟计算.分别对$\lambda=0.5, 1, 2, 4$,用MATLAB产生Poisson分布(2.1)的样本,重复模拟运行10000次,根据定理4.1和定理5.1得到$\widehat\lambda_{EBi}\ (i=1, 2, 3)$和E-MSE $(\widehat{\lambda}_{EBi})\ (i=1, 2, 3)$,其计算结果如表 1-4所示($c=1$).

从表 1-4的计算结果来看,对相同的$n(n=20, 40, 60, 80, 100)$, $\widehat\lambda_{EBi}$$(i=1, 2, 3)$的计算结果非常接近, E-MSE$(\widehat{\lambda}_{EBi})$$(i=1, 2, 3)$的计算结果也非常接近;随着$n(n=20, 40, 60, 80, 100)$ (样本容量)的增加, $\widehat\lambda_{EBi}\ (i=1, 2, 3)$越来越接近, E-MSE$(\widehat{\lambda}_{EBi})\ (i=1, 2, 3)$也越来越接近.

从表 1-4的计算结果可以看出,对相同的$n(n=20, 40, 60, 80, 100)$, E-MSE$(\widehat{\lambda}_{EBi})$$(i=1, 2, 3)$有如下顺序关系: E-MSE$(\widehat\lambda_{EB1})<$E-MSE$(\widehat\lambda_{EB2})<$E-MSE$(\widehat\lambda_{EB3})$.

因此如果以"E-MSE"作为评价标准,在E-MSE越小越优的意义下, $\widehat \lambda_{EB1}$"优于"$\widehat \lambda_{EB2}$, $\widehat \lambda_{EB2}$"优于"$\widehat \lambda_{EB3}$.

从表 1-4的计算结果还可以看出,不同的损失函数,对$\widehat\lambda_{EBi}\ (i=1, 2, 3)$和E-MSE$(\widehat{\lambda}_{EBi})$$(i=1, 2, 3)$的计算结果有一些的影响(但影响不大),并且随着$n$(样本容量)的增加其影响越来越小.

已知某细胞单位所含白细胞的个数服从Poisson分布,对1008个细胞单位进行观察,所得数据如表 5所示(见文献[13]).其中$k$表示细胞单位所含白细胞的个数, $n_{k}$表示1008个观测单位中含有$k$个白细胞的细胞单位数.

根据表 5、定理4.1和定理5.1,可以得到$\widehat\lambda_{EBi}\ (i=1, 2, 3)$和E-MSE$(\widehat{\lambda}_{EBi})\ (i=1, 2, 3)$,其计算结果如表 6、图 1和图 2所示$(c=1, 3, 5, 7, 9 )$.

说明  在图 1中, $\circ$表示$\widehat \lambda_{EB1}$, +表示$\widehat \lambda_{EB2}$, $\ast$表示$\widehat \lambda_{EB3}$.在图 2中, $\circ$表示E-MSE$(\widehat{\lambda}_{EB1})$, +表示E-MSE$(\widehat{\lambda}_{EB2})$, $\ast$表示E-MSE$(\widehat{\lambda}_{EB3})$.

从表 6、图 1和图 2可以看出,对不同的$c(c=1, 3, 5, 7, 9)$, $\widehat \lambda_{EBi}\ (i=1, 2, 3)$和E-MSE$(\widehat{\lambda}_{EBi})$$(i=1, 2, 3)$都是稳健的;对相同的$c(c=1, 3, 5, 7, 9)$, $\widehat\lambda_{EBi}\ (i=1, 2, 3)$非常接近, E-MSE$(\widehat{\lambda}_{EBi})\ (i=1, 2, 3)$也非常接近,且有如下顺序关系: E-MSE$(\widehat\lambda_{EB1})<$ E-MSE$(\widehat\lambda_{EB2})<$ E-MSE$(\widehat\lambda_{EB3})$.

由于对不同的$c (c=1, 3, 5, 7, 9)$, $\widehat \lambda_{EBi}\ (i=1, 2, 3)$和E-MSE$(\widehat{\lambda}_{EBi})\ (i=1, 2, 3)$都是稳健的,因此在应用中,作者建议: $c$在$1, 3, 5, 7, 9$中居中取值,即取$c=5$.

本文在文献[14]的基础上,基于E-Bayes估计的定义(见定义2.1),引入了E-Bayes估计的E-MSE (expected mean square error)的定义(见定义2.2).在三个不同损失函数下,对Poisson分布的参数分别给出了E-Bayes估计(见定理4.1)及其E-MSE (见定理5.1).

回顾模拟算例和应用实例,我们发现有如下结论:

(1)不同的损失函数对$\widehat\lambda_{EBi}\ (i=1, 2, 3)$和E-MSE$(\widehat{\lambda}_{EBi})\ (i=1, 2, 3)$有一些的影响,并且随着$n$(样本容量)的增加其影响越来越小.

(2)对E-MSE$(\widehat{\lambda}_{EBi})$有如下顺序关系: E-MSE$(\widehat\lambda_{EB1})<$E-MSE$(\widehat\lambda_{EB2})<$E-MSE$(\widehat\lambda_{EB3})$.

(3)如果以E-MSE作为评价标准,在E-MSE越小越优的意义下, $\widehat \lambda_{EB1}$ "优于"$\widehat \lambda_{EB2}$, $\widehat \lambda_{EB2}$ "优于"$\widehat \lambda_{EB3}$.