马尔科夫链蒙特卡罗方法研究综述

朱新玲1，2

（1.中南财经大学信息学院430060;2.武汉科技大学管理学院，武汉430081）

要：MCMC是当前广泛应用的统计计算方法，文章对MCMC方法的基本思想、基本方法进

摘

行了简单介绍，分析了该方法的应用难点，对该方法目前的主要应用领域进行了述评，最后介绍了该方法的实现软件。

关键词：MCMC；Gibbs抽样；Metropolis-Hastings算法；中图分类号：O211.62

文献标识码：A

文章编号：1002-87（2009）21-0151-02

（2）产生样本：由覬中的某一点x(0)出发，用（1）中的

0引言从理论上说，贝叶斯推断和分析是容易实施的，即对于

Markov链进行抽样模拟，产生点序列：x(1)，…，x(n)；

（3）蒙特卡洛积分。任一函数f(x)的期望估计为：E[f(x)]=

n

任何先验分布，只需要计算所需后验分布的性质，如后验分布的矩（如后验均值、后验方差）、后验概率密度函数等，而这些计算本质上就是计算后验分布某一函数的高维积分。但在实践中，鉴于未知参数的后验分布多为高维、复杂的非常见分布，对这些高维积分进行计算十分困难，这一困难使得贝叶斯推断方法在实践中的应用受到很大的，在很长一段时间，贝叶斯推断主要用于处理简单低维的问题，以避免计算上的困难。MCMC（MarkovChainMonteCarlo）方法突破了这一原本极为困难的计算问题，它通过模拟的方式对高维积分进行计算，进而使原本异常复杂的高维积分计算问题迎刃而解，使贝叶斯方法仅适用于解决简单低维问题的状况大有改观，为贝叶斯方法的应用开辟了新的道路。

——马尔科夫链蒙特卡罗方法产生于19世纪50MCMC—年代早期，是在贝叶斯理论框架下，通过计算机进行模拟的

1

n-m2t=m+1

Σf(x)。

(t)

MCMC的几种方法在采用MCMC方法时，马尔科夫链转移核的构造至关

重要，不同的转移核构造方法，将产生不同的MCMC方法，目前常用的MCMC方法主要有两种，Gibbs抽样和Metropo-

lis-Hastings算法。2.1

Gibbs抽样

Gibbs抽样是现实中最简单、应用最广泛的MCMC方

法，由Geman最初命名提出，其基础思路如下：

给定任意的初始向量x(0)=(x1(0)，…，xk(0))；从π(x1|x2(0)，…，xk(0))中抽取样本x1(1)；从π(x2|x1(1)，…，xk(0))中抽取样本x2(1)；…

从π(xj|x1(1)，…xj-1(1)，xj-1(0)，…，xk(0))中抽取样本xj(1)；…

从π(xk|x1(1)，…，xk-1(1))中抽取样本xk(1)；

至此，完成x(0)→x(1)的转移。经过n次迭代，可得后验样本

MonteCarlo方法，该方法将Markov过程引入到MonteCarlo模

拟中，实现抽样分布随模拟的进行而改变的动态模拟，弥补了传统的蒙特卡罗积分只能静态模拟的缺陷，是近年来广泛应用的统计计算方法，本文将对MCMC方法做一简单的综述。

1MCMC的基本思路MCMC方法是使用马尔科夫链的蒙特卡罗积分，其基本

x(1)，x(2)，…,x(n)。根据后验样本可计算后验分布的各阶矩，进行

相应的统计推断。

2.2Metropolis-Hastings算法

Metropolis-Hastings算法是较早出现且比较一般化的

思想是:构造一条Markov链，使其平稳分布为待估参数的后验分布，通过这条马尔科夫链产生后验分布的样本，并基于马尔科夫链达到平稳分布时的样本(有效样本)进行蒙特卡罗积分。设覬为某一空间，n为产生的总样本数，m为链条达到平稳时的样本数，则MCMC方法的基本思路可概括为：

（1）构造Markov链。构造一条Markov链，使其收敛到平稳分布π(x)；

MCMC方法，最初由Metropolis等人在1953年提出，之后由Hastings对其加以推广，形成了Metropolis-Hastings方法。该

方法的基本思路是：选择一转移函数q(x；x（i-1）)和初始值x(0)，若第i次迭始时的参数值为x(i-1)，则第次迭代过程为：

（1）从q(x；x(i-1))中抽取一个备选值x'；

基金项目：2009年湖北省人文社科基金资助项目（2009q017）；武汉科技大学校基金资助项目（2500）

统计与决策2009年第21期（总第297期）

151

（2）计算接受概率：α(x(i-1)，x')=min{

(i-1)

(i)

π(x(i-1)；x')}；π(x(i-1))q(x'；x(i-1))(i-1)

4.1

(i)

精算领域

随着贝叶斯思想和方法被大量引入到精算学中，MCMC

（3）以概率α(x,x')，置x=x'，以概率1-α(x，x')，置x=

(2)

(n)

方法在精算学中的使用也越来越广泛，研究日益增多。目前主要在经验费率的估计、未决赔款准备金与复合损失模型以及健康保险和生命表三方面的研究成果较多。如：Carlin（1992）运用MCMC方法构建了非标准精算时间序列的贝叶斯状态空间，Makov（1996）把MCMC方法运用到损失理赔准备金模型；Pai（1997）用MCMC方法来分析保险索赔的复合模型，Scollnik（2001）将MCMC方法运用到保险厘定联立方程模型的贝叶斯分析以及多层信用模型的构建中，Verrall

x(i-1)；

（4）重复（1）-（3）步n次，则可得后验样本x，x，…，x。

(1)

根据后验样本可计算后验分布的各阶矩，进行相应的统计推断。

3MCMC的应用难点MCMC方法依赖于模拟的收敛性，也即其构造的马尔科

(2004)将广义线性模型与贝叶斯分析相结合，对准备金进行

了估计，等等。此外，国内的学者也对此进行了相关研究：如：任仕泉等（2001）运用MCMC方法研究了统筹医疗保险的损失分布；林静（2005）构建了基于MCMC的多层Poisson模型的索赔校正模型；林静（2006）基于MCMC方法构建了经验费率厘定的信用模型，刘乐平等（2006）从分层贝叶斯分析入手，给出了基于MCMC方法的保险公司未决赔款准备金的贝叶斯估计；朱慧明（2007）构建了基于MCMC的贝叶斯信用分析模型，改进了传统的经验费率厘定方法，等等。

夫链是否收敛？何时收敛？目前，一些学者提出了一些判断收敛性的方法，但至今仍没有完全可靠的收敛性诊断方法，这使得收敛性的诊断问题成为MCMC方法实施的难点。下面介绍三种常用的收敛性诊断方法。

3.1同时产生多条马尔科夫链

这种方法的思路是选取多个不同的初值，同时产生多条

马尔科夫链，经过一段时间后，若这几条链稳定下来，则说明算法收敛了。在实际操作中，可在同一个二维图中画出这些不同的马尔科夫链产生的后验样本值对迭代次数的散点图，如果经过若干次迭代后，这些散点图基本稳定，重合在一起，则可判断其算法收敛。

4.2计量经济学领域

计量经济模型的贝叶斯推断就是运用贝叶斯方法，基于

3.2

后验分布进行估计、检验和模型比较等，由于MCMC方法可以较方便地实现对后验分布的模拟，使得其在计量模型选

2

比率诊断法

这种方法的思路是选取多个不同的初值，同时产生T条

择、计量模型参数估计等方面的应用十分广泛。如：Carlin（1995）探讨了运用MCMC方法进行计量模型的选择问题；

马尔科夫链，记第j条链的方差估计为sj，链内方差的均值为W，链间方差为B，则：

Bauwens（1998）运用Gibbs抽样探讨了GARCH模型的贝叶

斯推断问题；Richard（1999）研究了MCMC方法在IRT模型估计中的应用；Chris（2002）研究了MCMC方法在逻辑回归模型选择中的应用；Allan（2003）研究了MCMC方法在时间序列模型中的应用；Siddhartha(2002)研究了MCMC方法在

R=

R的值趋近1，则表明MCMC模拟收敛，且比较稳定，通

常R<1.2，表明收敛性较好；如果R值很大，则表明需要增大模拟的次数，且考虑收敛速度慢的原因。

姨m-1W+1BmmWSV模型估计中的应用；Dhiman（2004）研究了MCMC方法在GARCH模型中的应用；孟利锋，张世英（2004）研究了基于MCMC方法的SV模型贝叶斯估计问题；朱慧明（2005）基于MCMC方法对AR（p）模型进行了分析；赵昕东（2006）基于MCMC方法研究了ARMA模型的选择问题，等等。4.3

金融领域

国内目前在金融学领域对MCMC方法的研究相对较少，大多数研究集中在VaR的估计，如：王春峰（2000）探讨了基于MCMC方法的金融市场风险VaR的估计问题；赵家敏（2003）运用MCMC方法计算VaR，研究了网上支付系统的风险计量问题；钟波（2008）将贝叶斯估计与极值理论相结合，探讨了基于MCMC的金融风险计算。此外，一些学者也将MCMC方法推广到金融资产的定价研究、利率模型研究、证券的长记忆性研究等方面。如：钱春沁（2003）将MCMC方法推广到期权定价模型和期限结构模型的参数估计中，探讨了MCMC在金融资产定价中的应用问题；姜仁娜（2004）研究了MCMC方法在证券的长记忆性问题；陈钟（2008）研究了利率模型的MCMC估计问题，分别给出了单因子和双因

3.3TewekeTest法

TewekeTest由一系列的Z检验组成，其基本思路是：先

对所有样本（假设有M个）做一次Z检验，然后去掉最前面的c个样本，用剩余的M-c个样本重复上述检验，再继续去掉最前面的c个样本，用剩余的M-2c个样本重复上述检验，依次类推，重复K次这样的检验，直到M-Kc<50时终止检验，观察这K次Z检验的z值，若大部分z值都落在（-2，2）内，则表明马尔科夫链已收敛到平稳分布。

4MCMC的主要应用领域MCMC方法最初应用于计算物理(Metropolis等，1953)，

Hasting(1970)的工作使其更为一般化，随后又在空间物理学、

图像分析等领域得以广泛应用，但MCMC方法在贝叶斯统计、计量、金融等领域的应用则是近几年的事。下面对其在精算、计量和金融领域的应用做一简单介绍。

152统计与决策2009年第21期（总第297期）

pGM(1,1)模型权值p的精确求解及其性质分析

李树峰1，陈志丹2

(1.燕山大学经济管理学院，河北秦皇岛066004；2.江西师范大学科学技术学院，南昌330027)

摘

要：文章分析了灰色GM(1,1)模型的缺陷即白化响应式并不是灰微分方程的真正解，以

pGM(1,1)模型白化响应式等于灰微分方程的真正解为条件，并由其背景值构造式推导出了权值p的

精确表达式。由于p值不是有限小数，因此其取值精度对预测精度有影响，基于指数序列分析了p值的取值精度对预测结果的影响。

关键词：pGM(1,1)；权值；精度中图分类号：N941

文献标识码：A

文章编号：1002-87（2009）21-0153-02

增0.01，按pGM(1,1)的建模步骤，依次求出对应的平均模拟

0引言灰色预测模型是灰色理论的重要组成部分，而GM(1,1)

相对误差，直到p=0.99为止，通过比较找到最小的平均模拟相对误差及其对应的p值，即为最佳权值。而本文将从分析

模型是灰色预测模型中最基本的预测模型，已经在许多领域得到了广泛应用[1]。但是GM(1,1)模型在许多情况下预测精度并不高，即使拟合纯指数序列也得不到满意的结果，因此一些学者对其进行了研究。刘思峰研究了GM(1,1)模型的适用范围[2]，谢乃明提出了离散GM(1,1)模型[3]，李大军提出了pGM

GM(1,1)模型缺陷入手，基于pGM(1,1)模型权值p的构造方法推导出权值p的精确表达式，并基于指数序列分析了p值取

值精度对预测结果的影响。

1GM(1,1)模型的缺陷令x(0)为GM(1,1)建模序列，

(1,1)模型[4]，每一种研究对于提高灰色预测模型的精度都有

一定的意义。

本文将对pGM(1,1)模型中权值p的求解进行研究，以往

p值的求解大都与文献[4]中相同，即p从0.01开始，每次递

子Vasicek及CIR模型的估计结果。

此外，MCMC方法在空间统计、工程领域、生态领域、天文领域，人口研究领域，医学领域等也有广泛的应用。

x(0)=(x(0)(1)，x(0)(2)，…，x（0）（n）)，令x(1)为x(0)的AGO序列，x(1)(1)=x(0)(1)；

得到参数的后验分布的均值、标准差、95%置信区间和中位数等信息,并给出后验分布的核密度估计图、参数的Gibbs抽样动态图等,使抽样结果更直观、可靠。

做为一种较新的统计计算方法，MCMC尚在发展之中，还有许多问题待于研究和解决。本文旨在通过对MCMC方法的介绍来了解当前统计领域的发展动态，以便将MCMC方法更广泛地应用到实际问题中去，推进统计学科的不断发展。

参考文献：

5MCMC的实现软件MCMC是通过计算机进行模拟的一种计算方法，它的实

现软件目前主要有WinBUGS（WindowsBayesianInference

UsingGibbsSampling）、BACC（BayesianAnalysisComputa-tionandCommunication）、R（TheRsystemof

statistical

computationandgraphics）等，目前最常用的是WinBUGS。

WinBUGS是由英国的ImperialCollege和MRC(MedicalResearchCouncil)联合开发的用MCMC方法进行贝叶斯推断

的专用软件包。使用WinBUGS可以很方便地对许多常用的模型和分布进行Gibbs抽样，编程者不需要知道参数的先验密度或似然的精确表达式，只要设置好变量的先验分布并对所研究的模型进行一般性的描述，就能很容易实现对模型的贝叶斯分析，而不需要复杂的编程。在WinBUGS中可以使用有向图模型方式(directedgraphicalmodel)对模型进行直观的描述，也可以直接编写模型程序。Gibbs抽样收敛后,可以

[1]GemanS,StochasticRelaxation.GibbsDistributionandtheBayesianRestorationofImages[J].IEEETransactionsonPatternAnalysisandMachineIntelligence,1984,(6).

[2]MetropolisN.EquationsofStateCalculationsbyFastComputingMachine[J].JournalofChemicalPhysics,1953,(21).

[3]Scollnik.D.P.M.ActuarialModelingwithMCMCandBUGS[J].NorthAmericanActuarialJournal,2001，(20).

[4]刘乐平等.基于WinBUGS软件的贝叶斯计量经济学[J].东华理工学院学报，2007，（6）.

[5]孙瑞博.计量经济学的贝叶斯统计方法[J].南京财经大学学报，2007，（6）.

（责任编辑/李友平）

统计与决策2009年第21期（总第297期）

153