第四章贝叶斯分析BayeseanAnalysis§4.0引言、决策问题的表格表示一一损失矩阵对无观察（No-data）问题a=8可用表格（损失矩阵）替代决策树来描述决策问题的后果（损失）:Aa1…aj…am九（i）l11l1j11m…兀（。li1lij…九（n）lm1lnm或冗（，…冗（J…九（JTOC\o"1-5"\h\zai11111illnaj1ij…amlm1lmn损失矩阵直观、运算方便二、决策原则通常，要根据某种原则来选择决策规则8,则，贝叶斯分析的决策原则是使期望效用极大。原则。使结果最优（或满意），这种原则就叫决策原本章在介绍贝叶斯分析以前先介绍芙他决策三、决策问题的分类：.不确定型（非确定型）自然状态不确定，且各种状态的概率无法估计..风险型自然状态不确定，但各种状态的概率可以估计.四、按状态优于：lij
评价
LEC评价法下载LEC评价法下载评价量规免费下载学院评价表文档下载学院评价表文档下载
行动aj的优劣选minlijjiij上例：lij:33343635其中行动a1的损失最小i五、后梅值极小化极大准则(svage-Niehans)定义后梅值sij=lij-minlik其中minlik为自然状态为i时采取不同行动时的最小损失.构成后梅值(机会成本)矩阵S={sij}mn,使后梅值极小化极大,即:minmaxsijiij例:损失矩阵同上,后梅值矩阵为:3102308114020324各种行动的最大后梅值为:3484其中行动a1的最大后梅值最小,所以按后梅值极小化极大准则应采取行动1.六、Krelle准则：使损失是效用的负数(后果的效用化),再用等概率(Laplace)准则.七、莫尔诺(Molnor)对理想决策准则的要求(1954)能把
方案
气瓶 现场处置方案 .pdf气瓶 现场处置方案 .doc见习基地管理方案.doc关于群访事件的化解方案建筑工地扬尘治理专项方案下载
或行动排居完全序；优劣次序与行动及状态的编号无关；若行动ak按状态优于aj，则应有ak优于aj;无关方案独立性：已经考虑过的若干行动的优劣不因增加新的行动而改变；在损失矩阵的任一行中各元素加同一常数时，各行动间的优劣次序不变；在损失矩阵中添加一行，这一行与原矩阵中的某行相同，则各行动的优劣次序不变。§4.2风险型决策问题的决策原则一、最大可能值准则令兀(卜尸max兀(i)选ar使l(k,ar)=mjinl(k,aj)例：兀(i)aia2a310.276.563((2)概率最大0.50.3各行动损失为345，应选行动a1二、贝叶斯原则使期望损失极小：min{il(i,aj)i)}上例中,各行动的期望损失分别为4.13.63.7,对应于a2的期望损失3.6最小，应选a2.三、贝努利原则损失函数取后果效用的负值，再用Bayes原则求最优行动.四、E—V(均值一方差)准则若EI。wE儿且jk则aj优于ak通常不存在这样的aj上例中：a1a2a3E4.13.63.7V(2)2.293.795.967不存在符合E-V准则的行动，这时可采用f(小b)的值来判断(心-(X(Tf(a,(r)=a-(x(r2|1-(X(|12+(T2)f越大越优.五、不完全信息情况下的决策原则(Hodges-Lehmann原则)状态概率分布不可靠时，可采用：j(aj尸入uji+minuji=1,2,…，mj=1,2,i(f)越大越优.科为效益型后果的期望)…，n叶斯定理一、条件概率.A、B为随机试验E中的两个事件P(A|B)=P(AB)/P(B)由全概率公式：A、j=1,2,…,n是样本空间的一个划分,P(B尸P(B|Aj)P(A、)得Bayes公式P(A|B尸P(B|A)•P(A)/P(B)=P(B|A)P(A)/P(B|Aj)P(Aj)2.对O,X两个随机变量•条件概率密度f(0|x)=f(x|0)f(0)/f(x)•在主观概率论中兀(0|x)=f(x|0)%(0)/m(x)其中：兀(。)是。的先验概率密度函数f(xI0)是。出现时，x的条件概率密度，又称似然函数.m(x)是x的边缘密度，或称预测密度.m(x)=f(x|0)%(0)d0或P(x|i)兀(i)iTt(0Ix)是观察值为x的后验概率密度。例：A坛中白球30峨球70%B坛中白球70烟球30%两坛外形相同，从中任取一坛，作放回摸球12次，其中白球4次，黑球8次，求所取为A坛的概率.解：设观察值4白8黑事件为x,记取A坛为1,取B坛为2在未作观察时，先验概率p(1)=p(2)=0.5则在作观察后，后验概率P(i|x)=p(x|i)p(1)p(x|i)p(i)+p(x|2)p(2)TOC\o"1-5"\h\z484848=03X07X0.5/(03X07X0.5+0.7X03X0.5)4.44=0.7((0.7X03)=0.24010.2482=0.967显然，通过试验、观察、可修正先验分布.§4.4贝叶斯分析的正规型与扩展型一、正规型分析由Baysean原则：先验分布为兀(。)时，最优的决策规则8是贝叶斯规则，使贝叶斯风险r(兀，)=infr(兀，8(x))其中：r(兀，8(x))=ER(0,S(x))=E[Exl(0,8(x))=l(0,S(x))f(x|0)dx%(0)d0(1)x据(1)式，选使r(兀，8)达到极小，这就是正规型的贝叶斯分析。在解实际问题时，求使(1)式极小的8(x)往往十分困难，尤其在状态和观察值比较复杂时，A集中的策略数目很大，穷举所有的8(x)有困难，且计算量颇大。实际上可用下法：二、扩展型贝叶斯分析(ExtensiveFormAnalysis)在(1)式中因l(0,S)>-巴f(x|。)，兀(。)均为有限值。・•.由Fubini定理，积分次序可换即r(兀，8(x))=l(。，8(x))f(x|0)dx%(0)d0=l(9,8(x))f(x|0)%(0)d0dx(2)x显然，要使(2)式达到极小，应当对每个xCX,选择8,使l(0,S(x))f(x|0)%(0)d0(2')为极小•••6(x)=a若对给定的x,选a,使l(0,S(x))f(x|0)%(0)d0为极小亦即，1使l(0,a)f(x|0)%(0)d0m(x)=l(i,a)兀(i|x)d9或l(i,a)p(i|x)(3)达极小，即可使(1)式为极小.结论：对每个x,选择彳T动a,使之对给定x时。的后验分布兀(0|x)的期望损失为极小，即可求得贝叶斯规则。这种方法叫贝叶斯分析的扩展型，由此确定的贝叶斯规则叫formalBayeseanRule——RaiffaSehlaifer,1961年提出。Note使(3)式达极小的行动可能不只一个，即可能有多个贝叶斯规则；扩展型比正规型更直观，也容易计算，故更常用；许多分析人员只承认扩型，理由是：i,兀(。Ix)描述了试验后的。的分布，比兀(。)更客观，因此，只要损失函数是由效用理论导出的(即考虑了DMer的价值判断、风险偏好)，在评价行动a的优劣时就应当用后验期望损失。ii,r(兀，8)是根据兀(。)求出的，而用先验分布兀(。)来确定行动a并不一定适当。从根本上讲，这种观点是正确的。・无论从何种观点来进行贝叶斯分析，从理论上讲，结果是一样的，所以采用何种方法可视10010具体问题，据计算方便而定。•已经证明，形式贝叶斯分析对一类非随机性决策规则是成立的，也可以证明它对随机性决策规则同样成立。使所有x上后验期望损失极小的贝叶斯规则也是随机性规则集A*中的Bayes规则，因此，总可以找到一验期望损失极小的非随机性规则。三、例（先看无观察问题）农民选择作物问题，设某地旱年1占60%正常年景2占40%;a1种植耐旱作物a2种不耐旱作物，后果矩阵为：a1a21200260100决策人的效用函数u(y尸—(1-eQ02y)0865解：i令：l(y)=1-u(y)yu20.3860.8100ii,作决策树:l.62.19111iii,在无观察时,R=l,r=l(i，a)兀(i)r(兀,ai)=l(1，aj兀(i)+l(2，aj兀(2)=0.62x0.6+0.19x0.4=0.448r(兀，a2)=l(i,a?)兀(i)+l(2,a?)兀(2)=1.0x0.6+0x0.4=0.6风险r小者优，8=a1，是贝叶斯规则，即贝叶斯行动.即应选择耐旱作物。四、例(续上)设气象预报的准确性是0.8,即p(xj1)=0.8p(x2|2)=0.8其中，X1预报干旱X2预报正常年景则m(X1)=p(X1|1)兀(1)+p(X/2)兀(2)=0.8X0.6+0.2X0.4=0.56m(x2)=0.44兀(1|Xl=p(X1|1)71(1)/m(X1)=0.8X0.6/0.56=0.86兀(1|X2)=p(X211)兀(1)/m(X2)=0.2X0.6/0.44=0.27%(2|X1)=0.14兀(2|X2)=0.731.正规型分析①策略1:a1=1(x1)a2=1(x2)r(兀，1)=l(i,1(Xj))p(Xj|J兀(i)4-7=1(1，a1)p(X1|1)兀(1)+1(1，a2)p(X2|1)it(1)2，a1)p(X1|2)兀(2)+l(2，a2)p(X2|2)兀(2)②策略r(③策略r(④策略r(=0.62x0.8x0.6+1.0X0.2x0.6+0.19X0.2X0.4+0.0X0.8X0.4=0.4328ai=2）二l(=0.62=0.61523・1)(X2)a22(X1)l(2(Xj))p(Xj|i）兀（i）1,a1)P(2,a1)p(x0.23(X1)3)=0.45a2=44)=0.6vr(7tX2IX2|x0.6+1.0(Xi)3)1)兀(1)+1(2)兀(2)+1(1,a2)p(X111)兀(1)2，a2)p(X112)兀(2)x0.8x0.6+0.19x0.8x0.4+0.0x0.8x0.43(X2)a2=4(X2)Vr(兀，4)1是贝叶斯行动。vr(兀，2）(2IX1)(1lX2)(2|X2)(11冈…乜^(1|X1)(2|X1)f4－82.扩展型之一：据(2’):1(。，8(x))f(x|0)%(0)d0记作r①给定x1(预报干旱):采用air'=1(i,ai)P(Xi|i)tt(i)i,ai)P(xi|i)%(i)+l(2,ai)p(X1|2)兀(2)=0.62X0.8X0.6+0.i9X0.2X0.4=0.3i282,a2)P(xi|2)兀(2)采用a2r'=1(i,a2)p(xi|i)7t(i)+1(=0.48•.•风险小者优・•・给定xi应选ai②给定x2(预报天气正常)采用air'=1(i,ai)P(x2|i)兀(i)+l(2,ai)P(x2|2)兀(2)=0.62X0.2X0.6+0.i9X0.8X0.4=0.i35采用a2r'=1(i,a2)P(xi|i)Tt(i)+1(2,a2)P(xi|2)兀(2)=i.0X0.2X0.6+0=0.i2，给定x2应选a2Bayes规则ai=(xi)a2=(x2)3.扩展型之二：据(3)式即1(i,a)7t(i|x)d0或i1(i,a)兀(i|x)(记作r”)①给定xi,采用air”=1(i,ai)n(i|xi)=1(i,ai)兀(i|xi)+1(2,ai)兀(2|xi)=0.62=0.56X0.86+0.i9X0.i4采用a2r”=1(i,a2)it(i|xi)+1(2,a2)兀(2|xi)=i.0X0.86+0X0.i4=0.86xi，应选行动ai.②给定x2米用a1r"=l(i,a1)兀(iIX2)=l(i,aj兀(i|X2)+l(2,aj兀(2|X2)=0.62X0.27+0.19X0.73=0.3061采用a2r”=l(i,a2)兀(i|x2)=l(1,a2)兀(1|X2)+l(2,a2)兀(2|X2)=1.0x0.27+0X0.73=0.27，给定x2应选择行动a2.，形式Bayes规则a〔=(xi)a2=(X2)§4.5非正常先验与广义贝叶斯规则一、非正常先验(ImproperPrior)概率测度的三个条件：i,
规范
编程规范下载gsp规范下载钢格栅规范下载警徽规范下载建设厅规范下载
性：P(Q)=1ii,非负性：0WP(A)W1iii,可列可加性在设定先验分布时，若不满足规范性，则称为非正常先验^二、广义贝叶斯规则(GeneralBayeseanRuje).定义：决策问题的损失函数为l(0,a),((。)为非正常先验分布，对给定的i,使l(0,S(x))f(x|0)%(0)d0为极小，或者0vm(x)v—8时，使l(i,a)兀(i|x)d0为极小的策略(行动)，构成广义贝叶斯规则..Nole:①在许多重要场合，所有允许的都是GBR②在无法得到正常先验时，除此别无良策；③GB林一定是最好的决策规则4.6一种具有部分先验信息的贝叶斯分析法一、概述.思路：在部分先验信息难以唯一地确定兀(。)时，抛开唯一性要求，转而确定与已知先验信息相符的先验分布的集。.符号©和A为有限集：@={1,2,…，n}A={ai,a2,…，am}损失矩阵L={lj}nmlj=|(「aj)ii,根据贝叶斯分析的扩展型给定x,应从集合A中选一行动ak，使q(a)=l(i，a)p(Xi|i)兀(J为极小，亦即TOC\o"1-5"\h\zak=argminq(a)或q(ak)0(5’)记(LT—1LT)diag{pi(x)}为Dk(x),式(5’)可表示为：Dk(x)T>0(5”)3.(5”)式的含义⑴给定x,先验分布为兀时，应选ak使5(即5',亦即5")式成立。(2)对给定的x,要使ak成为贝叶斯行动，工应满足5(即5',亦即5")式.由(2)可以定义k(x)={工5Dk(x)工>Q;ii1,产0}式中，口是先验分布的所有可能的集，k(x)是口的一个子集，它能i,使对给定x为Bayes行动满足规范性和非负性二、分析步骤.确定k(x).确定先验信息对先验分布兀(。)的约束：Q={工C川A工>0,ii1,产0}式中，AK>0是先验信息对先验分布((0)的约束..结论：当k(x)与Q有非空交集时，ak为Bayes行动.三、例TOC\o"1-5"\h\z已知：i,Q={兀en|产0.5,2>3,3>104,..1}、1I4。。।iJ由已往的统计资料，三种病患者的白血球计数：f(x|1)=N(3000,10002)f(x|2)=N(3000,10002)f(x|3)=N(3000,10002)观察：x=5000要求判定：患者得什么病解：p(x|1)=p(5000|1)50504950(x)2-7；~丁2dxx*22.051一e2dx1.95...2=0.9798-0.9744=0.0054同理可得：p(x|2)=0.0091p(x|3)=0.0000105000•.LT-1l：=110101TOC\o"1-5"\h\z0111011.L=101,1l1T=101101111010115.410110diag{pi(x)}=0.19.11100101017TOC\o"1-5"\h\z000D1=5.49.105.40.017D1(5000)•工》0即5419.125.40.017301(5000)={工en|厂1.692>0,1-0.003153>0,1}同理可得2(5000)和3(5000)三、几何意义1.由ii13.从Dk(x)三＞0得123.
浙公网安备 33021202002483