模式识别习题

第一章绪论1 .什么是模式？具体事物所具有的信息。信息 。模式所指的不是事物本身，而是我们从事物中获得的2 .模式识别的定义？ 让计算机来判断事物。3 .模式识别系统主要由哪些部分组成？数据获取一预处理一特征提取与选择一分类器设计/分类决策。第二章贝叶斯决策理论如果 l ( x)p ( w 2 ) / p ( w 1 ) _,则 x1 .最小错误率贝叶斯决策过程？答：已知先验概率，类条件概率。利用贝叶斯公式得到后验概率。根据后验概率大小进行决策分析。2 .最小错误率贝叶斯分类器设计过程？答：根据训练数据求出先验概率P ( w i ), 类条件概率分布p ( x | w i ), i 1 , 2利用贝叶斯公式得到后验概率 P (wi 1 x)P(wi |x)P (x | wi)P(wi)2P(x |w j)P(wj) j 11 ,2P (x | wi ) P (wi)2P(x |w j)P(wj )1如果输入待测样本 X,计算X的后验概率根据后验概率大小进行分类决策分析。3 .最小错误率贝叶斯决策规则有哪几种常用的表示形式?决策规则的不I司形式工孽点)如贝尸|= max:尸(则X二Vt；如果p(x =max |尸),同h*(3)i A-= - 11 /( JV ) = - 111 I W. ) + 111 I 1)vlnX 尸(Wj )腹j# 三下尸5小4 .贝叶斯决策为什么称为最小错误率贝叶斯决策？答：最小错误率Bayes决策使得每个观测值下的条件错误率最小因而保证了(平均)错误率最小。Bayes决策是最优决策：即，能使决策错误率最小。5 .贝叶斯决策是 由先验概率和(类条件概率)概率，推导(后验概率)概率，然后利用这 个概率进行决策。6 .利用乘法法则和全概率公式证明贝叶斯公式答:p(AB) p(A|B)p(B) p(B|A)p(A)mp(B) p(B|Aj)p(Aj)j 1所以推出贝叶斯公式P(B |Ai)P(Ai)P ( B )P ( B | A i ) P ( A i ) 7MP ( B | A j ) P ( A j )7 .朴素贝叶斯方法的条件独立假设是( P(x| wi) =P(x1, x2,，xn | co i)=P(x1| co i) P(x2| coi)P(xn| coi)8 .怎样利用朴素贝叶斯方法获得各个属性的类条件概率分布？答：假设各属性独立，P(x| co i) =P(x1, x2,xn | wi) = P(x1| i) P(x2| coi)P(xn| i)后验概率：P(coi|x) = P(coi) P(x1| co i) P(x2| coi)P(xn| i).、1m.均值：mean(x) xim i 1类别清晰的直接分类算，如果是数据连续的，假设属性服从正态分布，算出每个类的均值方 差，最后得到类条件概率分布。1 m万差：var(x) (xi x)A2m 1 i 19 .计算属性Marital Status的类条件概率分布给表格计算，婚姻状况几个类别和分类几个就求出多少个类条件概率。10,朴素贝叶斯分类器的优缺点？答：分类器容易实现。面对孤立的噪声点，朴素贝叶斯分类器是健壮的。因为在从数据中估计条件概率时。这些点被平均。面对无关属性，该分类器是健壮的。相关属性可能降低分类器的性能。因为对这些属性，条件独立的假设已不成立。11 .我们将划分决策域的边界称为(决策面)，在数学上用可以表示成 (决策面方程)12 .用于表达决策规则的函数称为(判别函数)13 .判别函数与决策面方程是密切相关的，且它们都由相应的决策规则所确定14 .写出多元正态概率下的最小错误率贝叶斯决策的判别函数，即q(x) ln(p(x| i)P( i)1(X 内)T i 1 (x 内)d1gi (x) gj (x) 021n 221n | i| In P( i)15 .多元正态概率下的最小错误率贝叶斯决策的决策面方程为16 .多元正态概率下的最小错误率贝叶斯决策，当类条件概率分布的协方差矩阵为i 2 时，每类的协方差矩阵相等，且类内各特征间(相互独立) ，并具有相等的方差。17 .多元正态概率下的最小错误率贝叶斯决策，如果先验概率相等，并2且i=1,2,.c,那么分类问题转化为只要计算待测样本x到各类均值的(欧式距离)，然后把x归于具有(最小距离平方)的类。这种分类器称为(最小距离分类器)。18 . I 己知样本类条件概率由度，中小二)0 其中n=(2上。产w = 4.丘，* P(电)=0.乙，如果用星小霜i吴率贝叶斯决策来进行分类器设计，决策而耨 不通过 C通JH*不通过外和“连线的中点决策面与I句最19正交 交,不正交)。19 .多元正态概率下的最小错误率贝叶斯决策，类条件概率密度各类的协方差矩阵不相等时，决策面是(超二次曲面)，判别函数是(二次型)证明:多元正态概率下的最小错误率贝叶斯决策，对于2=，f , r = L 2 c的特殊情况,最终的决策面方程为超平面口证明二多元正态概率下的最小错误率贝叶斯决策，对于F =F i-1 2 C的特殊情况，最终的决策面方程为：岳3=/。-硝修二叼）131 尸（叫碣=洲 +1）-；丁三=7 & - %）2 （旧-因） （内一町多元正态概率卜的最小错设率贝叶斯决策，对于二=er2/, z = L 2ci的特殊情况.证明光弊概率相等时,形成的分类罂曷最小 即高分类器。多元正态概率卜的最小错误率贝叶斯决策，对于E =二 ，=I-/的特殊情况.证明判别函数是线件的.2.6对麟可虬让腿小腿叫喊策顾咻示为吗）为一短电p八一I铲”口两浮飞.Rcc.=*工）=F（如，）+ z.J9（, x）s IL J I 1匕H - IR （。士 = ffl2 | x）=见打尸（tWj | x） + jt22P（/a2 | x）用Bayes公式展开，最小风险贝叶斯决策决 策得到：如果星三回上MJ I 出）如果必三包_ P（工I%）（2 2靠）尸t，叱）（4? 一/）尸（） （& 一 4口）尸（叱）则，ME他则 t X r时，L-r法是一种自下而上的算法，先执行第一步，然后执行第二步，开始时，设置k=0 , x0=空（2）当Lr时，L-r法是一种自上而下的算法，此时先执行第二步，然后执行第一步，开始 时设置 k=0, x0=x1 ,，xD2模拟退火法采用 Metropolis接受准则，冷却进度表的主要参数包括（温度 T的初始值， 控制参数T的衰减函数，Mapkob链的长度，停止准则）。3.遗传算法的运算过程主要分四个阶段：包括编码阶段、选择阶段、交叉阶段、（变异阶段）其中，（选择）阶段可以加入最优保留策略，该策略的优点是（保留有利的，不利的淘汰） 遗传算法的初始群体规模过小，可能导致算法（局部最优）现象发生，从而降低算法的搜 索性能。遗传算法的终止条件有多种，你认为使用（？）方法终止算法，能较好提高搜索 结果的质量。