第04讲 智能决策理论与方法-2

决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法v归纳学习归纳学习是指从给定的关于某个概念的一系列已知是指从给定的关于某个概念的一系列已知的正例和反例中归纳出一个通用的概念描述。的正例和反例中归纳出一个通用的概念描述。v泛化泛化(Generalization)是用来扩展一假设的语义信息，是用来扩展一假设的语义信息，使其能够包含更多的正例。泛化所得到的结论并不使其能够包含更多的正例。泛化所得到的结论并不总是正确的。总是正确的。v常用泛化方法常用泛化方法：将常量转为变量规则将常量转为变量规则：对于概念：对于概念F(v)，如果，如果v的某些取值的某些取值a,b,使使F(v)成立，则这些概念可被泛化为：对于成立，则这些概念可被泛化为：对于v的所有的所有值，值，F(v)均成立：均成立：)()(|)()(vFvbFaF决策理论与方法-智能决策理论与方法)()(Re|)()()(RevApplevdvApplevCirclevd)()()(Re|)()(RevApplevBluevdvApplevd)()()(Re|)()()(RevApplevCirclevdvApplevCirclevd决策理论与方法-智能决策理论与方法sxLxbvAauA)()(|)()(决策理论与方法-智能决策理论与方法动物哺乳类鸟类企鹅食肉类蹄类飞禽类走禽类虎印度豹长颈鹿斑马信天翁鹰驼鸟第1层第2层第3层第4层决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法A0A1A1A2-11-11-110010110决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法A0A1A1A2-11-11-110010110决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法)log()log(),(NPNNPNNPPNPPNPI决策理论与方法-智能决策理论与方法kjjjjjNPINPNPAE1),()(决策理论与方法-智能决策理论与方法0.9544)1610log(1610)166log(166),(NPI9056. 0)84log8484log84(168)86log8682log82(168)4 , 4(168)6 , 2(168)(0IIAE类似地，求出类似地，求出E(A1)，E(A2)，E(A3)。比较它们的大小，选择。比较它们的大小，选择期望信息熵最小的属性作为根结点。依次构造子决策树，直至期望信息熵最小的属性作为根结点。依次构造子决策树，直至所有的训练样本均能够被正确分类。所有的训练样本均能够被正确分类。决策理论与方法-智能决策理论与方法)()()(ASplitiAGainAgainratiokjjjjjnNPnNPASpliti1)log()(决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法xxxxxf|)(xxxf11)(xxxeexforexf11)(11)(决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法PppPpppEYYE1121)(21决策理论与方法-智能决策理论与方法 1jijijiEttt决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法012345678910-0.500.511.522.533.54012345678910-0.500.511.522.533.540510152025303540455010-310-210-110010110250 EpochsTraining-BluePerformance is 0.00225488, Goal is 0决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法dxdyyxpyxffR),()()(liiiempyxflfR1)(1)()()(limfRfRempl决策理论与方法-智能决策理论与方法)(min()(min(limfRfRempl决策理论与方法-智能决策理论与方法lhlhfRfRemp)4ln) 12(ln()()(决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法2|wbwxdii决策理论与方法-智能决策理论与方法1)(. .21minbwxytswwiiT决策理论与方法-智能决策理论与方法dixxxxK)1 (),(21)/exp(),(2221ixxxxK)(tanh(),(2121kxxkxxKi决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法),(,),(),(),(PcP210iiiikiiiiiiiiCciCccccccccc3kik ki i-121ikieci1ikic2ic1ic0iics 决策理论与方法-智能决策理论与方法)(122)()()(11iiililssijisesmsc决策理论与方法-智能决策理论与方法miikill1) 1)(决策理论与方法-智能决策理论与方法)()(),(/UCardXCCarddCkdUX决策理论与方法-智能决策理论与方法NiiiidCdCN1),(),(决策理论与方法-智能决策理论与方法s40.31s20.49s10.14s30.06决策理论与方法-智能决策理论与方法1)() 1)(11irkjlijj) 1)() 1)(11iijjkilkjl决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法)() 1)(11irkjlijj决策理论与方法-智能决策理论与方法决策理论与方法-智能决策理论与方法c1c2c3dc1c2c3d1911922.6134.527093.122612031.2138.720278.2116.1931515.519910.9228.718653.411112013.2217.110117.2218.812122.7113.615020.4123.226652.5114.8588.6113.514119.1120.46513.3123.321449.8140.417269.611c2c3c11c12c21c22c31c32c33c决策理论与方法-智能决策理论与方法c1c2c3dc1c2c3d211122322121213120010102213111022112 221111111223110011111200121312131决策理论与方法-智能决策理论与方法