多元回归及复相关分析.ppt

2020/6/8,1,第十一章多元回归及复相关分析,2020/6/8,2,一元线性回归,多元线性回归,回归分析,数学模型及定义,*模型参数估计,*检验、预测与控制,可线性化的一元非线性回归（曲线回归）,数学模型及定义,*模型参数估计,*多元线性回归中的检验与预测,逐步回归分析,2020/6/8,3,11.1、多元线性回归方程,2020/6/8,4,一、多元线性回归模型,2020/6/8,5,二、模型参数估计,解得估计值,2020/6/8,6,2020/6/8,7,三、多元线性回归中的检验与预测,（）F检验法,(残差平方和）,2020/6/8,8,三、多元线性回归中的检验与预测,（）r检验法,2020/6/8,9,2、预测,（1）点预测,（2）区间预测,2020/6/8,10,四、逐步回归分析,（4）“有进有出”的逐步回归分析。,（1）从所有可能的因子（变量）组合的回归方程中选择最优者；,（2）从包含全部变量的回归方程中逐次剔除不显著因子；,（3）从一个变量开始，把变量逐个引入方程；,选择“最优”的回归方程有以下几种方法：,“最优”的回归方程就是包含所有对Y有影响的变量,而不包含对Y影响不显著的变量回归方程。,以第四种方法，即逐步回归分析法在筛选变量方面较为理想.,2020/6/8,11,这个过程反复进行，直至既无不显著的变量从回归方程中剔除，又无显著变量可引入回归方程时为止。,逐步回归分析法的思想：,从一个自变量开始，视因变量Y作用的显著程度，从大到小地依次逐个引入回归方程。,当引入的自变量由于后面变量的引入而变得不显著时，要将其剔除掉。,引入一个自变量或从回归方程中剔除一个自变量，为逐步回归的一步。,对于每一步都要进行Y值检验，以确保每次引入新的显著性变量前回归方程中只包含对Y作用显著的变量。,2020/6/8,12,统计工具箱中的回归分析命令,1、多元线性回归,2、多项式回归,3、非线性回归,4、逐步回归,2020/6/8,13,多元线性回归,b=regress(Y,X),1、确定回归系数的点估计值：,2020/6/8,14,3、画出残差及其置信区间：rcoplot（r，rint）,2、求回归系数的点估计和区间估计、并检验回归模型：b,bint,r,rint,stats=regress(Y,X,alpha),2020/6/8,15,例1,解：,1、输入数据：x=143145146147149150153154155156157158159160162164;X=ones(16,1)x;Y=8885889192939395969897969899100102;,2、回归分析及检验：b,bint,r,rint,stats=regress(Y,X)b,bint,stats,ToMATLAB(liti11),题目,2020/6/8,16,3、残差分析，作残差图：rcoplot(r,rint),从残差图可以看出，除第二个数据外，其余数据的残差离零点均较近，且残差的置信区间均包含零点，这说明回归模型y=-16.073+0.7194x能较好的符合原始数据，而第二个数据可视为异常点.,4、预测及作图：z=b(1)+b(2)*xplot(x,Y,k+,x,z,r),返回,ToMATLAB(liti12),2020/6/8,17,多项式回归,（一）一元多项式回归,y=a1xm+a2xm-1+amx+am+1,2020/6/8,18,法一,直接作二次多项式回归：t=1/30:1/30:14/30;s=11.8615.6720.6026.6933.7141.9351.1361.4972.9085.4499.08113.77129.54146.48;p,S=polyfit(t,s,2),ToMATLAB（liti21）,得回归模型为：,2020/6/8,19,法二,化为多元线性回归：t=1/30:1/30:14/30;s=11.8615.6720.6026.6933.7141.9351.1361.4972.9085.4499.08113.77129.54146.48;T=ones(14,1)t(t.2);b,bint,r,rint,stats=regress(s,T);b,stats,ToMATLAB(liti22),得回归模型为：,Y=polyconf(p,t,S)plot(t,s,k+,t,Y,r),预测及作图,ToMATLAB(liti23),2020/6/8,20,（二）多元二项式回归,命令：rstool（x，y，model,alpha）,2020/6/8,21,例3设某商品的需求量与消费者的平均收入、商品价格的统计数据如下，建立回归模型，预测平均收入为1000、价格为6时的商品需求量.,法一,直接用多元二项式回归：x1=10006001200500300400130011001300300;x2=5766875439;y=10075807050659010011060;x=x1x2;rstool(x,y,purequadratic),2020/6/8,22,在画面左下方的下拉式菜单中选”all”,则beta、rmse和residuals都传送到Matlab工作区中.,在左边图形下方的方框中输入1000，右边图形下方的方框中输入6。,则画面左边的“PredictedY”下方的数据变为88.47981，即预测出平均收入为1000、价格为6时的商品需求量为88.4791.,2020/6/8,23,在Matlab工作区中输入命令：beta,rmse,ToMATLAB(liti31),2020/6/8,24,结果为:b=110.53130.1464-26.5709-0.00011.8475stats=0.970240.66560.0005,法二,ToMATLAB(liti32),返回,2020/6/8,25,非线性回归,（1）确定回归系数的命令：beta，r，J=nlinfit（x，y，model,beta0）,（2）非线性回归命令：nlintool（x，y，model,beta0，alpha）,1、回归：,2020/6/8,26,例4对第一节例2，求解如下：,2、输入数据：x=2:16;y=6.428.209.589.59.7109.939.9910.4910.5910.6010.8010.6010.9010.76;beta0=82;,3、求回归系数：beta,r,J=nlinfit(x,y,volum,beta0)；beta,得结果：beta=11.6036-1.0641,即得回归模型为：,ToMATLAB(liti41),题目,2020/6/8,27,4、预测及作图：YY,delta=nlpredci(volum,x,beta,r,J)；plot(x,y,k+,x,YY,r),ToMATLAB(liti42),2020/6/8,28,例5财政收入预测问题：财政收入与国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资等因素有关。下表列出了1952-1981年的原始数据，试构造预测模型。,解设国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资分别为x1、x2、x3、x4、x5、x6，财政收入为y，设变量之间的关系为：y=ax1+bx2+cx3+dx4+ex5+fx6使用非线性回归方法求解。,2020/6/8,29,1对回归模型建立M文件model.m如下:functionyy=model(beta0,X)a=beta0(1);b=beta0(2);c=beta0(3);d=beta0(4);e=beta0(5);f=beta0(6);x1=X(:,1);x2=X(:,2);x3=X(:,3);x4=X(:,4);x5=X(:,5);x6=X(:,6);yy=a*x1+b*x2+c*x3+d*x4+e*x5+f*x6;,2020/6/8,30,2.主程序liti6.m如下:,X=598.00349.00461.0057482.0020729.0044.00.2927.006862.001273.00100072.043280.00496.00;y=184.00216.00248.00254.00268.00286.00357.00444.00506.00.271.00230.00266.00323.00393.00466.00352.00303.00447.00.564.00638.00658.00691.00655.00692.00657.00723.00922.00.890.00826.00810.0;beta0=0.50-0.03-0.600.01-0.020.35;betafit=nlinfit(X,y,model,beta0),ToMATLAB(liti6）,2020/6/8,31,betafit=0.5243-0.0294-0.63040.0112-0.02300.3658即y=0.5243x1-0.0294x2-0.6304x3+0.0112x4-0.0230 x5+0.3658x6,结果为:,返回,2020/6/8,32,逐步回归,逐步回归的命令是：stepwise（x，y，inmodel，alpha）,运行stepwise命令时产生三个图形窗口：StepwisePlot，StepwiseTable，StepwiseHistory.,在StepwisePlot窗口，显示出各项的回归系数及其置信区间.,StepwiseTable窗口中列出了一个统计表，包括回归系数及其置信区间，以及模型的统计量剩余标准差（RMSE）、相关系数（R-square）、F值、与F对应的概率P.,2020/6/8,33,例6水泥凝固时放出的热量y与水泥中4种化学成分x1、x2、x3、x4有关，今测得一组数据如下，试用逐步回归法确定一个线性模型.,1、数据输入：x1=7111117113122111110;x2=26295631525571315447406668;x3=615886917221842398;x4=6052204733226442226341212;y=78.574.3104.387.695.9109.2102.772.593.1115.983.8113.3109.4;x=x1x2x3x4;,2020/6/8,34,2、逐步回归：（1）先在初始模型中取全部自变量：stepwise(x,y)得图StepwisePlot和表StepwiseTable,图StepwisePlot中四条直线都是虚线，说明模型的显著性不好,从表StepwiseTable中看出变量x3和x4的显著性最差.,2020/6/8,35,（2）在图StepwisePlot中点击直线3和直线4，移去变量x3和x4,移去变量x3和x4后模型具有显著性.,虽然剩余标准差（RMSE）没有太大的变化，但是统计量F的值明显增大，因此新的回归模型更好.,ToMATLAB(liti51）,2020/6/8,36,（3）对变量y和x1、x2作线性回归：X=ones(13,1)x1x2;b=regress(y,X),得结果：b=52.57731.46830.6623故最终模型为：y=52.5773+1.4683x1+0.6623x2,ToMATLAB(liti52）,返回,谢谢大家,