神经网络的MATLAB实现苏析超

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,主要内容,BP,神经网络编程,BP,神经网络工具箱,RBP,网络工具箱,GRNN,网络工具箱,BP,神经网络通常是指基于误差反向传播算法,(BP,算法,),的多层前向神经网络。,该网络的主要特点是信号向前传递，误差反向传播。向前传递中，输入信号从输入层经隐含层逐层处理，直至输出层。每一层的神经元状态只影响到下一层神经元状态。如果输出层得不到期望输出，则转入反向传播，根据预测误差调整网络权值和阈值，从而使,BP,神经网络预测输出不断逼近期望输出。,1.BP,神经网络原理,神经网络的,MATLAB,实现,神经网络的,MATLAB,实现,神经网络的,MATLAB,实现,神经网络的,MATLAB,实现,%清空环境变量,clc,clear,%训练数据预测数据提取及归一化,%下载四类语音信号,load data1 c1,load data2 c2,load data3 c3,load data4 c4,%从1到2000间随机排序,k=rand(1,2000);,m,n=sort(k);,%输入输出数据,input=data(:,2:25);,output1=data(:,1);,%四个特征信号矩阵合成一个矩阵,data(1:500,:)=c1(1:500,:);,data(501:1000,:)=c2(1:500,:);,data(1001:1500,:)=c3(1:500,:);,data(1501:2000,:)=c4(1:500,:);,神经网络的,MATLAB,实现,%随机提取1500个样本为训练样本，500个样本为预测样本,input_train=input(n(1:1500),:);,output_train=output(n(1:1500),:);,input_test=input(n(1501:2000),:);,output_test=output(n(1501:2000),:);,%,输入数据归一化,inputn,inputps=mapminmax(input_train);,神经网络的,MATLAB,实现,%网络结构初始化,innum=24;,midnum=25;,outnum=4;,%权值初始化,w1=rands(midnum,innum);,b1=rands(midnum,1);,w2=rands(midnum,outnum);,b2=rands(outnum,1);,w2_1=w2;w2_2=w2_1;,w1_1=w1;w1_2=w1_1;,b1_1=b1;b1_2=b1_1;,b2_1=b2;b2_2=b2_1;,%学习率,xite=0.1;,%,alfa=0.01;,神经网络的,MATLAB,实现,%网络训练,for ii=1:10,E(ii)=0;,for i=1:1:1500,%网络预测输出,x=inputn(:,i);,%隐含层输出,for j=1:1:midnum,I(j)=inputn(:,i)*w1(j,:)+b1(j);,Iout(j)=1/(1+exp(-I(j);,end,%输出层输出,yn=w2*Iout+b2;,神经网络的,MATLAB,实现,%权值阀值修正,%计算误差,e=output_train(:,i)-yn;,E(ii)=E(ii)+sum(abs(e);,%计算权值变化率,dw2=e*Iout;,db2=e;,神经网络的,MATLAB,实现,for j=1:1:midnum,S=1/(1+exp(-I(j);,FI(j)=S*(1-S);,end,for k=1:1:innum,for j=1:1:midnum,dw1(k,j)=FI(j)*x(k)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4);,db1(j)=FI(j)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4);,end,end,神经网络的,MATLAB,实现,w1=w1_1+xite*dw1;,b1=b1_1+xite*db1;,w2=w2_1+xite*dw2;,b2=b2_1+xite*db2;,w1_2=w1_1;w1_1=w1;,w2_2=w2_1;w2_1=w2;,b1_2=b1_1;b1_1=b1;,b2_2=b2_1;b2_1=b2;,end,end,神经网络的,MATLAB,实现,%语音特征信号分类,inputn_test=mapminmax(apply,input_test,inputps);,for ii=1:1,for i=1:500%1500,%隐含层输出,for j=1:1:midnum,I(j)=inputn_test(:,i)*w1(j,:)+b1(j);,Iout(j)=1/(1+exp(-I(j);,end,fore(:,i)=w2*Iout+b2;,end,end,神经网络的,MATLAB,实现,%结果分析,%根据网络输出找出数据属于哪类,for i=1:500,output_fore(i)=find(fore(:,i)=max(fore(:,i);,end,%BP网络预测误差,error=output_fore-output1(n(1501:2000);,%画出预测语音种类和实际语音种类的分类图,figure(1),plot(output_fore,r),hold on,plot(output1(n(1501:2000),b),legend(预测语音类别,实际语音类别),神经网络的,MATLAB,实现,%画出误差图,figure(2),plot(error),title(BP网络分类误差,fontsize,12),xlabel(语音信号,fontsize,12),ylabel(分类误差,fontsize,12),神经网络的,MATLAB,实现,k=zeros(1,4);,%找出判断错误的分类属于哪一类,for i=1:500,if error(i)=0,b,c=max(output_test(:,i);,switch c,case 1,k(1)=k(1)+1;,case 2,k(2)=k(2)+1;,case 3,k(3)=k(3)+1;,case 4,k(4)=k(4)+1;,end,end,end,神经网络的,MATLAB,实现,%找出每类的个体和,kk=zeros(1,4);,for i=1:500,b,c=max(output_test(:,i);,switch c,case 1,kk(1)=kk(1)+1;,case 2,kk(2)=kk(2)+1;,case 3,kk(3)=kk(3)+1;,case 4,kk(4)=kk(4)+1;,end,end,%正确率,rightridio=(kk-k)./kk,newff,函数,newff,用来生成一个,BP,网络,net=newff(PR,S1 S2.SN,TF1 TF2.TFN,BTF,BLF,PF),PR:,一个R2矩阵,由R维输入向量的每维最小值和最大值组成,Si:,第,i,层的神经元个数,TFi:,第,i,层的传递函数,默认为,tansig,BTF:,训练函数,默认为,trainlm,BLF:,学习函数,默认为,learngdm,PF:,性能函数,默认为,mse,net=newff(0,10;-1,2,5,1,tansig,purelin,trainlm);,%,生成一个两层,BP,网络,隐层和输出层神经的个数为,5,和,1,传递函数分别为,tansig,和,purelin,训练函数为,trainlm,其他默认,BP,神经网络工具箱,学习算法,适用问题类型,收敛性能,占用存储空间,其他特点,trainlm,函数拟合,收敛快,误差小,大,性能随网络规模增大而变差,trainrp,模式分类,收敛最快,较小,性能随网络训练误差减小而变差,trainscg,函数拟合,模式分类,收敛较快,性能稳定,中等,尤其适用于网络规模较大的情况,trainbfg,函数拟合,收敛较快,较大,计算量岁网络规模的增大呈几何增长,traingdx,模式分类,收敛较慢,较小,适用于提前停止的方法,MATLAB,神经网络工具箱对常规,BP,算法进行改进,提供了一系列快速算法,以满足不同问题的需要,BP,神经网络工具箱,利用已知的,”,输入,目标,”,样本向量数据对网络进行训练,采用,train,函数来完成,.,训练之前,对训练参数进行设置,训练参数,参数含义,默认值,net.trainParam.epochs,训练步数,100,net.trainParam.show,显示训练结果的间隔步数,25,net.trainParam.goal,训练目标误差,0,net.trainParam.time,训练允许时间,INf,net.trainParam.lr,学习率,0.01,net=train(net,P,T),BP,神经网络工具箱,网络层数,已经证明,单隐层的,BP,网络可以实现任意非线性映射,.BP,网络的隐层数一般不超过两层,.,输入层的节点数,输入层接收外部的输入数据,节点数取决于输入向量的维数,输出层的节点数,输出层的节点数取决于输出数据类型和该类型所需的数据大小,.,对于模式分类问题,节点数为,BP,神经网络工具箱,隐层的节点数,隐层的节点数与求解问题的要求,输入输出单元数多少有关,.,对于模式识别,/,分类的节点数可按下列公式设计,传递函数,隐层传递函数采用,S,型函数,输出层采用,S,型函数或线性函数,训练方法及其参数选择,针对不同应用,BP,网络提供了多种训练学习方法,.,其中,为隐层节点数,为输入节点数,为,110,之间的整数,BP,神经网络工具箱,采用动量梯度下降算法训练,BP,网络,.,训练样本,%,定义训练样本,p=-1-1 3 1;-1 1 5-3;,t=-1-1 1 1;,%,创建一个新的,BP,网络,net=newff(minmax(p),3 1,tansig,purelin,traingdm);,%,设置训练参数,net.trainParam.epochs=1000;,net.trainParam.goal=0.001;,net.trainParam.show=50;,net.trainParam.lr=0.05;,net.trainParam.mc=0.9;%,动量因子，缺省为,0.9,net=train(net,p,t);%,训练网络,A=sim(net,p)%,网络仿真,BP,神经网络工具箱,目标线,训练误差变化曲线,BP,神经网络工具箱,