资源描述
单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,ImageNet Classification with Deep ConvolutionalNeural Networks,ImageNet Classification with D,监督模式识别系统,图像特征,特征的好坏是整个系统的性能瓶颈,监督机器学习算法,分类或者预测,监督模式识别系统图像特征,Deep Learning=Learning Hierarchical Representations,Deep Learning=Learning Hiera,图像特征,Feature Engineering,(,HOG,SIFT,),要求开发人员对要解决的问题有深入理解,取得好的效果往往要消耗开发团队大部分人力,Feature Learning,海量训练数据中学习有用特征,提升分类或预测性能,Feature Engineering or Feature Learning?,图像特征Feature Engineering(HOG,S,Hierarchical Representations,Hierarchical Representations,监督机器学习,数据,训练样本集有,m,个已标注样本,(x,1,y,1,),(x,2,y,2,),(x,m,y,m,),x,i,是第,i,个训练样本的特征,,y,i,是对应的期望值,作为监督信号。,监督机器学习数据,监督机器学习,监督机器学习,监督机器学习,不同学习方法之间的区别在于或者是模型不同,或者是代价函数不同,或者是优化方法不同。,监督机器学习不同学习方法之间的区别在于或者是模型不同,或者是,BP,神经网络模型,BP神经网络模型,BP,神经网络模型,前向传播,BP神经网络模型前向传播,卷积神经网络,局部连接,区别于,BP,网络的全连接,权值参数大大减少,权值共享,每个神经元都使用相同的权值参数(不同的滑窗位置使用相同的卷积核权值),权值参数个数变为常数(卷积核的平方数),与神经元个数无关,卷积神经网络局部连接,卷积神经网络,特点,1,卷积神经网络特点1,卷积神经网络,特点,2,卷积神经网络特点2,卷积,卷积,池化(,pooling,),Max pooling,Avg pooling,池化(pooling)Max pooling,网络结构,网络结构,网络结构,conv1阶段DFD(data flow diagram):,网络结构conv1阶段DFD(data flow diagr,网络结构,conv2阶段DFD(data flow diagram):,网络结构conv2阶段DFD(data flow diagr,网络结构,conv3阶段DFD(data flow diagram):,网络结构conv3阶段DFD(data flow diagr,网络结构,conv4阶段DFD(data flow diagram):,网络结构conv4阶段DFD(data flow diagr,网络结构,conv5阶段DFD(data flow diagram):,网络结构conv5阶段DFD(data flow diagr,网络结构,fc6阶段DFD(data flow diagram):,网络结构fc6阶段DFD(data flow diagram,网络结构,fc7阶段DFD(data flow diagram):,网络结构fc7阶段DFD(data flow diagram,网络结构,fc8阶段DFD(data flow diagram):,网络结构fc8阶段DFD(data flow diagram,网络学习,代价函数,优化方法,mini-batch,梯度下降,1,表达式为真,=1,,,1,表达式为假,=0,,最大化对应类别的概率,模型(假设函数),网络学习代价函数 优化方法1表达式为真=1,1表达,网络学习,学习到的,96,个,conv1,卷积滤波器,网络学习学习到的96个conv1卷积滤波器,27,以上有不当之处,请大家给与批评指正,谢谢大家!,27,
展开阅读全文