深度网络模型详解

单击此处编辑母版文本样式,二级,三级,四级,五级,*,*,单击此处编辑母版标题样式,深度网络模型详解,2017-4-27,Minsky,和,Seymour Papert,专著,Perceptron,：单层感知机不能解决,XOR,问题,1957,单层感知机,MCP,神经元数学模型,1989,1997,深度信念网,LeNet,LSTM,万能逼近定理卷积神经网络,2010,Xavier,2011,ReLU,2012,Dropout AlexNet,Clarifai,GoogLeNet,VGGNet,R-CNN,2015,BN,Faster R-CNN,Residual Net,反向传播算法,主要内容,卷积神经网络基础,物体分类模型,LeNet,AlexNet,GoogLeNet,VGGNet,ResNet,目标检测模型,RCNN,系列,SSD,Yolo,系列,卷积神经网络,卷积计算层,卷积计算层,深度,步长,填充值,激励层,Sigmoid vs ReLU,池化层,取区域平均或最大,解释,LeNet,AlexNet,LRN,：局部响应归一化层,local_size:,默认为,5,。如果是跨通道,LRN,，则表示求和的通道数；如果是在通道内,LRN,，则表示求和的正方形区域长度。,alpha:,默认为,1,，归一化公式中的参数。,beta:,默认为,5,，归一化公式中的参数。,norm_region:,默认为,ACROSS_CHANNELS,。有两个选择，,ACROSS_CHANNELS,表示在相邻的通道间求和归一化。,WITHIN_CHANNEL,表示在一个通道内部特定的区域内进行求和归一化。与前面的,local_size,参数对应。,GoogLeNet,VGGNet,ResNet,R-CNN,Fast-R-CNN,RoI pooling!,Faster-R-CNN,RPN!,SSD vs Yolo,Yolo V2,类似,SSD,，使用,anchor boxes,高分辨率输入,Batch Normalization,聚类选择,boxes,多尺度训练,