《机器学习概述》PPT课件

,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,单击此处编辑母版标题样式,*,中科院大学电子电气与通信工程学院,叶齐祥,雁栖湖园区，学园二，,457,房间，,助教：万方,雁栖湖园区，学园二，,330,房间,机器学习方法与应用,提纲,机器学习的定义,机器学习的目的,机器学习的一般,步骤,机器学习的输入,机器学习,：新一代计算技术的浪潮,机器学习,vs.,数据挖掘,vs.,统计学习,机器学习的相关期刊会议,提纲,机器学习的定义,机器学习的目的,机器学习的一般,步骤,机器学习的输入,机器学习,：新一代计算技术的浪潮,机器学习,vs.,数据挖掘,vs.,统计学习,机器学习的相关期刊会议,机器学习的定义,通过,机器学习的算法研究及其与具体问题的恰当结合，获得合适的模型,；,对于,于,一些工程应用,Task,，依赖于数学与经验,Experience and,Math,，设计学习模型，提高,算法的,性能,Studying,models from existing information or from observation.,依赖于对现存数据的学习或者观察获取新的推理模型的过程,。,ML,是具体的,实现方法：回归分析、,SVM,，,NN,概率方法,聚类方法,提纲,机器学习的定义,机器学习的目的,机器学习的一般,步骤,机器学习的输入,机器学习,：新一代计算技术的浪潮,机器学习,vs.,数据挖掘,vs.,统计学习,机器学习的相关期刊会议,机器学习的目的,分类,（,Classification,、,Clustering,）,身高,1.15m,，体重,60kg,的儿童健康么？,如何将教室里的学生按爱好、身高划分为,5,类？,预测,（,Regression,、,Prediction,）,如何预测中关村周边的房价？,未来的股票市场走向？,天气预报,提纲,机器学习的定义,机器学习的目的,机器学习的一般,步骤,机器学习的输入,机器学习,：新一代计算机技术的浪潮,机器学习,vs.,数据挖掘,vs.,统计学习,机器学习的相关期刊会议,机器学习的一般步骤*,（,input,）输入,（,output,）输出,Algorithms(,方法,),Evaluating,（评估）,Concepts,instances,and features,Statistical modeling,decision trees,linear models,instance-based learning,clustering,Decision tables,classification rules,association rules,instance-based representation,clusters,Training and testing,predicting performance,cross-validation,leave-one-out,boostrap,comparing data mining methods,counting the cost,提纲,机器学习的定义,机器学习的目的,机器学习的一般,步骤,机器学习的输入,机器学习,：新一代计算技术的浪潮,机器学习,vs.,数据挖掘,vs.,统计学习,机器学习的相关期刊会议,样本,输入的基本单元,机器学习的输入是一系列样本（带表号,/,无标号），机器学习是要将这些样本分类、回归、关联或者聚类。,每一个样本都是样本（样例）都有一系列特性,多个样本及其特性构成一个矩阵，或者一张表，构成,ML,的基本输入,每一个样本都有一系列固定的，事先确定的特征,Each individual,independent instance that provide the input to machine learning is characterized by its values on a fixed,predefined set of features or attributes.,编号,天气,温度,湿度,风,是否去打球,1,晴天,炎热,高,弱,不去,2,晴天,炎热,高,强,不去,3,阴天,炎热,高,弱,去,4,下雨,适中,高,弱,去,5,下雨,寒冷,正常,弱,去,6,下雨,寒冷,正常,强,不去,7,阴天,寒冷,正常,强,去,8,晴天,适中,高,弱,不去,9,晴天,寒冷,正常,弱,去,14,下雨,适中,高,强,不去,数据特征化,编号,天气,温度,湿度,风,是否去打球,1,晴天,25.5,60%,3,不去,1 25.5 0.6 3 0,x,1,x,2,x,3,x,4,x,5,Y,X,（,X,Y),数据特征化,数据特征化,数据特征化,数据特征化,数据特征化,数据特征化,（,X,(1),y,(1),),（,X,(2),y,(2),),（,X,(3),y,(3),),（,X,Y),（,X,(n),y,(n),),2024/10/7,18,观察数据分布:集中趋势,差别 和 分布,计算数据统计特性：,median,max,min,outliers,variance,等.,数据特征化,数据标准化,提纲,机器学习的定义,机器学习的目的,机器学习的一般,步骤,机器学习的输入,机器学习,：新一代计算机技术的浪潮,机器学习,vs.,数据挖掘,vs.,统计学习,机器学习的相关期刊会议,机器学习：新一代计算机技术的浪潮,Mainframe,Minicomputer,Workstations,Personal computer,Smartphones+Clouds,Ubiquitous computing+Machine Learning,案例,1:,基于机器学习的化工生产数据预测,模型指标,平均误差,平均误差控制在,8%,以内或者更低,标准差在,8%,以内,单数据预测时间,普通,PC,机，预测时间小于,0.001s,时间复杂度要求,非在线学习，复杂度要求低,训练耗时，但是可以离线更新模型,案例,2:,基于机器学习的文档分类,是公司主页？,是个人主页？,还是学校网站？,邮件过滤、,搜索引擎、,案例,3:,基于机器学习的目标识别,训练样本（机器学习的输入）,训练样本（机器学习的输入）,测试样本,测试样本,案例,3:,基于机器学习的目标识别,弱监督的多形态的高清航拍图像目标检测识别,案例,4:,智能交互,Kinect,交互,Demo,GoogleGlasses,一些与机器学习有关的演示,DemoLPR,ObjectDetection,TextDetection,ImageNet,语音识别,机器学习：新一代计算技术的浪潮,深度学习带来了机器学习的新浪潮，推动“,大数据深度模型”,时代的来临，以及人工智能和人机交互大踏步前进。如果我们能在理论、建模和工程方面突破深度学习面临的一系列难题，人工智能的梦想不再遥远。,机器学习：新一代计算机技术的浪潮,从浅层学习到深度学习,-Lecun,机器学习：新一代计算机技术的浪潮,从浅层学习到深度学习,-Lecun,x2,xi,x1,w,i,o,t,机器学习：新一代计算机技术的浪潮,从浅层学习到深度学习,-Lecun,G.Hinton,：,(A)The twodimensional codes for 500 digits of each class produced by taking the first two principal components of all 60,000 training images.,(B)The two-dimensional codes found by a 784-1000-500-250-2 autoencoder.For an alternative visualization,see(8).,深度学习的应用,人工智能,机器人与自动化,智能交通,模式识别,智慧城市与家居,提纲,机器学习的定义,机器学习的目的,机器学习的一般,步骤,机器学习的输入,机器学习,：新一代计算机技术的浪潮,机器学习,vs.,数据挖掘,vs.,统计学习,机器学习的相关期刊会议,Machine learning vs Statistics,机器学习,vs,统计理论,If forced to point out a single difference of emphasis,it might be that statistics has been more concerned with,testing hypotheses,whereas machine learning has been more concerned with,formulating the process of generalization as search through possible hypotheses,.,But,this is a gross oversimplification:statistics is far more than hypothesis testing,and many machine learning techniques do mot involve any searching at all.,传统的统计理论侧重于假设检验，机器学习侧重寻找可泛化的模型,数据挖掘,监督学习,无监督学习,关联规则,数据处理技术,机器学习,vs,数据挖掘,半,/,弱监督学习,机器学习,提纲,机器学习的定义,机器学习的目的,机器学习的一般,步骤,机器学习的输入,机器学习,：新一代计算技术的浪潮,机器学习,vs.,数据,挖掘,vs.,统计,学习,机器学习的相关期刊会议,机器学习的参考书、期刊与会议,参考书：,1.Machine Learning,Tom M.Mitchell,Publisher:McGraw-Hill Science.,中文版：,机器学习,，,Tom Mitchell,，曾华军 等（译），机械工业出版社，,2003,年,.,2,Machine Learning:a Probabilistic Perspective by Kevin Patrick Murphy,3,斯坦福大学，,Andrew N.G.,机器学习开放课程视频,.,参考资料：,计算机学报,软件学报,自动化学报,电子学报,ACM Transactions on Knowledge Discovery from Data,IEEE International conference on Machine Learning,Machine Learning,Machine learning review,IEEE,Trans.Pattern Analysis and Machine Intelligence,IEEE Trans.Neural Network,机器学习领域的著名学者,Tom Mitchell,CMU,经典机器学习理论,Michael Jordan,UCB,Graphic model,Eric Xing,CMU,Graphic model,机器学习领域的著名学者,Vapnik,-,支撑向量机,林智仁,台湾大学,LibSVM,LibLinear,Thorsten Joachims,Cornell,结构化支撑向量机,机器学习领域的著名学者,Andrew N.G,Stanford,Baidu,无监督学习,Geoffrey E.Hinton,Toronto University,深度学习,Lecun Yann,NCU,Facebook,深度学习,机器学习领域的著名学者,周志华,南京大学,半监督、多标记学习等,朱军,清华大学,非参贝叶斯模型,于凯、李航,百度、华为,深度学习、排序,