联想范式AI平台方案介绍课件

#,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,联想范式,AI,平台方案介绍,1,联想范式AI平台方案介绍1,2,推荐,预警,识别,科研,AI,应用场景四大类,人脸,手写,HPC,计算,管道预警,声音,教学研究,模型搭建,新闻推荐,风机预警,欺诈预警,疾病预警,知识推荐,订餐推荐,理财推荐,案件预警,生物,选址推荐,2推荐预警识别科研AI应用场景四大类人脸手写HPC计算管道预,.,教育,科研训练、,HPC,计算,金融,公安,智能营销、风控、识别,能源,媒体,案情预测、侦破,零售,应用场景,我们可以涉足的行业,智能营销、选址、运维,故障预警,智能推荐,3,.教育科研训练、HPC计算金融公安智能营销、风控、识别能源媒,如何充分发挥数据的价值？,高维,算法+海量特征=业务效果提升,如何从“事后分析”变为“实时决策”？,实时,AI推理=实时决策,高维度,+,实时实现极致业务效果,4,如何充分发挥数据的价值？高维算法+海量特征=业务效果提升如何,充分发挥数据的时效价值,硬实时,软实时,离线,高,低,数据价值,从“事后分析”到“实时决策”,客户损失降低,30%50%,实时金融风控,即时侦测交易风险,实时零售推荐,用户月活提升,12%18%,实时个性化商品推荐,实时工业定价,供应链风险降低,16%27%,动态预测工业品价格,从事后分析到实时决策,5,充分发挥数据的时效价值硬实时软实时离线高低数据价值从“事后,银行业典型落地案例,精准营销（分期）,智能投顾（理财）,客户挽留,效果与收益分析：,第四范式机器学习模型对,21%,的可分期交易发送短信即可覆盖,91%,的分期手续费,，显著提升手续费收益的同时，节约营销成本,千元以下分期交易占比提升,6,倍,，第四范式机器学习模型能够准确覆盖低消费交易的分期需求,效果与收益分析：,对各资产段的客户营销效果均有显著提升,响应率提高,2,倍,11,倍,成交金额提高,50%500%,有效提升长尾客户的客户价值与留存率,验证效果,模型名单的营销成功率较专家规则均有不同程度的提升。其中：,通过融,e,联营销的产品添益快线（基金）提升效果达到了,574%,通过远维外呼营销的产品中，基金产品提升,158%,，节节高,2,号提高,149%,，理财产品提升,131%,。,6,银行业典型落地案例精准营销（分期）智能投顾（理财）客户挽留效,第四范式银行行业典型落地案例,反欺诈,验证效果,提高某国有银行线上,B2C,交易欺诈防控能力，准确率达,83%,，较专家规则提升,316%,。,比专家规则多识别欺诈交易,58.8%,，响应时间达,20,毫秒,智能催收,催收效率是,CFC,贷后催收的主要考核指标，统计,M1,入催的业务在,30,天内催收回款情况。,4,月,仅对部分业务,采用基于机器学习模型的差异化催收策略，,30,日催收效率达到历史最高,92.8%,。,4,月线上验证结果显示，,10,天催收效率较,3,月显著提升，增长近,20%,，说明差异化催收较传统催收方式，策略手段前移对回款有很大帮助。,智能运营（,OCR,票据识别）,320002200,大写金额识别模型,识别效率：,200,张分钟,验证集准确率：,97+%,1948100,小写金额识别模型,识别效率：,200,张分钟,验证集准确率：,97+%,2,勾选框识别模型,识别效率：,200,张分钟,验证集准确率：,99%,7,第四范式银行行业典型落地案例反欺诈验证效果智能催收催收效率是,智能保险行业典型落地案例,财险,车险理赔件识别,寿险,快速核赔,寿险,理赔审核,利用深度学习算法构建受损程度分类模型后，结合维修工时与单价数据便可计算得到理赔金额,使用机器学习方法，对,非正常赔付报案案件,进行识别,如果以快赔为目标，召回,33%,正常赔付样本时准确率,100%,增补材料判断,标准件判断,核保决策引擎,(,模型,+,规则,),模型：,预测“增补材料概率”,模型：,预测“是标准件概率”,规则：,分析投保原因、投保历史等因素,通过名单,8,智能保险行业典型落地案例财险 车险理赔件识别寿险 快,零售行业落地案例,门店销售量预测,外卖销售量预测,个性化推荐系统,地区信息,人口信息,住宅信息,写字楼信息,交通流量,配送距离,利用机器学习技术，预测每个门店的外卖销量，使预测的平均绝对百分比误差控制在,18%,模型的预测结果可为外卖门店实现快速、科学、高效的选址决策指导,应用现有运营数据，建立了,67000,维的机器学习模型，将每个门店销售额预测的误差控制在,15%,销售额大幅波动的春节月份实现了相较专家,45,以上的提升。,利用机器学习模型，通过在,App,端为客户智能推荐产品与优惠，菜单平均命中率,14.5%,客单价平均提升,2%,，实现销售额和客单价的大幅提升,9,零售行业落地案例门店销售量预测外卖销售量预测个性化推荐系统地,医疗行业落地案例,慢病预警（糖尿病）,慢病预警（心血管并发症）,胰腺癌术后生存分析预测,效果评估由高到低依次为：,4Paradigm ML model,：瑞宁知糖专业版模型,simple ML model,：瑞宁知糖简易筛查模型,CDS,：中华医学会标准,Finland,：芬兰糖尿病预防研究,ADA,：美国糖尿病学会标准,准确率是专业医生预测结果的,2,到,3,倍,效果评估由高到低依次为：,4Paradigm ML model,：瑞宁知心专业版模型,simple ML model,：瑞宁知心简易筛查模型,Framingham,：,Framingham,心血管风险评估,和,【,某大型三甲医院,】,合作，完成胰腺癌术后生存分析模型：,生存分析中,c-index,值提升,8,个百分点,二分类问题,auc,值提升,6,个百分点,提前判断病人术后生存时间，采取相应措施，减少病人痛苦,携手瑞金医院，助力疾病患病率预测,10,医疗行业落地案例慢病预警（糖尿病）慢病预警（心血管并发症）胰,能源行业落地案例,通过机器学习技术处理和分析海量的光纤信号数据，将极大地,提升异常信号识别的效率,及时地帮助业务人员,判断管道破坏事件,提高判断输油管道破坏事件的,准确性和及时性,，帮助管道管理运营企业减少损失,石油管道异常检测,风机设备故障预警,化工品价格预测,构建故障诊断模型,，通过机器学习算法（,GBDT,梯度迭代决策树），结合状态监测评估，判断机组隐含的或者已经存在的故障信息，分析其故障模式，并得出故障发生的原因。,建模：选择齿轮箱故障 历史约,200,多次,训练模型 若干遍,提高准确率 保证召回率,100%,统计,5,、,6,月预测结果 准确率,81%,以上,利用机器学习技术对化工品价格进行准确预测，进行市场和产品趋势分析，了解供求变化，有效指导生产经营，在中长期建立市场研究分析的辅助决策体系,1-7,天预测最高准确率达,99.99%,，平均准确率,99.33%,11,能源行业落地案例通过机器学习技术处理和分析海量的光纤信号数据,12,一体机形态（,4,种）,-,G1,一体机，控制台,一体机，训练引擎,一体机，推理引擎,A SR650,B,SR650,C,SR650,AI,控制台,AI,训练节点,AI,推理节点,D,ST550,机器学习工作站,12一体机形态（4种）-G1一体机，控制台一体机，训练引擎,销售场景和报价模式,G1,#,控制台,ML,推理引擎,ML,训练引擎,特征存储引擎,Remarks,硬件,安装的,软件组件,Sage One Adv,-,K8S&Docker,ES,MySQL,ETCD,组件,Sage One Adv,-,在线服务组件,Sage One Adv,-,Leap HD,大数据平台,Sage One Adv,-,RTiDB,Zookeeper,Kafka,组件,可售卖最小场景最低配置,1,0,3,0,共,4,台,实时加批量最小场景最低配置,1,1,3,1,共,6,台,高可用,场景最低配置,3,2,3,3,共,11,台,扩展规则,可扩展,任意台扩展,任意台扩展,任意台扩展,A SR650,B,SR650,C SR650,B SR650,销售场景和报价模式 G1#控制台ML推理引擎ML训练引,服务流程,用户,DCG,服务热线,范式,Sage,L2,硬件问题,DCG L2,L0,Support,7x24,仲裁委员会,L1,L1,Support,问题的判断并反馈给相应部门,记录客户信息,/,和服务类型,LDP,支持团队,L2,4P provide L2,Support,LDP,支持团队,DCG provide L2,Support,接线员记录用户信息，支持问题的类型（售后还是报装）,LDP,交付,团队,售后问题,报装问题,联想工厂会尽可能完成软件的预装，,LDP,负责交付一体机的现场服务。,LDP,：,Leap HD,服务支持的验证过程需要定义,-,主要看日志,1,2,3,4,5,1,2,3,服务流程用户DCG 服务热线范式硬件问题DCG L2L0,15,15,SageOne,AI,训练引擎,超大规模高维机器学习框架,16,自主研发超大规模高维机器学习框架,（,4Paradigm,GDBT,）,HD-LR,/,HD-GBM,等,10+,高维,ML,算法,深度稀疏神经网络,DSN,AutoCross,、,FeatureZero,、,TemporalGO,、,AutoDSN,等业界领先,AutoML,算法,万亿维,机器学习过程支撑,SageOne AI训练引擎超大规模高维机器学习框架16,SageOne,AI,训练引擎,软件定义计算全面加速高维机器学习过程,17,1.5,TFLOPS,SoC,20,nm,精度,auto-tuning,自动优化训练超参数,Cache,和,DRAM,带宽,利用率,接近理论最优,高维特征计算过程,I/O,加速,高维,GBDT,模型,训练加速,4Paradigm,ATX,800,训练加速卡,SageOne AI训练引擎软件定义计算全面加速高维机器,SageOne,AI,训练引擎,软件定义通信应对,AI,集群横向流量风暴,18,大规模分布式参数服务器集群,零拷贝数据交换协议,软件定义,AI,通信系统,无阻塞网络通讯,技术,P-RPC,自研网络通讯协议,Zero,Copy,高速数据同步,智能路由和共享长链路技术,SageOne AI训练引擎软件定义通信应对AI集群横向,19,SageOne,AI,推理引擎,无限缓存技术实现极速实时,AI,推理,特征计算引擎,&,预估服务引擎,特征处理过程,免开发,上线,线下线上,一致性,保证,一键,生成预估服务,水平扩展与,弹性扩容,灾难,自动回复,无限缓存技术,极速,AI,推理,百万级,并发,实时交易请求,99.9%,请求,毫秒级,响应,海量,时序特征计算,万亿维,模型实时推理,预测结果,精准,触达,19SageOne AI推理引擎无限缓存技术实现极速实时,20,SageOne,AI,存储引擎,内存计算打造超低延迟实时特征数据库,毫秒级,海量时序特征供给,自动切换存储介质,降低,TCO,Infini-cache,无限缓存,技术,生产级,灾备恢复,持久化,存储能力,RTIDB,实时,特征数据库,超低延迟,在线数据访问,接口,高速,时序特征查询,与计算,在线,水平扩容,超低延迟在线服务,多源异构,数据引入,离线,、,在线数据,一致性,管理,回流数据,自动标注,权限,、,审计,与,配额,支持,统一数据治理,20SageOne AI存储引擎内存计算打造超低延迟实时,SageOne,vs,通用,X86,服务器,+,主流,AI,框架,GBDT,（梯度提升决策树）算法，第四范式,GDBT,在,在,百万特征维度,场景下，计算效率可达,H2O,的,6,倍,以上,大规模离散的高维逻辑回归（,LR,）,场景下，,第四范式,GDBT,性能,可达,Spark1.6,版本的,数千倍,，,Spark2.4,版本的数百倍,与,主流开源框架,Spark MLlib,的性能对比,与,商用自动机器学习框架,H2O.ai,的性能对比,SageOne vs 通用X86服务器+主流AI框架GBDT,SageOne,vs,通用,X86,服务器,+,主流,AI,框架,核心场景数据量极速增长，保证业务效果所需付出的成本,SageOne,拥有,11x,成本优势,AI,场景规模化落地，场景数大幅增加，相同成本投入的情况下,SageOne,提供,16x,算力优势,任务运行时长,SageOne,传统,x86+Spark,开源,ML,成本,单场景数据规模,场景规模,SageOne,传统,x86+Spark,开源,ML,11X,16X,SageOne vs 通用X86服务器+主流AI框架核心场景,SageOne,vs,云方案 弹性伸缩云架构,+,国内,AI,商用,&,开源工具,在同样算法效果与硬件条件下，运行稀疏嵌入神经网络算法，第四范式,SageOne,GDBT,与阿里,XDL,在单机和分布式各场景下性能提升达,12.5,倍,阿里,PAI,云平台特征工程,第四范式特征工程,3.6x,在完成同样特征工程任务，既拼接风控场景的,5,个业务表时，第四范式,SageOne,FeQL,相比阿里,PAI,平台的,SparkSQL,性能优势达,3.6,倍,阿里,PAI,云平台,SageOne,与阿里巴巴,XDL,开源深度学习框架,性能对比,与阿里巴巴,PAI,商用机器学习平台,性能对比,SageOne vs 云方案 弹性伸缩云架构+国内AI商,SageOne,FeQL,相比,Databricks,SparkSQL,速度优势,1.8,倍，该场景的总拥有成本优势达,5,倍,SageOne,vs,云方案,弹性伸缩云架构,+,国际,主流,AI,平台,注,1,：此场景使用,Kaggle,著名的,Home,Credit,Default,Risk,风控信贷场景,的数据，预估房贷逾期信用风险，能代表比较典型的真实风控信贷场景。,注,2,：对于,Databricks,，测试,Databricks,在,AWS,上的弹性伸缩云方案，对齐第四范式,SageOne,，均使用,160,核下弹性伸缩方案。,SageOne,FeQL,SparkSQL,on DB Notebook,on,AWS,运行时间,每秒费用,总拥有成本,0.0152,/s,0.0427/s,507s,924s,7.71,39.46,1.8x,5x,2.8x,SageOne FeQL 相比 Databricks Spa,SageOne,ATX,vs,CPU,/,GPU,10 x,10 x,3x,6x,11x,26x,SageOne ATX vs CPU/GPU10 x10 x,吞吐量,（查询次数,/,秒）,消息大小（比特,）,第四范式通信框架,prpc,的吞吐性能是百度,brpc,的,3,5,倍，谷歌,grpc,吞吐性能的,5,10,倍,纵坐标越高,表示性能越好,SageOne,vs,Baidu,/,Google,吞吐量消息大小（比特）第四范式通信框架prpc的吞吐性,SageOne,vs,Sage+X86,训练表现,1,）风控场景使用,Kaggle,比赛数据,Home,Default,Credit,Risk,中前,5,表拼接的结果作为输入，数据量,6,亿。,2,）反洗钱场景基于第四范式真实场景，全流程包括,SparkSQL,，自研特征工程（,FE,）和,GBDT,模型训练。该场景输入,SparkSQL,的数据为,3,亿。输入特征工程的数据为,100,万,Benchmark,Sage,+X86,config,SageOne,c,onfig,时间单位为秒（,s,），时间越短性能越好,9442,8378,5631,1999,1135,769,36148,23611,17195,4884,2712,1674,11997,2854,Sage,EE,3.6,X86,服务器,CPU,：,32C/64T,2.1GHz,Mem,：,12,X,32GB,NIC,：,1GbE,Sage,EE,Adv,1.0,AR5200,CPU,：,40C/80T,2.8GHz,Mem,：,12,X,32GB,SSD,：,2TB/NVMe,NIC,：,100GbE,Accelerator,：,4PD,ATX,SageOne vs Sage+X86 训练表现1）风控场景,SageOne,Advanced,Selling,Points,28,企业级端到端,AI,集成系统,软件定义计算基础设施,AI,中台战略最佳支撑,业界顶级性能表现,全流程提速,4-10 x,TCO,节省,50%+,算法,算力,系统,自研高维,ML,算法,自研,AutoML,算法,自研,Auto,CV,算法,自研高维特征工程框架,主流开源框架兼容,一站式软硬件兼容,AI,冷启动,（,开箱即用,）,黑盒化运维,线性扩容,自研,ATX,加速卡,软件定义计算架构,算法定义通信协议,数据定义存储,弹性容器架构,计算资源池化,高性能实时高性能数据库,企业级,AI,全流程平台,学习圈方法论,应用构建流程标准化,模型快速部署,企业级系统架构,企业级功能特性,API,/SDK,开放性,平台,9999,系统可用性,SageOne Advanced Selling Point,联想范式AI平台方案介绍课件,