在线推理服务:从模型到API,零工程化投入

PAI-EAS提供模型一键发布功能,无论是机器学习模型(标准PMML格式)或者是深度学习模型(Tensorflow)都可以一键部署成Restful API供用户调用。提供模型动态扩容、版本控制、灰度发布、模型状态监测等服务。

step1

用户本地的模型、云上用户自己的模型、PAI平台生成模型

step2

上传至OSS存储空间
(PAI平台模型自动完成此步)

step3

灰度发布,监控模型指标

step4

一键部署,生成API,调试接口

深度学习:超高性价比GPU资源,比本地买卡还要划算

PAI平台在已有的成熟深度学习框架基础上,构建了云端代码开发平台DSW(类notebook)。DSW提供友好的深度学习开发体验,为开发者提供分布式GPU或单机GPU等不同的训练环境,成本远低于购买GPU卡,用户无需关注机器运维,可以在云端获得近乎于本地的开发体验。同时DSW还提供了资源管控、自定义第三方库安装、内置常见深度学习模型等建模服务,开发者可以轻松安装Tensorflow、MXNet等开源框架,也可以使用阿里巴巴自身优化的Tensorflow,感受更强大的速度。

step1

上传数据至NAS或使用系统分配的 存储资源

step2

挂载NAS至DSW

step3

云端开发深度学习代码

step4

生成模型并部署

AutoML:常规机器学习自动调参,省90%调参工作

AI平台通过将常规机器学习算法组件封装,提供托拉拽、全可视化的建模体验,帮助用户可以零门槛快速应用机器学习算法。提供了百余种算法组件,覆盖数据预处理、特征工程、模型训练、模型评估、模型部署全流程。另外,PAI Studio还内置了强大的AutoML工具,帮助用户快速找到每个算法的最优参数组合。

step1

上传数据至MaxCompute

step2

选择合适的算法生成实验

step3

生成模型并部署

step4

调用AutoML工具自动调参并评估

云上训练VS本地自建

无服务器化

开源框架轻松搭建,GPU资源复用、
使用率更高,价格更便宜

开源框架轻松搭建,GPU资源复用、使用率更高,价格更便宜

EAS在线预测服务

从算法模型到API服务,
零工程开发,一键开启

从算法模型到API服务,零工程开发,一键开启

大规模分布式训练

轻松解决数据量大、算法复杂、
模型迭代频率高、控制成本等各种难题

轻松解决数据量大、算法复杂、模型迭代频率高、控制成本等各种难题

自建机器

资源使用率低,机器成本高,
升级操作困难,维护成本高

资源使用率低,机器成本高,升级操作困难,维护成本高

独立开发API服务

投入工程开发人员,
购买计算资源,资源使用率低

投入工程开发人员,购买计算资源,资源使用率低

本地实现

投入大量的人力搭建算法平台、
优化计算引擎,技术挑战极大,运营成本极高

投入大量的人力搭建算法平台、优化计算引擎,技术挑战极大,运营成本极高