毋庸置疑,人工智能会成为未来最大的风口。数据的爆发式增长为人工智能提供了充分的条件,深度学习的出现突破了过去机器学习领域浅层学习算法的局限,颠覆了语音识别、语义理解、计算机视觉等基础应用领域的算法设计思路。算力方面,GPU、NPU、FPGA等专用芯片的出现,使得数据处理速度不再成为人工智能发展的瓶颈。
要让人工智能技术落地到企业进行应用并且发挥效能,易上手、操作简单的技术堆栈是刚需。研华人工智能模型训练与部署服务框架(WISE-PaaS/AFS),帮助软件开发者、数据科学家加速开发AIoT方案,实现标准产品的规模化,满足 CPU/GPU/vCPU 运算资源整合管理需求。
从0到1扩展至100 助力AI应用真正落地
研华希望借助 WISE-PaaS/AFS帮助用户加快AI项目概念验证(POC)进程,顺利从0推进到1,再扩展到 100,让AI应用真正落地实现。
AI世界分为训练、推理,针对后者,研华透过累积逾30年的边缘智能能量,使WISE-PaaS/AFS不但可以稳定支撑推理引擎运行,更支持模型远程部署。因工业情境中设备机台众多,需采取“一机一模型”预测推理,更需借助WISE-PaaS/AFS的OTA远程部署功能来减低部署人员负担,也更易于推动现有模型的重新训练、优化更新。
WISE-PaaS/AFS架构图
值得一提,AFS可将推理引擎建构为RESTful API,便于DFSI集成,广泛支持 Windows、Linux、Android等平台,为客户量身打造AIoT应用场景。此外AFS推理引擎亦可封装为Docker Image或EdgeX Foundry,均能支持远程部署。
AFS运行于WISE-PaaS工业物联网云平台,承袭WISE-PaaS兼能支持公、私、混合云的特性。
针对公有云,可支持 Azure、AWS 和阿里云等;
针对私有云,则奠基于研华WISE-STACK软硬整合边缘智能私有云方案;
有关混合云,藉由上述公有云、搭配研华 GPU 服务器组合而成,让GPU运算能于自家平台运行,降低运算成本。
研华科技IoT.SENSE 产品经理苏谊闵强调,WISE-PaaS/AFS 服务蕴含多项重要功能模块:
首先是多模型训练模块,以Hadoop Yarn、Kubernetes等技术为基底,帮助用户实现运算资源的弹性切割、调度及管理。
其次AFS支持 PostgreSQL、InfluxDB、MongoDB、Ceph等多元数据库,介接WISE-PaaS/APM数据源,让数据科学家、AI工程师,能快速整合各类型数据,进行模型建立与训练。
再来是Workspace 模块,一来预先整合Jupyter Notebook框架,方便用户直接在在线开发算法,二来也提供脱机开发环境,用户即使运用非 Python语言撰写程序代码,仍可打包为 Docker Image 并上传AFS在线运行。
另有Catalog、Task、Model Board 与Inference等模块,分别能帮助用户订阅第三方开源算法,设定模型重新训练与部署的自动化排程,透过可视化工具检视模型训练绩效,及方便管理大量模型与多重数据源。
WISE-PaaS/AFS 框架 支持云端或边缘端推理
研华以身作则推出三项AI方案,希望能达抛砖引玉之效,带动伙伴发展更多AI应用。
AOI(Automated Optical Inspection),利用深度学习技术自动辨识瑕疵种类,降低人力目检成本。
PHM(Prognostic and Health Management),针对特定生产设备提供设备预兆诊断服务,例如量测机台生产讯号,在性能逐步衰退时,实时采取适当维护措施,避免突发故障发生,达成趋近零故障目标。
PQA(Predictive Quality Analytics),可分析生产制程参数与关键质量指针,建立生产质量预测模型、并优化制程参数,无论纺织业、半导体厂、石化/水泥业、塑料业、机械业,都对此项功能有着殷切需求。
WISE-PaaS/AFS 是从端到云的全方位解决方案,内含四大关键特色,包括:
在开发阶段支持各种套件库、便于用户执行在线开发;
在验证阶段模型需持续优化,支持多模型管理工具,一并满足排程训练和模型管理双重需求;
在上线阶段支持云端推理,尤其适用于幅员辽阔的智慧城市场域;
在部署阶段整合大量边缘运算设备并进行模型派送、实现边缘端推理。
WISE-PaaS/AFS目前已有众多成功实践案例。研华自家林口PCB工厂利用AI AOI方案进行瑕疵检测,运行半年,检出率接近100%,提升产线检测效率33%以上。同时与伙伴客户共同发展出被动组件瑕疵检测方案,透过WISE-PaaS在线软件商城进行销售,最终用户只要订阅该方案,便会将相关模型自动部署到其Edge端的MIC-730 AI系统,开始执行推理,侦测各个被动组件是否存有缺陷。
WISE-PaaS/AFS可谓是企业通往AIoT、驱动数字转型的最佳快捷方式。不论是智慧工厂还是智慧城市场域的开发者,善用WISE-PaaS/AFS框架实作AI项目,将地端产业数据上传云端、在云端建立推论引擎、乃至自动部署到边缘运算平台,过程中的每个环节都会有完整的产品支持,无需费时打通从地到云、再从云回到地的整串链路。
【WISE-PaaS在线研讨会】 降低AI上线应用门槛 突破工业物联网落地难关
看完上述对AFS的介绍,各位想必也是意犹未尽。11月14日,下午16:00~17:00,研华将专门针对AFS举办在线研讨会。
届时您可与数据科学家深度交流,了解如何以WISE-PaaS/AFS人工智能模型训练与部署服务框架,快速建模、调参、部署、上线并持续优化,以达成生产效益提升和运作优化等实际效益。
会议亮点
分享WISE-PaaS/AFS物联网关键技术及AI应用实践
实现规模化“边缘端推理”的端到云的全方位解决方案
实现自动化“多模型训练”与“超参数调教”的模型优化方法
会议议程
楼主最近还看过