瞄准垂直领域刚性需求 加速催生Edge AI应用服务

物联网智库 整理发布

导  读

尽管云端运算蕴含许多优势，但也不乏缺点，特别是企业若将数据传送到云端进行计算，不仅需要承担吃重的传输费用，也无可避免承担较高的延迟，偏偏有愈来愈多应用讲求实时反应、对延迟极为敏感。

大约十年前，云端运算概念开始风行，企业纷纷拥抱这个集中式运算架构，充份运用强大算力，执行AI建模等需要消耗资源的工作，加速满足一些进阶应用目标。尽管云端运算蕴含许多优势，但也不乏缺点，特别是企业若将数据传送到云端进行计算，不仅需要承担吃重的传输费用，也无可避免承担较高的延迟，偏偏有愈来愈多应用讲求实时反应、对延迟极为敏感。

因此分布式计算概念逐渐兴起，要求资源优化配置，有些在云端、有些在边缘，彼此间达到充份搭配与协调，进而降低端云之间数据传输、也避免对后台造成繁重负担。

研华IoT嵌入式平台事业群副总经理张达文指出，综观以往上传云端的数据，当中高达八成为影像，现在这个部份可透过边缘端智能设备直接进行推论与判断，此即为Edge AI；意谓今后不需继续依赖云端处理大小事，仅传输必要信息上云端即可，大幅降低数据传输量，而云的任务便是学习与分析，至于数据的预处理与逻辑执行的工作，边缘端可胜任无虞。

张达文表示，现阶段研华已推出完整Edge AI方案，包括VEGA系列AI加速卡、AIR系列AI推论系统以及EIS系列边缘智能系统；另为了协助企业快速透过其边缘装置结合运用研华Edge AI产品、进行深度学习推论，还提供Edge AI Suite软件套件，内含Intel的OpenVINO工具包（兼具优化推论效能、跨CPU/VPU/GPU优化工作负载、提供逾20款预训练模型等多重价值），及来自第三方产业伙伴(CyberLink)的人脸辨识、车牌辨识等AI SDK。

截至目前，研华以Edge AI解决方案为基础，已经与系统集成商伙伴共同瞄准各领域用户的痛点，藉由这些刚性需求连手推进许多应用。

以Edge AI为基底，催生瑕疵检测、智能电梯等多重应用

张达文说，谈到现今的Edge AI应用伙伴，主要分为两大类。一类是系统集成商（SI），通常会直接引进研华的加速模块或推论系统，再搭配OpenVINO执行系统整合，利用脸部辨识或车牌辨识等预训练模型为基础，快速打造最终的应用模型、快速落地到场域。

例如为工具机赋予在线执行瑕疵检测的能力，一旦发现不良品，旋即将讯息传达至机械手臂控制器，由机械手臂将该物品移出产线。此外研华与与电梯制造业者完成概念验证(POC)，由AI辨识电梯访客、并学习他平时造访的楼层路径，之后只要此人进电梯，便由系统自动按下楼层键，减少接触按钮机会、连带降低COVID-19(新冠肺炎)感染机率。

同样基于防疫，研华与SI伙伴合作开发一套适用校园的系统，可架设于每一间班级教室，负责定时辨识所有学生的脸部并测量体温。此外针对智慧零售场域，在研华及SI协助下，业主可利用摄影机结合脸部辨识模块，快速掌握所有消费者图谱(包含每个人的性别、年龄等)，便于执行精准营销。

另一类伙伴为医疗设备制造商，比方说制作医用超音波设备的业者，过去他们主要向研华购置嵌入式CPU模块，如今为因应AI影像判断的发展需求，需要在产品设计上预先纳入FPGA或GPU，以便预留AI加速功能、为AI铺路；所以将采购目标从CPU板转为CPU＋FPGA/GPU，大幅提升产品在应用上的未来性。

张达文透露，展望下一步，研华与SI伙伴将连手催生更多应用，例如长途货运车驾驶的行为监控，乃至餐厅的前台监控(帮助前台服务员精确判断何时上菜、收盘子、招呼客人等等，给予最贴心服务)，都是可行的发展方向。

2020年11月19~21日的研华嵌入式物联网伙伴峰会，将首次以在线论坛的方式举办，并以边缘智能、AI产业应用、嵌入式物联网为核心议题。 携手全球顶尖产业伙伴共同探讨AIoT新时代、新思路与最佳实践。我们将规划九大主题论坛，并邀请30位以上产官学伙伴专讲，例如Intel、微软，NXP、思谋以及中国信通院等产业专家，各位将从论坛中学习到AIoT 科技趋势并透过伙伴的分享，激发物联网实践新思路。

期待2020研华嵌入式物联网伙伴峰会

与你线上相聚，决胜边缘！