边缘人工智能
随着移动计算和物联网 (IoT) 应用的爆炸式增长,数十亿移动和物联网设备正在连接到互联网,在网络边缘生成海量数据。因此,在云数据中心收集海量数据会导致极高的延迟和网络带宽使用。因此,迫切需要将人工智能(AI)的前沿推向网络边缘,充分释放大数据的潜力。边缘人工智能是边缘计算和人工智能的结合。
什么是边缘人工智能?
大数据。在物联网 (IoT) 时代,需要收集和分析连接设备产生的前所未有的数据量。这导致实时生成大量数据,这就需要人工智能系统来理解数据。
云端人工智能。最初人工智能解决方案是云驱动的,因为需要能够执行深度学习计算任务的高端硬件以及轻松扩展云中资源的能力。这涉及将数据卸载到外部计算系统(云)以进行进一步处理,但这会加剧延迟,导致通信成本增加,并引发隐私问题。
边缘计算。为了解决这些问题,需要将计算任务转移到网络的边缘,更靠近数据生成的地方。边缘计算是指在尽可能靠近数据源而不是在遥远的偏远位置执行计算。因此,边缘计算用于扩展云,因为它通常以边缘云系统的形式实现,其中分散的边缘节点将处理后的数据发送到云。
边缘人工智能。Edge AI,即Edge Intelligence,是边缘计算与人工智能的结合;它在硬件设备上运行本地处理数据的 AI 算法(设备上 AI)。因此,边缘人工智能利用快速响应时间、低延迟、高隐私、更健壮和更有效地利用网络带宽。Edge AI 的使用是由机器学习、神经网络加速和约简等新兴技术驱动的。
边缘人工智能的优势
边缘计算将人工智能处理任务从云端带到靠近终端设备,以克服传统云的内在问题,例如高延迟和缺乏安全性。因此,将 AI 计算移动到网络边缘有几个优点:
较低的数据传输量。数据由边缘设备处理,只有很少量的处理数据被发送到云端。通过减少小基站和核心网之间连接的流量,可以增加连接的带宽,防止出现瓶颈,减少核心网的流量。
实时计算的速度。实时处理是边缘计算的基本优势。边缘设备与数据源的物理接近性可以实现更低的延迟,从而提高实时数据处理性能。它支持对延迟敏感的应用和服务,例如远程手术、触觉互联网、无人驾驶和车辆事故预防。边缘服务器可以实时提供各种服务,包括决策支持、决策制定和数据分析。
隐私和安全。将数据保存在边缘是私密的,因为通过网络传输用户数据使其容易被盗和失真。边缘计算可以保证私有数据永远不会离开本地设备。对于必须远程处理数据的情况,可以使用边缘设备在数据传输前丢弃个人身份信息,从而增强用户隐私和安全性。
高可用性。通过在网络故障或网络攻击期间提供瞬态服务,去中心化和离线功能使 Edge AI 更加强大。因此,将 AI 任务部署到边缘可确保任务关键型或生产级 AI 应用程序(设备上 AI)所需的更高可用性和整体稳健性。
成本优势。将 AI 处理转移到边缘具有很高的成本效益,因为只有经过处理的高价值数据才会发送到云端。虽然发送和存储大量数据仍然非常昂贵,但根据摩尔定律,边缘的小型设备的计算能力变得更加强大。
边缘 AI 和 5G
全自动驾驶汽车、实时虚拟现实体验和关键任务应用等高增长领域对 5G 的迫切需求进一步推动了围绕边缘计算和边缘 AI 的创新。5G 是下一代蜂窝网络,旨在大幅提高服务质量,例如更高的吞吐量和更低的延迟——提供比现有 5G 网络快 10 倍的数据速率。要了解对快速数据传输和本地设备端计算的需求,请考虑在自动驾驶汽车之间进行实时数据包传输,这种情况需要不到 10 毫秒的端到端延迟。接入云端的最小端到端延迟大于 80 毫秒,这对于许多实际应用来说是无法容忍的。边缘计算满足了 5G 应用的亚毫秒级要求,并将能耗降低了约 30-40%,与访问云相比,能耗降低了 5 倍。边缘计算和 5G 提升网络性能以支持和部署不同的实时 AI 应用,例如基于 AI 的实时视频分析依赖于低延迟数据传输。
边缘计算与雾计算
雾计算是思科引入的一个术语,它与边缘计算密切相关。雾计算的概念基于将云扩展为更靠近物联网终端设备,旨在通过在网络边缘附近执行计算来改善延迟和安全性。雾计算和边缘计算之间的主要区别在于处理数据的位置:在边缘计算中,数据要么直接在传感器所连接的设备上处理,要么在物理上非常靠近传感器的网关设备上处理;在雾模型中,数据在远离边缘的地方处理,在使用局域网 (LAN) 连接的设备上。
边缘深度学习
执行深度学习任务通常需要大量计算能力和大量数据。低功耗物联网设备(例如典型的相机)是连续的数据源。然而,它们有限的存储和计算能力使其不适合深度学习模型的训练和推理。Edge AI 通过结合深度学习和边缘计算解决了这个问题。因此,边缘服务器放置在这些终端设备附近,用于部署对物联网生成的数据进行操作的深度学习模型。
边缘人工智能应用
借助 Edge AI,可以为实时边缘 AI 应用程序提供动力。
Smart Vision包括计算机视觉应用程序,例如实时视频分析,可为多个行业的 AI 视觉系统提供支持。英特尔开发了名为Visual Processing Units 的特殊协处理器,为边缘设备提供高性能计算机视觉应用程序。
智能能源应用,例如联网风电场。一项研究使用纯云系统与组合边缘云系统检查了远程风电场的数据管理和处理成本。风电场使用多种数据生成传感器和设备,例如视频监控摄像头、安全传感器、员工访问传感器和风力涡轮机传感器。与纯云系统相比,边缘云系统的成本降低了 36%,而需要传输的数据量减少了 96%。
医疗保健应用,例如远程手术和诊断,以及监测患者生命体征和数据。医生可以使用远程平台在他们感到安全和舒适的远处操作手术工具。
娱乐应用包括虚拟现实、增强现实和混合现实,例如将视频内容流式传输到虚拟现实眼镜。可以通过将计算从眼镜卸载到边缘服务器来减小此类眼镜的尺寸。例如,微软最近推出了HoloLens,这是一款内置于头显上的全息计算机,用于增强现实体验。Microsoft 旨在使用 HoloLens 设计标准计算、数据分析、医学成像和边缘游戏工具。
智能工厂应用程序,例如智能机器,旨在提高安全性和生产力。例如,操作员可以使用远程平台从安全舒适的地方操作重型机器,尤其是那些位于难以到达和不安全的地方的重型机器。
智能交通系统,驾驶员可以通过交通信息中心共享或收集信息,实时避开危险车辆或急停车辆,避免事故发生。此外,无人驾驶车辆可以感知周围环境并以自主方式安全移动。