什么是边缘 AI?
边缘人工智能(AI)或 AI at the Edge,是指将 AI 与 边缘计算 结合使用,从而在物理位置或其附近收集数据。例如,在更靠近数据源的情况下,图像识别算法任务的运行效果会更好。
边缘 AI 可以几乎即时地做出响应。 无论有没有互联网连接,边缘 AI 都能在几毫秒内处理数据,提供实时反馈,因为 AI 算法可以在更靠近设备的位置处理数据。而且,这个过程也可以令数据更加安全,因为敏感数据可以一直驻留在边缘,不用向外传输。
边缘 AI 与传统 AI 有何不同?
边缘 AI 与传统 AI 的不同之处在于,边缘 AI 不是在云系统的后端运行 AI 模型,而是在网络边缘的网络设备上运行。这增加了一个智能层,使边缘设备不仅可以收集指标和分析,还能通过边缘设备内的集成机器学习(ML)模型据此采取行动。
人工智能的目标是一致的:让计算机收集数据、处理数据,然后产生类似人类智能的结果。然而,边缘 AI 是在本地、所用设备内部或附近位置进行工作和决策。
边缘 AI 与分布式 AI 有何不同?
与边缘 AI 相关的是分布式 AI ,它使用了传统 AI 和边缘 AI 的概念。两者之间的主要区别在于数据的处理位置和 AI 模型的部署方式。边缘 AI 直接在边缘设备上运行算法,而分布式 AI 则使用多个互连系统,包括中央服务器、边缘设备等。
在分布式 AI 中,任务被分配到多台机器或设备上,每台机器或设备处理一部分问题。虽然这种分布式处理可以将更多的算力应用到数据处理上,并且可以扩展到边缘 AI 的能力之外,但其复杂性、延迟和整体隐私方面会出现权衡。
云计算如何赋能边缘 AI?
可以毫不夸张地说,没有云计算就没有边缘 AI。云计算提供了基础架构、工具和服务,以便在边缘设备上开发、部署、管理和维护 AI 模型。
培训: 由于边缘 AI 设备远离集中式服务器,它们通常缺乏训练深度学习模型所需的计算能力和大量数据。相反,边缘 AI 设备会将数据传输到云端,与类似设备的数据进行整合、处理并用于训练模型。然后,将训练有素的机器学习模型重新部署到边缘设备上。
部署: 由于边缘设备在设计上是极简的,因此需要针对资源有限的边缘设备优化经过训练的模型。云服务提供用于量化和修剪的压缩工具,为部署到边缘的 AI 模型做好准备。
数据同步: 边缘 AI 设备能够在其部署点快速处理数据。边缘 AI 设备也会收集数据,以训练其模型做出更好的决策。边缘 AI 设备会定期与云端的中央存储库同步,这有助于存储和处理边缘设备收集和计算的数据。发送到云端的数据用于持续学习 ,对模型进行训练并重新部署到设备上。
监控和管理: 边缘 AI 设备处于企业与用户交互的最前沿。云平台实时监控边缘设备,实现预测性维护,并在潜在问题影响性能之前识别它们。此外,云平台可以按需扩展,为管理大量设备的企业提供弹性资源。
红帽资源
边缘 AI 具有哪些优势?
边缘计算和人工智能的结合带来了巨大的优势。借助边缘人工智能,传感器和物联网设备所在的边缘也可以具备高性能算力。因为不需要在系统之间进行连接和集成,用户可以实时在设备上处理数据,并且用户可以通过收集数据而无需与其他物理位置进行通信,从而节省时间。
边缘 AI 的优势包括:
- 降低功耗:通过在本地进行数据处理,节省能源成本;在边缘运行 AI 的功耗低于云数据中心的功耗要求
- 减少带宽:通过在本地处理、分析和存储更多数据(而不是发送到云端),减少需要发送的数据量并降低成本
- 隐私:通过边缘 AI 在边缘设备上处理数据,降低 敏感数据泄露的风险
- 安全性:通过在边缘网络中处理和存储数据,可以优先处理重要数据的传输,并过滤掉冗余或不必要的数据
- 可扩展性:借助基于云的平台和原始设备制造商 (OEM) 设备上的原生边缘功能,轻松扩展系统
- 减少延迟:减少在云平台上处理数据的时间,并在本地分析数据,以便进行其他任务
边缘 AI 的用例有哪些?
边缘 AI 的优势可用于各行各业的用例
医疗领域的边缘 AI
智能手表和健身追踪器等可穿戴设备可以使用边缘 AI 来实时监测生命体征(心跳、血氧水平),提醒用户心律失常或压力过大等异常情况,而无需依赖于云处理。支持 AI 的诊断工具可以在医院或诊所网络的"边缘"分析 X 光片、核磁成像和其他医学扫描,提供即时结果并减少将数据发送到中央处理中心的需求,从而协助医学成像服务器。边缘 AI 可以协助远程患者监控 家中的状况,分析来自医疗设备的数据,并实时向医疗保健提供者发出警报。
边缘 AI 在制造业的应用
在制造工厂中,边缘 AI 可以执行预测性维护,实时监控设备的性能异常,以预测机械故障。配备 AI 的摄像头和传感器可以检查生产线中的产品缺陷,从而加强质量控制。在本地处理视觉或感知数据,而不是在远程中央服务器中处理,可以立即进行更正,从而最大程度减少浪费。工厂中由边缘 AI 驱动的机器人和自动化可以进行分拣、包装或组装,利用来自传感器输入的实时数据来适应环境变化或产品变化。
边缘 AI 在智能家居中的应用
在日常生活中,我们已经习惯了在家中使用语音助手来控制灯光、恒温器和音乐。这些设备使用边缘 AI 在本地处理命令,从而减少延迟。在本地处理命令而不发送到中央服务器也增强了隐私性。 与智能门铃和家用摄像头集成的安全系统使用边缘 AI 来检测运动、识别人脸,并向房主发出异常活动警报。本地处理避免了将连续视频流发送到云端的需要,从而提高了隐私性和效率。其他智能家居设备(如恒温器)在 能源管理中使用边缘 AI。它们通过学习用户行为和本地数据来优化加热/冷却计划并减少能源消耗。
边缘 AI 的零售应用
在零售业,"智能货架"采用边缘 AI 进行库存管理。摄像头和其他传感器会检测到商品缺货或错位,并通知员工进行调整。许多零售商正在试验免结账商店 ,其中的边缘 AI 系统通过处理直接来自店内传感器和摄像头的数据,实时跟踪客户选择或退回的产品。
边缘 AI 为车辆和交通提供动力
自动驾驶汽车本身就是边缘 AI 设备,它们依赖于来自摄像头、LIDAR 和雷达等传感器的实时数据来导航道路、检测障碍物并做出瞬时决策,而不依赖于云连接。智能交通信号灯和摄像头通过实时分析交通模式,将边缘 AI 用于交通管理 ,这有助于减少拥堵并提高十字路口的安全性。边缘 AI 还通过监控车辆性能、驾驶员行为和优化配送路线,优化物流公司的车队管理 。
为什么选择红帽?
红帽® AI 是我们专门针对企业组织需求而构建的 AI 产品组合,它筑基于深受客户信赖的红帽解决方案。有了这种稳健的基础,我们的产品就始终可靠、灵活且可扩展。
红帽 AI 可以帮助企业组织做到以下几点:
- 快速采用 AI 并进行创新
- 拆解交付 AI 解决方案的复杂流程
- 随处部署
如何灵活扩展
红帽 AI 包含对平台的访问权限,可灵活地在任何地方进行部署。
红帽 OpenShift® AI 是一个集成的 MLOps 平台,可以管理预测性和生成式 AI 模型的生命周期。在这个单一平台上,您可以跨混合云环境扩展 AI 应用。
此外,在构建和部署 AI 应用以及关键工作负载时,我们的专业顾问还可以针对您独特的企业用例提供实践支持。
红帽官方博客
获取有关我们的客户、合作伙伴和社区生态系统的最新信息。