什么是边缘 AI?

年轻学生和成年女性在同一张办公桌上工作的俯瞰图

什么是边缘 AI?

边缘人工智能是指将 AI 算法和 AI 模型直接部署在传感器或物联网 (IoT) 设备一类的本地边缘设备上,从而实现实时数据处理和分析,而无需持续依赖云基础设施。

简单来说,边缘 AI 或“边缘上的 AI”是指边缘计算人工智能的结合,它旨在直接在互连的边缘设备上执行机器学习任务。边缘计算允许数据存储在靠近设备位置的某一位置,而 AI 算法则可实现在网络边缘直接处理该数据,而无论是否存在互联网连接。此功能/能力有助于在几毫秒内完成数据处理,从而提供实时反馈。

自动驾驶汽车、可穿戴设备、安全摄像头和智能家用电器均为利用边缘 AI 功能在最必要的时刻及时向用户提供实时信息的技术之一。

随着行业探索利用边缘AI的力量优化工作流、自动化业务流程和促进创新等新方法,边缘 AI 正变得越来越受欢迎。同时,它有助于解决延迟、安全性和成本降低等关键问题。

了解更多有关 IBM 的边缘计算解决方案的信息。

辅以专家洞察分析的最新科技新闻

通过 Think 时事通讯,了解有关 AI、自动化、数据等方面最重要且最有趣的行业趋势。请参阅 IBM 隐私声明

谢谢!您已订阅。

您的订阅将以英语提供。每份时事通讯都包含取消订阅链接。您可以在此管理您的订阅或取消订阅。更多相关信息,请参阅我们的 IBM 隐私声明

边缘 AI 与分布式 AI

边缘 AI 支持现场决策,无需不断将数据传输到中央位置并等待处理,从而简化了业务运营的自动化。但是,数据仍需要传输到云以重新训练 AI 管道并部署更新的模型。

在众多地点和各种应用中部署这种模式会面临数据重力、异构性、规模和资源限制等具体挑战。分布式 AI 通过集成智能数据收集、自动化数据和 AI 生命周期、调整和监控轮辐以及优化数据和 AI 管道来帮助克服这些障碍。

分布式人工智能 (DAI) 负责在多代理环境中分配、协调和预测任务、目的或决策效果。DAI 已将其应用场景扩展到大量领域,并支持 AI 算法在边缘上的多个系统、网域和设备上实现自主处理。

边缘 AI 与云 AI

目前,云计算和应用程序编程接口(API)被用于训练和部署机器学习模型。随后,边缘 AI 会在用户附近执行各种机器学习任务,如预测性分析、语音识别和异常检测,从而以不同方式将自身与普通云服务区分开来。边缘 AI 系统并非完全在云端开发和运行的应用程序,而是在更接近创建数据的位置来处理和分析该数据。

机器学习算法可在边缘上运行,并可直接在 IoT 设备上处理信息,而不是在私有数据中心或云计算设施中进行处理。

每当需进行实时预测和数据处理时,边缘 AI 均为更理想的选项。以自动驾驶汽车技术领域的最新进展为例。为了确保这些汽车的安全导航并避免潜在的危险,它们必须快速检测一系列因素并做出响应,例如交通信号灯、不稳定的驾驶员和车道变换。此外,他们还必须考虑到行人、路缘和许多其他变量。

边缘 AI 可在车内本地处理这些信息,从而可降低通过云端 AI 向远程服务器发送数据时可能出现连接问题的潜在风险。在此类性质的场景中,快速数据响应可能会决定生死,因此车辆的快速反应能力便绝对至关重要。

相反,云 AI 是指在云服务器上部署 AI 算法和模型。此方法可提高数据存储与处理能力,从而有助于训练和部署更先进的 AI 模型。

边缘 AI 与云 AI 之间的主要区别

计算能力

较之边缘 AI,云 AI 可提供更强大的计算能力和存储容量,从而有助于训练和部署更复杂、更先进的 AI 模型。边缘 AI 的处理能力受到设备尺寸的限制。

等待时间

延迟会直接影响工作效率、协作效果、应用程序性能和用户体验。延迟越高(且响应速度越慢),这些领域受到的影响便越大。边缘 AI 可通过直接在设备上处理数据来降低延迟,而云 AI 则涉及将数据发送到远程服务器,从而导致延迟增加。

网络带宽

带宽是指全球范围内入站与出站网络流量的公共数据传输。由于会在设备上进行本地数据处理,边缘 AI 所需的带宽较小,而云 AI 则涉及将数据传输到远程服务器,从而需要较大的网络带宽。

安全性

边缘架构可通过直接在设备上处理敏感数据来提供增强的隐私性,而云 AI 则需将数据传输到外部服务器,从而可能会将敏感信息暴露给第三方服务器。

边缘 AI 为最终用户带来的好处

根据 Grand View 研究, Inc. 开展的一份报告,2022 年全球边缘 AI 市场价值为 147.875 亿美元,预计到 2023 年将增长到 0.6647 亿美元。基于 IoT 的边缘计算服务需求不断增长,加上边缘 AI 的先天优势,推动了边缘计算的快速扩张。边缘 AI 的主要优点包括:

降低延迟

通过完整的设备端处理,用户可体验到快速的响应间隔时间,而不会因需要从远程服务器传回信息而造成任何延迟。

减少带宽

由于边缘 AI 会在本地处理数据,因而会最大限度地减少通过互联网传输的数据量,从而节省互联网带宽。当使用的带宽较少时,数据连接可处理更大数量的同步数据传输和接收。

实时分析

用户可以在设备上进行 实时数据处理 ,而无需系统 连接 和集成,因此无需与其他物理位置通信即可整合数据,从而节省时间。然而,边缘 AI 可能难以处理某些AI应用所需的大量且多元的数据。为了克服这些限制,它必须与云计算集成,以利用其资源和能力。

数据隐私

隐私性得以提高,因为数据不会传输到其他网络,而在此网络中可能易遭遇网络攻击。通过在设备上本地处理信息,边缘 AI 可降低数据处理不当的风险。在受到数据主权法规约束的行业中,边缘 AI 可在指定的管辖区域内对数据进行本地处理和存储,从而有助于保持合规性。

然而,任何集中式数据库都有可能成为潜在攻击者诱人的目标,这意味着边缘 AI 仍然面临着安全风险。

可扩展性

边缘 AI 利用基于云的平台和原始设备制造商 (OEM) 技术的固有边缘功能来扩展系统,从而可同时涵盖软件和硬件。这些 OEM 公司已开始将原生边缘功能集成到其设备中,从而更轻松地扩展系统。该扩展还可让本地网络即使在上游或下游节点遭遇停机的情况下也能保持正常运行。

降低成本

与云端托管的 AI 服务相关的费用可能很高。边缘 AI 提供了一个选项,即利用昂贵的云资源来作为后处理数据积累的存储库,以便用于后续分析而非即时的现场操作。此举可减少云计算机和网络的工作负载。

由于 CPU、GPU 和内存的工作负载分布在不同边缘设备之间,因此它们的利用率会大幅下降,从而使得边缘 AI 成为这两者之间更具成本效益的选项。

当云计算处理某一服务的所有计算时,集中式位置会承担大量工作负载。网络会承受高流量以便将数据传输到中央源。当机器执行任务时,这些网络会再次激活,以便将数据传输回用户端。边缘设备会消除此类连续的来回数据传输。因此,当网络和机器从处理各相关方面的负担中解脱出来时,它们的压力均会得到减轻。

此外,边缘 AI 的自主特性消除了数据科学家持续进行监督的需求。尽管人工解释在决定数据的最终价值及其产生的结果方面起着关键作用,但边缘AI平台承担了部分责任。这种转变最终会为企业节省成本。

边缘 AI 技术是如何运作的?

边缘 AI 使用神经网络深度学习来培训模型,以准确识别、分类和描述所提供数据中的对象。此训练流程通常会利用集中式数据中心或云端来处理模型训练所需的大量数据。

部署后,边缘 AI 模型会随着时间的推移而逐步改进。如果 AI 遇到问题,存在问题的数据通常会传输到云端,以便对初始 AI 模型进行额外训练,从而最终取代位于边缘的推理引擎。该反馈回路十分有助于提高模型性能。

边缘计算

边缘计算的未来

从零售业、银行业到电信业,几乎各行各业的企业都在探索边缘计算如何能实现更快的洞察分析和行动、更好的数据控制和持续运营。在本视频中,IBM 副总裁、IBM 院士、IBM Edge Computing 首席技术官 Rob High 与 IBM 行业专家齐聚一堂,探讨边缘计算的未来。

按行业划分的边缘 AI 用例

目前,边缘 AI 的常见示例包括智能手机、可穿戴健康监测配件(如智能手表)、自动驾驶汽车配备的实时交通更新、联网设备和智能家电。此外,各行各业也越来越多地开始采用边缘 AI 应用,以降低成本、实现流程自动化、改进决策和优化运营。

医疗保健

医疗保健提供方正通过边缘 AI 的实际实施以及引入最先进的设备来进行重大转型。与未来的边缘技术进展相结合时,该技术可构建出更智能的医疗保健系统,同时保护患者隐私并缩短响应时间。

可穿戴健康监测设备利用本地嵌入的 AI 模型来对心率、血压、血糖水平和呼吸等指标进行评估。可穿戴边缘 AI 设备还可检测患者何时突然跌倒并提醒护理人员,而此功能已包含在市场上常见的智能手表中。

通过为急救车配备快速数据处理功能,护理人员可从健康监控设备中提取洞察信息,并咨询医生以确定有效的患者稳定策略。同时,急诊室工作人员可准备应对患者的特有护理需求。在此类情况下集成边缘 AI 有助于促进关键健康信息的实时交换。

制造业物联网

目前,全球各大制造商已开始整合边缘 AI 技术来彻底改变其制造运营,从而提高此流程中的效率和生产力。

您可利用传感器数据主动识别异常并预测机器故障,而这也被称为预测性维护。设备传感器可定位缺陷并及时通知管理层开展紧急维修,以便及时解决问题并防止出现运营停机。

边缘 AI 还可应用于该行业的其他需求领域,例如质量控制、工人安全、产量优化、供应链分析和车间优化。

零售业

随着电子商务和在线购物的普及,企业已体会到一个巨大趋势,而这已不是什么秘密。传统实体零售店被迫进行创新,以打造无缝的购物体验并吸引客户。而伴随这一转变,新技术也应运而生,例如“即取即走”商店、附带传感器的智能购物车和智能结账系统。这些解决方案利用边缘 AI 技术来提升并加快客户的传统店内体验。

智能家居

“智能”设备(如门铃、恒温器、冰箱、娱乐系统和可控灯泡)在当代已达到饱和状态。这些智能家居包含利用边缘 AI 来提高居民生活质量的多个设备生态系统。

无论是居民需要识别门外来客还是通过设备控制房屋温度,边缘科技都能在现场快速处理数据。该策略消除了将信息传输到集中式远程服务器的需要,有助于维护居民的隐私,并降低未经授权访问个人数据的风险。

安保和监控

速度对于安保视频分析可谓至关重要。许多计算机视觉系统缺乏实时分析所需的适当速度。这些系统不会在本地处理从安全摄像头捕获的图像或视频,而是将它们传输到配备高功能的云机器。如果不在本地处理数据,这些基于云的系统便会因延迟问题(主要是指数据上传与处理期间出现的延迟)而受到阻碍。

边缘 AI 的计算机视觉应用程序以及智能安全设备上的物体检测功能可识别可疑活动、通知用户并触发警报。这些功能可为居民提供更强的安全感和安心感。

相关解决方案
IBM Power 服务器

IBM Power 是基于 IBM Power 处理器的服务器系列,能够运行 IBM AIX、IBM i 和 Linux。

探索 IBM Power
边缘计算解决方案

借助 IBM 的边缘计算解决方案,实现操作自动化,提升体验并加强安全措施。

深入了解边缘计算解决方案
云战略咨询服务

IBM 云战略咨询提供混合多云转型服务,以加速云之旅并优化技术环境。

云战略服务
采取后续步骤

了解边缘计算的基本原理,以及它如何使数据处理更靠近数据生成的位置。深入了解边缘计算如何提高运营效率、减少延迟,并帮助各行业实时做出更明智的决策。

深入了解边缘计算解决方案 深入了解 5G 和边缘解决方案