边缘人工智能是指将 AI 算法和 AI 模型直接部署在传感器或物联网 (IoT) 设备一类的本地边缘设备上,从而实现实时数据处理和分析,而无需持续依赖云基础设施。
简单来说,边缘 AI 或“边缘上的 AI”是指边缘计算与人工智能的结合,它旨在直接在互连的边缘设备上执行机器学习任务。边缘计算允许数据存储在靠近设备位置的某一位置,而 AI 算法则可实现在网络边缘直接处理该数据,而无论是否存在互联网连接。此特性有助于在几毫秒内处理数据,从而提供实时反馈。
自动驾驶汽车、可穿戴设备、安全摄像头和智能家用电器均为利用边缘 AI 功能在最必要的时刻及时向用户提供实时信息的技术之一。
随着各行各业致力于发现利用边缘 AI 的强大功能来优化工作流程、实现业务流程自动化和释放创新新机遇的新方法,同时解决延迟、安全性和成本下降等问题,边缘 AI 正日益受到欢迎。
了解有关 IBM 的边缘计算解决方案的更多信息。
得益于边缘 AI,本地化决策无需不断地将数据传输到中心位置并等待它来促进我们的业务运营自动化。尽管如此,仍然需要将数据传输到云端,以便重新训练这些 AI 管道并部署它们。在众多地点和各种应用中部署这种模式会面临数据重力、异构性、规模和资源限制等具体挑战。分布式 AI 可以通过集成智能数据收集、自动化数据和 AI 生命周期、调整和监控轮辐以及优化数据和 AI 管道来解决边缘 AI 面临的这些挑战。
分布式人工智能 (DAI) 负责在多代理环境中分配、协调和预测任务、目的或决策效果。DAI 已将其应用场景扩展到大量领域,并支持 AI 算法在边缘上的多个系统、网域和设备上实现自主处理。
目前,云计算和 API 被用于训练和部署机器学习模型。随后,边缘 AI 会在用户附近执行各种机器学习任务,如预测性分析、语音识别和异常检测,从而以不同方式将自身与普通云服务区分开来。边缘 AI 系统并非完全在云端开发和运行的应用程序,而是在更接近创建数据的位置来处理和分析该数据。机器学习算法可在边缘上运行,并可直接在 IoT 设备上处理信息,而不是在私有数据中心或云计算设施中进行处理。
每当需进行实时预测和数据处理时,边缘 AI 均为更理想的选项。以自动驾驶汽车技术领域的最新进展为例。为确保这些汽车的安全导航并避免引发潜在危险,它们必须快速检测一系列因素并对其做出响应,例如交通灯信号、不稳定的司机、变换车道、行人、路缘石以及众多其他变量。边缘 AI 可在车内本地处理这些信息,从而可降低通过云端 AI 向远程服务器发送数据时可能出现连接问题的潜在风险。在此类性质的场景中,快速数据响应可能会决定生死,因此车辆的快速反应能力便绝对至关重要。
相反,云 AI 是指在云服务器上部署 AI 算法和模型。此方法可提高数据存储与处理能力,从而有助于训练和部署更先进的 AI 模型。
了解如何将正确的数据库用于应用、分析和生成式 AI。
注册以获取有关基础模型的指南
较之边缘 AI,云 AI 可提供更强大的计算能力和存储容量,从而有助于训练和部署更复杂、更先进的 AI 模型。由于设备大小的限制,边缘 AI 的处理能力存在局限性。
延迟会直接影响工作效率、协作效果、应用程序性能和用户体验。延迟越高(且响应速度越慢),这些领域受到的影响便越大。边缘 AI 可通过直接在设备上处理数据来降低延迟,而云 AI 则涉及将数据发送到远程服务器,从而导致延迟增加。
带宽是指全球范围内入站与出站网络流量的公共数据传输。由于会在设备上进行本地数据处理,边缘 AI 所需的带宽较小,而云 AI 则涉及将数据传输到远程服务器,从而需要较大的网络带宽。
边缘架构可通过直接在设备上处理敏感数据来提供增强的隐私性,而云 AI 则需将数据传输到外部服务器,从而可能会将敏感信息暴露给第三方服务器。
根据 Grand View Research, Inc的一份报告(ibm.com 外部链接),2022 年全球边缘 AI 市场的价值为 147.875 亿美元,而预计到 2023 年此价值会增长到 6,647 万美元。边缘计算快速扩张背后的推手在于:对基于 IoT 的边缘计算服务的需求增长,以及边缘 AI 的其他固有优势。边缘 AI 的主要优点包括:
通过完整的设备端处理,用户可体验到快速的响应间隔时间,而不会因需要从远程服务器传回信息而造成任何延迟。
由于边缘 AI 会在本地处理数据,因而会最大限度地减少通过互联网传输的数据量,从而节省互联网带宽。当使用的带宽较少时,数据连接可处理更大数量的同步数据传输和接收。
用户可以在设备上进行 实时数据处理 ,而无需系统 连接 和集成,因此无需与其他物理位置通信即可整合数据,从而节省时间。但是, 边缘 AI 在管理某些 AI 应用程序所需的大量和多样化数据方面可能会遇到限制,并且可能需要与 云计算 集成以利用其资源和能力。
隐私性得以提高,因为数据不会传输到其他网络,而在此网络中可能易遭遇网络攻击。通过在设备上本地处理信息,边缘 AI 可降低数据处理不当的风险。在受到数据主权法规约束的行业中,边缘 AI 可在指定的管辖区域内对数据进行本地处理和存储,从而有助于保持合规性。另一方面,任意集中式数据库均有可能成为潜在攻击者的诱人目标,因而边缘 AI 并非完全不受安全风险的影响。
边缘 AI 利用基于云的平台和原始设备制造商 (OEM) 技术的固有边缘功能来扩展系统,从而可同时涵盖软件和硬件。这些 OEM 公司已开始将原生边缘功能集成到其设备中,以便简化扩展此系统的流程。该扩展还可让本地网络即使在上游或下游节点遭遇停机的情况下也能保持正常运行。
与云端托管的 AI 服务相关的费用可能很高。边缘 AI 提供了一个选项,即利用昂贵的云资源来作为后处理数据积累的存储库,以便用于后续分析而非即时的现场操作。此举可减少云计算机和网络的工作负载。由于 CPU、GPU 和内存的工作负载分布在不同边缘设备之间,因此它们的利用率会大幅下降,从而使得边缘 AI 成为这两者之间更具成本效益的选项。
当云计算处理某一服务的所有计算时,集中式位置会承担大量工作负载。网络会承受高流量以便将数据传输到中央源。当机器执行任务时,这些网络会再次激活,以便将数据传输回用户端。边缘设备会消除此类连续的来回数据传输。因此,当网络和机器从处理各相关方面的负担中解脱出来时,它们的压力均会得到减轻。
此外,边缘 AI 的自主特性消除了数据科学家持续进行监督的需求。虽然人工解释会在决定数据的最终价值及其产生的结果方面持续发挥关键作用,但边缘 AI 平台可承担其中部分责任,从而最终能为企业节省成本。
目前,边缘 AI 的常见示例包括智能手机、可穿戴健康监测配件(如智能手表)、自动驾驶汽车配备的实时交通更新、联网设备和智能家电。此外,各行各业也越来越多地开始采用边缘 AI 应用,以降低成本、实现流程自动化、改进决策和优化运营。
医疗保健提供方正通过边缘 AI 的实际实施以及引入最先进的设备来进行重大转型。与未来的边缘技术进展相结合时,该技术可构建出更智能的医疗保健系统,同时保护患者隐私并缩短响应时间。
可穿戴健康监视器利用本地嵌入的 AI 模型来对心率、血压、血糖水平和呼吸等指标进行评估。可穿戴边缘 AI 设备还可检测患者何时突然跌倒并提醒护理人员,而此功能已包含在市场上常见的智能手表中。
通过为急救车配备快速数据处理功能,护理人员可从健康监控设备中提取洞察信息,并咨询医生以确定有效的患者稳定策略。同时,急诊室工作人员可准备应对患者的特有护理需求。在此类情况下集成边缘 AI 有助于促进关键健康信息的实时交换。
目前,全球各大制造商已开始整合边缘 AI 技术来彻底改变其制造运营,从而提高此流程中的效率和生产力。
您可利用传感器数据主动识别异常并预测机器故障,而这也被称为预测性维护。设备传感器可定位缺陷并及时通知管理层开展紧急维修,以便及时解决问题并防止出现运营停机。
边缘 AI 还可应用于该行业的其他需求领域,例如质量控制、工人安全、产量优化、供应链分析和车间优化。
随着电子商务和在线购物的普及,企业已体会到一个巨大趋势,而这已不是什么秘密。传统实体零售店被迫进行创新,以打造无缝的购物体验并吸引客户。而伴随这一转变,新技术也应运而生,例如“即取即走”商店、附带传感器的智能购物车和智能结账系统。这些解决方案利用边缘 AI 技术来提升并加快客户的传统店内体验。
“智能”设备(如门铃、恒温器、冰箱、娱乐系统和可控灯泡)在当代已达到饱和状态。这些智能家居包含利用边缘 AI 来提高居民生活质量的多个设备生态系统。无论居民是想识别位于家门口的某人还是通过其设备来控制室内温度,边缘技术均可在现场快速处理数据,而无需将信息传输到集中式远程服务器。此特性有助于保护居民的隐私,并降低未经授权访问个人数据的风险。
速度对于安保视频分析可谓至关重要。很多计算机视觉系统缺乏实时分析所需的适当速度,且此类系统不会在本地处理从安全摄像头捕获的图像或视频,而是将其传输到配备高性能处理能力的基于云的机器。如果不在本地处理数据,这些基于云的系统便会因延迟问题(主要是指数据上传与处理期间出现的延迟)而受到阻碍。
边缘 AI 的计算机视觉应用程序以及智能安全设备上的物体检测功能可识别可疑活动、通知用户并触发警报。这些功能可为居民提供更强的安全感和安心感。