边缘 AI 与云 AI:有什么区别?

一名戴着智能手表跑步的男子

作者

Mesh Flinders

Staff Writer

IBM Think

Ian Smalley

Staff Editor

IBM Think

边缘 AI 与云 AI:有什么区别?

边缘人工智能(边缘 AI)与云端人工智能(云 AI)是人工智能 (AI) 的两种部署模式,对大多数现代 AI 应用的发展至关重要。

虽然它们之间有相似之处,但在出于业务目的评估它们时,也存在值得考虑的关键差异。

边缘 AI 指运行 AI 模型与算法的技术流程,这些模型是在智能手机、恒温器、可穿戴健康监测器等边缘或物联网 (IoT) 设备上运行。边缘 AI 的名称来源于边缘计算,它是一种分布式计算,能使应用程序更接近数据源。

相较之下,云 AI 是一类依赖云计算(即通过互联网按需获取虚拟计算资源)来实现功能的 AI 形态。

尽管两类 AI 都支持高级数据处理与分析,但其 AI 模型运行方式及数据存储处理位置存在差异,因而具有不同的应用场景与优势。

辅以专家洞察分析的最新科技新闻

通过 Think 时事通讯,了解有关 AI、自动化、数据等方面最重要且最有趣的行业趋势。请参阅 IBM 隐私声明

谢谢!您已订阅。

您的订阅将以英语提供。每份时事通讯都包含取消订阅链接。您可以在此管理您的订阅或取消订阅。更多相关信息,请参阅我们的 IBM 隐私声明

什么是边缘 AI?

边缘 AI 是一种将人工智能算法部署在网络“边缘”设备上的技术形态,这些设备位于网络与物理世界的交界处,常面临连接中断的场景。这些设备(通常称为边缘或物联网 (IoT) 设备)包括智能手表、智能手机、工业传感器和可穿戴健康监测器。

边缘 AI 通过特定算法在数据源近端进行处理,无需先将数据传送至云端。因而能实现实时决策,这是其赋能设备的一项重要能力。

边缘 AI 作为优化制造业供应链管理等复杂行业工作流程的方案,正日益普及。这是企业减少网络流量和延迟的一种方法。

与其他 AI 类型不同,边缘 AI 设备可在离线状态下正常运行,这使其特别适合无法依赖持续互联网连接的功能场景。

应用程序开发

开启旅程:云端企业应用程序开发

在本视频中,Peter Haumer 博士通过演示不同的组件和实践(包括 IBM Z Open Editor、IBM Wazi 和 Zowe),探讨了混合云环境中现代企业应用程序的开发现状。

什么是云 AI?

云 AI 是指一种依赖云基础设施进行数据处理和分析的 AI。在云 AI 架构中,数据从其源头采集后,通过互联网连接传输至云端处理。它可以访问连接的虚拟计算资源,用于数据处理、数据分析和数据存储

尽管云 AI 技术相对传统且不如边缘 AI 先进,但在现代企业中仍具有广泛的应用价值。它可帮助开发者部署那些过于复杂且计算密集、无法在边缘运行的 AI 应用。典型应用包括深度学习 (DL) 模型训练,以及基于自然语言处理 (NLP) 的趋势分析与预测性分析

边缘 AI 和云 AI 如何工作?

边缘 AI 和云 AI 模型均通过机器学习 (ML) 进行训练,机器学习是 AI 的一个分支,已成为大多数现代 AI 系统的支柱。

然而,尽管边缘 AI 与云 AI 的目标都是通过数据处理与分析赋能强大 AI 应用,但实现方式存在本质差异:边缘 AI 在小型设备上本地处理数据,而云 AI 则借助云计算的处理能力。下面我们将进一步了解每种方法。

边缘 AI 的工作原理

边缘 AI 使用经过训练的 AI 模型,通过神经网络和深度学习来识别物体。边缘 AI 本身虽然部署在设备上,但用于创建其模型的训练过程依赖于集中式云基础设施。数据中心需要实时处理大量数据,这对于培训目的至关重要。

边缘 AI 模型部署后,会随着时间的推移进行“学习”,逐步提高其能力。边缘设备会持续进行本地处理,直至识别出无法本地处理的数据时,才将其转移至云端。通过这种不断的反馈,最初部署的边缘 AI 模型最终会被在云上经过一段时间训练的新 AI 模型所取代。

云 AI 的工作原理

与边缘 AI 不同,云 AI 的功能依赖于云基础设施的功能和存储空间。这些服务通常由 Amazon (AWS)、Google 和 Microsoft 等大型全球云服务提供商 (CSP) 提供。

这种处理方式使云 AI 相比边缘 AI 更适合计算密集型任务,例如大数据分析、高性能计算 (HPC),以及训练基础模型(用于计算机视觉与自然语言处理等先进 AI 应用)。

通过将 AI 系统集成到公有云私有云平台中,云 AI 帮助组织在企业层面部署高级 AI 应用程序。这些应用程序有多种用途,例如优化业务流程、产生洞察力和部署客户服务聊天机器人

边缘 AI 与云 AI 之间的主要区别

边缘 AI 和云 AI 之间存在重要差异,这使得它们各自更适合不同的用例。

计算能力

云 AI 可以通过互联网如中央处理器 (CPU)、图形处理器 (GPU) 和数据中心等虚拟计算资源的强大算力。这种能力意味着云 AI 可提供比边缘 AI 更强大的计算能力。边缘 AI 仅依赖于边缘或 IoT 设备上的资源的计算能力。

低延迟

边缘 AI 通过在本地而不是数据中心处理数据,显著减少了延迟、数据传输所需的时间和资源。云 AI 依赖远程服务器和数据中心进行处理,这大大增加了其所用基础设施的延迟。

带宽

与延迟类似,带宽使用量(衡量网络流量的指标)也显著受到边缘 AI 与云 AI 技术选型的影响。边缘 AI 被认为是低带宽,因为它在本地处理数据。云 AI 被认为是高带宽,因为它需要网络将数据传输到远程服务器和数据中心。

安全性

边缘 AI 被认为比云 AI 更安全,因为它将敏感数据存储在本地,即收集、存储和处理数据的设备上。另一方面,云 AI 通过云和网络移动敏感数据,增加了其向未经授权方暴露的可能性。

边缘 AI 和云 AI 优势

随着企业争相构建新的人工智能和生成式 AI 应用程序,人们对云 AI 和边缘 AI 模型的兴趣正在飙升。

根据最近的一份报告,2023 年全球边缘 AI 市场价值为 204.5 亿美元,预计到 2032 年将达到近 2700 亿美元。 1几乎在同一时期,全球云 AI 市场规模预计将从 780 亿美元跃升至近 5900 亿美元。 2

下面我们将详细介绍这两种 AI 的优点以及企业如何利用它们来实现目标。

边缘 AI 的优势

  • 实时决策:边缘 AI 解决方案利用网络边缘的实时数据处理能力,让 IoT 设备能够缩短响应时间。这项技术的 AI 应用正迅猛增长,从无人机等远程操控或自动驾驶交通工具,到依赖传感器与摄像头的全自动化设施皆涵盖其中。
  • 数据隐私:在本地而不是在云中处理数据,可以保护数据免受网络攻击,并降低处理不当的风险。正因如此,边缘 AI 正受到金融服务、医疗保健等受数据主权限制行业的高度关注。
  • 节省成本:边缘 AI 比云 AI 便宜得多,因为它减少了云计算机的工作负载。通过在本地处理数据,边缘 AI 减少了依赖云资源的数据量,从而显著降低了部署科技的运营成本。

云 AI 的优势

  • 提高可扩展性:云 AI 本质上比边缘 AI 更具可扩展性,因为它依赖于虚拟计算资源,可以更轻松地扩展和缩减以满足需求。边缘 AI 需要投资本地部署硬件(例如,边缘和 IoT 设备和传感器),这些硬件可以部署在数据源附近,以便进行本地处理。
  • 更高的性能:云 AI 通常可以获得比边缘 AI 更高的性能水平,因为它可以访问云端可以提供的资源和处理能力。另一方面,边缘 AI 受限于单个边缘和物联网设备的计算能力和资源。
  • 访问大规模数据集:由于可以访问云资源,云 AI 模型能够处理比边缘 AI 更大的 AI 工作负载。例如,深度学习的强化训练需要大数据集,这些数据集只能通过云访问,而不能通过本地处理。

企业边缘 AI 和云 AI 用例

鉴于每种模型的特定优势,企业级的边缘 AI 和云 AI 用例差异很大。以下是每种方法最常见的用例。

顶级边缘 AI 用例

  • 自动驾驶汽车操作:边缘设备助力卫星、无人机和自动驾驶汽车等自主交通工具,能实时响应环境变化(如切换交通信号或规避路径障碍物)。
  • 可穿戴健康设备:许多可穿戴监视器内置边缘 AI 设备,帮助患者和医疗保健提供方跟踪心率、血压和血氧水平等重要信息。
  • 制造流程:企业正在工厂车间和复杂的制造系统内部部署边缘人工智能,以实现流程自动化、检测机器性能变化并提高效率。
  • 零售商店:企业对消费者 (B2C) 企业利用边缘 AI 部署智能结账体验、跟踪库存并根据边缘设备上本地处理的实时数据创建更加个性化的推荐。

云 AI 顶级用例

  • 大数据分析:将 AI 与云数据仓库数据湖相结合,使企业能够近乎实时地发现数据趋势,这一过程被称为大数据分析。这种类型的分析需要一个人工分析团队花费数年时间来解析。
  • 大规模自然语言处理的情感分析应用:大规模 NLP 依赖云 AI 处理文本及其他用于情感分析的数据,这项重要 AI 应用可精准判断文本传递的是积极或消极情绪。
  • AI 模型优化:云 AI 可确保复杂的 AI 模型能够获得持续训练和开发所需的海量计算能力和资源,这是 AI 技术的一个关键方面。
  • 聊天机器人:ChatGPT、Gemini 和 IBM watsonx 等热门聊天机器人的大部分功能都利用了云 AI 的强大处理能力和计算资源。这种用途包括自动化工作流、与用户自然交谈以及搜索数据集以寻找洞察分析。
相关解决方案
IBM Enterprise Application Service for Java

完全托管的单租户服务,用于开发和交付 Java 应用程序。

深入了解 Java 应用程序
DevOps 解决方案

使用开发运维软件和工具,在多种设备和环境中构建、部署和管理云原生应用程序。

深入了解开发运维解决方案
企业应用程序开发服务

云应用程序开发意味着一次构建、快速迭代和随处部署。

应用程序开发服务
采取后续步骤

借助 IBM 云应用程序开发咨询服务,您可以获得提供专家指导和创新解决方案,使您的云策略更为精简高效。与 IBM 的云专家合作,实现应用程序的现代化改造、扩展和加速,为企业带来变革性的成果。

深入了解应用程序开发服务 开始免费使用 IBM Cloud 进行构建
脚注

1.边缘 AI 市场规模,Fortune Business Insights,2024 年

2.云 AI 市场规模,Fortune Business Insights,2023 年