什么是边缘 AI？

本质上，边缘 AI（或“位于边缘的 AI”）结合了边缘计算和人工智能 (AI)，以便直接在互联的边缘设备上执行机器学习 (ML) 任务。

边缘计算允许将数据存储在设备附近，而人工智能驱动式算法则支持在网络边缘进行处理，而无论是否有互联网连接。此功能有助于在几毫秒内进行数据处理，从而提供即时反馈。

自动驾驶汽车、可穿戴设备、安全摄像头、智能家居电器和先进机器人等技术便利用边缘 AI 功能来为用户提供实时信息。智能体式 AI 系统也依赖于边缘 AI 来即时采取行动和响应，而无须将数据发送到云端进行分析。

针对即时数据处理的不断增长的需求，加上 AI 和 ML 算法的进步，正在推动边缘 AI 在企业环境中的采用。2025 年，Grand View Research 对全球边缘 AI 市场的估值为 249.1 亿美元。该公司预计，到 2033 年，该数字将达到 1186.9 亿美元，且 2026–2033 年间的复合年增长率 (CAGR) 为 21.7%。¹

眼下，组织正在实施边缘 AI 来优化工作流、自动执行业务流程并促进创新。同时，边缘 AI 有助于实现低延迟、增强安全性并降低成本。

边缘 AI 利用神经网络和深度学习框架来训练模型，以准确识别、分类和描述对象。此训练过程通常会在集中式数据中心或云端进行，以便处理模型训练所需的大量数据。

部署后，边缘 AI 模型会随着时间的推移而改进。例如，当 AI 遇到某一问题时，数据会被传输到云端以进一步训练初始 AI 模型，从而最终取代位于边缘的 AI 推理引擎。

小语言模型 (SLM)（比大语言模型 (LLM)更为紧凑和高效）的进步以及 生成式 AI 的普遍使用正在扩展边缘设备可在本地实现的功能。它们支持在设备上进行更多处理，而无需依赖云端。

边缘 AI 的关键组件为：

• 边缘设备/节点：工业 IoT 机械、IoT 传感器和用于捕获数据的智能摄像头。

• 边缘网关：位于边缘设备与云或集中式数据中心之间的路由器、服务器或其他网络设备。

• 边缘服务器：位于边缘的专用计算机或计算机集群，可用于处置处理、存储、网络、安全与其他计算资源。

• 边缘处理器和 AI 加速器：专业硬件包括神经处理单元 (NPU) 和图形处理单元 (GPU)。这些关键的 AI 基础设施组件可优化边缘 AI 推理，从而提供高计算力和低功耗。AI 加速器使用并行处理功能，从而能同时进行数十亿次计算。NVIDIA、IBM 和其他大型科技公司提供专为本地推理设计的边缘 AI 解决方案。

• 机器学习模型：支持在边缘进行实时决策从而在数据源头依据数据来采取行动的模型。举一个真实的示例：AI 算法（常在云端进行预训练）可帮助检测工厂车间出现的故障，从而可立即开展维修。

边缘 AI 不会孤立运行；它会与分布式 AI 和云计算协同工作。了解三者之间的关系是理解部署决策的关键所在。

边缘 AI 支持现场决策，因而无需不断将数据传输到中央位置并等待处理，从而可简化业务运营的自动化。

在众多地点和不同应用程序中扩展 AI 会带来诸多挑战，例如数据重力、异构性、规模和资源限制。此方法是分布式人工智能 (DAI)（一种用于处理大规模 AI 任务的方法，其中的工作负载分散在多个设备或处理器上）的用武之地。

DAI 通过集成智能数据收集、自动化数据处理和 AI 生命周期、调整和监控轮辐以及优化数据和 AI 管道，来帮助克服边缘扩展障碍。

在实践中，边缘 AI 和分布式 AI 会协同工作，而边缘 AI 负载在本地设备上进行现场处理，DAI 则负责协调和扩展多个位置之间的 AI 工作负载。

云计算和应用程序编程接口 (API) 常被用于训练和部署机器学习模型。借助边缘 AI，机器学习任务（例如，预测性分析、语音识别、异常检测）可在离用户更近的地方进行。它们会在 IoT 设备上进行处理，而不是在数据中心或云上。

每当需要实时预测和数据处理时（例如，自动驾驶汽车技术），边缘 AI 便是更好的选择。为确保导航安全并避免潜在危险，这些车辆须能快速检测和响应交通信号、不稳定的驾驶员和车道变更等因素。此外，它们还须考虑到行人、路缘和众多其他变量。

通过在车内进行本地处理，边缘 AI 可降低向远程服务器发送数据时可能出现的连接问题风险。

相比之下，云端 AI 是指在云服务器上部署 AI 算法和模型。此方法可提高数据存储与处理能力，从而有助于训练和部署更先进的 AI 模型。

当云 AI 与边缘 AI 相结合时，可实现相辅相成。例如，与客户偏好相关的数据可发送到云端进行分析，而客户的即时查询则会在边缘的数据源中进行处理。

要详细了解云端 AI 和边缘 AI 的对比信息，请查看“边缘与云端 AI：有什么区别？”

随着 AI 对企业业务的重要性日益凸显，边缘 AI 正逐渐成为组织构建和扩展端到端 AI 基础设施过程中不可或缺的一部分。2026 年 IBM 商业价值研究院的一项研究发现，79% 的高管预计到 2030 年 AI 将显著推动创收。

边缘 AI 的主要优点包括：

• 降低延迟：通过完整的设备端处理，用户可获得更快的响应，而无需往返于远程服务器。

• 减少带宽：边缘 AI 会在本地处理数据，从而减少通过互联网传输的数据量并释放带宽。凭借此减少措施，网络能同时处理更多的数据流量。

• 实时分析：用户无需系统连接和集成即可在设备上执行实时数据处理。借助此能力，他们便可通过分析数据生成位置的数据来更快做出决策。

• 数据隐私和安全：边缘 AI 可增强隐私性，因为数据不会传输到其他网络，因而不易受到网络攻击。通过在设备上本地处理信息，边缘 AI 可降低敏感数据处理不当的风险。此外，对于受数据主权法规约束的行业，边缘 AI 系统可通过在指定司法管辖区本地处理并存储敏感信息来帮助保持合规性。

• 增强自动化：边缘 AI 可自动进行现场数据分析，而无需持续的人工监督。此功能在工业自动化和远程监控等应用中至关重要，而这些应用支持现代制造业和机器人技术。

• 运营弹性：在边缘 AI 环境下，设备会在本地处理数据，因此即使网络出现故障或变得不稳定，运营也能继续。

• 可扩展性：边缘 AI 可通过将基于云的平台与集成 AI 的硬件相结合，来帮助组织扩展 AI 工作负载。此方法可更轻松地在不中断网络的情况下添加设备和扩展运营。即使网络的某些部分出现故障，本地边缘设备也能保持独立运行。

• 降低成本：基于云的 AI 服务可能十分昂贵，尤其是对需要持续高算力的工作负载来说。边缘 AI 提供了使用云资源作为边缘存储库的选项，而此存储库可用于存储和处理无需立即处置的数据。此减轻机制可降低云计算机和网络的工作负载。

• 降低能耗：与将所有数据传输到云端相比，通过在本地过滤和处理传感器与摄像头等设备上的数据，边缘 AI 还可提供一个节能环境。

边缘 AI 的日常示例包括智能手机、自动驾驶车辆的实时流量更新、联网设备以及智能家电。各个行业都依赖边缘 AI 应用程序和边缘 AI 部署来降低成本、支持 IT 自动化、快速决策和优化运营。

以下示例重点介绍了几个特定于行业的用例。

医疗保健提供方利用边缘 AI 和最先进的设备来打造更智能的医疗系统，同时保护患者隐私并缩短响应时间。

通过嵌入本地的 AI 模型，可穿戴健康监测器可评估心率、血压、血糖水平和呼吸等指标。这些可穿戴边缘 AI 设备还可检测患者何时突然跌倒并提醒护理人员，而此功能已包含在市场上常见的智能手表中。

集成边缘 AI 还有助于促进关键健康信息的即时交换。通过为急救医疗车配备快速数据处理能力，护理人员可从健康监测设备中提取洞察分析，并咨询医生以确定有效的患者稳定策略。同时，急诊室工作人员可准备应对患者的具体护理需求。

制造商利用边缘 AI 技术优化制造运营、提高效率并提升生产力。传感器数据可识别异常并预测机器故障（这被称为预测性维护），从而在运营停机发生之前提醒管理层进行关键维修。此过程可加快解决问题的速度，并减少运营停机时间。

边缘 AI 还可应用于制造业的其他领域，例如质量控制、工人安全、产量优化、供应链分析和车间优化。

在实体零售和电子商务领域，配备传感器的智能购物车和自动结账系统等技术可处理交易并即时识别商品。这些解决方案都使用边缘 AI 技术来改善整体客户体验。

家居市场中的智能设备出现激增，如门铃、恒温器、冰箱、娱乐系统和可控灯泡。这些智能家居包含利用边缘 AI 来提高居民生活质量的设备生态系统。

无论居民是需要在门口识别某人，还是通过设备控制房屋温度，边缘 AI 技术都能在现场快速处理数据。此策略不要求将信息传输到中央远程服务器，且有助于维护居民隐私，并降低未经授权访问个人数据的风险。

对于居家、商业和智慧城市环境下的视频分析，速度至关重要。很多计算机视觉系统会将捕获的图像和视频传输到基于云的机器而不是在本地处理，从而会造成延迟问题，进而减缓响应时间。

边缘 AI 部署在智能安全设备上的计算机视觉与物体检测功能可识别可疑活动，并立即通知用户和触发警报，从而帮助提升家庭、企业和公共场所的安全性。