구름 픽토그램, 파이 차트, 그래프 픽토그램이 콜라주된 일러스트
엣지 인공 지능은 센서 또는 사물인터넷(IoT) 디바이스와 같은 로컬 엣지 디바이스에 AI 알고리즘과 AI 모델을 직접 배포하는 것을 말합니다. 이를 통해 클라우드 인프라에 지속적으로 의존하지 않고도 실시간 데이터 처리 및 분석이 가능합니다.
간단히 말해서 엣지 AI 또는 "엣지의 AI"는 엣지 컴퓨팅과 인공 지능의 조합을 사용하여 상호 연결된 엣지 디바이스에서 직접 머신 러닝 작업을 실행하는 것을 의미합니다. 엣지 컴퓨팅을 사용하면 데이터를 디바이스 위치와 가까운 곳에 저장할 수 있으며, AI 알고리즘을 사용하면 인터넷 연결 여부에 관계없이 네트워크 엣지에서 바로 데이터를 처리할 수 있습니다. 이를 통해 밀리초 내에 데이터를 쉽게 처리하여 실시간 피드백을 제공할 수 있습니다.
자율 주행 자동차, 웨어러블 디바이스, 보안 카메라, 스마트 가전제품 등은 엣지 AI 기능을 활용하여 가장 필요한 순간에 사용자에게 실시간 정보를 신속하게 제공하는 기술입니다.
엣지 AI는 업계가 워크플로를 최적화하고, 비즈니스 프로세스를 자동화하고, 혁신을 위한 새로운 기회를 창출하는 동시에 지연 시간, 보안 및 비용 절감과 같은 문제를 해결하는 새로운 방법을 발견함에 따라 인기가 높아지고 있습니다.
IBM의 엣지 컴퓨팅 솔루션에 대해 자세히 알아보세요.
엣지 AI 덕분에 의사 결정이 데이터와 가까운 곳에서 이루어질 수 있기 때문에 기업은 데이터를 중앙 위치로 지속적으로 전송하고 기다릴 필요가 없이 비즈니스 운영의 자동화를 촉진할 수 있습니다. 그럼에도 불구하고 이러한 AI 파이프라인을 재교육하고 배포하기 위해 데이터를 클라우드로 전송해야 할 필요성은 여전히 존재합니다. 이 패턴을 여러 위치와 다양한 애플리케이션에 배포할 경우 데이터 중력, 이질성, 규모, 리소스 제약과 같은 특정 문제가 발생합니다. 분산 AI는 지능형 데이터 수집을 통합하고, 데이터 및 AI 수명 주기를 자동화하고, 스포크를 조정 및 모니터링하고, 데이터 및 AI 파이프라인을 최적화하여 엣지 AI가 직면한 이러한 문제를 해결할 수 있습니다.
분산 인공 지능(DAI)은 멀티 에이전트 환경 내에서 작업, 목표 또는 의사 결정 성과를 배포, 조정 및 예측하는 역할을 합니다. DAI는 애플리케이션을 다수의 스포크로 확장하고 AI 알고리즘이 엣지의 여러 시스템, 도메인 및 디바이스에서 자율적으로 처리할 수 있도록 지원합니다.
현재, 클라우드 컴퓨팅과 API는 머신 러닝 모델을 훈련하고 배포하는 데 사용됩니다. 이후 엣지 AI는 사용자와 가까운 곳에서 예측 분석, 음성 인식, 이상 징후 감지 등의 머신 러닝 작업을 수행하며 다양한 방식으로 일반 클라우드 서비스와 차별화됩니다. 엣지 AI 시스템은 애플리케이션을 완전히 클라우드에서 개발하고 실행하는 대신 데이터가 생성된 지점에 더 가까운 곳에서 데이터를 처리하고 분석합니다. 머신 러닝 알고리즘은 엣지에서 실행될 수 있으며, 정보는 개인 데이터 센터나 클라우드 컴퓨팅 시설이 아닌 IoT 디바이스에서 바로 처리될 수 있습니다.
엣지 AI는 실시간 예측 및 데이터 처리가 필요할 때마다 더 나은 옵션으로 제시됩니다. 자율 주행 차량 기술의 최신 발전을 생각해 보세요. 이러한 차량이 안전하게 주행되고 잠재적인 위험을 방지하려면 교통 신호, 불규칙한 운전자, 차선 변경, 보행자, 연석 및 기타 수많은 변수와 같은 다양한 요인을 신속하게 감지하고 대응해야 합니다. 차량 내에서 이러한 정보를 로컬로 처리하는 엣지 AI의 기능은 클라우드 기반 AI를 통해 원격 서버로 데이터를 전송할 때 발생할 수 있는 연결 문제의 잠재적 위험을 완화합니다. 신속한 데이터 응답이 생사를 좌우할 수 있는 이러한 상황에서는 차량이 신속하게 대응하는 능력이 매우 중요합니다.
반대로 클라우드 AI는 클라우드 서버에 AI 알고리즘과 모델을 배포하는 것을 말합니다. 이 방법은 향상된 데이터 스토리지 및 처리 능력을 제공하여 고급 AI 모델의 학습 및 배포를 용이하게 합니다.
클라우드 AI는 엣지 AI에 비해 더 큰 컴퓨팅 기능과 스토리지 용량을 제공하여 더 복잡하고 고급화된 AI 모델의 학습과 배포를 용이하게 합니다. 엣지 AI는 디바이스 크기의 제한으로 인해 처리 용량에 한계가 있습니다.
지연 시간은 생산성, 협업, 애플리케이션 성능 및 사용자 경험에 직접적인 영향을 미칩니다. 지연 시간이 길수록(그리고 응답 시간이 느릴수록) 이러한 영역이 더 많이 영향을 받습니다. 엣지 AI는 디바이스에서 직접 데이터를 처리하여 지연 시간을 단축하는 반면, 클라우드 AI는 데이터를 멀리 떨어진 서버로 전송하므로 지연 시간이 길어집니다.
대역폭은 전 세계 인바운드 및 아웃바운드 네트워크 트래픽의 공용 데이터 전송을 의미합니다. 엣지 AI는 디바이스의 로컬 데이터 처리로 인해 더 낮은 대역폭이 필요한 반면, 클라우드 AI는 멀리 있는 서버로 데이터를 전송하기 때문에 더 높은 네트워크 대역폭이 필요합니다.
엣지 아키텍처는 디바이스에서 민감한 데이터를 직접 처리하여 개인정보 보호를 강화하는 반면, 클라우드 AI는 데이터를 외부 서버로 전송하여 민감한 정보를 타사 서버에 노출할 수 있습니다.
Grand View Research, Inc(ibm.com 외부 링크)에서 작성한 보고서에 따르면 2022년 글로벌 엣지 AI 시장은 147억 8,750만 달러로 평가되었으며 2023년까지 6,647만 달러로 성장할 것으로 예상됩니다. 엣지 컴퓨팅의 이러한 빠른 확장은 엣지 AI의 다른 고유한 장점과 IoT 기반 엣지 컴퓨팅 서비스에 대한 수요 증가로 인한 것입니다. 엣지 AI의 주요 이점은 다음과 같습니다.
완전한 온디바이스 처리를 통해 사용자는 멀리 떨어진 서버에서 정보를 다시 가져와야 하는 필요성으로 인한 지연 없이 빠른 응답 간격을 경험할 수 있습니다.
엣지 AI는 로컬 수준에서 데이터를 처리하므로 인터넷을 통해 전송되는 데이터의 양을 최소화하여 인터넷 대역폭을 절약할 수 있습니다. 더 적은 대역폭을 사용하면 데이터 연결을 통해 더 많은 양의 데이터 송수신을 동시에 처리할 수 있습니다.
사용자는 시스템 연결 및 통합 없이도 디바이스에서 실시간 데이터 처리를 수행할 수 있으므로 다른 물리적 위치와 통신할 필요 없이 데이터를 통합하여 시간을 절약할 수 있습니다. 그러나 엣지 AI는 특정 AI 애플리케이션에서 요구하는 방대한 양의 데이터와 다양성을 관리하는 데 한계가 있을 수 있으며, 리소스와 용량을 활용하기 위해 클라우드 컴퓨팅과 통합해야 할 수도 있습니다.
데이터가 사이버 공격에 취약할 수 있는 다른 네트워크로 전송되지 않기 때문에 개인정보 보호가 강화됩니다. 엣지 AI는 디바이스에서 로컬로 정보를 처리함으로써 데이터의 잘못된 취급으로 인한 위험을 줄입니다. 데이터 주권 규정이 적용되는 산업에서 엣지 AI는 지정된 관할 구역 내에서 데이터를 로컬에서 처리하고 저장하여 규정 준수를 유지하는 데 도움이 될 수 있습니다. 반면, 중앙 집중식 데이터베이스는 잠재적 공격자의 매력적인 표적이 될 가능성이 있으며, 이는 엣지 AI가 보안 위험에서 완전히 자유롭지 않다는 것을 의미합니다.
엣지 AI는 클라우드 기반 플랫폼과 주문자 상표 부착 생산(OEM) 기술에 내재된 엣지 기능을 사용하여 소프트웨어와 하드웨어 등의 시스템을 확장합니다. 이러한 OEM 회사는 네이티브 엣지 기능을 장비에 통합하여 시스템 확장 프로세스를 간소화하기 시작했습니다. 또한 이러한 확장을 통해 로컬 네트워크는 업스트림 또는 다운스트림 노드에서 다운타임이 발생하는 상황에서도 기능을 유지할 수 있습니다.
클라우드에서 호스팅되는 AI 서비스와 관련된 비용은 높을 수 있습니다. 엣지 AI는 비용이 많이 드는 클라우드 리소스를 즉각적인 현장 작업이 아닌 후속 분석을 위한 후처리 데이터 축적을 위한 리포지토리로 활용할 수 있는 옵션을 제공합니다. 이렇게 하면 클라우드 컴퓨터와 네트워크의 워크로드가 줄어듭니다. CPU, GPU 및 메모리의 워크로드가 엣지 장치에 분산됨에 따라 사용률이 크게 감소하여 엣지 AI가 이 둘 사이에서 더 비용 효율적인 옵션으로 차별화됩니다.
클라우드 컴퓨팅이 서비스에 대한 모든 계산을 처리하는 경우 중앙 집중식 위치는 상당한 워크로드를 부담하게 됩니다. 네트워크는 중앙 소스로 데이터를 전송하기 위해 높은 트래픽을 견뎌냅니다. 머신이 작업을 실행함에 따라 네트워크는 다시 한 번 활성화되어 데이터를 사용자에게 다시 전송합니다. 엣지 디바이스는 이러한 지속적인 데이터 전송을 제거합니다. 결과적으로 네트워크와 머신 모두 모든 측면을 처리해야 하는 부담에서 벗어나 스트레스를 줄일 수 있습니다.
또한 엣지 AI의 자율적인 특성 덕분에 데이터 과학자가 지속적으로 감독할 필요가 없습니다. 인간의 해석은 데이터의 궁극적인 가치와 그 결과를 결정하는 데 지속적으로 중추적인 역할을 하겠지만, 엣지 AI 플랫폼은 이러한 책임 중 일부를 담당하여 궁극적으로 비즈니스의 비용 절감으로 이어집니다.
엣지 AI는 신경망과 딥 러닝을 활용하여 주어진 데이터 내의 객체를 정확하게 인식, 분류 및 설명하도록 모델을 훈련시킵니다. 이 훈련 프로세스는 일반적으로 모델 훈련에 필요한 상당한 양의 데이터를 처리하기 위해 중앙 집중식 데이터 센터 또는 클라우드를 활용합니다.
배포 후 엣지 AI 모델은 시간이 지남에 따라 점진적으로 개선됩니다. AI에 문제가 발생하면 초기 AI 모델의 추가 훈련을 위해 문제가 있는 데이터를 클라우드로 전송하여 결국 엣지에서 추론 엔진을 대체하는 경우가 많습니다. 이 피드백 루프는 모델 성능 향상에 크게 기여합니다.
현재 엣지 AI의 일반적인 예로는 스마트폰, 웨어러블 건강 모니터링 액세서리(예: 스마트 워치), 자율 주행 차량의 실시간 교통 업데이트, 커넥티드 디바이스 및 스마트 가전 제품 등이 있습니다. 또한 다양한 산업에서 비용을 절감하고, 프로세스를 자동화하고, 의사 결정을 개선하고, 운영을 최적화하기 위해 엣지 AI 애플리케이션을 점점 더 많이 도입하고 있습니다.
의료 서비스 제공업체는 엣지 AI의 실질적인 구현과 최첨단 디바이스의 도입을 통해 상당한 변화를 겪고 있습니다. 이 기술을 첨단 기술과 결합하면 환자의 개인정보를 보호하고 대응 시간을 단축하는 동시에 더욱 스마트한 의료 시스템을 구축할 수 있습니다.
웨어러블 건강 모니터는 로컬에 내장된 AI 모델을 활용하여 심박수, 혈압, 포도당 수치, 호흡 등의 메트릭을 평가합니다. 또한 웨어러블 엣지 AI 디바이스는 환자가 갑자기 넘어지는 것을 감지하여 간병인에게 경고할 수 있으며, 이는 시중의 일반적인 스마트워치에 이미 포함되어 있는 기능입니다.
응급 차량에 신속한 데이터 처리 기능을 장착함으로써 구급대원은 상태 모니터링 장치에서 인사이트를 추출하고 의사와 상담하여 효과적인 환자 안정화 전략을 결정할 수 있습니다. 동시에 응급실 직원은 환자의 고유한 치료 요구 사항을 해결할 수 있도록 준비할 수 있습니다. 이러한 상황에서 엣지 AI를 통합하면 중요한 건강 정보를 실시간으로 교환하는 데 도움이 됩니다.
전 세계 제조업체는 제조 운영을 혁신하기 위해 엣지 AI 기술의 통합을 시작했으며, 이를 통해 프로세스의 효율성과 생산성을 향상시켰습니다.
센서 데이터를 활용하여 이상 징후를 사전에 파악하고 기계 고장을 예측할 수 있으며, 이를 예측 유지보수라고도 합니다. 장비 센서는 결함을 찾아내고 중요한 수리에 대해 경영진에게 즉시 알리기 때문에 적시에 문제를 해결하고 운영 중단 시간을 방지할 수 있습니다.
엣지 AI는 품질 관리, 작업자 안전, 수율 최적화, 공급망 분석 및 현장 최적화 등 이 산업에서 필요로 하는 다른 영역에도 적용할 수 있습니다.
전자 상거래와 온라인 쇼핑의 인기 상승으로 인해 기업들이 엄청난 트렌드 현상을 경험하고 있다는 것은 누구나 아는 사실입니다. 기존의 오프라인 소매점은 원활한 쇼핑 환경을 조성하고 고객의 참여를 유도하기 위해 혁신에 나서야 했습니다. 이러한 변화에 따라 "픽 앤 고(pick-and-go)" 매장, 센서가 있는 스마트 쇼핑 카트, 스마트 체크아웃과 같은 새로운 기술이 등장했습니다. 이러한 솔루션은 엣지 AI 기술을 활용해 고객의 기존 매장 내 경험을 한 단계 업그레이드하고 더욱 신속하게 처리합니다.
현대의 생활 환경은 초인종, 온도 조절기, 냉장고, 엔터테인먼트 시스템, 제어 전구 등 "스마트" 장치로 포화 상태입니다. 이러한 스마트 홈에는 엣지 AI를 활용하여 거주자의 삶의 질을 향상시키는 장치 에코시스템이 포함되어 있습니다. 거주자가 문 앞에 있는 사람을 식별하거나 기기를 통해 집 온도를 제어해야 하는 경우, 엣지 기술을 사용하면 중앙 집중식 원격 서버로 정보를 전송할 필요 없이 현장에서 데이터를 빠르게 처리할 수 있습니다. 이를 통해 거주자의 개인 정보를 보호하고 개인 데이터에 대한 무단 액세스 위험을 줄일 수 있습니다.
보안 비디오 분석에서는 속도가 가장 중요합니다. 수많은 컴퓨팅 비전 시스템에는 실시간 분석에 필요한 적절한 속도가 부족하며, 이러한 시스템은 보안 카메라에서 캡처한 이미지나 비디오를 로컬에서 처리하는 대신 고성능 처리 기능을 갖춘 클라우드 기반 시스템으로 전송합니다. 데이터를 로컬에서 처리하지 않으면 이러한 클라우드 기반 시스템은 지연 시간 문제로 인해 데이터 업로드 및 처리 지연으로 인한 장애를 겪게 됩니다.
엣지 AI의 컴퓨팅 비전 애플리케이션과 스마트 보안 장치의 객체 감지 기능은 의심스러운 활동을 식별하고, 이를 사용자에게 알리며 경보를 트리거합니다. 이러한 기능을 통해 거주자는 더 안심할 수 있습니다.
IBM의 차세대 AI 및 데이터 플랫폼으로 AI의 역량을 강화하세요.
IBM은 엣지 환경의 규모, 가변성, 변화 속도에 대응하는 자율 관리 제품과 기업이 네트워크를 현대화하고 엣지에서 서비스를 제공할 수 있도록 지원하는 솔루션을 제공합니다.
IBM Power® Systems 및 IBM Storage 솔루션은 엣지에서 AI 모델 실행을 지원합니다. 엣지에서 생성된 실시간 시각 데이터에서 인사이트를 확보하세요.
엣지 컴퓨팅을 활용하여 새로운 기술로 인한 네트워크 정체를 완화합니다.
IBM Research의 Nirmit Desai가 분산 AI와 그 기능에 대해 설명하는 것을 들어보세요.
엔터프라이즈 애플리케이션을 실제 데이터 소스에 더 가깝게 마이그레이션하는 것을 고려해 보세요.
IBM의 엣지 컴퓨팅이 5G와 엣지 기술의 융합을 어떻게 가능하게 하는지 확인하세요.
데이터 소스에서 엣지 디바이스 관리 및 온디바이스 분석을 위한 솔루션을 개발하세요.
산업별 엣지 컴퓨팅 구현의 이점, 과제 및 아키텍처에 대해 읽어보세요.