NPU와 GPU: 차이점은 무엇인가요?

GPU에는 그래픽 렌더링에 필요한 빠르고 정밀한 컴퓨팅 작업을 수행하는 수천 개의 코어가 포함되어 있습니다. NPU는 실시간으로 AI 워크로드를 더 잘 처리하기 위해 데이터 흐름과 메모리 계층 구조의 우선순위를 지정합니다.

두 가지 유형의 마이크로프로세서 모두 AI에 사용되는 병렬 처리 유형에 탁월하지만 NPU는 머신 러닝(ML) 및 인공 지능 작업을 위해 특별히 제작되었습니다. 

신경 처리 장치(NPU)가 빠르게 성장하고 있는데, 거의 10년 된 이 기술이 갑자기 스포트라이트를 받는 이유는 무엇일까요? 그 답은 최근 생성형 AI(인공 지능)의 발전으로 AI 애플리케이션에 대한 대중의 관심이 재점화되고, 더 나아가 NPU 및 GPU와 같은 AI 가속기 칩과 관련이 있습니다. 

NPU 아키텍처는 CPU 또는 GPU의 아키텍처와 크게 다릅니다. 명령을 순차적으로 실행하도록 설계된 CPU는 더 많은 코어를 갖춘 GPU에 비해 처리 코어 수가 적고 높은 수준의 병렬 처리가 필요한 까다로운 작업을 위해 설계되었습니다. 

CPU는 병렬 처리 작업에 어려움을 겪고 GPU는 에너지 소비가 높다는 단점이 있지만, NPU 아키텍처는 인간의 두뇌가 데이터를 처리하는 방식을 모방하여 성공했습니다. NPU는 단순히 코어를 추가하는 것 이상으로 여러 고유한 기능과 기술을 통해 적은 에너지 소비로 높은 병렬 처리 성능을 달성합니다.

• 특수 컴퓨팅 장치: NPU는 신경망 모델의 학습과 추론에 필수적인 곱셈 및 누산 연산을 위한 전용 하드웨어를 통합합니다.

• 고속 온칩 메모리: 메모리 액세스와 관련된 병목 현상을 최소화하기 위해 NPU는 고속 통합 메모리를 갖추고 있어 모델 데이터 및 가중치에 빠르게 액세스할 수 있습니다.

• 병렬 아키텍처: NPU는 수천 개의 병렬 작업을 수행하도록 설계되어 데이터 배치 처리에 매우 효율적입니다.

NPU와 GPU를 비교할 때 주요 기능 전반에 걸쳐 성능을 평가하는 것이 유용합니다.

• GPU는 까다로운 이미지 처리 작업을 병렬로 처리할 수 있는 작은 작업으로 나누도록 설계되었습니다.   

• NPU는 칩 내 메모리를 개선하는 동시에 곱셈과 덧셈의 속도를 높이는 모듈로 인간의 뇌를 모방하도록 설계되었습니다.

• GPU는 뛰어난 병렬 컴퓨팅 능력을 제공하지만 전력 소비가 높다는 단점이 있습니다. 

• NPU는 특히 짧고 반복적인 계산의 경우 동등하거나 더 나은 병렬 처리를 제공합니다. 신경망에서 사용되는 AI 알고리즘 유형을 처리하도록 설계된 NPU는 행렬 곱셈이 필요한 대규모 데이터 세트를 처리하는 데 특히 적합합니다.

• GPU는 CPU보다 더 전문화되어 있지만 범용 컴퓨팅에 더 적합합니다.

• NPU는 AI와 머신 러닝 작업을 위해 특별히 제작된 프로세서입니다. GPU에서 사용하는 과도한 기능 중 일부를 제거하여 에너지 효율성을 최적화합니다.

• GPU는 NPU의 전신으로, 보다 발전된 환경의 이점을 누리며 소비자 시장에서 널리 사용되고 있습니다. 전문가와 애호가에게 사용 가능한 Nvidia의 CUDA 언어를 사용하면 다양한 운영 체제용 오픈 소스 컴파일을 통해 GPU 프로그래밍이 쉽게 가능합니다. 

• NPU는 GPU보다 최신 기술이며 일반적으로 접근성이 떨어집니다. Google의 Tensor Processing Unit(TPU) 또는 QUALCOMM의 Snapdragon(Apple에서 사용)과 같은 많은 독점 NPU는 더 넓은 시장에서 사용하지 못할 수 있습니다. Intel이나 AMD와 같은 제조업체에서 생산하는 NPU 칩은 커뮤니티 리소스가 상대적으로 적습니다.

• 그래픽 카드가 이미지 처리 최적화를 담당하는 게임과 컴퓨터 애니메이션에서 GPU가 자주 사용됩니다. 또한 데이터 센터, 암호화폐 채굴 또는 AI 모델 교육과 같이 높은 수준의 병렬 처리가 필요한 다른 애플리케이션에서도 효과적입니다.

• NPU는 보다 집중된 범위에서 사용되며 더 적은 전력을 필요로 하면서 탁월한 병렬 처리를 제공합니다. 일반적으로 GPU와 결합된 NPU는 더 까다로운 AI 작업을 오프로드하며 대규모 언어 모델(LLM), 딥 러닝 이미지 인식 또는 블록체인 및 AI에서 AI 워크로드 처리와 같은 머신 러닝 작업에 가장 적합합니다. 

NPU를 통합 시스템에 통합하면 속도, 효율성, 편의성 측면에서 기존 프로세서에 비해 여러 가지 두드러진 이점이 있습니다. 다음과 같은 이점이 있습니다.

• 현지화: AI 애플리케이션을 처리하려면 상당한 컴퓨팅 리소스가 필요하므로 종종 클라우드로 이전됩니다. 그러나 멀리 떨어진 서버에 의존하면 운영 속도가 느려지고 민감한 정보가 데이터 유출 가능성에 취약해질 수 있습니다. NPU를 사용하면 AI 작업을 국소적으로 실시간 처리하여 음성 또는 얼굴 인식, 의료 진단 및 자율 주행 시스템과 같은 중요한 애플리케이션의 지연 시간을 줄일 수 있습니다. 

• 리소스 관리: 일반적으로 통합된 NPU는 애플리케이션에 필요한 반복적인 작업을 담당하여 전체 시스템 리소스를 최적화하는 데 도움이 될 수 있습니다. 이러한 유형의 작업을 NPU로 오프로드하면 GPU 리소스를 확보하여 보다 일반적인 계산을 위한 대용량 데이터를 처리할 수 있습니다.

• 효율성: GPU는 AI와 관련된 많은 까다로운 작업을 처리할 수 있는 반면, NPU는 이러한 요청에 맞춰 특별히 제작되었으며 유사하거나 더 나은 성능 벤치마크를 충족하면서도 기하급수적으로 적은 전력을 필요로 합니다. 이는 특히 용량이 한정된 배터리 구동 디바이스에 매우 귀중한 특징입니다. 

보조 프로세서로서 NPU는 수년 동안 사용되어 왔으며 일반적으로 GPU와 통합되어 특정 반복 작업을 지원합니다. NPU는 소비자 수준의 기술(예: Microsoft Windows' AI Copilot) 및 다양한 사물인터넷(IoT) 디바이스(예: 음성 인식 처리를 위해 NPU를 사용하는 스마트 스피커)에서 계속 그 가치를 발휘하고 있습니다. 

하지만 최근 AI 기술의 발전으로 소비자 등급의 AI 도구가 대중화되면서 이러한 유형의 프로세서가 더욱 주목받고 있습니다. 자연어 처리와 같은 까다로운 AI 작업을 위해 특별히 설계되었으며, 소비자용 AI에 대한 관심이 증가함에 따라 NPU에 대한 관심도 증가하고 있습니다. 

NPU의 주요 사용 사례는 다음과 같습니다.

• 인공 지능 및 대규모 언어 모델: NPU는 멀티미디어 신호를 해석하고 음성 인식을 수행하며 자연스러운 응답을 생성하기 위해 지연 시간이 짧은 적응형 처리가 필요한 대형 언어 모델(LLM)과 같은 AI 및 ML 시스템의 성능을 개선하기 위해 특별히 제작되었습니다. NPU는 화상 통화에서 배경을 흐리게 하거나 이미지를 자동으로 편집하는 등 AI 기반 비디오 처리 작업에도 능숙합니다.   

• 사물인터넷(IoT) 디바이스: 높이가 낮고 에너지 효율이 높은 NPU는 스마트폰, 모바일 디바이스, 웨어러블 등 배터리 전력이 중요하고 효율성이 우선시되는 소형 스마트 디바이스를 위한 강력한 코프로세서입니다.

• 데이터 센터: 까다로운 워크로드를 처리하는 것으로 잘 알려진 데이터 센터는 NPU가 제공하는 효율적인 리소스 최적화의 이점을 누리고 있습니다. 

• 자율주행 차량 및 로보틱: 자율 주행 자동차부터 자율 항공 차량(드론)에 이르기까지 NPU는 동급 최고의 병렬 처리와 향상된 신호 처리 속도를 통해 자율 조종 시스템에 가치를 더합니다. 지연 시간이 짧은 NPU는 컴퓨팅 비전이 필요한 애플리케이션에 탁월한 선택이며, 자율주행 차량이 갑작스러운 교통 및 환경 조건에 실시간으로 대응할 수 있도록 도와줍니다. 홈 어시스턴트부터 자동화된 수술 도구에 이르기까지 AI 지원 로보틱은 환경을 감지하고 학습하며 반응하는 능력을 개발하기 위해 NPU에 의존합니다. 

• 엣지 컴퓨팅과 엣지 AI: 엣지 컴퓨팅과 엣지 AI는 중요한 데이터와 컴퓨팅 리소스를 사용자에게 물리적으로 더 가깝게 제공합니다. 이를 통해 지연 시간을 줄이고 에너지 소비를 완화하며 개인 정보 보호를 강화할 수 있습니다. 더 적은 에너지를 필요로 하고 더 작은 물리적 공간을 제공하는 NPU는 엣지 컴퓨팅과 온디바이스 AI에서 중요한 구성 요소로 자리 잡고 있습니다. 

성능 집약적인 병렬 처리가 필요한 컴퓨팅 작업에는 NPU보다 GPU가 오랫동안 선호되어 왔습니다. 원래 비디오 게임과 이미지/비디오 소프트웨어의 복잡한 그래픽을 처리하도록 설계된 GPU는 PC 및 콘솔 게임뿐만 아니라 가상 및 증강 현실, 고성능 컴퓨팅(HPC), 3D 렌더링, 데이터 센터 및 기타 애플리케이션에서도 계속 사용되고 있습니다. 

GPU 기술의 가장 중요하고 현대적인 애플리케이션을 자세히 살펴보겠습니다.

• 인공 지능(AI), 머신 러닝(ML), 딥 러닝(DL): GPU는 AI, ML 또는 DL 작업을 위해 특별히 설계되지는 않았지만 IBM의 클라우드 기반 AI 슈퍼컴퓨터 Vela와 같이 학습을 위해 대용량 데이터 세트를 처리하기 위해 고속 병렬 처리가 필요한 많은 주요 AI 애플리케이션을 지원합니다. GPU는 병렬 처리를 통해 ML 및 DL에 사용되는 인간 두뇌의 의사 결정 과정을 시뮬레이션할 수 있습니다. 

• 클라우드 컴퓨팅: 최근 몇 년 동안 클라우드 컴퓨팅이 모든 주요 산업의 IT 인프라에서 필수적인 부분이 되었습니다. 주요 컴퓨팅 작업을 오프사이트에 저장된 강력한 서버로 오프로드하는 기능을 사용하려면 엄청난 데이터 처리 능력이 필요합니다. GPU는 병렬 컴퓨팅을 통해 빅 데이터 분석 및 데이터베이스 쿼리를 가속화하여 클라우드 컴퓨팅 인프라를 지원합니다. 

• 시각화 및 시뮬레이션: 그래픽 처리를 위해 특별히 제작된 GPU는 제품 연습, 엔지니어링 CAD 도면, 의료 영상, 지진 및 지구물리학 모델링을 포함하여 복잡한 시각화 또는 시뮬레이션이 필요한 작업에 산업 전반에 걸쳐 엄청난 가치를 더합니다. 다른 곳에서는 기후 과학자들이 GPU로 구동되는 시뮬레이션을 사용하여 기상 조건을 예측하는 반면, 이론 물리학자들은 이를 사용하여 양자 수준에서 입자의 행동을 모델링합니다.  

• 블록체인: 블록체인 기술은 특히 "작업 증명을 검증할 때 GPU 기술에 크게 의존합니다." 암호화폐 비트코인과 같이 널리 사용되는 많은 블록체인 애플리케이션에서는 전체 원장에 대한 업데이트가 정확한지 확인하기 위해 작업 증명 계산을 수행합니다. 이러한 수준의 계산은 전체 블록체인에 영향을 미치기 때문에 매우 까다롭고, 최신 GPU가 없다면 불가능했을 것입니다.

• 게임과 메타버스: 게임 산업이 급성장함에 따라 더 나은 그래픽, 대규모 멀티플레이어 온라인(MMO) 게임, 가상 및 증강 현실 게임을 구현하는 것과 같은 컴퓨팅 집약적인 렌더링에 대한 수요도 급증하고 있습니다. 게임 개발자와 컴퓨팅 제조업체는 GPU를 사용하여 초현실적인 환경을 렌더링하는 데 사용되는 높은 이미지 새로 고침 빈도 및 고급 레이 트레이싱과 같은 최첨단 게임 기능을 지원합니다. 

• 비디오 처리 및 콘텐츠 제작: GPU는 도입 이후 Final Cut Pro 및 Adobe Premiere를 비롯한 인기 동영상 편집 제품의 답답한 렌더링 시간을 꾸준히 단축해 왔습니다. 오늘날 통합 NPU가 장착된 GPU는 주요 할리우드 스튜디오에서 사용하는 전문 편집 제품군부터 YouTube 사용자 및 TikToker가 사용하는 스마트폰 앱에 이르기까지 모든 비디오의 비디오 제작 및 편집 작업 속도를 획기적으로 높입니다.

NPU는 특정 유형의 리소스를 특정 유형의 프로세서에 할당하기 위해 작업을 최적화하는 통합 시스템 내에서 가장 잘 사용됩니다. 정밀한 선형 컴퓨팅을 위해 설계된 CPU는 시스템 및 리소스 관리와 같은 범용 프로세스에 할당하는 것이 가장 적합하며, GPU는 병렬 컴퓨팅의 이점이 있는 고강도 워크로드에 특화되어 있습니다.

인공 지능 애플리케이션이 널리 보급됨에 따라, 지연 시간이 짧고 에너지 효율이 높은 병렬 처리로 AI 및 ML 관련 작업을 처리하기 위해서는 CPU와 GPU를 보완하기 위해 더욱 특화된 NPU를 사용하는 것이 가장 좋습니다.