뉴로모픽 컴퓨팅이란 무엇인가요?

뉴로모픽 컴퓨팅은 새로운 분야처럼 보일 수 있지만 그 기원은 1980년대로 거슬러 올라갑니다. Misha Mahowald와 Carver Mead가 최초의 실리콘 망막과 달팽이관, 뉴로모픽 컴퓨팅 패러다임을 개척한 최초의 실리콘 뉴런과 시냅스를 개발한 것이 바로 1980년대였습니다.¹

오늘날 인공 지능(AI) 시스템이 확장됨에 따라 이를 뒷받침하는 최첨단 하드웨어와 소프트웨어가 필요하게 되었습니다. 뉴로모픽 컴퓨팅은 AI의 성장 촉진제 역할을 하고 고성능 컴퓨팅을 향상시키며 인공 지능의 구성 요소 중 하나로 작용할 수 있습니다. 뉴로모픽 컴퓨팅과 양자 컴퓨팅을 결합하는 실험도 진행 중입니다.²

뉴로모픽 컴퓨팅은 경영 컨설팅 업체인 Gartner가 기업에서 가장 주목해야 할 기술로 꼽은 바 있습니다.³ 마찬가지로 전문 서비스 기업인 PwC는 뉴로모픽 컴퓨팅이 빠르게 발전하고 있지만 아직 주류가 될 만큼 성숙하지 않았기 때문에 조직이 반드시 탐색해야 할 기술이라고 언급합니다.⁴

뉴로모픽 컴퓨팅은 인간의 뇌에서 영감을 얻기 때문에 생물학과 신경과학에서 많은 부분을 차용합니다.

퀸즐랜드 뇌 연구소에 따르면, 뉴런은 "뇌와 신경계의 기본 단위"입니다.⁵ 이 신경 세포는 메신저로서 뇌의 여러 영역과 신체의 다른 부위 간에 정보를 전달합니다. 뉴런이 활성화되거나 '스파이크'가 발생하면 시냅스라고 하는 연결 지점 네트워크를 통해 이동하는 화학적 및 전기적 신호가 방출되어 뉴런이 서로 통신할 수 있게 됩니다.⁶

이러한 신경학적 및 생물학적 메커니즘은 뉴로모픽 컴퓨팅 시스템에서 스파이크 신경망(SNN)을 통해 모델링됩니다. 스파이크 신경망은 스파이크 뉴런과 시냅스로 구성된 인공 신경망의 일종입니다.

스파이크 뉴런은 생물학적 뉴런과 유사하게 데이터를 저장하고 처리하며, 각 뉴런에는 고유한 전하, 지연 및 임계값이 있습니다. 시냅스는 뉴런 사이에 경로를 생성하며 이와 관련된 지연 및 가중치 값도 가지고 있습니다. 뉴런 전하, 뉴런 및 시냅스 지연, 뉴런 임계값, 시냅스 가중치 등 이러한 값은 모두 뉴로모픽 컴퓨팅 시스템 내에서 프로그래밍할 수 있습니다.⁷

뉴로모픽 아키텍처에서 시냅스는 전기 신호를 전송하는 회로를 사용하는 트랜지스터 기반 시냅스 장치로 표현됩니다. 시냅스에는 일반적으로 학습 구성 요소가 포함되어 있으며, 스파이크 신경망 내의 활동에 따라 시간이 지남에 따라 가중치 값이 변경됩니다.⁷

기존의 신경망과 달리 SNN은 작동 시 타이밍을 고려합니다. 뉴런의 전하 값은 시간이 지남에 따라 누적됩니다. 그리고 그 전하가 뉴런의 관련 임계값에 도달하면 급증하여 시냅스 웹을 따라 정보를 전파합니다. 그러나 전하 값이 임계값을 초과하지 않으면 소멸되고 결국 '누출'됩니다. 또한 SNN은 뉴런 및 시냅스 지연 값을 사용하여 정보를 비동기식으로 배포할 수 있으며 이벤트를 기반으로 합니다.⁷

지난 수십 년 동안 뉴로모픽 컴퓨팅의 많은 발전은 뉴로모픽 하드웨어의 형태로 이루어졌습니다.

학계에서는 "수십억 개의 시냅스 연결로 백만 개의 뉴런을 실시간으로 시뮬레이션"할 수 있는 아날로그-디지털 멀티칩 혼합 시스템을 갖춘 스탠포드 대학의 Neurogrid가 초기 구현 사례 중 하나였습니다.⁸ 한편, 연구 허브인 IMEC는 자가 학습 뉴로모픽 칩을 개발했습니다.⁹

정부 기관에서도 뉴로모픽 연구 노력을 지원했습니다. 예를 들어, 유럽연합의 휴먼 브레인 프로젝트는 2023년에 종료되는 10년 계획으로, 뇌를 더 잘 이해하고, 뇌 질환에 대한 새로운 치료법을 찾고, 뇌에서 영감을 얻은 새로운 컴퓨팅 기술을 개발하는 것을 목표로 합니다.

이러한 기술에는 대규모 뉴로모픽 머신인 SpiNNaker와 BrainScaleS가 포함됩니다. SpiNNaker는 스파이크 교환 최적화를 위한 패킷 기반 네트워크를 통해 디지털 멀티 코어 칩에서 실시간으로 실행됩니다. BrainScaleS는 뉴런과 시냅스의 아날로그 전자 모델을 에뮬레이트하는 가속 머신입니다. 1세대 웨이퍼 스케일 칩 시스템(BrainScaleS-1이라고 함)과 2세대 단일 칩 시스템(BrainScaleS-2라고 함)이 있습니다.¹⁰

기술 업계의 뉴로모픽 프로세서로는 Intel의 Loihi, GrAI Matter Labs의 NeuronFlow, IBM의 TrueNorth 및 차세대 NorthPole 뉴로모픽 칩이 있습니다.

대부분의 뉴로모픽 디바이스는 실리콘으로 만들어지며 CMOS(상보성 금속 산화막 반도체) 기술을 사용합니다. 그러나 연구원들은 강유전성 및 위상 변화 물질과 같은 새로운 유형의 물질도 조사하고 있습니다. '메모리'와 '저항기'의 조합인 멤리스터라고 하는 비휘발성 전자 메모리 요소는 스파이크 뉴런에서 메모리와 데이터 처리의 공동 배치를 실현하기 위한 또 다른 모듈입니다.

소프트웨어 영역에서 뉴로모픽 컴퓨팅을 위한 훈련 및 학습 알고리즘을 개발하려면 머신 러닝과 비머신 러닝 기술이 모두 필요합니다. 다음은 그 중 몇 가지 기술입니다.⁷

뉴로모픽 시스템은 많은 컴퓨팅 가능성을 가지고 있습니다. 이러한 유형의 컴퓨팅 아키텍처가 제공하는 몇 가지 잠재적 이점은 다음과 같습니다.

뇌에서 영감을 받은 기술인 뉴로모픽 컴퓨팅에는 가소성 개념도 포함됩니다. 뉴로모픽 디바이스는 실시간 학습을 위해 설계되었으며, 입력 및 매개변수의 형태로 진화하는 자극에 지속적으로 적응합니다. 이는 새로운 문제를 해결하는 데 탁월할 수 있음을 의미합니다.

앞서 언급했듯이 뉴로모픽 시스템은 이벤트 기반이며, 뉴런과 시냅스는 다른 스파이크 뉴런에 반응하여 처리됩니다. 결과적으로 컴퓨팅이 급증하는 세그먼트만 전력을 소비하고 나머지 네트워크는 유휴 상태를 유지합니다. 이는 보다 효율적인 에너지 소비로 이어집니다.

폰 노이만 컴퓨터라고도 불리는 대부분의 현대 컴퓨터는 별도의 중앙 처리 장치와 메모리 장치를 가지고 있으며, 이러한 장치 간의 데이터 전송은 속도에 영향을 미치는 병목 현상을 일으킬 수 있습니다. 반면 뉴로모픽 컴퓨팅 시스템은 개별 뉴런에 데이터를 저장하고 처리하므로 폰 노이만 아키텍처에 비해 지연 시간이 짧고 계산 속도가 빠릅니다.

SNN의 비동기적 특성으로 인해 개별 뉴런은 동시에 다른 작업을 수행할 수 있습니다. 따라서 이론적으로 뉴로모픽 장치는 주어진 시간에 뉴런의 수만큼 많은 작업을 실행할 수 있습니다. 이처럼 뉴로모픽 아키텍처는 엄청난 병렬 처리 능력을 가지고 있어 기능을 빠르게 완료할 수 있습니다.

뉴로모픽 컴퓨팅은 여전히 신흥 분야입니다. 그리고 초기 단계의 다른 기술과 마찬가지로 뉴로모픽 시스템은 다음과 같은 몇 가지 문제에 직면해 있습니다.

심층 신경망을 스파이크 신경망으로 변환하는 과정에서 정확도가 떨어질 수 있습니다. 또한 뉴로모픽 하드웨어에 사용되는 멤리스터는 정확도에 영향을 줄 수 있는 주기별 및 디바이스별 변동이 있을 수 있으며, 시냅스 가중치 값의 제한으로 인해 정밀도가 낮아질 수 있습니다.⁷

아직 초기 단계의 기술이기 때문에 뉴로모픽 컴퓨팅은 아키텍처, 하드웨어, 소프트웨어 측면에서 표준이 부족합니다. 뉴로모픽 시스템은 또한 명확하게 정의되고 확립된 벤치마크, 샘플 데이터 세트, 테스트 작업 및 메트릭이 없기 때문에 성능을 평가하고 효과를 입증하기가 어렵습니다.

뉴로모픽 컴퓨팅에 대한 대부분의 알고리즘 접근 방식은 여전히 폰 노이만 하드웨어용으로 설계된 소프트웨어를 사용하며, 이는 결과를 폰 노이만 아키텍처가 달성할 수 있는 것으로 제한할 수 있습니다. 한편, 뉴로모픽 시스템을 위한 API(애플리케이션 프로그래밍 인터페이스), 코딩 모델, 프로그래밍 언어는 아직 개발되지 않았거나 보다 광범위하게 제공되지 않았습니다.

뉴로모픽 컴퓨팅은 생물학, 컴퓨터 과학, 전자 공학, 수학, 신경 과학 및 물리학과 같은 분야에서 파생된 복잡한 영역입니다. 따라서 뉴로모픽 연구를 전문으로 하는 학술 연구소가 아니면 이해하기 어렵습니다.

현재 뉴로모픽 시스템의 실제 적용 사례는 드물지만 컴퓨팅 패러다임은 다음과 같은 사용 사례에 적용될 수 있습니다.