IBM Z 및 IBM LinuxONE에서 PyTorch 추론 가속화

2024년 11월 18일

작성자

Tina Tarquinio

VP, Product Management, IBM Z and LinuxONE

Elpida Tzortzatos

IBM Fellow and CTO of z/OS and AI on IBM Z and LinuxONE

PyTorch의 부상: AI 개발의 혁신

지난 10년 동안 우리는 AI가 주도하는 기업에서 극적인 변화를 목격했습니다. 빅데이터와 특수 하드웨어의 등장으로 한때 일류 대학의 엘리트 연구팀에만 국한되었던 강력한 AI 모델을 대중이 사용할 수 있게 되었습니다. 심층 신경망은 이러한 민주화에 힘을 실어주었으며, PyTorch와 Tensorflow 같은 딥 러닝 프레임워크는 이러한 모델의 개발을 지원했습니다. PyTorch는 AI 환경에서 핵심적인 역할을 하며 고유한 이점을 제공하여 광범위한 사용과 채택으로 이어졌습니다.

트랙에서 굴러가는 공의 3D 디자인

최신 AI 뉴스 + 인사이트 


주간 Think 뉴스레터에서 AI, 클라우드 등에 대한 전문적으로 선별된 인사이트와 뉴스를 발견하세요. 

AI용 IBM Z Telum 온칩 가속기를 통한 PyTorch 가속화

최근 하드웨어 AI 가속기의 발전으로 PyTorch와 같은 딥 러닝 프레임워크를 효과적으로 사용하는 데 필요한 성능이 향상되었습니다. 이러한 하드웨어 개선은 대규모 데이터 세트에서 더 복잡한 모델의 계산을 가속화하여 실험과 배포 속도를 크게 높여줍니다. 지속적으로 최신 업데이트를 제공하는 AI Toolkit® for IBM Z 및 LinuxONE® 을 통해 새로운 컨테이너인 IBM Z Accelerated for PyTorch를 통해 PyTorch에 대해 추가적인 지원을 제공합니다. 여기에는 PyTorch를 위한 개발 및 추론 환경이 포함되어 있습니다. 이 새로운 추론 가속 기능은 IBM 통합 AI 가속기를 투명하게 타겟팅하고 기존 머신 러닝과 딥 러닝, 그리고 인코더 LLM 모델에 상당한 가속을 제공하는 새로운 추론 가속 기능을 사용할 것입니다. 이러한 기능은 신속한 PoC로 실험을 가속화하고 IBM Z 및 LinuxONE에서 AI 솔루션을 구축하는 데 도움이 됩니다.

Mixture of Experts | 팟캐스트

AI 디코딩: 주간 뉴스 요약

세계적인 수준의 엔지니어, 연구원, 제품 리더 등으로 구성된 패널과 함께 불필요한 AI 잡음을 차단하고 실질적인 AI 최신 소식과 인사이트를 확인해 보세요.

PyTorch란 무엇인가요?

PyTorch는 딥 러닝 모델 구축을 위한 유연한 플랫폼을 제공하는 오픈 소스 머신 러닝 프레임워크입니다. 2016년 Facebook의 AI 연구소에서 출시한 PyTorch는 즉각적인 피드백을 제공하는 동적 구조를 통해 개발자가 모델을 쉽게 만들고 수정할 수 있도록 지원합니다. 이러한 적응성은 새로운 아이디어를 실험하고자 하는 연구자와 개발자에게 특히 매력적입니다.

오늘날 AI 프레임워크에서 PyTorch의 중요성

PyTorch는 AI 에코시스템에서 광범위한 인기를 얻었습니다. 사용자 친화적인 인터페이스와 강력한 기능으로 인해 학술 연구와 비즈니스 응용 프로그램 모두에 선택되는 프레임워크가 되었습니다. PyTorch는 복잡한 모델을 구축하고 훈련하는 프로세스를 단순화하는 도구를 제공하여 딥 러닝을 발전시키는 데 중요한 역할을 했습니다. 이러한 유연성을 통해 개발자는 다양한 아키텍처와 기술을 실험할 수 있어 보다 혁신적인 솔루션을 만들 수 있습니다. 자동 미분 및 직관적인 텐서 조작과 같은 기능을 통해 고급 알고리즘을 더 쉽게 구현할 수 있어 연구 및 응용 프로그램이 더 빠르게 진행됩니다.

PyTorch가 영향을 미친 가장 중요한 영역 중 하나는 대규모 언어 모델(LLM)의 개발입니다. 사람과 유사한 텍스트를 이해하고 생성할 수 있는 이러한 모델은 자연어 처리에 혁신을 가져왔습니다. PyTorch와 같은 프레임워크는 이러한 모델의 생성 및 미세 조정을 용이하게 하여 연구자들이 새로운 아키텍처와 교육 방법을 보다 효율적으로 탐색할 수 있게 해줍니다.

특히 주요 기술 회사에서 개발한 모델을 포함하여 많은 최신 최첨단 언어 모델이 PyTorch를 사용하여 구현되었습니다. 방대한 양의 데이터를 처리하는 프레임워크의 기능과 분산 학습에 대한 지원을 통해 언어의 컨텍스트와 뉘앙스를 이해할 수 있는 모델을 확장할 수 있었습니다.

고객은 AI Toolkit for IBM Z and LinuxONE을 통해 제공되는 IBM Z Accelerated for PyTorch를 사용하여 IBM Z의 안정성, 가용성 및 확장성과 Telum 온칩 액셀러레이터의 추론 가속화 기능과 함께 PyTorch 모델 배포를 사용할 수 있습니다. 이러한 추론 가속화는 컨테이너가 Telum의 신경망 처리 지원(NNPA) 지침을 투명하고 자동으로 활용하도록 설계되었기 때문에 고객에게 투명하게 공개됩니다.

고객은 이제 사기 탐지, 클레임 처리, 자연어 처리, 이미지 탐지 등과 같은 중요한 사용 사례에 이 기능을 사용할 수 있습니다. 이러한 모델은 기본 PyTorch 형식으로 배포하거나 추론에 고도로 최적화된 ONNX와 같은 형식으로 내보낼 수 있습니다.

PyTorch 모델이 z/OS에 배포되든, Linux on IBM Z 환경에 배포되든, 이러한 모델을 고객의 미션 크리티컬 데이터 및 애플리케이션과 함께 배치하면 가장 엄격한 요구 사항을 지속적으로 충족하면서 대규모 비즈니스 인사이트를 얻을 수 있습니다. 서비스 수준 계약.

AI Toolkit for IBM Z and LinuxONE

AI Toolkit for IBM Z 및 IBM® LinuxONE은 고객이 z/OS® 및 IBM LinuxONE 플랫폼에서 인기 있는 오픈 소스 AI 프레임워크를 배포하고 채택을 가속화할 수 있도록 설계되었습니다. AI Toolkit은 오픈 소스 AI 제공 프레임워크와 IBM 인증 컨테이너의 보안 취약성을 조사 및 스캔하고 업계 규정 준수 여부를 검증하는 엄격한 IBM Secure Engineering 프로세스를 따릅니다. 고객은 IBM Z 및 LinuxONE용 AI 툴킷에 대한 IBM Elite Support 도 구매할 수 있습니다.

AI Toolkit for IBM Z and IBM LinuxONE에 대해 자세히 알아보기

IBM Elite Support에서 기대할 수 있는 사항 알아보기

관련 솔루션
IBM watsonx.ai

AI 빌더를 위한 차세대 엔터프라이즈 스튜디오인 IBM watsonx.ai로 생성형 AI, 파운데이션 모델 및 머신 러닝 기능을 학습, 검증, 조정 및 배포하세요. 적은 데이터로 짧은 시간 내에 AI 애플리케이션을 구축하세요.

watsonx.ai에 대해 알아보기
인공 지능 솔루션

업계 최고의 AI 전문성과 솔루션 포트폴리오를 보유한 IBM과 함께 AI를 비즈니스에 활용하세요.

AI 솔루션 살펴보기
AI 컨설팅 및 서비스

AI 추가를 통해 중요한 워크플로와 운영을 혁신함으로써 경험, 실시간 의사 결정 및 비즈니스 가치를 극대화합니다.

AI 서비스 살펴보기
다음 단계 안내

AI 개발 라이프사이클 전반에 걸친 기능에 원스톱으로 액세스하세요. 사용자 친화적인 인터페이스, 워크플로, 업계 표준 API 및 SDK에 대한 액세스를 통해 강력한 AI 솔루션을 제작할 수 있습니다.

watsonx.ai 살펴보기 라이브 데모 예약하기