IBM Cloud Code Engine, GPU 탑재 서버리스 플릿 도입

생성형 AI를 포함한 엔터프라이즈급 AI에는 컴퓨팅 및 데이터 집약적인 인프라가 필요합니다. 현재 형태의 서버리스 기술은 컴퓨팅 집약적인 워크로드를 지원하지 못하는 경우가 있습니다.

기술이 머신 러닝에서 대규모 시뮬레이션에 이르기까지 보다 복잡한 문제를 해결함에 따라 시스템은 종종 수천 개, 심지어 수백만 개의 작업을 병렬로 수행해야 합니다. 서버리스 플릿은 탄력적으로 확장할 수 있는 완전 관리형 컴퓨팅 리소스를 제공하여 개발자가 이러한 병렬 워크로드를 실행하는 방법을 간소화할 수 있도록 지원합니다. 컴퓨팅 집약적인 워크로드를 위한 기존 워크플로에는 인프라 및 복잡한 리소스 관리에 대한 사전 크기 조정과 투자가 필요한 경우가 많습니다.

서버리스 플릿은 기본 인프라를 추상화하고 많은 작업을 병렬로 실행할 수 있는 간단한 방법을 제공하여 이러한 운영 복잡성을 줄이는 데 도움이 되도록 설계되었습니다. 서버리스 플릿은 금융 서비스와 생명과학 산업을 포함한 산업 전반의 기업의 판도를 바꿀 수 있습니다.

서버리스 플릿은 데이터 과학자와 개발자가 단일 엔드포인트에 많은 수의 배치 작업을 제출할 수 있도록 합니다. 그런 다음 IBM Cloud Code Engine이 가상 머신, 서버리스 GPU 등 필요한 컴퓨팅 리소스를 자동으로 프로비저닝하여 최대한 많은 작업을 동시에 실행합니다. 이렇게 하면 대규모 계산을 위해 수동 프로세스인 경우가 많은 리소스 관리가 자동화됩니다.

현재 IT 환경을 호텔 체인이라고 생각하면 됩니다. 체인의 소유자는 각각 운영 비용과 개별화된 관리가 있는 수천 개의 객실이 있는 여러 개의 대형 건물을 구입했을 수 있습니다. 대신, 누군가가 호텔에 머물고 싶어할 때 자동으로 방을 만들고 손님이 체크아웃하면 방이 파괴된다고 상상해 보세요. 이것이 바로 서버리스 플릿의 작동 방식입니다. 필요에 따라 GPU를 사용하여 대규모 워크로드를 위한 인프라를 프로비저닝하고 더 이상 필요하지 않으면 제거하며, 기술을 사용할 때만 요금을 청구합니다. 

서버리스 플릿은 대규모 시뮬레이션, 데이터 처리, AI 및 머신 러닝과 같은 컴퓨팅 집약적인 워크로드를 위한 IBM Cloud Code Engine의 기존 가치를 기반으로 구축됩니다.

• 통합 관리: 기업은 단일 통합 환경 내에서 웹 애플리케이션, 일괄 작업 및 서버리스 기능을 관리할 수 있습니다. 이 중앙 제어 지점은 다양한 유형의 워크로드를 결합하는 복잡한 애플리케이션의 아키텍처 및 관리를 단순화하는 데 도움이 됩니다.
• 비용 최적화: '종량제(pay-as-you-go)' 모델은 작업이 실행 중일 때만 Code Engine이 리소스를 프로비저닝하므로 예측 불가능하거나 간헐적인 작업 부하에 대해 매우 비용 효율적입니다.
• 보안: IBM Cloud Code Engine은 전송 중 및 저장 중 데이터 암호화를 포함하여 IBM Cloud의 기능을 그대로 계승했습니다. 이 접근 방식은 대량의 데이터, 특히 AI와 관련된 워크로드를 관리하는 데 핵심입니다. 

금융 서비스와 같이 규제가 엄격한 산업의 기업은 진정한 혁신을 시작하기 위해 반드시 이해해야 하는 고유한 과제를 안고 있습니다. 이러한 조직은 민감한 고객 데이터를 관리하고, 탄력성을 유지하며, 변화하는 규제 요구 사항을 충족하는 임무를 맡고 있습니다. 컴퓨팅 집약적인 워크로드를 실행하는 것이 혁신의 또 다른 장애물이 되어서는 안 됩니다.

예를 들어, 보험 회사는 손해사정 계산을 실행하고, 가격 모델을 구축하며, 규제 기관에 보고하고, 실시간으로 위험을 조정하기 위해 엄청난 양의 컴퓨팅 성능이 필요합니다. 서버리스 플릿은 이러한 워크로드를 지원하며, 금융 업계의 기업이 시뮬레이션, 모델 및 평가를 더 쉽고 비용 효율적으로 실행할 수 있도록 설계되었습니다.

“MavenBlue는 서버리스 플릿과 IBM Cloud Code Engine의 강력한 기능을 수용함으로써 보험 업계에 새로운 인사이트, 속도 및 분석 민첩성을 제공한다는 우리의 사명을 가지고 계속 앞서 나갈 수 있게 되었습니다”라고 MavenBlue의 CTO인 Paul Hagg는 말했습니다. “우리는 인사이트, 미래 지향적인 지급 능력 분석 및 가격 책정 모델을 제공하는 강력한 차세대 플랫폼 세트를 보유하고 있습니다. 서버리스 플릿은 유연하고 비용 효율적인 방식으로 필요한 컴퓨팅 성능을 활용할 수 있도록 지원합니다.”

생명과학 산업은 경쟁력을 유지하기 위해 시스템 성능을 업그레이드해야 하는 과제를 안고 있습니다. 특히 제약 회사가 새로운 치료법을 시장에 출시하고 임상 시험을 간소화하며 데이터 기반 인사이트를 활용하기 위해 경쟁하는 상황에서는 연구 개발을 위한 컴퓨팅 성능이 핵심입니다. 이를 위해서는 보안과 안정성을 우선시하는 상호 운용 가능한 시스템이 필요합니다. 서버리스 플릿은 IT 팀이 필요로 하는 인프라를 프로비저닝하지 않고도 필요한 인프라를 프로비저닝하여 조직이 끊임없이 변화하는 시장에 효율적으로 적응할 수 있도록 지원합니다.

베이어의 사명인 **‘Health for all, Hunger for none’**을 실현하기 위해 우리는 연구개발에서 혁신적이고 고성능의 솔루션에 의존하고 있습니다. Serverless Fleets를 통해 우리는 가장 요구가 많은 고성능 연산 작업도 신뢰성 있게—그리고 매우 공정한 조건에서—실행할 수 있는 고도로 확장 가능하고 안정적인 플랫폼을 확보했습니다. 베이어는 확장의 용이성과 IBM이 제공한 뛰어난 지원에 특히 깊은 인상을 받았습니다”라고 베이어 AG의 응용수학 수석 전문가인 게오르크 모크(Dr. Georg Mogk)는 말했습니다.

오늘날의 경쟁 환경에서는 모든 산업 분야의 기업이 보안, 복원력, 비용 절감에 우선순위를 두면서 빠르고 편리하게 서비스를 제공해야 하는 것이 현실입니다.

서버리스 플릿은 개발자와 데이터 과학자가 가장 까다로운 워크로드를 관리하여 이러한 서비스를 제공하고 인프라 관리가 아닌 코딩에 집중할 수 있는 시간을 다시 확보할 수 있도록 지원합니다. IBM이 고급 컴퓨팅의 접근성과 효율성을 높이기 위해 노력하는 가운데, 서버리스 플릿은 올바른 방향으로 나아가기 위한 단계입니다.

IBM Cloud Code Engine에 대해 자세히 알아보기

TechXchange에서 서버리스 플릿에 대해 자세히 보기