메인프레임 기반 AI의 미래: 메인프레임 기반 AI 혁신을 위한 4가지 경로

대부분의 사람들은 "메인프레임"이라는 용어를 들었을 때, 그것이 기업 비즈니스 혁신에 얼마나 중요한 기여를 해왔는지 잘 인식하지 못할 수도 있습니다. 생성형 AI에 대한 뜨거운 관심 속에서, 메인프레임과 같은 기존 IT 인프라는 이 흐름에서 소외되었을 것이라 쉽게 생각할 수 있습니다.

사실 메인프레임은 차세대 AI 가속화 기술을 최적화된 에코시스템과 통합하여 비즈니스 및 기술 기능을 강화함으로써 혁신을 주도하는 데 중요한 역할을 할 준비가 되어 있습니다.

돌이켜 보면 메인프레임이 실제로 60년 이상 동안 지속적인 혁신을 주도해 왔다는 것이 분명합니다. 최근 IBM 기업가치연구소(IBV) 보고서에 따르면, 세계 50대 은행 중 43개, 10대 결제 회사 중 8개가 메인프레임을 핵심 플랫폼으로 활용하고 있습니다.

금융, 의료, 정부 등 방대한 양의 데이터를 처리하는 산업에서 메인프레임은 인공 지능(AI) 전략과 관련성이 높아지고 있습니다. 실제로 동일한 IBV 보고서에 따르면 IT 경영진의 79% 는 AI 기반 혁신과 가치 창출을 지원하는 데 메인프레임이 필수적이라고 믿고 있습니다.

동시에 이러한 비즈니스 리더는 AI를 기존 메인프레임 플랫폼으로 통합하여 전략적 인프라를 유지하면서 귀중한 통찰력을 활용하고 작업을 자동화하며 효율성을 향상하는 방법을 모색하고 있습니다. 이러한 접근 방식은 AI 기반 분석 및 자동화를 통해 새로운 능력을 도입하는 동시에 기존 시스템의 가치를 극대화합니다.

오늘날 AI를 배포하려면 조직에서 데이터를 클라우드로 옮겨야 하는 경우가 많습니다. 그러나 매우 민감한 데이터를 처리하기 위해 고속 데이터 처리에 의존하는 산업의 경우 AI의 능력을 데이터가 저장된 위치에 더 가깝게 유지하면 상당한 비즈니스 이점을 얻을 수 있습니다.

“AI를 실제로 활용되는 현장에 가져오는 것이 핵심이며, 이는 두 가지 주요 영역에서 이루어지고 있습니다.”라고 IBM Z 및 LinuxONE의 AI 수석 솔루션 아키텍트이자 IBM의 수석 기술 전문가인 Khadija Souissi는 말합니다.

"우리는 트랜잭션 워크로드에 AI를 주입하여 비즈니스 애플리케이션에 대한 실시간 인사이트를 얻어 더 빠른 의사 결정에 대한 내리고, 고객이 민감한 데이터를 보호하면서 생성형 AI 솔루션을 수용하는 지능형 애플리케이션을 지속 가능하게 만들 수 있도록 지원하고 있습니다. 또한 메인프레임 운영 체제 및 하위 시스템에 AI를 사용하여 지능형 인프라를 구축하고 있습니다. 이를 통해 향후 워크로드를 예측하여 필요한 리소스를 사전에 준비하고, 가동 중단을 예측하고 시스템 성능과 관련된 실행 가능한 인사이트를 추출하는 데 도움이 될 수 있는 시스템 운영 이상을 감지할 수 있습니다.

메인프레임은 전 세계 생산 IT 작업 부하의 약 70%를 처리하며 안정성, 높은 보안성, 확장성으로 인해 많은 사랑을 받고 있습니다. 오늘날 온칩 AI 가속기는 매우 짧은 지연 시간으로 초당 수백만 건의 추론 요청을 확장하고 처리할 수 있습니다. 이 기능을 통해 조직은 대규모 데이터 세트, AI, 핵심 비즈니스 애플리케이션을 전략적으로 함께 배치함으로써 데이터 및 트랜잭션 중력을 효과적으로 활용할 수 있습니다. 앞으로 차세대 액셀러레이터는 조직의 요구 사항이 증가함에 따라 AI 기능과 사용 사례를 확장할 수 있는 새로운 기회를 열어줄 것입니다.

기존 AI 및 생성형 AI(gen AI) 모델은 현대 기업을 정의하고 형성하는 데 도움이 됩니다. 미션 크리티컬 및 트랜잭션 사용 사례에는 머신 러닝, 딥 러닝 및 생성형 AI 능력이 필요하며, 때로는 더 나은 비즈니스 성과를 달성하기 위해 앙상블 아키텍처에서 함께 작동합니다.

메인프레임에서 다중 모델 아키텍처는 이러한 다양한 모델의 강점을 활용하여 보다 강력하고 정확하며 유연한 의사 결정이 가능합니다.

먼저 기존 AI를 살펴보면, 이러한 모델은 일반적으로 사전 정의된 규칙을 적용하여 데이터를 분석하고 특정 패턴에 따라 의사 결정을 내립니다. 예를 들어 재고 관리를 위한 수요 예측이나 고객의 과거 데이터를 기반으로 한 신용 결정을 내릴 수 있습니다.

AI의 진화는 대규모 언어 모델 (LLM)과 같은 새로운 개념으로 두드러졌습니다. 대규모 데이터를 기반으로 학습된 고급 AI 모델은 자연어를 이해하고, 인간과 유사한 텍스트를 생성하고, 언어를 번역하고, 질문에 답하고, 코드를 작성하고, 대화까지 진행할 수 있습니다.

콘텐츠를 생성하는 LLM은 일반적으로 디코더 모델이라고 하며 생성형 AI에 사용됩니다. 이러한 기능은 사용자 문의와 상황에 따라 개인화된 고객 서비스 답변을 제공하는 챗봇에서 확인할 수 있습니다. 

인코더 모델은 주요 정보 추출에 중점을 두고 자연어를 이해하고 구조화되지 않은 텍스트를 처리하는 데 탁월한 또 다른 유형의 LLM입니다. 디코더 모델은 이 능력을 공유하지만 새로운 콘텐츠를 생성하는 데도 탁월합니다.

다중 모델 아키텍처는 기존 AI 및 LLM 인코더 모델과 같은 다양한 AI 기술을 통합하여 메인프레임의 대규모 처리 능력과 데이터 스토리지 기능을 활용하여 단일 모델만으로 달성할 수 있는 것보다 더 빠르고 정확한 결과를 제공하는 하이브리드 개념입니다.

예를 들어, 보험금 청구 처리에서 기존 AI는 정형 데이터의 초기 분석을 수행할 수 있는 반면, 인코더 LLM은 더 복잡한 비정형 데이터를 처리하여 더 상세한 인사이트를 얻고 그에 따라 보험금 청구를 해결할 수 있습니다.

자동차 사고 청구를 예로 들어 보겠습니다. 기존 AI는 구조화된 데이터(예: 경찰 보고서, 운전 면허증 및 등록 정보)의 자동화된 처리를 제공합니다. 생성형 AI는 한 걸음 더 나아가 비정형 데이터(예: 부상 및 차량 손상과 관련된 텍스트 및 이미지)에서 인사이트를 추출하여 이러한 청구의 우선순위를 정하고 긴급성을 충족하는 데 도움을 줍니다.

최근 IBM은 곧 출시될 IBM Telum II 프로세서와 IBM Spyre Accelerator를 발표했습니다. 이러한 기술은 기업이 IBM Z Systems 전반에서 처리 용량을 확장하고 기존 AI 모델, 대규모 언어 AI 모델 및 다중 모델 아키텍처의 사용을 가속화할 수 있도록 설계되었습니다.

Spyre Accelerator 카드를 사용하면 IBM Z 및 LinuxOne 시스템에서 이전보다 훨씬 더 큰 규모로 LLM 및 생성형 AI에 대한 AI 추론을 수행할 수 있습니다.

다음은 조직이 이러한 AI 기술을 사용하여 비즈니스 혁신을 주도하고 운영을 개선하며 생성형 AI 워크로드를 가속화하는 방법을 보여주는 4가지 사용 사례입니다.

사기성 신용 카드 거래로 인한 재정적 손실은 재정적 및 평판 손상을 초래합니다. Nilson Report에 따르면 전 세계적으로 신용 카드 손실은 2026년까지 430억 달러에 이를 것으로 예상됩니다.¹ 

IBM 내부 사례 연구에 따르면 북미의 한 대형 은행은 사기 방지를 위해 AI 기반 신용 점수 모델을 개발하여 클라우드 플랫폼에 배포한 것으로 나타났습니다. 그러나 신용 카드 거래 중 20%만 실시간으로 점수를 매길 수 있었습니다. 이 은행은 복잡한 사기 탐지 툴을 메인프레임으로 옮기기로 결정했습니다.

메인프레임 구축 후, 은행은 초당 15,000건의 신용 카드 거래를 실시간으로 100% 점수화하여 상당한 사기 탐지 능력을 갖추기 시작했습니다.

또한 각 트랜잭션을 평가하는 데 80밀리초가 걸렸습니다. 메인프레임이 제공하는 지연 시간 단축으로 이제 응답 시간은 2밀리초 이내에 이루어집니다. 이러한 메인프레임으로의 전환으로 은행은 서비스 수준 계약에 영향을 주지 않고 연간 사기 방지 지출에서 미화 2천만 달러 이상을 절약할 수 있었습니다.

메인프레임은 신용 카드 거래에서 매우 중요하며 전 세계 거래의 90%를 처리합니다.² 이제 조직은 메인프레임에 계속 의존하는 동시에 AI를 통합하여 거래가 종료되기 전에 사기를 탐지할 수 있으며, 클라우드 환경으로 이동하는 대신 이미 저장된 대량의 거래 데이터에 의존할 수 있습니다.

Forbes에 따르면 IT 다운타임의 평균 비용은 대규모 조직의 경우 분당 9,000달러, 고위험 조직의 경우 시간당 500만 달러 이상에 달할 수 있습니다.³

다행히도 조직은 이제 AI를 사용하여 장비 고장으로 인한 가동 중단을 사전에 예방하거나 예측할 수 있습니다. 조직은 AI 메커니즘을 적용함으로써 트랜잭션, 애플리케이션, 하위 시스템 및 시스템 수준에서 이상 징후를 감지할 수 있습니다. 예를 들어, 센서는 메인프레임 구성 요소의 데이터를 분석하여 잠재적인 하드웨어 오류를 예측하고 예방적 유지 관리를 가능하게 합니다.

메인프레임을 클라우드나 분산 시스템과 같은 신기술과 통합하는 것은 IT 인프라 및 애플리케이션 팀에게 복잡성을 초래할 수 있습니다. 조직들은 점점 더 IT 운영을 위한 인공 지능(AIOps), 즉 AI 기능을 활용해 IT 인프라와 운영 워크플로를 자동화하고 간소화하며 최적화하는 방식에 주목하고 있습니다. AIOps를 통해 IT 운영 팀은 속도 저하 및 중단에 신속하게 대응하여 더 나은 가시성과 컨텍스트를 제공할 수 있습니다.

민감한 데이터를 처리하는 조직에서는 데이터 개인정보 보호가 가장 중요합니다. 이것이 바로 의료와 같은 산업이 워크로드 격리, 고급 데이터 암호화 및 보안 통신 프로토콜을 포함한 메인프레임의 강력한 보안 기능에 계속 의존하는 주된 이유입니다.

메인프레임에서 문서를 처리하면 고도로 보안된 환경에서 정확한 데이터 추출을 간소화하고 제공하는 데 도움이 됩니다. 조직에서는 생성형 AI를 사용하여 재무 문서와 사업 보고서를 요약하고, 주요 데이터 포인트(예: 재무 지표 및 성능 지표)를 추출하고, 규정 준수 프로세스(예: 재무 감사)에 필요한 필수 정보를 식별할 수 있습니다.

또 다른 예로, 정부는 생성형 AI를 사용하여 정교한 이미지 처리 기술과 각 선적과 관련된 텍스트 설명 분석을 통해 의심스러운 화물에 대한 세관 심사를 개선할 수 있습니다.

메인프레임에서 가장 큰 과제 중 하나는 COBOL로 작성된 레거시 애플리케이션을 보다 현대적인 프로그래밍 언어로 마이그레이션하는 것입니다. 이유가 무엇일까요? 이는 주로 기술 인력의 세대 변화에 기인합니다. 신입 개발자는 교육 과정에서 Java 및 Python과 같은 언어에 대한 기술을 습득한 반면, 노련한 전문가 중 상당수는 여전히 오래된 기술에 능숙합니다.

하지만 COBOL은 조만간 사라지지 않을 것이며, 여전히 은행 및 정부와 같은 분야에서 많은 중요한 비즈니스 시스템을 지원하고 있습니다. 로이터 통신에 따르면, 은행 시스템 중 43%가 COBOL을 기반으로 구축되었으며, 현재 2,200억 개의 COBOL 라인이 사용되고 있습니다.⁴

메인프레임의 가상 어시스턴트는 개발자의 기술 격차를 해소하는 데 도움이 됩니다. IBM watsonx Code Assistant for Z와 같은 툴은 생성형 AI를 사용하여 기존 COBOL 애플리케이션을 분석, 이해, 현대화합니다. 이 기능을 통해 개발자는 COBOL 코드를 Java와 같은 언어로 번역할 수 있습니다. 또한 기존 COBOL 시스템의 기능을 보존하는 동시에 애플리케이션 현대화를 가속화합니다.

watsonx Code Assistant for Z 기능에는 코드 설명, 자동화된 리팩토링 및 코드 최적화 조언이 포함되어 있어 개발자가 기존 COBOL 애플리케이션을 더 쉽게 유지 관리하고 업데이트할 수 있습니다.

수십 년 동안 메인프레임은 진화해 왔으며, 차세대 AI가 제시하는 기회에 발맞춰 계속 발전하고 있습니다. 텔럼 II 프로세서와 스파이어 액셀러레이터 카드의 도입은 조직이 비즈니스 가치를 실현하고 새로운 경쟁 우위를 창출할 수 있는 기회를 제공합니다.

“오늘날 메인프레임은 단순한 트랜잭션 플랫폼을 넘어, 기업들이 AI 여정을 시작함에 따라 실질적인 가치를 제공할 수 있는 진화하는 AI 플랫폼입니다.”라고 Khadija Souissi는 말합니다.