검은색 서버 캐비닛이 줄지어 있는 데이터 센터 통로 내부 랙에 서버 섀시를 설치하는 사람.

데이터 센터 현대화란 무엇인가요?

데이터 센터 현대화의 정의

데이터 센터 현대화는 컴퓨팅, 스토리지, 네트워킹을 아우르는 레거시 IT 인프라를 업그레이드하여 현대 워크로드의 성능, 확장성, 보안 요건을 지원하는 과정입니다.

대부분의 조직에서 데이터 센터 현대화는 일회성 프로젝트가 아닌 지속적인 프로세스입니다. 하드웨어에 의존하는 시스템에서 벗어나 온프레미스, 프라이빗 클라우드 , 퍼블릭 클라우드 인프라, 엣지 설정을 하나의 환경으로 관리하는 소프트웨어 정의 인프라로 전환하는 데 중점을 둡니다.

인공지능(AI), 분산 애플리케이션, 엣지에서의 실시간 처리에서 가치를 창출해야 하게 되면서, 조직이 데이터 센터에서 요구하는 바가 달라졌습니다. Goldman Sachs Research에 따르면 데이터센터 전력 수요는 2027년까지 50% 증가하고 2030년에는 2023년 수준의 165%에 달할 것으로 예상되며, 이는 주로 학습 및 추론 워크로드 증가에 기인합니다.1 기존 데이터 센터는 대부분 이러한 수요를 충족하도록 설계되어 있지 않았습니다.

데이터 센터 현대화가 중요한 이유는 무엇일까요?

데이터 센터는 기존 인프라가 CPU 기반 컴퓨팅, 예측 가능한 워크로드, 중앙 집중식 스토리지를 중심으로 구축되었던 구시대의 컴퓨팅 환경에 맞게 구성되어 있습니다.

모델 훈련이 대규모 중앙 시설에서 진행되는 것과 달리 AI 추론은 공장, 소매, 원격 현장 등의 엣지에서 점점 많이 실행되고 있습니다. 현대화는 이제 핵심 데이터 센터를 넘어 분산된 지점들로 확장되고 있습니다.

데이터 주권은 워크로드가어디서 실행되는 위치에도 영향을 미치고 있습니다. 많은 산업 분야와 지역에서 특정 데이터가 특정 관할 구역 내에 머물러야 하기에, 워크로드 배치 결정 시 데이터의 위치와 적용되는 규정을 고려해야 합니다.

AI 아카데미

하이브리드 클라우드로 AI 지원 실현하기

IBM 사고 리더들이 이끄는 이 커리큘럼은 비즈니스 리더들에게 성장을 촉진하는 AI 투자의 우선순위를 정하는 데 필요한 지식을 제공합니다.

기존 데이터 센터와 현대식 데이터 센터, AI 데이터 센터 비교

기존 데이터 센터는 중앙 집중식 모델을 따랐습니다. 물리적 서버에서 개별 애플리케이션이 실행되고 팀은 특정 호스트에 스토리지 시스템을 연결했으며, 네트워크 구성에는 수동 작업이 필요했습니다. 엔터프라이즈 자원 관리(ERP)데이터베이스 같은 엔터프라이즈 애플리케이션 실행을 수반하는 워크로드에서는 이 모델이 잘 작동했습니다.

첨단 데이터 센터로의 전환은 서버 가상화에서 출발했는데, 이를 통해 작업 부하를 물리적 하드웨어에서 분리하고 여러 애플리케이션이 단일 서버에서 리소스를 공유하게 되었습니다. 소프트웨어로 정의되는 인프라는 이를 스토리지와 네트워킹으로 확장했습니다.

컨테이너쿠버네티스의 도입으로 이식성이 높아져 애플리케이션이 온프레미스 서버, 프라이크 클라우드, 퍼블릭 클라우드 플랫폼을 넘나들며 일관되게 실행될 수 있게 되었습니다. 이렇게 데이터 센터 전체를 관리하는 소프트웨어 기반 접근 방식을 소프트웨어 정의 데이터 센터 (SDDC)라고 합니다.

첨단 최신 데이터 센터는 이제 더 이상 고정된 위치에 있지 않습니다. 핵심 시설, 클라우드 기반 플랫폼, 엣지 로케이션에 걸쳐 있으며 하드웨어와의 물리적 근접성이 아닌 성능, 비용, 지연 시간, 규정 준수를 기반으로 워크로드가 이동합니다. 이러한 분산형 하이브리드 클라우드 모델을 통해 조직은 성능이 가장 뛰어난 곳에서 워크로드를 실행하는 유연성을 확보하고 소프트웨어 및 자동화를 통해 리소스 프로비저닝과 관리를 주도할 수 있습니다.

AI 데이터 센터는 한 단계 더 나아가, 기존 데이터 센터가 처리하도록 설계되지 않았던 AI 학습 및 추론 워크로드의 규모와 성능 요구 사항을 충족하도록 구축되었습니다.

데이터 센터 워크로드

종래의 기업용 워크로드는 대부분의 시설에서 여전히 가상화된 온프레미스 인프라에서 실행되고 있습니다. 반면 클라우드 네이티브 애플리케이션은 단일 환경에 종속되지 않고 온프레미스 시스템과 퍼블릭 클라우드 시스템에서 동시에 실행되도록 설계되었습니다.

오늘날 AI 기반 워크로드는 인프라에 가장 큰 부담을 주며 GPU 밀집 컴퓨팅, 빠른 스토리지, 저지연 네트워킹을 요구합니다. 고성능 컴퓨팅(HPC) 워크로드는 이러한 요건을 상당 부분을 공유합니다.

핵심 데이터 센터를 넘어, 머신러닝(ML)과 AI가 원격 서버와 사물인터넷(IoT) 장치에서 실행되는 분산 위치로 이동하면서 엣지 워크로드가 증가하고 있습니다.

현대식 데이터 센터의 주요 구성 요소

최신 데이터 센터 인프라는 컴퓨팅, 스토리지, 데이터 보호를 제공하는 시스템을 아우릅니다. 그 구성 요소가 무엇인지 살펴봅시다.

  • 컴퓨팅 및 AI 지원 하드웨어: 컴퓨팅을 현대화한다는 것은 CPU 전용 서버를 넘어 AI 및 HPC를 위한 GPU 가속 워크로드를 지원하는 방향으로 나아간다는 의미입니다. 신경 처리 장치(NPU)는 전력 효율성이 순수 성능만큼 중요한 엣지 환경에서 추론을 처리합니다. 엔터프라이즈 하드웨어(IBM® Z 등)는 AI 가속기와 금융 및 의료 같은 규제 산업이 요구하는 보안 기능을 결합합니다.
  • 소프트웨어 정의 네트워킹(SDN) 및 SDDC: 소프트웨어 정의 네트워킹(SDN)은 네트워킹, 스토리지, 컴퓨팅에 소프트웨어 기반 관리를 적용하여 데이터 센터 전체에서 수동 하드웨어 구성을 대체합니다.
  • 가상화 및 HCI: 서버 가상화는 현대화된 데이터 센터 대부분의 기반이 되고 있으며, 여러 워크로드가 물리적 하드웨어를 공유할 수 있도록 합니다. 하이퍼컨버지드 인프라(HCI)는 컴퓨팅, 스토리지, 네트워킹을 단일 소프트웨어 관리 플랫폼으로 결합하여 한 단계 더 나아갑니다.
  • 컨테이너 및 Kubernetes: 컨테이너는 여러 설정에서 일관되게 실행되는 휴대용 유닛으로 애플리케이션을 패키징합니다. Kubernetes는 단일 플랫폼에서 하이브리드 환경 전반의 배포와 확장을 관리합니다.
  • 자동화 및 AIOps: 데이터 센터가 분산될 수록 수동 작업을 대규모로 관리하기가 더 어려워집니다. 자동화AIOp는 실시간 데이터를 기반으로 모니터링, 사고 대응, 용량 계획을 처리합니다.
  • 전력과 액체 냉각: 고밀도 AI 랙은 기존 구성보다 훨씬 많은 전력을 필요로 하기 때문에 많은 데이터 센터 시설이 전력 공급 시스템을 업그레이드해야 합니다. 액체 냉각은 공기 냉각으로 감당할 수 없는 열을 대규모로 처리합니다.
  • 보안 및 제로 트러스트 아키텍처: 워크로드가 더 많은 설정과 엣지 컴퓨팅 위치에 분산됨에 따라 보호해야 할 진입점이 더 많아졌습니다. 사이버 보안을 현대화한다는 것은 경계 기반 모델에서 벗어나 네트워크 위치에 관계없이 사용자, 기기, 워크로드가 기본적으로 접근 권한을 갖지 못하는 제로트러스트 프레임워크로 전환한다는 의미입니다.

데이터 센터 현대화의 이점

데이터센터 현대화는 오늘날 기업의 비즈니스 요건에 맞는 다양한 이점을 제공합니다.

  • AI 및 최신 워크로드 지원: 데이터 센터를 현대화하면 AI 학습, 추론 또는 실시간 분석을 수행하는 데 필요한 인프라를 확보하고 기존 시스템으로 인한 병목 현상을 제거할 수 있습니다.
  • 민첩성 향상: 소프트웨어 정의 인프라와 자동화를 통해 리소스 프로비저닝, 애플리케이션 배포 및 변화하는 워크로드 요구에 대응하는 데 걸리는 시간을 단축할 수 있습니다. 조직이 물리적 하드웨어를 변경하지 않고도 여러 워크로드에 걸쳐 리소스를 분산할 수 있습니다.
  • 운영 비용 절감: 데이터 센터를 현대화하면 IT 인프라가 최적화되어 운영 효율성이 향상됩니다. 온프레미스, 클라우드, 엣지 등 비용 효율이 가장 높은 설정으로 워크로드를 옮기면 활용도 낮은 인프라를 유지 관리하는 데 드는 간접비도 줄어듭니다.
  • 복원력 향상: 최신 데이터 센터와 분산 아키텍처는 특정 시설이나 연결에 대한 의존도를 줄여줍니다. 여러 설정에 걸쳐 워크로드가 이어질 수 있고, 중앙 연결이 끊어지더라도 엣지 위치가 독립적으로 계속 실행될 수 있습니다.
  • 보안 강화: 데이터 센터 현대화는 분산 환경 전반에 걸쳐 일관된 정책 시행을 지원하며, 최신 암호화 기술은 데이터 센터, 클라우드 플랫폼 및 엣지 위치 전반의 보안 취약점을 줄여줍니다.
  • 규정 준수 용이성: 민감한 워크로드를 특정 시설이나 지역으로 지정하고 수동 구성이 아닌 소프트웨어 정의 관리를 통해 해당 정책을 시행할 수 있습니다.
  • 지속가능성: 현대식 인프라는 레거시 시스템보다 에너지 효율적입니다. 액체 냉각 방식과 에너지 효율적인 하드웨어는 데이터 센터 운영이 환경에 미치는 영향을 줄이는 데 기여합니다.
  • 애플리케이션 현대화: 컨테이너, Kubernetes, 하이브리드 멀티클라우드 플랫폼은 개발팀이 단일 애플리케이션에서 마이크로서비스 아키텍처로 전환할 수 있는 도구를 제공합니다. 이 방법을 채택하면 배포 속도, 가용성, 가동 시간을 개선하여 사용자 경험을 개선할 수 있습니다.

데이터 센터 현대화 전략 구축

데이터 센터 현대화 프로젝트는 복잡하며 광범위한 디지털 혁신 전략의 핵심 축인 경우가 많습니다. 기술과 비즈니스 요건의 변화에 맞춰 적응할 수 있는 명확한 전략과 로드맵에서 출발하는 것은 대부분의 조직이 생각하는 것보다 훨씬 중요합니다.

많은 기업 조직이 비즈니스 기술 제공사(IBM, HPE 등)의 컨설팅 서비스를 통합하여 현재의 인프라를 평가하고 아키텍처, 보안, 운영 전반의 전환을 관리합니다.

1. 워크로드 평가로 시작하세요

조직은 인프라에 관한 결정을 내리기에 앞서 현행 워크로드와 성능, 보안 및 규정 준수 요건이 무엇인지 알아야 합니다. 그래야 기존 시스템의 종속성을 파악하고 각 워크로드가 어디로 이동해야 하는지 알 수 있습니다.

Deloitte의 연구에 따르면 IT 예산의 60% 이상이 여전히 레거시 시스템 유지 관리에 사용되고 있으며, 이는 현대화 프로그램을 진행할 때 처음으로 마주하는 제약인 경우가 많습니다.2

2. 비즈니스 성과와 관련된 목표를 정의하세요

인프라 비용 절감, 특정 AI 사용 사례 지원, 데이터 레지던시 요건 충족 같은 구체적인 목표를 설정합니다.

구체적인 목표가 있으면 팀이 진행 상황을 측정하고 그 과정에서 결정을 내릴 수 있습니다.

3. 적절한 인프라 조합을 선택하세요

모든 워크로드가 클라우드에 있어야 하는 것은 아니고, 모든 워크로드가 온프레미스에 있어야 하는 것도 아닙니다. 클라우드 솔루션은 확장성을 제공하고 새로운 서비스를 더 빨리 이용하게 해주며, 온프레미스 인프라는 조직이 성능과 규정 준수를 더 잘 제어할 수 있게 합니다.

시설 규모가 작아 고밀도 AI 인프라를 구축할 수 없는 조직은 코로케이션 서비스를 고려하는 것이 좋습니다.

4. 단계별 현대화

단계적 접근 방식을 취하면 가장 중요한 워크로드를 우선적으로 처리해서, 이니셔티브가 진행됨에 따라 다운타임과 주요 운영 시설의 서비스 중단 위험을 줄일 수 있습니다.

보안 제어, 규정 준수 모니터링, 비용 관리는 처음부터 현대화 아키텍처에 포함해야 합니다. 백업 및 재해 복구, 시스템 장애나 마이그레이션 실패 시 운영을 지속하기 위한 비즈니스 연속성 계획이 여기에 포함됩니다. 

5. 지속적인 운영을 위한 계획

데이터 센터 현대화는 배포에서 끝나지 않습니다. 인프라에는 지속적인 모니터링, 패치, 업그레이드, 라이프사이클 관리가 수반되어야 합니다.

클라우드 서비스 플랫폼, Kubernetes, AI 인프라 전문 지식이 필요한 경우가 많으며 데이터 센터 서비스와 새로운 기술 발전에 맞춰 IT 팀을 지속적으로 교육해야 합니다.

Stephanie Susnjara

Staff Writer

IBM Think

Ian Smalley

Staff Editor

IBM Think

관련 솔루션
IBM Cloud Infrastructure Center

IBM® Cloud Infrastructure Center는 IBM® zSystems 및 IBM LinuxONE에서 실행되는 프라이빗 클라우드 인프라를 관리하도록 설계된 OpenStack 호환 소프트웨어 플랫폼입니다.

IBM Cloud Infrastructure Center 살펴보기
IT 인프라

하이브리드 클라우드 환경 전반에 안전한 AI 지원 인프라 제공

IT 인프라 솔루션 살펴보기
인프라 서비스

IBM® Technology Expert Labs의 전문가 가이드를 통해 하이브리드 클라우드 및 기업 인프라를 가속화하고, 보안을 강화하며, 최적화하세요.

인프라 서비스 살펴보기
다음 단계 안내

IBM의 하이브리드 클라우드 및 AI 지원 솔루션으로 기업 인프라를 혁신하세요. 비즈니스를 보호하고 확장하며 현대화하도록 설계된 서버, 스토리지, 소프트웨어를 살펴보거나 생성형 AI 전략을 강화할 수 있는 전문가 인사이트를 확인하세요.

  1. IT 인프라 솔루션 살펴보기
  2. IBM Cloud 살펴보기
각주

1 AI to drive 165% increase in data center power demand by 2030, Goldman Sachs Research, 2024년 2월

2 Three ways to approach legacy tech modernization with AI, Deloitte Center for Integrated Research, 2025년 6월 6일