GPU 서버
이 섹션을 사용하여 IBM Fusion HCI 어플라이언스에서 사용되는 GPU 서버에 대한 자세한 이해와 구성 세부 정보를 확인할 수 있습니다.
GPU는 하나 이상의 그래픽 처리 장치가 장착된 IBM Fusion HCI 어플라이언스의 특수 서버 노드입니다. 이러한 노드는 AI 및 고성능 컴퓨팅 애플리케이션과 같이 대규모 병렬 처리가 필요한 컴퓨팅 집약적인 워크로드를 처리하도록 설계되었습니다. 사용 가능한 GPU 서버는 다음과 같습니다:
- Dell 하드웨어 - 9155-DG1, DG2, DG3, DG4. 구성에 대한 자세한 내용은 Dell 하드웨어를 참조하세요.
- Lenovo 하드웨어 - 9155-G03 및 9155-G04. 구성에 대한 자세한 내용은 Lenovo 하드웨어를 참조하세요.
핵심 기능
다음은 GPU 서버의 주요 기능입니다:
- 대규모 병렬 처리 기능을 제공하므로 과학 시뮬레이션, 데이터 분석, AI 모델 학습 등 고성능 컴퓨팅이 필요한 워크로드에 이상적입니다.
- 컴퓨팅 집약적인 워크로드의 성능을 개선하여 처리 시간을 단축하고 전반적인 시스템 효율성을 높입니다.
- GPU 노드를 가상화하여 여러 가상 머신이 동일한 GPU 리소스를 공유할 수 있으므로 리소스 활용도를 높이고 비용을 절감할 수 있습니다.
장점
GPU 서버의 주요 이점은 다음과 같습니다:
- 성능 및 효율성 향상
- GPU 서버는 컴퓨팅 집약적인 워크로드의 성능과 효율성을 크게 향상시킬 수 있습니다.
- 민첩성 향상
- GPU 서버를 신속하게 프로비저닝하고 배포할 수 있으므로 조직은 변화하는 비즈니스 요구사항에 신속하게 대응할 수 있습니다.
- 비용 절감
- GPU 서버는 리소스 활용도를 개선하고 특수 하드웨어의 필요성을 줄여 비용을 절감할 수 있습니다.
- 간편한 관리
- GPU 서버는 IBM Fusion HCI 플랫폼과 완전히 통합되어 관리자가 관리하기 쉬운 단일 인터페이스를 제공합니다.
하드웨어 구성
- Dell
- 9155-DG1 GPU 서버의 하드웨어 구성:
- Dell XE7745 4U 2소켓 서버
- 2x 64코어 AMD EPYC 59575 3.3 GHz 400W 프로세서
- 2304 GB DDR5 6400 MT/s RAM ( 24x 64 GB DIMM)
- 4x NVIDIA L40S 48GB GPU PCIe 4세대
- 2x 960GB M.2 SED NVMe 핫스왑 가능 OS 드라이브(RAID 1)
- 4x NVIDIA ConnectX-6 DX 듀얼 포트 100 GbE PCIe NIC
- 브로드컴 쿼드 포트 1 GbE PCIe 이더넷 어댑터
- 8x 3200W 티타늄 전원 공급 장치
중요:9155-DG2, DG3, DG4 GPU 서버는 9155-DG1 과 유사한 구성을 포함하지만 GPU 카드 구성이 다릅니다:- 9155-DG2 - 8x NVIDIA PCIe 4세대 L40S 대신 4x NVIDIA PCIe 4세대 L40S.
- 9155-DG3 - 4x NVIDIA H200 NVL 141GB GPU PCIe Gen 5 대신 4x NVIDIA PCIe 4세대 L40S.
- 9155-DG4 - H200NVIDIA8x NVL 141GB GPU PCIe Gen 5 대신 4xNVIDIA PCIe Gen 4 L40S.
- 레노버
- 9155-G03 GPU 서버의 하드웨어 구성:
- SR675 V3 8DW PCIe GPU 베이스
- 2x AMD EPYC 9254 200W24C 2.9GHz
- (1-8)x NVIDIA L40S 48GB GPU Gen4 PCIe 어댑터 카드
- NVIDIA H100 NVL 94GB PCIe Gen5 패시브 GPU
2개의 H100 NVL을 NVLink로 상호 연결하여 최대 188GB의 모델을 효율적으로 지원할 수 있습니다.
- AMD MI210 PCIe GPU 어댑터 카드
- 768GB RAM ( 24x 32GB TruDDR5 4800MHz ( 2Rx8 ) RDIM-A)
- 인텔 I350 1GbE RJ45 4포트 OCP 이더넷 어댑터
- ConnectX-6 Dx 듀얼 포트 100GbE 네트워크 인터페이스 카드
- ConnectX-6 Lx 듀얼 포트 25GbE 네트워크 인터페이스 카드
- 2x M.2 960GB 운영 체제 및 드라이브용 NVMe 드라이브는 RAID 1 구성입니다
- 3U 높이
중요: 각 G03 서버는 NVIDIA L40S, NVIDIA H100 NVL, AMD MI210 등의 옵션과 함께 1개에서 8개 사이의 GPU PCIe 카드를 지원합니다. 그러나 동일한 서버 내에서 서로 다른 GPU 모델을 혼합할 수는 없습니다.