 |
- 뛰어난 AI 컴퓨팅 집적도로 조 단위 매개변수를 기반으로 하는 생성형 AI 시대에 대응
- 엔비디아 HGX B200 8-GPU, 엔비디아 GB200, NVL4, NVL72 시스템 탑재
캘리포니아주 샌호세, 조지아주 애틀랜타, 2024년 11월 22일 /PRNewswire/ -- AI/ML, 클라우드, 스토리지 및 5G/엣지를 위한 토탈 IT 솔루션의 글로벌 리더 슈퍼마이크로컴퓨터(Super Micro Computer, Inc.(SMCI), 이하 슈퍼마이크로)가 슈퍼클러스터 포트폴리오에 엔비디아 블랙웰 플랫폼을 탑재한 엔드투엔드 AI 데이터센터 솔루션을 추가했다.
새로운 슈퍼클러스터는 수냉식 랙 내 엔비디아 HGX B200 8-GPU 시스템 수를 크게 늘렸다. 이로 인해 기존에 업계 최고 수준을 자랑하던 수냉식 엔비디아 HGX H100 및 H200 기반 슈퍼마이크로 슈퍼클러스터 대비 GPU 컴퓨팅 집적도가 대폭 향상됐다. 또한, 슈퍼마이크로는 엔비디아 호퍼 시스템 포트폴리오를 강화해 급속도로 증가하고 있는 HPC 애플리케이션과 대중적인 엔터프라이즈 AI의 가속 컴퓨팅 도입에 대응하고 있다.
찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 "슈퍼마이크로는 세계 최대 규모의 수냉식 AI 데이터센터 프로젝트에 기여할 수 있는 전문성, 배포 속도, 그리고 배송 역량을 지니고 있다"라며, "최근, 슈퍼마이크로와 엔비디아가 GPU 10만개 규모의 AI 데이터센터를 성공적으로 구축했다"고 말했다.
그는 이어 "슈퍼마이크로 슈퍼클러스터는 직접액체냉각(Direct Liquid Cooling; DLC)의 효율성을 통해 전력 수요량을 줄인다. 이제 여기에 엔비디아 블랙웰 플랫폼을 사용하는 솔루션이 추가됐다"며, "슈퍼마이크로의 빌딩 블록 방법론을 통해 빠르게 엔비디아 HGX B200 8-GPU 서버를 설계할 수 있으며, 이는 수냉식과 공냉식 냉각 모두 가능하다. 슈퍼클러스터는 전례 없는 집적도, 성능, 그리고 효율성을 제공하고, 더욱 향상된 AI 컴퓨팅 솔루션으로 나아가는 길을 열고 있다. 슈퍼마이크로 클러스터는 직접액체냉각을 통해 데이터센터 전반의 성능은 향상시키고 전력 소비를 줄이며 운영 비용 절감 효과를 제공한다"고 설명했다.
슈퍼마이크로, 엔비디아 블랙웰용 직접액체냉각 슈퍼클러스터 공개
슈퍼마이크로 HPC에 대한 자세한 내용은 홈페이지에서 확인 가능하다.
<비고: 슈퍼마이크로 엔비디아 HGX B200 서버>
업그레이드된 슈퍼클러스터 확장 가능 장치는 혁신적인 수직 냉각 분배 매니폴드(CDM)를 갖춘 랙 스케일 설계를 기반으로, 단일 랙에 더 많은 컴퓨팅 노드를 탑재할 수 있다. 새롭게 개발된 고효율 냉각판과 고급 호스 설계로 수냉식 시스템의 효율성이 한층 더 향상됐으며, 대규모 배포를 위한 새로운 인-라인(in-row) 이중화 냉각 분배 장치(CDU) 옵션도 추가로 제공된다. 기존의 공냉식 데이터센터도 새로운 공냉식 냉각 시스템 섀시를 탑재한 엔비디아 HGX B200 8-GPU 시스템을 통해 성능과 효율을 극대화할 수 있다.
새로운 슈퍼마이크로 엔비디아 HGX B200 8-GPU 서버는 이전 세대보다 다양한 사항이 업그레이드됐다. 열 관리 및 전력 공급이 강화됐으며, 듀얼 500W 인텔 제온6(8800MT/s의 DDR5 MRDIMM 포함) 또는 AMD EPYCTM 9005 시리즈 프로세서를 지원한다. 또한, 새롭게 설계된 공냉식 10U 폼 팩터는 열전도 헤드룸이 확장된 섀시를 탑재해 1000W TDP 블랙웰 GPU 8개를 수용할 수 있다. 이 서버는 GPU와 NIC(엔비디아 블루필드-3 슈퍼닉 또는 엔비디아 커넥트X-7)가 1대1 비율로 설계돼 고성능 컴퓨팅 환경에서 확장성을 제공한다. 또한, 서버당 2개의 엔비디아 블루필드-3 DPU가 포함돼 AI 스토리지와의 데이터 처리를 효율적으로 간소화한다.
<비고: 엔비디아 GB200 그레이스 블랙웰 슈퍼칩을 탑재한 슈퍼마이크로 서버>
슈퍼마이크로는 새롭게 발표된 엔비디아 GB200 NVL4 슈퍼칩과 GB200 NVL72 단일 랙 엑사스케일 컴퓨터를 비롯해 모든 엔비디아 GB200 그레이스 블랙웰 슈퍼칩에 최적화된 서버를 제공한다.
슈퍼마이크로의 엔비디아 MGX 설계 라인업은 엔비디아 GB200 그레이스 블랙웰 NVL4 슈퍼칩을 지원할 예정이다. 해당 슈퍼칩은 융합형 HPC와 AI의 미래를 여는 핵심 기술로, NVLink-C2C 기술을 통해 2개의 엔비디아 그레이스 CPU와 통합된 4개의 블랙웰 GPU를 연결해 혁신적인 성능을 발휘한다. 또한, 슈퍼마이크로의 수냉식 엔비디아 MGX 모듈형 서버와 호환되며, 과학적 컴퓨팅, 그래프 신경망(GNN) 학습, 추론 애플리케이션에서 이전 세대 대비 최대 2배의 성능을 제공한다.
슈퍼마이크로 엔드투엔드 수냉식 솔루션이 탑재된 엔비디아 GB200 NVL72 슈퍼클러스터는 슈퍼클라우드 컴포저(Super Cloud Composer; SCC) 소프트웨어와 함께 단일 랙에서 엑사스케일 슈퍼컴퓨터를 구현한다. 이때 SCC는 수냉식 데이터센터를 위한 모니터링 및 관리 기능을 제공한다. 5세대 엔비디아 엔비링크 및 엔비링크 스위치로 연결된 72개의 엔비디아 블랙웰 GPU와 36개의 엔비디아 그레이스 CPU는 대규모 HBM3e 메모리 풀을 갖춘 하나의 강력한 GPU처럼 작동하며, 130TB/s의 GPU 통신 대역폭과 빠른 반응 속도를 지원한다.
<비고: 엔비디아H200 NVL을 사용하는 슈퍼마이크로 가속 컴퓨팅 서버>
이제 엔비디아 H200 NVL을 사용하는 슈퍼마이크로의 5U PCIe 가속 컴퓨팅 서버는 유연한 구성이 요구되는 저전력 공냉식 엔터프라이즈 랙 설계에 이상적이며, 규모와 상관없이 많은 AI 및 HPC 워크로드의 가속을 지원한다. 엔비디아 엔비링크로 최대 4개의 GPU가 연결됐으며, HBM3e을 통해 메모리 용량은 1.5배, 대역폭은 1.2배 증가했다. 이를 통해 엔비디아 H200 NVL은 대규모 언어 모델(LLM)을 몇 시간 내로 미세 조정할 수 있으며, 이전 세대 대비 최대 1.7배 빠른 LLM 추론 성능을 지원한다. 또한, H200 NVL에는 AI 개발 및 배포를 위한 클라우드 기반 소프트웨어 플랫폼, 엔비디아 AI 엔터프라이즈에 대한 5년 구독권이 포함돼 있다.
슈퍼마이크로의 X14 및 H14 5U PCIe 가속 컴퓨팅 서버는 엔비링크 기술을 활용해 최대 두 개의 4웨이 엔비디아 H200 NVL 시스템, 즉 총 8개의 GPU를 지원한다. 이를 통해 4-GPU 엔비링크 도메인당 최대 564GB의 HBM3e 메모리 풀과 900GB/s의 GPU 간 상호 연결 성능을 제공한다. 새로운 PCIe 가속 컴퓨팅 서버는 최대 10개의 PCIe GPU를 지원하며, 최신 인텔 제온6 또는 AMD EPYC 9005 시리즈 프로세서를 탑재해 HPC 및 AI 애플리케이션에 유연하고 다양한 옵션을 제공한다.
[슈퍼마이크로 소개]
슈퍼마이크로는 애플리케이션에 최적화된 토탈 IT 솔루션을 제공하는 글로벌 리더이다. 캘리포니아 산호세에 본사를 두고 있으며, 엔터프라이즈, 클라우드, AI, 5G 통신 및 엣지 IT 인프라를 위한 혁신을 시장에 가장 먼저 제공하기 위해 노력하고 있다. 슈퍼마이크로는 서버, AI, 스토리지, IoT, 스위치 시스템, 소프트웨어 및 지원 서비스를 제공하는 토탈 IT 솔루션 제조사다. 슈퍼마이크로의 마더보드, 전원 및 섀시 설계 전문성은 개발 및 생산을 강화해 전 세계 고객을 위해 클라우드부터 엣지까지 차세대 혁신을 지원한다.
미국과 아시아, 네덜란드에 위치한 글로벌 제조시설의 규모와 효율성을 기반으로 자체 설계 및 제조되는 슈퍼마이크로 제품은 그린 컴퓨팅 제품으로, 총소유비용(TCO)를 개선하고 환경에 미치는 영향을 줄이도록 최적화됐다. 또한, 수상 경력에 빛나는 서버 빌딩 블록 솔루션즈(Server Building Block Solutions) 포트폴리오를 통해 고객은 폼 팩터, 프로세서, 메모리, GPU, 스토리지, 네트워크, 전력 및 냉각 솔루션을 포괄적으로 지원하는 유연하고 재사용 가능한 빌딩 블록을 기반으로 구축된 광범위한 시스템 제품군에서 자신의 특정 워크로드와 애플리케이션에 맞게 제품을 선택하여 최적화할 수 있다.
슈퍼마이크로(Supermicro), 서버빌딩블록솔루션즈(Server Building Block Solutions), 친환경 IT추구(We Keep IT Green)는 슈퍼마이크로의 상표 또는 등록상표이다.
인텔, 인텔 로고, 그 외 인텔 상표는 인텔 코퍼레이션 및 산하 조직의 트레이드마크이다.
기타 모든 브랜드, 명칭 및 상표는 각 해당 소유주의 자산이다.
사진 - https://mma.prnasia.com/media2/2565150/Supermicro_NVIDIA_Blackwell.jpg?p=medium600
로고 - https://mma.prnewswire.com/media/1443241/5043297/Supermicro_Logo.jpg
