 |
대규모 CSP와 NSP를 위한 강력하고 에너지 효율이 높은 솔루션들이 엔비디아 퀀텀 X800 플랫폼과 엔비디아 AI 엔터프라이즈 5.0이 탑재된 차세대 엔비디아GPU와 CPU의 전체 스택을 통합
산호세, 캘리포니아, 2024년 3월 20일 /PRNewswire/ -- 엔비디아 GTC 2024 -- AI, 클라우드, 스토리지와 5G/엣지를 위한 토탈 IT 솔루션 공급업체 슈퍼마이크로(Supermicro, Inc.(나스닥: SMCI))는 최신 엔비디아 GB200 그레이스(Grace™) 블랙웰 슈퍼칩, 엔비디아 B200 텐서 코어와 B100 텐서 코어 GPU를 포함한 엔비디아의 차세대 데이터 센터 제품이 탑재된 대규모 생성형 AI를 위한 새로운 AI 시스템들을 발표한다. 슈퍼마이크로는 현재의 엔비디아 HGX™ H100/H200 8-GPU 시스템을 개선하여 엔비디아 HGX™ B100 8-GPU에 대한 드롭인 준비를 완료하고 B200을 지원하도록 개선함으로써 배송 시간을 단축하고 있다. 또한 슈퍼마이크로는 엔비디아 블랙웰 GPU 72 개가 탑재된 완벽한 랙 레벨 솔루션인 엔비디아 GB200 NVL72가 포함된 엔비디아GB200을 특징으로 하는 새로운 제품들을 통해 다양한 엔비디아 MGX™ 시스템 라인업을 더욱 강화할 예정이다. 슈퍼마이크로는 또한 4U 엔비디아 HGX B200 8-GPU 액체 냉각 시스템을 포함한 새로운 시스템들을 동사 라인업에 추가하고 있다.
슈퍼마이크로 사장 겸 CEO 찰스 량(Charles Liang)은 "우리는 AI 용 빌딩 블록 아키텍처와 랙 스케일 토탈 IT에 집중함으로써 엔비디아 GB200 NVL72가 탑재된 우리의 완전 통합형 디렉트-투- 칩 액체 냉각 랙 뿐만 아니라 우리의 새로운 4U 액체 냉각 엔비디아 HGX B200 8-GPU 기반 시스템과 같은 엔비디아 블랙웰 아키텍처 기반 GPU의 높아진 요구 사항을 위한 차세대 시스템들을 설계할 수 있게 되었다"면서 "이 신제품들은 슈퍼마이크로와 엔비디아의 검증된 HGX와 MGX 시스템 아키텍처를 기반으로 생산되었으며, 엔비디아 블랙웰 GPU의 새로운 기능에 최적화되었다. 슈퍼마이크로는 1kW GPU를 다양한 공냉 및 액체 냉각 시스템에 통합할 수 있는 전문성 뿐만 아니라 월 5,000개의 랙 스케일 생산 능력을 갖추고 있으며 엔비디아 블랙웰 GPU가 탑재된 전체 랙 클러스터를 시장 내 최초로 설치하기를 기대하고 있다"고 말했다.
슈퍼마이크로의 디렉트-투- 칩 액체 냉각 기술을 통해 최신 GPU의 고온 설계 전력(TDP)이 가능해지고 엔비디아 블랙웰 GPU의 잠재력을 최대한 발휘할 것이다. 엔비디아 블랙웰이 탑재된 슈퍼마이크로의 HGX와 MGX 시스템들은 AI 인프라의 미래를 위한 기본 요소이며, 수 조 규모의 파라미터 AI 훈련과 실시간 AI 추론을 위한 획기적인 성능을 구현할 것이다.
GPU에 최적화되었으며 다양한 슈퍼마이크로 시스템들은 엔비디아 블랙웰 B200과 B100 텐서 코어 GPU를 위해 준비되고 엔비디아 NIM추론 마이크로 서비스를 지원하는 최신 엔비디아 AI 엔터프라이즈 소프트웨어에 대해 검증될 것이다. 슈퍼마이크로 시스템들은 다음과 같다.
슈퍼마이크로는 대규모 기초 AI 모델 훈련을 위해 엔비디아 HGX B200 8-GPU와 HGX B100 8-GPU 시스템을 처음 출시할 준비가 되어 있다. 이 시스템들은 고속 5세대 엔비디아® NV링크® 인터커넥트를 통해 1.8TB/s로 연결된 엔비디아 블랙웰 GPU 8 개가 탑재되며, 총 1.5TB의 고대역 메모리로 이전 세대보다 2배 향상된 성능을 구현하며, 엔비디아 호퍼 아키텍처 세대에 비해 GPT-MoE-1.8T 모델과 같은 LLM에 대해 3배 빠른 훈련 결과를 제공할 것이다.
이 시스템들은 클러스터들로 확장할 수 있는 첨단 네트워킹 기능을 갖추고 있으며, GPU 대 NIC 비율 1:1로 엔비디아 퀀텀-2 인피니밴드와 엔비디아 스펙트럼-X 이더넷 옵션 둘 모두 지원한다.
엔비디아 GPU 제품 관리 담당 부사장 카우스텁 상하니(Kaustubh Sanghani)는 "슈퍼마이크로는 현재 시장의 어떠한 요구라도 해결할 수 있는 AI 훈련 및 추론 성능에 맞춰 조정되었으며 가속화된 컴퓨팅 플랫폼 서버를 놀라울 정도로 다양하게 계속 출시하고 있다"면서 "우리는 고객들에게 가장 최적화된 솔루션을 제공하기 위해 슈퍼마이크로와 긴밀히 협력하고 있다"고 말했다.
슈퍼마이크로는 가장 까다로운 LLM 추론 워크로드를 위해 엔비디아 GB200 그레이스 블랙웰 슈퍼칩을 탑재하고 생산된 몇몇 새로운 MGX 시스템들을 출시하고 있는데, 이는 하나의 엔비디아 그레이스 CPU에 2개의 엔비디아 블랙웰 GPU를 결합한 것이다. GB200 시스템을 탑재한 슈퍼마이크로의 엔비디아 MGX는 엔비디아 HGX H100에 비해 최대 30배 빠른 속도를 통해 크게 향상된 AI 추론 성능을 구현할 것이다. 슈퍼마이크로와 엔비디아는 엔비디아 GB200 NVL72를 통해 하나의 랙에 36개의 그레이스 CPU와 72개의 블랙웰 GPU를 연결하는 랙 스케일 솔루션을 개발했다. 72개의 모든 GPU는 1.8TB/s의 GPU-투-GPU 통신을 위해 5세대 엔비디아 NV링크와 상호 연결된다. 그 외에도 슈퍼마이크로는 추론 워크로드를 위해 GH200 제품군을 기반으로 하는 2U 서버인 ARS-221GL-NHIR을 발표하는데, 여기에는 900Gb/s의 고속 상호 연결을 통해 2개의 GH200 서버가 연결된다. 상세 정보가 필요할 경우 GTC의 슈퍼마이크로 부스를 방문하기 바란다.
또한 슈퍼마이크로 시스템들은 엔비디아 퀀텀-X800 QM3400 스위치와 슈퍼NIC800으로 구성되며 곧 출시될 엔비디아 퀀텀-X800 인피니밴드 플랫폼과 엔비디아 스펙트럼-X800 SN5600 스위치와 슈퍼NIC800으로 구성된 엔비디아 스펙트럼-X800 이더넷 플랫폼을 지원한다. 엔비디아 블랙웰 아키텍처에 최적화된 엔비디아 퀀텀-X800과 스펙트럼-X800은 AI 인프라를 위한 최고 수준의 네트워킹 성능을 구현한다.
슈퍼마이크로 엔비디아 솔루션들에 대해 상세 정보가 필요할 경우 https://www.supermicro.com/en/accelerators/nvidia를 방문하기 바란다.
슈퍼마이크로가 곧 출시할 예정이며 엔비디아 B200과 GB200이 탑재된 시스템 라인업은 다음과 같다.
GTC 2024에 참가한 슈퍼마이크로
슈퍼마이크로는 3월 18일부터 21일까지 산호세 컨벤션센터에서 열리는 엔비디아의 GTC 2024 행사에서 AI를 위한 GPU 시스템의 완전한 포트폴리오를 시연할 예정이다. 슈퍼마이크로 부스 #1016을 방문하여 생성형 AI 모델 훈련, AI 추론 및 엣지 AI 등의 다양한 AI 애플리케이션을 위해 구축된 솔루션들을 확인할 수 있다. 슈퍼마이크로는 또한 5세대 NV링크와 72개의 액체 냉각 GPU를 탑재하여 출시될 엔비디아 GB200가 들어 있는 시스템 컨셉 랙 하나가 포함된 두 개의 랙 레벨 솔루션을 쇼케이스할 예정이다.
GTC 2024에서 전시될 슈퍼마이크로의 솔루션들은 다음과 같다.
슈퍼마이크로컴퓨터
슈퍼마이크로(나스닥: SMCI)는 애플리케이션에 최적화된 토탈 IT 솔루션 분야 글로벌 리더이다. 캘리포니아 산호세에서 설립되어 운영되고 있는 슈퍼마이크로는 엔터프라이즈, 클라우드, AI 및 5G 통신사/엣지 IT 인프라를 위한 혁신 제품을 최초로 출시하고자 하는 의지를 갖고 있다. 당사는 서버, AI, 스토리지, IoT, 스위치 시스템, 소프트웨어 및 지원 서비스를 갖춘 토탈 IT 솔루션 제조업체이다. 슈퍼마이크의 마더보드, 전원 및 섀시 설계 전문 지식은 또한 당사의 개발 및 생산을 가능하게 하며 전세계 고객들을 위해 클라우드에서 엣지에 이르는 차세대 혁신을 실현한다. 당사 제품들은 사내(미국, 아시아 및 네덜란드)에서 설계 및 제조되며 규모와 효율성을 위해 글로벌 운영을 활용하고 TCO를 개선하고 환경 영향을 줄이도록 최적화되었다(그린 컴퓨팅). 고객들은 수상 경력이 있는 서버 빌딩 블록 솔루션즈(Server Building Block Solutions®)포트폴리오를 통해 폼 팩터, 프로세서, 메모리, GPU, 스토리지, 네트워킹, 전력 및 냉각 솔루션(에어컨, 프리 공냉 또는 액체 냉각)의 종합 세트를 지원하는 당사의 유연하고 재사용 가능한 빌딩 블록으로 구축된 다양한 시스템 제품군 중에서 선택함으로써 자신들의 정확한 워크로드와 애플리케이션을 최적화할 수 있다.
Supermicro, Server Building Block Solutions와 We keep IT Green은 슈퍼마이크로컴퓨터의 상표 및/혹은 등록상표이다.
기타 모든 브랜드, 명칭과 상표는 그들 각 소유자들의 재산이다.
SMCI-F
사진 - https://mma.prnasia.com/media2/2365522/4118657.jpg?p=medium600
로고 - https://mma.prnasia.com/media2/1443241/Supermicro_Logo.jpg?p=medium600
