omniture

웨카, 업계 최초로 엔비디아 그레이스 CPU 슈퍼칩 기반의 AI 스토리지 클러스터 출시

WekaIO
2024-11-20 05:06 407

사는 슈퍼컴퓨팅 2024에서 엔터프라이즈 AI 배포를 앞두고, 탁월한 성능 밀도와 에너지 절약을 위해 엔비디아, 암 및 슈퍼마이크로와 협력하여 새로운 솔루션을 미리 선보였다.

애틀랜타와 캘리포니아주 캠벨, 2024년 11월 20일 /PRNewswire/ -- 슈퍼컴퓨팅 2024에서: AI 네이티브 데이터 플랫폼 기업인 웨카는 업계 최초로 엔비디아 그레이스(Grace™) CPU 슈퍼칩에 대한 고성능 스토리지 솔루션을 미리 선보였다. 동 솔루션는 웨카(WEKA)® 데이터 플랫폼 소프트웨어와 A암(Arm®) 네오버스(Neoverse™) V2 코어로 구동되는 슈퍼마이크로(Supermicro)의 강력한 새 스토리지 서버에서 실행되며, 엔비디아 그레이스 CPU 슈퍼칩, 엔비디아 커넥트X-7, 그리고 엔비디아 블루필드-3 네트워킹을 사용하며 탁월한 성능 밀도와 전력 효율을 통해 엔터프라이즈 AI 워크로드를 가속화한다.

WEKA introduces First AI Storage Cluster Built on NVIDIA Grace CPU Superchip (PRNewsFoto/WekaIO)
WEKA introduces First AI Storage Cluster Built on NVIDIA Grace CPU Superchip (PRNewsFoto/WekaIO)

차세대 AI 혁신의 원동력 제공 
오늘날의 AI 및 고성능 컴퓨팅(HPC) 워크로드는 초고속 데이터 액세스를 요구하지만, 대부분의 데이터 센터는 점점 더 심해지는 공간과 전력 제약에 직면해 있다.

엔비디아 그레이스는 플래그십 x86-64 2-소켓 워크스테이션 또는 서버 플랫폼이 제공하는 성능 수준을 단일 모듈에 통합한다. 그레이스 CPU 슈퍼칩은 기존 x86 서버보다 2배 높은 에너지 효율을 발휘하는 144개의 고성능 암 네오버스 V2 코어로 구동된다. 엔비디아 커넥트X-7 NIC와 블루필드-3 슈퍼NIC는 특수 제작된 RDMA/RoCE 가속을 통해 최대 400Gb/s 속도에서 높은 처리량과 저지연 네트워크 연결을 제공한다. 슈퍼마이크로 페타스케일 스토리지 서버에서 실행되는 웨카 데이터 플랫폼의 혁신적인 제로 카피 소프트웨어 아키텍처의 조합은 I/O 병목 현상을 최소화하고 AI 파이프라인 지연 시간을 줄여 GPU 활용도를 크게 향상시키고 AI 모델 학습 및 추론을 가속화한다. 이를 통해 첫 번째 토큰, 결과 및 인사이트를 얻는 시간을 획기적으로 개선하는 동시에, 전력 소비와 관련 비용을 절감할 수 있다.

동 솔루션의 주요 이점:

  • 엔터프라이즈 AI를 위한 탁월한 속도 및 확장성: 고성능 맞춤형 설계의 엔비디아 확장 가능 일관성 패브릭으로 연결된 144개의 고성능 암® 네오버스™ V2 코어를 갖춘 엔비디아 그레이스 CPU 슈퍼칩은 절반의 전력으로 듀얼 소켓 x86 CPU 서버의 성능을 제공한다. 엔비디아 커넥트X-7 NIC와 엔비디아 블루필드-3 슈퍼NIC는 엔터프라이즈 AI 워크로드에 필수적인 고성능 네트워킹을 제공한다. 이 솔루션은 첫 토큰 생성 시간을 최대 10배까지 단축하는 웨카 데이터 플랫폼의 AI 네이티브 아키텍처와 결합하여, 거의 모든 규모의 AI 데이터 파이프라인에서 최적의 성능을 보장한다.
  • 최적의 리소스 활용: 고성능 웨카 데이터 플랫폼은 그레이스 CPU의 5개 LPDDR메모리 아키텍처와 결합하여, 최대 1 TB/s의 메모리 대역폭과 원활한 데이터 흐름을 통해 병목현상을 제거한다. 웨카의 분산형 아키텍처와 커널 바이패스 기술을 통합하면, 더 빠른 AI 모델 학습, 획기적인 시간 단축, 더 빠른 추론 속도를 달성할 수 있으므로, AI 워크로드를 효율적으로 확장하는 데 이상적인 솔루션이 될 수 있다.
  • 탁월한 에너지 및 공간 효율성: 웨카 데이터 플랫폼은 10-50배 향상된 GPU 스택 효율성을 바탕으로 대규모 AI 및 HPC 워크로드를 원활하게 처리할 수 있다. 또한 웨카 플랫폼은 데이터 복사 감소와 클라우드 탄력성을 통해 데이터 인프라 공간을 4-7배까지 축소하고 탄소 배출량을 줄여, 연간 저장되는 PB당 최대 260톤의 CO2 배출을 방지하고 에너지 비용을 10배까지 절감할 수 있다. 대표적인 x86 서버에 비해 에너지 효율이 2배 높은 그레이스 CPU 슈퍼칩을 결합하면, 고객은 더 적은 자원으로 더 많은 작업을 수행하여, 지속 가능성 목표를 달성하는 동시에 AI 성능을 향상시킬 수 있다.

웨카의 최고 제품 책임자인 닐레쉬 파텔(Nilesh Patel)은 "국제원자력기구에따르면, AI는 전 세계 기업의 혁신, 개발, 운영 방식을 변화시키고 있지만, 도입이 급증하면서 데이터센터 에너지 소비가 급격히 증가해 2026년까지 두 배가 될 것으로 예상된다"면서 "웨카는 엔비디아, 암, 슈퍼마이크로와 협력하여, 대용량 데이터 처리를 가속화하고 실행 가능한 인사이트를 얻는 시간을 단축하면서, 엔터프라이즈 AI 및 고성능 워크로드를 구동하는 차세대 데이터센터를 위한 고성능의 에너지 효율적인 솔루션을 개발하게 되어 기쁘게 생각한다"고 말했다.

엔비디아의 데이터센터 CPU 담당 디렉터 이반 골드와서(Ivan Goldwasser)는 "웨카는 슈퍼마이크로와 함께 대규모 데이터 집약적인 AI 워크로드의 효율성을 개선하기 위해, 엔비디아 그레이스 CPU 슈퍼칩과 원활하게 통합되는 강력한 스토리지 솔루션을 개발했다"면서 "이 솔루션은 에너지 소비를 줄이면서 빠른 데이터 액세스를 지원하여 데이터 중심 조직이 AI 인프라를 강화할 수 있도록 해준다"라고  말했다.

슈퍼마이크로의 스토리지 제품 관리 담당 수석 디렉터인 패트릭 치우(Patrick Chiu)는 "곧 출시될 슈퍼마이크로의 ARS-121L-NE316R 페타스케일 스토리지 서버는 엔비디아 그레이스 슈퍼칩 CPU를 사용하여 스토리지가 최적화된 최초의 서버"라고 하면서 "이 시스템 설계는 16개의 고성능 5세대E3.S NVMe SSD 베이와 3개의 5세대PCIe 네트워킹 슬롯을 갖추고 있으며, 최대 2개의 엔비디아 커넥트X 7 또는 블루필드-3 슈퍼NIC 네트워킹 어댑터와 1개의 OCP 3.0 네트워크 어댑터를 지원한다. 이 시스템은 AI, 데이터 분석, 하이퍼스케일 클라우드 애플리케이션과 같은 고성능 스토리지 워크로드에 이상적이다. 엔비디아 및 웨카와의 협력으로 고객이 데이터센터의 전력 효율성을 높이면서 새로운 AI 처리 기능을 추가할 수 있는 데이터 플랫폼이 탄생했다"고 말했다

암의 HPC 담당 이사인 데이비드 르콤버(David Lecomber)는 "AI 혁신을 위해서는 성능과 전력 효율성의 균형을 맞추는 실리콘 및 시스템 설계에 대한 새로운 접근 방식이 필요하다"면서 "암은 엔비디아, 웨카, 슈퍼마이크로와 협력하여, 탁월한 가치와 최상의 에너지 효율성을 실현하는 고성능 엔터프라이즈 AI 솔루션을 제공하게 되어 자랑스럽다"고 말했다.

엔비디아 그레이스 CPU 슈퍼칩을 사용하는 웨카와 슈퍼마이크로의 스토리지 솔루션은 2025년 초에 상용화될 예정이다. 슈퍼컴퓨팅 2024 참석자는 부스 #1931의 웨카를 방문하여 새로운 솔루션에 대한 자세한 내용과 데모 버전을 확인할 수 있다.

웨카
웨카는 AI 시대를 위해 구축된 기업 데이터 스택에 대한 새로운 방식을 설계하고 있다. 웨카® 데이터 플랫폼은 클라우드와 어디에나 설치할 수 있는 AI 기반 아키텍처가 갖춰진 AI 인프라의 표준을 설정함으로써 온- 프레미스, 클라우드와 엣지 환경에서 데이터를 원활하게 이동할 수 있게 한다. 이 플랫폼은 종래의 데이터 사일로를 GPU, AI 모델 트레이닝과 추론 그리고 기타 성능 집약적인 워크로드를 가속하는 동적 데이터 파이프라인으로 변환하여 보다 효율적으로 작업하고 에너지를 덜 소비하며 관련 탄소 배출량을 줄일 수 있도록 지원한다. 웨카는 전세계에서 가장 혁신적인 기업과 연구 조직들이 복잡한 데이터 문제를 해결하여 더 빠르고 지속 가능하게 발견, 통찰과 결과에 도달할 수 있도록 해주는데 여기에는 포춘 50대 기업 중 12개가 포함되어 있다. 상세 정보가 필요할 경우 www.weka.io를 방문하거나 링크트인, X페이스북에서 웨카와 연결하기 바란다.

WEKA는 파일과 객체 스토리지 플랫폼 분야2024 가트너(Gartner®) 매직 쿼드런드(Magic Quadrant™) 비저너리 기업에 선정되었다. – 보고서 보기

WEKA와 WEKA 로고는 웨카아이오 주식회사의 등록상표이다. 여기에서 사용된 기타 트레이드 명칭들은 그들 각 소유자들의 상표일 수도 있다.

사진 - https://mma.prnasia.com/media2/2561552/WEKA_NVIDIA_SMC_PR.jpg?p=medium600
로고 - https://mma.prnasia.com/media2/1796062/WEKA_v1_Logo.jpg?p=medium600

출처: WekaIO