슈퍼마이크로, 엣지에서 AI가 구현하는 최적화와 유연성을 위한 새로운 다기능 시스템 설계 도입

Super Micro Computer, Inc.

2024-10-09 02:12 389

새로운 3U 서버는 18개까지의 GPU를 지원하며 P-코어가 들어간 듀얼 인텔® 제온® 6900 시리즈를 적용

산호세, 캘리포니아주, 2024년 10월 9일 /PRNewswire/ -- AI, 클라우드, 스토리지 및 5G/엣지에 토탈 IT 솔루션을 공급하는 슈퍼마이크로컴퓨터(Super Micro Computer, Inc.) (SMCI)가 네트워크 엣지에서 AI 추론에 최적화된 새로운 다기능 고밀도 인프라 플랫폼 출시를 발표한다. 기업들이 일상적인 운영에서 복잡한 대형 언어 모델(LLM) 수용을 추구함에 따라 최소한의 지연 시간으로 엣지 위치에서 대량의 데이터를 추론할 수 있는 새로운 하드웨어가 필요해졌다. 슈퍼마이크로의 혁신적인 시스템은 다기능, 성능과 열 효율을 결합하여 종래의 공냉식 환경에서 실행할 수 있는 하나의 시스템에서 최대 10개의 이중폭 GPU를 제공한다.

3U EDGE AI Inferencing System Supporting 8 Dual-Width GPU Accelerator Cards

슈퍼마이크로의 사장 겸 CEO인 찰스 량(Charles Liang)은 "슈퍼마이크로는 이 시스템의 최적화된 열 설계를 통해 엣지 데이터 센터들에 설치할 수 있으며 256개의 코어를 갖춘 고밀도 3U 20 PCIe 시스템에서 이 모든 성능을 구현할 수 있다"면서 "AI 시장이 기하급수적으로 성장함에 따라 고객들은 데이터가 생성되는 장소와 가까운 온프레미스에서 LLM 기반 애플리케이션들을 실행하려면 추론 데이터에 대한 강력한 다기능 솔루션이 필요하다. 우리의 새로운 3U 엣지 AI 시스템을 통해 이 애플리케이션들이 최소한의 지연 시간으로 혁신적인 솔루션을 실행할 수 있다"고 말했다.

상세 정보가 필요할 경우 https://www.supermicro.com/en/solutions/edge-ai를 방문하기 바란다.

이 새로운 SYS-322GB-NR에는 P-코어, 8800 MT/s MRDIMM과 최대 20개의 PCIe 5.0 확장 슬롯을 갖춘 강력한 인텔® 제온® 6900 프로세서 2개가 들어 있다. 이 슈퍼마이크로 시스템은 다양한 단일폭 또는 이중폭 GPU를 지원하거나 일부 확장 슬롯을 고성능 I/O 또는 기타 추가 카드에 사용한다. 또한 이 서버에는 최대 6TB의 RDIMM 메모리와 최대 14개의 E1.S 또는 6개의 U.2 NVMe 드라이브가 탑재되어 있다.

이 시스템이 구현하는 한 가지 예시적인 사용 사례는 슈퍼마이크로의 새로운 시스템이 데이터를 원격 위치로 전송할 필요 없이 카메라와 센서의 데이터 피드를 처리하는 자동화된 생산 환경에 설치할 수 있는 제조 업계에 있다. 이 기능은 네트워킹 요구 사항을 줄이고 응답 시간을 개선한다. SYS-322GB-NR이 탁월한 기능을 발휘하는 다른 하나의 환경은 대규모 콘트롤 룸이며 여기에서 AI 가속기 카드들을 부분적으로 멀티 디스플레이 카드들로 교체하여 최대 64개의 독립적인 디스플레이를 지원할 수 있다.

슈퍼마이크로는 모바일 월드 콩그레스(MWC) 라스베가스에 참가

SYS-322GB-NR은 10월 8일부터 10일까지의 MWC 라스베가스 기간 동안 슈퍼마이크로 부스 #518에 전시된다. 또한 슈퍼마이크로는 아래와 같은 X14 제품군 엣지와 통신 시스템을 포함하여 엔비디아, AMD와 인텔 제온 6 프로세서가 탑재된 시스템들을 전시한다.

SYS-222HE-FTN - 하이퍼-E는 전면 I/O 액세스가 가능한 2U의 숏뎁스 폼 팩터에 인텔 제온 6 프로세서 두개를 탑재하여 데이터 센터 성능을 통신사 엣지에 제공한다

SYS-212B-FN2T - 통신 및 엣지 전개에서 AI를 위한 2U 숏뎁스 시스템으로, E-코어와 GPU를 지원하는 인텔 제온 6700 시리즈 프로세서 하나가 탑재된다

SYS-E403-14B-FRN2T- E-코어와 GPU를 지원하는 인텔 제온 6700 시리즈 프로세서를 원격 환경에 제공할 수 있는 박스형 PC 크기의 벽걸이 엣지 기기

AS -1115S-FDWTRT - ORAN, 코어와 관리형 서비스를 위한 통신사 성능을 제공하는 1U NEBS 호환 시스템. 이 시스템은 AMD EPYC 8004 시리즈 프로세서를 활용하고 최대 1개의 단일폭 GPU 가속기를 지원하여 대량의 워크로드를 처리한다.

우리는 슈퍼마이크로 하드웨어 시스템을 쇼케이스하는 것 외에도 엔비디아와 협력하여 엔터프라이즈 AI, 소매, 통신사 엣지, 금융 서비스를 포함한 온프레미스와 엣지 애플리케이션을 위한 추론 및 AI 솔루션을 공동으로 시연한다. 우리는 엔비디아 NIM, 엔비디아 NeMo, 엔비디아 메트로폴리스, 원격 관리, 보안과 네트워킹 등 핵심적인 생성형 AI 솔루션을 시연한다. 텔레콤의 경우 슈퍼마이크로와 엔비디아는 성능, 관리와 AI 사용 사례를 쇼케이스하는 엔비디아와 슈퍼마이크로 솔루션을 사용하여 AI RAN 솔루션을 라이브로 시연한다.

또한, MWC 라스베가스에는 견고하게 만든 IP65 아웃도어 엣지 시스템과 내장된 AI 네트워크 가속기 및 인텔® 데이터센터 GPU 플렉스 170을 결합한 슈퍼마이크로와 인텔의 새로운 공동 솔루션이 전시된다. 이 솔루션을 통해 하나의 기기에 여러 개의 프라이빗 5G 네트워크와 엣지 AI 애플리케이션을 빠르고 비용 효율적으로 설치할 수 있다. 이 네트워크는 다양한 유저들이 사용하고 활용할 수 있어 산업 및 캠퍼스 부지, 행사장, 스마트 시티와 같은 고밀도 환경에 확장 가능한 솔루션을 제공한다.

슈퍼마이크로컴퓨터

슈퍼마이크로(나스닥: SMCI)는 애플리케이션에 최적화된 토탈 IT 솔루션 분야 글로벌 리더이다. 캘리포니아 산호세에서 설립되어 운영되고 있는 슈퍼마이크로는 엔터프라이즈, 클라우드, AI 및 5G 통신사/엣지 IT 인프라를 위한 혁신 제품을 최초로 출시하고자 하는 의지를 갖고 있다. 당사는 서버, AI, 스토리지, IoT, 스위치 시스템, 소프트웨어 및 지원 서비스를 갖춘 토탈 IT 솔루션 제조업체이다. 슈퍼마이크의 마더보드, 전원 및 섀시 설계 전문 지식은 또한 당사의 개발 및 생산을 가능하게 하며 전세계 고객들을 위해 클라우드에서 엣지에 이르는 차세대 혁신을 실현한다. 당사 제품들은 사내(미국, 아시아 및 네덜란드)에서 설계 및 제조되며 규모와 효율성을 위해 글로벌 운영을 활용하고 TCO를 개선하고 환경 영향을 줄이도록 최적화되었다(그린 컴퓨팅). 고객들은 수상 경력이 있는 서버 빌딩 블록 솔루션즈(Server Building Block Solutions®)포트폴리오를 통해 폼 팩터, 프로세서, 메모리, GPU, 스토리지, 네트워킹, 전력 및 냉각 솔루션(에어컨, 프리 공냉 또는 액체 냉각)의 종합 세트를 지원하는 당사의 유연하고 재사용 가능한 빌딩 블록으로 구축된 다양한 시스템 제품군 중에서 선택함으로써 자신들의 정확한 워크로드와 애플리케이션을 최적화할 수 있다.

Supermicro, Server Building Block Solutions와 We keep IT Green은 슈퍼마이크로컴퓨터의 상표 및/혹은 등록상표이다.

기타 모든 브랜드, 명칭과 상표는 그들 각 소유자들의 재산이다.