AMD 인스팅트로 분주해진 서버 파트너사, 주요 신제품은?

IT동아

2024.10.11 06:43:13

조회 165 추천 0 댓글 0

[IT동아=샌프란시스코]

현지시간으로 10월 10일, 미국 캘리포니아주 샌프란시스코 모스콘 센터에서 AMD가 주최하는 ‘어드밴싱 AI’ 행사가 진행 중이다. 앞서 행사에서 AMD는 새로운 인스팅트 MI325X AI 가속기와 차세대 제품군인 MI355X AI 가속기에 대한 정보를 비롯해 5세대 에픽 프로세서, 라이젠 AI 프로 300 시리즈 노트북 프로세서, AMD 펜산도 셀리나 400 데이터 처리 장치 및 폴라라 400 네트워크 카드 등을 정식 공개했다.

AMD 어드밴싱 AI 행사에서 인스팅트 MI325X 및 5세대 에픽 관련 신제품 데모가 전시돼 있다 / 출처=IT동아

AMD가 새로운 세대의 AI 가속기를 공개하면서, AMD AI 가속기를 취급하는 파트너사들 역시 분주해진 모양새다. 현재 인스팅트 MI300 시리즈는 거의 모든 서버용 장비 제조사에서 취급하고 있으며, 어드벤싱 AI 행사에도 새로운 제품에 대응하는 신제품들이 대거 전시됐다. 데모룸을 방문해 주요 서버 제조사의 신제품들을 접해봤다.

AMD, 최대 256GB HBM3E 탑재한 MI325X 출시

AMD 인스팅트 MI325X 실물 반도체가 전시돼 있다 / 출처=IT동아

이번에 출시된 AMD 인스팅트 MI325X AI 가속기는 엔비디아 H100 및 H200과 경쟁하는 제품군이다. 메모리는 전작의 192GB HBM3에서 256GB HBM3E로 업그레이드됐으며, 이에 따라 메모리 대역폭도 초당 5.3TB에서 6TB로 늘어났다. 이론적인 최고 성능에서는 미스트랄 7B 모델의 FP16 성능은 1.2배, 라마 3.1 70B 모델을 FP8로 구동할 때의 추론 성능은 1.4배 향상됐고, 이는 엔비디아 H200에 비해 1.3배 높은 성능이다.

현재 업계에서는 여덟 개의 인스팅트 GPU를 하나의 플랫폼으로 묶어서 서버로 구축하며, MI325X를 여덟 개로 엮을 시 2TB의 HBM3E 메모리와 최대 48TB의 대역폭을 갖게 된다. 성능은 FP8 기준 20.8PF(페타플롭스), FP16 기준 10.4PF를 제공한다.

발 빠른 AI 시장만큼 제조사들 보폭도 빨라져

슈퍼마이크로의 일체형 수랭식 서버 / 출처=IT동아

리사 수 최고경영자가 인스팅트 MI325X 및 5세대 에픽을 공개한 시점에 맞춰, 서버 인프라 기업들 역시 다양한 서버 제품을 소개했다. 슈퍼마이크로 AS-4125GS-TNMR2는 에픽 9004 및 9005를 지원하는 듀얼 SP5 소켓을 갖췄으며, 액체 냉각을 적용해 크기와 발열을 줄였다. 또 여덟 개의 AMD 인스팅트 GPU를 장착할 수 있고, 24개의 DDR5-4800 메모리를 장착할 수 있다.

올인원 수랭 방식은 서버보다는 일반 소비자용 PC에 주로 적용되는 방식이지만, GPU 발열을 더 효과적으로 해결하기 위해 서버 레벨에도 차츰 도입 중이다.

델 테크놀로지스는 저장장치 밀도를 더욱 끌어올린 서버 제품군 다섯 개를 출시했다 / 출처=IT동아

델 테크놀로지스는 5세대 에픽 프로세서를 지원하는 파워엣지 서버 제품군 다섯 개를 동시에 공개했다. 최상위 제품인 델 파워엣지 XE7745는 4유닛 공랭식 섀시를 활용해 최대 8개의 더블 폭 또는 16개의 싱글 폭 PCIe GPU를 지원한다. 현장에는 델 파워엣지 R6725 및 R7725 서버가 전시되었으며, 새로운 DC-MHS 섀시 설계와 500W CPU 지원으로 전력 효율성 및 열문제를 해결했다. 파워엣지 R6715 및 R7715 서버는 37% 큰 저장장치 밀도를 제공하며, 24개의 메모리를 장착할 수 있다.

슈퍼마이크로는 액체냉각 등을 활용하는 H14 서버 라인업을 공개했다 / 출처=IT동아

슈퍼마이크로는 5세대 에픽 프로세서 및 AMD 인스팅트 MI325X를 탑재하는 새로운 서버, GPU 가속 시스템, 스토리지 서버에 대응하는 H14 서버 라인업을 공개했다. H14 서버 라인업은 소켓당 192개 코어 및 24개의 DDR5 슬롯으로 최대 9TB 메모리까지 지원하는 하이퍼 라인, 클라우드 데이터센터용 클라우드 DC라인, 2개의 초고밀도 폼팩터 유닛인 그랜드트윈, 액체 냉각을 탑재한 플렉스트윈, 10개의 더블 폭 가속기를 지원하는 5U GPU 및 액체냉각 기반의 4U GPU 시스템, 8U GPU 등이 공개됐다. 현장에는 500W 에픽 프로세서 및 최대 6TB의 DDR5 메모리를 지원하는 AS-2126HS-TN, 2개의 섀시로 최대 1536 코어까지 지원하는 AS-2126FT-HE-LCC 서버가 전시됐다.

에이수스는 브래킷 없이 내부 구성을 관리할 수 있는 방식의 서버를 소개했다 / 출처=IT동아

대만의 컴퓨터 하드웨어 제조사 에이수스(ASUS)도 5세대 에픽 및 MI325X를 탑재한 ESC A8A-E12U와 ESC8000A-E13P AI 서버를 공개했으며, 클라우드 컴퓨팅을 위한 다중 노트 환경용 서버인 RS520QA-E13과 일반 서버용 RS720A-E13, RS700A-E13, RS521A-E12 및 RS501A-E12를 각각 공개했다.

현장에 전시된 RS520QA-E13은 노드당 총 20개의 메모리를 지원하며, 브래킷 없이 내부 구성을 관리할 수 있다. 프로세서는 최대 400W까지 지원한다. 또 일반 서버용 RS700A-E13는 최대 192개 코어를 장착할 수 있고, 24개의 PCIe 5.0 NVMe 드라이브와 3개의 듀얼폭 GPU를 지원해 다용도 서버 목적으로 쓰인다.

대만 애즈락랙의 48 슬롯 메모리를 지원하는 서버 등이 전시돼있다 / 출처=IT동아

대만의 서버 제조사 애즈락랙(ASRock Rack)은 6U8X-TURIN2, 4U10G-TURIN2, 1U12E-GENOA2/EVAC, 1U24E1S-GENOA 네 개의 5세대 에픽 지원 서버를 공개했다. 이중 TURIN2D48G-2L+는 최대 48개의 메모리를 장착할 수 있다. TURIN2D16-2T/ROT는 m.2 폼팩터에서 플랫폼 펌웨어 복원력 모듈을 지원해 기업 환경에서도 안전하게 부팅할 수 있다.

이외에도 기가바이트, 뉴타닉스, 불타(VULTR), 마이텍(MITAC) 등의 기업이 부스를 열고 서버 및 소프트웨어 지원 내역을 소개했다.

AMD 라이젠 프로 AI 300 프로세서의 주요 기능 및 활용도를 소개하는 자리 / 출처=IT동아

이외에도 전시장에는 AMD 펜산도 폴라라 400 네트워킹 인터페이스 카드 및 셀리나 400 데이터 처리 장치 활용 사례, 에픽 및 인스팅트 부스, 라이젠 프로 AI 300 프로세서 소개 부스 등이 함께 마련됐다. 부스 이외에도 메타, 오픈AI, xAI, 리카 AI, 코히어, 마이크로소프트가 AI 엔지니어들을 대상으로 세션을 진행했다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ AMD, 인스팅트 MI325X·5세대 에픽 정식 출시··· 'AI 슈퍼사이클 잡는다'▶ RTX 40 시리즈 단종 초읽기, 앞으로의 그래픽 카드 선택지는?▶ [투자를IT다] 2024년 10월 1주차 IT기업 주요 소식과 주가 흐름

고정닉 0

원본 첨부파일 8본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
4406	[리뷰] 경이로운 배터리 효율과 GPU 성능, 인텔 코어 울트라 7 258V	IT동아	10.18	242	0
4405	[크립토 퀵서치] 거래소에 원화 예치하면 이용료를 준다? [4]	IT동아	10.18	5010	3
4404	클라이프, "전자서명·고객관리·대회까지 일원화한 클라이밍 서비스"	IT동아	10.18	229	0
4403	엠키스코어 “고성능=고발열 고민하는 AI 데이터센터, ‘수랭식’이 해답”	IT동아	10.17	301	0
4402	인터넷 느려졌다면? PC·모바일에서 인터넷 속도 측정하는 방법	IT동아	10.17	220	0
4401	넥스트페이 AI 스토어, 0.3% 뚫고 슈퍼노바챌린지 3위	IT동아	10.17	216	0
4400	[창업도약+경북대] 셀러스 ‘종양연관 대식세포’ 활용한 항암제로 항암치료 혁신 꿈꾼다	IT동아	10.17	216	0
4399	[월간자동차] 24년 9월, 신차 판매량 반등했지만, 중고차 거래량은 줄어 [1]	IT동아	10.17	6284	1
4398	[스케일업] 두디스·말랑탱크·스크램블러·운약근답올핏·캠터·파나띠꼬 “사업 방향 설정에 유용했습니다”	IT동아	10.17	205	0
4397	항공기 설계 효율 높이는 ‘버추얼 트윈’ 기술	IT동아	10.16	209	0
4396	키사이트코리아 “계측기 넘어 R&D 종합 솔루션 기업으로”	IT동아	10.16	240	0
4395	삼성전자, AI 품은 투인원 PC, '갤럭시 북5 Pro 360' 28일 출시	IT동아	10.16	549	1
4394	비건 레더로 친환경 가치 재단하는 패션 브랜드, '투영' [45]	IT동아	10.16	6591	12
4393	공공시장에서 인정 받은 협업툴 '두레이', 업무 효율 높일 인공지능 기능 탑재	IT동아	10.16	182	0
4392	[고려대 미래내일] 청년 일경험, 생성 AI 연구 개발과 사업화까지	IT동아	10.16	202	0
4391	리치멜론 “누구나 알아볼 수 있는 캐릭터를 만들고 싶습니다” [동국대학교 캠퍼스타운]	IT동아	10.16	182	0
4390	전기차 화재 여파 벤츠…EV 판매 순위표 상단서 실종	IT동아	10.15	199	0
4389	레드햇, “오픈소스의 힘으로 AI 대중화 강하게 추진”	IT동아	10.15	249	0
4388	AMD의 목적은 '경쟁 아닌 자립'··· 인스팅트 MI325X의 출시 의의는?	IT동아	10.15	177	0
4387	카카오톡 선물하기 기프티콘, 현금 환불 받으려면?	IT동아	10.15	162	0
4386	한국거래소가 ‘금융 AI 언어 모델 경진대회’를 개최하는 이유	IT동아	10.15	1005	1
4385	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 28	IT동아	10.14	185	0
4384	[신차공개] 페라리 ‘테일러 메이드 로마 스파이더’·롤스로이스 ‘고스트 시리즈 II’ 공개	IT동아	10.14	2196	2
4383	카드사 연락 없이 클릭 한 번에 내 카드 찾고 안 쓰는 카드 취소까지 된다면? [이럴땐 이렇게!]	IT동아	10.14	222	0
4382	[스타트업리뷰] 소통과 AI 더한 스타트업 재무 회계의 혁신, '그랜터'	IT동아	10.14	162	0
4381	말랑탱크 “간편하고 위생적인 눈 가습기, 닥터아이” [동국대학교 캠퍼스타운] [13]	IT동아	10.14	5786	0
4380	로봇 산업 모든 것 담은 ‘2024 로보월드’, 역대 최대규모로 열린다	IT동아	10.11	214	0
4379	[창업도약+경북대] 틀루토 “생성형 인공지능으로 학술정보 대중화와 지식 불균형 해소 나설 것”	IT동아	10.11	209	0
4378	애플, DMA 압박에 독점 생태계 무너지나	IT동아	10.11	268	0
4377	[스케일업] 파나띠꼬 [3] 마이샵온샵 “향기를 강조하기 위한 영업전략을 펼쳐라”	IT동아	10.11	258	0
4376	[생성 AI 길라잡이] 간단한 설정으로 고품질 로고 제작 ‘루카’	IT동아	10.11	185	0
4375	인텔, 애로우레이크 S 공식 출시··· AI 데스크톱 시장 연다 [1]	IT동아	10.11	1239	0
4374	아토피 원인 규명 및 치료법 도출 이끄는 ‘특화 DB 구축’	IT동아	10.11	188	0
4373	[스케일업] 두디스 [3] 한국벤처컨설팅 "서비스·솔루션, 가능성 아닌 명확함으로 승부해야"	IT동아	10.11	165	0
4372	[스케일업] 운약근답올핏 [3] 린밸류업 “IR 자료는 투자자 입장에서 작성하라”	IT동아	10.11	163	0
	AMD 인스팅트로 분주해진 서버 파트너사, 주요 신제품은?	IT동아	10.11	165	0
4370	AMD, 인스팅트 MI325X·5세대 에픽 정식 출시··· 'AI 슈퍼사이클 잡는다'	IT동아	10.11	806	0
4369	단속카메라 종류와 원리 살펴보니	IT동아	10.10	179	0
4368	기업들이 오픈소스 정책을 추구하는 이유	IT동아	10.10	174	0
4367	[리뷰] 토너 값 무서운 SMB 위한 레이저 복합기, 브라더 DCP-B7640DW 토너세이브	IT동아	10.10	1051	0
4366	[스케일업] 스크램블러 [3] 유장준 스타트업세일즈연구소장 “유통, 기초부터 천천히”	IT동아	10.10	148	0
4365	[스타트업리뷰] 브이디컴퍼니 산업용 청소기 클리버 SH1	IT동아	10.10	307	0
4364	일릭서 “저렴하고 빠른 고품질 데이터 분석 솔루션, 스탯업AI” [동국대학교 캠퍼스타운]	IT동아	10.10	138	0
4363	디캠프 ‘양보다 질’ 강조한 배치 프로그램 도입, 스타트업 성장 길잡이 역할 강화 나선다	IT동아	10.08	188	0
4362	창업-BuS 연합 IR "아이 키우듯 스타트업 특성 파악해 맞춤형 지원"	IT동아	10.08	184	0
4361	‘연중 상시 지원’으로 육성한 초격차 스타트업 한자리에 ‘창업-BuS 연합 IR’	IT동아	10.08	190	0
4360	[IT기획자의 탄생] 1. '기획' 없는 스타트업이 실패할 수 밖에 없는 이유	IT동아	10.08	170	0
4359	[스케일업] 반프 [2] 안재열 센터장 “자율적·수평적 조직 문화, 비결은 ‘존중’”	IT동아	10.08	170	0
4358	[자동차와 法] 자율주행자동차법 관련 핵심 내용과 개선사항에 대하여	IT동아	10.08	828	0
4357	‘서울시 핀테크 스타트업이 한 자리에’ 서울 핀테크 위크 2024 개최	IT동아	10.08	177	0
뉴스	[포토] 혜리, 아이고 예뻐라	디시트렌드	18:00