단독질주 엔비디아, 추격나선 인텔·AMD... '변수는 1nm 파운드리'

IT동아 · 2024.04.19 10:40:16

[IT동아 남시현 기자] 지난 3월 개최된 엔비디아의 GPU 기술 콘퍼런스 ‘GTC 2024’에서 젠슨 황 엔비디아 최고경영자는 “가속 컴퓨팅은 변곡점에 도달했고, 범용 컴퓨팅도 한계에 다다랐다. 컴퓨팅 비용을 낮추면서도 지속 가능한 방식으로 인공지능(AI)을 개발할 수 있도록 끊임없이 확장하는 방식의 컴퓨팅이 필요하다”라고 주장했다. 그러면서 “가속 컴퓨팅은 모든 산업에서 기존 컴퓨팅과 비교해 획기적인 향상을 가져온다”라며 중요성을 강조했다.

젠슨 황 엔비디아 CEO가 GTC 2024에서 블랙웰 아키텍처를 소개했다 / 출처=엔비디아

가속 컴퓨터는 수많은 하드웨어 장치를 병렬로 연결해 처리 속도를 끌어올리는 방법이다. 이를 통해 컴퓨터의 물리적 한계가 크게 확장했고, 결과적으로는 기계 학습과 데이터 분석, 시뮬레이션 등 고차원적이고 대규모의 작업을 수행할 수 있게 됐다. AI 개발에 GPU가 쓰이는 이유도 GPU를 병렬로 연결해 대규모로 연산을 처리할 수 있어서다.

하지만 가속 컴퓨팅이 더 많은 분야에서 폭넓게 활용되며 엔비디아의 공급이 시장 수요를 충당하지 못하고, 이에 인텔과 AMD 모두 자체 가속기를 공개하며 지분 확대를 노리고 있다. 엔비디아의 대안을 자처하는 인텔과 AMD, 그리고 더 높은 성능으로 선두를 치고 나가는 엔비디아의 현재 상황을 짚어본다.

엔비디아, 블랙웰로 전력 사용량 줄이고 성능 상한 높인다

엔비디아가 2년 전 공개한 호퍼 아키텍처는 생성형 AI 시장의 엔진으로 작용하며 세상을 바꿨다. 하지만 GPU 자체가 AI 개발이 아닌 그래픽 처리 등 부동소수점 연산에 최적화된 반도체여서 성능은 높지만 전력 효율이 부족하다는 한계가 있다. 이를 인지한 엔비디아는 성능 상한을 높이면서도 전력 효율적인 방안을 제시해 단독 선두를 굳히려 한다.

엔비디아 블랙웰 아키텍처 / 출처=엔비디아

엔비디아가 GTC 2024를 통해 소개한 블랙웰 아키텍처는 TSMC 4NP 공정으로 제조된 두 개의 다이로 구성되며, B200 AI 가속기로 제공될 시 총 2080억 개의 트랜지스터를 탑재한다. 각 칩 간 통신 속도는 초당 10TB에 달해 8비트 부동소수점 처리에서 호퍼 아키텍처 대비 2.5배, 추론으로는 다섯 배 높은 성능을 발휘한다. 또한 192GB 용량의 HBM3e 메모리를 배치해 H100 대비 30배까지 성능을 높였다.

블랙웰은 5세대 NV링크를 통해 초당 1.8TB로 장치 간 통신하며, 그레이스 CPU를 조합해 엔비디아 GB200 그레이스 블랙웰 슈퍼칩 형태로 제공된다. 총 8개의 B200이 탑재된 DGX B200 시스템은 총 1440GB의 GPU 메모리와 4TB 시스템 메모리를 탑재해 총 72 페타플롭스의 훈련 성능과 144페타플롭스의 추론 성능을 제공한다.

72개의 B200 GPU가 탑재된 NVL72 시스템 / 출처=엔비디아

또한 전력 성능 개선에도 초점을 맞췄다. 기존 호퍼 GPU 아키텍처로 90일 안에 GPT-MoE-1.8T 모델을 훈련하려면 약 8000개의 GPU와 15메가와트의 전력이 필요했으나, 블랙웰 GPU는 2000개의 장치와 4메가와트로 처리해 전체 전력 사용량을 75%까지 줄일 수 있다. 72개의 GPU가 탑재되는 NVL72 규격으로 전 세대와 비교하면 AI 추론은 30배 빨라지고, 전력 대 성능비는 25배 높아진다.

AMD MI300X/A로 대응, ROCm 지원도 본격적

AMD 역시 지난해 12월 인스팅트 MI300A 및 MI300X 가속기를 출시하며 가속 컴퓨팅 시장에서의 몫을 늘리고 있다. MI300 시리즈는 304개의 CDNA3 아키텍처 기반의 GPU 컴퓨팅 유닛과 192GB HBM3 메모리, 초당 최대 5.3TB의 메모리 대역폭을 갖춰 이전 세대 MI250 대비 학습 능력이 최대 6.8배 향상됐다. 8개의 MI300X 플랫폼은 총 1.5TB의 HBM3 메모리와 최대 42.4TB의 메모리 대역폭을 갖춘다.

AMD 인스팅트 MI300 시리즈 / 출처=AMD

2048개의 입력 토큰 및 128개의 출력 토큰을 활용한 Llama-70B 추론 테스트에서 MI300X는 엔비디아 H100와 비교해 vLLM 모델 FP16 결과에서 최대 2.1배 나은 성능을 보여주었다. AMD 인스팅트 MI300 시리즈는 델, 레노버 등 주요 하드웨어 기업에서 채용했고, 마이크로소프트와 오라클도 자사 클라우드에 MI300 시리즈 포함 계획을 발표했다.

한편 AMD가 넘어야 할 벽은 하드웨어가 아닌 소프트웨어에 있다. 엔비디아가 지금껏 시장을 선도해 온 배경은 십수년에 걸쳐 발전된 쿠다(CUDA) 기반의 개발 환경 덕분이다. 하지만 AMD는 2016년에 개발 환경인 ROCm을 만들고, 2023년 7월이 되어서야 윈도우를 지원하는 등 발전 속도가 느리다. 그나마 AMD가 뒤늦게 AI 가속기의 윈도우 지원을 발표하고, 전사적으로 AI 생태계 구성에 신경을 쓰면서 앞으로는 차츰 나아질 전망이다.

실제로 AMD의 2023년 4분기 데이터센터 부문 매출은 22억 8200만 달러(약 3조 1600억 원), 영업 이익은 6억 6600만 달러(약 9158억 원)를 기록했다. 이는 지난해 같은 기간 대비 38% 증가한 수치인데, AMD 인스팅트 GPU 및 4세대 AMD 에픽 CPU 등이 영향을 미쳤다. AMD AI 가속기 결과만 떼놓고 평가할 순 없지만, 조금씩 약진하는 모양새다.

인텔 가우디 3, 전방위적 대안으로 주목받는 중

인텔 가우디 3 AI 가속기 주요 성능 요약 / 출처=인텔

인텔은 지난 4월 9일 개최된 ‘인텔 비전’ 행사에서 가우디 2의 후속 제품인 가우디 3 AI 가속기를 선보였다. 가우디 3는 전 세대 대비 BF16(16비트 부동소수점) AI 컴퓨팅에서 4배, 메모리 대역폭에서 1.5배, 대규모 시스템 확장을 위한 네트워킹 대역폭이 2배 향상됐고, LLM 및 멀티모달 모델에서의 AI 추론 성능을 크게 끌어올렸다. 하드웨어는 64개의 AI용 텐서 프로세서 코어(TPC)와 8개의 행렬 곱셈 엔진(MME)으로 구성되며, 메모리는 128GB의 HBM2e으로 총 3.7TB의 메모리 대역폭을 갖는다.

성능 측면에서는 엔비디아 H100 대비 Llama 2-70B 및 130B, GPT-3 학습 시간을 50% 줄였고, Llama 2 700B 모델에서 50% 더 빠른 추론과 40% 향상된 추론 전력 효율성을 갖춘다. 인텔 측은 가우디 3가 H100보다 더 나은 성능과 합리적인 총 소유비용을 제공해 엔비디아 H100의 대안을 찾는 기업들이 관심을 끌 것으로 보고 있다.

엔비디아가 이기는 싸움이지만 ‘인텔 파운드리’는 변수

엔비디아는 올해 2분기 중 H200 GPU를 납품하며, 중순 이후에는 GH200 그레이스 호퍼 슈퍼칩까지 내놓는다. 라인업 상 2025년에는 블랙웰 기반의 B200 GPU와 GB200 그레이스 블랙웰 슈퍼칩까지 상용화한다. 인텔의 최신 AI 가속기인 가우디 3와 AMD MI300X가 이제 막 H100의 대안으로 제시되는 상황에서 몇 수 먼저 앞서 나가는 셈이다. 이 격차는 앞으로도 따라잡기 어려울 전망이다.

인텔 오리건 주 D1X 반도체 공장에 배치된 ASML 하이-NA EUV 장비 / 출처=인텔

변수는 엔비디아와 AMD가 팹리스 기업인 반면, 인텔은 종합 반도체 기업이라는 점이다. 팹리스는 직접 반도체를 생산하지 않고 파운드리에 위탁하고, 종합 반도체 기업은 설계부터 생산까지 모두 직접 한다. 특히 인텔은 IDM 2.0 전략을 통해 파운드리 사업을 주류로 내세우고, 지난 4월 17일(현지 시각)에는 2025년 중 하이-NA EUV(고 개구수 극자외선 노광기)를 활용해 인텔 14A(옹스트롬, 약 1.4나노미터 상당) 공정 개발을 시작하겠다고 밝혔다.

인텔은 올해 말까지 18A 공정에 돌입하고, 2027년에 14A 공정을 상용화한다 / 출처=인텔

하이 NA EUV를 활용하면 기존 EUV보다 1.7배 더 섬세하게 인쇄할 수 있고, 2D 확장을 통해 반도체 밀도를 2.9배까지 늘린다. 인텔은 렌즈 개구수가 0.33인 EUV와 0.55인 하이-NA EUV를 모두 사용할 예정이다. 반도체는 나노공정 단위가 첨예화할수록 생산 단가는 하락하고, 성능과 전력 효율은 향상된다. 인텔이 지금은 가우디 3등 주요 반도체를 TSMC에 위탁 생산하고 있지만, 향후 자사 AI 가속기에 최신 공정을 도입한다면 비약적인 성능 향상과 수요 공급의 유연성, 단가 맞춤 등을 앞세워 시장 분위기를 바꿀지도 모른다.

엔비디아 GB200 그레이스 블랙웰 슈퍼칩 / 출처=엔비디아

물론 엔비디아 GPU를 활용하는 많은 기업들이 굳이 쿠다 생태계를 내려놓고, 인텔, AMD를 선택할 가능성은 낮다. 인텔과 AMD도 이 점을 인식해 경제성과 지속가능성, 수급의 안정 등을 장점으로 내세우며 경쟁한다. 앞으로도 이런 구도는 변함이 없겠지만, 엔비디아가 허점을 보인다면 언제든지 인텔과 AMD에게도 기회가 생길 수 있다. 특히 TSMC가 중국과 대만 분쟁이라는 지정학적 문제를 안고 있다는 점도 변수다.

가속 컴퓨팅 시장은 일반 사용자가 접할 분야는 아니다. 하지만 AI PC나 LLM을 비롯한 다양한 기술이 대중화할수록, AI 가속기를 비롯한 가속컴퓨팅 시장도 함께 발전한다. 또한 엔비디아 GPU의 높은 단가와 수급 안정성으로 인해 대안을 찾는 목소리도 계속 나오고 있다. 지금은 엔비디아가 시장의 단독 선두로 나서고 있지만, 장기적으로는 인텔과 AMD를 비롯한 수많은 기업들이 빈자리와 대안을 채우며 성장할 것이다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	축의금 적게 내면 눈치 줄 것 같은 스타는?	운영자	24/11/11	-	-
3733	카파바이오사이언스, 신소재 ‘Vita-SPMD’ 글로벌 시장 공급 발판 마련	IT동아	04.24	226	0
3732	플러스닷, NIPA 호치민IT지원센터 2024년 입주기업에 선정	IT동아	04.24	258	0
3731	교수창업기업 ‘럭스바이옴’, 마이크로바이옴 기반 신제품 출시 임박	IT동아	04.24	242	0
3730	‘체계적인 e스포츠 대면 강의 제공할 것’ 게임프로, e스포츠 오프라인 강의실 5월 말 개소 [9]	IT동아	04.24	2274	2
3729	삼성전자, 업계 최초 '9세대 V낸드' 양산	IT동아	04.23	324	0
3728	[스타트업-ing] 더길 “e커머스 초보자도 ‘상생’하며 함께 성장하는 플랫폼”	IT동아	04.23	215	0
3727	세일즈포스, '데이터, AI, CRM, 신뢰가 디지털 혁신의 열쇠'	IT동아	04.23	224	0
3726	윌리엄앤코, 영유아 영어교육 키트 ‘텔리’ 조달청 등록 추진	IT동아	04.23	217	0
3725	시향 플랫폼 기업 ‘퍼퓸투데이’…BM 확장 및 투자 유치 나서 [1]	IT동아	04.23	1926	0
3724	[IT신상공개] 실시간 온체인 데이터 분석·시각화로 업무 효율 높인다, 쟁글ERP	IT동아	04.23	4566	0
3723	안창욱 GIST AI연구소장 “이노디테크 AI 시스템, 합성형 AI로 구축했습니다”	IT동아	04.23	219	0
3722	CRT게임즈, 서울과기대 초기창업패키지 최우수 기업 선정	IT동아	04.23	217	0
3721	[리뷰] 애플 M3로 실성능 끌어올린 '애플 맥북에어 13'	IT동아	04.22	650	0
3720	[시승기] 브랜드 첫 쿠페형 SUV…’제네시스 GV80 쿠페’	IT동아	04.22	219	0
3719	IBM “ESG 솔루션으로 지속가능성·비즈니스 성과 높인다”	IT동아	04.22	370	0
3718	[리뷰] ‘AI 시대’가 낳은 차세대 TV, 2024 LG 올레드 evo G4 [3]	IT동아	04.22	1631	1
3717	오렌지바이오메드, 품질경영시스템 ISO 9001 인증 획득	IT동아	04.22	181	0
3716	[주간투자동향] 비즈플레이, 30억 원 규모 전략적 투자 유치	IT동아	04.22	179	0
3715	레몬사운드, 콘테스트 기반 음악 제작∙제공 서비스로 게임 업계 ‘성과’	IT동아	04.22	187	1
3714	AI 품은 LG전자 에어컨, 판매량 청신호	IT동아	04.19	370	0
3713	[생성 AI 길라잡이] 전문 지식 없어도 음원 제작 거뜬 ‘AI 작곡’ [8]	IT동아	04.19	8281	7
3712	god의 길·촛불하나 M/V, 영국서 리메이크로 재탄생 [1]	IT동아	04.19	406	1
3711	나띵프로젝트, 캐릭터로 더 친근해진 '플랍플랍 버블바스' 입욕제 출시	IT동아	04.19	206	0
3710	[KESIA 시드팁스] 메이커런스 “아이와 부모, ‘반차’로 함께 힐링하세요” [1]	IT동아	04.19	1048	0
3709	디지포레 “대기업 위주 디지털트윈 생태계, 중소기업 확산 위한 교두보 마련”	IT동아	04.19	932	0
3708	아웃도어 플랫폼 '데얼스', 2024 스포츠산업 창업 도약 기업 선정	IT동아	04.19	192	0
3707	클랫폼, 스마트팜 활용 도농 융복합단지 조성 추진	IT동아	04.19	172	0
3706	박스테이션, 주차 요금 핸즈프리결제 솔루션 상용화에 박차	IT동아	04.19	170	0
3705	제이쓰리씨, 해양 시뮬레이터 개발로 ‘대한민국 우수기업’ R&D 대상 수상	IT동아	04.19	175	0
	단독질주 엔비디아, 추격나선 인텔·AMD... '변수는 1nm 파운드리'	IT동아	04.19	523	0
3703	[농업이 IT(잇)다] 팜비오스 “LED 조명·인도어팜 솔루션으로 기후·인력난 문제 해결”	IT동아	04.19	159	0
3702	AI가 이끄는 설계·엔지니어링 혁신…’카티아 유저데이’ 현장	IT동아	04.18	190	0
3701	블록체인 산업 트렌드·발전 방향 확인하는 자리, 2024 BCMC	IT동아	04.18	170	0
3700	핀카(FINCA), 3D 초개인화 서비스 '마리테'로 침구 시장 공략	IT동아	04.18	817	1
3699	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 7	IT동아	04.17	616	0
3698	[뉴스줌인] LPDDR5X 시장, 삼성전자 신제품 개발로 경쟁 ‘후끈’	IT동아	04.17	270	0
3697	모니터암·전동식 책상·의자가 사무실 '필수'로 떠오르는 이유는? [1]	IT동아	04.17	1743	1
3696	[스타트업-ing] 씨지인사이드 “법률·규제 인공지능 도우미 전파”	IT동아	04.17	209	0
3695	'성능ㆍ휴대성' 겸비한 고성능 노트북 PC들이 온다 [1]	IT동아	04.17	815	1
3694	[자동차와 法] 공공기관의 친환경차 의무구매제도 현황에 대하여 [1]	IT동아	04.16	482	0
3693	티맵에 숨어 있는 유용한 기능 활용해 보니	IT동아	04.16	219	0
3692	로보락 “품질·편의성으로 고객 중심 가치 구현할 것” [3]	IT동아	04.16	1012	0
3691	[뉴스줌인] RDIMM 메모리 출시한 커세어, 일반 메모리와의 차이점은?	IT동아	04.15	172	0
3690	인공지능 활용한 게임 내 그래픽 가속, 현재와 미래	IT동아	04.15	186	0
3689	[월간자동차] 24년 3월, 신차·중고차 판매 모두 상승…기아 쏘렌토 1위 고수	IT동아	04.15	975	0
3688	‘카드부터 신분증까지’ 갤럭시 스마트폰 쓴다면 지갑 말고 이렇게![이럴땐 이렇게!] [4]	IT동아	04.15	1397	3
3687	“전통주 번개배송은 새로운 경험의 시작이 될 것” 박준형 술담화 CSO	IT동아	04.12	259	0
3686	[생성 AI 길라잡이] 애플이 만들 인공지능 서비스, 어떤 모습일까?	IT동아	04.12	277	0
3685	2024년은 온디바이스 AI 시대, 왜 'AI PC'는 지금 주목받나? [4]	IT동아	04.12	7401	4
3684	‘낭만국시’ 우승완 공동대표 “춘천 원도심 상권르네상스로 스마트 비즈니스 발돋움”	IT동아	04.12	221	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

엔비디아, 블랙웰로 전력 사용량 줄이고 성능 상한 높인다

AMD MI300X/A로 대응, ROCm 지원도 본격적

인텔 가우디 3, 전방위적 대안으로 주목받는 중

엔비디아가 이기는 싸움이지만 ‘인텔 파운드리’는 변수

▶ [뉴스줌인] LPDDR5X 시장, 삼성전자 신제품 개발로 경쟁 ‘후끈’▶ 인공지능 활용한 게임 내 그래픽 가속, 현재와 미래▶ 2024년은 온디바이스 AI 시대, 왜 'AI PC'는 지금 주목받나?

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결

▶ [뉴스줌인] LPDDR5X 시장, 삼성전자 신제품 개발로 경쟁 ‘후끈’▶ 인공지능 활용한 게임 내 그래픽 가속, 현재와 미래 ▶ 2024년은 온디바이스 AI 시대, 왜 'AI PC'는 지금 주목받나?