고성능 컴퓨팅을 재정의하는 메모리, HBM3란 무엇인가?

IT동아

2023.08.29 17:38:19

조회 146 추천 0 댓글 0

[IT동아 남시현 기자] 올해 들어 삼성전자 주가가 6~7만 원대를 횡보하고 있지만, 연말에는 달라질 것이라는 기대감이 크다. 8월 들어 반도체 업황이 바닥을 찍고 상승세로 돌아갈 것이라는 관측이 나오고, 또 올해 하반기부터 본격적으로 HBM3P를 출시할 예정이어서다. SK하이닉스는 지난해 6월 세계 최초로 HBM3를 양산한데 이어, 올해 4월에는 현존 최고 용량인 24GB HBM3 신제품을 공개한 바 있다. 두 회사 모두 고대역폭 메모리인 HBM3에 올해 전반의 실적과 성과를 걸고 있는 모습이다.

HBM은 D램을 최대 12개 적층해 크기는 줄이고, 전력 효율과 용량은 늘린 제품이다 / 출처=IT동아

두 회사 말고도 HBM3에 사활을 거는 회사가 한둘이 아니다. 인공지능 반도체의 대장격인 엔비디아는 엔비디아 호퍼 H100 데이터센터 GPU에 120GB 용량의 HBM3를 탑재하고 있고, AMD의 데이터센터 APU인 인스팅트 MI300도 HBM3를 탑재한다. 인텔 역시 차세대 데이터 서버용 GPU(코드명 팔콘 쇼어)에 최대 288GB 용량의 HBM3 메모리를 탑재할 예정이고, 국내에서도 퓨리오사AI가 인공신경망 반도체(NPU) 제조사로는 최초로 2세대 칩인 레니게이드에 HBM3를 탑재한다. 전 세계 반도체 시장에서 빠지지 않고 등장하는 HBM3란 어떤 메모리인 걸까?

HBM3, 메모리 수직 연결해 대역폭 늘린 신 기술

HBM(High Bandwidth Memory, 고대역폭 메모리)는 2008년 AMD와 SK하이닉스가 공동으로 개발을 주도한 차세대 메모리 규격으로, 2013년 10월 JEDEC(국제반도체표준협의기구)에 의해 산업 표준으로 제정됐다. 이후 2016년 HBM2 표준이 승인되었으며, 작년 1월에 HBM3 규격이 공식 발표됐다. 현재는 SK하이닉스와 삼성전자, 마이크론이 HBM3를 생산하고 있다.

HBM은 메모리 위에 또 메모리를 쌓아 용량을 축적하고, 이를 수직으로 관통하는 전극을 설치해 통신한다 / 출처=삼성전자

HBM은 기존에 사용되는 D램을 수직으로 쌓고, 수천 개의 실리콘관통전극(TSV)를 설치해 데이터 처리 속도와 칩간 통신 속도를 비약적으로 끌어올린 제품이다. 쉽게 말해 D램 위에 D램을 최대 12개까지 쌓고, 이를 관통하는 통로를 만들어서 통신한다. 기존의 D램 방식에서 데이터 이동 방식이 무빙 워크라면, HBM은 엘리베이터로 데이터를 수직이동하는 방식이어서 전송 속도가 빠른 것이다.

덕분에 HBM3는 단일 칩셋으로 최대 24GB의 용량을 실현하며, 쌓아놓은 칩(스택)에서 초당 819GB의 데이터를 처리할 수 있다. 이는 1초에 5GB 영화 163편 분량을 처리할 수 있는 수준이며, 이전 세대인 HBM2E와 비교해 약 78%나 빨라진 수치다. 아울러 열 효율성이 뛰어나 발열 관리가 수월하고, 동일 용량의 D램과 비교해 에너지 소비를 크게 낮춰 전반적인 시스템 안정성도 크게 향상된다.

전력 소비와 효율 잡아야 하는 대규모 데이터 처리에 특화

HBM3는 소비자 시장보다는 대규모 컴퓨팅 자원을 필요로 하는 서버 시장에서 주목받고 있다. 예를 들어 우리나라 국가 슈퍼컴퓨터 5호기만 하더라도 전체 D램 메모리 용량이 2064TB에 달하며, 32GB 컴퓨터로 환산하면 6만4500대 분량이다. 슈퍼 컴퓨터도 메모리 자체는 PC용 컴퓨터 메모리 수십 개를 서버랙(Rack)에 장착하고 연결하는 방식이라 공간 대비 용량이나 밀도, 에너지 효율성 등이 크게 떨어진다. HBM3를 활용하면 그만큼 공간 효율을 늘릴 수 있고, 에너지 관리나 메모리 밀도 측면에서도 도움이 된다.

처음으로 HBM이 적용된 슈퍼컴퓨터, 후가쿠 / 출처=후지쯔

실제로 서버 컴퓨터에 HBM을 도입한 대표적인 사례가 2020년 6월부터 22년 6월까지 세계 1위 자리를 지킨 일본의 슈퍼컴퓨터 후가쿠(Fugaku)다. 후가쿠는 슈퍼컴퓨터로는 처음으로 HBM이 사용되었는데, 출시 당시 성능이 2위에서 5위를 합친 것보다 10%나 높았을 정도로 큰 성능 격차를 보여주었다. 현재 세계 1위 슈퍼컴퓨터이자, 후가쿠 성능의 세 배가 넘는 유일한 엑사스케일 컴퓨터인 오크릿지 연구소의 프런티어 슈퍼컴퓨터도 AMD의 HBM 기반 에픽 프로세서와 라데온 인스팅트 GPU를 기반으로 하고 있다.

엔비디아의 GH200 그레이스 호퍼 슈퍼칩, 282GB의 HBM3e 메모리를 탑재한다 / 출처=엔비디아

특히 생성형 AI로 촉발된 인공지능 경쟁에도 HBM3가 대거 사용되고 있다. 엔비디아의 데이터센터용 그래픽 카드 중 주력 모델인 H100는 80GB 용량의 HBM3를 탑재하는데, 80GB HBM2e를 탑재한 A100과 비교해 최대 30배에 가까운 AI 처리 능력을 보여준다. CPU와 GPU가 통합된 차세대 모델인 엔비디아 GH200 그레이스 호퍼 슈퍼칩은 HBM3 대비 데이터 전송 속도가 50% 더 높은 282GB HBM3e 메모리가 탑재된다. 연산 처리에 필요한 메모리 자체의 크기를 늘려 더 많은 데이터를 한 번에 처리함으로써 인공지능 개발 효율도 폭발적으로 끌어올리는 것이다.

HBM3, 우리나라 메모리 산업의 동아줄

컴퓨터 및 인공지능 업계에서 HBM3 메모리 채용에 경쟁적인 이유는 결국 성능과 효율 때문이다. 기존의 D램에서 오는 대역폭의 한계나 발열, 소비전력 등의 문제를 모두 해결함과 동시에 전반적인 성능 상한선을 대폭 늘릴 수 있는 방안이기 때문이다. 개인용 PC의 경우 HBM3를 접할 일이 없겠으나, 서버 시장만큼은 장기적으로 HBM이 대세가 될 전망이다.

국내 반도체 기업들 역시 HBM으로 돌파구를 마련하는 상황이다. 지난 21일, SK하이닉스는 HBM3보다 더 성능이 높은 HBM3E 개발에 성공했다고 밝혔다. HBM3E는 819GB에서 더 높은 1.15TB의 데이터를 처리하면서 열 방출 성능은 10% 늘어났다. 삼성전자 역시 하반기 중으로 HBM3보다 성능을 높인 HBM3P를 출시할 예정이다. 빙하기에 빠진 국내 메모리 시장이 HBM 경쟁을 바탕으로 성장 동력을 회복하길 기원한다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 게이밍 시장의 중심이 된 ‘1440p’ 해상도, 어째서?▶ 모토롤라 레이저 40 울트라 vs 삼성전자 갤럭시Z 플립5 ▶ 글로벌 IT 리더 절반이 'AI 인프라 부족' 지적··· 노트북부터 AI 탑재 시작

고정닉 0

원본 첨부파일 4본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
2963	[스케일업] 1인치 [1] “단골가게는, 손님과 사장님을 연결하는 플랫폼입니다”	IT동아	23.09.12	113	1
2962	[리뷰] 지능형 조명의 감성적 예시, 다이슨 솔라사이클 모프	IT동아	23.09.12	189	0
2961	[농업+IT=스마트팜] 8. 연재를 마치며	IT동아	23.09.12	84	0
2960	[메타버스에 올라타자] 6. 메타버스 기반의 협업	IT동아	23.09.12	99	0
2959	캠터 “캠핑 비용 부담 줄이는 캠핑용품 대여 플랫폼” [동국대학교 캠퍼스타운] [7]	IT동아	23.09.12	1300	0
2958	[IT애정남] 같은 듯 다른 소니 A7M4 ·A7C2, 어떤 게 낫나요?	IT동아	23.09.11	201	1
2957	PC 화면 글자가 너무 작다면 이렇게![이럴땐 이렇게!] [18]	IT동아	23.09.11	3319	5
2956	[IT신상공개] 프리미엄 즉석 카메라 시대 열 ‘폴라로이드 I-2’	IT동아	23.09.11	110	0
2955	F&B 마케팅의 현재와 미래 논한 ‘AMC 2023’ 성료	IT동아	23.09.08	476	0
2954	세계적인 디지털 아티스트 작품 한 자리에 ‘더 게이트웨이: 코리아’	IT동아	23.09.08	247	0
2953	[스케일업] 챕터서울 [4] 킬사코리아 “해외 법인, 매출·시장 분석·현지화 고려”	IT동아	23.09.08	99	0
2952	[농업이 IT(잇)다] 웨이브앤바이브 “소상공인 HMR 성공 지름길 닦는 히어로밀”	IT동아	23.09.08	98	0
2951	제각각 인구변화 겪는 글로벌, 틈새 비즈니스가 뜬다[K비즈니스 가이드]	IT동아	23.09.07	1854	0
2950	[스케일업] 내일의쓰임 [4] 한국벤처컨설팅 "투자 유치 준비한다면, 수익성부터 갖춰라"	IT동아	23.09.07	94	0
2949	경제적으로 게이밍 모니터 고르려면··· '성능과 활용도 잘 따져야' [14]	IT동아	23.09.06	1652	0
2948	삼성의 ‘계륵’ OLED TV, 나오긴 했는데… [20]	IT동아	23.09.05	2365	0
2947	KBW 2023 "블록체인 산업과 생태계는 여전히 성장하고 있다"	IT동아	23.09.05	116	0
2946	막 오른 KBW 2023 “한국이 글로벌 블록체인 대중화 선도할 것” [1]	IT동아	23.09.05	129	0
2945	로이터·캐논, 가짜 사진 폐해 줄일 ‘진위 인증 기술’ 공개 [1]	IT동아	23.09.05	744	0
2944	[주간투자동향] 사피온, 600억 원 규모의 투자 유치	IT동아	23.09.04	194	0
2943	[뉴스줌인] 이젠 대세로 자리잡은 ‘그룹웨어’, 어째서?	IT동아	23.09.04	112	0
2942	미국발 반도체 제재 뚫었나? 화웨이, 자체 반도체로 스마트폰 제조 [2]	IT동아	23.09.04	623	1
2941	KBW 2023 180여 개 이벤트 한눈에 ‘부스트’	IT동아	23.09.04	154	0
2940	[IT 신상공개] 더 작아진 사운드바 ‘젠하이저 앰비오 사운드바 미니’ [3]	IT동아	23.09.04	451	0
2939	내년 초 나올 갤럭시 S24, 엑시노스 혼용에 플랫 화면만 탑재?	IT동아	23.09.01	207	0
2938	[스케일업] 케어포유 [4] 한국벤처컨설팅 “투자자는 성장 파트너입니다”	IT동아	23.09.01	100	0
2937	[농업이 IT(잇)다] 리틀티가든 “자연의 멋과 맛 담은 블렌디드 티 전파”	IT동아	23.09.01	99	0
2936	"소프트웨어·모델 효율이 NPU 성능 좌우···" 퓨리오사AI가 펼칠 전략은?	IT동아	23.09.01	110	0
2935	[IT애정남] 1440p/144Hz와 4K/60Hz 모니터, 어느 쪽이 더 좋나요? [8]	IT동아	23.08.31	762	2
2934	[뉴스줌인] 해외 공략 집중하는 카카오의 ‘비욘드 코리아’	IT동아	23.08.31	559	0
2933	KISA가 소개하는 블록체인 기반 혁신금융 트렌드	IT동아	23.08.31	101	0
2932	IFA 2023 달굴 개성파 스마트폰의 면면은?	IT동아	23.08.31	162	0
2931	챗GPT로 쏘아올린 생성형 AI 경쟁, 기업용 업무 시장에서 맞붙는다 [2]	IT동아	23.08.31	904	0
2930	[뉴스줌인] 딥러닝 시장 겨냥한 PNY 그래픽카드, 일반 제품과의 차이점은? [4]	IT동아	23.08.30	872	0
2929	'음질만큼 용도·기능도 고려해야···' 내게 맞는 블루투스 스피커 고르는 법은?	IT동아	23.08.30	504	0
2928	[과기대 S-Run] 사업 계획을 찾는 ‘비즈니스 모델’	IT동아	23.08.30	164	0
2927	[스타트업-ing] 이한크리에이티브 “상호작용하는 체험형 콘텐츠로 메타버스 세상 채운다”	IT동아	23.08.30	101	0
2926	KEMS 하일정 상임이사 “동남아시아, 모빌리티 업계에게 기회의땅”	IT동아	23.08.30	101	0
2925	가상자산 거래소, 실적 개선 위해 ‘이용자 편의·혜택 강화’	IT동아	23.08.30	194	0
2924	[IT신상공개] 삼성 갤럭시Z 플립5와 대결, 오포 파인드 N3 플립 [14]	IT동아	23.08.29	1466	0
2923	K-UAM 경쟁 본격화, 실증 사업 통해 안전기준 마련	IT동아	23.08.29	100	0
2922	[스타트업-ing] 루이테크놀로지 “폰으로 관광 가이드와 통역 서비스 동시 구현”	IT동아	23.08.29	82	0
2921	하이퍼클로바X, 기술이 아닌 서비스로 발전시켜야 [1]	IT동아	23.08.29	179	0
	고성능 컴퓨팅을 재정의하는 메모리, HBM3란 무엇인가?	IT동아	23.08.29	146	0
2919	원하는 곳에서만 소리 듣는 ‘초지향 음향’ 시대 열린다 [13]	IT동아	23.08.29	3902	6
2918	“젠하이저 컨슈머 사업부, 토탈 청각 솔루션 브랜드로 거듭난다”	IT동아	23.08.29	124	0
2917	게이밍 시장의 중심이 된 ‘1440p’ 해상도, 어째서? [2]	IT동아	23.08.28	1171	2
2916	모토롤라 레이저 40 울트라 vs 삼성전자 갤럭시Z 플립5	IT동아	23.08.28	191	0
2915	[리뷰] 성능은 높이고 크기는 줄이고, 소니 WF-1000XM5 [27]	IT동아	23.08.28	4604	15
2914	코로나19 뒷받침했던 ‘비대면 진료’, 이대로 사라지나 [11]	IT동아	23.08.28	4119	3
뉴스	정국, ‘2024 MAMA’ 3관왕 쾌거…최고의 남성 아티스트이자 퍼포머로 선정	디시트렌드	10:00