고성능 컴퓨팅을 재정의하는 메모리, HBM3란 무엇인가?

IT동아

2023.08.29 17:38:19

조회 145 추천 0 댓글 0

[IT동아 남시현 기자] 올해 들어 삼성전자 주가가 6~7만 원대를 횡보하고 있지만, 연말에는 달라질 것이라는 기대감이 크다. 8월 들어 반도체 업황이 바닥을 찍고 상승세로 돌아갈 것이라는 관측이 나오고, 또 올해 하반기부터 본격적으로 HBM3P를 출시할 예정이어서다. SK하이닉스는 지난해 6월 세계 최초로 HBM3를 양산한데 이어, 올해 4월에는 현존 최고 용량인 24GB HBM3 신제품을 공개한 바 있다. 두 회사 모두 고대역폭 메모리인 HBM3에 올해 전반의 실적과 성과를 걸고 있는 모습이다.

HBM은 D램을 최대 12개 적층해 크기는 줄이고, 전력 효율과 용량은 늘린 제품이다 / 출처=IT동아

두 회사 말고도 HBM3에 사활을 거는 회사가 한둘이 아니다. 인공지능 반도체의 대장격인 엔비디아는 엔비디아 호퍼 H100 데이터센터 GPU에 120GB 용량의 HBM3를 탑재하고 있고, AMD의 데이터센터 APU인 인스팅트 MI300도 HBM3를 탑재한다. 인텔 역시 차세대 데이터 서버용 GPU(코드명 팔콘 쇼어)에 최대 288GB 용량의 HBM3 메모리를 탑재할 예정이고, 국내에서도 퓨리오사AI가 인공신경망 반도체(NPU) 제조사로는 최초로 2세대 칩인 레니게이드에 HBM3를 탑재한다. 전 세계 반도체 시장에서 빠지지 않고 등장하는 HBM3란 어떤 메모리인 걸까?

HBM3, 메모리 수직 연결해 대역폭 늘린 신 기술

HBM(High Bandwidth Memory, 고대역폭 메모리)는 2008년 AMD와 SK하이닉스가 공동으로 개발을 주도한 차세대 메모리 규격으로, 2013년 10월 JEDEC(국제반도체표준협의기구)에 의해 산업 표준으로 제정됐다. 이후 2016년 HBM2 표준이 승인되었으며, 작년 1월에 HBM3 규격이 공식 발표됐다. 현재는 SK하이닉스와 삼성전자, 마이크론이 HBM3를 생산하고 있다.

HBM은 메모리 위에 또 메모리를 쌓아 용량을 축적하고, 이를 수직으로 관통하는 전극을 설치해 통신한다 / 출처=삼성전자

HBM은 기존에 사용되는 D램을 수직으로 쌓고, 수천 개의 실리콘관통전극(TSV)를 설치해 데이터 처리 속도와 칩간 통신 속도를 비약적으로 끌어올린 제품이다. 쉽게 말해 D램 위에 D램을 최대 12개까지 쌓고, 이를 관통하는 통로를 만들어서 통신한다. 기존의 D램 방식에서 데이터 이동 방식이 무빙 워크라면, HBM은 엘리베이터로 데이터를 수직이동하는 방식이어서 전송 속도가 빠른 것이다.

덕분에 HBM3는 단일 칩셋으로 최대 24GB의 용량을 실현하며, 쌓아놓은 칩(스택)에서 초당 819GB의 데이터를 처리할 수 있다. 이는 1초에 5GB 영화 163편 분량을 처리할 수 있는 수준이며, 이전 세대인 HBM2E와 비교해 약 78%나 빨라진 수치다. 아울러 열 효율성이 뛰어나 발열 관리가 수월하고, 동일 용량의 D램과 비교해 에너지 소비를 크게 낮춰 전반적인 시스템 안정성도 크게 향상된다.

전력 소비와 효율 잡아야 하는 대규모 데이터 처리에 특화

HBM3는 소비자 시장보다는 대규모 컴퓨팅 자원을 필요로 하는 서버 시장에서 주목받고 있다. 예를 들어 우리나라 국가 슈퍼컴퓨터 5호기만 하더라도 전체 D램 메모리 용량이 2064TB에 달하며, 32GB 컴퓨터로 환산하면 6만4500대 분량이다. 슈퍼 컴퓨터도 메모리 자체는 PC용 컴퓨터 메모리 수십 개를 서버랙(Rack)에 장착하고 연결하는 방식이라 공간 대비 용량이나 밀도, 에너지 효율성 등이 크게 떨어진다. HBM3를 활용하면 그만큼 공간 효율을 늘릴 수 있고, 에너지 관리나 메모리 밀도 측면에서도 도움이 된다.

처음으로 HBM이 적용된 슈퍼컴퓨터, 후가쿠 / 출처=후지쯔

실제로 서버 컴퓨터에 HBM을 도입한 대표적인 사례가 2020년 6월부터 22년 6월까지 세계 1위 자리를 지킨 일본의 슈퍼컴퓨터 후가쿠(Fugaku)다. 후가쿠는 슈퍼컴퓨터로는 처음으로 HBM이 사용되었는데, 출시 당시 성능이 2위에서 5위를 합친 것보다 10%나 높았을 정도로 큰 성능 격차를 보여주었다. 현재 세계 1위 슈퍼컴퓨터이자, 후가쿠 성능의 세 배가 넘는 유일한 엑사스케일 컴퓨터인 오크릿지 연구소의 프런티어 슈퍼컴퓨터도 AMD의 HBM 기반 에픽 프로세서와 라데온 인스팅트 GPU를 기반으로 하고 있다.

엔비디아의 GH200 그레이스 호퍼 슈퍼칩, 282GB의 HBM3e 메모리를 탑재한다 / 출처=엔비디아

특히 생성형 AI로 촉발된 인공지능 경쟁에도 HBM3가 대거 사용되고 있다. 엔비디아의 데이터센터용 그래픽 카드 중 주력 모델인 H100는 80GB 용량의 HBM3를 탑재하는데, 80GB HBM2e를 탑재한 A100과 비교해 최대 30배에 가까운 AI 처리 능력을 보여준다. CPU와 GPU가 통합된 차세대 모델인 엔비디아 GH200 그레이스 호퍼 슈퍼칩은 HBM3 대비 데이터 전송 속도가 50% 더 높은 282GB HBM3e 메모리가 탑재된다. 연산 처리에 필요한 메모리 자체의 크기를 늘려 더 많은 데이터를 한 번에 처리함으로써 인공지능 개발 효율도 폭발적으로 끌어올리는 것이다.

HBM3, 우리나라 메모리 산업의 동아줄

컴퓨터 및 인공지능 업계에서 HBM3 메모리 채용에 경쟁적인 이유는 결국 성능과 효율 때문이다. 기존의 D램에서 오는 대역폭의 한계나 발열, 소비전력 등의 문제를 모두 해결함과 동시에 전반적인 성능 상한선을 대폭 늘릴 수 있는 방안이기 때문이다. 개인용 PC의 경우 HBM3를 접할 일이 없겠으나, 서버 시장만큼은 장기적으로 HBM이 대세가 될 전망이다.

국내 반도체 기업들 역시 HBM으로 돌파구를 마련하는 상황이다. 지난 21일, SK하이닉스는 HBM3보다 더 성능이 높은 HBM3E 개발에 성공했다고 밝혔다. HBM3E는 819GB에서 더 높은 1.15TB의 데이터를 처리하면서 열 방출 성능은 10% 늘어났다. 삼성전자 역시 하반기 중으로 HBM3보다 성능을 높인 HBM3P를 출시할 예정이다. 빙하기에 빠진 국내 메모리 시장이 HBM 경쟁을 바탕으로 성장 동력을 회복하길 기원한다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 게이밍 시장의 중심이 된 ‘1440p’ 해상도, 어째서?▶ 모토롤라 레이저 40 울트라 vs 삼성전자 갤럭시Z 플립5 ▶ 글로벌 IT 리더 절반이 'AI 인프라 부족' 지적··· 노트북부터 AI 탑재 시작

고정닉 0

원본 첨부파일 4본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
이슈	[디시人터뷰] 라이징 스타로 인정받은 걸그룹, ‘리센느(RESCENE)’	운영자	24/11/08	-	-
설문	축의금 적게 내면 눈치 줄 것 같은 스타는?	운영자	24/11/11	-	-
3158	[뉴스줌인] 속도 2배? 커세어의 PCIe 5.0 지원 신형 SSD [17]	IT동아	23.11.18	5186	1
3157	전북콘텐츠융합진흥원, '2023 디지털 이노베이션 어워즈' 특별상 수상	IT동아	23.11.17	149	0
3156	세계 농산업계 “친환경 농산물이 미래, 기술로 강화” [1]	IT동아	23.11.17	205	0
3155	[자동차 디자人] 슈퍼카 대명사 ‘람보르기니’ 디자인 책임자 ‘밋챠 보커트’	IT동아	23.11.17	899	0
3154	‘코로나 마스크’ 덕 본 글로벌 콘택트렌즈 시장, 이후에도 ‘기대’[K비즈니스가이드] [6]	IT동아	23.11.16	2147	0
3153	[스타트업-ing] 재활용 흡음재로 유니콘 꿈꾸는 '노이즈엑스' [1]	IT동아	23.11.16	1710	2
3152	백준호 퓨리오사AI 대표 "AI 반도체, 지속가능성 고려한 설계 필요"	IT동아	23.11.16	174	0
3151	2023 하반기 빅웨이브가 선택한 바이오·딥테크 스타트업	IT동아	23.11.16	126	0
3150	[스타트업人] 장기지속형 약물 전달 플랫폼 제제 연구, 티온랩테라퓨틱스 연구원 이야기	IT동아	23.11.16	117	0
3149	LG디스플레이 오픈이노베이션 '2024 Dream Play' 6기 스타트업 모집	IT동아	23.11.16	127	0
3148	中 “2024 최고 카메라폰 지위 내 것”...점유율 확대 과제도 [5]	IT동아	23.11.16	580	3
3147	개조부터 구독까지…전기차 활용 범위 확대의 배경 ‘버츄얼 트윈·클라우드’	IT동아	23.11.15	329	0
3146	정부 주도 블록체인 서비스 개발 현황 공유 ‘블록체인 진흥주간’	IT동아	23.11.15	119	0
3145	[리뷰] 전문가용 GPU 시장에 경종을 울리다, AMD 라데온 프로 W7700 [11]	IT동아	23.11.15	986	2
3144	구글 클라우드 “생성형 AI 통한 비즈니스 혁신 도울 것” [1]	IT동아	23.11.14	247	0
3143	그림·사진에 영화, 음악까지…인공지능 예술계 강타 [91]	IT동아	23.11.14	4580	9
3142	에스티어스 "학교 굿즈 통해 브랜딩·애교심 강화에 기여" [스타트업in과기대]	IT동아	23.11.14	144	0
3141	가상자산 산업 “세부적이고 정확한 규제 필요”	IT동아	23.11.14	444	0
3140	외국어 문장 번역이 필요할 땐 이렇게![이럴땐 이렇게!]	IT동아	23.11.13	212	0
3139	[스텝포넷제로] 대구경북능금농협, “사과 포장박스를 친환경 포장재로 바꾸고 있습니다”	IT동아	23.11.13	149	0
3138	[주간투자동향] 클래스101, 160억 원 규모의 시리즈B 브릿지 투자 유치	IT동아	23.11.13	158	0
3137	[뉴스줌인] 요즘 인기라는 ‘2230’ 규격 SSD, 씨게이트도 신제품 출시	IT동아	23.11.11	194	0
3136	[리뷰] 현장 비즈니스 특화 초소형 노트북+태블릿, MS 서피스 고 4	IT동아	23.11.10	208	0
3135	'빅스비 시대 저물고, 가우스 온다'··· 삼성도 생성형 AI에 도전장 [1]	IT동아	23.11.10	568	1
3134	스타트업 생태계 '여전히 혹한기'···생태계 활성화 위한 정부 정책 필요	IT동아	23.11.10	311	1
3133	[이제는 전북 콘텐츠] 루트쓰리게임즈, “전북에서 시작해 해외로 진출하고 있습니다”	IT동아	23.11.10	122	0
3132	[스타트업-ing] 뉴로서킷 “탈모 관리 앱 바야바즈, 세계인 고민 나눈다”	IT동아	23.11.10	133	0
3131	[스케일업] 반프 [3] 이유건 책임 “반프 사내 문화 핵심은 업무 효율·유대감 강화”	IT동아	23.11.10	127	0
3130	스타트업 글로벌 개방성 강화 위한 3가지 정책 제안	IT동아	23.11.09	137	0
3129	[서울형 R&D] 머니스테이션 이정일 대표 “요즘 투자자들은 머니스테이션을 봅니다”	IT동아	23.11.09	153	0
3128	[IT애정남] 해외 유심 구매, 내 폰 호환 여부가 불확실하다면?	IT동아	23.11.09	681	1
3127	[IT강의실] 소니 a9 III가 가진 ‘글로벌 셔터’의 장점은? [2]	IT동아	23.11.09	868	4
3126	방대한 AI 데이터 처리를 위해 개발한 ‘바스트 데이터 플랫폼’	IT동아	23.11.08	490	0
3125	에이수스코리아 잭 황 지사장 “에이수스의 혁신 제품, 한국 반응 뜨거워” [10]	IT동아	23.11.08	1231	2
3124	[리뷰] 활용도, 상품성 개선에 초점 맞춘 삼성 '더 프리스타일 2' 프로젝터	IT동아	23.11.08	167	0
3123	센서·인공지능 업은 2024 스마트폰, 더 좋은 사진 찍는다 [1]	IT동아	23.11.08	847	0
3122	[스케일업] 호반건설·팀워크 “건설 현장에서 디지털 도면을 테스트할 수 있었습니다”	IT동아	23.11.07	189	0
3121	[리뷰] 손쉬운 조립과 다양한 기능이 매력, 카멜 핏쳐 오피스 체어 FOC1·FOC2 [3]	IT동아	23.11.07	217	1
3120	[IT신상공개] 미디어텍, 스냅드래곤과 겨룰 ‘디멘시티 9300’ 공개 [2]	IT동아	23.11.07	554	0
3119	[IT 신상공개] 샤오미 TV 국내 출시, 기존 ‘가성비’ TV와의 차별화 요소는?	IT동아	23.11.06	147	0
3118	[이제는 전북 콘텐츠] 전북 CKL을 통해 창업을 꿈꿀 수 있었습니다	IT동아	23.11.06	124	0
3117	내 은행계좌, 신용카드 정보를 한번에 알고 싶을 땐 이렇게![이럴땐 이렇게!]	IT동아	23.11.06	174	0
3116	[IT애정남] 터치 한번에 전화 잘못 거는 아이폰, 방법이 없을까요? [6]	IT동아	23.11.06	1225	4
3115	[스타트업人] 정밀 의료 선봉, 메디플렉서스 ‘의료데이터 분석·개발자 이야기’ [1]	IT동아	23.11.06	1432	0
3114	사우디 법무부 대표단이 韓 리걸테크 기업을 방문한 이유	IT동아	23.11.03	197	0
3113	블록체인 허브도시 조성을 위한 인천시의 적극적인 행보	IT동아	23.11.03	140	0
3112	시흥창업센터 김준희 센터장, “스타트업에 필요한 네트워크를 만들고 있습니다”	IT동아	23.11.03	150	0
3111	[이제는 전북 콘텐츠] 전북 콘텐츠 기업 및 청년 구인구직난 해소를 위한 ‘일자리 박람회’	IT동아	23.11.03	139	0
3110	[리뷰] 프리미엄 폴더블 노트북의 시작, LG 그램 폴드 [3]	IT동아	23.11.03	1298	3
3109	지향성 스피커, 발전소·공장 안전 지킨다 [2]	IT동아	23.11.03	937	0