‘NPU+GPU 성능 개선’ AMD 라이젠 AI 300 프로세서의 핵심 요소는?

IT동아 · 2024.07.17 13:19:42

[IT동아 강형석 기자] AMD가 코드명 ‘스트릭스 포인트(Strix Point)’로 알려진 3세대 라이젠 AI 프로세서로 인공지능(AI) PC 시장 선점에 나선다. 에이수스, 게이머 공화국(Republic Of Gamers – ROG), 레노버, HP, 엠에스아이(MSI) 등 주요 노트북 제조사와 협력 중이며 약 150개 이상 AI 노트북 PC 제품을 시장에 선보인다는 계획이다. 출시는 2024년 3분기 내에 이뤄질 것으로 보인다.

잭 후인(Jack Huynh) AMD 수석 부사장 및 컴퓨팅ㆍ그래픽스 총괄 관리자는 2024년 7월 9일(미국 현지 시간), 미국 로스앤젤레스 웨스틴 보나벤처 호텔에서 개최된 AMD 테크데이 연단에 올라 3세대 라이젠 AI 프로세서를 소개하고 PC 시장 변화에 대한 AMD의 기술 전략을 언급했다.

AMD는 라이젠 AI 300 시리즈 탑재 노트북을 150개 이상 확대한다는 방침이다. / 출처=IT동아

“젠(Zen) 반도체 설계의 중앙처리장치는 세상을 놀라게 했다. 클럭 사이클당 명령어 처리 수(IPC) 성능을 한 단계 높였고 이후에는 7나노미터 칩과 14나노미터 입출력 칩을 결합하는 ‘트리플렛(Triplelet)’ 기술을 적용했다. 구리 대 구리 하이브리드 본딩 기술을 적용한 3D 시스템-온-칩(SoC)은 설계의 경계를 허물었다. 최고의 게이밍 프로세서를 추구한 그래나이트 릿지(Granite Ridge)는 밀도 높은 내부 상호연결 기술로 캐시 용량을 확보했다. 지난해에는 처음으로 전용 신경망 처리장치(NPU)를 가속처리장치(APU)에 통합, AI PC의 전환을 주도 중이다.”

AMD가 라이젠 프로세서에 적용해 온 기술들을 나열한 잭 후인 수석 부사장은 3세대 라이젠 AI 프로세서에 3가지 핵심 요소가 있음을 강조했다. 하나는 차세대 반도체 설계인 5세대 젠(Zen) 설계를 적용한 것이고 다음은 모바일 환경에 맞춰 조율한 그래픽 처리장치(GPU), 마지막은 50 TOPS 연산 능력을 가진 신경망 처리장치(NPU)다.

8비트 정수 연산의 속도와 반정밀도 부동소수점의 정교함 더한 NPU

신경망 처리장치에는 2세대 XDNA 설계가 적용됐다. AMD가 인수한 자일링스(Xilinx) 기술에 뿌리를 두고 있다는 점이 특징이다. 라이젠 AI 300 프로세서에 적용된 신경망 처리장치는 50 TOPS(초당 1조회 정수연산) 사양이다. 이는 마이크로소프트가 코파일럿+ PC 구동에 적합하다고 강조한 40 TOPS를 뛰어넘는 수치다. 2024년 하반기 해당 칩을 탑재한 노트북 PC는 온-디바이스(On-Device) AI 처리 능력을 충분히 갖췄다고 봐도 무방하다.

1세대 XDNA 설계 기반 신경망 처리장치는 10 TOPS 사양에 불과했다. 이 칩 안에는 인공지능 엔진 타일(이하 AI 타일)이 20개가 배치됐다. 2세대는 이를 32개로 늘렸다. 중요한 것은 인공지능 관련 데이터 구조에 따라 AI 타일을 운용하는 방법이 달라졌다. 기본적으로 각각의 AI 타일이 유연하게 대응하지만, 큰 데이터를 처리할 때는 8개씩 4개 구역으로 나눠 처리한다.

2세대 XDNA 설계는 AI 타일이 상황에 따라 유연하게 대응하도록 만들어 성능을 높였다. / 출처=IT동아

예로 작은 크기의 데이터는 각 AI 타일이 처리하다가 인공지능 기반 영상과 음성 데이터가 등장하면 8개 AI 타일이 하나처럼 뭉쳐 영상과 음성을 처리한다. 추가로 콘텐츠 생성 애플리케이션에서 인공지능 데이터 처리를 요구하면 8+8 형태로 뭉쳐 운영될 수 있다. 작은 데이터는 32개 AI 타일이 각각, 큰 데이터는 1~4개 AI 타일처럼 작동하는 셈이다.

AMD는 2세대 XDNA 설계를 적용하며 기존 대비 타일당 다중누적연산(MACs) 능력을 2배 높였다. AI 타일이 빠르게 메모리에 접근할 수 있도록 용량도 1.6배 늘리는 등 성능 개선에 집중했다. 이 외에도 라이젠 7040 시리즈 대비 컴퓨팅 처리 능력은 5배, 전력 효율은 2배 개선되는 효과를 가져왔다.

2세대 XDNA 설계는 라이젠 7040 대비 처리 능력은 5배, 전력 효율은 2배 개선됐다. / 출처=IT동아

또 다른 핵심 요소는 블록 반정밀도(Block FP16) 기술이다. 8비트 정수 연산과 반정밀도(FP16) 부동소수점 연산을 더한 것이다. 8비트 정수 연산은 속도는 빠르지만 정확도는 낮고, 반정밀도 부동소수점 연산은 느리지만 높은 정확도를 갖췄다. 두 장점을 더함으로써 16비트 정확도로 8비트 처리 능력을 제공할 수 있다는 입장이다.

밤시 보파나(Vamsi Bopanna) AMD 인공지능 그룹 수석 부사장은 “자체 역량을 갖춘 소프트웨어 개발사들은 언어 모델을 빨리 처리하는 것을 원한다. 이번에 개발한 블록 반정밀도 부동소수점은 매우 가치 있는 일이 될 것이라 생각한다. 타 신경망 처리장치와 차별화가 된다고 본다”고 말했다.

그래픽 성능 개선 이룬 RDNA 3.5 내장 그래픽 처리장치

온-디바이스 인공지능 시대가 와도 PC라는 사실은 변함이 없다. 인공지능 외에도 생산성 작업이나 게이밍 등 기본기도 갖춰야 한다는 이야기다. AMD는 라이젠 AI 300 프로세서의 내장 그래픽 처리장치(iGPU) 성능 향상을 통해 여러 작업에 대응하도록 준비했다. 특히 기존 3세대 RDNA 설계를 개선한 3.5세대 RDNA 설계로 전력 소모와 성능의 균형을 맞췄다.

3.5세대 RDNA 설계에서는 샘플링 속도를 두 배 높였다. 3D 뼈대 위에 재질, 색상 등을 입히는 텍스처의 샘플 단위를 두 배 높인 형태인데 병렬 처리 구조를 더해 속도를 높였다. 이 외에도 보간과 비교율도 두 배 높였다. 2차 예비 메모리(L2 캐시)와 주 메모리 등에 접근하는 구조도 최적화한 점도 눈길을 끈다.

3.5세대 RDNA 설계 기반 그래픽 처리장치는 처리 구조를 개선해 성능과 전력 효율을 높였다. / 출처=IT동아

최종 내장 그래픽 처리장치의 성능은 크게 향상됐다. 이전 세대 동급 제품에 15W 열설계전력(TDP)을 적용한 결과, 3D마크 타임 스파이 테스트에서 최대 32%, 나이트 레이드 테스트에서 19% 성능 향상을 이뤄냈다. 전기를 적게 쓰면서 최대 성능을 낸다는 점은 노트북의 운용 시간에 영향을 주기에 긍정적인 변화라 할 수 있다.

마크 페이퍼마스터(Mark Papermaster) AMD 부사장 및 최고기술책임자는 “3.5세대 RDNA 설계는 모바일 환경에 이상적인 구조다. 감소된 전력 소비로 높은 효율을 구현했다. 최근에는 삼성과 협력해 갤럭시 스마트폰에 맞춰 최적화하고 라이선스를 부여한 바 있다. 다른 시장이지만, 라데온 그래픽 처리장치의 이상적 경험이 가능할 것”이라고 말했다.

에이수스를 포함해 여러 노트북 PC 제조사에서 라이젠 AI 300 탑재 제품을 선보일 예정이다. / 출처=IT동아

AMD는 라이젠 AI 300 프로세서가 적용된 노트북 PC를 여럿 소개했다. 에이수스(ASUS)는 젠북(Zenbook) S16, 터프 게이밍(TUF Gaming) A14, 프로아트(ProArt) P16 등을 공개했다. MSI도 프레스티지(Prestige) 노트북이 전시됐다. 이 외에 레노버, 레이저 등 여러 노트북 제조사를 통해 향후 몇 개월 안으로 150여 이상 제품을 출시할 예정이다. 모두 마이크로소프트 코파일럿+ PC에 대응한다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
4556	전문가가 제시하는 스타트업 ESG 경영 전략…’2024 서울 스타트업 ESG 포럼’	IT동아	19:51	11	0
4555	수원대학교 'WoW 스타트업 브랜치 오픈이노베이션' 개최	IT동아	17:01	16	0
4554	[스타트업리뷰] 로닉 “인공지능 맞춤형 음식 도우미, AI 로봇셰프 큐브”	IT동아	16:33	1308	0
4553	[IT기획자의 탄생] 3. IT기획자에게 필요한 상상력과 글로벌 전략	IT동아	10:43	32	0
4552	[IT’s 가성비] 삼성 크리스탈 UHD TV, 2024년형/85인치 모델에 눈길?	IT동아	09:07	1776	0
4551	[스케일업] 클리카 [3] 피터 노빅과의 대담으로 살펴본 'AI 스타트업'의 방향성	IT동아	09:06	31	0
4550	[생활 속 IT] LG 가전 활용도 넓히는 'LG ThinQ' 연결 및 사용법	IT동아	08:21	25	0
4549	[생활 속 IT] 소프트웨어 활용 습관 바꿔줄 윈도 11 ‘가상 데스크톱’ [1]	IT동아	11.20	74	0
4548	[부산창경 BEF 2024] 기술로 문제 풀이와 오답 노트 작성 효율 높인 ‘프라이머스’	IT동아	11.20	46	0
4547	IBM-연세대, 슈퍼컴 능가하는 127 큐비트 양자컴퓨터 국내 첫 도입 [3]	IT동아	11.20	4756	4
4546	[주간스타트업동향] 휴머닉스, 위플로 CES 2025 혁신상 수상 外	IT동아	11.20	93	0
4545	[부산창경 BEF 2024] 만만한녀석들 “모듈형 집기로 친환경 MICE 산업 선도한다”	IT동아	11.20	45	0
4544	[부산창경 BEF 2024] 나누기월드 “외국인 유학생, 장애인 문제 해결에 기여” [3]	IT동아	11.20	247	0
4543	선박 제조업의 디지털 전환 이끄는 ‘버추얼 트윈’ 기술	IT동아	11.19	74	0
4542	에릭슨엘지 “네트워크도 API로 제공…개발자 참여 독려해야”	IT동아	11.19	74	0
4541	[IT애정남] 노트북 SSD의 OEM 파티션, 삭제해도 되나요?	IT동아	11.19	78	0
4540	[부산창경 BEF 2024] 그린에너지(주) “산업 현장 악취·유해물질 플라즈마로 해결”	IT동아	11.19	78	0
4539	[자동차와 法] 행락철 교통사고 책임과 법적 대처 방안	IT동아	11.19	667	0
4538	아이작 컨셉츠 김태영 대표, "반도체·열유체 공학의 산학협력 교두보 만들겠다"	IT동아	11.19	75	0
4537	[시승기] 돋보이는 디자인과 안전 사양 ‘KGM 액티언’ [1]	IT동아	11.18	351	0
4536	+불필요한 PC 앱, 지우려면 이렇게! [이럴땐 이렇게!] [1]	IT동아	11.18	5089	5
4535	[스케일업] 반프 [3] 정예솔 전략총괄 “반프의 가치, 글로벌 시장에서도 매력적”	IT동아	11.18	107	0
4534	[주간투자동향] 숨빗AI, 50억 원 규모 시드 투자 유치 外	IT동아	11.18	99	0
4533	[투자를IT다] 2024년 11월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	11.16	199	0
4532	[스케일업] 보라웨어 [2] 전영복ㆍ이효주 “구성원 복지ㆍ기업 성장이 공존하는 곳”	IT동아	11.15	193	0
4531	[생성 AI 길라잡이] 8종의 AI 모델 골라 쓰는 ‘SKT 에이닷’ 웹 버전	IT동아	11.15	181	0
4530	디지포레, “제조산업의 디지털 전환, ‘팩토리얼 프로’로 앞당길 것"	IT동아	11.15	174	0
4529	[리뷰] 모니터링 헤드폰의 새로운 기준점 제시, 소니 MDR-M1 [5]	IT동아	11.15	6191	1
4528	[2024 고려대] 스페이스점프 “자영업·소상공인 기자재의 모든 것, 소상공간”	IT동아	11.15	166	0
4527	퀄컴, 온디바이스 AI·차량 전동화에 초점 맞춘 최신 솔루션 선보여	IT동아	11.15	186	0
4526	[창업도약+경북대] 비빔블 “비커스ㆍ버튜디오로 상상 이상의 가상경험 제공할 것”	IT동아	11.15	143	0
4525	[AI와 미래] 기존 저작물은 AI 학습에 어디까지 활용할 수 있을까?	IT동아	11.15	1363	0
4524	[월간자동차] 24년 10월, 신차 등록 두 달 연속 증가…싼타페 판매 1위	IT동아	11.15	138	0
4523	[리뷰] 10G 업링크 지원 네트워크 스위치, 넷기어 GS108MX	IT동아	11.14	166	0
4522	데이터 주권 강조하는 소버린 AI, 진정한 의미는? [1]	IT동아	11.14	698	0
4521	[스케일업] 스쿨버스 [3] 통학버스 전문 플랫폼 개발자 인터뷰	IT동아	11.14	168	0
4520	[UDC 2024] 다양한 산업을 변화시키는 블록체인의 힘	IT동아	11.14	161	0
4519	로봇과 문화예술의 만남, 브이디컴퍼니x장 줄리앙의 종이세상	IT동아	11.14	317	0
4518	[IT애정남] 갤럭시워치를 아이폰과 연결해서 쓸 수 있나요?	IT동아	11.13	4653	0
4517	[신차공개] BMW ‘뉴 4시리즈 그란 쿠페’·로터스 ‘에메야’ 공식 출시 [3]	IT동아	11.13	4755	1
4516	[스타트업-ing] 오아시스 스튜디오 “OVP·오닉스·디보틀로 콘텐츠 에코시스템 구축”	IT동아	11.13	172	0
4515	[생활 속 IT] 취업 서류, 정부24에서 내려받는 법	IT동아	11.12	206	0
4514	기한 지나면 과태료…운전면허 적성검사 및 갱신 방법 살펴보니	IT동아	11.12	2385	3
4513	[창업도약+경북대] 준컴퍼니 “자동차 구매부터 판매까지 아우르는 모빌리티 통합 플랫폼 꿈꾼다”	IT동아	11.12	196	0
4512	[스케일업] 모넷코리아 [2] HDC랩스와 협업 통해 AIoT 기반 부동산 관리 플랫폼 고도화	IT동아	11.12	229	0
4511	[2024 고려대] R2C컴퍼니 “데이터 수요·공급자 만족 이끄는 플랫폼”	IT동아	11.12	647	0
4510	갤럭시 스마트폰의 위젯 기능, 제대로 쓰려면?	IT동아	11.12	255	1
4509	[AWS 인더스트리 위크 2024] 국내 금융/핀테크 기업에 AWS 솔루션은 이렇게 적용됐다 [1]	IT동아	11.11	2038	1
4508	'제조 스타트업 대상으로 소싱디렉팅·제품 제작까지'··· 서울과기대의 실질적 지원 들여다보니	IT동아	11.11	217	0
4507	[AWS 인더스트리 위크 2024] AWS가 실현하고 있는 인공지능 기술의 현재	IT동아	11.11	275	0
뉴스	나우어데이즈, 오늘(21일) ‘렛츠기릿’ 발매→홍대 버스킹 개최	디시트렌드	18:00

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

8비트 정수 연산의 속도와 반정밀도 부동소수점의 정교함 더한 NPU

그래픽 성능 개선 이룬 RDNA 3.5 내장 그래픽 처리장치

▶ 코파일럿+PC가 연 'AI PC 시대', 제조사 별 시장 전략은?▶ ‘AI PC 경쟁 이제부터’ AMD, 라이젠 AI 300ㆍ라이젠 9000 시리즈 CPU 공개▶ 그래프코어, 소프트뱅크에 인수·· 왜 왕년의 기대주는 추락했나

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결

▶ 코파일럿+PC가 연 'AI PC 시대', 제조사 별 시장 전략은?▶ ‘AI PC 경쟁 이제부터’ AMD, 라이젠 AI 300ㆍ라이젠 9000 시리즈 CPU 공개 ▶ 그래프코어, 소프트뱅크에 인수·· 왜 왕년의 기대주는 추락했나