디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

백준호 퓨리오사AI 대표 "AI 반도체, 지속가능성 고려한 설계 필요"

IT동아갤로그로 이동합니다. 2023.11.16 17:17:19
조회 162 추천 0 댓글 0
[IT동아 남시현 기자] 11월 16일, 글로벌 반도체 설계자산 기업 Arm이 인터컨티넨탈 서울 코엑스 호텔에서 ‘Arm 테크 심포지아(Tech symposia)’ 행사를 개최했다. 이번 행사는 Arm의 반도체 자산을 소개함과 더불어 국내외 반도체 공급망 체인의 다양한 파트너사를 조명하기 위해 개최됐다.

행사는 이안 스미스(Ian Smythe) Arm 프로덕트 마케팅 부사장의 기조연설을 시작으로 백준호 퓨리오사AI 대표, 백준현 자람 테크놀로지 CEO가 파트너사 키노트를 맡았으며, 사이먼 텡 Arm 오토모티브 사업부 GTM(Go-To-Market) 아태지역 시니어 디렉터가 심층 세션을 진행했다.


11월 16일, 인터컨티넨탈 서울 코엑스 호텔에서 Arm 테크 심포지아 행사가 열렸다 / 출처=IT동아



아울러 Arm, LG전자, MDS 테크, 르네사스, 딥엑스 등 핵심 파트너 기업들이 기술 트랙을 진행했으며, 르네사스, MDS테크, 리얼텍, 노타AI, 휴인스, GUC, 기가디바이스, 가온칩스, 코아시아, 케이던스, 에이작랜드 등이 부스를 마련했다. 아울러 Arm과 중소벤처기업부, 서울대학교가 함께하는 ‘Arm 플렉시블 액세스’ 지원 기업들도 기술을 소개하는 자리를 가졌다.

백준호 퓨리오사AI 대표 “에너지 효율, 지속가능성을 위해 중요”



백준호 퓨리오사 AI 대표가 NPU에 대한 기술 개요를 설명하고 있다 / 출처=IT동아



퓨리오사AI는 인공지능 애플리케이션을 효율적으로 처리하기 위한 데이터센터용 AI 반도체를 개발하는 팹리스 기업이다. 백준호 대표는 ‘챗GPT를 위한 프로그래머블이 가능한 고성능·고효율 AI 추론 칩’을 주제로 발표를 진행했다. 백준호 대표(이하 백 대표)는 “GPT 모델 처리하는 과정을 단순화하면 96개의 디코더라는 블록들을 1만 곱하기 5만 정도의 연산을 구동하는 수준이다. 현재는 이 연산을 분할하고 병렬로 나눠서 처리하고 있는데 이를 어떻게 효율화할지가 업계의 과제”라며 발표를 시작했다.


백 대표는 프로그래밍 및 확장성, 와트당 성능, 손쉬운 전개 세 가지 요소를 핵심으로 꼽았다 / 출처=IT동아



백 대표는 “다양한 AI 모델들이 더 정확한 결과를 내는 방향으로 발전하고, 이를 보조하는 모델들이 결합되어서 새로운 앱 형태로 진화하고 있다. 퓨리오사AI는 대규모 데이터 처리를 위한 프로그래밍 및 확장성 확보, 우수한 와트당 성능, 대규모 클라우드 및 온프레미스 환경에서의 손쉬운 전개 세 가지 요소를 중점적으로 보고 칩을 만들고 있다”라고 말했다.


퓨리오사AI는 현재 1세대 칩인 워보이를 양산하고 있고, 내년 2분기에 2세대 칩인 레니게이드를 출시한다 / 출처=IT동아



이런 기준으로 만들어진 제품이 인공신경망 반도체(NPU)인 워보이고, 내년 2분기를 목표로 곧 2세대 칩인 레니게이드를 출시할 예정이다. 백 대표는 “1세대 칩은 컴퓨터 비전 영역에서 처리하는 데 중점을 뒀고, 2세대 칩은 AI 작업을 모두 포괄할 수 있다. 레니게이드는 현시점에서 AI 반도체로는 몇 안 되는 HBM3 기반 하드웨어로, 대형언어모델과 생성형 AI는 물론 전력 효율 측면에서 우수한 제품이 될 것”이라고 설명한다.

NPU로 저전력·고성능 다 잡을 것


백 대표가 제시한 2세대 칩 레니게이드의 성능 표에 따르면, 레니게이드는 인공지능 연산을 처리하는 속도가 BF16 기준 256테라플롭스며, FP8 기준 512테라플롭스 수준이다. 메모리는 초당 1.5TB 대역폭의 HBM3 48GB를 탑재하며, 소비전력은 150W 수준이다. 이는 구글의 TPU나 AWS의 인퍼런시아 2와 비교해도 연산 성능은 더 높으면서, 소비전력은 더 적은 수준이다.


2세대 칩 레니게이드 및 레니게이드-S와 타사 AI 반도체와의 성능 비교 / 출처=IT동아



가장 수요가 많은 엔비디아 H100의 경우 레니게이드보다 성능이 세배 가량 높지만, 소비 전력도 350W로 높다. 하지만 H100의 대당 가격이 6~7천 만원에 육박하는 것을 감안하면 실질 효율에서는 큰 차이가 날 수 있다.

퓨리오사AI는 하드웨어 뿐만 아니라 소프트웨어의 역할도 중요하게 본다. 백 대표는 “우리 역시 소프트웨어의 역할을 중요하게 보고, 상위 수준에서는 파이토치 2.0과 오닉스 등 대중적인 도구를 지원하고, 하드웨어 수준에서는 보다 추상적인 기술 모델들을 꾸준히 추가하는 방식으로 솔루션을 제공할 것이다”라고 덧붙였다. 실제로 퓨리오사AI는 1세대 반도체용 소프트웨어 개발 도구(SDK)를 배포하고 있으며, 추후 AI 모델을 직접 효율화, 최적화해서 제공할 계획이다.

마지막으로 백준호 대표는 “AI 코어를 효율적으로 다룰 수 있고, 또 연산 처리를 어떻게 소비 환경에 맞출 것인지에 대한 계획을 구상하고 있다. 장기적으로는 Arm의 네오버스 컴퓨팅 서브시스템(CSS) 플랫폼 등 업계 표준 절차를 참고해 CPU와 NPU의 구성을 유기적으로 합칠 수 있으리라 본다”라고 정리했다.

Arm, 표준 생태계로 AI 시장 지배력 강화 나서



이안 스미스(Ian Smythe) Arm 프로덕트 마케팅 부사장이 엔비디아 GH 그레이스 호퍼 슈퍼칩이 Arm의 네오버스 컴퓨팅 서브시스템을 기반으로 설계됐다고 설명하고 있다 / 출처=IT동아



반도체 업계는 빠르게 변하는 시장의 요구사항을 반영하면서도, 최적화된 효율과 소비전력을 모두 만족하는 방법을 마련하기 위해 설계 과정을 표준화하는 추세다. 올해 6월 공개된 엔비디아의 GH200 그레이스 호퍼 슈퍼칩도 Arm의 네오버스 컴퓨팅 서브시스템을 네 개로 묶은 다음, 엔비디아의 GPU를 결합해 개발 속도를 끌어올렸다.

특히 네오버스는 범용 컴퓨팅 플랫폼이어서 추후 새로운 세대가 나오면 기존의 바탕을 토대로 빠르게 업그레이드할 수 있다. 퓨리오사AI가 CSS에 관심을 가지는 이유도 이 때문일 것이고, 또 이렇게 효율적이고 통일된 방안을 활용해야 업계 전반이 지속가능성을 실천할 수 있을 것이다.

Arm 테크 심포지아 서울은 16일에 종료되며, 추후 중국 심천, 베이징, 상하이에서 이어서 열릴 예정이다. Arm 테크 심포지아에 대한 자세한 정보는 Arm 홈페이지를 통해 확인할 수 있다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ CPU 도전하는 엔비디아, GPU 대체나선 인텔··· 격랑에 빠진 AI 반도체 시장▶ 고샤양 게임에서 필수된 DLSS, 엔비디아 왕좌 굳힌다▶ "국내 최초 NPU 활용 해커톤, 퓨리오사AI의 진심 보여드리겠다"



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 가족과 완벽하게 손절해야 할 것 같은 스타는? 운영자 24/06/24 - -
3188 [과기대 S-Run] 제조 스타트업에게 가장 중요한 ‘시제품 제작 지원’ IT동아갤로그로 이동합니다. 23.11.29 102 0
3187 AWS, 생성형 AI 베드록·새 AI 반도체로 '초가속'한다 [AWS 리인벤트 2023] [3] IT동아갤로그로 이동합니다. 23.11.29 1331 3
3186 [그때 그 IT] 모빌리티 판례 (3) 타다 서비스 여객자동차법 위반 무죄 IT동아갤로그로 이동합니다. 23.11.28 93 0
3185 [스타트업-ing] 터널 속에서도 차량의 정확한 위치 파악 돕는 ‘씨너렉스’ IT동아갤로그로 이동합니다. 23.11.28 95 0
3184 [마인드테크 시대가 온다] 6. 마인드상태 인식, 알 수 없는 마음 IT동아갤로그로 이동합니다. 23.11.28 132 0
3183 세계 최대 클라우드 행사 시작··· 이목은 'AI'에 집중 [AWS 리인벤트 2023] IT동아갤로그로 이동합니다. 23.11.28 261 1
3182 [인터뷰] ‘지능형 교통체계 도시상’ 선정 ‘안양시’…기술 고도화의 배경은? IT동아갤로그로 이동합니다. 23.11.27 92 0
3181 내게 맞는 노트북, 선택하려면 이렇게![이럴땐 이렇게!] [5] IT동아갤로그로 이동합니다. 23.11.27 1210 1
3180 [주간투자동향] 임프리메드, 300억 원 규모의 시리즈A 투자 유치 IT동아갤로그로 이동합니다. 23.11.27 326 0
3179 [뉴스줌인] 데이터센터용 SSD ‘나이트로’ 시리즈, 뭐가 다를까? IT동아갤로그로 이동합니다. 23.11.24 192 0
3178 [르포] ‘지능형 교통체계’로 도시 안전 강화·자율주행 시대 준비하는 ‘안양시’ IT동아갤로그로 이동합니다. 23.11.24 117 0
3177 [KTVF] 이노디테크 “투명 교정 장치·AI 협동진료 지원 시스템 통한 치아교정 대중화가 목표” IT동아갤로그로 이동합니다. 23.11.24 881 0
3176 [과기대 S-Run] 혁신 도전하는 제조창업기업, 시제품 제작 지원으로 뒷받침한다 IT동아갤로그로 이동합니다. 23.11.24 146 0
3175 [KIDP 울산] 우시산·한국몰드 “소셜 업사이클링으로 사회 기여” IT동아갤로그로 이동합니다. 23.11.24 107 0
3174 [스타트업-ing] 테서 “의료 정보 불균형 해소하는 검사 결과 해석·번역 서비스 ‘온톨’” [1] IT동아갤로그로 이동합니다. 23.11.24 984 1
3173 배달·순찰 로봇 인도통행 허용…안전운행 담보할 기술은? [3] IT동아갤로그로 이동합니다. 23.11.23 546 0
3172 테이프 붙은 상자도 재활용? 칼렛바이오 스텝포넷제로 리펄프 테이프[스타트업리뷰] [4] IT동아갤로그로 이동합니다. 23.11.23 1071 6
3171 정영범 퓨리오사AI 이사 "내년 2분기 2세대 칩 출시··· 완벽한 데뷔에 사활" IT동아갤로그로 이동합니다. 23.11.23 124 0
3170 윤석찬 AWS 수석 “AWS 게임데이 LoL 에디션, 머신러닝 서비스 구축 기회 제공” IT동아갤로그로 이동합니다. 23.11.23 115 0
3169 '중고거래 싸움 줄어들까'··· 당근, '분쟁조절센터'로 거래 분쟁 중재 나서 IT동아갤로그로 이동합니다. 23.11.22 119 0
3168 [서울형 R&D] 루키스 홍정호 이사 “고독사 위험을 효율적으로 관리할 수 있습니다” [1] IT동아갤로그로 이동합니다. 23.11.22 564 0
3167 [스타트업-ing] 트윈피그바이오랩 "FDA 희귀의약품, 면역항암제 개발 박차" IT동아갤로그로 이동합니다. 23.11.22 1097 0
3166 [스타트업-ing] 에듀캔버스 “적성·진로, 종합 진단으로 개인 맞춤형 교육 제공합니다” IT동아갤로그로 이동합니다. 23.11.22 540 0
3165 금융위, 가상자산 사업자 영업 종료 시 “최소 1개월 전 공지할 것” IT동아갤로그로 이동합니다. 23.11.21 115 0
3164 "기술 몰라도 AI 활용? 초광역 GPT-AI 창업경진대회로 증명" IT동아갤로그로 이동합니다. 23.11.21 117 0
3163 서울과학기술대학교, 창업 생태계 교류 위한 ‘2023 창업연합 메이커 심포지엄’ 개최 IT동아갤로그로 이동합니다. 23.11.21 102 0
3162 [IT신상공개] 웨스턴디지털, 28TB 하드디스크로 용량 기록 경신 IT동아갤로그로 이동합니다. 23.11.21 109 0
3161 [스케일업] 위닝아이 [3] 금융결제원이 인증한 비접촉 생체 인식 기술 [1] IT동아갤로그로 이동합니다. 23.11.21 888 1
3160 [과기대 S-Run] 제조창업의 시제품 제작 지원, 산업의 흐름 바꾼다 IT동아갤로그로 이동합니다. 23.11.21 148 0
3159 해외 쇼핑몰 직구는 이렇게~![이럴땐 이렇게!] [4] IT동아갤로그로 이동합니다. 23.11.20 3657 6
3158 [뉴스줌인] 속도 2배? 커세어의 PCIe 5.0 지원 신형 SSD [17] IT동아갤로그로 이동합니다. 23.11.18 5163 1
3157 전북콘텐츠융합진흥원, '2023 디지털 이노베이션 어워즈' 특별상 수상 IT동아갤로그로 이동합니다. 23.11.17 142 0
3156 세계 농산업계 “친환경 농산물이 미래, 기술로 강화” [1] IT동아갤로그로 이동합니다. 23.11.17 193 0
3155 [자동차 디자人] 슈퍼카 대명사 ‘람보르기니’ 디자인 책임자 ‘밋챠 보커트’ IT동아갤로그로 이동합니다. 23.11.17 884 0
3154 ‘코로나 마스크’ 덕 본 글로벌 콘택트렌즈 시장, 이후에도 ‘기대’[K비즈니스가이드] [6] IT동아갤로그로 이동합니다. 23.11.16 2127 0
3153 [스타트업-ing] 재활용 흡음재로 유니콘 꿈꾸는 '노이즈엑스' [1] IT동아갤로그로 이동합니다. 23.11.16 1688 2
백준호 퓨리오사AI 대표 "AI 반도체, 지속가능성 고려한 설계 필요" IT동아갤로그로 이동합니다. 23.11.16 162 0
3151 2023 하반기 빅웨이브가 선택한 바이오·딥테크 스타트업 IT동아갤로그로 이동합니다. 23.11.16 113 0
3150 [스타트업人] 장기지속형 약물 전달 플랫폼 제제 연구, 티온랩테라퓨틱스 연구원 이야기 IT동아갤로그로 이동합니다. 23.11.16 114 0
3149 LG디스플레이 오픈이노베이션 '2024 Dream Play' 6기 스타트업 모집 IT동아갤로그로 이동합니다. 23.11.16 119 0
3148 中 “2024 최고 카메라폰 지위 내 것”...점유율 확대 과제도 [5] IT동아갤로그로 이동합니다. 23.11.16 556 3
3147 개조부터 구독까지…전기차 활용 범위 확대의 배경 ‘버츄얼 트윈·클라우드’ IT동아갤로그로 이동합니다. 23.11.15 323 0
3146 정부 주도 블록체인 서비스 개발 현황 공유 ‘블록체인 진흥주간’ IT동아갤로그로 이동합니다. 23.11.15 117 0
3145 [리뷰] 전문가용 GPU 시장에 경종을 울리다, AMD 라데온 프로 W7700 [11] IT동아갤로그로 이동합니다. 23.11.15 958 2
3144 구글 클라우드 “생성형 AI 통한 비즈니스 혁신 도울 것” [1] IT동아갤로그로 이동합니다. 23.11.14 240 0
3143 그림·사진에 영화, 음악까지…인공지능 예술계 강타 [92] IT동아갤로그로 이동합니다. 23.11.14 4549 9
3142 에스티어스 "학교 굿즈 통해 브랜딩·애교심 강화에 기여" [스타트업in과기대] IT동아갤로그로 이동합니다. 23.11.14 140 0
3141 가상자산 산업 “세부적이고 정확한 규제 필요” IT동아갤로그로 이동합니다. 23.11.14 433 0
3140 외국어 문장 번역이 필요할 땐 이렇게![이럴땐 이렇게!] IT동아갤로그로 이동합니다. 23.11.13 200 0
3139 [스텝포넷제로] 대구경북능금농협, “사과 포장박스를 친환경 포장재로 바꾸고 있습니다” IT동아갤로그로 이동합니다. 23.11.13 146 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2