디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

"소프트웨어·모델 효율이 NPU 성능 좌우···" 퓨리오사AI가 펼칠 전략은?

IT동아갤로그로 이동합니다. 2023.09.01 13:15:06
조회 87 추천 0 댓글 0
[IT동아 남시현 기자]

“대다수의 인공신경망 반도체(NPU)가 모델 컴프레션을 지원하지만, 기업에서 직접 시간과 인력을 투입해 개별 모델을 구축해야 해 활용도가 떨어진다. 퓨리오사AI는 이 문제를 제조사의 과제로 보고 직접 수백에서 수천 개의 모델을 최적화하고 매뉴얼처럼 배포할 계획이다. 이것이 퓨리오사AI가 알고리즘 팀을 운용하는 이유다”


고병건 퓨리오사 AI 알고리즘 팀 파트 리더가 1세대 반도체 ‘워보이(WARBOY)’를 들고 있다 / 출처=IT동아



AI 가속기, 인공지능 반도체에서 중요한 것은 하드웨어 성능이다. 인공지능을 설계하고 개발하기 위해서는 하드웨어의 성능이 좋아야 하고, 소프트웨어는 이를 활용하기 위한 도구에 가깝다. 하지만 효율이 좋고 뛰어난 하드웨어도 소프트웨어 지원이 미비하면 제성능을 낼 수 없다. 인텔 조차 ‘하드웨어는 25%, 소프트웨어가 75%’라는 기조로 인공지능 생태계를 구축하고 있다.

퓨리오사AI(FuriosaAI) 알고리즘 팀의 모델 컴프레션 파트를 이끄는 고병건 파트 리더도 인터뷰 내내 소프트웨어의 중요성을 강조했다. 왜 퓨리오사AI는 직접 소프트웨어 생태계를 만드는지, 또 모델 컴프레션 팀이 별도로 구성된 이유와 의미는 무엇인지에 들어볼 시간을 가졌다.

알고리즘 공학과 모델 압축, 인공지능 개발 효율 높이는 절차



퓨리오사AI의 알고리즘 팀은 애플리케이션 파트와 모델 컴프레션 파트로 나뉜다. 고 파트 리더의 경우 모델 컴프레션과 양자화 모델링 업무를 맡고 있다 / 출처=IT동아



고병건 파트 리더는 알고리즘 팀 소속으로 모델 컴프레션(압축), 양자화 모델링 업무를 맡고 있다. 올해로 10년차인 그는 증강현실 장치의 초소형 디스플레이 모듈을 만드는 팀으로 경력을 시작했고, 이후로 칩스앤미디어에서 심화학습을 활용해 초고화질을 개선하는 알고리즘 개발 업무를 맡았다. 알고리즘은 어떤 문제를 해결할 때 원하는 결과로의 출력을 유도하는 규칙의 집합인데, 인공지능 분야에서는 학습 및 처리 과정을 최적화하기 위해 사용된다.

이후 고병건 파트 리더는 성장하는 시장에 뛰어들겠다는 생각으로 이직을 결정했고, 낯설지만 성장 가능성이 충분한 인공신경망 반도체 업계에 알고리즘 엔지니어라는 직함으로 뛰어들었다. 현재 그는 알고리즘 제작은 물론 이를 효율적으로 압축하는 모델 컴프레션을 다루며, 더욱 미세한 단위로 알고리즘을 조정하는 양자화 모델링까지 진행하고 있다.


퓨리오사AI 알고리즘 팀 / 출처=퓨리오사AI



알고리즘 팀의 구성과 역할을 물어봤다. 고병건 파트 리더는 “퓨리오사AI의 알고리즘 팀은 NPU 위에서 동작하는 심화학습의 알고리즘을 최적화하는 엔지니어다. 팀은 크게 애플리케이션 파트와 모델 컴프레션 파트로 나뉜다. 애플리케이션 파트는 모델 알고리즘을 레퍼런스 키트로 구축하는 팀으로, 쉽게 말해 인공지능이 쓰이는 다양한 환경에서 바로 활용할 수 있는 기본 도구를 만드는 팀이다. 모델 컴프레션 파트는 모델을 말 그대로 압축하는 일을 하는데, 연산 자체는 그대로 두면서 알고리즘은 경량화해 연산 효율은 올리고 소비전력은 낮추는 역할을 한다”라고 대답했다.

“엔비디아와 비슷한 전략 추구··· 소프트웨어 제공에 방점”


현재 전 세계 인공지능 반도체 수요는 엔비디아가 80% 이상 독점하고 있다. 엔비디아의 그래픽 처리 유닛(GPU)이 단순 연산에 최적화된 장점도 있지만, 레퍼런스 키트와 모델 컴프레션 도구 등을 제공해 생태계를 닦아왔기에 가능한 결과였다. 덕분에 연구자들이 직접 모델을 만들고, 압축하는 과정까지 가능하다고 한다. 동종의 NPU 업계에서 잘 갖추지 않는 모델 컴프레션 팀을 구축한 이유도 퓨리오사AI가 엔비디아와 비슷한 전략을 추구하기 때문이다.

예를 들어 컴퓨터를 구매했으면, 이를 어떻게 활용할지는 구매자의 몫이다. 구매자가 특정 조건에 맞춰서 쓰려면 본인이 관련 기술을 습득하고 찾아야 한다. NPU를 활용하는 것, 그리고 이를 압축해서 효율화하는 과정도 모두 구매자의 역할이다. 엔비디아는 이 과정이 쉽도록 도구를 제공하는 수준인데, 퓨리오사AI는 한발 더 나아가 자주 쓰는 도구를 직접 개량해서 내놓겠다는 입장이다. 이미 퓨리오사AI는 국내 NPU 업계로는 유일하게 소프트웨어 개발 도구(SDK)를 제공하고 있고, 그다음 절차가 모델 컴프레션 킷이다.


퓨리오사AI가 제공하고 있는 NPU용 SDK 문서, 이용자 누구나 활용할 수 있다 / 출처=퓨리오사AI



고병건 파트 리더는 “인공지능 추론용 NPU 업계에서 모델 컴프레션 툴킷을 제공하는 경우는 거의 없고, 그마저도 초기 단계다. 엔비디아가 제공하긴 하나 진척도가 높진 않고, 퀄컴이나 인텔 정도가 압축용 툴킷을 제공하고 있다. 아마도 퓨리오사AI의 모델 컴프레션 진척도는 세 개 기업 다음 수준이라 보고 있다”라고 덧붙였다.

이 대목에서 퓨리오사AI의 철학을 엿볼 수 있다. 퓨리오사AI가 레퍼런스 키트나 모델 컴프레션 키트를 제공해도 그 자체로는 수익을 낼 수 없다. 그럼에도 불구하고 최적화된 모델을 제공하면 타사에 비해 유리한 고지를 차지할 수 있고, 연구자나 개발자가 관련 생태계에 쉽게 진입할 수 있다는 장점이 있다.

개별 기업의 경우 모델 개발과 모델 압축에 필요한 비용을 절감할 수 있고, 또 NPU를 효율적으로 운용할 수 있다는 장점이 있다. 특히나 하드웨어를 설계하는 쪽에서 직접 모델 컴프레션에 관여하다 보니 개별 기업이 진행하는 결과보다 훨씬 효율적이고 고차원적으로 추진할 수 있다는 점도 빼놓을 수 없다.

2세대 반도체 ‘레니게이드’에서 모델 컴프레션 진가 발휘



고병건 파트 리더는 2세대 반도체부터 본격적으로 모델 컴프레션 킷이 배포되고, 제대로된 성능을 제공할 것이라 말했다 / 출처=IT동아



고병건 파트 리더는 내년 초 공개될 2세대 반도체, 레니게이드를 위한 모델 컴프레션 키트 개발에 한창이다. 고병건 파트 리더는 “1세대 NPU 워보이의 가장 큰 강점은 SDK 제공이다. SDK가 있으면 컴퓨터 언어를 변환하는 컴파일 과정이 손쉽게 자동화된다. 또한 실질적으로 제공되는 값이 홍보용 수치가 아닌 실제 결괏값이기 때문에 고객이 원하는 결과를 그대로 받을 수 있다. 사용자가 맞춤형 개발을 할 수 있고, 스펙 경쟁이 아닌 효용성 관점에서 이득이다”라면서 “K-클라우드 프로젝트의 AI 바우처 사업에서 48%의 기업이 워보이를 선택한 이유에도 영향을 미쳤을 것”이라고 말했다.

이어서 “SDK가 준비돼있는 만큼, 2세대 NPU 레니게이드는 더욱 상위 계층의 소프트웨어를 활용할 수 있을 것이고, 또 모델 컴프레션 툴킷까지 완성돼 배포되면 활용도는 한층 높아질 것이다. 특히 레니게이드는 5nm 공정 기반의 빅칩이 탑재되고, 또 초고대역폭의 HBM3 메모리가 탑재돼 대형언어 모델은 물론 다양한 인공지능 연구에 높은 효율을 보일 것”이라고 덧붙였다.


고병건 파트 리더는 NPU 개발 과정을 다양한 악기 연주가 하나의 화음을 이루는 오케스트라와 같다고 말했다 / 출처=IT동아



레니게이드를 만들어가는 과정도 알고리즘 개발 측면에서 강점이라고 말한다. 고병건 파트 리더는 “알고리즘의 효율을 높이려면 개발 과정 전반에 개입하고 최적화해야 한다. 퓨리오사AI는 프로덕트, 디자인, 하드웨어, 소프트웨어, 데이터 등 서로 다른 개발팀이 긴밀하고 정밀하게 조율하며 NPU를 설계하고 있어서 알고리즘 팀이 개입하기가 수월하다. 물론 알고리즘 자체가 시스템 설계보다 추상적이므로 모든 절차에서 적절하게 소통해야 하는데, 팀 자체가 유기적으로 개입할 수 있어서 효율적으로 작업에 임하고 있다”라고 말했다.

“인공지능 상용화할수록 NPU가 친환경 기술로 떠오를 것”



고병건 파트 리더는 개인적으로도, 회사 입장에서도 NPU가 인공지능 대중화 시대에 친환경 기술이 될 것이라고 말한다 / 출처=IT동아



마지막으로 고병건 파트 리더는 인공지능 업계 엔지니어로서의 역할과 사명감에 대해 말했다. 고병건 파트 리더는 “내가 퓨리오사AI를 선택한 이유는 기후위기, 그리고 탄소중립과 관련돼 있다. 인공지능이 발전하면 심화학습에 대한 수요는 늘 수밖에 없고, 전력이나 자원 소모량도 커질 것이다. 심화학습 알고리즘의 규모도 매년 커지고 있고, 이를 효율적으로 구동하는 게 점점 더 중요해지는 상황”이라면서, “머지않아 NPU와 최적화된 모델이 GPU와 비효율적 모델을 대신하는 친환경, 지속가능한 기술로 인식될 것이다. 지금 이 길이 새로운 시장과 기후 위기를 극복하는 길이라는 확신을 갖고 이 일을 해 나갈 것”이라며 대화를 마무리했다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ 챗GPT로 쏘아올린 생성형 AI 경쟁, 기업용 업무 시장에서 맞붙는다▶ [뉴스줌인] 딥러닝 시장 겨냥한 PNY 그래픽카드, 일반 제품과의 차이점은?▶ 글로벌 IT 리더 절반이 'AI 인프라 부족' 지적··· 노트북부터 AI 탑재 시작



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 연인과 헤어지고 뒤끝 작렬할 것 같은 스타는? 운영자 24/04/22 - -
3094 [이제는 전북 콘텐츠] 콘텐츠 스타트업에게 필요한 것을 지원합니다 IT동아갤로그로 이동합니다. 23.10.30 80 0
3093 [주간투자동향] 모레, 2200만 달러 규모의 시리즈B 투자 유치 IT동아갤로그로 이동합니다. 23.10.30 82 0
3092 [KIDP 울산] 트레비어 “수제맥주 양조장을 통해 문화를 전달하고 싶습니다” IT동아갤로그로 이동합니다. 23.10.27 89 0
3091 [리뷰] 과감함보다는 내부적 혁신에 주력, 아이폰 15 프로 맥스 IT동아갤로그로 이동합니다. 23.10.27 1151 6
3090 [리뷰] 주변 상황 파악이 필요한 상황에 제격, 무선 이어폰 샥즈 오픈핏 IT동아갤로그로 이동합니다. 23.10.27 127 0
3089 [이제는 전북 콘텐츠] 콘텐츠 창작자를 위한 ‘전문 교육’을 제공합니다 IT동아갤로그로 이동합니다. 23.10.27 85 0
3088 동유럽 의료 공급망 변화, 수출 기회 확대로 이어지나[K비즈니스 가이드] IT동아갤로그로 이동합니다. 23.10.27 81 0
3087 [스타트업-ing] 알밤 “재미있는 소근육 운동 게임 ‘잼재미AR’을 만듭니다” IT동아갤로그로 이동합니다. 23.10.27 72 0
3086 지능형 교통체계(ITS)...‘클라우드’ 접목으로 진화한다 [2] IT동아갤로그로 이동합니다. 23.10.27 1147 0
3085 [스케일업] 에쓰오일이 단·차열 페인트 기업 이유씨엔씨에 투자한 사연 IT동아갤로그로 이동합니다. 23.10.26 74 0
3084 [IT신상공개] 스마트폰 진화 이끌 ‘퀄컴 스냅드래곤 8 3세대’ IT동아갤로그로 이동합니다. 23.10.25 258 2
3083 [서울형 R&D] 에니아이 황건필 대표, “로봇이 햄버거 패티를 굽습니다” IT동아갤로그로 이동합니다. 23.10.25 76 0
3082 [IT 강의실] 비트코인 시세 상승 원동력 ‘비트코인 ETF’ IT동아갤로그로 이동합니다. 23.10.25 186 3
3081 [KIDP 울산] 볼로랜드 “드론 스테이션으로 UAM 시대 개척” IT동아갤로그로 이동합니다. 23.10.25 77 0
3080 시그마케이, "AI·실감 시각화 기술로 새 시장 열 것" [스타트업in과기대] IT동아갤로그로 이동합니다. 23.10.25 65 0
3079 가상자산법 시행령·2단계 법안을 위한 제언 '불명확성 해소 필요' IT동아갤로그로 이동합니다. 23.10.24 68 0
3078 [KTVF] 솔루투스 강승우 대표 “보험상품 약관을 일상언어로” IT동아갤로그로 이동합니다. 23.10.24 548 1
3077 [스타트업-ing] 지티엘 “항공기, UAM 첨단 부품 맡겨주세요” IT동아갤로그로 이동합니다. 23.10.24 62 0
3076 [르포] 현직 교사들이 직접 선보인 ‘미래 교육 청사진’…‘링크 페스타’ 현장 [2] IT동아갤로그로 이동합니다. 23.10.24 430 0
3075 [뉴스줌인] ‘그래핀’으로 만들었다는 써멀 패드, 뭐가 다를까? IT동아갤로그로 이동합니다. 23.10.23 67 0
3074 [과기대 S-Run] 제조·디자인 컨설팅으로 진입 장벽 부수는 '소싱 디렉팅' [1] IT동아갤로그로 이동합니다. 23.10.23 799 0
3073 [리뷰] 한층 다듬어진 폴더블폰 대표주자, 삼성 갤럭시 Z 폴드5 IT동아갤로그로 이동합니다. 23.10.20 188 1
3072 벤처기업 창업자의 경영권 보호하는 ‘복수의결권’ IT동아갤로그로 이동합니다. 23.10.20 73 0
3071 [리뷰] 의외로 편한 케이스 디스플레이, JBL 투어 프로 2 [4] IT동아갤로그로 이동합니다. 23.10.20 1321 0
3070 [KIDP 울산] 우시산 “소셜 업사이클링 모범 사례 전파” IT동아갤로그로 이동합니다. 23.10.20 63 0
3069 이노모티브 김종배 대표, “공유형 배터리로 공간에 이동을 연결합니다” IT동아갤로그로 이동합니다. 23.10.20 67 0
3068 AMD, 젠4 기반 '스레드리퍼 프로 7000 WX' 출시, HEDT용 제품군도 부활 [1] IT동아갤로그로 이동합니다. 23.10.20 787 0
3067 "국내 최초 NPU 활용 해커톤, 퓨리오사AI의 진심 보여드리겠다" IT동아갤로그로 이동합니다. 23.10.19 331 0
3066 340조 규모 전 세계 디지털 의류 시장 조준한 '알타바그룹' IT동아갤로그로 이동합니다. 23.10.18 63 0
3065 뉴타닉스, 하이브리드∙멀티 클라우드 비전 담은 ‘닷넥스트’ 서울 행사 개최 IT동아갤로그로 이동합니다. 23.10.18 55 0
3064 [IT애정남] 지연 현상 줄인 무선 게이밍 이어폰, 비결은 ‘2.4GHz 무선 연결’ IT동아갤로그로 이동합니다. 23.10.18 114 0
3063 [스타트업-ing] 밥상머리디자인 “어린이가 즐겁게 배우는 교육용 완구 만든다” IT동아갤로그로 이동합니다. 23.10.18 50 0
3062 aCFD 연구센터, "연구·특허의 상업화, 창업보육센터가 큰 보탬" [스타트업in과기대] IT동아갤로그로 이동합니다. 23.10.18 91 0
3061 [KIDP 울산] 옛간 “참기름에 이야기·브랜드 담아 세계 식품 기업으로” [1] IT동아갤로그로 이동합니다. 23.10.18 647 0
3060 ‘2023년 소상공인시장진흥공단 경기남부지역본부 수출 소공인 글로벌 품평회’ 성료 IT동아갤로그로 이동합니다. 23.10.17 49 0
3059 [IT강의실] 헷갈리기 쉬운 ‘멀티 페어링’과 ‘멀티 포인트 페어링’ IT동아갤로그로 이동합니다. 23.10.17 797 2
3058 ‘완전 방전 후 충전?’ 휴대기기 배터리 오래 쓰려면[이럴땐 이렇게!] [3] IT동아갤로그로 이동합니다. 23.10.16 1229 1
3057 [주간투자동향] 엘피스셀테라퓨틱스, 40억 원 규모 시리즈A 투자 유치 IT동아갤로그로 이동합니다. 23.10.16 84 0
3056 하나뿐인 ‘나만의 디자인’ 제품화 돕는 ‘소랑디자인’ [스타트업in과기대] IT동아갤로그로 이동합니다. 23.10.13 139 0
3055 녹색성장 가속하는 아세안, 키워드는 ‘그린 인프라’[K비즈니스 가이드] IT동아갤로그로 이동합니다. 23.10.13 77 0
3054 [서울형 R&D] 카비랩 김무섭 이사 “골절 수술 계획을 인공지능으로” IT동아갤로그로 이동합니다. 23.10.13 144 0
3053 [리뷰] ESG 시대의 ‘착한’ 키오스크, LG 키오스크 27KC3PN IT동아갤로그로 이동합니다. 23.10.13 200 0
3052 [IT애정남] 운동용 이어폰의 특징 ‘고정력·내구성’ IT동아갤로그로 이동합니다. 23.10.13 84 0
3051 [IT애정남] 윈도우, 개인자료만 남기고 초기화 되나요? [9] IT동아갤로그로 이동합니다. 23.10.13 4190 5
3050 [농업이 IT(잇)다] 쿼드비 “프로젝트라이프로 맞춤형 기능성 식품 전개" IT동아갤로그로 이동합니다. 23.10.13 76 0
3049 다이슨, 젖은 머리에 바로 쓰는 고데기, ‘에어스트레이트 스트레이트너’ 내놨다 IT동아갤로그로 이동합니다. 23.10.12 169 0
3048 KOAT ‘농식품 창업 콘테스트’ 결선 성료···대상 ‘미스터아빠’ IT동아갤로그로 이동합니다. 23.10.12 75 0
3047 "니콘 Z f에 디자인 유산 담았다··· 제품 가치와 성능 더 높일 것" IT동아갤로그로 이동합니다. 23.10.12 76 0
3046 AI 고도화를 위한 IoT와의 만남, ‘2023 AIoT 국제전시회’ 이모저모 IT동아갤로그로 이동합니다. 23.10.11 370 0
3045 한국은행, CBDC 활용 사례 테스트 ‘기관용 CBDC로, 일반인 실거래까지’ IT동아갤로그로 이동합니다. 23.10.11 87 1
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2