퓨리오사AI가 연 NPU 해커톤 가보니··· '새로운 AI 시장·생태계 태동에 기여'

IT동아 · 2023.12.07 17:58:04

[IT동아 남시현 기자] NPU(Neural Processing Unit)는 직역하면 신경망 처리 장치라는 뜻이다. 오늘날 인공지능(이하 AI) 개발에 필요한 연산은 부동소수점 연산에 특화된 GPU(Graphic Processing Unit)로 이뤄지는데, 범용성이 높지만 전력 효율이 낮고 유지 비용은 높은 게 단점이다. 이를 해결하기 위한 해결책이 NPU다. GPU가 당초 그래픽을 처리하기 위한 기능을 변칙적으로 쓰는 경우라면, NPU는 구조 자체가 AI 연산에 최적화된 전용 반도체다.

구글이나 오픈AI, 스태빌리티.ai 등 주요 AI 기업들도 장기적으로는 전용 AI 전용 반도체를 도입할 계획이다. 문제는 GPU의 하드웨어나 소프트웨어 생태계가 수십 년에 걸쳐 완성된 탓에 쉽게 대체하기가 어렵다는 데 있다. AI 반도체 개발 하는 기업 입장에서는 하드웨어 뿐만이 아니라 소프트웨어, 활용 사례 등의 생태계까지 GPU를 대체할 수 있다는 가능성을 보여주어야 한다.

퓨리오사AI는 지난 11월 25일에서 26일 사이, 국내 최초 NPU 기반 AI 해커톤을 개최했다 / 출처=IT동아

지난 11월 25일, 퓨리오사AI가 국내 최초 NPU 활용 해커톤을 개최한 이유도 NPU 기반의 생태계를 조금이라도 더 알리기 위함이다. NPU 해커톤은 총 천 명이 넘는 예선 참가자가 경쟁한 끝에 40여 명의 본선 참가자가 합류해 진행하였으며, 국내 인공지능 업계 관련 종사자 및 엔지니어들이 직접 NPU를 활용함으로써 새로운 시장 가능성과 생태계를 제시하기 위해 개최됐다.

퓨리오사AI의 해커톤, 국내 AI 생태계에 새로운 도전과제 제시

퓨리오사AI 백준호 대표는 “퓨리오사AI는 NPU 위에서 강력한 AI들이 잘 구동되고, 지금보다 더 높은 전력 효율성을 제공하는 것을 목표로 하고 있다. 지금 이 자리에 모인 개발자분들이 NPU를 통해 새로운 기회를 만나고, 우리의 상상력을 더해 미래를 바꿀 AI 앱을 개발하도록 지원하려 한다. 이번 해커톤을 통해 새로운 인연과 즐거운 추억, 원하는 성과를 얻어가시길 바란다”라며 개회를 선포했다.

해커톤에 앞서 참가자들이 각자의 의견과 기술을 나누고 팀을 구축하는 팀빌딩을 진행했다 / 출처=IT동아

팀 빌딩은 프로덕트 매니저(이하 PM), 프론트앤드, 백앤드, AI 엔지니어로 각각 열명씩 40여 명의 참가자가 서로의 의견을 주고받으며 팀을 구축하는 과정이다. 20분의 짧은 시간이 주어졌지만 구성 인원 모두가 전문가인 만큼 빠르게 프로덕트 매니저의 구상을 듣고, 본인이 할 수 있는 임무인지 아닌지를 판단하고 팀을 구축했다.

가장 먼저 팀을 구성한 파이브가이즈 팀의 이성원 PM은 “영어 학습 프로덕트를 기본 주제로 하며, 시선 추적으로 학생들이 모르는 단어를 추출한 다음 수준별 학습을 제공하는 것을 목표로 한다. 아이디어에 동조한 분들이 빠르게 의사를 결정해 가장 먼저 팀을 구성할 수 있었다”라고 말했다.

비전 기반 NPU ‘워보이’로 과제··· 어떤 아이디어 나왔나?

퓨리오사AI의 1세대 반도체 ‘워보이’ / 출처=IT동아

퓨리오사AI의 1세대 반도체인 워보이는 컴퓨터 비전, 즉 시각적 처리에 특화된 하드웨어다. 따라서 어떤 주제든 나올 수 있는 GPU와 달리, 시각적 요소와 관련된 AI를 주제로 한다. 하드웨어 자원은 각 팀별로 워보이 NPU와 앨리스 클라우드가 각각 제공됐다.

아울러 참가자들은 사전에 퓨리오사AI에서 제공한 소프트웨어 개발 도구(SDK) 관련 교육을 이수했다. SDK는 서비스를 개발할 때 필요한 도구와 기능을 모은 키트로, 제조사의 역량에 따라 제공되지 않는 경우도 있다. 반면 퓨리오사AI는 SDK를 깃헙(Github) 등의 커뮤니티에 사전 제공하고 있고, 그에 따른 교육 체계 및 도구가 마련되어 이번 해커톤도 개최할 수 있었다.

투피엠 팀이 해커톤 초입에서 기획 회의를 하고 있다 / 출처=IT동아

아울러 NPU 관련 기술에 생소한 참가자들의 기술 수준을 고려해 각 팀당 1회씩 전문가의 멘토링 과정도 제공됐다. 개발하는 프로젝트는 △ 작업의 명확성과 일정의 치밀함을 따지는 기획성 △ 창의성 △ 전문 기술 △ 기술적, 미적 요소를 고려한 완성도 △ 개발한 프로덕트의 산출값 및 비용 절감 등을 고려하는 경제성 등을 중심으로 평가했다.

해커톤은 △ 미어캣 팀 △ 피부에양보해 팀 △ 파이브가이즈팀 △ 퓨리포터 팀 △ 페이버릿 팀 △ 저쩌다 모인팀 △ 플랜티 팀 △ 투피엠 팀 △ 신촌놈들 팀까지 총 아홉 개 팀이 총 36시간에 걸쳐 서비스를 만드는 것으로 경쟁을 했다.

실시간 블러 처리 만든 ‘퓨리포터’팀 우승·· 이외 세 팀 최우수상 수상

36시간에 걸친 경합 끝에 우승은 라이브 스트리밍에서 안면 인식 기술을 활용해 자동으로 사람 얼굴을 블러(모자이크) 처리하는 기술 ‘블러 AI’를 개발한 퓨리포터 팀에게 돌아갔다.

제1회 퓨리오사AI 해커톤은 라이브 스트리밍에 대해 실시간 블러 처리 기술을 적용한 퓨리포터 팀에게 돌아갔다 / 출처=IT동아

퓨리포터 팀은 프라이버시 침해는 물론 범죄 및 전쟁 현장 등의 트라우마를 야기할 수 있는 콘텐츠의 무분별한 확산을 막기 위해 블러 AI를 개발했다. 박희빈 PM은 “블러 AI를 활용한 블러 처리는 기존 서비스와 비교해 ⅓ 가량 저렴하고, 3200배까지 빠르다”는 점을 강조했고, 윤리성과 경제성을 동시에 만족해 높은 평가를 받았다.

퓨리포터 팀의 이동현 AI 엔지니어는 “모델 경량화 과정에서 석사 과정을 밟고 있고, NPU를 써본 것은 이번이 처음이다. 대회 전 받은 SDK 교육 등의 과정이 큰 도움이 되었다”라면서, “제작 과정에서 어려움이 있었지만 우선순위를 잘 조절해 위기를 넘길 수 있었고, 아침 해가 뜨는 순간까지 팀원들과 합을 맞춘 덕분에 블러 AI 개발을 완수할 수 있었다”라고 참여 소감을 밝혔다.

카셰어링 차량 대여 및 반납 시 파손 유무를 자동으로 확인하는 AI를 만든 저쩌다 모인팀 / 출처=IT동아

안면 인식 기술을 바탕으로 피부진단 서비스를 만든 피부에 양보해 팀 / 출처=IT동아

최우수상은 비전 인식을 기반으로 피부 진단 서비스 ‘퓨리오스킨’을 만든 피부에 양보해 팀과카셰어링 차량 대여 및 반납 시 파손 유무를 비전 인식으로 확인하는 서비스 ‘찰칵찰칵’을 만든 저쩌다 모인팀, 건물 상태 및 노후도 등을 분류하는 ‘블루라인 아키체크’를 만든 투피엠 팀에게 돌아갔으며, 안면 인식으로 어휘 학습을 보조하는 서비스를 만든 파이브가이즈팀과 표정, 분위기 등을 분석해 개인에게 맞는 색감을 추천하는 서비스를 구현한 페이버릿 팀은 각각 우수상을 수상했다.

우리에겐 작은 발걸음이지만, 인류에겐 큰 도약될 것

누노 로페스(Nuno Lopes) 리스본 과학기술대학교 부교수 겸 퓨리오사AI 고문이 해커톤 참가자들을 대상으로 질의응답을 받고 있다 / 출처=IT동아

GPU 기반의 생성형AI는 기술의 발전에 기여하지만, 역으로 인류의 존폐 위기를 가속화하는 요인이다. 이미 챗GPT로 대화 한번 나누는 데 냉각수 500ml가 필요하다는 결과가 나왔고, 구글의 검색 엔진을 모두 생성형 AI로 대체할 경우, 매년 아일랜드만큼의 소비전력이 필요하다는 연구 결과가 나왔다. 이대로 가다간 생성형 AI가 전 지구적 재앙의 원인이 될 수밖에 없다.

NPU는 에너지 위기를 해결하고, 세상을 바꿀 힘을 가진 제품이다. 이제 막 시작하는 분야인 만큼 앞으로 어떻게 세상을 바꿀지 쉽게 예측하긴 어렵지만, 어떤 형태로든 AI 가속기가 GPU를 대체하고 지금의 에너지 위기를 해결해야 한다는 것에는 모든 이들이 공감하고 있다.

해커톤은 약 36시간의 짧은 시간동안 진행되었으나, 국내 AI 생태계 및 NPU 기술에는 한 획을 그은 대회로 남을 것이다 / 출처=IT동아

구형일 퓨리오사AI 알고리즘 팀 리더 겸 아주대 전자공학과 교수는 “이번 해커톤은 AI에 관심이 많은 개발자, 기획자들에게 NPU에 대한 저변을 넓히기 위해 기획되었고, 많은 분들이 지원하고 참석해 멋진 모습을 보여주었다”라고 취지를 밝혔다. 행사와 관련해서는 “다음 번에 해커톤을 진행한다면 해커톤 특유의 긴장감은 살리면서, AI 개발에 물리적으로 소요되는 시간까지 고려해보도록 하겠다”라는 뜻을 밝혔다.

전체 1천여 명의 지원자 중 40여 명이 참여한 가운데 진행된 이번 해커톤은 앞으로 NPU로 무엇을 할 수 있는지, NPU가 어떻게 세상을 바꿀 수 있는지 보여줄 수 있는 기회이자 자리가 되었다. 앞으로 이런 작은 시도들이 어떻게 세상을 바꿀지 지켜보자.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [단독] 프라사드 칼야나라만 AWS 부사장 "향후 인프라 투자 방향, 고객이 원하는 대로" [AWS 리인벤트 2023]▶ 정영범 퓨리오사AI 이사 "내년 2분기 2세대 칩 출시··· 완벽한 데뷔에 사활"▶ 백준호 퓨리오사AI 대표 "AI 반도체, 지속가능성 고려한 설계 필요"

번호	제목	글쓴이	작성일	조회	추천
설문	가수에서 배우로 전향 했지만 기대에 못 미치는 스타는?	운영자	25/02/24	-	-
3609	삼성전자, 필터 값 안 드는 공기청정기 출시, 성능과 디자인은 그대로?	IT동아	24.03.25	296	0
3608	"지금 내 혈당은 얼마?"…카카오가 만든 AI 혈당 관리 앱 써보니 [1]	IT동아	24.03.25	308	0
3607	NHN클라우드, 2.0 전략으로 'AI 주권' 발판 마련한다	IT동아	24.03.25	137	0
3606	[리뷰] 청소 설정과 급수·배수까지 자동, 나르왈 프레오 X 울트라	IT동아	24.03.25	160	0
3605	[스타트업 법률실무] 기고를 마치며	IT동아	24.03.25	143	0
3604	[주간투자동향] 알고케어, 150억 원 규모 시리즈A 투자 유치	IT동아	24.03.25	213	0
3603	스마트폰으로 봄 꽃 사진 잘 찍으려면? [이럴땐 이렇게!]	IT동아	24.03.25	1013	8
3602	[생성 AI 길라잡이] 갤럭시 AI 활용하기 - '노트 어시스트' [5]	IT동아	24.03.23	6141	6
3601	[2024 고려대 초창패] 이민우 퀀텀유니버스 대표 “확장형 콘텐츠를 넘어 새로운 가치를 만들 것”	IT동아	24.03.22	161	0
3600	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 3	IT동아	24.03.22	182	0
3599	[농업이 IT(잇)다] '드론·자동농약배합기'로 농작물 관리 효율 높이는 ‘아쎄따’	IT동아	24.03.22	152	0
3598	[뉴스줌인] 미니 각 티슈 크기의 ‘LG 시네빔 큐브’ 프로젝터, 쓸 만할까?	IT동아	24.03.22	174	0
3597	[2024 고려대 초창패] 아이젠텍 “40분 만에 결과 나오는 PCR 검사, 국내 기술로 가능합니다”	IT동아	24.03.22	1014	0
3596	클라우드 입지 구축한 오라클, 다음은 목표는 AI	IT동아	24.03.21	181	0
3595	‘기존 제품의 특징을 다듬어 확대했다’ 한미마이크로닉스 2024년 신제품 발표	IT동아	24.03.21	422	0
3594	[자동차 디자人] 폭스바겐 브랜드 디자인 총괄 ‘안드레아스 민트’ [1]	IT동아	24.03.21	624	1
3593	스마트 상권으로 거듭나는 춘천 원도심, ‘봄나들거리 축제’ 눈길	IT동아	24.03.21	151	0
3592	[리뷰] 13세대 코어 i5-1340P와 비교한 '인텔 코어 울트라 5 125H'	IT동아	24.03.21	2469	0
3591	[스타트업-ing] 클레온 “AWS 인퍼런시아로 GPU 서버 비용 50% 줄였어요”	IT동아	24.03.21	153	0
3590	식량위기 극복할 대체식품 산업, 지자체와 푸드테크 기업이 손잡고 키운다 [7]	IT동아	24.03.21	1096	0
3589	‘어디서든 인공지능 가속 지원’ AMD 코리아, 인공지능 시장 청사진 제시	IT동아	24.03.20	143	0
3588	카카오벤처스 "비만 치료제 열풍, 스타트업에 새로운 기회" [1]	IT동아	24.03.20	492	0
3587	스타트업 혁신 지원하는 AWS ’AWS 유니콘데이’	IT동아	24.03.20	141	0
3586	[월간자동차] 24년 2월, 판매 1위 모델 국산 ‘쏘렌토’·수입 ‘BMW 5시리즈’	IT동아	24.03.20	917	2
3585	"AI로 고객 응대하고, 광고 문구 쓰세요"…SKT, AI 기반 B2B 사업 확대 박차	IT동아	24.03.20	131	0
3584	퀄컴, 경제성·효율 높인 '스냅드래곤 8s 3세대' 출시	IT동아	24.03.20	166	0
3583	[자동차와 法] 교통사고 과실비율에 대한 고찰	IT동아	24.03.19	145	0
3582	‘하드웨어+소프트웨어’ 플랫폼으로 인공지능 생태계 장악 노리는 엔비디아의 속내는? [1]	IT동아	24.03.19	509	0
3581	엔비디아 GTC 2024 개최, ‘블랙웰’과 ‘NIMS’로 인공지능 생태계 강화 나선다	IT동아	24.03.19	119	0
3580	'맞춤형 지원 패키지와 함께하는 창업' 엠디글로벌넷, 경기 신사업창업사관학교 참가자 모집	IT동아	24.03.19	125	0
3579	[2024 고려대 초창패] 번거로운 매출·배달 관리를 하나로 ‘올인원 포스’	IT동아	24.03.19	117	0
3578	[뉴스줌인] 최신 보급형폰, 6년 전 고급형폰, 뭐가 더 좋을까? [10]	IT동아	24.03.19	1376	2
3577	[IT신상공개] 거리 맞춰 온도 조절하는 '다이슨 슈퍼소닉 뉴럴 헤어드라이어'	IT동아	24.03.19	585	0
3576	[IT강의실] 실물 자산을 가상자산으로 ‘RWA’ [2]	IT동아	24.03.19	847	0
3575	[KESIA 시드팁스] "멀지만 가까운 왕진, 똑똑의사로 모두가 누리게 할 것" [1]	IT동아	24.03.19	211	0
3574	가격대별 출시 예정 전기 SUV 살펴보니	IT동아	24.03.18	176	0
3573	AI 혁신의 중심 된 '엔비디아 GTC 2024', 국내 주요 참여 스타트업은?	IT동아	24.03.18	475	0
3572	[스타트업 법률실무 마스터링] 투자유치 법률실무 (4) - 계약 위반과 분쟁 방지	IT동아	24.03.18	779	0
3571	‘엔비디아ㆍAMD’ 인공지능 생태계 경쟁, 이제 시작이다	IT동아	24.03.15	214	0
3570	[시승기] 브랜드 첫 1만대 클럽 가입 이끈 ‘포르쉐 카이엔’	IT동아	24.03.15	245	0
3569	[2024 고려대 초창패] 라르크 인터내셔널 “인플루언서 이름 건 제품, 기획∙제조∙유통까지 책임진다”	IT동아	24.03.15	184	0
3568	[생성 AI 길라잡이] 윈도우 11에 내장된 생성형 AI, '코파일럿'	IT동아	24.03.15	386	0
3567	[IT애정남] 스마트폰으로 별 사진 찍으려면 어떻게 해야 하나요? [2]	IT동아	24.03.15	4074	7
3566	[KESIA 시드팁스] 세일즈맵 “한국 기업의 일하는 방식에 맞는 CRM은 따로 있습니다”	IT동아	24.03.15	181	0
3565	전기차 안전·주행거리 지키는 배터리 열관리 시스템	IT동아	24.03.14	392	0
3564	[KESIA 시드팁스] 메텔 “해외 고객이 제 발로 찾아오게 하는 AI 마케터”	IT동아	24.03.14	180	0
3563	도시가스·콘택트렌즈 등 6건 ICT 규제 샌드박스 지정 [1]	IT동아	24.03.14	895	0
3562	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 2	IT동아	24.03.13	342	0
3561	[뉴스줌인] 2024년형 ‘AI TV’ 출시한 삼성전자, 핵심은 AI 기반 업스케일링 [3]	IT동아	24.03.13	2069	1
3560	미세먼지·이물질 흡입하는 ‘노면 청소차’ 작동 원리 살펴보니	IT동아	24.03.13	178	0
뉴스	봉준호 ‘미키 17’, 이틀 연속 박스오피스 1위… 누적 61만 돌파 [차트IS]	디시트렌드	14:00

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

퓨리오사AI의 해커톤, 국내 AI 생태계에 새로운 도전과제 제시

비전 기반 NPU ‘워보이’로 과제··· 어떤 아이디어 나왔나?

실시간 블러 처리 만든 ‘퓨리포터’팀 우승·· 이외 세 팀 최우수상 수상

우리에겐 작은 발걸음이지만, 인류에겐 큰 도약될 것

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결