2024년은 온디바이스 AI 시대, 왜 'AI PC'는 지금 주목받나?

IT동아 · 2024.04.12 18:39:48

[IT동아 남시현 기자] 인공지능(AI)이 전 세계 컴퓨터 시장을 달구고 있지만, 이는 갑작스러운 전개가 아닌 필연적인 흐름이다. 현대 컴퓨터의 아버지 ‘앨런 튜링’은 AI라는 단어가 등장하기도 전인 1950년, ‘계산 기계와 지능(Computing machinery and intelligence)’이라는 논문을 통해 컴퓨터로 동작하는 가상의 지능이 등장할 것을 시사했고, 1956년 다트머스 회의에서 AI라는 용어와 개념이 자리 잡았다.

2024년, 거의 모든 PC 관련 기업들이 AI PC를 슬로건으로 밀고 있다 / 출처=마이크로소프트

물론 반도체가 눈부시게 발전하며 2000년대까지는 슈퍼컴퓨터와 시뮬레이션에 컴퓨터 공학적 역량이 집중되었으나, 90년대 중반부터는 리처드 벨먼 교수의 기계 제어를 위한 강화학습, 제프리 힌튼 교수의 심층신경망 기술 제안 등이 잇따르며 가능성이 커져왔다. 이어서 2016년, 구글 딥마인드와 이세돌의 바둑 대결로 전 세계인이 AI의 가능성을 목격했고, 22년 11월 오픈 AI가 GPT-3를 내놓으며 비로소 AI가 IT 시장의 핵심으로 등장했다. 그 직후 시장에서 제시한 방향성이 바로 온디바이스 AI, AI PC다.

가장 진보한 AI의 발전상, AI PC의 현재 상황은?

2023년 AI 시장의 핵심은 AI 그 자체였다. 엔비디아를 비롯한 AI 하드웨어 기업들은 새로운 기술과 고성능을 갖춘 제품을 내놓기 바빴고, 개발자들은 빅데이터를 수집해 AI 모델을 구축하고, 이를 활용해 추론하고 후처리에 이르는 모든 과정에 투입됐다. 일반인들을 위한 AI 시장이 대중화하진 않았으나, GPT를 비롯한 다양한 생성형 AI들이 모든 산업을 관통했다.

어도비의 생성형 AI 파이어플라이 생성 화면, 온디바이스 AI가 아닌 어도비 클라우드 서비스로 연결해 처리한다 / 출처=어도비

문제는 이 모든 과정이 클라우드 및 데이터 서버를 거쳐야 한다. AI 모델은 데이터를 매개변수 형태로 가공해서 저장하고, 필요할 때 내놓는 형태다. 이를 위해 막대한 양의 저장공간과 실시간 하드웨어 자원, 즉 데이터 서버가 필요하다. 지금도 대다수 AI 기능은 데이터 서버와 클라우드로 연결돼 동작하며, 네트워크가 없으면 AI 기능을 쓰기 어렵다.

하지만 데이터 서버 구축은 대규모 자본은 물론 구동과 냉각을 위한 전력도 계속 필요하다. 장기적으로 AI 제공 기업의 부담은 커지고, 과부하도 생긴다. 그래서 업계에서는 말단 장치가 AI를 자체 구동하는 온디바이스 AI로 데이터 서버의 부하를 분산하고 있으며, AI PC 역시 이를 위해 등장한 제품군이다. 즉 AI PC는 AI 연산 집중에 따른 서버 부하를 줄이고, 사용자가 통신없이도 간단한 AI 소프트웨어나 애플리케이션, 개발 작업에 쓰기 위한 제품이다.

가트너, 2024년 말까지 전체 PC 중 22%가 AI PC로 예상

주요 프로세서 제조사들이 AI PC의 가능성에 눈을 뜨면서 시장 점유율은 빠르게 늘고 있다. 글로벌 연구 조사 기업 IDC는 AI PC가 올해 전체 PC 출하량의 약 20%인 5000만 대가 출하될 것으로 예측하며, 2027년에는 전체의 60%인 1억 6700만 대가 출하될 것으로 본다. 이미 지난해 12월 인텔 코어 울트라가 출시되며 신제품 노트북이 AI PC로 판매되기 시작했고, 인텔은 2025년까지 약 1억 대의 AI PC를 출하하겠다고 발표했다.

인텔 AI PC의 핵심은 신경망 처리 장치(NPU)다. 오늘날 많은 AI는 GPU의 부동소수점 연산 처리로 구동된다. 하지만 GPU는 AI 용도가 아닌 그래픽 처리용 반도체여서 전력 효율이 크게 떨어진다. NPU는 AI 처리를 위한 반도체로 전력 및 작업 효율이 훨씬 좋다. 현재 인텔 코어 울트라 등의 AI PC는 기존처럼 CPU와 GPU는 물론 NPU까지 탑재한다.

인텔 코어 울트라 5가 탑재된 PC와 13세대 인텔 코어 i5가 탑재된 PC / 출처=IT동아

인텔 코어 울트라 라인업은 13세대 인텔 코어 제품군과 비교해 UL 프로키온 AI 추론 기능과 어도비 라이트룸을 활용한 AI 사진 편집은 약 1.5배, 어도비 프리미어 프로 AI 비디오 편집 기능은 약 2.2배, 스펙 뷰포트 2020 SNX 등의 엔지니어링 기능에서는 최대 12.1배까지 성능이 차이 난다. 그러면서도 전력 효율은 에너지스타 8.0 요구사항보다 최대 64% 낮고, 마이크로소프트 팀즈 미팅 시 11% 전력을 덜 쓰는 등의 이점이 있다. GPU 성능이 좋아지면서 실사용 성능이 향상되는 부분도 있지만, AI 처리에 최적화된 NPU의 영향도 상당하다.

점차 늘고 있는 AI PC 활용, 현시점 활용도는?

현재 윈도우 11에서 쓸 수 있는 AI 기능, 클라우드에서 연산을 처리하므로 AI PC가 아니더라도 쓸 수 있다. 물론 AI PC 최적화가 적용되면 오프라인에서도 효율적으로 이런 기능들을 쓸 수 있게 된다 / 출처=IT동아

사용자들 사이에서는 여전히 AI 기능이 시기상조라는 시각도 있지만, 윈도우 11처럼 발빠르게 AI PC 시대를 준비하는 플랫폼도 있다. 예를 들어 윈도우 11에는 코파일럿을 비롯한 다양한 AI 기능이 내장되고 있으며, 누구나 쓸 수 있다. 코파일럿은 GPT 기반의 생성형 AI로 대화를 통한 질문, 검색이나 글 작성, 이미지 콘텐츠 제작, 윈도우 기능 실행 등을 수행한다. 또 캡처 도구에는 AI 기반의 광학 문자 인식이 탑재돼 이미지 내 글씨를 복사할 수 있고, 그림판에도 AI 배경 제거나 명령어 기반의 이미지 생성형 AI 기능이 추가됐다. 이외에도 많은 AI 기능들이 단계적으로 추가될 예정이다. 현재 시점에서는 네트워크가 필수지만, 추후 NPU에 최적화되면 장치 자체에서 수행한다.

올해 말이면 오프라인 AI PC에서 쓸 수 있는 AI 기능들이 많아질 전망이다 / 출처=마이크로소프트

아울러 챗GPT나 클로드AI, 라마(Llama), 구글 제미나이 같은 언어 모델을 개발하는 조건에도 앞으로는 AI PC가 더 유리해질 것이다. AI 개발 자체는 이전 세대 고성능 PC로도 할 수 있지만 전력 효율이 떨어진다. 가벼운 작업이고, 전력 효율까지 고려한다면 NPU를 내장한 AI PC에서의 작업이 더 유리하다. AI 기업 업스테이지는 지난 2월, LG전자와 손을 잡고 자체 언어모델 ‘솔라’를 LG 그램에서 온디바이스 AI로 적용하겠다는 발표도 했다. 올해 혹은 내년에는 챗 GPT같은 언어모델을 오프라인 AI PC에서도 쓰게 될 전망이다.

추후 PC 생태계는 AI인가, AI가 아닌가로 나뉠 것

지금까지 PC 성능을 결정짓는 요소는 컴퓨터의 처리 성능이었다. 하지만 AI PC 시대가 도래한 시점부터는 PC 성능은 물론 얼마나 많은 AI 기능과 소프트웨어를 지원하는지도 중요해질 것이다. AI PC 생태계가 올해 막 시작된 만큼 여전히 보여줄 게 많진 않으나, 챗GPT가 보여준 것처럼 PC 기반 작업에서 기대 이상의 결과와 혜택을 제공할 것이다. 이를 누리려면 새 PC를 살 때 NPU를 탑재한 AI PC를 선택하는 게 합당하다.

인텔은 오는 2025년까지 1억 대 이상의 PC에 AI 기능을 제공하겠다는 목표를 세웠다 / 출처=인텔

이미 인텔은 물론 AMD에서도 라이젠 AI 엔진을 탑재한 노트북을 출시했고, 퀄컴 역시 올해 중 스냅드래곤 X 엘리트 기반의 AI PC를 출시한다. 애플 역시 하반기 중 AI 기능을 내재한 차세대 애플 실리콘으로 매킨토시 라인업을 재단장할 예정이다. 구글이나 마이크로소프트, 메타 등이 소프트웨어를 담당하고, 인텔, AMD, 퀄컴 등의 기업이 AI PC로 하드웨어를 맡는 셈이다.

관련한 생태계도 빠르게 확장하고 있다. 지난 3월 28일, 국내 AI PC 생태계 확충을 위해 인텔코리아를 중심으로한 소프트웨어 및 하드웨어 기업, 교육 기관 등 총 17개 기업 및 기관이 '한국 AI PC 얼라이언스(K-APA)'를 결성했다. K-APA는 국내 유망 AI 기업 지원은 물론 인재 양성, 해커톤 대회 등을 통해 AI 생태계 확장에 힘을 쏟는다.

물론 AI PC 자체가 마케팅 용어라는 시각도 있다. 그럼에도 불구하고 AI는 여러 분야에서 제 기능을 증명했고, 발 빠른 이들은 이미 챗GPT를 비롯한 생성형 AI의 활용법과 시각을 공유하며 우위에 서고 있다. 여전히 많은 기능이 AI PC가 아닌 일반 PC로도 구현이 되지만, 변곡점을 지나면 AI PC의 활용도가 우세해질 것이다. AI PC의 세계는 누구에게나 열려있고, AI PC를 통해 더 많은 일들을 할 수 있다. 올해가 지나면, 더 이상 AI PC는 선택이 아닌 필수가 될 것이다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	나라가 위기에 처하면 가장 먼저 나설 것 같은 스타는?	운영자	24/12/09	-	-
이슈	[디시人터뷰] ‘피의 게임3’ 게임판을 흔드는 플레이어, 유리사	운영자	24/12/09	-	-
3757	[리뷰] 해외 직구 초저가 디지털 제품, 쓸 만할까?	IT동아	04.30	348	0
3756	[자동차와 法] 배기량 기준 자동차세 부과의 문제점	IT동아	04.30	249	0
3755	[자동차 디자人] 벤틀리 코리아 에디션 그려낸 추상화가 ‘하태임’	IT동아	04.30	304	0
3754	HP, AI로 비용∙속도∙보안성까지 개선한 ‘AI PC’ 제품군 공개	IT동아	04.30	248	0
3753	[마인드테크 시대가 온다] 8. 모두가 행복한 사회를 위하여	IT동아	04.30	246	0
3752	[KESIA 시드팁스] 벳플레이스 "수의사가 만든, 수의사를 위한 플랫폼입니다"	IT동아	04.30	207	0
3751	마이크로소프트 ‘코파일럿 한국어 지원’ 앞세워 국내 인공지능 서비스 지원 강화 나선다	IT동아	04.30	216	0
3750	AWS, '전략적 협업 계약'으로 클라우드 동맹 늘린다	IT동아	04.30	4608	1
3749	클레이튼·핀시아, 통합 브랜드 ‘카이아’ 공개···프로젝트 합병도 순조로워	IT동아	04.30	280	0
3748	인공지능 서비스 기업의 투자 확대, 시장 흐름은?	IT동아	04.29	209	0
3747	자동차 번호판 교체를 원한다면, 가능한 조건 확인하기! [이럴땐 이렇게!] [5]	IT동아	04.29	1512	0
3746	[스타트업-ing] CIT “ASE 증착 기술, 다양한 활용도에 국내외 산업계 주목”	IT동아	04.29	215	0
3745	[생성 AI 길라잡이] ‘정부용 생성 AI’ 활용 방안 살펴보니	IT동아	04.26	304	0
3744	[리뷰] 10G SFP+ 지원 비관리형 이더넷 스위치, 넷기어 GS108X	IT동아	04.26	278	0
3743	[농업이 IT(잇)다] “농가와 기업, 구성원과 함께 성장하고 싶어” 강경훈 키움바이오 대표 [1]	IT동아	04.26	1314	0
3742	서울과기대 창업지원단, 예창패·초창패 기업 지원 '선순환' 만든다	IT동아	04.26	270	0
3741	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 8	IT동아	04.25	504	0
3740	써드웍스, 신규 수입 상품 소싱 위한 ‘수입상품 소싱 플랫폼’ 선보여	IT동아	04.25	268	0
3739	[리뷰] 미국/영국 청소기 시장 1등 '샤크'의 무선 진공청소기 '클린 센스 IQ+' [2]	IT동아	04.25	2178	0
3738	퀄컴, '스냅드래곤 X 플러스'로 라인업 확장··· AI PC 시장 정조준	IT동아	04.25	266	0
3737	[KESIA 시드팁스] 디써클, AI 기반 R&D 플랫폼 ‘알앤디써클’로 전 세계 기업과 연구간 가교 꿈꾼다	IT동아	04.24	294	0
3736	TG삼보, 인포플라와 AI 분야 MOU 체결	IT동아	04.24	250	0
3735	메타, 라마 3 LLM도 오픈소스로 공개··· '시장 장악력 더 높아질 듯'	IT동아	04.24	271	0
3734	더길, 상위 10% 프리미엄 셀러 위한 지원 솔루션 선보인다	IT동아	04.24	4504	0
3733	카파바이오사이언스, 신소재 ‘Vita-SPMD’ 글로벌 시장 공급 발판 마련	IT동아	04.24	229	0
3732	플러스닷, NIPA 호치민IT지원센터 2024년 입주기업에 선정	IT동아	04.24	261	0
3731	교수창업기업 ‘럭스바이옴’, 마이크로바이옴 기반 신제품 출시 임박	IT동아	04.24	243	0
3730	‘체계적인 e스포츠 대면 강의 제공할 것’ 게임프로, e스포츠 오프라인 강의실 5월 말 개소 [9]	IT동아	04.24	2281	2
3729	삼성전자, 업계 최초 '9세대 V낸드' 양산	IT동아	04.23	326	0
3728	[스타트업-ing] 더길 “e커머스 초보자도 ‘상생’하며 함께 성장하는 플랫폼”	IT동아	04.23	219	0
3727	세일즈포스, '데이터, AI, CRM, 신뢰가 디지털 혁신의 열쇠'	IT동아	04.23	225	0
3726	윌리엄앤코, 영유아 영어교육 키트 ‘텔리’ 조달청 등록 추진	IT동아	04.23	220	0
3725	시향 플랫폼 기업 ‘퍼퓸투데이’…BM 확장 및 투자 유치 나서 [1]	IT동아	04.23	1933	0
3724	[IT신상공개] 실시간 온체인 데이터 분석·시각화로 업무 효율 높인다, 쟁글ERP	IT동아	04.23	4571	0
3723	안창욱 GIST AI연구소장 “이노디테크 AI 시스템, 합성형 AI로 구축했습니다”	IT동아	04.23	221	0
3722	CRT게임즈, 서울과기대 초기창업패키지 최우수 기업 선정	IT동아	04.23	221	0
3721	[리뷰] 애플 M3로 실성능 끌어올린 '애플 맥북에어 13'	IT동아	04.22	673	0
3720	[시승기] 브랜드 첫 쿠페형 SUV…’제네시스 GV80 쿠페’	IT동아	04.22	220	0
3719	IBM “ESG 솔루션으로 지속가능성·비즈니스 성과 높인다”	IT동아	04.22	372	0
3718	[리뷰] ‘AI 시대’가 낳은 차세대 TV, 2024 LG 올레드 evo G4 [3]	IT동아	04.22	1649	1
3717	오렌지바이오메드, 품질경영시스템 ISO 9001 인증 획득	IT동아	04.22	185	0
3716	[주간투자동향] 비즈플레이, 30억 원 규모 전략적 투자 유치	IT동아	04.22	181	0
3715	레몬사운드, 콘테스트 기반 음악 제작∙제공 서비스로 게임 업계 ‘성과’	IT동아	04.22	188	1
3714	AI 품은 LG전자 에어컨, 판매량 청신호	IT동아	04.19	376	0
3713	[생성 AI 길라잡이] 전문 지식 없어도 음원 제작 거뜬 ‘AI 작곡’ [8]	IT동아	04.19	8302	7
3712	god의 길·촛불하나 M/V, 영국서 리메이크로 재탄생 [1]	IT동아	04.19	412	1
3711	나띵프로젝트, 캐릭터로 더 친근해진 '플랍플랍 버블바스' 입욕제 출시	IT동아	04.19	209	0
3710	[KESIA 시드팁스] 메이커런스 “아이와 부모, ‘반차’로 함께 힐링하세요” [1]	IT동아	04.19	1052	0
3709	디지포레 “대기업 위주 디지털트윈 생태계, 중소기업 확산 위한 교두보 마련”	IT동아	04.19	935	0
3708	아웃도어 플랫폼 '데얼스', 2024 스포츠산업 창업 도약 기업 선정	IT동아	04.19	196	0
뉴스	'미스터트롯3' 장민호-영탁-김희재-이찬원-정동원, 선배 마스터 5인방이 밝힌 관전포인트	디시트렌드	12.11

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

가장 진보한 AI의 발전상, AI PC의 현재 상황은?

가트너, 2024년 말까지 전체 PC 중 22%가 AI PC로 예상

점차 늘고 있는 AI PC 활용, 현시점 활용도는?

추후 PC 생태계는 AI인가, AI가 아닌가로 나뉠 것

▶ [생성 AI 길라잡이] 애플이 만들 인공지능 서비스, 어떤 모습일까?▶ [리뷰] 좋은 거 다 담았는데 이 두께가 나와? 에이수스 ROG 제피러스 G16(2024)▶ [생성 AI 길라잡이] AI로 만든 콘텐츠, 저작권 인정될까?

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결