[생성 AI 길라잡이] PC도, 스마트폰도…온디바이스 AI 시대 본격화

IT동아

2024.06.28 12:58:13

조회 230 추천 0 댓글 0

※생성 인공지능이 세계를 뜨겁게 달굽니다. 사람만큼, 더러는 사람보다 더 그림을 잘 그리고 글을 잘 쓰는 생성 인공지능. 생성 인공지능을 설치하고 활용하는 방법과 최신 소식을 매주 전합니다.

[IT동아 권택경 기자] 챗GPT 출시로 본격화한 생성 AI 열풍은 불과 2년도 채지나지 않았지만 벌써 급격한 변화를 맞고 있습니다. 초창기 생성 AI 열풍을 주도했던 게 외부 서버나 클라우드에서 처리되는 대형언어모델(LLM)을 활용한 서비스였다면 최근에는 온디바이스 AI로 점차 무게 중심이 옮겨가는 추세입니다.

출처=셔터스톡

온디바이스 AI는 기기 자체에서 AI 연산을 처리하는 방식을 말합니다. 온디바이스 AI에는 기존 LLM보다 비교적 규모가 작은 sLLM(small Large Language Model) 혹은 SLM(Small Language Model) 등 소형 모델을 활용합니다. 이 덕분에 외부 서버나 클라우드상의 슈퍼컴퓨터 힘을 빌리지 않아도 기기 자체에서 AI 처리가 가능합니다. 그만큼 성능 면에서는 불리하지만 장점도 명확합니다. 인터넷 연결 여부나 연결 속도에 영향을 받지 않고, 이용자 정보가 밖으로 나갈 일이 없어 개인정보 보호에도 더 뛰어납니다.

이처럼 온디바이스 AI가 점차 확산하자 스마트폰이나 PC 하드웨어 시장에서도 점차 AI 연산 성능을 강화하거나, AI 연산을 위한 전용 칩세트를 추가하는 경향이 두드러지고 있습니다.

올해 3분기 출시 예정인 인텔의 새 AI PC용 프로세서

PC 제조사와 칩세트 제조사들은 지난해 말부터 AI PC라는 새로운 PC 제품군을 선보이고 있습니다. 대표적으로 인텔은 지난해 말 NPU를 탑재한 모바일 프로세서 제품군인 코어 울트라를 출시하며 본격적인 AI PC 시대를 열었습니다. 기존 PC에서도 CPU, GPU를 활용한 AI 연산이 가능했지만, 전용 칩세트보다 전력 효율은 떨어졌기에 이를 추가함으로써 전체 연산 성능도 높이고, 전력 효율까지 보완한 것입니다. 인텔은 올해 3분기에는 NPU 성능을 대폭 개선한 차세대 AI PC용 프로세서인 코드명 ‘루나레이크’ 또한 출시 예정입니다.

마이크로소프트에서도 지난달 코파일럿+PC라는 새로운 AI PC 제품군을 선보였습니다. 마이크로소프트의 AI 조수인 코파일럿을 기기에 통합해 다양한 AI 기능을 온디바이스로 제공합니다. 실시간 번역, 이미지 생성 등을 온디바이스 AI로 처리합니다.

코파일럿+PC는 마이크로소프트의 AI 조수 코파일럿을 기기와 운영체제에 통합한 새로운 PC 제품군이다 / 출처=마이크로소프트

6월 18일 출시된 갤럭시북4 엣지를 비롯한 첫 코파일럿+PC 제품군들은 기존 윈도우 PC의 대다수를 차지하는 x86 아키텍처가 아닌 ARM 아키텍처 기반의 퀄컴 스냅드래곤 X 엘리트 시리즈를 탑재한 것도 특징입니다. ARM 기반 프로세서는 일반적으로 x86 기반 프로세서보다 전력 효율이 더 뛰어난 것으로 알려져 있습니다. 따라서 ARM 기반 코파일럿+PC에서도 뛰어난 전력 효율을 기대할 수 있겠습니다.

다만 아직 PC 소프트웨어 생태계가 x86에 맞춰져 있으므로 일부 소프트웨어에서는 호환성 문제가 발생할 수 있습니다. 따라서 이런 제품을 구매하기 전에는 자신이 사용할 소프트웨어가 ARM을 지원하는지 확인할 필요가 있습니다. 다행히 전통적인 x86 아키텍처 기반의 코파일럿+PC 또한 올해 3분기 인텔의 ‘루나레이크’ 탑재 제품을 필두로 출시될 예정이므로 호환성이 걱정된다면 조금 기다렸다 이런 제품을 구매하는 게 좋겠습니다.

갤럭시 AI / 출처=삼성전자

스마트폰 업계에서도 온디바이스 AI 경쟁이 가속화하고 있습니다. 먼저 포문을 연 건 삼성전자입니다. 삼성전자는 갤럭시 S24 출시를 기점으로 ‘실시간 번역’ 등 일부 AI 기능을 온디바이스 AI 기반으로 제공합니다. 삼성은 업데이트를 통해 S23, S22 시리즈 등 구형 모델에서도 갤럭시 AI 기능을 지원합니다. 다만 AI 연산 성능 등 하드웨어의 한계로 구형 모델에서는 일부 기능 사용이 제한됩니다.

애플 또한 지난 6월 10일 개발자 행사 ‘WWDC 2024’에서 처음 공개한 자체 AI 서비스 ‘애플 인텔리전스’를 온디바이스로 구현할 예정입니다. 간단한 요청은 온디바이스에서 작은 AI 모델로 처리하고, 좀 더 복잡한 작업은 클라우드 서버에서 큰 AI 모델로 처리하는 방식입니다.

애플 인텔리전스 / 출처=애플

애플 인텔리전스는 올해 가을 iOS 18가 탑재되는 아이폰 16 시리즈 출시와 함께 베타 버전으로 제공될 전망입니다. 구형 기종은 바로 직전 출시 제품 중에서도 고급형 모델인 아이폰 15 프로부터 애플 인텔리전스를 사용할 수 있습니다. 다만 아직 한국어 지원 일정은 나오지 않았으니 멀쩡한 아이폰을 애플 인텔리전스 때문에 서둘러 바꿀 필요는 없겠습니다.

글 / IT동아 권택경 (tk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [IT애정남] AI PC, 어떤 기준으로 고르는 게 좋나요?▶ "유니콘이라더니 도둑"…美 언론들, AI 스타트업 퍼플렉시티 맹비난 ▶ ‘성능? 호환성?’ AI(인공지능) PC 시대, 선택의 기준은?

고정닉 0

원본 첨부파일 5본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	오픈 마인드로 이성을 만날 것 같은 스타는?	운영자	24/12/02	-	-
4618	수목 병해충 발생 예측부터 방제약 처방까지 돕는 ‘애프터레인’	IT동아	12.03	21	0
4617	KIAT, 차세대 배터리 산업 지원 위해 팔 걷어	IT동아	12.03	16	0
4616	단말기에서 스팸 문자 AI 필터링 가능해진다 [1]	IT동아	12.03	390	1
4615	[부산창경 BEF 2024] 아이쿠카 “자녀와 부모가 함께하는 디지털 생활 플랫폼 꿈꾼다”	IT동아	12.03	17	0
4614	‘ai.kr, it.kr’ 등 신규 도메인, 오늘부터 선점 가능?	IT동아	12.03	16	0
4613	[자동차와 法] 편리함 이면에 잠재된 위험과 법적 책임 ‘전동킥보드’ [4]	IT동아	12.03	1388	0
4612	[부산창경 BEF 2024] 기술 활용해 일상 속 탄소 저감 돕는 ‘글루리’	IT동아	12.02	45	0
4611	[KIDP 울산] 아워즈팜 “스마트팜에서 재배한 딸기, 포장 디자인 혁신으로 친근하게”	IT동아	12.02	41	0
4610	[스타트업-ing] 세종 백경증류소 "와인, 위스키에 필적할 우리 전통주를 만들겠습니다!"	IT동아	12.02	494	2
4609	겨울철 온열기기 에너지 사용량 읽는 법 [이럴땐 이렇게!]	IT동아	12.02	55	0
4608	[주간투자동향] 에이아이스페라, 120억 원 후속 투자 유치 外	IT동아	12.02	45	0
4607	[투자를IT다] 2024년 11월 4주차 IT기업 주요 소식과 주가 흐름	IT동아	11.30	118	0
4606	디지포레, 충남 중소 제조기업과 손잡고 중소제조업 DX 가속화	IT동아	11.29	123	0
4605	[신차공개] 현대차 ‘아이오닉 9’ 최초 공개·포드 ‘더 뉴 익스플로러’ 출시	IT동아	11.29	125	0
4604	고려대학교 “LLM, RAG 등 유망 AI 기술사업화에 매진”	IT동아	11.29	122	0
4603	퓨리오사AI, 日 AI 엑스포서 2세대 반도체 선봬··· '다각적 판로 개척에 집중'	IT동아	11.29	108	0
4602	[생성 AI 길라잡이] 텍스트만 넣으면 영상, 음성, 자막까지 완성 ‘브루’ [1]	IT동아	11.29	672	0
4601	맞춤형 5G특화망 ‘이음5G’, 어디에 쓰이고 있나	IT동아	11.29	538	0
4600	[리뷰] 누구나 쉽게 고음질 콘텐츠 녹음, DJI 마이크 미니	IT동아	11.29	138	0
4599	[부산창경 BEF 2024] 그리니쉬, "퍼티맥스, 임신 꿈꾸는 모든 이들을 위한 제품"	IT동아	11.29	94	0
4598	[스케일업] 보라웨어 [3] 정진우 대표 “검색ㆍ쇼핑 광고 관리 솔루션으로 광고주와 함께 성장할 것”	IT동아	11.29	96	0
4597	[AI와 미래] AI 창작 콘텐츠, 법적·윤리적 도전과 해결 과제	IT동아	11.29	93	0
4596	[부산창경 BEF 2024] 히어로웍스 “숙박 시설의 업무 자동화에 기여합니다”	IT동아	11.29	275	0
4595	메디플렉서스 “의료데이터 수요·공급 연결, 분석과 활용 활성화”	IT동아	11.29	88	0
4594	SBA, 임팩트다이브 2024 개최…“오픈 이노베이션 생태계 발판 마련”	IT동아	11.28	195	0
4593	[시승기] 새로운 디자인·세단 같은 승차감 앞세운 ‘BMW 뉴 X3’	IT동아	11.28	109	0
4592	세계 최고 권위 반도체 학회 'ISSCC' 두 달 앞으로··· '韓 반도체 산업 입지는?'	IT동아	11.28	190	0
4591	서울과기대 창업연합 협의체, '서울 동북권 넘어 전국 단위 연계 나선다'	IT동아	11.28	108	0
4590	[부산창경 BEF 2024] 불편하고 폐쇄적인 국내 주류 유통시장을 디지털 전환한 스타트업 '링크업'	IT동아	11.28	107	0
4589	삼성전자, 실속형 스마트폰 '갤럭시 A16 LTE' 29일 출시	IT동아	11.28	161	0
4588	누비랩 x 도토리소풍 넥슨 “AI 푸드 스캐너, 영유아 식습관 건강 도우미”	IT동아	11.28	106	0
4587	[ENSL 2024] 영앤 “뇌건강놀이터로 어르신들 건강과 행복 책임지는 기업될 것”	IT동아	11.28	104	0
4586	[생활 속 IT] 방장이 관리하는 ‘카카오톡 팀채팅’, 유용하게 쓰기	IT동아	11.27	627	0
4585	[창업도약+경북대] 아쿠아웍스 “차세대 수처리 기술로 환경문제 극복할 것”	IT동아	11.27	127	0
4584	LG전자, 자체 개발 車반도체 국제 안전표준 인증	IT동아	11.27	124	0
4583	[주간스타트업동향] '신성바이오팜, 커스토젠' TIPS 선정 外	IT동아	11.27	125	0
4582	도시와 산업, 인공지능에 대한 고찰 ‘2024 울산 디자인혁신 포럼’	IT동아	11.27	127	0
4581	[ENSL 2024] 자동차 검사 및 정비 편의성 강화한 O2O 플랫폼 ‘카약’	IT동아	11.27	121	0
4580	[기고] 초고령사회를 위한 의료데이터 정보화: 소프트인프라 구축과 맞춤형 서비스 제공	IT동아	11.27	113	0
4579	[스케일업] 비투랩 [3] 김병규 병천치과의원장 “레이저 표면처리, 임플란트 기본 높일 것”	IT동아	11.27	117	0
4578	[부산창경 BEF 2024] 인더라스 "고속도로 2차 교통사고, 레그널이 예방합니다"	IT동아	11.27	4569	0
4577	[부산창경 BEF 2024] 보라공사 "리모델링/인테리어 공사에 대한 불신과 불안을 줄여드립니다"	IT동아	11.27	107	0
4576	로웨인 “로봇 수직농장 경제성 입증한 첫 사례 만든다”	IT동아	11.27	125	0
4575	[창업도약+경북대] 디엠테크컨설팅 “스마트공장장으로 제조업 디지털 전환과 상생 이룰 것”	IT동아	11.27	108	0
4574	[고려대 미래내일] 청년 일경험 우수 팀 “연구 구체화, 실무 경험 값진 시간”	IT동아	11.27	129	0
4573	[생활 속 IT] PC 화면 캡처 및 편집은 어떻게?	IT동아	11.26	1900	1
4572	SBA, 혁신경영 성과 앞세워 대통령 포장 포함 수상 12개 석권	IT동아	11.26	123	0
4571	[부산창경 BEF 2024] 전력 절감장치에 블록체인 기술 더해 ESG 실천 돕는 ‘딥브레인’	IT동아	11.26	117	0
4570	[ENSL 2024] 헬퍼로보틱스 “F&B 불편 해결할 조리 로봇 선도”	IT동아	11.26	127	0
4569	[부산창경 BEF 2024] 마리나체인 “국제 환경 규제 대응 원스톱 솔루션, 마리나넷” [6]	IT동아	11.26	4543	0
뉴스	김세정, ‘취하는 로맨스’ OST 직접 부른다…성시경 ‘두사람’ 재해석	디시트렌드	12.03