PC 전반으로 확대되는 인공지능 서비스, 어디까지 왔나?

IT동아 · 2024.07.03 23:58:35

인공지능 서비스 경쟁에 속도가 붙고 있다. 마이크로소프트도 코파일럿을 앞세워 시장 장악에 나섰다. / 출처=마이크로소프트

[IT동아 강형석 기자] 생성형 인공지능 기술이 빠른 속도로 성장하면서 관련 서비스도 산업 전반에 걸쳐 광범위하게 적용되고 있다. 우리가 흔히 쓰는 검색, 문서 작업 등에 인공지능이 적용된 것은 기본이고 사진영상 창작과 음성 분석 등을 활용한 것도 등장했을 정도다. 과거 구글 딥마인드와 이세돌과의 바둑 대결은 인공지능 시대의 서막을 알린 사건이었다면 오픈AI 챗(Chat)-GPT의 등장은 본격적인 인공지능 시대에 들어섰음을 보여준다.

지금까지 인공지능이 서비스 성숙도에 초점을 두고 있었다면 이제 누구나 쓸 수 있는 환경 구축에 뛰어들고 있다. 온라인이 아닌 기기 자체에서 인공지능을 처리하는, 이른바 ‘온-디바이스 인공지능(On-Device AI)’을 준비하겠다는 것이다. 인텔, AMD를 주축으로 기존 PC 시스템에 신경망 처리장치(NPU)를 탑재하며 차세대 시장 경쟁을 시작한 게 대표적이다. 모바일 기기용 칩에 NPU를 탑재해 온 퀄컴도 PC 시장 경쟁을 시작했다. 독자 생태계를 구축해 온 애플도 인공지능 카드를 꺼내 들었다.

오래전부터 자체 인공지능 처리 능력을 갖추기 시작한 모바일 기기와 달리 PC 시스템은 지난해부터 본격적인 대비에 나선 상황이다. 올해는 마이크로소프트가 코파일럿+ PC를 제안하며 생태계 구성을 위한 판을 짜는 중이다. 이제 온-디바이스 서비스가 대거 등장할 차례다.

다양한 개인용 소프트웨어에서 인공지능 지원하지만, 대부분 ‘온-디멘드’ 방식

인공지능 서비스는 크게 두 가지다. 하나는 데이터를 온라인으로 처리하는 ‘온-디멘드(On-Demand) AI’와 기기 자체에서 처리하는 ‘온-디바이스(On-Device) AI’다. 각각의 장단점은 존재한다. 온-디멘드 방식은 이미 데이터 학습이 끝난 기업의 대규모 클라우드 서버를 활용해 명령어를 보내고 그에 따른 결과를 얻는다. 높은 정확도를 기대할 수 있지만, 네트워크 환경에 많은 영향을 받는다. 온-디바이스 방식은 기기 내에서 인공지능 데이터를 처리한다. 기기에서 즉시 처리하므로 처리속도는 빠르지만, 내 장치 내에 있는 한정된 자원을 가지고 인공지능을 처리하니 정확도는 아쉬울 수 있다.

스마트폰을 예로 보면 이렇다. 지금은 다양한 서비스가 있으나 초창기 온-디바이스 AI는 음성비서와 검색 등 제한적이었다. 지금은 이미지를 분석해 분류하거나 편집에 도움을 주고 통역까지 도맡는 등 활용도가 크게 확대됐다. PC는 아직 이 정도 수준에 도달한 상황은 아니다. 현재 PC 상에서 서비스되는 대부분 인공지능 서비스는 온-디바이스가 아니라 온-디멘드 방식으로 운영되고 있다. 온라인 연결이 없으면 사실상 무용지물인 셈이다.

현재 윈도우 11 운영체제 내에서 제공되는 인공지능 기능은 온라인 연결이 필요하다. 향후 일부 기능은 PC 자체에서 쓸 수 있게 될 전망이다. / 출처=IT동아

온-디바이스 AI를 경험하려면 조금 더 기다려야 된다. 마이크로소프트가 윈도우 11 내에 인공지능 기능을 대거 추가하며 편의성을 갖출 예정이다. 아직 온라인 서비스 중심으로 운영되지만, 업데이트를 통해 온-디바이스 AI 서비스를 제공할 예정이다. 대형언어모델(LLM)에 적합한 것은 지금처럼 클라우드에서 제공하고 소형언어모델(SLM)에 적합한 서비스를 온-디바이스로 구현한다는 방침이다.

대표적으로 영상 콘텐츠를 감상할 때 기기 내 신경망 처리장치를 활용, 실시간 번역을 진행한다. 그림판, 사진 앱도 기기 내에서 처리될 수 있게 바꾼다. 특히 그림판 내에 ‘이미지 크리에이터’ 기능을 추가해 인공지능 기반 그림 생성이 가능하다. 기본 제공되는 것은 아니고 신청한 사용자에 한해 체험판을 제공 중이다.

이 외 서비스 대부분은 온라인 연결이 필수다. 대표적으로 어도비 크리에이티브 클라우드(Creative Cloud) 내에 있는 라이트룸, 포토샵, 프리미어 등 주요 소프트웨어에서 인공지능 기능을 경험하려면 온라인 연결이 필요하다. 마이크로소프트 365에서도 인공지능 힘을 빌리려면 온라인 연결이 이뤄져야 한다.

국내 서비스도 마찬가지다. 한컴 오피스도 인공지능 서비스, 한컴독스 AI를 제공한다. 설치형은 인공지능 기능이 없고 브라우저를 활용해 온라인 연결 후 써야 된다. 폴라리스 오피스는 온-디바이스 오피스 AI 솔루션을 선보였는데 윈도우 PC가 아닌 맥 OS 기반 PC에서만 쓸 수 있다.

엔비디아의 챗 위드 RTX(Chat With RTX)는 PC에 설치하면 온-디바이스 AI 서비스처럼 파일을 찾거나 내용을 검색하는 식으로 활용 가능하다. 단, 지포스 RTX 30 시리즈 이상 그래픽카드가 있어야 된다. / 출처=IT동아

엔비디아가 배포하고 있는 ‘챗 위드 RTX(Chat With RTX)’는 어떻게 보면 온-디바이스 AI 서비스라 봐도 무방하다. 시스템 내에 인공지능 언어 묶음과 구동 소프트웨어를 설치하면 쓸 수 있다. 필요한 파일을 검색한다거나 내용을 정리하는 등 편리하게 쓸 수 있다. 다만 엔비디아에서 개발한 것이기에 지포스 그래픽카드, 그것도 RTX 30 시리즈 이상 그래픽카드가 필요하다는 제약이 따른다.

산업용 PC 기반 ‘온-디바이스 AI’는 제한적이지만 움직임은 있다

일반 소비자용 PC 시스템에서 온-디바이스 AI 기능은 제한적으로 구현된 상태다. 이는 산업군도 마찬가지다. 규모에 상관없이 자체 데이터센터를 구축, 온-프레미스(On-Premise) 형태로 인공지능 학습과 추론을 진행하는 수준이 아니라면 대부분 온라인 접속이 필요하다. 다만 환경은 갖춰졌으나 인공지능 개발, 적용이 어려운 시장에 대응하는 소프트웨어 수는 점차 느는 추세다.

뉴로-T 서비스의 학습 과정은 클라우드가 아닌 자체 시스템에서도 진행 가능한 구조다. 어떻게 보면 온-디바이스 형태에 가깝다. / 출처=뉴로클

뉴로클의 뉴로(Neuro)-T는 딥러닝 비전검사 솔루션으로 접속 인증과 업데이트, 기술지원 등의 절차가 온라인으로 진행되지만, 데이터 학습은 자체 보유한 장비 내에서 이뤄진다. 프로젝트 계획부터 데이터 관리, 레이블링, 검사 모델 학습, 성능 검토까지 가능하다. 별도로 인공지능 전문가를 쓰지 않아도 소프트웨어 내에서 쉽게 다룰 수 있다. 데이터 운용에 대해 보수적이거나 인공지능 적용 범위가 한정적인 시장에서는 최적의 형태다.

인공지능 적용 방식은 다른 것과 다르지 않다. 비슷한 형태의 이미지를 계속 학습시킨 후 현장에 적용하면 축적된 학습 자료를 바탕으로 결과를 내놓는다. 예로 생산현장에서 만들어진 톱니바퀴 중 불량 사례를 계속 학습시키면 추후 비슷한 사례를 바탕으로 검수해 주는 식이다.

온-디바이스 형태에 가깝다 보니까 인공지능 처리가 가능한 시스템이 필요하다. 인텔 코어 i7 급 이상 중앙처리장치(CPU), 최소 지포스 RTX 3080급 이상 또는 지포스 RTX 4080 이상 그래픽 처리장치(GPU) 등을 요구한다. 여러 데이터를 다루니 메모리 또한 64GB 가량 확보해야 된다.

이 외에 로봇, 유통 등 특수한 운용 환경에 맞춘 온-프레미스(온-디바이스) 인공지능 서비스도 존재한다. 그러나 당분간 산업용 인공지능 시장은 클라우드 서비스와 자체 운용 방식으로 양분되리라 예상된다.

아직 잠잠해 보이는 온-디바이스 AI 소프트웨어 시장. 속을 들여다보면 준비는 착실히 이뤄지고 있다. 2024년 3월, 국내 인공지능 PC 생태계 확충을 위해 인텔코리아를 중심으로 소프트웨어 및 하드웨어 기업, 교육 기관 등 총 17개 기업 및 기관이 모인 '한국 인공지능 PC 얼라이언스(K-APA)'가 결성됐다. 솔트룩스, 폴라리스 오피스, 이스트소프트 등 소프트웨어와 서비스 기업이 이름을 올린 상태다. 온-디멘드 방식 서비스 외에도 온-디바이스 기반 서비스 구현도 기대해 볼 부분이다. 생각과 접근 방식은 달라도 인공지능 시대를 향해 발 빠르게 움직이고 있는 점은 같다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	외모와 달리 술 일절 못 마셔 가장 의외인 스타는?	운영자	24/07/01	-	-
4014	갤럭시+아이폰 점유율 99% 상황, 분투하는 ‘마이너리거’들은? [30]	IT동아	07.05	3692	0
4013	[크립토 퀵서치] 가상자산은 왜 만들었나요? [1]	IT동아	07.05	578	0
4012	BMW 차량 실내 소음 감소·엔지니어링 설계 돕는 다쏘시스템 ‘버추얼 트윈’ [8]	IT동아	07.05	4445	3
4011	셀바스찬 “NK 세포와 고분자 복합소재로 암 치료 선택지 넓힐 것” [동국대학교 캠퍼스타운] [1]	IT동아	07.05	58	0
4010	가상자산 거래소, 거래지원 자율규제 마련···7월 19일 시행	IT동아	07.05	670	0
4009	[농업이 IT(잇)다] 리필리 “우유 담는 종이팩? 무엇이든 담는 친환경 포장재입니다”	IT동아	07.05	52	0
4008	[생성 AI 길라잡이] 3세대로 업그레이드된 인공지능 콘텐츠 생성 ‘런웨이ML’ [2]	IT동아	07.04	417	0
4007	[르포] ‘연간 70만 명 이상 방문’…伊 명소 ‘페라리 박물관’ 살펴보니 [2]	IT동아	07.04	390	3
4006	[리뷰] M4 칩 기반으로 더 얇고 강력해진 아이패드 프로 7세대	IT동아	07.04	2209	2
	PC 전반으로 확대되는 인공지능 서비스, 어디까지 왔나? [3]	IT동아	07.03	478	4
4004	6G 시대 준비하는 노키아, ‘기술 비전 2030’ 선보여	IT동아	07.03	112	0
4003	트위치 빈자리 무혈입성한 네이버 '치지직'…시청 경험 개선은 과제 [34]	IT동아	07.03	2758	5
4002	신차 2종과 함께 ‘마세라티 코리아’ 공식 출범…연말 전기차 라인업 도입 [1]	IT동아	07.03	517	1
4001	서울과기대, 실전 같은 '창업캠프'로 대학생 창업 경험 제공해	IT동아	07.03	95	0
4000	국내 가상자산 현물 ETF 승인 시 ‘득보다 실 많다’ [5]	IT동아	07.03	1122	0
3999	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 18	IT동아	07.02	100	0
3998	[르포] ‘페라리’ 모든 차량이 탄생하는 곳…’伊 마라넬로 본사’ [3]	IT동아	07.02	497	3
3997	LG유플러스 'AI 올인' 선언…"1.3조 투자해 매출 2조 달성"	IT동아	07.02	114	0
3996	[기술영업人] AI로 세상을 이롭게 하는 '업스테이지'의 영업 전략 [6]	IT동아	07.02	4873	2
3995	[혁신스타트업 in 홍릉] 레지에나 “혁신 기술로 메디컬 뷰티 기기 대중화에 기여합니다”	IT동아	07.02	134	0
3994	[뉴스줌인] '24년형 무선 올레드 TV 출시, ‘무선 TV’를 향한 LG전자의 집념? [1]	IT동아	07.01	480	0
3993	SKT '우주패스 넷플릭스' 출시…구독료 절약 효과는?	IT동아	07.01	139	0
3992	나중에 다시 볼 SNS 동영상, ‘찜’ 하려면 이렇게! [이럴땐 이렇게!]	IT동아	07.01	113	0
3991	[정구태의 디지털자산 리터러시] 디지털자산 갈라파고스 탈출을 위한 제언 3. 해외 투자자 허용 [1]	IT동아	07.01	4667	0
3990	[주간투자동향] 스픽이지랩스코리아, 300억 원 시리즈 B3 투자 유치	IT동아	07.01	148	0
3989	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 17 [3]	IT동아	06.28	794	0
3988	[뉴스줌인] LG전자 ‘클로이’ 로봇, 구글 ‘제미나이’ AI 탑재해 더 똑똑해졌다	IT동아	06.28	247	0
3987	[농업이 IT(잇)다] AI로 누구나 쉽게 식물 키우도록 돕는 ‘그루우’	IT동아	06.28	171	0
3986	누비랩 x 전주효림초등학교 “AI와 놀며 편식·잔반 문제 해결”	IT동아	06.28	172	0
3985	가상자산 사업자 신고제 개정 ‘법령 준수 체계·대주주 현황도 신고’ [1]	IT동아	06.28	6203	0
3984	브이디컴퍼니 x 여산휴게소 “로봇과 함께 휴게소 무인화 성큼”	IT동아	06.28	171	0
3983	디지털 교육 위한 첫걸음 디벗, 교육 현장에서는 어떻게 쓰이나	IT동아	06.28	148	0
3982	[스케일업] 캠터 [1] BM 분석 “수익형 캠핑용품 대여 플랫폼으로 상생을 꿈꾼다”	IT동아	06.28	140	0
3981	[SBA X IT동아] 페이먼트인앱 “인공지능 에지 컴퓨팅의 효용을 세계로 ”	IT동아	06.28	127	0
3980	[생성 AI 길라잡이] PC도, 스마트폰도…온디바이스 AI 시대 본격화	IT동아	06.28	164	0
3979	퓨리오사AI, TCP(텐서 축약 프로세서)로 AI 반도체 시장 전환 노린다	IT동아	06.28	132	0
3978	부산모빌리티쇼 개막…캐스퍼 일렉트릭·르노 콜레오스 등 신차 격전	IT동아	06.27	168	0
3977	동의 없이 마음대로 수리하고 수리비는 개인 주머니에? 제이씨현온비즈의 수상한 A/S [4]	IT동아	06.27	794	0
3976	[IT애정남] AI PC, 어떤 기준으로 고르는 게 좋나요? [1]	IT동아	06.27	575	3
3975	[SBA X IT동아] 그린웨어 “섬유 산업 지속가능성 주는 바이오매스 천연 염색”	IT동아	06.27	150	0
3974	2024 블록체인 지원 사업 14개 추진 “블록체인 혁신 서비스 발굴·지원”	IT동아	06.27	127	0
3973	[스타트업 첫걸음] 창업지원기관, 어떻게 찾아야 할까	IT동아	06.27	131	0
3972	업무 문화 혁신 중, KB국민은행은 ‘애자일(Agile)에 진심’이었습니다 [13]	IT동아	06.27	6232	0
3971	[스케일업] 파나띠꼬 [1] BM분석 – 선택ㆍ집중 통한 기업과 제품 정체성 구축 필요	IT동아	06.26	140	0
3970	[스케일업] 말랑탱크 [1] BM분석 “눈 건강 솔루션으로 틈새 시장 개척, 방향성 유지가 중요”	IT동아	06.26	140	0
3969	브이디컴퍼니 x 골프존파크 “서빙로봇과 24시간 매장으로 변신”	IT동아	06.26	143	0
3968	[리뷰] 조명을 더한 감성 스피커 ‘브리츠 BZ-CML200’	IT동아	06.26	908	1
3967	[자동차와 法] 차량 결함으로 의심되는 급발진 교통사고의 문제점	IT동아	06.25	152	0
3966	[인터뷰] 실사용 의료데이터 분석으로 성공적인 임상연구 돕는 ‘메디플렉서스’	IT동아	06.25	163	0
3965	[자동차 디자人] 프리미엄 소형차 ‘MINI 디자인’ 이끄는 ‘올리버 하일머’	IT동아	06.25	913	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

다양한 개인용 소프트웨어에서 인공지능 지원하지만, 대부분 ‘온-디멘드’ 방식

산업용 PC 기반 ‘온-디바이스 AI’는 제한적이지만 움직임은 있다

▶ 6G 시대 준비하는 노키아, ‘기술 비전 2030’ 선보여▶ LG유플러스 'AI 올인' 선언…"1.3조 투자해 매출 2조 달성"▶ 삼성전자, LCD 탑재한 '비스포크 AI 콤보' 신제품 출시

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결

▶ 6G 시대 준비하는 노키아, ‘기술 비전 2030’ 선보여 ▶ LG유플러스 'AI 올인' 선언…"1.3조 투자해 매출 2조 달성"▶ 삼성전자, LCD 탑재한 '비스포크 AI 콤보' 신제품 출시