CPU 도전하는 엔비디아, GPU 대체나선 인텔··· 격랑에 빠진 AI 반도체 시장

IT동아

2023.11.01 18:14:43

조회 466 추천 1 댓글 7

[IT동아 남시현 기자] 컴퓨터의 산술 연산은 정수 연산(Integer)과 부동소수점(Floating Point) 연산으로 나뉜다. 정수 연산은 단순한 사칙연산 등으로, 컴퓨터 프로그램을 구동하는데 기본적으로 필요하다. 정수 연산은 중앙 처리 장치(CPU)가 담당하는데, 이는 CPU가 보다 논리적이고 복잡하게 얽힌 작업을 수행하는데 최적화된 구조로 돼있어서다. 반대로 부동소수점 연산은 그래픽 처리 장치(GPU)가 맡는다. GPU는 다수의 데이터를 병렬로 처리하는 구조여서 대규모 데이터 및 복잡한 계산을 효율적으로 처리한다. 그래서 인공지능 개발 작업에 CPU가 아닌 GPU가 사용되는 것이다.

이러한 공식에 따라 현재 업계는 크게 두 갈래로 나뉘어있다. CPU는 인텔과 AMD가 양분하고 있고, GPU는 엔비디아가 절대다수를 차지하며 AMD가 일부 지분을 갖고 있다. 기업 규모나 시장 측면으로 볼 때 충분히 인텔과 AMD, 엔비디아가 삼자 경쟁을 할 법 하지만, CPU와 GPU의 구조적 차이와 서로 다른 활용도 때문에 직접 경쟁이 이뤄지지는 않아 왔다. 하지만 엔비디아가 올해 6월 Arm 기반 CPU를 탑재한 ‘그레이스호퍼’ 슈퍼칩으로 인텔을 대체할 가능성을 확인하고, Arm 기반 PC용 CPU가 수면위로 떠오르며 새로운 국면을 맞고 있다.

엔비디아, CPU 자체 제작으로 시장 공략 준비

GPU는 강력한 부동소수점 연산 성능을 통해 금융, 과학, 설계, 그래픽 처리 등의 분야에도 쓰이고 있다 / 출처=엔비디아

올해 IT 시장의 화두는 인공지능이다. 소프트웨어 업계에서는 생성형 AI와 대형언어모델을 비롯한 기술이 대두되고 있고, 하드웨어 업계에서는 이를 보조할 AI 가속기, 처리 장치가 주목받고 있다. 이 시기가 올 것을 예상하고 준비한 대표적인 기업이 엔비디아다. 엔비디아는 07년부터 서버용 부동소수점 처리 카드인 엔비디아 테슬라 라인업을 구축해 왔고, 꾸준히 슈퍼컴퓨터와 데이터센터 등에 납품해왔다. 그러다 GPT를 비롯한 생성형 AI발 그래픽 카드 수요가 폭발하며 극적인 호황을 누리는 상황이다.

하지만 서버용 시스템을 납품할 때에도 CPU가 포함돼야하고, 인텔과 AMD가 반사 이익을 얻는 게 보통이다. 그래서 엔비디아는 지난 6월 컴퓨텍스에서 ‘그레이스호퍼’ 슈퍼칩을 발표하면서 사실상 CPU까지 대체하겠다는 계획을 공개한다. 그레이스호퍼는 Arm의 그레이스 CPU와 엔비디아의 호퍼 GPU를 합친 완제품이어서 인텔과 AMD의 개입을 줄이게 된다.

엔비디아 그레이스 호퍼 슈퍼칩 / 출처=엔비디아

그리고 지난 10월 23일에는 엔비디아가 인텔 CPU를 대체하기 위한 Arm 기반 PC 칩 제작에 나섰다는 보도가 나왔다. 로이터에 따르면, 엔비디아는 Arm 기술을 바탕으로 윈도우 PC 등에 사용할 수 있는 CPU 설계를 시작했다. 최근 엔비디아 이외에도 퀄컴이나 마이크로소프트, AMD까지 Arm 기반의 윈도우 PC용 프로세서 제작에 나선 것으로 알려졌는데, 엔비디아가 PC 프로세서까지 만들면 인텔과 엔비디아가 CPU로 경쟁하는 새로운 구도가 성립된다.

시장조사기관 카운터포인트리서치는 올해 Arm 기반 노트북 점유율이 15%를 기록할 수 있으며, 2027년에는 최대 25%까지 오를 수 있다고 밝혔다. 대다수는 애플 실리콘 기반의 판매량이지만, 엔비디아나 다른 기업들도 Arm 기반 제품을 출하하면 점유율은 더 올라갈 수 있다. 장기적으로는 서버용 프로세서까지도 엔비디아가 노려볼 상황이 된다.

인텔, 서버용 GPU를 CPU로 대체하는 기술로 맞불

한편 엔비디아와 거리를 두고 있던 인텔도 엔비디아의 영역에 도전장을 내밀었다. 지난 31일, 인텔이 네이버와 함께 GPU 기반 인공지능용 모델 서버를 2세대 인텔 제온 스케일러블 프로세서 서버로 전환하는 데 성공했다. 대체된 서비스는 네이버 지도의 ‘네이버 플레이스’ 관련 정보 중 영수증, 음식 사진, 공간 사진 등의 이미지를 인식 판별 및 매칭, 상점 정보, 사용후기 판별 및 검색결과 노출에 대해 학습하고 추론하는 인공지능이다.

네이버 지도에서 검색하면 나오는 메뉴가 네이버 플레이스다 / 출처=네이버

전환 배경은 네이버 G플레이스 AI 개발팀이 최근 GPU 기반 서버의 비용 증가 및 가용성 제한을 겪었고, 이를 해소하기 위해 GPU 기반 서버에서 수행하던 추론 과정을 CPU 기반 서버로 전환할 계획을 세운다. 전 세계적으로 인공지능용 GPU 수요가 폭증하면서 전반적인 가격대가 크게 오르고, 대기까지 걸어야 하는 상황이라서다.

보통 GPU 서버를 CPU로 단순 전환할 경우 성능이 크게 낮아지는데, 네이버 G플레이스 개발팀은 신경망 추론에 최적화된 인텔 파이토치 확장팩을 도입해 병목 현상을 줄이고, CPU 코어 활용을 늘려 초당 처리 개수를 7배까지 끌어올렸다. 또 지연시간을 줄이기 위해 모델을 개선해 음식 사진 분류가 33배, 이미지 점수가 30배, 영수증 분류 성능이 5.5배 향상됐다. 이후 약 한 달간 사전 검증을 거친 뒤 GPU 기반 서버 사용을 줄여 연간 약 4억 원 이상의 운용 비용을 절감하게 됐다.

네이버는 2세대 인텔 제온 스케일러블 프로세서로 서버를 전환했고, 현재 4세대 프로세서를 활용한 테스트를 진행하고 있다 / 출처=인텔

이번 사례는 CPU 기반 서버로도 엔비디아의 GPU 서버를 대체할 수 있음을 증명했다는 데 의미가 있고, 또 GPU 기반 서버 마련 및 운용에 어려움을 겪는 기업에 대체제가 될 수 있음을 보여줬다. 게다가 인텔은 CPU 이외에도 인공지능 전용 가속기인 하바나 가우디 2, 데이터센터 GPU 맥스 등 엔비디아의 GPU와 직접 경쟁이 가능한 품목들도 갖추고 있어서 장기적으로 엔비디아의 최대 경쟁사로 떠오를 가능성도 있다.

경계 무너지는 인공지능 하드웨어, 성능과 확장성이 관건

엔비디아는 인텔이 수십 년 간 갖고 있던 CPU 시장에 진입할 구상을 짜기 시작했고, 인텔도 엔비디아의 독주 체제를 무너뜨릴 해법을 계속 준비하고 있다. AMD 역시 CPU와 GPU 모두 출시하며 양쪽 모두를 견제하는 상황이다. 이대로라면 Arm 기반 PC가 시장에 자리잡는 2025년쯤이면 인텔과 엔비디아, AMD가 삼자 경쟁을 벌이는 상황이 될 가능성이 크다. 서버 시장 규모 자체가 크긴 하지만, 점유율 측면에서는 제로섬 게임이니 경쟁은 치열할 것이다.

퀄컴은 지난달 개최된 스냅드래곤 서밋 2023에서 Arm 기반으로 자체 설계한 퀄컴 오라이온 CPU를 공개했다 / 출처=퀄컴 테크날러지

그리고 어떤 기술이 됐든 성능보다도 호환성이 핵심이 될 전망이다. 퀄컴이 지난 2018년 출시한 스냅드래곤 컴퓨트 플랫폼의 경우, 낮은 발열과 적절한 효율로 기대를 모았지만, x86 전용 웹사이트나 애플리케이션을 지원하지 않는 등의 문제로 큰 주목을 받지 못했다. 다만 퀄컴은 21년에 미국 반도체 스타트업 누비아를 인수하는 등 컴퓨터 시장 진입을 위해 노력해온 터라 새로 출시한 퀄컴 오라이온 CPU는 과거와 다른 결과를 보여줄 것이다. 애플 실리콘으로 Arm 기반 PC 시장이 기지개를 펴고, 퀄컴을 비롯한 기업들이 힘을 모으기 시작하는 게 지금의 상황이다.

엔비디아도 이 흐름을 타는 것인데, 앞서 퀄컴의 사례처럼 확장성 문제가 발목이 잡힌다면 인텔을 잡기는커녕 자충수가 될 수 있다. 반대로 인텔 역시 GPU를 CPU로 대체하는 과정에서 호환성이 떨어진다면 단순 사례로 그치고 말 것이다. 얼마나 잘 지원하는가, 그것이 향후 시장의 향방을 결정짓는 요소다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 고샤양 게임에서 필수된 DLSS, 엔비디아 왕좌 굳힌다 ▶ 애플, M3 기반 맥북 프로·아이맥 공개··· '3nm로 격차 굳힐까'▶ [리뷰] 과감함보다는 내부적 혁신에 주력, 아이폰 15 프로 맥스

고정닉 0

원본 첨부파일 5본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	여론 선동에 잘 휘둘릴 것 같은 스타는?	운영자	24/12/16	-	-
3232	예술과 지향성 음향의 만남 《MMCA 현대차 시리즈 2023 : 정연두-백년 여행기》 [3]	IT동아	23.12.08	2932	1
3231	[서울형 R&D] SBA 김종우 혁신성장본부장 “친기업적인 R&D 지원사업을 고민합니다”	IT동아	23.12.08	142	0
3230	1인 크리에이터 강사 키우는 경기콘텐츠진흥원, 그 성과는?	IT동아	23.12.08	187	0
3229	울산 디자인주도 제조혁신센터, “제조기업에게 디자인을 알리고 있습니다”	IT동아	23.12.08	140	1
3228	[스타트업-ing] 팬토믹스 “영상 바이오마커 기술로 신속하고 정확한 비침습 진단 실현”	IT동아	23.12.08	139	0
3227	[스타트업-ing] 감성놀이터 “가상현실·디지털 휴먼으로 사람 마음 고친다”	IT동아	23.12.08	128	0
3226	[과기대 S-Run] 제조 창업자에게 필요한 브랜딩과 마케팅 방법을 지원합니다	IT동아	23.12.07	127	0
3225	[리뷰] 기본기 만족, 화면에 대만족, 에이수스 젠북 S 13 OLED [1]	IT동아	23.12.07	691	0
3224	내년의 인공지능 키워드는 생성형 AI 넘어 '온디바이스 AI'	IT동아	23.12.07	163	0
3223	퓨리오사AI가 연 NPU 해커톤 가보니··· '새로운 AI 시장·생태계 태동에 기여'	IT동아	23.12.07	914	1
3222	KISA, K-BTF 내년 도입 ‘경제성·호환성·편의성에 초점’	IT동아	23.12.07	103	0
3221	[리뷰] 의외의 가성비와 고성능을 겸비, 14세대 인텔 코어 i7-14700K [6]	IT동아	23.12.06	807	0
3220	용접부터 팔레타이징까지…보폭 넓히는 ‘협동로봇’	IT동아	23.12.06	113	0
3219	성북구 1인 창조기업 지원센터에서 꿈을 향해 도전하고 있는 스타트업 (2)	IT동아	23.12.06	114	0
3218	[EV 시대] 전기자동차와 디자인 [1]	IT동아	23.12.05	697	1
3217	경기콘텐츠진흥원 서부권역센터 입주 기업들, 시설∙프로그램에 ‘만족’	IT동아	23.12.05	109	0
3216	[과기대 S-Run] 혁신적인 아이디어의 상품화…시제품 제작 지원으로 달성	IT동아	23.12.05	116	0
3215	현직 교사로 구성된 ATC ‘디지털새싹 캠프 통해 SW·AI 교육 격차 해소에 기여’	IT동아	23.12.05	108	0
3214	DAXA, 불법 영업 가상자산 사업자 신고 창구 개설	IT동아	23.12.05	93	0
3213	환자 안전 지키고 더 나은 치료법 설계 돕는 ‘버추얼 트윈’ [2]	IT동아	23.12.04	1576	1
3212	온라인 면세점을 이용하려면 이렇게![이럴땐 이렇게!]	IT동아	23.12.04	510	0
3211	서울과기대 창업지원단 “제품 브랜딩과 마케팅 방법을 알려드립니다”	IT동아	23.12.04	109	0
3210	[IT애정남] 탄소섬유 열선? 피복체 열선? 탄소매트 구분 법 알려주세요	IT동아	23.12.04	840	1
3209	[IT애정남] 노트북에 연결한 모니터의 화면 움직임이 뚝뚝 끊긴다면? [2]	IT동아	23.12.02	9246	10
3208	[KIDP 울산] 볼로랜드·울주군·UIPA “힘 모아 세계 드론 표준 도시 울주 구축”	IT동아	23.12.01	149	0
3207	지능형 교통체계 도입으로 분주한 지자체…광역화 위한 과제는? [1]	IT동아	23.12.01	944	0
3206	[농업이 IT(잇)다] 인네이처 “ITO·물도리로 스마트팜과 창호 개선”	IT동아	23.12.01	181	0
3205	‘CBDC 활용성 테스트’ 2024년 3분기 디지털 바우처로 진행	IT동아	23.12.01	139	0
3204	"AWS, 책임감 있는 AI를 추구하는 것은 수익성과 직결" [AWS 리인벤트 2023]	IT동아	23.12.01	456	0
3203	노동력 부족한 캐나다, 이민의 문 ‘활짝’ 열었다[K비즈니스가이드] [1]	IT동아	23.11.30	203	0
3202	[이제는 전북 콘텐츠] 스타트업을 위한 투자 유치 기회를 제공합니다	IT동아	23.11.30	121	0
3201	퀄컴 스냅드래곤 8 3세대, 미디어텍 제치고 AP 경쟁 우위에 [2]	IT동아	23.11.30	238	0
3200	이노모티브 “KIAT 기반구축사업 힘입어 모빌리티 생태계에 도전장”	IT동아	23.11.30	138	0
3199	원주세브란스기독병원 의료기기 CRO 센터 “임상시험을 더 쉽게 수행할 수 있습니다”	IT동아	23.11.30	138	0
3198	[스타트업-ing] 델바인 “디지털 기술 기반 새로운 치료법을 연구합니다”	IT동아	23.11.30	138	1
3197	[단독] 프라사드 칼야나라만 AWS 부사장 "향후 인프라 투자 방향, 고객이 원하는 대로" [AWS 리인벤트 2023]	IT동아	23.11.30	166	0
3196	AWS, 이미지 생성형 AI 시장 진출··· '상용화에 방점' [AWS 리인벤트 2023] [4]	IT동아	23.11.30	589	3
3195	AWS, AI 적용해 세이지메이커 효율 강화 나서 [AWS 리인벤트 2023]	IT동아	23.11.30	102	0
3194	LG AI연구원, 이미지를 문장으로 변환하는 AI 공개[AWS 리인벤트 2023]	IT동아	23.11.30	126	0
3193	출장지 날씨 예상부터 미팅 제안 글까지 작성하는 ‘자율 AI’ 선보인 ‘라이너’	IT동아	23.11.29	132	0
3192	폐기물로 가구, 소품, 화장품까지...ESG붐 타고 ‘업사이클링’ 뜬다	IT동아	23.11.29	188	0
3191	[스케일업] 리하베스트 [2] 더브레드블루 “업사이클링·비건의 맛과 멋 전파”	IT동아	23.11.29	105	0
3190	성북구 1인 창조기업 지원센터에서 꿈을 향해 도전하고 있는 스타트업 (1)	IT동아	23.11.29	128	0
3189	[KIDP 울산] 옛간·퀀텀코스메틱 “신뢰로 프랜차이즈 성공 기반 다져라”	IT동아	23.11.29	101	0
3188	[과기대 S-Run] 제조 스타트업에게 가장 중요한 ‘시제품 제작 지원’	IT동아	23.11.29	121	0
3187	AWS, 생성형 AI 베드록·새 AI 반도체로 '초가속'한다 [AWS 리인벤트 2023] [3]	IT동아	23.11.29	1373	3
3186	[그때 그 IT] 모빌리티 판례 (3) 타다 서비스 여객자동차법 위반 무죄	IT동아	23.11.28	105	0
3185	[스타트업-ing] 터널 속에서도 차량의 정확한 위치 파악 돕는 ‘씨너렉스’	IT동아	23.11.28	120	0
3184	[마인드테크 시대가 온다] 6. 마인드상태 인식, 알 수 없는 마음	IT동아	23.11.28	152	0
3183	세계 최대 클라우드 행사 시작··· 이목은 'AI'에 집중 [AWS 리인벤트 2023]	IT동아	23.11.28	297	1
뉴스	82메이저, 단독 콘서트 티켓 매진... 역시 공연형 아이돌	디시트렌드	12.17