KT클라우드, 엔비디아 GPU 기반 학습 서비스 'AI Train' 출시

IT동아

2024.05.30 12:05:10

조회 145 추천 0 댓글 0

[IT동아 남시현 기자] KT클라우드가 엔비디아 GPU를 적용한 AI 트레이닝(학습) 전용 인프라 서비스, ‘AI Train’을 출시했다. 인공지능(AI) 개발은 데이터를 수집해 가공한 뒤, 모델의 형태로 최적화 과정을 교육시키는 학습(Training)과 학습을 통해 완성된 모델을 사용해 새로운 데이터에 대한 예측을 수행하는 ‘추론(Inference)’ 과정 두 가지로 나뉜다. 이번에 KT클라우드가 공개한 AI Train은 모델을 개발하는 ‘학습’에 대응하는 서비스다.

KT클라우드가 엔비디아 H100, A100, V100 기반의 AI 모델 학습 서비스인 AI Train을 출시했다 / 출처=KT클라우드

AI 학습은 가능한 많고, 성능이 높은 GPU를 사용할수록 빠르게 모델을 학습시킬 수 있어서, 전 세계적으로 AI 모델 구축을 위한 GPU 확보 경쟁이 치열한 상황이다. 이번에 출시된 AI Train을 통해 KT클라우드 이용자는 클라우드 상에서 AI 학습에 필요한 대용량, 고사양의 GPU 자산을 활용할 수 있다.

또한 KT클라우드가 22년 선보인 HAC(Hyperscale AI Computing)과 동일하게 대량의 GPU를 하나로 연결해 거대한 연산 자원으로 활용하는 대규모 GPU 노드 클러스터링과, 필요에 따라 컴퓨팅 자원을 실시간으로 할당 및 조정하는 동적 할당제어 기능을 지원한다. 여기에 AI Train은 애플리케이션 실행에 필요한 독립 패키지 ‘컨테이너’ 방식으로 클러스터 구성을 할 수 있다.

엔비디아 A100 기반으로 구동되고 있는 예시 이미지 / 출처=KT클라우드

하드웨어는 엔비디아 호퍼 아키텍처 기반의 H100을 제공하며, 엔비디아 A100 및 V100도 사용할 수 있다. 사용자는 자원 할당 기능을 활용해 처리에 필요한 CPU, 메모리, GPU 등의 자원량을 템플릿 형태로 저장하고 쓸 수 있다. 또한 GPU를 사용한 시간만큼만 요금이 부과되고, GPU가 유휴 상태일 때는 컨테이너를 자동 반납하는 구조로 비용 효율성을 높였다.

AI Train은 지난 2023년 진행된 NIPA 고성능 컴퓨팅 사업∙AI 바우처 사업에서 사용 편의성을 검증했으며, 오는 6월 중에는 리벨리온과 협력해 공공 및 기업 고객 대상의 추론 전용 NPU(Neural Processing Unit, 신경망처리장치) 상품인 ‘AI SERV NPU’도 출시한다. 해당 서비스는 리벨리온이 올해 출시할 ‘ATOM Plus’ 칩 출시와 발맞춰 성능을 높일 예정이고, 추후 라마(Llama)-3 등의 sLLM(소형거대언어모델) 같은 AI 연구용 언어 모델을 지원할 예정이다.

한편 KT클라우드는 작년 10월, 슬라이싱 기술을 활용한 엔비디아 GPU 기반의 AI 추론 전용 서비스 ‘AI SERV’를 선보이며 고객 활용도를 높여왔다. 슬라이싱 기술은 GPU 자원을 여러 개의 작은 단위로 나눠 사용자가 필요한 만큼 자원을 쓸 수 있도록 하는 기술로, 자원을 더 효율적으로 쓸 수 있도록 한다. 반려견 생체인식 플랫폼 기업 ‘아지랑랑이랑’ 관계자는 “초기 GPU 투자 진행을 고민하다 KT클라우드의 AI SERV를 쓰게 됐다. 자사 연구 환경에 맞춰 GPU 사용량을 최적화하고, AI 연구 비용을 약 70% 이상 절감했다”라고 언급했다.

남충범 KT클라우드 본부장은 “KT클라우드는 지속적으로 확대되는 시장 내 인프라 수요에 적극 대응하고, 차별화된 AI 인프라를 제공하기 위해 AI Train을 선보이게 됐다”라면서, “다양한 파트너들과 협업하며 AI 클라우드 분야를 선도하고, 고객 사용성에 맞춘 AI 인프라 환경을 구현해 나갈 것”이라고 말했다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ AI 구심점으로 떠오른 '컴퓨텍스', 올해 주목할만한 기업 별 소식은?▶ ‘천비디아’ 달성한 엔비디아, 독주할까? 반도체주와 함께할까?▶ 6월 인공지능ㆍ반도체 시장 엔비디아 손에 달렸다

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
3906	컴퓨텍스 2024에서 눈에 띈 강소기업들 “한국시장 기대 커” [1]	IT동아	06.07	466	0
3905	[생성 AI 길라잡이] 생성 AI 학습 과정에서 발생하는 빈번한 분쟁	IT동아	06.07	229	0
3904	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 14	IT동아	06.07	226	0
3903	글로벌 기업도, 유망 스타트업도…“어도비 서브스턴스 3D로 디지털 혁신 가능해”	IT동아	06.07	1112	0
3902	[농업이 IT(잇)다] 그랜트 “농업인의 고민 해결하는 친환경 과일 포장재, 딴딴박스”	IT동아	06.07	194	0
3901	노랑풍선, "NHN두레이 전사 도입으로 조직 내 업무 환경 통일했죠"	IT동아	06.07	193	0
3900	국내 장수 만화 IP 비즈니스의 모범 사례가 되길... '열혈강호' 30주년 콜라보 카페 방문기 [24]	IT동아	06.07	2587	2
3899	시놀로지 “눈 높은 한국 고객들 의견 수렴하며 성과 거둬”	IT동아	06.06	216	0
3898	노트북 출시 20주년 맞은 MSI, 컴퓨텍스 부스도 ‘노트북 풍년’ [14]	IT동아	06.06	7577	4
3897	‘모든 곳에 인공지능’을 위한 시작, 인텔 AI 서밋 서울 개최	IT동아	06.05	263	0
3896	시놀로지, 엔터프라이즈 솔루션 강화 ‘잰걸음’	IT동아	06.05	197	0
3895	[시승기] ‘K5 LPG 하이브리드’로 500km 주행 후 실연비 살펴보니	IT동아	06.05	553	0
3894	퀄컴 스냅드래곤X 시리즈, AI PC넘어 AI 산업도 노린다	IT동아	06.05	215	0
3893	국내 가상자산 커뮤니티 “텔레그램·카카오톡 활성화, 단기 시세에 민감”	IT동아	06.05	188	0
3892	“디지털 혁신 이끈 3D 기술, AI로 문턱 더 낮아질 것“…어도비 서브스턴스 데이에서 엿본 미래	IT동아	06.05	187	0
3891	딥엑스, 엣지 AI용 NPU 'DX-M1'으로 중국·대만 시장에서 두각	IT동아	06.05	214	0
3890	SK하이닉스, 컴퓨텍스 2024서 GDDR7, 자체 컨트롤러 등 전시	IT동아	06.05	201	0
3889	MSI, 컴퓨텍스 2024에 ‘AI+ PC’ 대거 선보이며 ‘기선제압’	IT동아	06.05	165	0
3888	‘연 단위 출시, 네트워크 대역 확장’ 인공지능 가속기 경쟁 달아오른다	IT동아	06.04	179	0
3887	인텔 컴퓨텍스 2024 부스 가보니··· 'AI PC 사례·제온 6 공개 눈길' [2]	IT동아	06.04	1687	0
3886	컴퓨텍스 2024 MSI 부스, ‘클로’ 8인치와 ‘AMG’ 노트북 공개로 ‘북적’	IT동아	06.04	161	0
3885	펫 겔싱어, "2030년 세계 2위 파운드리 목표··· 다음 주 18A 칩 구동"	IT동아	06.04	225	0
3884	인텔 제온6·가우디3·루나레이크까지 총 출동··· '시장 주도권 노린다'	IT동아	06.04	192	0
3883	전기차 캐즘에도 정면 돌파 택한 ‘현대차그룹’	IT동아	06.04	162	0
3882	"AI PC 시대, 피처폰에서 스마트폰 전환만큼 혁명적 도약" [1]	IT동아	06.03	735	1
3881	韓 자동차 등대공장 0개...제조공정 혁신 시급	IT동아	06.03	185	0
3880	3세대 라이젠 AIㆍ라이젠 9000 시리즈, AMD 새 CPU 제품군 대거 공개 [7]	IT동아	06.03	753	1
3879	6월부터 달라진 통신3사 요금·혜택 살펴보니 [1]	IT동아	06.03	1517	0
3878	[정구태의 디지털자산 리터러시] 1. 지금 당신이 디지털자산에 관심을 가져야할 이유	IT동아	06.03	158	0
3877	[주간투자동향] 벤디트, 80억 원 규모 프리 시리즈A 투자 유치	IT동아	06.03	798	2
3876	여름철 필수품 '선풍기', 용도·기능에 맞춰 고르는 법! [이럴땐 이렇게!]	IT동아	06.03	196	0
3875	블랙웰 다음 루빈, 엔비디아 차기 인공지능 가속 플랫폼 공개 [2]	IT동아	06.03	2091	1
3874	베일에 싸였던 구글의 '검색 알고리즘'…유출 문건으로 실체 드러나	IT동아	05.31	240	0
3873	가비아, 한국마사회에 클라우드 PC ‘가비아 DaaS’ 공급	IT동아	05.31	193	0
3872	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 13	IT동아	05.31	201	0
3871	외산 솔루션 가격 인상, 국산 가상화 시장 훈풍 기대	IT동아	05.31	185	0
3870	[리뷰] 게이밍-홈시네마 넘나드는 전천후 빔프로젝터, 뷰소닉 LX700-4K	IT동아	05.31	1225	1
3869	[생성 AI 길라잡이] 1분 만에 영상·이미지 제작 ‘브이캣’ [2]	IT동아	05.31	5309	5
3868	[농업이 IT(잇)다] 실내 수직형 스마트팜으로 생산량 극대화하는 ‘플랜티팜’ [1]	IT동아	05.31	562	0
3867	페라리 DNA 담은 12기통 2인승 '12 칠린드리'…아시아 최초 공개	IT동아	05.30	222	0
3866	블랙웰에 FOPLP 조기 도입 고려 중인 엔비디아, 미세공정 넘어 생산 경쟁 유도하나?	IT동아	05.30	258	0
3865	북블라 “창업의 꿈, 가천대 코코네스쿨에서 이뤄”	IT동아	05.30	210	0
3864	스페이스앤빈 “뉴스페이스로의 전환, 상용 부품 적용 물꼬부터 터야”	IT동아	05.30	159	0
3863	[리뷰] AFMF로 가성비 게이밍 환경 구축, AMD 라데온 RX 7700 XT [8]	IT동아	05.30	5830	5
3862	[스타트업 첫걸음] 스타트업, 창업 아이디어는 어떻게 시작할까	IT동아	05.30	161	0
	KT클라우드, 엔비디아 GPU 기반 학습 서비스 'AI Train' 출시	IT동아	05.30	145	0
3860	캐딜락, 브랜드 최초 순수 전기 SUV ‘리릭’ 출시 [2]	IT동아	05.30	563	1
3859	SBA 유망 스타트업의 면모 확인, ‘2024 연합 데모데이’ 이모저모	IT동아	05.29	135	0
3858	AI 구심점으로 떠오른 '컴퓨텍스', 올해 주목할만한 기업 별 소식은? [2]	IT동아	05.29	533	0
3857	[IT애정남] 로봇청소기 고를 때 고려할 점은?	IT동아	05.29	932	0
뉴스	제니, 솔로로 코첼라 입성	디시트렌드	14:00