디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

AWS, 생성형 AI 베드록·새 AI 반도체로 '초가속'한다 [AWS 리인벤트 2023]

IT동아갤로그로 이동합니다. 2023.11.29 04:32:40
조회 1372 추천 3 댓글 3
[라스베이거스=IT동아]


아담 셀립스키 AWS 최고경영자가 2일 차인 11월 28일에 기조연설을 진행했다 / 출처=IT동아



아담 셀립스키(Adam Selipsky) AWS 최고경영자가 11월 28일(현지시각) AWS 리인벤트에서 AWS의 핵심 전략에 대한 기조연설을 진행했다. AWS 리인벤트는 올해로 12회를 맞이한 세계 최대 규모의 클라우드 행사로, 미국 네바다주 라스베이거스 일대에서 진행된다. 리인벤트 2023은 전 세계의 클라우드 개발자 및 고객사, 미디어 등 5만 여 명 이상이 참여했으며, 한국에서도 삼성 및 LG CNS, 카카오페이증권, 한국타이어, 포스코홀딩스, KB금융그룹 등 주요 고객 기업이 행사에 참가한다.


아담 셀립스키 AWS 최고경영자 / 출처=IT동아



아담 셀립스키는 2005년 AWS에 입사해 11년간 영업, 마케팅 등 지원 분야에서 부사장까지 올랐다가 2016년 데이터 시각화 기업 태블로 최고경영자로 자리를 옮겼다. 재임 중 그는 태블로의 가치를 네 배나 올렸고, 최종적으로 세일즈포스에 인수시킴으로써 몸값을 높였다. 이러한 공로를 바탕으로 2021년에는 다시 AWS 최고경영자로 돌아와 사업을 이끌어가고 있다.

AWS, 차세대 반도체로 AI 성능 강화 나서



예상했던 바지만, AWS 역시 생성형 AI에 높은 비중을 둔다 / 출처=IT동아



AWS 리인벤트 2023 키노트를 관통하는 핵심 주제는 단연 ‘생성형 AI’이며, 큰 틀에서 하드웨어와 소프트웨어로 각각 나뉘었다. 하드웨어 측면에서는 아마존의 자체 개발 반도체인 AWS 그라비톤 4(Graviton 4)와 AWS 트레이니엄 2(Trainium 2)의 등장이다. 그라비톤 4는 아마존의 서버용 프로세서로, 4세대 모델은 3세대 대비 30% 향상된 컴퓨팅 성능과 50% 더 많은 코어, 75%의 더 높은 메모리 대역폭을 제공해 아마존 EC2 기반 작업에서의 성능과 에너지 효율성을 동시에 만족한다.


AWS는 트레이니엄 2 및 그라비톤 4 반도체를 새롭게 공개했다 / 출처=IT동아



아담 셀립스키 AWS CEO는 “이미 5만 개의 고객사가 그라비톤 4를 사용하고 있다. SAP의 경우 그라비톤을 활용해 비용은 35% 줄이고, 탄소 발자국은 45%까지 줄인 상황”이라고 부연 설명했다.

트레이니엄은 AWS의 기계학습 맞춤형 설계 칩이며, 생성형 AI 구축에 필수적인 장치다. 새로운 2세대 칩은 1세대보다 4배 빠른 학습 성능을 제공하며, 10만 개 칩으로 구성된 EC2 울트라클러스터에 배포할 수 있어 기반 모델(파운데이션 모델)과 대형 언어 모델(LLM)도 한 번에 교육할 수 있다.

젠슨 황 엔비디아 CEO 깜짝 등장해 협력 관계 밝혀



젠슨 황 엔비디아 CEO가 기조연설에 등장해 GH200 그레이스 호퍼 슈퍼칩, H200 GPU 제공 등과 관련한 메시지를 남겼다 / 출처=IT동아



인공지능으로 최고의 주가를 올리고 있는 엔비디아의 젠슨 황 CEO도 깜짝 등장했다. AWS는 클라우드 기업 최초로 엔비디아 GH200 그레이스 호퍼 슈퍼칩을 도입하며, 32개 엮은 GH200 NVL32 다중 노드 플랫폼 형태로 사용한다. 젠슨 황 엔비디아 CEO는 “AWS와 엔비디아 모두 에너지 소모가 적은 Arm 프로세서를 선호하는데, GH200의 혁신적인 방법이 도움이 될 것이다. GH200은 초당 1TB의 내부 대역폭을 갖춰 CPU와 GPU가 메모리를 공유하고, 이것이 AWS 나이트로에서 하나의 큰 가상 GPU 인스턴스가 될 것”이라고 설명했다.


AWS는 최초로 엔비디아 GH200 그레이스호퍼 슈퍼칩을 도입하는 클라우드 기업이 된다 / 출처=IT동아



아울러 내년 2분기 출시하는 엔비디아 H200 GPU도 도입한다. H200은 전작인 H100보다 1.4배 용량이 더 큰 141GB HBM3e 메모리를 탑재하고, 성능은 1.8배가량 더 빠르다. H200은 AWS 나이트로를 통해 최대 3200Gbps의 EFA(엘라스틱 패브릭 어댑터, 아마존 EC2 인스턴스용 네트워크 인터페이스) P5e 인스턴스로 제공돼 AWS 고객이 더 빠르게 AI 모델을 구축, 학습 및 배포할 수 있다.

아마존 베드록, 그리고 새로운 ‘아마존 Q’ AI



아마존 베드록의 완성도를 높일 수 있는 새로운 기능들이 대거 추가된다 / 출처=IT동아



아담 셀립스키 CEO는 “현재 1만 개 이상의 기업들이 아마존 베드록을 사용하고 있다. 배드록은 개발자가 더 빨리 생성형 AI를 사용하고 데이터를 다룰 수 있도록 돕는다”라면서, “하지만 한 모델을 모든 환경에 사용할 수는 없다. 그래서 AWS가 이 모든 것을 할 수 있도록 서비스를 제공한다”라며 설명을 시작했다.

키노트를 통해 새로 공개된 내용은 베드록 파인 튜닝, 검색 증강 생성(RAG), 지속되는 사전 훈련 기능, 베드락 에이전트, 아마존 베드록 가드레일 기능 등이다. 파인 튜닝은 인공지능 모델이 더 잘 동작하도록 미세 조정하는 과정인데, 캐나다 코히어(Cohere) 커맨드 라이트, 메타 라마2(Llama 2), 아마존 타이탄 텍스트 라이트 및 익스프레스를 곧바로 베드록에서 파인튜닝할 수 있다.


아마존 베드록에서 사용할 수 있는 추가 서비스, 보안 서비스 등도 함께 공개됐다 / 출처=IT동아



검색 증강 생성은 외부 정보로 생성형 AI 모델의 정확성과 신뢰성을 향상하는 기술이다. 경량화된 AI 모델이나 LLM 업그레이드 내역 등을 가져와서 베드록의 성능을 끌어올릴 수 있다. 지속가능한 사전 훈련 모델의 경우 특정 작업을 수행하기 위해 대규모로 사전에 심화학습을 적용해 놓은 것을 의미하며, 필요한 상황에 맞춤형 데이터를 더 빨리 내놓을 수 있게 된다.

아울러 배드록에서 다중 작업을 처리할 때 회사 시스템 혹은 데이터 소스에서 바로 자료를 가져오는 아마존 베드록 에이전트, 책임감 있는 AI 정책을 기반으로 AI가 구동되도록 하는 아마존 베드록 가드레일 기능 등이 함께 공개됐다. 전반적으로 아마존 베드록의 품질과 성능, 완성도를 한층 더 끌어올리는 데 집중하는 모양이다.

아마존 Q로 비즈니스 시장용 AI도 노린다



아마존은 비즈니스 용도로 안정적으로 쓸 수 있는 아마존 Q 서비스도 새롭게 공개했다 / 출처=IT동아



여기서 더 주목을 끈 기능은 아마존 Q다. 아마존 Q는 비즈니스에 곧바로 적용할 수 있는 생성형 AI 모델이다. 특히 파운데이션 모델 대신 AWS가 17년 간 확보한 데이터나 회사가 보유한 데이터 등을 40개 이상의 내장 커넥터로 사용할 수 있어 개발자가 안전하게 개발할 수 있다. 즉 외부 LLM을 사용할 때 발생할 수 있는 다양한 문제들을 비교적 안전하게 해결하고, 더 정확하게 정보를 제공하는 챗봇이다.

실제 현장에서는 회사에서 제공하는 전문 지식으로 데이터베이스를 구축하고, 답을 제공할 때 관련성 있는 답변을 빠르게 제공할 수 있다. 특히 보안이나 개인정보 보호 측면에서도 해답이 될 수 있다. AWS는 코드 휘스퍼러같은 AI 기반 서비스나 슬랙처럼 편리하게 사용될 것이라 보고 있다.


AWS는 제로-ETL 등 클라우드 전환 및 활용도를 높일 수 있는 새로운 기능들도 함께 공개했다 / 출처=IT동아



이외에도 AWS는 자주 사용하는 데이터를 최고 성능과 최저 지연으로 제공하는 새로운 스토리지 클래스인 아마존 S3 익스프레스 원 존, 아마존 레드시프트 상에서 데이터 파이프라인을 구축할 필요 없이 최소로 통합하는 제로-ETL(추출, 전환 적재) 지원, 아마존 오로라 포스트그레SQL, 아마존 RDS MySQL, 아마존 다이나모DB, 자동으로 자주 사용하는 데이터를 미리 할당하는 아마존 데이터존 AI 추천 등을 연이어 소개했다.

AWS, 생성형 AI에 집중 투자·엔비디아 밀월에 주목



AWS의 생성형 AI 접근 전략 / 출처=IT동아



올해 리인벤트 2023의 핵심은 생성형 AI로 시작했는데, 그 비중이 생각했던 것 이상이다. 하드웨어와 소프트웨어, AWS의 생성형AI인 베드록까지 2시간가량의 발표를 거의 다 생성형 AI의 활용도와 완성도를 높였다는 부분에 시간을 할애했다. 경쟁사인 구글과 마이크로소프트 역시 전폭적인 투자를 하고 있기 때문에 AWS 역시 급에 맞는 투자와 업그레이드를 반영하는 것이다.

특히나 생성형 AI를 추론 및 학습을 위한 인프라스트럭쳐, 대형 언어모델과 기반 모델을 위한 도구, 기반 모델을 위한 애플리케이션까지 여러 계층에 나눠 체계적으로 서비스를 구축하고 있는 점은 몇 년에 걸쳐 클라우드 시장 점유율을 내어주고 있는 AWS의 절치부심을 엿볼 수 있는 대목이다. AWS는 생성형 AI를 다시 한번 시장을 주도하기 위한 무기로 내세웠는데, 칼날이 잘 들지는 이제 시장에서 판단할 차례다.

아담 셀립스키는 “AWS는 불가능한 것을 현실로 만들고 있다. 우리는 너무나 새로운 세계를 만들고 있다”라면서, “우리는 여러분들이 원하는 것들을 더 만들고, 상상하지 않은 것들을 미리 준비하고, 이를 해결하기 위해 꾸준히 도전할 것이다”라고 말했다. 마지막에는 “모든 리인벤트는 여러분들의 것”이라고도 덧붙였다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ 세계 최대 클라우드 행사 시작··· 이목은 'AI'에 집중 [AWS 리인벤트 2023]▶ 정영범 퓨리오사AI 이사 "내년 2분기 2세대 칩 출시··· 완벽한 데뷔에 사활"▶ 윤석찬 AWS 수석 “AWS 게임데이 LoL 에디션, 머신러닝 서비스 구축 기회 제공”



추천 비추천

3

고정닉 0

1

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
3221 [리뷰] 의외의 가성비와 고성능을 겸비, 14세대 인텔 코어 i7-14700K [6] IT동아갤로그로 이동합니다. 23.12.06 794 0
3220 용접부터 팔레타이징까지…보폭 넓히는 ‘협동로봇’ IT동아갤로그로 이동합니다. 23.12.06 112 0
3219 성북구 1인 창조기업 지원센터에서 꿈을 향해 도전하고 있는 스타트업 (2) IT동아갤로그로 이동합니다. 23.12.06 111 0
3218 [EV 시대] 전기자동차와 디자인 [1] IT동아갤로그로 이동합니다. 23.12.05 694 1
3217 경기콘텐츠진흥원 서부권역센터 입주 기업들, 시설∙프로그램에 ‘만족’ IT동아갤로그로 이동합니다. 23.12.05 107 0
3216 [과기대 S-Run] 혁신적인 아이디어의 상품화…시제품 제작 지원으로 달성 IT동아갤로그로 이동합니다. 23.12.05 115 0
3215 현직 교사로 구성된 ATC ‘디지털새싹 캠프 통해 SW·AI 교육 격차 해소에 기여’ IT동아갤로그로 이동합니다. 23.12.05 106 0
3214 DAXA, 불법 영업 가상자산 사업자 신고 창구 개설 IT동아갤로그로 이동합니다. 23.12.05 93 0
3213 환자 안전 지키고 더 나은 치료법 설계 돕는 ‘버추얼 트윈’ [2] IT동아갤로그로 이동합니다. 23.12.04 1574 1
3212 온라인 면세점을 이용하려면 이렇게![이럴땐 이렇게!] IT동아갤로그로 이동합니다. 23.12.04 424 0
3211 서울과기대 창업지원단 “제품 브랜딩과 마케팅 방법을 알려드립니다” IT동아갤로그로 이동합니다. 23.12.04 109 0
3210 [IT애정남] 탄소섬유 열선? 피복체 열선? 탄소매트 구분 법 알려주세요 IT동아갤로그로 이동합니다. 23.12.04 810 1
3209 [IT애정남] 노트북에 연결한 모니터의 화면 움직임이 뚝뚝 끊긴다면? [2] IT동아갤로그로 이동합니다. 23.12.02 9240 10
3208 [KIDP 울산] 볼로랜드·울주군·UIPA “힘 모아 세계 드론 표준 도시 울주 구축” IT동아갤로그로 이동합니다. 23.12.01 148 0
3207 지능형 교통체계 도입으로 분주한 지자체…광역화 위한 과제는? [1] IT동아갤로그로 이동합니다. 23.12.01 940 0
3206 [농업이 IT(잇)다] 인네이처 “ITO·물도리로 스마트팜과 창호 개선” IT동아갤로그로 이동합니다. 23.12.01 176 0
3205 ‘CBDC 활용성 테스트’ 2024년 3분기 디지털 바우처로 진행 IT동아갤로그로 이동합니다. 23.12.01 138 0
3204 "AWS, 책임감 있는 AI를 추구하는 것은 수익성과 직결" [AWS 리인벤트 2023] IT동아갤로그로 이동합니다. 23.12.01 456 0
3203 노동력 부족한 캐나다, 이민의 문 ‘활짝’ 열었다[K비즈니스가이드] [1] IT동아갤로그로 이동합니다. 23.11.30 201 0
3202 [이제는 전북 콘텐츠] 스타트업을 위한 투자 유치 기회를 제공합니다 IT동아갤로그로 이동합니다. 23.11.30 120 0
3201 퀄컴 스냅드래곤 8 3세대, 미디어텍 제치고 AP 경쟁 우위에 [2] IT동아갤로그로 이동합니다. 23.11.30 236 0
3200 이노모티브 “KIAT 기반구축사업 힘입어 모빌리티 생태계에 도전장” IT동아갤로그로 이동합니다. 23.11.30 135 0
3199 원주세브란스기독병원 의료기기 CRO 센터 “임상시험을 더 쉽게 수행할 수 있습니다” IT동아갤로그로 이동합니다. 23.11.30 136 0
3198 [스타트업-ing] 델바인 “디지털 기술 기반 새로운 치료법을 연구합니다” IT동아갤로그로 이동합니다. 23.11.30 135 1
3197 [단독] 프라사드 칼야나라만 AWS 부사장 "향후 인프라 투자 방향, 고객이 원하는 대로" [AWS 리인벤트 2023] IT동아갤로그로 이동합니다. 23.11.30 164 0
3196 AWS, 이미지 생성형 AI 시장 진출··· '상용화에 방점' [AWS 리인벤트 2023] [4] IT동아갤로그로 이동합니다. 23.11.30 586 3
3195 AWS, AI 적용해 세이지메이커 효율 강화 나서 [AWS 리인벤트 2023] IT동아갤로그로 이동합니다. 23.11.30 102 0
3194 LG AI연구원, 이미지를 문장으로 변환하는 AI 공개[AWS 리인벤트 2023] IT동아갤로그로 이동합니다. 23.11.30 123 0
3193 출장지 날씨 예상부터 미팅 제안 글까지 작성하는 ‘자율 AI’ 선보인 ‘라이너’ IT동아갤로그로 이동합니다. 23.11.29 122 0
3192 폐기물로 가구, 소품, 화장품까지...ESG붐 타고 ‘업사이클링’ 뜬다 IT동아갤로그로 이동합니다. 23.11.29 183 0
3191 [스케일업] 리하베스트 [2] 더브레드블루 “업사이클링·비건의 맛과 멋 전파” IT동아갤로그로 이동합니다. 23.11.29 103 0
3190 성북구 1인 창조기업 지원센터에서 꿈을 향해 도전하고 있는 스타트업 (1) IT동아갤로그로 이동합니다. 23.11.29 121 0
3189 [KIDP 울산] 옛간·퀀텀코스메틱 “신뢰로 프랜차이즈 성공 기반 다져라” IT동아갤로그로 이동합니다. 23.11.29 99 0
3188 [과기대 S-Run] 제조 스타트업에게 가장 중요한 ‘시제품 제작 지원’ IT동아갤로그로 이동합니다. 23.11.29 120 0
AWS, 생성형 AI 베드록·새 AI 반도체로 '초가속'한다 [AWS 리인벤트 2023] [3] IT동아갤로그로 이동합니다. 23.11.29 1372 3
3186 [그때 그 IT] 모빌리티 판례 (3) 타다 서비스 여객자동차법 위반 무죄 IT동아갤로그로 이동합니다. 23.11.28 104 0
3185 [스타트업-ing] 터널 속에서도 차량의 정확한 위치 파악 돕는 ‘씨너렉스’ IT동아갤로그로 이동합니다. 23.11.28 120 0
3184 [마인드테크 시대가 온다] 6. 마인드상태 인식, 알 수 없는 마음 IT동아갤로그로 이동합니다. 23.11.28 151 0
3183 세계 최대 클라우드 행사 시작··· 이목은 'AI'에 집중 [AWS 리인벤트 2023] IT동아갤로그로 이동합니다. 23.11.28 294 1
3182 [인터뷰] ‘지능형 교통체계 도시상’ 선정 ‘안양시’…기술 고도화의 배경은? IT동아갤로그로 이동합니다. 23.11.27 100 0
3181 내게 맞는 노트북, 선택하려면 이렇게![이럴땐 이렇게!] [5] IT동아갤로그로 이동합니다. 23.11.27 1364 1
3180 [주간투자동향] 임프리메드, 300억 원 규모의 시리즈A 투자 유치 IT동아갤로그로 이동합니다. 23.11.27 355 0
3179 [뉴스줌인] 데이터센터용 SSD ‘나이트로’ 시리즈, 뭐가 다를까? IT동아갤로그로 이동합니다. 23.11.24 206 0
3178 [르포] ‘지능형 교통체계’로 도시 안전 강화·자율주행 시대 준비하는 ‘안양시’ IT동아갤로그로 이동합니다. 23.11.24 132 0
3177 [KTVF] 이노디테크 “투명 교정 장치·AI 협동진료 지원 시스템 통한 치아교정 대중화가 목표” IT동아갤로그로 이동합니다. 23.11.24 916 0
3176 [과기대 S-Run] 혁신 도전하는 제조창업기업, 시제품 제작 지원으로 뒷받침한다 IT동아갤로그로 이동합니다. 23.11.24 170 0
3175 [KIDP 울산] 우시산·한국몰드 “소셜 업사이클링으로 사회 기여” IT동아갤로그로 이동합니다. 23.11.24 122 0
3174 [스타트업-ing] 테서 “의료 정보 불균형 해소하는 검사 결과 해석·번역 서비스 ‘온톨’” [1] IT동아갤로그로 이동합니다. 23.11.24 1007 1
3173 배달·순찰 로봇 인도통행 허용…안전운행 담보할 기술은? [3] IT동아갤로그로 이동합니다. 23.11.23 567 0
3172 테이프 붙은 상자도 재활용? 칼렛바이오 스텝포넷제로 리펄프 테이프[스타트업리뷰] [4] IT동아갤로그로 이동합니다. 23.11.23 1095 6
뉴스 ‘모퉁이를 돌면’ 최희진 “덜어내고 담백하게 표현…연기 도전” 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2