"AWS, 책임감 있는 AI를 추구하는 것은 수익성과 직결" [AWS 리인벤트 2023]

IT동아

2023.12.01 10:47:51

조회 460 추천 0 댓글 0

[라스베이거스=IT동아]

지난 11월 20일, 오픈AI의 샘 알트만 최고경영자가 해임됐다가 열흘도 되지 않아 다시 복귀하는 사건이 있었다. 배경을 놓고는 말이 많지만, 비영리단체로 시작한 오픈AI의 기존 창업자들과 상업적 목적을 추구하는 샘 알트만 CEO간의 대립이 원인으로 꼽힌다. ‘책임감 있는 인공지능(Responsible AI)’라는 요소가 AI를 개발할 때 참고해야 하는 사안이 아닌 필수적으로 고려해야 하는 원칙이 되었음을 분명히 보여준 사건이다.

다이야 윈(Diya Wynn) AWS 책임감 있는 AI 선임 실무 관리자 / 출처=IT동아

AWS는 이 분야에서 가장 정석적인 행보를 걷고 있다. AWS는 급속한 성장이 혁신적이지만, 자칫 새로운 문제를 야기할 수 있다는 시각을 바탕으로 책임감 있게 AI를 연구하는 방안을 지침으로 삼는다. 이들은 공정성, 설명 가능성, 사생활 및 보안, 견고함, 운영 방식(거버넌스), 투명성을 책임감 있는 AI의 핵심 요소로 삼고, 이를 실현하기 위한 파트너십과 연구 지원, 다양성 및 포용성, 공공 정책 등에 기여하고 있다. 리인벤트 2023에서도 베드록 가드레일이나 투명한 워터마크 등 다각적인 기술로 책임감 있는 AI를 실현하고 있다.

이를 이끌고 있는 사람이 다이야 윈(Diya Wynn)이다. 그녀는 6년 전부터 AWS에 합류한 AI 윤리학자로, 현재 AWS의 책임감 있는 AI 선임 실무 관리자다. 그녀는 소프트웨어 제품 관리 및 개발, 기민한 해결 방안(애자일 방법론), 클라우드 컴퓨팅 전문가이기도 하며, AWS의 책임감 있는 AI 리더로 활약한 것은 3년 이상이다. 특히 AI 개발 중 의도치 않은 잠재적 문제들을 발견하고, AI 또는 기계학습 시스템에서 발생할 수 있는 위험을 완화하기 위해 노력하고 있다. 리인벤트 2023에서 그녀를 만나 AWS의 책임감 있는 AI에 대한 인터뷰를 진행했다.

아담 셀립스키 AWS 최고경영자가 기조연설에서 책임감 있는 AI에 대한 설명을 했다 / 출처=IT동아

우선 올해 리인벤트 2023에서 주목할만한 책임감 있는 AI 요소에 대해 먼저 설명했다. 다이야 윈은 “리인벤트 2023에서 공개된 타이탄 이미지 제너레이터의 경우 투명 워터마크를 새기는 것이 기본 설정이다. 이는 지난 7월 백악관과 합의한 책임감 있는 AI 의지를 직접 보여주는 정책이다”라며 설명을 시작했다. 이어서 “가드레일 역시 유해성 콘텐츠를 거르는 것에 중점을 둔다. 특히 기존에 책임감 있는 AI를 실현하는 기업이 아마존 베드록을 사용한다면 한 겹 더 책임감 있는 AI를 실천하게 되는 셈이다”라는 점도 강조했다.

아울러 리인벤트 2022에서 공개한 ‘AWS AI 서비스 카드’가 업데이트된 부분도 언급했다. AI 서비스 카드는 아마존 서비스로 AI를 개발하는 사람들이 어떻게 책임감 있게 AI를 만들어야 하는지를 설명해 주는 카드다. 처음에는 얼굴 인식, 신분증 인식, 심화학습의 배치(Batch)와 관련된 내용이었고, 올해 언어 유해성, 의료 임상, 개인식별정보(PII), 타이탄 LLM, 제3자 얼굴 접근 방지 카드를 추가했다. AWS가 새로운 서비스를 내는 것뿐만 아니라, 사용자도 책임감 있게 AI를 만들 수 있도록 지침을 내리는 것이다.

다이야 윈은 책임감 있는 AI가 수익성과 직결되는 그 자체라고 설명했다 / 출처=IT동아

하지만 책임감 있는 AI라는 요소는 수익성과 직결되지는 않아 보인다. AWS는 수익성과 윤리성을 어떻게 절충하고 있는지를 물었다. 다이야 윈은 “우리는 책임감 있는 AI 그 자체가 수익성과 직결된다고 생각한다. 고객들이 기술을 믿지 못하고, 서비스를 신뢰하지 않는다면 수익성에 타격이 있을 수밖에 없다. AWS가 서비스를 넓히고 광범위하게 적용하는 능력 자체에 타격을 입힐 것이다. 수익성을 위해서는 계속 책임감 있는 AI를 필요로 하고, 신뢰를 얻어야 사업을 유지할 수 있다”라고 덧붙였다.

다이야 윈의 경우 개발 직군보다는 기업들을 만나는 쪽이 주 업무다. 그렇다면 그녀가 만나는 기업들이 책임감 있는 AI를 실천할 때 어려워하는 부분들은 무엇일까? 그녀는 “생성형 AI에 대해서라면 지식 재산권 보호나 자체 기업 데이터, 외부로 유출되거나 외부에서 유입이 되면 안 되는 데이터, 저작권에 대한 요소들, 또는 공정성이나 편향을 줄이는 것에서도 어려움을 겪는다. 의도치 않은 데이터에서 나오는 유해성 등도 신경쓰는 요소다”라고 답했다.

유럽연합의 AI 규제 법안인 인공지능법(AIA)와 디지털서비스법(DSA), 디지털시장법(DMA)가 책임감 있는 AI에 얼마나 영향을 미칠까 묻는 질문에 대해서는 “EU의 AI 법률은 많은 기업들에게 GDPR(유럽 연합 일반 데이터 보호 규칙)과 같은 영향을 미칠 것으로 본다. 이미 AWS는 EU의 동향을 긴밀하게 살펴보고 있고, 공공 정책 팀이 긴밀하게 입법의 진행 과정을 따라가고 있다”라고 말했다.

이어서 다이야 윈은 “우리로써는 개발자나 사용자들이 완벽하게 책임감을 가진다고 볼 수 없다. 기술은 선을 위해서도, 악을 위해서도 쓰일 수 있다. 좋은 의미더라도 불공정한 방향으로도 쓰일 수 있다. 이런 부분에서 제도나 입법은 상당히 도움이 될 것이고, 또 법을 통해 악의를 가진 자들에게 제약을 가하는 것도 필요하다”라는 의견을 밝혔다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [단독] 프라사드 칼야나라만 AWS 부사장 "향후 인프라 투자 방향, 고객이 원하는 대로" [AWS 리인벤트 2023]▶ AWS, AI 적용해 세이지메이커 효율 강화 나서 [AWS 리인벤트 2023]▶ AWS, 이미지 생성형 AI 시장 진출··· '상용화에 방점' [AWS 리인벤트 2023]

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	과음으로 응급실에 가장 많이 갔을 것 같은 스타는?	운영자	25/03/03	-	-
3529	[IT애정남] DDR4, LPDDR5 램을 탑재한 노트북, 뭐가 더 좋나요?	IT동아	24.03.05	161	0
3528	[자동차와 法] 전기차 충전시설 의무 설치 관련 법률 살펴보니	IT동아	24.03.05	346	0
3527	‘빅 이벤트 온다’ 엔비디아 GTC 2024 관전 포인트는?	IT동아	24.03.05	161	0
3526	[IT애정남] 버티컬 마우스는 왜 쓰는 걸까요?	IT동아	24.03.05	161	0
3525	[IT신상공개] 애플, M3 탑재한 새 맥북에어 13 및 15 공개	IT동아	24.03.05	165	0
3524	[2024 고려대 초창패] 뉴로엑스티 “알츠하이머 치매 정밀의료를 실현합니다” [1]	IT동아	24.03.05	974	0
3523	“혹시 퇴직연금 깜박하셨나요?” 찾는 방법부터 앞으로 바뀌는 부분까지	IT동아	24.03.04	390	0
3522	[KESIA 시드팁스] 그랜터 “회사 지출 관리, AI에 맡기고 업무에 집중하세요”	IT동아	24.03.04	171	0
3521	[스타트업-ing] 니어스랩 “한국의 자율비행 드론, 전 세계를 누빌 것”	IT동아	24.03.04	118	0
3520	플리토 이정수 대표 "온디바이스 AI, LLM으로 데이터 중요성 커져"	IT동아	24.03.04	119	0
3519	[스타트업 법률실무 마스터링] 투자유치 법률실무 (2) Termsheet 이해를 통한 분쟁방지	IT동아	24.03.04	742	0
3518	헷갈리는 버스전용 차로 만나면 이렇게![이럴땐 이렇게!]	IT동아	24.03.04	123	0
3517	[월간자동차] 24년 1월, 수입 신차 판매량 급감...BMW 5시리즈 1위 수성	IT동아	24.02.29	822	0
3516	인텔, “새로운 vPro 플랫폼 통해 기업시장에 AI PC 확대할 것”	IT동아	24.02.29	180	0
3515	[리뷰] ‘좋아할 만한 건 다 담았네?’ 에이수스 비보북 프로 15 OLED	IT동아	24.02.29	190	0
3514	레노버 “한국 기업들의 생성형 AI투자, 아태지역 1위”	IT동아	24.02.29	176	0
3513	[IT강의실] 생성형 AI와 클라우드의 상관관계는?	IT동아	24.02.29	152	0
3512	[생성 AI 길라잡이] 챗GPT에서 최신 정보까지 검색한다 ‘웹챗GPT’	IT동아	24.02.29	1442	1
3511	LG전자, AI로 화질과 음향 강화한 2024 올레드/QNED TV 라인업 선보여	IT동아	24.02.28	490	0
3510	[리뷰] 실용주의 AI폰, 삼성 갤럭시 S24 울트라 [2]	IT동아	24.02.28	879	4
3509	하이퍼커넥트가 글로벌 인공지능 기술 기업으로 성장할 수 있었던 이유	IT동아	24.02.28	127	0
3508	[스타트업-ing] MRI 영상 복원 솔루션으로 진단 효율 높이는 ‘에어스메디컬’	IT동아	24.02.28	118	0
3507	빗썸, 멤버십 혜택 강화 ‘모든 회원에 특별 메이커 리워드 지급’	IT동아	24.02.28	130	0
3506	퀄컴, X80 5G, 패스트커넥트 7900 공개··· 'AI로 혁신에 시동'	IT동아	24.02.28	694	0
3505	[스타트업-ing] 발켄모빌리티 “전기자전거·충전 스테이션·소프트웨어 모두 갖췄습니다”	IT동아	24.02.28	224	1
3504	[리뷰] 이름은 독특해도 성능은 확실하다, AMD 라데온 RX 7900 GRE [9]	IT동아	24.02.27	1924	3
3503	[EV 시대] 급부상하는 중국 전기차	IT동아	24.02.27	129	0
3502	[스타트업-ing] 리셋컴퍼니 정성대 대표 “지속 가능한 친환경 에너지 생태계 구축할 것”	IT동아	24.02.27	127	0
3501	[IT신상공개] JBL·보스, 귀를 열고 듣는 ‘오픈이어 이어폰’ 출시	IT동아	24.02.27	132	0
3500	[혁신스타트업 in 홍릉] 뉴라이브 “이명·퇴행성 뇌질환 디지털 치료 시대”	IT동아	24.02.27	959	0
3499	[신차공개] 올 뉴 포드 머스탱·BMW X1 M35i 출시 [2]	IT동아	24.02.26	1509	3
3498	[스타트업-ing] 뷰브레인헬스케어 김재학 대표 “치매 조기진단과 예방, 인공지능으로 해결할 것”	IT동아	24.02.26	180	0
3497	웨어러블의 진화…반지형 제품, 복약 관리하는 워치까지	IT동아	24.02.26	171	0
3496	세일즈포스, 전 세계 자동화·AI 전략 구축 담은 '2024 연결성 벤치마크' 발표	IT동아	24.02.26	102	0
3495	[주간투자동향] 테크타카, 126억 원 규모 투자 유치	IT동아	24.02.26	780	0
3494	[자동차 디자人] 세계 3대 명차 ‘롤스로이스’ 디자인 이끄는 ‘앤더스 워밍’	IT동아	24.02.23	144	0
3493	엔비디아가 굴린 거대한 공, 앞으로 AI 하드웨어 시장은?	IT동아	24.02.23	150	0
3492	[IT애정남] 커피머신 석회질 제거, 꼭 해야 하나요?	IT동아	24.02.23	128	0
3491	[IT신상공개] 돌아온 레트로 카메라의 주인공, 후지필름 X100VI	IT동아	24.02.23	973	1
3490	[IT애정남] 블록체인은 안전하다는데 왜 해킹 사고는 끊이지 않나요?	IT동아	24.02.23	129	0
3489	[스타트업 법률실무 마스터링] 투자유치 법률실무 (1) - 투자 방법과 투자 받기 전 주의사항(2)	IT동아	24.02.23	169	0
3488	유한킴벌리 이승곤 본부장 "NHN 두레이 기반 업무 문화, 사회적 가치 위한 노력"	IT동아	24.02.23	120	0
3487	[스타트업-ing] 콜라보그라운드 "뷰티숍 특화 솔루션, 글로벌 시장으로 갑니다” [3]	IT동아	24.02.23	576	0
3486	내 PC에 인공지능이? 엔비디아 ‘Chat With RTX’ 써보니	IT동아	24.02.22	108	0
3485	[KTVF] AI가 제시하는 똑똑한 세금 절세·연금 설계…‘아티웰스’	IT동아	24.02.22	109	0
3484	Arm, '3세대 네오버스' 로드맵 발표··· 'AI인프라 확산에 기여'	IT동아	24.02.22	159	0
3483	[생성 AI 길라잡이] 챗GPT, PC·스마트폰 설치와 활용 [1]	IT동아	24.02.22	1309	0
3482	[칼럼] 생성형 AI 시대, 성공적인 도입 전략 [2]	IT동아	24.02.22	922	1
3481	시한폭탄 ‘노후 지하시설물’…’RTK GNSS·증강현실’로 관리	IT동아	24.02.21	496	1
3480	[IT강의실] 하나의 기기에 여러 무선 이어폰 연결 ‘블루투스 오라캐스트’	IT동아	24.02.21	1144	3
뉴스	빈예서, 4월 팬콘서트 ‘봄, 예서’ 개최…특별한 무대 예고	디시트렌드	03.06