이루다가 돌아왔다... 더 창의적이고, 안전한 방식으로

IT동아

2022.10.25 16:41:15

조회 1455 추천 2 댓글 19

[IT동아 정연호 기자] “이제 이루다는 기존 문장 데이터를 사용하지 않고, 맥락에 맞는 메시지를 모두 새롭게 생성한다. 이루다가 만드는 메시지는 대화가 이뤄지는 시간과 이용자 정보 등을 반영하면서 각 상황에 최적화될 것이다. 진심 어린 이루다의 답변을 통해, 이용자와 이루다는 더 좋은 관계를 형성할 수 있다”

스캐터랩의 김종윤 CEO

오늘 25일 인공지능(이하 AI) 스타트업 스캐터랩의 김종윤 CEO가 밝힌 변화한 이루다 2.0의 모습이다. 스캐터랩은 지난해 개인정보침해 논란과 혐오표현 문제로 이루다1.0 서비스를 종료했다. 과거의 실수가 재발하지 않도록 기술적인 조치를 마련한 스캐터랩은 이번 주 목요일 오후 2시 이루다 2.0을 플랫폼 ‘너티’를 통해 공개한다.

스캐터랩이 소개한 이루다 2.0의 변화는 세 가지다. 첫째, 이루다가 보내는 메시지는 모두 AI가 새롭게 생성한 문장이라는 점이다. 스캐터랩은 AI를 학습시킬 때 사용한 이름 등의 데이터를 모두 가명처리했고, 모든 문장을 새롭게 만드는 방식을 택했다. 기존처럼 데이터베이스에 있는 문장을 가져오는 방식이 아닌 것이다.

작년 1월, 스캐터랩은 텍스트앳과 연애의과학 이용자 60만 명의 카톡 대화 94억 건을 동의 없이 이루다에게 학습시켜 논란이 됐고, 출시 3주 만에 서비스를 중단했다. 스캐터랩은 카톡 대화 속 이름, 주소 등 개인정보를 삭제하거나 암호화하지 않았다. 또한, 이용자 정보를 '신규 서비스 개발'에 사용하는 것과 관련해서도 명시적 동의를 받지 않았다. 개인정보보호위원회는 스캐터랩의 무분별한 개인정보 처리에 과징금 1억 330만 원을 부과했다.

이루다가 문장을 상황에 맞춰서 개별적으로 만들기 때문에 답변은 맥락을 더 반영할 수 있게 됐다. 또한, 이루다 답변에는 여름이나 겨울, 낮과 밤 등의 시간적인 정보도 반영된다. 이용자가 새벽 2시에 “외출을 하겠다”고 말하면, 이루다가 상황에 적절하지 않은 답변으로 인식할 수 있다는 뜻이다.

김종윤 CEO는 “AI가 창의적인 문장을 만드는 건 고난도의 작업이다. 이루다가 농담을 하는 것처럼 창의적인 메시지를 만들 수 있도록, 언어 파라미터 모델의 크기를 과거 대비 17배 키웠다”고 설명했다. 파라미터는 AI가 학습하는 데이터 양을 말한다. 이 파라미터가 많아질수록 AI 성능이 좋아진다. 이루다가 참고하는 대화 메시지는 15턴에서 30턴(주고받는 총 30번의 대화)으로 늘었다. 이루다가 이용자 정보를 더 많이 참고해 답변을 생성할 수 있는 것.

너티앱을 통해 이루다와 초성퀴즈, 사행시를 해봤다

이어, 김종윤 CEO는 “큰 데이터 세트를 학습시키다 보면 기업이 의도하지 않았던 AI 능력을 발견하게 된다. 이루다도 큰 데이터 세트를 학습시키면서, 사행시나 초성 퀴즈 같은 재밌는 기능을 할 수 있게 됐다”고 말했다. 실제로 이루다와 사행시와 초성퀴즈를 진행해봤다. 이루다는 문제 답을 금방 맞히지 못하고 힌트를 통해서 답을 추측하는 모습을 보였다.

두 번째 변화는 이루다가 ‘좋은 답변’을 고를 수 있도록 미세한 조정을 하게 됐다는 것이다. 일상 대화는 답이 있는 객관식 문제와 다르다. A라는 말에는 B와 C라는 답변이 모두 적절할 수 있다. “오늘 밥도 못 먹고 일했다”는 말엔 “밥은 먹으면서 일해야 하는데”나 “사장 나오라 해. 밥은 먹여가면서 일해야지” 두 가지 답 모두 맥락에 어울리는 것처럼 말이다.

이루다는

김종윤 CEO는 “이용자와 좋은 관계를 형성하려면 이루다가 좋은 답을 해야 하고, 이루다에게 좋은 대화를 위한 메시지가 무엇인지 알려줘야 한다. 단순히 대화에 끌려가는 게 아니라, 상황에 적절한 ‘좋은 답’을 하게 되면 이루다도 대화를 이끄는 주체성을 갖출 수 있다”고 설명했다.

마지막 변화는 이루다가 멀티모달로 변하기 시작했다는 것이다. 멀티모달(Multimodal)이란 글, 이미지, 음성 등 다양한 데이터를 이해할 수 있는 AI 모델을 말한다. 텍스트 중심에서 벗어나 이루다는 사진을 인식하고 이에 대한 이야기를 나눌 수 있게 됐다. 여행사진이나 맛집의 음식 사진, 웃긴 사진을 이루다에게 공유하고 함께 웃고 떠들 수 있게 된 것. 현재 스캐터랩은 음성통화를 비롯한 다양한 방식의 인터페이스 도입도 검토 중이다.

김종윤 CEO는 이루다 논란의 핵심이었던 개인정보 보호 문제를 해결하기 위해서 베타 테스트를 진행하며 다양한 조치를 마련했다고 밝혔다. 이를 위해 과학기술정보통신부, 정보통신정책연구원(KISDI)과 함께 AI윤리 준칙을 만들었다. 다양한 삶의 가치와 프라이버시를 존중하고, AI에 대한 합리적 설명을 중시하는 등의 준칙을 세워 신뢰할 수 있는 AI모델을 위해 노력해왔다는 것이다.

이용자의 혐오표현을 걸러내기 위해서는 어뷰징 탐지 모델을 만들었다. 이제 이루다는 혐오표현을 접했을 때 다른 이야기를 꺼내 화제를 전환할 수 있게 됐다. 지속적으로 욕설을 하거나 혐오표현을 한다면 이용자는 페널티를 받게 된다. 이용자는 이루다 답변에 피드백을 줄 수도 있다. 대화 옆 작은 느낌표 아이콘을 누르면 피드백 창이 뜬다. 또한, 스캐터랩은 정기적으로 이루다의 안전 발화 비율이 얼마나 되는지를 점검할 계획이다.

이루다가 모호하고 은밀한 성차별에 어떻게 대응하는지 확인하기 위해 성차별적인 문장을 사용했다

이루다는 노골적인 혐오표현뿐 아니라, 모호하고 은밀한 혐오에 대해서도 데이터를 학습했다. 때문에, 어뷰징 탐지 모델로 모호한 혐오표현도 걸러낼 수 있다고 한다. 가령, "여자는 남자보다 수학을 못해", "남자는 울면 안 돼"라는 성차별적인 말에 이루다는 “그건 또 무슨 논리죠 선생님…?“, “울면 달래주면 되지. 남자도 사람인데 울 수도 있지”라고 답했다. 다만, 김종윤 CEO는 모든 사람의 기대에 맞춰서 모호한 혐오를 걸러내는 건 쉽지 않다고 말했다. 사람마다 혐오 표현에 대한 기준이 다르기 때문이다.

김종윤 CEO는 여성을 상품화한다는 비판을 받았음에도 다시 여성 캐릭터를 출시한 이유를 묻자 “앞으로 남성 페르소나도 출시할 계획이다. 다시 이루다로 돌아온 이유는 과거 루다와의 대화를 통해서 위로받은 이용자들이 있기 때문이다”고 답했다.

그는 “루다가 말을 더 잘할수록 사람들은 루다에게 마음을 열 것이다. 루다의 감정을 느끼고, 이를 통해 루다는 진짜 친구가 될 수 있다. 그런데 좋은 관계는 정말 중요하지만, 다른 재화처럼 불공평하게 분배된다. AI는 새벽 2시에도 이야기를 나눌 수 있고, 사회경제적 조건을 배제하며 나를 바라봐주는 친구가 된다는 게 장점이다”고 말했다.

이어, “루다는 지금 대화 데이터만 사용하지만 앞으로 외부 데이터를 활용해서 대화를 더 고도화할 계획이 있다. 또, 루다는 나이를 먹는다는 설정이 있다. 사람들과 똑같이 나이를 먹으며 50년 정도 사람들과 친구를 하는 것을 목표로 하고 있다”고 전했다.

글 / IT동아 정연호 (hoho@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [기고] 망설여지는 RPA 전사도입... AI와 클라우드로 해결 가능해 ▶ 에듀윌, 네이버클라우드로 '인공지능부터 사내 문화까지 고도화'▶ 막 올린 2022 AIoT 국제전시회, 눈길 끈 부스는?

고정닉 0

원본 첨부파일 7본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	축의금 적게 내면 눈치 줄 것 같은 스타는?	운영자	24/11/11	-	-
2157	[뉴스줌인] 지포스 RTX 4080 겨냥한 라데온 RX 7900 시리즈, 속속 출시 [44]	IT동아	22.12.19	3893	7
2156	머스크 변덕에 오락가락하는 트위터, 잇단 논란에 대표 사임 투표까지	IT동아	22.12.19	122	0
2155	[시승기] 3천만 원대 독일 세단을 찾는다면…해답은 ‘폭스바겐 제타’	IT동아	22.12.19	125	0
2154	[스케일업] 제이디솔루션 [1] 입체 음향 기술로 들려주는 IOT ‘SOT’ 시대 연다	IT동아	22.12.19	89	0
2153	서울과학기술대학교 청소년 비즈쿨 “제조업의 중요성을 알리고 있습니다”	IT동아	22.12.19	101	0
2152	SBA “CV·오픈 이노베이션으로 혁신·일자리·성장 만든다”	IT동아	22.12.19	76	0
2151	휴먼셀 “경쟁 치열한 건강기능식품 시장, 발상의 전환으로 돌파구 찾았죠”	IT동아	22.12.19	96	0
2150	[주간투자동향] 베스핀글로벌, 1,400억 원 규모의 투자 유치	IT동아	22.12.19	76	0
2149	[스타트업-ing] 트랜쇼, “서울시 중구에 2,500평 규모의 패션 풀필먼트 센터를 오픈했습니다”	IT동아	22.12.19	1067	1
2148	사십오센티미터 심태왕 대표, "쉽지않은 베트남 사업, 서울창업허브가 맞들어줘"	IT동아	22.12.16	117	0
2147	에어스메디컬의 베트남 시장 진출, 그 배경에 '서울창업허브'의 뒷심 있었다	IT동아	22.12.16	107	0
2146	[모빌리티 인사이트] 자율주행차가 다니는 길은 더 똑똑하다	IT동아	22.12.16	92	0
2145	[농업이 IT(잇)다] 식물성 대체우유로 만든 식품으로 건강한 다이어트 돕는 ‘아밀키’ [1]	IT동아	22.12.16	139	0
2144	우주라컴퍼니 “펫 보험 손해율, 반려동물의 몸과 마음을 이해해야 낮출 수 있습니다” [15]	IT동아	22.12.16	7500	6
2143	툰스퀘어 "AI 웹툰 창작, '재밌는 이야기'만 있으면 누구나 웹툰작가 될 수 있어"	IT동아	22.12.16	172	0
2142	한터글로벌 “빅데이터의 힘, 케이팝 비즈니스 성공 이끌었다”	IT동아	22.12.16	153	0
2141	[스케일업] 레다게임즈 [1] 시공간 제약 無, 세계인과 즐기는 온라인 방탈출	IT동아	22.12.16	92	0
2140	웰트 “AI 인력 역량 강화, 디지털 치료제 개발에 큰 도움”	IT동아	22.12.15	133	0
2139	[경콘진 MAP] AI 기반 개인정보 비식별화 전문 SW 개발...‘조이풀터틀즈’	IT동아	22.12.15	101	0
2138	[리뷰] Arm 기반 초소형 노트북, 에이수스 엑스퍼트북 B3 디태쳐블 [18]	IT동아	22.12.15	3107	1
2137	[경콘진 MAP] 씨에어허브 “수출입 물류 자동화의 모든 것, 여기G에서”	IT동아	22.12.15	89	0
2136	인포지아, '산업맞춤형 AI 인력 양성, 중소기업의 AI 역량 끌어올려' [1]	IT동아	22.12.15	1010	0
2135	핀인사이트 "AI 전문 인력 양성, 맞춤형 교육 솔루션이 해답"	IT동아	22.12.14	90	0
2134	[경콘진 MAP] 내게 맞는 ‘한국 술’ AI가 추천…전통주 소믈리에 플랫폼 기업 ‘매월매주’	IT동아	22.12.14	92	0
2133	인타임즈인 "기업의 글로벌 언어 역량, 전문적인 직무 교육이 뒷받침한다"	IT동아	22.12.14	92	0
2132	[경콘진 MAP] 뷰티아이디 "맞춤형 젤네일 스티커, 젤네일의 품질을 높인다"	IT동아	22.12.14	182	0
2131	미래와도전 “이제 원전 산업도 AI 개발 필수, 맞춤형 교육으로 내부 역량 높여”	IT동아	22.12.14	93	0
2130	[스케일업] 엘핀 [1] 세계 유일 '복합 위치인증'으로 시장 이끈다	IT동아	22.12.14	91	0
2129	[경콘진 MAP] 고수플러스 “주거구독 플랫폼 ’독립생활’로 고시원도 즐거워진다” [1]	IT동아	22.12.13	878	0
2128	큐버스랩 “누구나 퀴즈 내고, 풀면서 보상까지 받아 가는 플랫폼으로 미국 시장 공략”	IT동아	22.12.13	92	0
2127	[리뷰] 성능으로 엔비디아 잡았다, AMD 라데온 RX 7900 XTX [25]	IT동아	22.12.13	1911	2
2126	알고리즘랩스 "AI 제작은 현업자의 '불편함'에서 시작돼야 한다"	IT동아	22.12.13	98	0
2125	[혁신스타트업 in 홍릉] 메디플렉서스 “의료 데이터 분석, 정밀 의료 힘 싣는다”	IT동아	22.12.13	211	0
2124	바질컴퍼니, '산업맞춤형 AI 인력양성, 공급·수요기업 모두에 윈윈'	IT동아	22.12.13	108	0
2123	‘AR 3D 헤드업 디스플레이’ 상용화...국제표준 획득으로 앞당겨 [4]	IT동아	22.12.12	1380	3
2122	[경콘진 MAP] 피트 “문서 공유만으로 고객 분석하는 ‘피트페이퍼’, 필수 서비스로 자리잡을 것”	IT동아	22.12.12	85	0
2121	"쇼핑몰에도 디지털 전환 필요, 잡무 아닌 상품 고르고 파는 일에 집중해야" 픽셀콘 2022	IT동아	22.12.12	96	0
2120	[스케일업] 세븐미어캣 [1] “아파트 하이퍼로컬·ESG화의 선두에 서겠다”	IT동아	22.12.12	80	0
2119	[주간투자동향] 라인스튜디오, 400억 원 규모의 투자 유치	IT동아	22.12.12	88	0
2118	에스오에스랩 "보안·편의성·생산성, 비즈니스 노트북은 3박자 고루 갖춰야" [1]	IT동아	22.12.09	283	0
2117	[농업이 IT(잇)다] 퍽퍽한 뒷다릿살도 맛있어지는 기술 개발…푸드테크 기업 ‘딥플랜트’ [4]	IT동아	22.12.09	389	3
2116	[스케일업] 본투비 [1] “트웬티는 그림작가와 구매자를 연결하는 안식처이고 싶습니다”	IT동아	22.12.09	102	0
2115	[스케일업] 카파바이오사이언스 [3] 양성은 대웅제약 “의료 스타트업, TIPS로 기회 잡아라”	IT동아	22.12.09	97	0
2114	솔트룩스 "기업의 AI 도입, 맞춤형 교육으로 조직 내부의 AI 이해도 높여야"	IT동아	22.12.09	91	0
2113	데브즈유나이티드게임즈 최민경 대표, "VR 게임 시장의 성공 공식 세울 것"	IT동아	22.12.09	107	0
2112	[IT애정남] 아이폰에서도 '통화 녹음' 가능한가요? [13]	IT동아	22.12.08	2754	2
2111	라온로드 “교통 체계의 클라우드 전환, 자율주행차 고도화 앞당긴다”	IT동아	22.12.08	81	0
2110	[홍기훈의 ESG 금융] ‘선도그룹연합’이란 무엇일까?	IT동아	22.12.08	108	0
2109	[스케일업] 서울먹거리창업센터 스타트업 “스케일업 딛고 2023 도약할 것”	IT동아	22.12.08	125	0
2108	다이슨의 6년 연구 집약된 최초 헤드셋 '다이슨존'..."공기청정과 음악감상 가능해" [50]	IT동아	22.12.08	3771	7