언어 필터링 AI 서비스 개발 중인 DFI 구남인 대표 "채팅으로 키보드 부수는 일 없게 하겠다"

데일리e스포츠 · 2024.04.15 17:03:03

최근 AI 기술이 빠르게 발전하며 여러 분야에 적극적으로 도입되고 있는 가운데 독성 채팅 근절을 위한 위한 AI 프로젝트 개발 소식이 전해져 많은 이들의 관심을 끌고 있다.

과거 e스포츠 게임단주와 총감독을 수행한 바 있던 구남인 대표가 설립한 두펀잉(DFI)에서 개발 중인 'AI 마인드'가 바로 그 주인공. 구 대표가 개발중인 'AI 마인드'는 실시간 채팅이나 리포팅 서비스에 적용할 수 있는 독성 언어 필터링 AI로, 수 많은 데이터를 기반으로한 윤리 데이터를 적용한 상태다. 특수문자나 알파벳, 심지어 '야민정음(인터넷 욕설 필터링을 피하기 위한 파생어)'까지 필터링하는 수준까지 개발에 성공해 채팅과 리포팅 등 문자가 있는 곳에서는 어디에서도 사용 가능한 것이 특징이다.

그가 'AI 마인드'를 개발한 이유는 프로젝트 참여인원 모두 게임 마니아이기 때문이다. 게임에서 욕설 피해를 직접 당해봤기 때문에 그 고통을 잘 알 수밖에 없고, 고통을 덜어내기 위한 고민 끝에 'AI 마인드' 프로젝트를 시작하게 됐다.

구남인 대표는 "게임을 즐겁게 하다가 악성 채팅을 경험하게 된다. '패드립(패륜 드립)' 등을 경험하면 게임을 멈추고 싸울 수밖에 없다. 그 악순환이 반복된다"며 "결국 답답헤서 직접 만들기로 했다. 욕을 먹는 것이 싫어 악성 채팅을 걸러야겠다는 생각으로 'AI 마인드'를 만들게 됐다"고 개발 이유를 설명했다.

'AI 마인드'는 AI 기반 제작 프로그램이기 때문에 많은 데이터는 필수다. 'AI 마인드'는 동일한 데이터를 여러 사람이 판단한 교차 데이터 분류로 진행됐다. 교차를 선택한 이유는 특정 담당자가 AI에 데이터 셋을 설정하는 것이 아니라 다양한 사람들의 생각을 반영해 보다 보편적인 기준을 세울 수 있도록 한 것이다.

이뿐만 아니라 'AI 마인드'는 정확도에서도 높은 수치를 자랑한다. 독설 언어 판단 시 소수점 열한 번째 자리까지 산출되며, 해당 결괏값을 사람들과 라벨링 한 값과 비교했을 때 정확도가 94.8%에 달할 정도다.

실시간 반영을 위해 다양한 사람들이 동일한 문장을 두기 위해 많이 고민했고, 교차 라벨링으로 나온 결괏값을 또 학습시키고, AI가 산출한 결괏값을 다시 라벨링을 하며 사회적으로 합의한 윤리 기준에 맞도록 학습을 시켰기 때문이다.

구 대표는 "동일한 표현이 모든 사람에게 독성일 수 있지만 일부 사람에게는 아닐 수 있다"며 "결국 사회적 합의와 윤리가 중요하며, 지금 문제 소지가 없더라도 미래에 문제가 생길 수 있다"고 필터링 단어의 실시간 업데이트와 지속적인 개발의 중요성을 강조했다.

구 대표는 회사의 역할과 고객서비스(CS) 비용 절감 효과에 대해서도 강조했다. "AI는 보조자의 역할을 해야 한다. 회사의 아이덴티티는 게임사 조직원이 만드는 것이기 때문에 그들의 개입이 중요하다"며 회사의 역할이 중요한 것을 알렸다.

그는 이어 "게임마다 사용하는 용어가 다르고 게이머들 세대나 나이대에 따라 게임에 따라 차이가 크다. 상황에 따라 세부 데이터 셋을 적용하면 게이머들이 채팅에서 안 좋은 표현을 할 때 기본적으로 걸러낼 수 있고 혹은 그것들이 리포팅 단계로 넘어가면 AI가 빠르게 독성 언어 여부를 판단해 이용자들에게 빠른 피드백을 줄 수 있다"고 설명했다.

이어 CS 비용 감소와 업무 효율 개선이 가능하다는 점도 설명했다. 구 대표는 "적게는 30%에서 많게는 80%까지 CS 비용 감소가 가능하다"라며 "CS에서 AI가 처리하지 못하는 소수의 업무만 전담하면 더 높은 수준의 서비스를 제공할 수 있게 된다"고 'AI 마인드' 사용 시의 기대 효과를 밝혔다.

구 대표가 'AI 마인드'를 개발하기까지 쉽지 않았다. 구 대표는 "데이터의 양과 학습의 양, 학습을 하는 데 결괏값이 너무 달랐다"며 "사람마다 윤리적 판단 기준이 다르기 때문에 라벨링의 과정과 결과 값의 과정 모두 예상치 못한 변수가 너무 많았고 독성 언어의 경계에 가까운 결과 값에 대해서는 사람마다 판단이 달라 더 많은 라벨링이 필요했다"고 고충을 토로하기도 했다.

수많은 시행착오를 거친 끝에 'AI 마인드'는 현재 한글을 비슷한 것으로 바꾸는 단어 '야민정음', 영어 및 기호 혼용, 방언, 이모지를 섞는 등 복합적인 것 까지 확인할 수 있는 단계에 이르렀다.또한 구 대표는 텍스트 필터링 이후 단계도 개발 준비 중이다. 게이머들의 게임 중 악성 채팅과 개인방송 및 라이브 방송 중 악성 채팅을 실시간으로 필터링 해주는 '라이브챗 필터링' 기술이다. 이는 악성 채팅에 많은 스트레스를 받는 사람들을 보호 하기 위한 서비스다.

구 대표는 'AI 마인드'의 시장 진출을 위해 맞춤화와 고도화를 함께 진행하고 있지만 난항을 겪고 있다. 그는 "경기가 좋지 않은 상황에서 투자자 분들도 신중하게 고민하실 수밖에 없다고 본다"라며 "'AI 마인드'를 봤을 때 쉽게 와닿기도 어려운 아이템이다"라며 아쉬움을 표현했다. 구 대표는 이어 "투자자 및 잠재 고객들과 지속적으로 소통하면서 저희가 갖고 있는 비전과 나아갈 방향, 매달 어떤 식으로 만들어가고 있는지에 대해서 이야기를 나누고 있다"며 투자자 및 고객 확보를 위해 노력하고 있다고 밝혔다.

구 대표는 "이용자의 게임 체류 시간과 만족도에 대해 고민을 하고 계시다면 편하게 연락주셨으면 좋겠다"며 "특히 경쟁 요소가 있는 게임사분들은 꼭 만나고 싶다. 투자나 서비스 이용이 아니더라도 테스트 제안도 좋다"며 다양한 방식의 협업을 진행하고 싶다는 바람을 내비치기도 했다.

'AI 마인드'로 독성 채팅과의 전쟁을 선포한 구남인 대표는 당찬 각오를 밝혔다. 그는 "반드시 저희가 'AI 마인드'를 모든 게임사에 탑재해 게임하다가 '패드립'이나 비아냥, 욕설로 키보드와 마우스를 부수는 일이 없도록 하겠다"고 강조했다.

오경택 기자 (ogt8211@dailygame.co.kr)

▶ 'GSL 코드S 8회 우승' 조성주, "아무도 기록 못 넘을 거 같아 더 기뻐"▶ 젠지 4연패냐, T1 11회 우승이냐…다양한 기록 걸린 LCK 우승 경쟁 ▶ KT 성골 유스 '지니' 유백진, CL 스프링 정규 시즌 MVP ▶ [PWS] 젠지-광동-다나와, 그랜드 파이널 유력 우승 후보들 ▶ [LPL 돋보기] '올해는 다르다' BLG, 스프링 결승 진출...MSI도 확정

번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
3676	'스코어' 고동빈, kt 감독 부임..."롤드컵 전력 만드는 게 목표"	데일리e스포츠	00:14	9	0
3675	'톰' 임재현 코치가 T1에 남은 이유는?	데일리e스포츠	11.21	39	1
3674	'룰러' 박재혁-'쵸비' 정지훈, 2027년까지 젠지와 동행 [11]	데일리e스포츠	11.21	3021	6
3673	T1 떠난 '제우스' 최우제, 한화생명e스포츠 이적 [18]	데일리e스포츠	11.21	2523	8
3672	브리온 합류한 '클로저' 이주현, "베테랑 미드 됐으면 한다"	데일리e스포츠	11.20	58	0
3671	미해결사건부, 강혁 생일 시리즈 '흩날리는 눈송이' 업데이트	데일리e스포츠	11.20	64	0
3670	라이온하트, 'AGF 2024'에 '프로젝트 C' 출품 [6]	데일리e스포츠	11.20	5222	1
3669	'제오페구케' 깨졌다...'제우스' 최우제, T1과 결별	데일리e스포츠	11.20	90	0
3668	[프리뷰] 조선협객전2M, 3년 만에 돌아온 짜릿한 '조선 판타지' [3]	데일리e스포츠	11.19	1536	0
3667	[단독] T1 롤드컵 우승 주역 '톰' 임재현 코치, 해외 진출하나…LPL서 러브콜	데일리e스포츠	11.19	100	0
3666	[PC방순위] 메이플스토리 월드, '바람의 나라 클래식' 앞세워 8위	데일리e스포츠	11.19	83	0
3665	[인터뷰] 10주년 '하스스톤', '스타크래프트'와 만나는 이유는?	데일리e스포츠	11.19	99	0
3664	[인터뷰] 엠게임 강영순 본부장 "원작 끝나도 '열혈강호 온라인'은 계속된다" [3]	데일리e스포츠	11.19	4768	1
3663	[PMGC] 3주 간 그룹 스테이지 마무리…韓 3팀 순항 중	데일리e스포츠	11.19	71	0
3662	'빠른별' 정민성, 광동 감독으로 부임	데일리e스포츠	11.19	88	0
3661	kt 떠난 '표식' 홍창현, 광동으로 이적	데일리e스포츠	11.19	98	0
3660	광동, '두두'와 재계약-'커즈'는 결별	데일리e스포츠	11.19	1947	2
3659	[인터뷰] 엠게임 조광철 본부장 "'귀혼M', 원작 뛰어 넘을 것"	데일리e스포츠	11.18	101	0
3658	[20th 지스타] 김태열 부산정보산업진흥원장 "게임 향한 부산의 사랑, 계속 이어질 것"	데일리e스포츠	11.18	89	0
3657	20주년 맞은 '지스타' 성황리 폐막… 나흘 간 21만 명 방문	데일리e스포츠	11.18	89	0
3656	'데프트' 김혁규, "전역 후 선수 복귀하고파…새로운 목표 이룰 것" [17]	데일리e스포츠	11.18	5641	15
3655	T1 떠난 '레클레스', 인기 스트리머와 유럽 2부서 새로운 도전	데일리e스포츠	11.18	131	0
3654	'구마유시' 이민형, T1과 재계약...'제우스'만 남았다	데일리e스포츠	11.18	118	0
3653	[서든어택 챔피언십] 대어 익수 낚은 핀프 "아쉬움 남은 경기...마지막은 예상 대로"	데일리e스포츠	11.17	102	0
3652	[서든어택 챔피언십] "우리가 진다고?" 승부 예측 뒤집은 핀프, 익수 완파	데일리e스포츠	11.17	98	0
3651	[서든어택 챔피언십] 라이플 활약 준자냥냥 "라이플 활약 이끈 전략 '나이스'"	데일리e스포츠	11.17	97	0
3650	[서든어택 챔피언십] 준자냥냥은 멈추지 않아…우승후보 미스 완파	데일리e스포츠	11.17	98	0
3649	[20th 지스타] 드래곤소드, 화려한 액션의 오픈월드 RPG	데일리e스포츠	11.16	136	0
3648	[20th 지스타] 넥슨 30년 역사 담긴 공연에 관람객 '감동'	데일리e스포츠	11.16	138	0
3647	[20th 지스타] 시작미디어 호핏 셸리 CEO의 넘치는 한국 사랑	데일리e스포츠	11.16	140	0
3646	[20th 지스타] '아크 레이더스' 개발진 "익스트랙션 장르 진일보시킬 것"	데일리e스포츠	11.16	132	0
3645	[20th 지스타] 넥슨게임즈 김용하 본부장 "AI 활용 게임 개발, 기술 발전 더 필요"	데일리e스포츠	11.16	131	0
3644	'모건' 박루한, 브리온과 재계약..."책임감 더 생긴 거 같다"	데일리e스포츠	11.16	125	0
3643	[20th 지스타] 넷마블, '지스타'서 '킹 오브 파이터 AFK' 코스튬플레이 무대 행사 진행 [16]	데일리e스포츠	11.15	5046	1
3642	[20th 지스타] "'슈퍼바이브', 1만 시간 해도 질리지 않게 만들 것"	데일리e스포츠	11.15	151	0
3641	이도경 보좌관, "中 주도 e스포츠 표준화, 많이 위급한 상태"	데일리e스포츠	11.15	164	0
3640	T1, '케리아' 이어 '오너'도 잡았다...2년 재계약	데일리e스포츠	11.15	163	0
3639	[20th 지스타] 라이온하트 신작 4종, 공통점과 차이점은?	데일리e스포츠	11.15	143	0
3638	[20th 지스타] 시부사와 코우 코에이 창립자 "게임은 실제 경험으로 만들어야"	데일리e스포츠	11.15	138	0
3637	[20th 지스타] "'프로스트펑크2'는 인간의 본성에 대한 질문"	데일리e스포츠	11.15	134	0
3636	[20th 지스타] 프로젝트 오버킬, 3D 액션과 원작 재미 '두 마리 토끼' 잡는다	데일리e스포츠	11.15	133	0
3635	롤드컵 2연패 주역 '로치' 김강희 코치, T1과 계약 종료 [7]	데일리e스포츠	11.15	2093	5
3634	[20th 지스타] 아키텍트: 랜드 오브 엑자일, 고품격 그래픽과 다양한 콘텐츠	데일리e스포츠	11.15	134	0
3633	[20th 지스타] 라이온하트 '발할라 서바이벌', 고품질 그래픽의 '뱀서'류 게임	데일리e스포츠	11.15	135	0
3632	[20th 지스타] 넥슨재단 김정욱 이사장 "다큐 제작은 韓 게임산업 위한 일"	데일리e스포츠	11.15	133	0
3631	[20th 지스타] 넥슨 30주년 다큐 '온 더 라인', 韓 온라인게임 역사 담았다	데일리e스포츠	11.15	130	0
3630	[20th 지스타] 아쿠아트리 박범진 대표, "하이브IM과 함께라면 성공 확신"	데일리e스포츠	11.15	127	0
3629	[20th 지스타] 슈퍼바이브, 속도감 넘치는 전투와 협력, 그리고 생존	데일리e스포츠	11.14	170	0
3628	[20th 지스타] 퍼스트 버서커: 카잔, 숨길 수 없는 대작 본능 [2]	데일리e스포츠	11.14	808	1
3627	[강윤식의 e런 사람] '커즈' 문우찬, "주장으로 많은 걸 느껴…동생들에게 미안" [2]	데일리e스포츠	11.14	1005	1
뉴스	[포토] 질문에 답하는 김윤석	디시트렌드	11.21

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[데일리e스포츠 갤러리]

갤러리 본문 영역

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

파워링크 광고

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결