경찰, 딥페이크 탐지 소프트웨어 개발…선거 여론조작 소탕

파이낸셜뉴스

2024.03.05 06:00:13

조회 1774 추천 0 댓글 9

/사진=뉴시스

[파이낸셜뉴스]경찰청 국가수사본부는 딥페이크 탐지 소프트웨어를 개발해 딥페이크를 이용한 범죄 단속을 위해 본격적으로 활용한다.

5일 경찰에 따르면 인공지능(AI) 기술의 급격한 발달과 함께 딥페이크 이용 범죄의 위협이 증대되고 있으며, 특히 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 또는 여론조작에 대한 우려가 심화되고 있다.

이에 개정 공직선거법 제82조의8은 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동을 금지했으며, 경찰 또한 해당 범죄에 대한 엄정 대응 기조를 천명한 바 있다.

해당 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 통상 5분~10분 내에 분석 작업을 완료해 가짜 영상인지 진짜 영상인지 판별한다. 또한, 판별이 완료됨과 동시에 결과보고서를 즉각 창출해 수사에 곧바로 활용할 수 있도록 한다.

기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이었으며, 따라서 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었다. 이번에 개발한 ‘딥페이크 탐지 소프트웨어’는 인물 5400명의 데이터 520만점(한국인 데이터 100만점 및 아시아 계열 인종 데이터 13만점 포함) 등 한국인과 관련한 다양한 데이터 학습이 이루어졌으며, 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 인공지능(AI) 모델을 적용했다.

해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달하며, 탐지율이 100%가 아닌 점을 감안해 증거자료보다는 수사 방향을 설정하는 자료로 활용한다. 아울러 딥페이크와 관련한 새로운 기술이 끊임없이 개발.전파되고 있는 만큼, 딥페이크 영상 선거범죄에 대해서는 학계, 기업 등 인공지능(AI) 전문가로 구성된 민간 자문위원의 교차 검증을 거치도록 해 해당 소프트웨어의 오탐지 가능성도 최소화할 예정이다.

경찰청은 "딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행해나갈 수 있을 것으로 기대하고 있다"며 "향후 더욱 정확한 탐지가 이루어지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄·합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 밝혔다.

beruf@fnnews.com 이진혁 기자

※ 저작권자 ⓒ 파이낸셜뉴스. 무단 전재-재배포 금지

▶ "남편과 텐트서 자는데 남성 7명이 들어오더니..." 끔찍 ▶ 배우 남친에 잠수 이별 당한 女 "관계 엄청했고, 신체 사진도.."▶ 아파트에서 발견된 남녀 시신, 둘 관계 알고보니..▶ 티아라 출신 아름 "전 남편이 대소변을..." 충격 주장 ▶ '전국노래자랑' 김신영에 돌연 하차 통보, 후임은...

고정닉 0

원본 첨부파일 1

202403041936058965_l.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
9704	'SM주가 조종 혐의' 배재현 카카오 투자총괄, 보석석방	파이낸셜뉴스	03.06	64	0
9703	'뇌물 혐의'로 법정 선 노웅래 "재판 때문에 총선 타격…너무 억울"	파이낸셜뉴스	03.06	66	0
9702	경실련, "윤석열 정권 부동산 정책, 시장 메커니즘과 맞지 않아"	파이낸셜뉴스	03.06	69	0
9701	투자리딩방·연애빙자…경찰, "악성 사기와 전쟁 치르겠다"	파이낸셜뉴스	03.06	63	0
9700	경찰, 집회시위 소음 규제 나선…드론으로 증거 수집	파이낸셜뉴스	03.06	61	0
9699	주수호 의협 간부, 경찰 소환…"파업은 비폭력·무저항 자발적 포기" [1]	파이낸셜뉴스	03.06	90	0
9698	메가시티가 뭐길래.."단순 행정구역만 커진다고 능사 아냐" [7]	파이낸셜뉴스	03.06	1802	1
9697	'딸 특혜 채용 의혹' 송봉섭 전 선관위 사무차장 구속 기로	파이낸셜뉴스	03.06	60	0
9696	공천 탈락에 분신 시도한 국민의힘 장일 예비후보...구속 기로	파이낸셜뉴스	03.06	73	0
9695	'전공의 파업 공모 혐의' 주수호 의협 간부 소환조사	파이낸셜뉴스	03.06	66	0
9694	‘백현동 수사무마’ 정바울 “곽 변호사에 8억2000만원 줘”	파이낸셜뉴스	03.05	85	0
9693	유아인 지인 "대리처방 부탁 받아…메시지 삭제 지시는 없었다"	파이낸셜뉴스	03.05	113	0
9692	檢, '자녀 채용 의혹' 전 중앙선관위 사무차장 구속영장	파이낸셜뉴스	03.05	78	0
9691	불법 저지르고 면허 다시 받는 의사들...재발급 심사기준 까다로워지나	파이낸셜뉴스	03.05	86	0
9690	의협, 문서 파쇄로 고발당해…"개인정보 폐기"	파이낸셜뉴스	03.05	84	0
9689	檢, '유아인에 프로포폴 처방한 의사' 징역 3년 구형 [9]	파이낸셜뉴스	03.05	41934	3
9688	“이화영, 대북송금 이재명에 보고”…."묻지 않았는데 스스로 진술"	파이낸셜뉴스	03.05	82	0
9687	의료파업 2라운드…경찰 전공의 수사 본격화 되나	파이낸셜뉴스	03.05	74	0
9686	공수처, '채상병 피고발인' 이종섭 호주대사 임명에 "방안 검토 중"	파이낸셜뉴스	03.05	66	0
9685	"마약류 범죄 낮추려먼 사회경제적 재활프로그램 병행해야"[마약중독과	파이낸셜뉴스	03.05	73	1
9684	공천탈락 반발 이틀 연속 분신 시도...與 공천 탈락자 구속 기로	파이낸셜뉴스	03.05	57	0
9683	"접근금지 명령 어겼다면 출입절차 지켰어도 건조물침입" 대법	파이낸셜뉴스	03.05	66	0
9682	심야 지하철서 잠든 승객 휴대폰을 슬쩍…2명 구속 송치	파이낸셜뉴스	03.05	78	0
9681	"임대의무기간 종료한 주택의 등록 자동 말소 부동산 대책, 합헌" 헌	파이낸셜뉴스	03.05	75	0
9680	노소영, 26억여원 빼돌린 혐의로 비서 고소	파이낸셜뉴스	03.05	90	0
9679	'사법농단' 1심 무죄 양승태 전 대법원장 법무법인 클라스한결 합류	파이낸셜뉴스	03.05	68	0
9678	현직 경찰관이 강남서 성매매…단속반에 적발	파이낸셜뉴스	03.05	81	0
9677	래퍼 비프리, 국힘 선거 운동 방해 혐의로 입건	파이낸셜뉴스	03.05	139	0
	경찰, 딥페이크 탐지 소프트웨어 개발…선거 여론조작 소탕 [9]	파이낸셜뉴스	03.05	1774	0
9675	'민노총 탈퇴 강요' 황재복 SPC대표 구속…"증거인멸 염려" [1]	파이낸셜뉴스	03.04	116	0
9674	'‘故이예람 수사 개입 혐의' 전익수…2심도 징역 2년 구형	파이낸셜뉴스	03.04	99	0
9673	"니예니예" 한국 경찰 조롱한 남아공男…구속 [1]	파이낸셜뉴스	03.04	179	0
9672	법무법인 대륙아주, 정우정·최태영 전 부장판사 영입[로펌소식]	파이낸셜뉴스	03.04	76	0
9671	스위스인에게 로맨스 스캠…2억원 뜯어낸 30대男 구속기소	파이낸셜뉴스	03.04	104	0
9670	송영길 "檢, 돈봉투 안 되니 먹사연 별건수사…관여한 바 없다"	파이낸셜뉴스	03.04	111	0
9669	남경필, 차인표 등 이끄는 마약 치유 단체 '네버 기브 업(NGU)'	파이낸셜뉴스	03.04	86	0
9668	'김건희 특검법 부결'에 고심 빠진 檢	파이낸셜뉴스	03.04	85	0
9667	돌아오지 않는 '전공의'...경찰 의협 지도부 수사 본격화	파이낸셜뉴스	03.04	85	0
9666	남편 사망보험금도 상속재산인가요[최우석 기자의 로이슈]	파이낸셜뉴스	03.04	85	0
9665	'전청조 공범 혐의' 남현희, 불송치 결정	파이낸셜뉴스	03.04	92	0
9664	[르포]"신규 전공의·전임의도 안온다"…대학병원 의료공백 장기화	파이낸셜뉴스	03.04	78	0
9663	매년 5만건 성인 실종...1000여명이 주검으로 발견된다[잃어버린 [13]	파이낸셜뉴스	03.04	2304	6
9662	경찰 "대법원 해킹 北 소행 가능성 높아"	파이낸셜뉴스	03.04	90	0
9661	경찰, 의협 전현직 간부 5명 소환 통보..."전공의 수사는 아직"(	파이낸셜뉴스	03.04	87	0
9660	경찰, 의사집회 제약사 직원 동원…첩보 수집…의협 지도부 6~7일 소	파이낸셜뉴스	03.04	86	0
9659	넉 달간 1000만원 상당 자동차 휠 슬쩍...70대 남성 입건 [5]	파이낸셜뉴스	03.04	747	1
9658	엄상필·신숙희 대법관 취임, ‘중도·보수’ 강화된 대법원	파이낸셜뉴스	03.04	68	0
9657	의협 간부들 6일부터 소환 조사...노환규 전 의협회장 압수수색(종합	파이낸셜뉴스	03.04	71	0
9656	의협 간부들 이번주 소환...노환규 전 의협회장 압수수색	파이낸셜뉴스	03.04	63	0
9655	"니예니예" 한국 경찰 조롱한 남아공男, 구속 기로 [26]	파이낸셜뉴스	03.04	1538	16
뉴스	'텐트 밖은 유럽' 공포의 활화산 앞에서 역대급 캠핑, 줄리아 로버츠도 사랑한 나폴리 피자의 맛은?	디시트렌드	18:00