창과 방패의 대결, 인공지능 가짜 사진 vs 가짜 사진 판별 인공지능

IT동아 갤러리

1/3

우리집 강아지가 현관에 들어가기 어려워했던 이유 작성자 : ㅇㅇ

창과 방패의 대결, 인공지능 가짜 사진 vs 가짜 사진 판별 인공지능

IT동아

2022.04.05 11:47:58

조회 1427 추천 4 댓글 11

[IT동아 차주경 기자] 인공지능은 산업계 전반에 큰 영향을 미쳤다. 인공지능은 작업 환경과 방식을 고도화해서 효율을 높이고, 오류가 나면 이를 분석해서 되풀이하지 않도록 스스로 배운다. 사진 업계에 미친 영향도 크다. 인공지능 덕분에 사람들은 이제 사진을 더 빠르게, 편리하게 찍고 수정하며 보관한다.

하지만, 인공지능이 점차 강력해지며 부작용도 나온다. 사진 업계에서 인공지능이 만든 인물 사진을 악용한 사례가 나왔다. 이 사진은 만들어진 가짜지만, 진짜 인물 사진과 구분하기 힘들 정도다. 이 탓에 범죄에 쓰일 거라는 우려가 나온다. 인공지능 개발사와 사진 업계는 힘을 합쳐 부작용을 줄일 방안을 찾는다.

나날이 발전한 인공지능은 이제 사진을 창조하는 단계에 이르렀다. 피사체의 윤곽만 있으면 이미 배운 다른 피사체의 윤곽, 색깔과 견주어 가며 실제 피사체를 표현한다. 사진 안에 특정 피사체만 지우거나, 교묘하게 붙여 넣기도 한다. 나아가 인공지능은 인물 사진을 배워서 실제로는 세상에 없지만, 진짜 있을 법한 인물 사진을 만든다.

이 사람은 없는 사람입니다 웹 사이트. 위 사람은 사람처럼 보이지만, 아니다. 출처 = This Person Does Not Exist

인공지능이 만든 인물 사진이 얼마나 실제 사진과 비슷한 지를 보려면, 웹 사이트 ‘이 사람은 없는 사람입니다(This Person Does Not Exist)’를 가 보자. 이 웹 사이트에 있는 인물 사진은 모두 인공지능이 만든 것이며, 모두 세상에 없는 사람이다.

이렇게 고도의 인공지능으로 만든 인물 사진은 여러 곳에서 악용된다. 최근 스탠포드 대학교 연구원들은 취업 SNS에서 가짜 인물 사진으로 만든 계정을 수백 개 이상 발견했다고 밝혔다.

취업 SNS는 특정 기업에 대한 여론 조작, 불공정 영업을 막으려 전송 가능한 메시지의 개수를 제한한다. 이 때 가짜 인물 사진을 만들어 직원인 것처럼 꾸미면, 가짜 계정을 여러 개 만들어 메시지를 많이 보낼 수 있다. 가짜 계정은 사람들에게 왜곡된 정보를 주거나, 광고 수단으로 쓰일 가능성이 크다. 나아가 가짜 인물 사진은 로맨스 스캠(SNS에서 연인이 될 것처럼 속여 호감을 산 후 사기를 벌이는 행각)에 악용될 우려도 크다.

인공지능으로 만든 가짜 인물 사진의 부작용들이 속속 드러나자, 업계는 이를 막을 또 다른 인공지능을 연구 개발했다. 수많은 인물 사진을 인공지능이 배우도록 한 뒤, 다른 인물 사진의 이목구비와 명암, 빛의 방향과 각도, 액세서리 유무와 그림자 등 여러 요소를 분석해 진짜인지 가짜인지 알아내는 원리다. 인공지능 소프트웨어 기업 V7 랩스(V7 Labs)가 공개한 구글 크롬 확장 프로그램 ‘가짜 프로필 사진 인공지능 판별기(Fake Profile AI Detector)’이 그 사례다.

V7 랩스가 공개한 가짜 사진 판별 인공지능 플러그인. 출처 = V7 랩스

V7 랩스는 이 프로그램이 99.28% 확률로 가짜 인물 사진을 판별한다고 강조했다. 이어 이 프로그램이 여러 SNS에 퍼진 가짜 인물과 가짜 계정을 구분하고, 잘못된 정보와 가짜 뉴스를 퍼뜨리는 것을 막기를 기대한다고 밝혔다.

인공지능 두 개가 결과물과 장단점을 서로 비교하며 발전하는 GAN(Generative Adversarial Network, 적대적 신경망 네트워크) 기술이 등장한 이후, 인공지능은 지금 이 순간에도 발전한다. 가짜 인물 사진을 만드는 기술도 더욱 교묘해질 것이다.

지금은 인공지능이 가짜 사진만 만들지만, 멀지 않은 미래에는 가짜 목소리를 포함한 가짜 동영상까지 만들 정도로 강력해질 것으로 예상한다. 인공지능 업계도 GAN과 데이터를 적극 활용해 이 폐해를 막는다. 무엇이든 묘사하는 인공지능과 무엇이든 감지하는 인공지능, 창과 방패의 대결 양상은 더욱 격렬해질 전망이다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 페북, 인스타 등 ‘SNS 로그인’ 경보…해킹 앱 발견 ▶ 인공지능이 바꾼 사진 문화, 거세지는 찬반 양론 ▶ "AI도 진정한 친구가 될 수 있다", 돌아온 이루다2.0

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	가족과 완벽하게 손절해야 할 것 같은 스타는?	운영자	24/06/24	-	-
1013	[리뷰] 샤오미 버즈 3T 프로, 강력한 노이즈 캔슬링에 하이파이 음질까지	IT동아	22.04.11	130	0
1012	[주간투자동향] 이스크라, 420억 원 규모의 시드 투자 유치	IT동아	22.04.11	52	0
1011	'채굴 빙하기' 앞둔 이더리움, 가상자산 시장에도 친환경 물결	IT동아	22.04.11	104	0
1010	교육용 컴퓨터도 성능 고려해야, '학습용 컴퓨터'를 고르는 기준은?	IT동아	22.04.11	74	0
1009	[스케일업] 딥파인 (2) 증강현실 상업이냐 기술이냐, 방향 정하고 차별화하라	IT동아	22.04.11	1337	0
1008	[뉴스줌인] 강력한 패스스루 기능이 매력적, 엘가토 HD60 X 캡처카드	IT동아	22.04.10	65	0
1007	넷플 "OCA로 비용 줄일 수 있어" vs SKB "망 이용은 무료 아냐" [2]	IT동아	22.04.08	182	1
1006	[스타트업人] IT 스타트업의 숨은 해결사, 당근마켓 프로덕트 매니저(PM) 이야기	IT동아	22.04.08	85	0
1005	[기고] 조각투자 규제, 일변도식 접근 삼가야... '법 제도적 뒷받침 필요'	IT동아	22.04.08	91	0
1004	"인생네컷은 MZ세대의 문화··· 네이버웍스 도입으로 더 효율화" [23]	IT동아	22.04.08	3727	2
1003	[스케일업] 트랜쇼 (1) BM분석 - 패션 풀필먼트의 비밀병기, 사입삼촌!	IT동아	22.04.08	95	0
1002	반도체 수급난, 러시아 침공 등 이어지는 악재에 광학 기기 가격 줄인상 [3]	IT동아	22.04.08	1179	0
1001	슈나이더 일렉트릭, 스마트 공장 위한 통합 자동화 솔루션 다수 공개	IT동아	22.04.07	134	0
1000	베일 벗은 국내 최대 '애플 명동'…제품, 서비스 다음은 콘텐츠?	IT동아	22.04.07	778	0
999	"유수의 테크기업도 카카오T 모델로 간다", 카카오모빌리티가 비친 자신감	IT동아	22.04.07	85	0
998	델, 2022년형 기업용 컴퓨터 출시··· '비대면 업무에 최적' [4]	IT동아	22.04.07	2224	2
997	스타트업 성공을 위한 ‘SW 시장성 테스트’	IT동아	22.04.07	101	0
996	[모빌리티 인사이트] 자동차도 신발이 중요합니다	IT동아	22.04.07	81	0
995	[뉴스줌인] 샤오미 레드미노트 11 국내 출시, 경쟁자는 갤럭시 A23/53? [21]	IT동아	22.04.06	1224	4
994	타다 이후로도 모빌리티의 질주는 계속된다.."최종 목적지는 완전자율주행"	IT동아	22.04.06	109	0
993	기발한 아이디어 거래하는 '아이디어 시장', 새로운 공유경제 개척한다	IT동아	22.04.06	118	0
992	로지텍, 새 통합 브랜드로 '크리에이터' 시장 정조준	IT동아	22.04.06	1055	0
991	이름도 어려운 디지털 사이니지, '카멜 솔루션'이 손쉬운 사용 돕는다	IT동아	22.04.06	100	0
990	6월 16일 열릴 애플 WWDC, iOS 16 포함한 새 운영 체제 기대	IT동아	22.04.06	137	0
989	"잘 할 수 있는 걸 하겠다" 3000억 들인 카카오의 상생 해법 [5]	IT동아	22.04.06	607	0
988	고가·고급 미러리스 딛고 디카 시장 부활 기미, 낙관 경계론도	IT동아	22.04.06	117	0
987	[김 소장의 ‘핏(FIT)’] “구글플레이에서 티빙 결제하면 더 비싸다구요?”	IT동아	22.04.06	73	0
986	어도비, 디지털 경제 실현을 위한 새로운 개인화 경험 기능 발표	IT동아	22.04.06	102	0
985	단종 후 오히려 ‘역주행’ 하는 갤럭시 A52s, 어째서? [12]	IT동아	22.04.05	1988	12
984	소니, 게임 구독으로 MS에 맞불? 사실은 소심한 견제구	IT동아	22.04.05	159	0
983	"현실이랑 다른 게 뭐야?"... 카카오·디즈니+도 버추얼 프로덕션에 뛰어든다 [7]	IT동아	22.04.05	3172	2
982	[IT강의실] 애플을 위한 제품, MFi 프로그램이란?	IT동아	22.04.05	151	0
	창과 방패의 대결, 인공지능 가짜 사진 vs 가짜 사진 판별 인공지능 [11]	IT동아	22.04.05	1427	4
980	[인터뷰] 잘 나가던 개발자가 신사업 기획자가 된 이유, <대기업 기획자의 고백> 김세호 저자 [1]	IT동아	22.04.04	209	0
979	[리뷰] 성능은 인정, 구성은 글쎄··· A15 바이오닉 기반 '애플 아이폰 SE' [17]	IT동아	22.04.04	1378	4
978	[IT신상공개] 고프로 히어로10 블랙 크리에이터 에디션	IT동아	22.04.04	150	0
977	[검색광고 AtoZ] ① 검색 광고주가 알아야 할 ‘성과를 좌우하는 네 가지 요소’	IT동아	22.04.04	82	0
976	[주간투자동향] 마스오토, 150억 원 규모의 시리즈A 투자 유치	IT동아	22.04.04	121	0
975	LG전자 “약속대로 V50·윙·벨벳 등에 최신 안드로이드 지원” [28]	IT동아	22.04.04	2671	16
974	[리뷰] 가성비와 고성능이 한번에, 에이수스 TUF GAMING A17(FA707R) 게이밍 노트북 [20]	IT동아	22.04.01	4653	2
973	구글 꼼수에 무력화 된 '구글 갑질 방지법' [30]	IT동아	22.04.01	4567	13
972	[BIT 인사이트저널] '비'행을 꿈꾸는 '건'강한 뷰티 기업, 멜릭서	IT동아	22.04.01	123	0
971	메타넷 정석춘 전무 “오픈시프트에 익숙한 기업이 클라우드 시대 주도할 것”	IT동아	22.04.01	139	0
970	'진지해도 웃을 땐 웃자', 소소한 웃음 주는 2022년 만우절 소식들 [10]	IT동아	22.04.01	3997	1
969	크로스앵글 이현우 대표 "가상자산은 묻지마 투자? 투자자 이해 돕는 서비스 필요"	IT동아	22.04.01	182	1
968	美 스마트폰 3위로 부활한 모토로라, 프리미엄 시장 노린다 [1]	IT동아	22.04.01	406	0
967	[모빌리티 인사이트] 이제는 차 안에서 건강도 같이 챙기세요	IT동아	22.03.31	596	0
966	마이크로프트 "업무 생산성 증진, 그게 협업툴의 본질입니다" [1]	IT동아	22.03.31	243	0
965	인포매티카 “디지털 전환 막는 데이터 단편화, AI 관리 솔루션이 해답”	IT동아	22.03.31	162	0
964	인텔, 20년 만에 그래픽 카드 재도전···· 엔비디아·AMD 양극 체제 깨질까 [23]	IT동아	22.03.31	1789	5