창과 방패의 대결, 인공지능 가짜 사진 vs 가짜 사진 판별 인공지능

IT동아 갤러리

1/3

"세금 돌려드립니다" 환급 플랫폼, 과장 광고 논란.jpg 요즘 광고나 문자로 "여기 받지 않은 환급금 xxxxxxx원이 있습니다" 이런 거 많이 오는데 이거에 대한 문제점을 취재한 게 오늘 올라옴 아오 ㄹㅇ존나 많이 옴 ㄹㅇ 나도 낚인 적 있는데 존나 바로 삭제 탈퇴함 이딴 거 좀 어케 막아라 작성자 : ㅇㅇ

창과 방패의 대결, 인공지능 가짜 사진 vs 가짜 사진 판별 인공지능

IT동아

2022.04.05 11:47:58

조회 1424 추천 4 댓글 11

[IT동아 차주경 기자] 인공지능은 산업계 전반에 큰 영향을 미쳤다. 인공지능은 작업 환경과 방식을 고도화해서 효율을 높이고, 오류가 나면 이를 분석해서 되풀이하지 않도록 스스로 배운다. 사진 업계에 미친 영향도 크다. 인공지능 덕분에 사람들은 이제 사진을 더 빠르게, 편리하게 찍고 수정하며 보관한다.

하지만, 인공지능이 점차 강력해지며 부작용도 나온다. 사진 업계에서 인공지능이 만든 인물 사진을 악용한 사례가 나왔다. 이 사진은 만들어진 가짜지만, 진짜 인물 사진과 구분하기 힘들 정도다. 이 탓에 범죄에 쓰일 거라는 우려가 나온다. 인공지능 개발사와 사진 업계는 힘을 합쳐 부작용을 줄일 방안을 찾는다.

나날이 발전한 인공지능은 이제 사진을 창조하는 단계에 이르렀다. 피사체의 윤곽만 있으면 이미 배운 다른 피사체의 윤곽, 색깔과 견주어 가며 실제 피사체를 표현한다. 사진 안에 특정 피사체만 지우거나, 교묘하게 붙여 넣기도 한다. 나아가 인공지능은 인물 사진을 배워서 실제로는 세상에 없지만, 진짜 있을 법한 인물 사진을 만든다.

이 사람은 없는 사람입니다 웹 사이트. 위 사람은 사람처럼 보이지만, 아니다. 출처 = This Person Does Not Exist

인공지능이 만든 인물 사진이 얼마나 실제 사진과 비슷한 지를 보려면, 웹 사이트 ‘이 사람은 없는 사람입니다(This Person Does Not Exist)’를 가 보자. 이 웹 사이트에 있는 인물 사진은 모두 인공지능이 만든 것이며, 모두 세상에 없는 사람이다.

이렇게 고도의 인공지능으로 만든 인물 사진은 여러 곳에서 악용된다. 최근 스탠포드 대학교 연구원들은 취업 SNS에서 가짜 인물 사진으로 만든 계정을 수백 개 이상 발견했다고 밝혔다.

취업 SNS는 특정 기업에 대한 여론 조작, 불공정 영업을 막으려 전송 가능한 메시지의 개수를 제한한다. 이 때 가짜 인물 사진을 만들어 직원인 것처럼 꾸미면, 가짜 계정을 여러 개 만들어 메시지를 많이 보낼 수 있다. 가짜 계정은 사람들에게 왜곡된 정보를 주거나, 광고 수단으로 쓰일 가능성이 크다. 나아가 가짜 인물 사진은 로맨스 스캠(SNS에서 연인이 될 것처럼 속여 호감을 산 후 사기를 벌이는 행각)에 악용될 우려도 크다.

인공지능으로 만든 가짜 인물 사진의 부작용들이 속속 드러나자, 업계는 이를 막을 또 다른 인공지능을 연구 개발했다. 수많은 인물 사진을 인공지능이 배우도록 한 뒤, 다른 인물 사진의 이목구비와 명암, 빛의 방향과 각도, 액세서리 유무와 그림자 등 여러 요소를 분석해 진짜인지 가짜인지 알아내는 원리다. 인공지능 소프트웨어 기업 V7 랩스(V7 Labs)가 공개한 구글 크롬 확장 프로그램 ‘가짜 프로필 사진 인공지능 판별기(Fake Profile AI Detector)’이 그 사례다.

V7 랩스가 공개한 가짜 사진 판별 인공지능 플러그인. 출처 = V7 랩스

V7 랩스는 이 프로그램이 99.28% 확률로 가짜 인물 사진을 판별한다고 강조했다. 이어 이 프로그램이 여러 SNS에 퍼진 가짜 인물과 가짜 계정을 구분하고, 잘못된 정보와 가짜 뉴스를 퍼뜨리는 것을 막기를 기대한다고 밝혔다.

인공지능 두 개가 결과물과 장단점을 서로 비교하며 발전하는 GAN(Generative Adversarial Network, 적대적 신경망 네트워크) 기술이 등장한 이후, 인공지능은 지금 이 순간에도 발전한다. 가짜 인물 사진을 만드는 기술도 더욱 교묘해질 것이다.

지금은 인공지능이 가짜 사진만 만들지만, 멀지 않은 미래에는 가짜 목소리를 포함한 가짜 동영상까지 만들 정도로 강력해질 것으로 예상한다. 인공지능 업계도 GAN과 데이터를 적극 활용해 이 폐해를 막는다. 무엇이든 묘사하는 인공지능과 무엇이든 감지하는 인공지능, 창과 방패의 대결 양상은 더욱 격렬해질 전망이다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 페북, 인스타 등 ‘SNS 로그인’ 경보…해킹 앱 발견 ▶ 인공지능이 바꾼 사진 문화, 거세지는 찬반 양론 ▶ "AI도 진정한 친구가 될 수 있다", 돌아온 이루다2.0

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
1098	글로벌 반도체 소재·장비 기업 속속 국내 진출…공급망 안정화·일자리 창출 기대	IT동아	22.04.28	87	0
1097	[모빌리티 인사이트] 대륙을 연결하는 항만에서 만나는 자율주행 시대	IT동아	22.04.28	73	0
1096	[IT운영관리] 7. "IT인프라 관리 개별 기업이 감당 어려워"...AI와 결합한 IT운영관리 필수	IT동아	22.04.28	107	0
1095	생각보다 어려운 공기청정기 선택··· '가성비 대신 브랜드 고려해야' [15]	IT동아	22.04.28	1708	0
1094	김양희 HN노바텍 “세계 첫 해조류 대체육, 반려동물·세계 시장으로 전파”	IT동아	22.04.28	89	0
1093	5월 청와대 개방 전 사전 접수 시작...신청 방법 살펴보니 [17]	IT동아	22.04.27	1091	7
1092	Arm, IoT용 최신 프로세서 코어텍스-M85 및 IoT 토탈 솔루션 로드맵 발표	IT동아	22.04.27	53	0
1091	[스케일업] 트랜쇼 (2) 전문가 제언, “B2B 마케팅은 어떻게 해야 하나요?”	IT동아	22.04.27	71	0
1090	소형화로 게이머 노린 TV, OLED와 네오 QLED 중 어떤 걸 고를까? [4]	IT동아	22.04.27	1357	1
1089	아토머스 “스타트업의 비즈니스 노트북, ‘보안성과 생산성’ 두 난제를 해결해야”	IT동아	22.04.27	59	0
1088	[앱으리띵] 동네 병원, 솔직한 후기가 궁금하다면? 병원 정보 앱 '모두닥'	IT동아	22.04.27	52	0
1087	구글 '픽셀워치' 출시 초읽기? 구글은 왜 지금 스마트 워치를 시작할까	IT동아	22.04.27	163	1
1086	일론 머스크의 트위터, 어떻게 변할까 [10]	IT동아	22.04.27	2175	6
1085	'불법·유해 콘텐츠 방치하면 과징금 폭탄'…EU 디지털 서비스 법안 주요 내용은? [12]	IT동아	22.04.26	1607	1
1084	[뉴스줌인] "실명계좌 발급 없으면 가상자산 거래소 생존 어려워"	IT동아	22.04.26	123	1
1083	비싼 배달비·수수료 불만, 대안으로 ‘하이퍼 로컬’ 부상 [17]	IT동아	22.04.26	3646	5
1082	[리뷰] 초고속 충전에 1억 800만 화소 카메라까지, 샤오미 레드미노트11 프로 5G [1]	IT동아	22.04.26	169	0
1081	[스케일업] 웍스메이트 (2) 건설 업계에 선한 영향력 미칠 '기업 문화' 만들기	IT동아	22.04.26	60	1
1080	EU, 충전기 단일화 나서··· '아이폰도 USB-C 단자 채용할까?' [9]	IT동아	22.04.26	1532	8
1079	[인터뷰] 정말 '모두의 골프' 문화를 만들고 있는 엑스골프 조성준 대표 [8]	IT동아	22.04.25	2739	0
1078	[뉴스줌인] 인체공학 적용해 손목 부담 덜어주는 '버티컬 마우스'	IT동아	22.04.25	116	0
1077	[주간투자동향] 데이원컴퍼니, 350억 원 규모의 시리즈D 투자 유치	IT동아	22.04.25	96	0
1076	[IT애정남] 거품 빠진 그래픽 카드, 지금 구매할까요? 더 기다릴까요? [33]	IT동아	22.04.25	1989	2
1075	[홍기훈의 ESG 금융] ESG가 베타에 미치는 영향 Part 7: 아폴로 병원의 내부수익률과 기준 자본비용 산정과정	IT동아	22.04.25	52	0
1074	[NFT산업현장] 1. "NFT는 다양한 산업에서 발전할 것"	IT동아	22.04.22	230	0
1073	우주개발의 꿈에 바짝 다가간 토종 스타트업, 컨텍 이성희 대표	IT동아	22.04.22	89	0
1072	묻지마 NFT 잔치 끝났다…'옥석 가리기' 시작	IT동아	22.04.22	106	0
1071	[뉴스줌인] 1080p급 게이밍을 위한 보급형 그래픽카드, 라데온 RX 6400	IT동아	22.04.22	109	0
1070	[리뷰] 최대 18TB의 용량에 USB 허브 기능까지, 씨게이트 원터치 허브 데이터복구	IT동아	22.04.22	233	0
1069	[스타트업人] 흙·농작물에 반한 젊은 농부, 퍼밋 스마트팜 재배 관리자 이야기	IT동아	22.04.22	63	0
1068	[리뷰] 최상의 sRGB 작업 환경을 원한다면, 벤큐 PD3205U 아이케어 [4]	IT동아	22.04.22	489	1
1067	[스케일업] 부엔까미노 (1) 재미있는 저축 펀 세이빙, 성장의 열쇠는 ‘네트워크 효과’	IT동아	22.04.22	48	0
1066	"엄마, 아빠보다 더 친한 '알렉사' "... 음성AI와 정서적 교류 맺는 포스트팬데믹 세대	IT동아	22.04.21	158	0
1065	뮤직카우, 급제동 대신 제도권 연착륙 기회 받았다	IT동아	22.04.21	53	0
1064	[스케일업] 드리머리 (2) 전문가 제언, “마케팅 방법에서 브랜딩 방향으로”	IT동아	22.04.21	43	0
1063	[혁신스타트업 in 홍릉] 벨베리온 “팬데믹, 살바이러스 방역복으로 대응해야”	IT동아	22.04.21	46	0
1062	Z세대 사로잡은 AR, 돈 되는 기술로 떠올랐다	IT동아	22.04.21	71	0
1061	[리뷰] 감성의 영역에 접어든 무선 청소기, 벨레 트윈버드 TB70	IT동아	22.04.21	37	0
1060	[모빌리티 인사이트] 전기차 배터리의 Next level? 무선 충전 vs 교체	IT동아	22.04.21	1052	0
1059	금성오락실에서 만난 42형 LG 올레드 evo…’게이머들 홀릴만하네’ [11]	IT동아	22.04.21	1729	2
1058	[WIS 2022] 국내 ICT 최전선을 가다…월드IT쇼 2022	IT동아	22.04.20	733	0
1057	[뉴스줌인] PC 튜닝의 필수요소 된 RGB LED, 그런데 ARGB는 또 뭐야?	IT동아	22.04.20	76	0
1056	[스타트업-ing] 브이스페이스 조범동 대표 “UAM을 개발하고 있습니다"	IT동아	22.04.20	41	0
1055	[뉴스줌인] 카카오브레인의 초거대 이미지생성 AI 'RQ-Transformer'란?	IT동아	22.04.20	57	0
1054	한국기술벤처재단 이영호 사무총장 “창업 지원 20년, 기술창업 기반을 마련하다”	IT동아	22.04.20	49	0
1053	AMD, 라이젠 프로 6000 CPU로 기업 시장 공략나서	IT동아	22.04.20	83	0
1052	러시아 침공·부품 수급난 속 스마트폰 시장, 2022 1Q 11% 감소 [4]	IT동아	22.04.20	532	2
1051	최초로 QD-OLED 적용한 ‘끝판왕’ 게이밍 모니터, 델 에일리언웨어 AW3423DW [11]	IT동아	22.04.19	1741	5
1050	박선기 퍼밋 대표 “사람이 최우선, 농민들 고민 해결하는 스마트팜 될 것”	IT동아	22.04.19	74	1
1049	[스타트업ing] 패밀리 김주희 대표, “당신에게 맞는 건강한 음식을 추천합니다”	IT동아	22.04.19	97	0