디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[생성 AI 길라잡이] 생성형AI의 양면성 '딥페이크', 왜 문제인가?

IT동아갤로그로 이동합니다. 2024.10.04 18:13:32
조회 228 추천 0 댓글 0
※생성 인공지능이 세계를 뜨겁게 달굽니다. 사람만큼, 더러는 사람보다 더 그림을 잘 그리고 글을 잘 쓰는 생성 인공지능. 생성 인공지능을 설치하고 활용하는 방법과 최신 소식을 매주 전합니다.

[IT동아 남시현 기자] 지난 9월 26일, 우리 국회가 딥페이크 성착취물에 대한 처벌을 강화하는 성폭력범죄처벌특례법 개정안을 통과시켰습니다. 성폭력처벌법 제14조의 2에는 허위 영상물을 소지·구입·저장 또는 시청할 경우 3년 이하의 징역 또는 3천만 원 이하의 벌금에 처하는 내용이 담겼습니다. 몇 년 새 딥러닝 기술이 발전하며 딥페이크 기술에 대한 완성도와 성능도 크게 진보했고, 이를 범죄에 악용하는 집단이 늘어난데 따른 조치입니다.


딥페이크 기술을 활용해 아이작 뉴턴의 얼굴을 다른 사람의 얼굴로 교체한 사례 / 출처=lex.dk



이런 움직임은 비단 우리나라만의 일은 아닙니다. 미국은 지난해 11월, 딥페이크 책임 법안(DEEPFAKES Accountability Act4)을 발의해 딥페이크 기술로 피해를 입은 피해자에게 법적 지원을 제공하기로 했고, 딥페이크 신용사기 방지법안(Preventing Deep Fake Scams Act)으로 금융 분야 기업 및 기관이 딥페이크에 대응하는 조직을 구성하고 대응에 나서도록 했습니다.

유럽연합은 디지털 서비스 법 개정을 통해 초대형 온라인 플랫폼 및 검색 엔진이 조작된 이미지, 오디오, 비디오가 실존과 유사하게 보이는 항목에 대해 식별할 수 있도록 표시해야 한다고 명시했습니다. 직접적으로 딥페이크를 명시하지는 않았으나, 구글, 유튜브, 페이스북 등 대형 검색엔진 및 서비스 기업이 딥페이크를 알아서 감지하고 차단하거나 표시하도록 한 셈이죠.

그렇다면 왜 전 세계적으로 딥페이크에 대한 제재에 들어가는 것일까요?

딥페이크, 첫 시작은 2017년 온라인 커뮤니티


딥페이크(deepfake)는 딥러닝(Deep learning)과 가짜(Fake)의 합성어로, 생성형AI 기술의 한 갈래인 생성형 적대 신경망(GAN) 기술을 활용해 기존의 사진이나 영상에 다른 데이터를 합성해 새로운 영상을 만드는 기술입니다. 생성형 적대 신경망 기술은 실제와 유사한 데이터를 만드는 생성자, 그리고 데이터의 진위 여부를 판별하는 판별자 입장의 신경망 두 개를 경쟁시켜, 생성자가 판별자를 속일 정도의 결과물을 만들어내는 방식입니다. 초기에는 GPU 성능의 한계로 결과물도 형편없었으나, 최근에는 소비자용 GPU 성능도 크게 발전하며 딥페이크의 품질도 일진보 했습니다.


일론 머스크가 X(전 트위터)에 올린 카멀라 해리스 관련 딥페이크 영상, 음성 딥페이크지만 사실과 교묘하게 섞어 정치적 논란으로 이어졌다 / 출처=X



사실 오래전부터 포토샵 등으로 이미지를 조작하거나 합성하는 건 가능했고, 이로 인해 사건 사고는 있어왔습니다. 하지만 영상은 이미지가 초당 수십 회 반복 재생되는 방식이어서 이미지와 달리 정교하게 합성하는 게 불가능해 조작이 어려운 영역으로 남아있었습니다. 그런데 지난 2017년, 미국의 온라인 커뮤니티 레딧에서 딥러닝 기술을 이용해 영상 결과물에 합성 데이터를 조합한 결과물이 올라오기 시작했고, 사용자들은 이를 활용해 포르노그래피나 영화배우 등을 합성한 결과물이 유행하기 시작합니다. 이것이 딥페이크의 시작입니다.

생성형AI의 암영을 모두 지닌 딥페이크, 현재 상황은?


첫 등장 이후 7년이 지난 지금, 딥페이크는 커뮤니티 이용자들의 짓궂은 장난 수준을 넘어 범죄의 영역으로 들어섰습니다. 올해 2월, 홍콩의 한 다국적 금융기업에서 약 340억 원 규모의 금융 피해가 발생했습니다. 담당자가 본사 재무최고책임자(CFO)로부터 자금 송출을 요청받았고, 이를 확인하고자 화상회의를 개설했습니다. 이때 CFO를 포함해 동료 직원들도 회의에 참석해 의심 없이 돈을 송금했지만, 본인을 제외한 모두가 딥페이크로 분장한 사기꾼들이었습니다.

해외에서는 유독 딥페이크를 활용한 금융, 정치 사건이 많습니다. 미국에서는 도널드 트럼프 미국 대선 후보가 흑인들과 함께 찍은 듯한 사진 및 영상을 배포하고, 이를 통해 팔로워를 늘려 선거 운동에 나서는 등의 사건이 있었습니다. 인도에서도 유명 배우들이 특정 정당을 지지하는 내용의 딥페이크 영상이 SNS로 유포되며 배우가 직접 가짜라고 입장을 밝히는 등의 사건이 있었죠.


넷플릭스는 지난 2023년, 딥페이크를 활용해 다섯 쌍의 출연 커플에게 진실과 허구를 가리는 예능 프로그램을 제작한 바 있다 / 출처=넷플릭스



긍정적인 사례도 없는 건 아닙니다. 영화 산업에서는 배우의 젊은 시절을 연기하거나, 이미 사망한 배우를 배역으로 내세우는 등의 기법으로 딥페이크를 활용합니다. 방송에서도 익명으로 인터뷰에 참여하는 사람을 위해 대역과 딥페이크를 동원해 얼굴과 목소리까지 합성한 방식으로 신원을 보호한 사례가 있습니다. 향후에는 교육이나 시뮬레이션, 예술 등의 분야에서도 폭넓게 쓰일 여지가 있습니다.

딥페이크, 악의적 활용 없애고 긍정적 가치에 집중해야


딥페이크를 악용하는 사례가 늘고 있지만, 해외에서는 이 기술에 대한 상업적 가치나 방향성을 부정하진 않습니다. 또 딥페이크를 무조건 금지하는 것만이 해답은 아니라는 시각도 있습니다. 지난 9월 미국 캘리포니아 주에서 대선 개입을 막기 위해 선거용 딥페이크를 방지하는 법안이 등장했습니다. 하지만 10월 3일, 미국 연방지방법원 판사는 인공지능과 딥페이크가 상당한 위험을 초래하지만 언론, 출판의 자유를 보장하는 수정헌법 제 1조를 위반할 수 있다며 법률의 효력을 상실시켰습니다.

판결문은 법안이 메스가 아닌 망치 역할을 하며, 미국 민주주의 토론에서 매우 중요하고 자유롭고 제약없는 사상의 교류를 위헌적으로 억압할 수 있다는 내용을 담았습니다. 즉 악의적 목적을 세밀하게 금지하지 않는다면, 절대적으로 금지하는 것은 국민의 목소리를 탄압할 수 있다는 의미입니다. 해당 논쟁은 현재 진행형이지만, 이번 판결로 인해 미국 대선에는 딥페이크를 활용한 풍자나 조작 등이 여전히 개입할 여지가 남게 됐고, 반대로 관련 기술은 더욱 발전하게 될 것으로 보입니다.


생성형 적대 신경망 기술의 본질은 두 개의 AI가 납득할 수 있는 수준의 품질로 결과물을 만드는 기술입니다. 단순히 범죄 기술로만 보아선 안됩니다 / 출처=셔터스톡



따라서 ‘딥페이크는 악마의 기술’로 호도할 것이 아니라, 기술의 긍정적인 면은 살리되 부정적인 면은 억제해야하는 것이 과제로 남습니다. 생성형 적대 신경망 기술 역시 생성형 AI 기술이며, 미래에는 고부가가치 산업이 될 것입니다. 주홍글씨는 지우고, 기술의 본질을 이해하고 살펴보는 시각이 필요합니다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ 네이버 AI 검색 서비스, 어디까지 써봤니▶ [생성 AI 길라잡이] 웹캠 속 내 모습을 캐릭터와 애니메이션으로 기록하는 ‘스크루블리’▶ [SBA x IT동아] 큐빅 “민감정보 노출 위험 없는 고품질 합성 데이터, AI 혁신 앞당길 것”



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
4618 수목 병해충 발생 예측부터 방제약 처방까지 돕는 ‘애프터레인’ IT동아갤로그로 이동합니다. 12.03 21 0
4617 KIAT, 차세대 배터리 산업 지원 위해 팔 걷어 IT동아갤로그로 이동합니다. 12.03 16 0
4616 단말기에서 스팸 문자 AI 필터링 가능해진다 [1] IT동아갤로그로 이동합니다. 12.03 391 1
4615 [부산창경 BEF 2024] 아이쿠카 “자녀와 부모가 함께하는 디지털 생활 플랫폼 꿈꾼다” IT동아갤로그로 이동합니다. 12.03 17 0
4614 ‘ai.kr, it.kr’ 등 신규 도메인, 오늘부터 선점 가능? IT동아갤로그로 이동합니다. 12.03 16 0
4613 [자동차와 法] 편리함 이면에 잠재된 위험과 법적 책임 ‘전동킥보드’ [4] IT동아갤로그로 이동합니다. 12.03 1388 0
4612 [부산창경 BEF 2024] 기술 활용해 일상 속 탄소 저감 돕는 ‘글루리’ IT동아갤로그로 이동합니다. 12.02 45 0
4611 [KIDP 울산] 아워즈팜 “스마트팜에서 재배한 딸기, 포장 디자인 혁신으로 친근하게” IT동아갤로그로 이동합니다. 12.02 41 0
4610 [스타트업-ing] 세종 백경증류소 "와인, 위스키에 필적할 우리 전통주를 만들겠습니다!" IT동아갤로그로 이동합니다. 12.02 494 2
4609 겨울철 온열기기 에너지 사용량 읽는 법 [이럴땐 이렇게!] IT동아갤로그로 이동합니다. 12.02 55 0
4608 [주간투자동향] 에이아이스페라, 120억 원 후속 투자 유치 外 IT동아갤로그로 이동합니다. 12.02 45 0
4607 [투자를IT다] 2024년 11월 4주차 IT기업 주요 소식과 주가 흐름 IT동아갤로그로 이동합니다. 11.30 118 0
4606 디지포레, 충남 중소 제조기업과 손잡고 중소제조업 DX 가속화 IT동아갤로그로 이동합니다. 11.29 123 0
4605 [신차공개] 현대차 ‘아이오닉 9’ 최초 공개·포드 ‘더 뉴 익스플로러’ 출시 IT동아갤로그로 이동합니다. 11.29 125 0
4604 고려대학교 “LLM, RAG 등 유망 AI 기술사업화에 매진” IT동아갤로그로 이동합니다. 11.29 122 0
4603 퓨리오사AI, 日 AI 엑스포서 2세대 반도체 선봬··· '다각적 판로 개척에 집중' IT동아갤로그로 이동합니다. 11.29 108 0
4602 [생성 AI 길라잡이] 텍스트만 넣으면 영상, 음성, 자막까지 완성 ‘브루’ [1] IT동아갤로그로 이동합니다. 11.29 672 0
4601 맞춤형 5G특화망 ‘이음5G’, 어디에 쓰이고 있나 IT동아갤로그로 이동합니다. 11.29 538 0
4600 [리뷰] 누구나 쉽게 고음질 콘텐츠 녹음, DJI 마이크 미니 IT동아갤로그로 이동합니다. 11.29 138 0
4599 [부산창경 BEF 2024] 그리니쉬, "퍼티맥스, 임신 꿈꾸는 모든 이들을 위한 제품" IT동아갤로그로 이동합니다. 11.29 94 0
4598 [스케일업] 보라웨어 [3] 정진우 대표 “검색ㆍ쇼핑 광고 관리 솔루션으로 광고주와 함께 성장할 것” IT동아갤로그로 이동합니다. 11.29 96 0
4597 [AI와 미래] AI 창작 콘텐츠, 법적·윤리적 도전과 해결 과제 IT동아갤로그로 이동합니다. 11.29 93 0
4596 [부산창경 BEF 2024] 히어로웍스 “숙박 시설의 업무 자동화에 기여합니다” IT동아갤로그로 이동합니다. 11.29 275 0
4595 메디플렉서스 “의료데이터 수요·공급 연결, 분석과 활용 활성화” IT동아갤로그로 이동합니다. 11.29 88 0
4594 SBA, 임팩트다이브 2024 개최…“오픈 이노베이션 생태계 발판 마련” IT동아갤로그로 이동합니다. 11.28 195 0
4593 [시승기] 새로운 디자인·세단 같은 승차감 앞세운 ‘BMW 뉴 X3’ IT동아갤로그로 이동합니다. 11.28 109 0
4592 세계 최고 권위 반도체 학회 'ISSCC' 두 달 앞으로··· '韓 반도체 산업 입지는?' IT동아갤로그로 이동합니다. 11.28 190 0
4591 서울과기대 창업연합 협의체, '서울 동북권 넘어 전국 단위 연계 나선다' IT동아갤로그로 이동합니다. 11.28 108 0
4590 [부산창경 BEF 2024] 불편하고 폐쇄적인 국내 주류 유통시장을 디지털 전환한 스타트업 '링크업' IT동아갤로그로 이동합니다. 11.28 107 0
4589 삼성전자, 실속형 스마트폰 '갤럭시 A16 LTE' 29일 출시 IT동아갤로그로 이동합니다. 11.28 161 0
4588 누비랩 x 도토리소풍 넥슨 “AI 푸드 스캐너, 영유아 식습관 건강 도우미” IT동아갤로그로 이동합니다. 11.28 106 0
4587 [ENSL 2024] 영앤 “뇌건강놀이터로 어르신들 건강과 행복 책임지는 기업될 것” IT동아갤로그로 이동합니다. 11.28 104 0
4586 [생활 속 IT] 방장이 관리하는 ‘카카오톡 팀채팅’, 유용하게 쓰기 IT동아갤로그로 이동합니다. 11.27 627 0
4585 [창업도약+경북대] 아쿠아웍스 “차세대 수처리 기술로 환경문제 극복할 것” IT동아갤로그로 이동합니다. 11.27 127 0
4584 LG전자, 자체 개발 車반도체 국제 안전표준 인증 IT동아갤로그로 이동합니다. 11.27 124 0
4583 [주간스타트업동향] '신성바이오팜, 커스토젠' TIPS 선정 外 IT동아갤로그로 이동합니다. 11.27 125 0
4582 도시와 산업, 인공지능에 대한 고찰 ‘2024 울산 디자인혁신 포럼’ IT동아갤로그로 이동합니다. 11.27 127 0
4581 [ENSL 2024] 자동차 검사 및 정비 편의성 강화한 O2O 플랫폼 ‘카약’ IT동아갤로그로 이동합니다. 11.27 121 0
4580 [기고] 초고령사회를 위한 의료데이터 정보화: 소프트인프라 구축과 맞춤형 서비스 제공 IT동아갤로그로 이동합니다. 11.27 113 0
4579 [스케일업] 비투랩 [3] 김병규 병천치과의원장 “레이저 표면처리, 임플란트 기본 높일 것” IT동아갤로그로 이동합니다. 11.27 117 0
4578 [부산창경 BEF 2024] 인더라스 "고속도로 2차 교통사고, 레그널이 예방합니다" IT동아갤로그로 이동합니다. 11.27 4569 0
4577 [부산창경 BEF 2024] 보라공사 "리모델링/인테리어 공사에 대한 불신과 불안을 줄여드립니다" IT동아갤로그로 이동합니다. 11.27 107 0
4576 로웨인 “로봇 수직농장 경제성 입증한 첫 사례 만든다” IT동아갤로그로 이동합니다. 11.27 125 0
4575 [창업도약+경북대] 디엠테크컨설팅 “스마트공장장으로 제조업 디지털 전환과 상생 이룰 것” IT동아갤로그로 이동합니다. 11.27 108 0
4574 [고려대 미래내일] 청년 일경험 우수 팀 “연구 구체화, 실무 경험 값진 시간” IT동아갤로그로 이동합니다. 11.27 129 0
4573 [생활 속 IT] PC 화면 캡처 및 편집은 어떻게? IT동아갤로그로 이동합니다. 11.26 1900 1
4572 SBA, 혁신경영 성과 앞세워 대통령 포장 포함 수상 12개 석권 IT동아갤로그로 이동합니다. 11.26 123 0
4571 [부산창경 BEF 2024] 전력 절감장치에 블록체인 기술 더해 ESG 실천 돕는 ‘딥브레인’ IT동아갤로그로 이동합니다. 11.26 117 0
4570 [ENSL 2024] 헬퍼로보틱스 “F&B 불편 해결할 조리 로봇 선도” IT동아갤로그로 이동합니다. 11.26 127 0
4569 [부산창경 BEF 2024] 마리나체인 “국제 환경 규제 대응 원스톱 솔루션, 마리나넷” [6] IT동아갤로그로 이동합니다. 11.26 4543 0
뉴스 솔루션스, 연말부터 연초까지 공연장에서 만나요 디시트렌드 12.03
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2