인공지능 악용 막을 ‘AISIC’ 출범한다

IT동아

2024.02.15 18:24:45

조회 140 추천 0 댓글 0

[IT동아 차주경 기자] 인공지능의 성능이 나날이 좋아진다. 이제 인공지능은 사람만큼, 더러는 사람보다 더 글을 잘 쓰고 그림을 잘 그린다. 수만 쪽의 책을 1초 안에 읽고 요약하고, 수백 가지 외국어를 알아듣고 다른 외국어로 번역한다.

그러자 자연스레 인공지능을 악용하려는 이들이 나타났다. 이들은 정치인이 등장한 동영상을 인공지능으로 교묘하게 조작, 발언을 왜곡해 퍼뜨린다. 가짜 뉴스가 나날이 정교해지는 이유 가운데 하나다. 연예인이나 일반인의 초상권을 침해하고 음란물을 제작해 판매하는 이들도 있다.

미국 인공지능 기업들이 이러한 악용을 막으려 단체를 결성했다. 인공지능 안전 협회 컨소시엄(Artificial Intelligence Safety Institute Consortium,이하 AISIC)이다.

ASIC에는 챗 GPT의 개발사인 오픈 AI와 구글 알파벳, 마이크로소프트와 메타 등 주요 인공지능 소프트웨어 개발 기업이 참여했다. 애플과 인텔, 엔비디아와 아마존 등 정보통신 기업도 힘을 보탠다. JP모건과 뱅크 오브 아메리카 등 금융권도 AISIC에 합류했다. 합류한 기업의 수만 200곳이 넘는다.

AISIC를 만든 주체는 미국 정부다. 조 바이든 미국 대통령은 앞서 2023년 10월, 인공지능 기업들이 기술을 만들고 개발할 때 테스트할 표준을 만들 것을 주문했다. 화학과 핵 물리학, 생물학과 사이버 보안 등 치명적인 부문으로의 악용 가능성을 막을 대책 마련도 요구했다.

미국 정부와 기업이 모여 인공지능의 악용을 막을 컨소시엄을 발족한다. / 출처=엔바토엘리먼츠

이에 메타는 인스타그램과 페이스북에 올라오는 사진 가운데, 생성 인공지능으로 만든 것에 표시를 하는 라벨링 기능을 공개했다. 어도비는 사진 생성 인공지능 ‘파이어플라이’를 가르칠 때 쓸 자료 사진을, 오로지 허가 받은 윤리적 사진만 사용하겠다고 밝혔다.

하지만, 이것만으로는 인공지능의 악용 가능성을 막기 어렵다는 비판이 꾸준히 나왔다. 실제로 생체 인식 기업 iProov는 자체 조사 결과, 생성 인공지능을 사용해 유명인이나 일반인의 얼굴을 교묘하게 바꿔 사기 행각을 벌이는 ‘딥 페이크’ 범죄가 2023년 704% 급증했다고 지적했다. 금융사 임원의 얼굴을 생성 인공지능으로 만들어 화상 회의에 참가, 사기범에게 거액의 인출을 지시한 사례도 공개했다.

AISIC는 이들 폐해를 막을 목적으로 인공지능 기술과 소프트웨어 개발사, 나아가 엔비디아와 퀄컴 등 인공지능 반도체와 엔진 개발사도 포섭했다. 인공지능이 클라우드, PC에 이어 스마트폰에도 속속 도입되고 있어서다. 금융권도 적극 나선다. 앞서 사례로 든 딥 페이크 인출 사기 사건이 사회에 나쁜 영향을 미치지 않도록 막을 목적이다.

이 컨소시엄에는 시스코 시스템즈와 같은 보안 기업, 노스롭 그루먼과 같은 방산 기업, 깃허브 등 오픈 플랫폼 커뮤니티, 화이자와 같은 제약 기업도 참여한다. 인공지능 기기와 기술을 연구하는 미국 내 주요 대학교 20여 곳도 이름을 올렸다. 인공지능이 사회의 모든 부문에 큰 영향을 미칠 것이라는 공감대 아래 기업들이 모인 것.

AISIC는 이후 인공지능 이해 관계자를 위한 데이터 공유 체계를 만들고, 공동 연구 개발을 적극 유도한다. 다양한 참가 기업과 함께 인공지능이 사회에 미칠 영향을 정확하게 예측할 연구 평가 요구 사항도 만든다. 인공지능 기술이나 기기 개발 단계에서 부작용을 줄이고 성능을 강화할 테스트 평가 프로그램도 궁리한다.

AISIC 참가 기업들은 인공지능 벤치마크와 테스트 환경 지침, 개인이나 금융 정보 등 예민한 정보를 다룰 기술을 만든다. 디지털 콘텐츠 인증 지침과 도구도 개발하고, 가장 중요한 인공지능의 윤리 문제를 다룰 지침을 세운다. AISIC는 앞으로도 참가 기업을 늘려 연구에 박차를 가할 계획을 밝혔다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 꿀꺽 삼키면 건강 상태 진단하는 마이크로 로봇 ‘가시권’▶ 다쏘시스템 “제품 설계 혁신…’AI·버추얼 트윈'으로 달성”▶ 스마트폰 업계, 2023 부진 인공지능으로 씻는다

고정닉 0

원본 첨부파일 1

6e6b4bd740e24043-thumbnail-1920x1080-70.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
4556	전문가가 제시하는 스타트업 ESG 경영 전략…’2024 서울 스타트업 ESG 포럼’	IT동아	11.21	25	0
4555	수원대학교 'WoW 스타트업 브랜치 오픈이노베이션' 개최	IT동아	11.21	27	0
4554	[스타트업리뷰] 로닉 “인공지능 맞춤형 음식 도우미, AI 로봇셰프 큐브”	IT동아	11.21	2499	0
4553	[IT기획자의 탄생] 3. IT기획자에게 필요한 상상력과 글로벌 전략	IT동아	11.21	41	0
4552	[IT’s 가성비] 삼성 크리스탈 UHD TV, 2024년형/85인치 모델에 눈길?	IT동아	11.21	1795	0
4551	[스케일업] 클리카 [3] 피터 노빅과의 대담으로 살펴본 'AI 스타트업'의 방향성	IT동아	11.21	39	0
4550	[생활 속 IT] LG 가전 활용도 넓히는 'LG ThinQ' 연결 및 사용법	IT동아	11.21	33	0
4549	[생활 속 IT] 소프트웨어 활용 습관 바꿔줄 윈도 11 ‘가상 데스크톱’ [1]	IT동아	11.20	90	0
4548	[부산창경 BEF 2024] 기술로 문제 풀이와 오답 노트 작성 효율 높인 ‘프라이머스’	IT동아	11.20	54	0
4547	IBM-연세대, 슈퍼컴 능가하는 127 큐비트 양자컴퓨터 국내 첫 도입 [3]	IT동아	11.20	4773	4
4546	[주간스타트업동향] 휴머닉스, 위플로 CES 2025 혁신상 수상 外	IT동아	11.20	108	0
4545	[부산창경 BEF 2024] 만만한녀석들 “모듈형 집기로 친환경 MICE 산업 선도한다”	IT동아	11.20	52	0
4544	[부산창경 BEF 2024] 나누기월드 “외국인 유학생, 장애인 문제 해결에 기여” [4]	IT동아	11.20	262	0
4543	선박 제조업의 디지털 전환 이끄는 ‘버추얼 트윈’ 기술	IT동아	11.19	81	0
4542	에릭슨엘지 “네트워크도 API로 제공…개발자 참여 독려해야”	IT동아	11.19	81	0
4541	[IT애정남] 노트북 SSD의 OEM 파티션, 삭제해도 되나요?	IT동아	11.19	85	0
4540	[부산창경 BEF 2024] 그린에너지(주) “산업 현장 악취·유해물질 플라즈마로 해결”	IT동아	11.19	85	0
4539	[자동차와 法] 행락철 교통사고 책임과 법적 대처 방안	IT동아	11.19	674	0
4538	아이작 컨셉츠 김태영 대표, "반도체·열유체 공학의 산학협력 교두보 만들겠다"	IT동아	11.19	82	0
4537	[시승기] 돋보이는 디자인과 안전 사양 ‘KGM 액티언’ [1]	IT동아	11.18	364	0
4536	+불필요한 PC 앱, 지우려면 이렇게! [이럴땐 이렇게!] [1]	IT동아	11.18	5101	5
4535	[스케일업] 반프 [3] 정예솔 전략총괄 “반프의 가치, 글로벌 시장에서도 매력적”	IT동아	11.18	113	0
4534	[주간투자동향] 숨빗AI, 50억 원 규모 시드 투자 유치 外	IT동아	11.18	104	0
4533	[투자를IT다] 2024년 11월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	11.16	205	0
4532	[스케일업] 보라웨어 [2] 전영복ㆍ이효주 “구성원 복지ㆍ기업 성장이 공존하는 곳”	IT동아	11.15	199	0
4531	[생성 AI 길라잡이] 8종의 AI 모델 골라 쓰는 ‘SKT 에이닷’ 웹 버전	IT동아	11.15	187	0
4530	디지포레, “제조산업의 디지털 전환, ‘팩토리얼 프로’로 앞당길 것"	IT동아	11.15	180	0
4529	[리뷰] 모니터링 헤드폰의 새로운 기준점 제시, 소니 MDR-M1 [5]	IT동아	11.15	6207	1
4528	[2024 고려대] 스페이스점프 “자영업·소상공인 기자재의 모든 것, 소상공간”	IT동아	11.15	171	0
4527	퀄컴, 온디바이스 AI·차량 전동화에 초점 맞춘 최신 솔루션 선보여	IT동아	11.15	192	0
4526	[창업도약+경북대] 비빔블 “비커스ㆍ버튜디오로 상상 이상의 가상경험 제공할 것”	IT동아	11.15	149	0
4525	[AI와 미래] 기존 저작물은 AI 학습에 어디까지 활용할 수 있을까?	IT동아	11.15	1369	0
4524	[월간자동차] 24년 10월, 신차 등록 두 달 연속 증가…싼타페 판매 1위	IT동아	11.15	143	0
4523	[리뷰] 10G 업링크 지원 네트워크 스위치, 넷기어 GS108MX	IT동아	11.14	173	0
4522	데이터 주권 강조하는 소버린 AI, 진정한 의미는? [1]	IT동아	11.14	710	0
4521	[스케일업] 스쿨버스 [3] 통학버스 전문 플랫폼 개발자 인터뷰	IT동아	11.14	172	0
4520	[UDC 2024] 다양한 산업을 변화시키는 블록체인의 힘	IT동아	11.14	165	0
4519	로봇과 문화예술의 만남, 브이디컴퍼니x장 줄리앙의 종이세상	IT동아	11.14	322	0
4518	[IT애정남] 갤럭시워치를 아이폰과 연결해서 쓸 수 있나요?	IT동아	11.13	4657	0
4517	[신차공개] BMW ‘뉴 4시리즈 그란 쿠페’·로터스 ‘에메야’ 공식 출시 [3]	IT동아	11.13	4765	1
4516	[스타트업-ing] 오아시스 스튜디오 “OVP·오닉스·디보틀로 콘텐츠 에코시스템 구축”	IT동아	11.13	176	0
4515	[생활 속 IT] 취업 서류, 정부24에서 내려받는 법	IT동아	11.12	211	0
4514	기한 지나면 과태료…운전면허 적성검사 및 갱신 방법 살펴보니	IT동아	11.12	2390	3
4513	[창업도약+경북대] 준컴퍼니 “자동차 구매부터 판매까지 아우르는 모빌리티 통합 플랫폼 꿈꾼다”	IT동아	11.12	202	0
4512	[스케일업] 모넷코리아 [2] HDC랩스와 협업 통해 AIoT 기반 부동산 관리 플랫폼 고도화	IT동아	11.12	234	0
4511	[2024 고려대] R2C컴퍼니 “데이터 수요·공급자 만족 이끄는 플랫폼”	IT동아	11.12	652	0
4510	갤럭시 스마트폰의 위젯 기능, 제대로 쓰려면?	IT동아	11.12	259	1
4509	[AWS 인더스트리 위크 2024] 국내 금융/핀테크 기업에 AWS 솔루션은 이렇게 적용됐다 [1]	IT동아	11.11	2047	1
4508	'제조 스타트업 대상으로 소싱디렉팅·제품 제작까지'··· 서울과기대의 실질적 지원 들여다보니	IT동아	11.11	221	0
4507	[AWS 인더스트리 위크 2024] AWS가 실현하고 있는 인공지능 기술의 현재	IT동아	11.11	280	0
뉴스	다비치, 새 미니앨범 'Stitch' 발매…한층 깊어진 감성+하모니 기대	디시트렌드	11.21