디시인사이드 갤러리

야간모드

야간 모드를 이용해 보세요

IT동아 갤러리

갤러리 이슈박스, 최근방문 갤러리

개념글 리스트

1/3
이미지
싱글벙글 피부에 부착해 당뇨 환자 혈당 측정하는 웨어러블 센서 개발 https://m.ytn.co.kr/news_view.php?s_mcd=0105&key=202411220320514490&pos=#return 간편하게 팔에 붙여 포도당 측정...당뇨 관리 쉬워진다!국내 연구진이 땀 속 포도당을 측정할 수 있는 웨어러블 센서를 개발했습니다...m.ytn.co.kr 작성자 : 니지카엘고정닉

갤러리 본문 영역

인공지능 악용 막을 ‘AISIC’ 출범한다

IT동아갤로그로 이동합니다. 2024.02.15 18:24:45
조회 141 추천 0 댓글 0
[IT동아 차주경 기자] 인공지능의 성능이 나날이 좋아진다. 이제 인공지능은 사람만큼, 더러는 사람보다 더 글을 잘 쓰고 그림을 잘 그린다. 수만 쪽의 책을 1초 안에 읽고 요약하고, 수백 가지 외국어를 알아듣고 다른 외국어로 번역한다.

그러자 자연스레 인공지능을 악용하려는 이들이 나타났다. 이들은 정치인이 등장한 동영상을 인공지능으로 교묘하게 조작, 발언을 왜곡해 퍼뜨린다. 가짜 뉴스가 나날이 정교해지는 이유 가운데 하나다. 연예인이나 일반인의 초상권을 침해하고 음란물을 제작해 판매하는 이들도 있다.

미국 인공지능 기업들이 이러한 악용을 막으려 단체를 결성했다. 인공지능 안전 협회 컨소시엄(Artificial Intelligence Safety Institute Consortium,이하 AISIC)이다.

ASIC에는 챗 GPT의 개발사인 오픈 AI와 구글 알파벳, 마이크로소프트와 메타 등 주요 인공지능 소프트웨어 개발 기업이 참여했다. 애플과 인텔, 엔비디아와 아마존 등 정보통신 기업도 힘을 보탠다. JP모건과 뱅크 오브 아메리카 등 금융권도 AISIC에 합류했다. 합류한 기업의 수만 200곳이 넘는다.

AISIC를 만든 주체는 미국 정부다. 조 바이든 미국 대통령은 앞서 2023년 10월, 인공지능 기업들이 기술을 만들고 개발할 때 테스트할 표준을 만들 것을 주문했다. 화학과 핵 물리학, 생물학과 사이버 보안 등 치명적인 부문으로의 악용 가능성을 막을 대책 마련도 요구했다.


미국 정부와 기업이 모여 인공지능의 악용을 막을 컨소시엄을 발족한다. / 출처=엔바토엘리먼츠



이에 메타는 인스타그램과 페이스북에 올라오는 사진 가운데, 생성 인공지능으로 만든 것에 표시를 하는 라벨링 기능을 공개했다. 어도비는 사진 생성 인공지능 ‘파이어플라이’를 가르칠 때 쓸 자료 사진을, 오로지 허가 받은 윤리적 사진만 사용하겠다고 밝혔다.

하지만, 이것만으로는 인공지능의 악용 가능성을 막기 어렵다는 비판이 꾸준히 나왔다. 실제로 생체 인식 기업 iProov는 자체 조사 결과, 생성 인공지능을 사용해 유명인이나 일반인의 얼굴을 교묘하게 바꿔 사기 행각을 벌이는 ‘딥 페이크’ 범죄가 2023년 704% 급증했다고 지적했다. 금융사 임원의 얼굴을 생성 인공지능으로 만들어 화상 회의에 참가, 사기범에게 거액의 인출을 지시한 사례도 공개했다.

AISIC는 이들 폐해를 막을 목적으로 인공지능 기술과 소프트웨어 개발사, 나아가 엔비디아와 퀄컴 등 인공지능 반도체와 엔진 개발사도 포섭했다. 인공지능이 클라우드, PC에 이어 스마트폰에도 속속 도입되고 있어서다. 금융권도 적극 나선다. 앞서 사례로 든 딥 페이크 인출 사기 사건이 사회에 나쁜 영향을 미치지 않도록 막을 목적이다.

이 컨소시엄에는 시스코 시스템즈와 같은 보안 기업, 노스롭 그루먼과 같은 방산 기업, 깃허브 등 오픈 플랫폼 커뮤니티, 화이자와 같은 제약 기업도 참여한다. 인공지능 기기와 기술을 연구하는 미국 내 주요 대학교 20여 곳도 이름을 올렸다. 인공지능이 사회의 모든 부문에 큰 영향을 미칠 것이라는 공감대 아래 기업들이 모인 것.

AISIC는 이후 인공지능 이해 관계자를 위한 데이터 공유 체계를 만들고, 공동 연구 개발을 적극 유도한다. 다양한 참가 기업과 함께 인공지능이 사회에 미칠 영향을 정확하게 예측할 연구 평가 요구 사항도 만든다. 인공지능 기술이나 기기 개발 단계에서 부작용을 줄이고 성능을 강화할 테스트 평가 프로그램도 궁리한다.

AISIC 참가 기업들은 인공지능 벤치마크와 테스트 환경 지침, 개인이나 금융 정보 등 예민한 정보를 다룰 기술을 만든다. 디지털 콘텐츠 인증 지침과 도구도 개발하고, 가장 중요한 인공지능의 윤리 문제를 다룰 지침을 세운다. AISIC는 앞으로도 참가 기업을 늘려 연구에 박차를 가할 계획을 밝혔다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ 꿀꺽 삼키면 건강 상태 진단하는 마이크로 로봇 ‘가시권’▶ 다쏘시스템 “제품 설계 혁신…’AI·버추얼 트윈'으로 달성”▶ 스마트폰 업계, 2023 부진 인공지능으로 씻는다



추천 비추천

0

고정닉 0

0

원본 첨부파일 1

댓글 영역

전체 댓글 0개
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는? 운영자 24/11/18 - -
3463 "DCF의 디디픽 서비스, 동대문 의류 유통에 꼭 필요했던 혁신입니다" IT동아갤로그로 이동합니다. 02.16 135 0
3462 와이어드컴퍼니 황봄님 대표 "워케이션, 조직 문화를 만드는 기술" IT동아갤로그로 이동합니다. 02.16 182 0
3461 [스타트업-ing] 디케터즈 “친환경 박스, 농가도 선호합니다” IT동아갤로그로 이동합니다. 02.16 116 0
3460 LG전자, 개인화 서비스 제공하는 냉장고·김치냉장고 ‘UP가전 2.0’ 신제품 출시 IT동아갤로그로 이동합니다. 02.15 502 1
인공지능 악용 막을 ‘AISIC’ 출범한다 IT동아갤로그로 이동합니다. 02.15 141 0
3458 [KTVF] 소셜인베스팅랩 "주식 서비스의 끝은 소셜 인베스팅" IT동아갤로그로 이동합니다. 02.15 124 0
3457 [KTVF] 원앤원 “캐주얼 모바일 게임, 이제는 자신감이 생겼습니다” IT동아갤로그로 이동합니다. 02.15 175 1
3456 인도 스타트업 ‘콰고스’…‘모드심’ 기술로 화물 전용 이륜차 플랫폼 개발 [5] IT동아갤로그로 이동합니다. 02.15 690 0
3455 꿀꺽 삼키면 건강 상태 진단하는 마이크로 로봇 ‘가시권’ [6] IT동아갤로그로 이동합니다. 02.14 1450 8
3454 [스타트업 법률실무 마스터링] 스타트업 법률실무 (3) 임직원 퇴사시 분쟁방지 (경업금지, 영업비밀보호) IT동아갤로그로 이동합니다. 02.14 119 0
3453 [뉴스줌인] AI∙콘텐츠 작업용 노트북, ‘MSI 프레스티지 16 AI Studio’ 이모저모 IT동아갤로그로 이동합니다. 02.14 429 0
3452 [EV 시대] 전기차 시대 디자인 변화상 살펴보니 IT동아갤로그로 이동합니다. 02.13 120 0
3451 다쏘시스템 “제품 설계 혁신…’AI·버추얼 트윈'으로 달성” IT동아갤로그로 이동합니다. 02.13 124 0
3450 빗썸, 이더리움 멀티체인 지원 등 ‘입출금 서비스 개선’ IT동아갤로그로 이동합니다. 02.13 1024 0
3449 [주간투자동향] 클라우드호스피탈, 20억 원 규모 프리 시리즈A 투자 유치 IT동아갤로그로 이동합니다. 02.13 151 0
3448 [스타트업-ing] 레디큐어 “디지털 엑스선, 치매 환자·가족에게 희망을” IT동아갤로그로 이동합니다. 02.13 92 0
3447 스마트폰 보호필름 선택은 이렇게![이럴땐 이렇게!] [2] IT동아갤로그로 이동합니다. 02.12 417 0
3446 우주의 신비 푸는 디지털 카메라들 IT동아갤로그로 이동합니다. 02.12 573 0
3445 늘어나는 '와이파이 7' 지원··· 2024년 와이파이 전환 원년 될까? [17] IT동아갤로그로 이동합니다. 02.12 7025 6
3444 주목할 만한 올해 출시 예정 전기차 살펴보니 IT동아갤로그로 이동합니다. 02.08 127 0
3443 스마트폰 업계, 2023 부진 인공지능으로 씻는다 IT동아갤로그로 이동합니다. 02.08 201 0
3442 플로우 “생기부 작성, 입시지도 업무에도 AI 활용하는 시대 온다” IT동아갤로그로 이동합니다. 02.08 155 0
3441 ‘14인용 LG 디오스 오브제컬렉션 식기세척기’ 출시, 대용량 제품군 강화 IT동아갤로그로 이동합니다. 02.08 155 0
3440 거래소 점유율 좌우하는 ‘거래 수수료’ IT동아갤로그로 이동합니다. 02.08 944 0
3439 ‘AI 기반 학업성취도 평가·분석’…기술 고도화 나선 교육업계 IT동아갤로그로 이동합니다. 02.07 123 0
3438 가상자산 신고센터 사례로 보는 이용자 유의사항 5가지 IT동아갤로그로 이동합니다. 02.07 349 0
3437 [리뷰] 프레임 확장으로 활용도·가성비↑ AMD 라데온 RX 7600 XT [4] IT동아갤로그로 이동합니다. 02.07 1061 0
3436 존 모리스 씨게이트 CTO “30TB 장벽 넘은 드라이브, 데이터센터 혁신 이끌 것 IT동아갤로그로 이동합니다. 02.06 170 0
3435 [자동차와 法] 도로상 장애물로 인한 교통사고의 법률적 문제와 해결방안 IT동아갤로그로 이동합니다. 02.06 333 1
3434 설 연휴 맞이 무상점검 실시하는 車 제조사 IT동아갤로그로 이동합니다. 02.06 123 0
3433 PC 부팅 실패나 오류를 고치려면 이렇게![이럴땐 이렇게!] IT동아갤로그로 이동합니다. 02.06 848 2
3432 [뉴스줌인] 실속형 무선청소기 LG 코드제로 ‘A9 에어’, 고급형 모델 대비 차이점은? [3] IT동아갤로그로 이동합니다. 02.05 1246 1
3431 [리뷰] 가성비 맞춘 전동형 책상, 핏쳐 L1 모션 데스크 IT동아갤로그로 이동합니다. 02.05 138 0
3430 [스타트업 법률실무 마스터링] 스타트업 법률실무 (2) 스톡옵션 부여 및 행사 관련 분쟁 방지 IT동아갤로그로 이동합니다. 02.05 118 0
3429 라온로드 “클라우드 기반 교통체계 시장은 블루오션, 우리가 개척 중” IT동아갤로그로 이동합니다. 02.05 111 0
3428 빗썸, ‘창업 경진대회’ 유망기업 10개 선정···1위 반프 수상 IT동아갤로그로 이동합니다. 02.05 119 0
3427 반세기 이상 이어진 역사…BMW 5시리즈 발자취 살펴보니 [5] IT동아갤로그로 이동합니다. 02.05 876 3
3426 [시승기] 8세대에 걸친 진화…수입차 1위 탈환의 주역 ‘BMW 뉴 5시리즈’ IT동아갤로그로 이동합니다. 02.02 151 0
3425 [리뷰] 넓은 공간감과 보강된 저음, 젠하이저 레퍼런스 헤드폰 ‘HD490 프로’ IT동아갤로그로 이동합니다. 02.02 135 0
3424 대기업과의 협업 기회 제공 ‘창업도약패키지(대기업 협업형)’ 참여 기업 모집 IT동아갤로그로 이동합니다. 02.02 189 0
3423 애플, 올 연말에 '생성형 AI' 윤곽 제시한다 [4] IT동아갤로그로 이동합니다. 02.02 1147 0
3422 "부산 워케이션 센터, 모두에게 열린 최적의 업무 공간" IT동아갤로그로 이동합니다. 02.02 123 0
3421 "BGF리테일의 신속성과 업무 효율, 협업 툴 플로우에서 비롯됐죠" [3] IT동아갤로그로 이동합니다. 02.02 436 1
3420 30kg 무게 들어 올리는 '고하중 협동로봇' 선보인 ‘유니버설 로봇’ IT동아갤로그로 이동합니다. 02.01 138 0
3419 '2024년의 키워드는 AI'··· 주목할 만한 각국의 AI 하드웨어 기업은? [4] IT동아갤로그로 이동합니다. 02.01 1008 2
3418 백승학 치과교정학회장 “치아교정, 충분한 경험과 지식 갖춘 의사가 중요” IT동아갤로그로 이동합니다. 02.01 107 0
3417 [리뷰] 휴대성-성능 모두 챙긴 비즈니스 노트북, 에이수스 엑스퍼트북 B9 IT동아갤로그로 이동합니다. 01.31 129 0
3416 [IT애정남] 한쪽 이어폰을 교체한 경우, 양쪽 이어폰을 연결하려면? [3] IT동아갤로그로 이동합니다. 01.31 658 0
3415 [IT애정남] 휴면회원이 활성 회원으로··· 왜 자꾸 안내가 올까요? [4] IT동아갤로그로 이동합니다. 01.31 1971 9
3414 푸조 “올해 ‘E-408·E-5008 전기차 투입’과 ‘챗GPT 적용’으로 승부수” [2] IT동아갤로그로 이동합니다. 01.31 763 1
뉴스 임창정, 3년 만의 정규앨범으로 컴백...12월 1일 '일어날 일들은 일어나는 거고' 발매 디시트렌드 18:00
처음이전161718192021222324252627282930다음끝
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8
이태리 꽃게 하도 언론에서 난리치더구만 결국 호들갑이였군
24시간 누워있는 남편

뉴스

디시미디어

디시이슈

1/2
“모유도 동생 것 뺏어 먹어”…곽튜브, 히밥 먹성에 ‘충격’ (‘전현무계획2’)
'지금 거신 전화는' 함묵증 앓던 채수빈, 유연석과 이혼 위해 협박범 됐다

개념글[국내야구]

1/18