폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 12:40:01

조회 16844 추천 40 댓글 217

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

출처: 국내야구 갤러리 [원본 보기]

고정닉 10

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	이혼하고 나서 더 잘 사는 것 같은 스타는?	운영자	24/07/08	-	-
246888	[유갤] 샤모니 몽블랑 근처에서 3박4일 캠핑 [89]	mCC	07.12	5467	41
246887	[싱갤] 박수홍 친형 앞에 두고 한 말 [324]	jw0412	07.12	40143	319
246885	[기갤] 블라) 속초 바다에 이런 거 있던데.. [641]	긷갤러(169.150)	07.12	40150	271
246884	[싱갤] 싱글벙글 스마트폰 카메라 순위.official [203]	지구촌	07.12	25643	77
246883	[주갤] 현대중공업 노조 "페미는 정신적 문둥병" [824]	퍼플헤이즈	07.12	35970	1467
246881	[야갤] 현재 논란중인 미국의 사형집행...jpg [538]	재수하고조유리보러감	07.12	42004	289
246880	[싱갤] 싱글벙글 한국 최종 요약.jpg [934]	ㅇㅇ(211.198)	07.12	49842	834
246879	[러갤] 엔화..1~2달내 지옥문 열린다 [640]	배터리형	07.12	37164	144
246877	[오갤] 산지직송 어류 3종 후기(씹스압) - 1 [34]	금태충	07.12	9758	46
246875	[대갤] 日, 주택에 방화해 살인하며 계속 구경한 사이코패스 스시남 [412]	난징대파티	07.12	18241	312
246873	[기갤] 아이돌에게 연애 얘기 물어봤다가 자발적 연애 금지 계약설 나온 기안84 [80]	긷갤러(211.234)	07.12	23429	74
246872	[갤갤] 스압) 갤럭시 7월 언팩 공개 기기들 개인적인 소감 [191]	SundayMove	07.12	21547	188
246871	[싱갤] 싱글벙글 김세정이 골목식당 하차했던 이유..jpg [303]	아린퍄퍄	07.12	38920	492
246869	[야갤] 다 버리더니 10분만에 '품절' "진짜?" 뒤집힌 중국인들.jpg [291]	ㅇㅇ	07.12	32014	285
246868	[카연] 모험가 용역 장씨 - 10 [61]	엠몽	07.12	8347	54
246867	[야갤] 쯔양 변호인...강간 장면도 있다 ㄹㅇ...jpg [1116]	Adidas	07.12	81609	618
246865	[부갤] 서울 아파트 한 채 값이라는 수영장 딸린 3층 저택 [388]	부갤러(69.174)	07.12	27413	50
246864	[마갤] 초보 마붕이들을 위한 "고장 안나는 마우스 " [171]	데비룽	07.12	17565	98
246863	[주갤] 한베커플 만남에서 결혼까지 알아보자2.jpg [636]	태아령	07.12	24760	416
246860	[두갤] 김택연 밸런스게임 [80]	ㅇㅇ(106.102)	07.12	16239	339
246857	[유갤] 반박불가 요즘 한국인 근황 [799]	ㅇㅇ(23.105)	07.12	55137	147
246856	[싱갤] 가챠가챠 엔씨 유저가 블루 아카이브 증오하는 이유 [316]	이인	07.12	33822	389
246855	[해갤] 신문선 "홍명보 국대 선임은 무효다" [146]	해갤러(211.234)	07.12	15506	33
246854	[싱갤] 싱글벙글 페미 논란 또 터진 이터널리턴...gif [503]	금발양아치누나	07.12	22574	546
246853	[야갤] 인천시설공단 직원들 이사장 펜션 보수 동원 논란...GISA [195]	야떡이	07.12	19388	238
246852	[싱갤] 와들와들 개박살난 미국증시 근황 [207]	현직보혐설계사	07.12	33205	181
246851	[카연] 걸즈 밴드 크라이를 봤다.manhwa [99]	거북신사	07.12	10159	48
246849	[기갤] 단독]"VIP 표현 부풀린 것."임성근 구명설 '멋쟁해병' 5인의 입 [148]	ㅇㅇ(223.38)	07.12	10539	31
246848	[주갤] 돈 뜯어 가는 처가때문에 고민인 남편.jpg [503]	태아령	07.12	29659	439
246845	[대갤] 日, 심각한 항공유 부족 사태... 한국에서 긴급 수입 추진 중 [659]	난징대파티	07.12	22500	496
246844	[야갤] 오늘자) '3대 얼짱' 서울과기대 과탑 top3 얼짱 .jpg [575]	ㅇㅇ	07.12	36644	49
246843	[싱갤] 천조국 가짜 마트 괴담 [132]	아싸아랑	07.12	26903	69
246841	[디갤] 지랄삼과 함께한 또본 여행사진 올려도 될가요 [21]	482	07.12	4405	16
246840	[이갤] 여행유튜버에게 본인 유튜브 자랑하는 베트남 식당 아재..jpg [133]	그로브	07.12	22708	186
246839	[싱갤] 싱글벙글 만화촌.manhwa [168]	타원형플라톤	07.12	27489	188
246837	[L갤] 이대녀 시점에서 보는 두산과 엘지.jpg [286]	ㅇㅇ(117.111)	07.12	21779	289
246836	[부갤] 세계 각국에서 결혼비율이 떨어지고 있다 [755]	부갤러(86.106)	07.12	25412	178
246835	[가갤] 놀라운 감옥에서의 라면.jpg [194]	74	07.12	35196	127
246833	[블갤] 캣맘 카요코의 권총, 데몬스 로어를 만들어보자 [57]	DBshotgun	07.12	11069	97
246831	[자갤] SUV '역주행'에 고교생 배달기사 참변…"119 신고도 늦어" [279]	차갤러(104.129)	07.12	17801	74
246829	[싱갤] 안싱글벙글.. 화성화재 유가족땜에 살려달라는 공무원..jpg [368]	아린퍄퍄	07.12	18879	187
246828	[치갤] 이래서 수수료 올렸나…배민, 한국서 벌어 독일 4000억 퍼줬다 [557]	치갤러(104.223)	07.12	23728	154
246827	[남갤] 낙태 브이로그 조작 의심되는 이유 [517]	ㅇㅇ(211.234)	07.12	39576	916
246825	[디갤] 정물사진을 들고 왔습니다 [47]	아나나스88	07.12	4880	33
246824	[싱갤] 싱글벙글 악플 무릅쓰고 쯔양 도와준 참피디 [549]	Unjisang	07.12	48508	260
246823	[전갤] 차 두대 나가고 '상황 급변',"살려주세요" 퍼진 음성이..jpg [287]	몽쉘통통	07.12	18213	54
246821	[싱갤] 싱글벙글 100m 태극기, 한발 뺀 오세훈 [556]	Unjisang	07.12	20028	148
246820	[카연] 고백으로 아브렐슈드 혼내주기 . manhwa [89]	WOLFY	07.12	11721	139
246819	[야갤] 21억 들인 파크골프장, 개장 열흘만에 사라진 이유.jpg [226]	감돌	07.12	21997	161
246816	[이갤] 대만인의 삼겹살 예찬.jpg [512]	감돌	07.12	28879	243