폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 05:54:17

조회 154 추천 3 댓글 0

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

고정닉 1

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	흡연때문에 이미지 타격 입은 것 같은 스타는?	운영자	24/07/15	-	-
공지	2024 KBO 정규시즌 경기 일정 [66]	*딛디티*	24.01.03	82273	65
공지	국내야구 갤러리 이용 안내 [523/1]	운영자	22.06.03	699466	243
13671700	"한두번이 아니야!	은채리나	22:45	2	0
13671699	한동훈이 그거 모르고 가만있겠니 ???	ㅇㅇ(118.235)	22:45	4	0
13671698	K리그 여성심판 울린 수원삼성 이기제 벌금 징계	옌우응	22:45	9	0
13671697	■■■ 카라큘라 구제역 전국진 끝났음 ■■■	ㅇㅇ(211.234)	22:45	4	0
13671696	어허 안대애~~ 띠로리~~ 어허~~ 장례식갔습니다	ㅇㅇ(58.142)	22:45	4	0
13671695	삼성 파업은 결과적으로 삼성회사를 이롭게 만들거다.	ㅇㅇ(112.164)	22:45	5	0
13671694	뭐??????	ㅇㅇ(118.235)	22:45	2	0
13671693	야러스 흔들어라 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ	22:45	5	0
13671692	야 ㅋㅋㅋㅋ 빨갱이 짓거리에 북한 정보 요원 접촉 해킹이아 해대고 ㅋㅋㅋ	ㅇㅇ(118.235)	22:45	4	0
13671691	오로지 에이스누나뿐이라오ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	Kojimako	22:45	10	0
13671690	에이스누나 하아응	ㅇㅇ(124.111)	22:45	4	0
13671689	야들아 원래 가요무대 이래재밋는거임?	야갤러(223.39)	22:45	9	0
13671688	야러스누나들 어흐 좋노 ㅋㅋㅋㅋ	하아아앙	22:44	5	0
13671687	2번누나(싼티누나)는 바지 입어도 하체갑이네.......	ㅁㅁ	22:44	14	0
13671686	ㅇ이상한말~~	ㅇㅇ(49.169)	22:44	3	0
13671685	사람보는눈은 똑같네 ㅋㅋㅋㅋ	ㅇㅇ	22:44	8	0
13671684	.0..ㅂ	야갤러(223.38)	22:44	6	0
13671683	섹섹섹섹섹 미친놈아!!	ㅇㅇ(211.234)	22:44	5	0
13671682	아티스트다 이거노ㅋㅋㅋㅋ	ㅇㅇ(211.235)	22:44	7	0
13671681	야!!! 견찰서 가고시퍼?	은채리나	22:44	6	0
13671680	애이스누나 커엽농ㅋㅋㅋㅋ	ㅇㅇ(211.241)	22:44	5	0
13671679	야러스누나 춤 커엽노 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ	22:44	5	0
13671677	견찰서 가고 싶어!! 어!!	ㅇㅇ(211.234)	22:44	7	0
13671676	내게도 사랑이	ㅇㅇ(110.35)	22:44	6	0
13671675	ㅂㅅㅂㅅㅂㅅ 나쁜생각 야러스누나들 하앙 ㅋㅋ	찬용(218.155)	22:44	7	0
13671674	유튜브 노래교실 1타강사갑 ㅋㅋㅋ	ㅇㅇ(58.142)	22:44	6	0
13671673	신입누나 에이스누나 ㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ	22:44	8	0
13671672	시발 이번달 제일 웃었네 브베 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ	22:44	9	0
13671670	에이스누나 살랑살랑 율동 졸커 ㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(125.137)	22:44	5	0
13671669	개콘보단 재밌노 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [1]	ㅇㅇ(122.35)	22:44	9	0
13671668	에이스누나 율동 졸커ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	Kojimako	22:44	5	0
13671667	야래자랑 가끔 심사보는 새기 ㅋㅋㅋㅋㅋㅋㅋㅋㅋ	은채리나	22:43	7	0
13671666	브베 ㅋㅋ	야갤러(223.39)	22:43	4	0
13671665	야러스 율동 ㅋㅋㅋㅋㅋ	하아아앙	22:43	6	0
13671664	함중아:(리코컨을 부수며)	ㅇㅇ(211.235)	22:43	8	1
13671663	브베 ㅋㅋ 그라샤 ㅋㅋ	ㅇㅇ(175.119)	22:43	5	0
13671662	기아의 안치홍 오오오오오오오 기아의 안치홍 당신뿐이라오	ㅇㅇ(121.175)	22:43	4	0
13671661	브베 ㅇㅈㄹㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(211.241)	22:43	2	0
13671660	브베 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(125.137)	22:43	4	0
13671659	띵곡 다 망치노	야갤러(122.43)	22:43	4	0
13671658	르르땅 야구 얘기 진짜 언제까지 하는거냐	주르르좋아	22:43	8	0
13671657	브베ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	Kojimako	22:43	4	0
13671656	브베인줄 ㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ	22:43	2	0
13671655	홍서범인줄ㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(121.145)	22:43	5	0
13671654	브베 ㅌㅋㅋㅋ	ㅇㅇ(115.138)	22:43	4	0
13671653	슈퍼마리오 ㅋㅋㅋㅋ	ㅇㅇ(175.119)	22:43	2	0
13671652	브베?	야갤러(223.39)	22:43	4	0
13671651	에이스누나 하아아앜ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ	ㅇㅇ(125.137)	22:43	3	0