폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 05:54:17

조회 91 추천 3 댓글 0

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

고정닉 1

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	이혼하고 나서 더 잘 사는 것 같은 스타는?	운영자	24/07/08	-	-
13577853	..ㄱ..	야갤러(223.38)	01:18	18	0
13577852	야갤 3년뒤에 망함 [3]	ㅇㅇ(121.137)	01:18	102	0
13577851	오늘 아침 종로구 피리부는 사나이.	야갤러(115.92)	01:18	73	1
13577850	이 영상은 클릭하기 전에 긴장해라	ㅇㅇ	01:18	14	0
13577849	메좆 새끼 군산대에 제보해야겟네	ㅇㅇ(223.39)	01:18	68	0
13577848	며칠전에 여자 소개해준다는거 받을걸 ㅅㅂ [2]	ㅇㅇ(121.137)	01:18	42	0
13577847	이 영상은 클릭하기 전에 긴장해라	ㅇㅇ	01:17	22	0
13577845	티원<<굳이 응원해야되냐?	혜지의미개	01:17	58	0
13577844	개시발년아 이개상노무년아	ㅇㅇ(183.91)	01:17	101	0
13577843	잠깐만 공개한다 10초만준다 곧 삭제함	ㅇㅇ	01:17	28	0
13577842	인생도박 포인트 얻는법 우뚷게해	야갤러(117.110)	01:17	20	0
13577841	오늘부터 새로 태어나겠습니다... [5]	WEST	01:17	88	1
13577840	ㄸ ㅏ 먹어도 합법이냐? [1]	야갤러(115.92)	01:17	204	3
13577839	여사친 팬티라인	ㅇㅇ(112.161)	01:17	179	1
13577838	날이 아무리 더워도 이런 옷 차림은 심한거 같은데...	ㅇㅇ(223.38)	01:17	126	4
13577837	잠깐만 공개한다 10초만준다 곧 삭제함	ㅇㅇ	01:17	33	0
13577836	2시인줄 알았는데 1시네 [3]	나봉	01:17	74	0
13577835	이 링크는 잠깐만 공개하겠다<<<<<	야갤러(180.182)	01:17	22	1
13577834	지구과학 해설 봐도 이해 안 되는 문제는 첨이네 ㅋㅋㅋㅋㅋㅋㅋㅋㅋ	김도연24	01:17	71	0
13577833	하나 둘 셋 티원! 화이팅!!!	스쿠마	01:16	77	0
13577832	꼴리면 개추…..jpg	ㅇㅇ(211.234)	01:16	190	5
13577831	(유튜브) 이 링크는 잠깐만 공개하겠다	ㅇㅇ	01:16	20	0
13577828	(유튜브) 이 링크는 잠깐만 공개하겠다	ㅇㅇ	01:16	23	0
13577827	대황슼 드가자ㅋㅋ	청해	01:16	84	0
13577826	서울에서 번쩍이고 대전까지 으르렁대네	야갤러(220.123)	01:16	109	1
13577825	지하철 야노	ㅇㅇ(112.161)	01:16	200	1
13577824	흔한 거지아파트 ㅈ1ㅡ 살소동 [2]	야갤러(115.92)	01:16	124	0
13577823	알바 개새끼야 우리 아내 초음파 검사한거 왜 내려	야갤러(61.81)	01:15	143	2
13577822	메좆 저새끼아직도 윤두창윤두창거리냐?ㅋㅋㅋㅋ [2]	ㅇㅇ(223.39)	01:15	70	2
13577821	아직도 못잔 사람 [7]	김무명	01:15	122	0
13577820	이 영상은 너희들이 감당하기 어려울 것이다	ㅇㅇ(39.7)	01:15	80	0
13577819	야순이 보평좀	ㅇㅇ(112.161)	01:15	195	1
13577818	이 영상은 너희들이 감당하기 어려울 것이다	ㅇㅇ	01:15	19	0
13577817	이시키 뭐냐? [2]	야갤러(115.92)	01:15	149	0
13577816	키ㅈㄴ작아서죳같다ㅜㅜ [10]	ㅇㅇ(211.234)	01:15	54	0
13577815	야순이들 보플좀들려주라 [1]	ㅇㅇ(183.91)	01:15	127	0
13577814	이 영상은 너희들이 감당하기 어려울 것이다	ㅇㅇ	01:15	16	0
13577813	고정닉 애자새끼들 기초수급자 가족처럼 서로 아끼고 잘빨아주노	ㅇㅇ(117.111)	01:15	31	0
13577812	공짜로 치킨 먹을수 있는 꿀팁....jpg [3]	야갤러(39.113)	01:14	124	0
13577811	야갤 고닉들 제정신인 새끼가 하나 없음ㅋㅋㅋㅋㅋ	ㅇㅇ(117.111)	01:14	27	1
13577810	이 영상은 클릭하기 전에 긴장해라	ㅇㅇ	01:14	15	0
13577809	햄왔다....햄알제⁉+ [17]	샨테	01:14	186	11
13577808	야순이 미친 인증 [4]	ㅇㅇ(116.38)	01:14	280	4
13577807	그녀의인스타그램은비공개 [4]	스쿠마	01:14	139	0
13577806	한국은행 다닌다는 야갤 파이어맨ㅋㅋㅋㅋㅋㅋㅋ [1]	ㅇㅇ(117.111)	01:14	62	0
13577805	디시가 왜 이렇게 됐냐 요즘 디시도 존나게 재미없네	나디	01:14	42	0
13577804	요즘 웰케 자위하는게 귀찮냐 [1]	혜지의미개	01:14	91	0
13577803	이 영상은 너희들이 감당하기 어려울 것이다	ㅇㅇ(39.7)	01:14	51	0
13577802	이 영상은 클릭하기 전에 긴장해라	ㅇㅇ	01:14	15	0
13577801	아씨발 여동생 또 내방에서 처자노	ㅇㅇ(112.161)	01:14	130	1

갤러리 리스트

번호

제목

글쓴이

작성일

조회

추천

설문

이혼하고 나서 더 잘 사는 것 같은 스타는?

운영자

24/07/08

13577853

..ㄱ..

야갤러(223.38)