폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 12:40:01

조회 17019 추천 40 댓글 217

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

출처: 국내야구 갤러리 [원본 보기]

고정닉 10

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	남녀 팬 반응이 극과 극으로 나뉘는 것 같은 스타는?	운영자	24/09/30	-	-
269749	[기갤] 단독] 문재인정부, 북한에 금수품 보내 [483]	ㅇㅇ(223.62)	10.04	19630	515
269747	[야갤] 삼성 갤럭시 쓰는데, '무한 부팅' 현상이? 원인은 [208]	ㅇㅇ	10.04	15442	116
269746	[주갤] 여초에서 난리난 요즘 남녀공학 분위기 [1183]	탕탕맨	10.04	53037	854
269744	[싱갤] 싱글벙글 바다에서 가장 큰 동물들을 간단하게 알아보자 [124]	코드치기귀찮아서만든계정	10.04	18826	112
269743	[기갤] '순천 여학생 살인' 박대성, 행적 오리발 "기억 안나".jpg [295]	ㅇㅇ	10.04	13596	40
269741	[교갤] 도로공사,SR 해외출장 보고서 나무위키와 내용 똑같아.. [83]	ㅇㅇ	10.04	10064	83
269740	[유갤] 달음산노숙 [62]	다치더티디1400	10.04	8028	37
269737	[야갤] 통신사 오래 쓰면 더 손해…과징금 부과 전망 [291]	감돌	10.04	37131	362
269736	[싱갤] 싱글벙글 김종국 근황...... [232]	배달이	10.04	35013	146
269735	[카연] 쌔끈한 판타지 유닛 직접 만드는 만화 [131]	김다리미	10.04	13938	79
269733	[주갤] 무고가해자도 남자가 많다며 남혐하는 한녀들.. 사실일까? [311]	주갤러(118.235)	10.04	20082	360
269731	[싱갤] 싱글벙글 개천절 기념 단군신화.manhwa [46]	ㅇㅇ(220.127)	10.04	9541	62
269729	[야갤] "괴뢰 윤석열" 실명 거론한 김정은...핵으로 서울 종말 경고 [496]	마스널	10.04	14091	146
269728	[퍼갤] 결말까지 완벽한 페미게임이 갓겜이 된 방법 [478]	강철비	10.04	31031	392
269727	[나갤] 짧은 순간이었지만 가스라이팅 ㅈㄴ 잘 치는 거 같았음.jpg [87]	복귀유저1(115.23)	10.04	20760	108
269725	[싱갤] 싱글벙글 마음씨 착한 청소골렘..jpg [167]	최강한화이글스팬	10.04	35721	164
269724	[야갤] "활주로 가운데 '펑'하더니.." '공항에 폭탄이?' 日 아찔 [87]	마스널	10.04	10034	36
269721	[k갤] 위즈.. 준플레이오프 진출..gif [36]	개킹카	10.04	9322	46
269720	[싱갤] 안싱글벙글 대출받아 주식했다가 망한 비극적인 사건 [411]	코드치기귀찮아서만든계정	10.04	35893	200
269719	[즛갤] [요리대회] 망둥이 튀긴다 끝까지 [51]	초침을깨물다	10.04	10042	72
269717	[무갤] 서열질에 앞장서던 사람조차 등돌리는 한국 [361]	노차이나	10.04	23866	329
269716	[야갤] '명품 가방' 전원 불기소…검찰 "윤 대통령 직무와 무관" [192]	마스널	10.04	9496	56
269714	[장갤] 흑인들이 자기들만의 사회를 만들었을때 일어났던 일 [384]	ㅇㅇ	10.04	28334	400
269712	[싱갤] 싱글벙글 털바퀴의 행동 언어에 대한 의미들을 알아보자 [106]	수인갤러리	10.04	16356	138
269711	[카연] 삼각김밥 논쟁 만화 [372]	모나나난!	10.04	17958	71
269709	[식갤] 9월에 핀 꽃으로 식탁 위 꽃놀이 [44]	맥시멀리스트	10.04	7524	53
269707	[중갤] 고려대 졸업 후 7급 공무원 합격ㄷㄷㄷㄷㄷㄷㄷㄷ [448]	ㅇㅇ(106.102)	10.04	45502	113
269706	[싱갤] 싱글벙글 전성기 홍콩영화 미남배우 TOP5....gif [213]	ㅇㅇ	10.04	14255	79
269702	[인갤] [THANKS, LIGHT.] 5세기만의 개발일지 [43]	Lighter	10.04	6669	30
269701	[야갤] 수확 앞두고 '절망'...중국발 해충 창궐에 사라진 논밭 [215]	마스널	10.04	16249	60
269699	[싱갤] 싱글벙글 광해군이 폐위당한 이유 [523]	기레츠	10.04	33527	277
269697	[나갤] 남자 한명 바보 쫌생이로 가스라이팅 해버리는 여자 둘.jpg [165]	복귀유저(211.178)	10.04	28926	224
269696	[우갤] [요리대회] 당신의 어둠 트레센 햄버그 [81]	케이로그	10.04	10690	41
269694	[야갤] "요즘 서울에 살기 무서워"…시민들 공포에 휩싸인 이유가 [391]	마스널	10.04	31984	119
269692	[싱갤] 싱글벙글 국내에 스트리밍 OTT가 보급되기 전 영화 자막들 [152]	코드치기귀찮아서만든계정	10.04	40022	207
269691	[바갤] 바람의나라 세대별 (1세대~4세대) [123]	바람_월드	10.04	12941	94
269689	[싱갤] 싱글벙글 단체사진 망치는 시바견.jpg [163]	운지노무스케	10.04	43093	313
269686	[야갤] '소름이 쫙' 당신도 당했다...최근 무더기 확산 중인 현상 [549]	마스널	10.04	58638	186
269684	[코갤] 외국계 증권사, '삼성전자는 허약한 거인'ㄷㄷㄷㄷ [631]	랜덤워크	10.04	40017	184
269682	[싱갤] 팩트팩트 주짓수가 레슬링을 못 이기는 이유 [335]	ㅇㅇ(125.138)	10.04	30437	204
269681	[야갤] '그냥 쉰 청년' 늘어나는 이유?…"일자리 '질' 낮아지고 있어" [851]	ㅇㅇ	10.04	42404	183
269679	[박갤] 일본에서 교통사고 당한 후기 [190]	ㅇㅇ	10.04	37625	125
269677	[싱갤] 싱글벙글 21세기 빨간망토 만화 [54]	보추장아찌	10.04	23214	104
269676	[해갤] 박지성으로 보는 언론이 등신같은 이유.jpg [250]	ㅇㅇ(211.234)	10.04	43274	477
269674	[야갤] "결과물이 없는데요?"…세금 내는 국민들 폭발한 순간 [291]	마스널	10.04	39832	205
269672	[싱갤] 싱글벙글 왠지 무서운 일본의 거대종교시설 [289]	코드치기귀찮아서만든계정	10.04	50919	163
269669	[야갤] "주차하고 39초간 소주 원샷" 무죄 선고한 판사도 '흠..' [339]	마스널	10.04	34122	174
269667	[싱갤] 싱글벙글 일본에서 제일 부유한&가난한 철도회사 [160]	하나조노유리네	10.04	44853	242
269666	[야갤] "'신의 직장' 이럴 줄은 몰랐다"…2030 줄퇴사 '초유의 사태' [533]	ㅇㅇ	10.03	50929	170
269664	[판갤] 상상도 못할 중국 내의 독특한 결혼문화.jpg [413]	무명소졸,	10.03	40096	211