폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 05:54:17

조회 89 추천 3 댓글 0

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

고정닉 1

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	이혼하고 나서 더 잘 사는 것 같은 스타는?	운영자	24/07/08	-	-
13577828	(유튜브) 이 링크는 잠깐만 공개하겠다	ㅇㅇ	01:16	22	0
13577827	대황슼 드가자ㅋㅋ	청해	01:16	81	0
13577826	서울에서 번쩍이고 대전까지 으르렁대네	야갤러(220.123)	01:16	103	1
13577825	지하철 야노	ㅇㅇ(112.161)	01:16	193	1
13577824	흔한 거지아파트 ㅈ1ㅡ 살소동 [2]	야갤러(115.92)	01:16	119	0
13577823	알바 개새끼야 우리 아내 초음파 검사한거 왜 내려	야갤러(61.81)	01:15	140	2
13577822	메좆 저새끼아직도 윤두창윤두창거리냐?ㅋㅋㅋㅋ [2]	ㅇㅇ(223.39)	01:15	67	2
13577821	아직도 못잔 사람 [7]	김무명	01:15	119	0
13577820	이 영상은 너희들이 감당하기 어려울 것이다	ㅇㅇ(39.7)	01:15	77	0
13577819	야순이 보평좀	ㅇㅇ(112.161)	01:15	189	1
13577818	이 영상은 너희들이 감당하기 어려울 것이다	ㅇㅇ	01:15	19	0
13577817	이시키 뭐냐? [2]	야갤러(115.92)	01:15	147	0
13577816	키ㅈㄴ작아서죳같다ㅜㅜ [10]	ㅇㅇ(211.234)	01:15	51	0
13577815	야순이들 보플좀들려주라 [1]	ㅇㅇ(183.91)	01:15	125	0
13577814	이 영상은 너희들이 감당하기 어려울 것이다	ㅇㅇ	01:15	16	0
13577813	고정닉 애자새끼들 기초수급자 가족처럼 서로 아끼고 잘빨아주노	ㅇㅇ(117.111)	01:15	31	0
13577812	공짜로 치킨 먹을수 있는 꿀팁....jpg [3]	야갤러(39.113)	01:14	121	0
13577811	야갤 고닉들 제정신인 새끼가 하나 없음ㅋㅋㅋㅋㅋ	ㅇㅇ(117.111)	01:14	27	1
13577810	이 영상은 클릭하기 전에 긴장해라	ㅇㅇ	01:14	15	0
13577809	햄왔다....햄알제⁉+ [15]	샨테	01:14	182	9
13577808	야순이 미친 인증 [4]	ㅇㅇ(116.38)	01:14	272	4
13577807	그녀의인스타그램은비공개 [4]	스쿠마	01:14	139	0
13577806	한국은행 다닌다는 야갤 파이어맨ㅋㅋㅋㅋㅋㅋㅋ [1]	ㅇㅇ(117.111)	01:14	62	0
13577805	디시가 왜 이렇게 됐냐 요즘 디시도 존나게 재미없네	나디	01:14	42	0
13577804	요즘 웰케 자위하는게 귀찮냐 [1]	혜지의미개	01:14	91	0
13577803	이 영상은 너희들이 감당하기 어려울 것이다	ㅇㅇ(39.7)	01:14	51	0
13577802	이 영상은 클릭하기 전에 긴장해라	ㅇㅇ	01:14	15	0
13577801	아씨발 여동생 또 내방에서 처자노	ㅇㅇ(112.161)	01:14	130	1
13577800	메좆이 야념글보내면서 깝칠때 쓰는 짤	ㅇㅇ(117.111)	01:14	48	0
13577799	야순이 천둥 무서어 ㅠ	야갤러(112.156)	01:14	104	1
13577797	루루게이 피지컬	ㅇㅇ(223.39)	01:14	60	0
13577796	전북대 여대생 똥구멍 [5]	ㅇㅇ(117.111)	01:14	160	1
13577795	아 시발 아침에도 비 쏟아지면 나가기 존나 시른데	야갤러(220.123)	01:14	38	0
13577794	잠깐만 공개한다 10초만준다 곧 삭제함	ㅇㅇ	01:14	13	0
13577792	남122919고28188딩발에코박고죽90다... [3]	밥먹는크리스	01:14	56	0
13577789	여18817고83838딩 [9]	밥먹는크리스	01:13	140	1
13577788	텐순이 인증	ㅇㅇ(116.38)	01:13	30	0
13577787	애 누군지아는사람	ㅇㅇ(183.91)	01:13	156	1
13577786	인생도박 포인트 어떻게 얻어	야갤러(117.110)	01:13	15	0
13577785	잠깐만 공개한다 10초만준다 곧 삭제함	ㅇㅇ	01:13	16	0
13577784	이 영상은 너희들이 감당하기 어려울 것이다	ㅇㅇ(39.7)	01:13	61	1
13577783	워터밤 갈려고 등운동 빡세게 했음 ㅁㅌㅊ?? [1]	ㅇㅇ(211.36)	01:13	96	0
13577782	합법ㄹㄹ ㄹㅈㄷ……jpg	ㅇㅇ(211.234)	01:13	124	0
13577781	야붕이 내일 출근하기전에 딸치고 잘려고 지금 세워놨다 [1]	ㅇㅇ(121.155)	01:13	72	0
13577780	루루게이 바이럴하네 [2]	ㅇㅇ(121.137)	01:13	35	0
13577779	(유튜브) 이 링크는 잠깐만 공개하겠다	ㅇㅇ	01:13	22	0
13577778	마젠타는 갓이야 [7]	야갤러(58.121)	01:13	189	2
13577777	사람들이왜 루루게이 멸시하는지모르겟음 ㅋㅋㅋㅋ	ㅇㅇ(223.39)	01:13	64	0
13577775	(유튜브) 이 링크는 잠깐만 공개하겠다 [1]	ㅇㅇ	01:13	28	0
13577774	좆소 30대 새벽야갤 네임드 게이 [2]	혜지의미개	01:12	93	0

갤러리 리스트

번호

제목

글쓴이

작성일

조회

추천

설문

이혼하고 나서 더 잘 사는 것 같은 스타는?

운영자

24/07/08

13577828

(유튜브) 이 링크는 잠깐만 공개하겠다

ㅇㅇ