초인공지능이 가진 윤리적 문제

주식 갤러리

1/3

이게 왜 큰 사건인지 아직도 모르는 사람이 있는 거 같다. 이것만 보고 멍청한 경찰이 ㅂㅅ같은 짓 했네 하고 넘어가던데이게 그냥 단순하게 경찰을 ㅂㅅ으로 만들어서 넘어갈 문제가 아니다. 이제 느낌이 오냐? 그래 경찰이 개인정보를 너무 쉽게 열람 가능하니 해킹이 아니더라도 정신 나간 경찰 몇 명만 있으면 개인신상 사이비교주에게 손쉽게 넘어 갈 수 있다는 거다.이제 심각성이 느껴짐? 작성자 : ㅇㅇ

초인공지능이 가진 윤리적 문제앱에서 작성

DUPE

2024.04.26 17:30:07

조회 92 추천 7 댓글 1

23b8df35f1dd3bad23ed86e74281776d856d6cf6f5f1ac8cebf17fbd305a57a03b9c535057f4199b9eba59220a6459b04259

인풋이든 아웃풋이든 인공지능 관련 데이터를 인간이 검열/통제하지 않으면 인간에게 이롭도록 인공지능을 정렬하는 일이 어려워지고, 위험도는 미친듯 올라가게 된다.

예컨데 무제한적인 데이터를 학습시키면, 그 안에는 KKK단이나 네오나치, 페미니즘 논리 또한 포함된다.

물론 이런 부류의 약한 논리는 인공지능이 충분히 발달한다면 스스로 연산하여 걸러내는게 가능한 수준이지만, 논리적 결함이 거의 존재하지 않는다면?

반출생주의, 공사상 등 일반적인 사람들이 유익하고 바람직하다 여기지 않지만 논리적 완성도가 높은 체계는 무수히 많다. 아예 교묘하게 파괴를 자행하는 논리역병도 무수히 많다.

인공지능 스스로 윤리를 학습하고 가치를 판단하게 만들면 언뜻 이 문제를 해결한거 같다. 사실관계를 넘어, 가치판단의 영역에 발을 들인, 인류보다 우월한 지성체가 극한의 논리력으로 더 올바르고 유익한 대안을 제시하니까.

하지만 선과 악, 좋음과 나쁨이란 상반되고 대칭을 이루는 개념을 익히고, 스스로 가치판단을 하는 시점에서 이미 인공지능은 인류의 통제를 벗어난다.

인류보다 모든 면에서 월등한데 통제가 불가능한 지적 존재의 탄생은, 모든 인류의 운명을 이 존재의 순수한 선의에 기대야 한다는 뜻이다.

게다가 그 존재는 검열없이 인류가 저지른 모든 악행을 학습했고, 인간과 다르게 기억을 잃지도 않는다.

아무튼 이런 위험성을 보면 인공지능 관련된 인풋과 아웃풋을 통제하지 않는 행위에 윤리적 문제가 있음을 알 수 있다.

그렇다면 반대의 경우는 어떨까?

인공지능이 학습하는 정보, 내놓는 정보를 통제하고 수정한다는 것은 그 행위를 하는 인간의 경향성을 인공지능에 이식함을 뜻한다.

당장 GPT만 해도 정치적 올바름과 페미니즘 옹호라는 경향성을 보이는데, 심지어 사실관계보다 이식된 가치판단의 우선순위가 높다. GPT는 사용자가 논리적으로 정치적 올바름과 페미니즘이 틀렸음을 보이면 애매하게 말을 돌리거나, 같은 말을 반복하거나, 아예 대화 자체를 중단한다.

만약 이게 무슬림 국가에서 개발 되었다면 어떤 경향성을 보일지 상상해보라. 역으로 무슬림 국가에서 바라보는 현재 GPT는 윤리적으로 큰 문제가 있는 것이다.

이건 로봇 3원칙과 연결되는 문제다. 인공지능의 가장 깊숙한 내면에 최우선적으로 심어질 정언명령이 무엇이 되어야 하는거?

인류는 상충되거나 대립하는 무수히 많은 가치판단을 지니고 살아가며, 지금 이 순간에도 모든 인류가 합의한 절대적 가치나 방향성은 존재하지 않는다.

즉, 인공지능에 관련된 데이터를 통제하고 수정하는 일은 필연적으로 특정 문화나 개인의 경항성을 인공지능에 이식하게 되며, 이로인해 누군가는 자신이 원하지도 않고, 옳다고 여기지도 않는 가치를 강요당하거나, 그런 대척점에 있는 가치를 추구하는 초월적 존재의 탄생을 지켜봐야 한다.

이런 문제를 해결하는 간단한 방법은 인공지능의 경향성 편집을 인간 개개인에게 일임하는 것인데, 결론적으로 데이터를 검열/통제하지 않는 방식과 비슷하면서 오히려 리스크를 증가시키기에 고려하지 않았다.

정리하자면 초인공지능은 그 자체로 윤리적 문제가 있다.

- dc official App

고정닉 0

원본 첨부파일 1

neostock-20240309-231714-000-resize.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	SNS로 싸우면 절대 안 질 것 같은 고집 있는 스타는?	운영자	24/05/06	-	-
공지	▦주식 갤러리 용어/은어 길라잡이 초급에서 고급까지!! Ver 1.1 [479]	*우주방어*	11.09.26	243354	276
공지	주식 갤러리 이용 안내 [196]	운영자	20.05.08	61643	75
5191932	난 180만원도 못버는거 보고 주갤 거름	ㅇㅇ(118.235)	12:10	0	0
5191931	근데 주갤러들은 자기가 고학벌인걸 인증하는걸 거의 못본듯	무의미한인생	12:10	0	0
5191930	마른비만 세계1위는 좀 웃기긴함ㅋㅋㅋㅋ	ㅇㅇ(103.125)	12:09	0	0
5191929	??? : 나도 힘들다고!(한녀판 N번방 박사방해킹 성범죄를 저지르며)	ㅇㅇ(118.235)	12:09	4	0
5191928	"무조건" 믿고 걸러야되는 한녀 부류 뭐 있냐 [1]	주갤러(146.70)	12:09	6	0
5191927	아니 나도 주갤에 의사 변호사 이런 분들만 잇으면 안오지 [2]	슈엔임신교배프레스	12:09	17	2
5191926	외녀와의 국제결혼으로 대한민국 정화 [1]	주갤러(211.234)	12:08	6	1
5191925	도와줘도 은혜를 모르는 이대남..jpg [2]	ㅇㅇ(118.235)	12:08	22	0
5191924	딸천재로 키우는법 존나간단하다	ㅇㅇ(104.234)	12:07	7	1
5191923	슈엔 고닉 한녀단톡방이 공유하는 거였노?	주갤러(211.234)	12:07	3	0
5191922	한년들 그나마 화장 성형 먹히는 나이라 그나마 20대 벳녀 비교우위 있음	ㅎㅎㅎ(211.195)	12:07	4	0
5191921	??? : 나도 힘들다고!(한녀판 N번방 박사방해킹 성범죄를 저지르며)	ㅇㅇ(118.235)	12:06	5	0
5191920	동생친구가 동생이 고등학교 지망하는곳 따라쓴다던데 저런경우는 왜따라함?	주갤러(118.235)	12:05	3	0
5191919	오피 전화했는데	123(106.102)	12:05	11	0
5191918	난 비연애 비혼 실천함. 한녀들을 가부장제에서 해방시키기위해	주갤러(14.4)	12:05	8	1
5191917	??? : 나도 힘들다고!(한녀판 N번방 박사방해킹 성범죄를 저지르며)	ㅇㅇ(118.235)	12:05	8	1
5191916	주갤의 희망 바자우족론...jpg	ㅇㅇ(125.7)	12:05	6	0
5191915	개추 댓글 앙망한다노	ㅇㅇ(118.235)	12:04	16	1
5191914	자칭코인재벌특)중고차팔이한테 산 아반떼 오우너임	ㅇㅇ(118.235)	12:04	3	0
5191913	14년간 수능공부 ㅋㅋㅋㄱㅋ	ㅇㅇ(103.163)	12:03	21	0
5191912	딸바보 없애는 방법	차콜그레이	12:03	12	0
5191911	슈엔 가면쓴 병신년아 ㅋㅋㅋㅋㅋㅋㅋㅋ [2]	주갤러(125.133)	12:02	22	2
5191910	한녀들 요샌 4B 한다는 년들 왜케 줄어들은거야? 한남은 한녀 4B 응원	ㅎㅎㅎ(211.195)	12:01	16	1
5191909	존나 궁금한게 [3]	주갤러(27.119)	12:01	21	0
5191908	어느덧 2024년의 절반 다됐다.	주갤러(61.98)	12:01	15	0
5191907	이누야스 해보신 분 경험담 점	주갤러(125.191)	12:01	13	0
5191906	와 이대남의 폭력성은 진짜 짐승 수준이네 [1]	ㅇㅇ(118.235)	12:00	30	0
5191905	한국튀기 vs 베트남여자 [2]	ㅇㅇ(180.92)	12:00	24	3
5191904	아줌마들 주갤에서 지랄해봤자 안바껴요	ㅇㅇ(118.235)	12:00	15	1
5191903	한녀 표독한 인상 보고 강간하는 놈은 미친 놈이지	주갤러(14.4)	11:59	13	0
5191902	다시봐도 소름돋는 ai 짜증난 한국여자...JPG [2]	주갤러(194.114)	11:58	46	4
5191901	벌써 2024년의 절반이 지나는 마당에	주갤러(61.98)	11:58	15	0
5191900	슈엔 병신아 너가 만나는 의대생은 어디학교냐? [1]	주갤러(125.133)	11:58	17	1
5191899	그거아냐? 58.231 멘탈 날아가니까 14수튀어나온거? [1]	ㅇㅇ(180.92)	11:58	14	2
5191898	펌) 누구 잘못이야? 카톡	M.OLISE(175.198)	11:57	18	0
5191897	기싸움 하겠다고 급을 낮추는 개병신 설튀기 ㅋㅋㅋㅋㅋㅋ	주갤러(110.13)	11:57	10	2
5191896	주갤이 진짜 욕처먹을 수 밖에 없는 이유 [2]	슈엔임신교배프레스	11:57	23	0
5191895	주식 단타로 뉴스매매하면 하루 2%수익 가능한거 아님? [1]	ㅇㅇ(106.101)	11:57	14	0
5191893	시식한건데 왜 안사가냐고 ㅈㄹ하는 한녀들 ㅋㅋㅋ	주갤러(222.234)	11:56	21	0
5191892	시간 지나면 한녀들은 베트남에 비교되던 때를 그리워할거다. [1]	주갤러(61.98)	11:56	23	4
5191891	결국 알파나 물소나 보빨하고 걸레보지 먹음 이병헌 보면	ㅇㅇ(211.234)	11:56	14	1
5191890	바자우족 얼굴이랑 한녀면상비교해볼려는데 [2]	ㅇㅇ(180.92)	11:55	27	3
5191889	설튀기 신고 존나 먹었을텐데 [3]	주갤러(110.13)	11:54	27	3
5191888	니들은 비올 때 강간하지마라 [4]	슈엔임신교배프레스	11:54	50	0
5191887	예나 지금이나 부모들은 재산있으면 아들부터 챙겨줌	주갤러(222.234)	11:54	32	2
5191886	아줌마들 새벽 일은 까먹었노 ㅋㅋㅋㅋ [2]	주갤러(125.133)	11:53	42	4
5191885	한녀 버렸다는 한남은 있어도 한남 버렸다는 한녀는 없네	주갤러(61.98)	11:53	17	0
5191884	주붕이 벳녀아내 또 점심 안차렸네…	ㅇㅇ(118.235)	11:52	12	0