초인공지능이 가진 윤리적 문제

주식 갤러리

1/3

중국의 자랑인 희토류 폭망...JPG 중국 희토류 최대기업인 북방희토 매출 흑자규모 94.4% 감소 또 다른 최대 희토류 회사인 중국희토그룹 매출감소 및 순이익 45.7% 폭락으로 적자행결국 미국, 호주, 미얀마, 베트남 다변화 생산으로희토루 가격이 폭락하고, 점유율이 낮아진게 결정타사실 희토류 자체도 희귀자원이 아님한국도 10년전에 이미 충청북도 충주시와 강원도 홍천군에도 작성자 : 주갤러

초인공지능이 가진 윤리적 문제앱에서 작성

DUPE

2024.04.26 17:30:07

조회 89 추천 7 댓글 1

23b8df35f1dd3bad23ed86e74281776d856d6cf6f5f1ac8cebf17fbd305a57a03b9c535057f4199b9eba59220a6459b04259

인풋이든 아웃풋이든 인공지능 관련 데이터를 인간이 검열/통제하지 않으면 인간에게 이롭도록 인공지능을 정렬하는 일이 어려워지고, 위험도는 미친듯 올라가게 된다.

예컨데 무제한적인 데이터를 학습시키면, 그 안에는 KKK단이나 네오나치, 페미니즘 논리 또한 포함된다.

물론 이런 부류의 약한 논리는 인공지능이 충분히 발달한다면 스스로 연산하여 걸러내는게 가능한 수준이지만, 논리적 결함이 거의 존재하지 않는다면?

반출생주의, 공사상 등 일반적인 사람들이 유익하고 바람직하다 여기지 않지만 논리적 완성도가 높은 체계는 무수히 많다. 아예 교묘하게 파괴를 자행하는 논리역병도 무수히 많다.

인공지능 스스로 윤리를 학습하고 가치를 판단하게 만들면 언뜻 이 문제를 해결한거 같다. 사실관계를 넘어, 가치판단의 영역에 발을 들인, 인류보다 우월한 지성체가 극한의 논리력으로 더 올바르고 유익한 대안을 제시하니까.

하지만 선과 악, 좋음과 나쁨이란 상반되고 대칭을 이루는 개념을 익히고, 스스로 가치판단을 하는 시점에서 이미 인공지능은 인류의 통제를 벗어난다.

인류보다 모든 면에서 월등한데 통제가 불가능한 지적 존재의 탄생은, 모든 인류의 운명을 이 존재의 순수한 선의에 기대야 한다는 뜻이다.

게다가 그 존재는 검열없이 인류가 저지른 모든 악행을 학습했고, 인간과 다르게 기억을 잃지도 않는다.

아무튼 이런 위험성을 보면 인공지능 관련된 인풋과 아웃풋을 통제하지 않는 행위에 윤리적 문제가 있음을 알 수 있다.

그렇다면 반대의 경우는 어떨까?

인공지능이 학습하는 정보, 내놓는 정보를 통제하고 수정한다는 것은 그 행위를 하는 인간의 경향성을 인공지능에 이식함을 뜻한다.

당장 GPT만 해도 정치적 올바름과 페미니즘 옹호라는 경향성을 보이는데, 심지어 사실관계보다 이식된 가치판단의 우선순위가 높다. GPT는 사용자가 논리적으로 정치적 올바름과 페미니즘이 틀렸음을 보이면 애매하게 말을 돌리거나, 같은 말을 반복하거나, 아예 대화 자체를 중단한다.

만약 이게 무슬림 국가에서 개발 되었다면 어떤 경향성을 보일지 상상해보라. 역으로 무슬림 국가에서 바라보는 현재 GPT는 윤리적으로 큰 문제가 있는 것이다.

이건 로봇 3원칙과 연결되는 문제다. 인공지능의 가장 깊숙한 내면에 최우선적으로 심어질 정언명령이 무엇이 되어야 하는거?

인류는 상충되거나 대립하는 무수히 많은 가치판단을 지니고 살아가며, 지금 이 순간에도 모든 인류가 합의한 절대적 가치나 방향성은 존재하지 않는다.

즉, 인공지능에 관련된 데이터를 통제하고 수정하는 일은 필연적으로 특정 문화나 개인의 경항성을 인공지능에 이식하게 되며, 이로인해 누군가는 자신이 원하지도 않고, 옳다고 여기지도 않는 가치를 강요당하거나, 그런 대척점에 있는 가치를 추구하는 초월적 존재의 탄생을 지켜봐야 한다.

이런 문제를 해결하는 간단한 방법은 인공지능의 경향성 편집을 인간 개개인에게 일임하는 것인데, 결론적으로 데이터를 검열/통제하지 않는 방식과 비슷하면서 오히려 리스크를 증가시키기에 고려하지 않았다.

정리하자면 초인공지능은 그 자체로 윤리적 문제가 있다.

- dc official App

고정닉 0

원본 첨부파일 1

neostock-20240309-231714-000-resize.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	SNS로 싸우면 절대 안 질 것 같은 고집 있는 스타는?	운영자	24/05/06	-	-
5191172	생각해보니깐 은퇴한놈들은 은퇴한놈들이고	ㅋㅋ(122.35)	06:36	22	0
5191171	주갤은 외녀 환상 심한듯 [3]	주갤러(122.40)	06:34	49	2
5191168	씨발 그냥 한국여자만 만나	주갤러(223.39)	06:29	39	3
5191167	한국여자만 만나라고 새끼야	주갤러(223.39)	06:29	31	0
5191166	82년생 김지영 영화 .. 4년전 댓글 [12]	주갤러(221.139)	06:29	125	16
5191165	(소녀상싫어하는)주갤남을 '국민의힘'에서 관리하남? [2]	ㅇㅇ(185.54)	06:27	30	0
5191163	121.172씨발련 계속 아이피 바꿔서 오노 ㅋㅋ	ㅇㅇ(118.235)	06:24	40	3
5191162	형아가 조언 할게 지금 벳녀도 눈높아 거기서 또 경쟁하고 [2]	주갤러(39.119)	06:22	51	1
5191161	사춘기때 생리 안하더니 결혼 앞두고 고환발견한 여성	분홍빤쓰46	06:19	48	0
5191159	세가지중 쌉구라는??	너무아프다심장이	06:12	29	0
5191158	렉카와 언론인 차이	아기집	06:10	16	0
5191157	[단독] 모유에서 '과불화' 검출…증가세에도 안일	ㅇㅇ(39.123)	06:08	31	2
5191156	동남아 여자 빠는 병신들 웃긴게 [1]	ㅇㅇ(115.161)	06:05	41	0
5191155	[소녀상 = 한녀] 일본총리실,자민당 2곳에	ㅇㅇ(185.54)	06:04	16	0
5191153	윤서인 같은 소녀상을 싫어하는, 부류가 주갤남 [2]	ㅇㅇ(185.54)	05:57	46	0
5191152	전라도랑 경상도 외모가 ㅈㄴ신기한게	주갤러(211.235)	05:55	22	0
5191151	인상 표독한 한녀를 배척하지않고 연민하는게 알파남!	주갤러(14.4)	05:54	17	0
5191149	주갤 한남들 나 여잔데 이제	ㅇㅇ(124.198)	05:46	34	1
5191148	내가 한녀 도덕관념 무시하는 이유 [2]	ㅇㅇ(118.43)	05:44	69	4
5191144	노괴들이 현생 망한거 확인하니, 주갤에서 발광하는거 측은함	주갤러(14.4)	05:29	71	11
5191143	한녀들 역겨운 점	주갤러(106.255)	05:28	34	2
5191142	노괴들이 몰려와서 썩은 보릉내 풍기면서 헛소리하는 것 듣고 있으니까	주갤러(220.72)	05:24	39	8
5191139	스윗퐁퐁이의 뇌속에서 보정되어 성괴한녀가 예뻐보이는	테고시유야	05:07	23	0
5191137	예쁜한녀 한번도 못봤고 다 몽골오랑우탄이던데	테고시유야	05:04	26	0
5191136	예쁘다	ㅇㅇ(122.40)	05:03	61	0
5191134	네이트판: 시집살이발작녀, "그건 니가 ㅂㅅ이라서" [4]	허경영(175.223)	04:53	87	7
5191133	한국여자는 이쁘다 = 센트릭스 [2]	모피어스(39.123)	04:45	98	6
5191130	씹덕짓하다 퐁퐁이를 이해했다	주갤러(59.2)	04:34	41	0
5191129	근데 스벅 자주가는거면	ㅇㅇ(39.7)	04:33	66	3
5191128	네이트판 : 남편고소마렵다는 싱크녀 [1]	허경영(175.223)	04:31	66	3
5191126	부모가 희생한적이 없는데 무슨 애정이 있겠냐	ㅇㅇ(115.41)	04:28	27	1
5191125	솔직히 30대이상 여자랑 논쟁할 필요자체가 없다 [4]	ㅇㅇ(115.41)	04:21	86	13
5191124	여자 176cm 79kg 면 발목,종아리 살짝 굵지?? [2]	오브리가두	04:20	48	0
5191123	네이트판 : 20초녀에게 "노산조심해"	허경영(175.223)	04:17	79	3
5191121	돈주고 여자를 사온다는데... [4]	주갤러(58.29)	04:09	157	16
5191120	네이트판 : 10대판녀, 생리호르몬기전 교육 [2]	허경영(175.223)	04:08	65	2
5191119	성공한야붕이 충격 근황..JPG	ㅇㅇ(126.194)	04:07	74	0
5191118	초등 입학아동 엄마나이가 50세? [1]	ㅇㅇ	04:02	63	2
5191116	베트남 출신 엄마가 있다는 건 무슨 기분임? [3]	ㅇㅇ(125.130)	03:50	54	0
5191115	동양에서 여자는 활동제약적이였는데 서양은 왜 여귀족 무도회가 유명한거임? [3]	주갤러(119.193)	03:46	39	0
5191114	딸을 대충키워야 하는 이유.manga	ㅇㅇ(211.36)	03:45	122	15
5191113	베트남 비행기표 끊었다	ㅇㅇ(121.169)	03:44	33	0
5191111	궁금한게 한남이랑 다르게 한녀는 왜 죄다 븅신이냐? [7]	ㅇㅇ(211.36)	03:39	157	28
5191110	도태남의 기준이 존나 모호한데 도태남 타령으로 딜이 박히겠노? [5]	ㅇㅇ(110.13)	03:39	63	8
5191109	주트콩특징 베트남여자가 눈이안달린줄암 ㅋㅋㅋ	주갤러(39.123)	03:31	27	0
5191108	네이트판 : 통금녀는 장점인데 발작하는 판녀	허경영(175.223)	03:31	59	2
5191105	네이트판 : 성질병녀에게 가르침	허경영(175.223)	03:20	39	0
5191103	노괴들이 벳녀 걱정해줄 필요는 없다고 생각함.	주갤러(211.38)	03:20	58	4
5191101	암튼 이제 랜선 합의는 끝났다	ㅇㅇㅇ(122.35)	03:17	49	1
5191100	증거빼돌리면	ㅇㅇㅇ(122.35)	03:15	17	0