디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

인기 인공지능 서비스 연이어 중단, 업계 “자정할 것”

IT동아갤로그로 이동합니다. 2023.04.04 10:52:03
조회 2290 추천 3 댓글 15
[IT동아 차주경 기자] 사람과 대등한, 몇몇 부문에서는 사람보다 우수한 창작 능력을 발휘해 주목 받았던 인공지능들이 연이어 서비스를 중단했다. 운영 도중 사람의 개인정보 유출, 허위 정보 제작과 전파 등 부작용을 나타낸 탓이다. 인공지능 기술 업계는 서비스를 임시 중지하고, 재발 방지 대책을 세우고 기능도 개선한다고 약속했다.


인공지능 서비스. 출처 = 엔바토엘리먼츠



지난 3월 20일(이하 현지시각), 오픈AI는 자체 개발한 대화형 인공지능 ‘챗GPT’의 서비스를 일시 중단했다. 챗GPT를 쓰던 사용자 일부에게 다른 사용자의 대화 이력이 노출되는 버그(이상 작동 현상)가 발견된 까닭이다. 3월 24일 오픈AI는 버그 발견 직후 서비스를 일시 중단, 수정 후 서비스를 다시 시작했다고 밝혔다.

하지만, 이후 오픈AI는 이번 버그 때문에 챗GPT 플러스 가입자 일부(약 1.2%로 추정)의 결제 정보가 노출됐을 가능성이 있다고 인정했다. 노출 가능성이 있는 결제 정보는 가입자의 실명과 이메일 주소, 결제상 주소, 신용카드 고유번호 16개 가운데 마지막 4개 등이다. 단, 오픈AI는 신용카드 고유번호가 모두 노출됐을 가능성은 없으며 정보 유출 피해의 사례도 없었다고 덧붙였다.


오픈 AI의 버그 공지와 사과문. 출처 = 오픈AI



사건 이후 챗GPT에게 거센 후폭풍이 불어닥쳤다. 미국 비영리 연구 모임 ‘인공지능·디지털 정책 센터’는 3월 30일, 미국 연방거래위원회(FTC)에 챗GPT 배포를 중단해야 한다는 청원을 제출했다. 챗GPT가 편향된, 기만에 가까운 정보를 주며 사람의 사생활과 공공 안전을 위협한다는 이유에서다. 이어 이탈리아 정부는 4월 3일, 챗GPT가 개인정보를 무단 수집할 우려가 있다면서 자국에서의 사용 금지령을 내렸다.

사진 생성 인공지능 ‘미드저니(Midjourney)’ 역시 3월 28일 무료 서비스를 중단한다고 밝혔다. 사유는 ‘비정상으로 많은 수요 대응’과 ‘남용 문제 개선’이다.

인공지능으로 만든 사진이 실제 사진만큼 정교해지면서 저작권, 윤리 문제가 계속 불거졌다. 이 가운데, 한 미드저니 사용자가 만든 사진이 큰 반향을 일으켰다. 도널드 트럼프 전 미국 대통령이 강제 체포되는 사진, 재판을 받고 교도소에 수감되는 사진이다. 또 다른 사용자는 버락 오바마 전 미국 대통령과 앙겔라 메르켈 전 독일 총리가 해변에서 함께 물장난을 치는 사진을 미드저니로 만들어 공개했다.


인공지능으로 만든 도널드 트럼프 전 미국 대통령의 사진. 모두 가짜 사진이다. 출처 = 페타픽셀



문제는 이들 사진이 아주 정교하게 만들어진 탓에, 실제 사진으로 착각하고 가짜 뉴스와 함께 전파한 사람들이 많았다는 점이다. 인공지능이 치명적인 윤리, 사회 문제를 일으킨 가짜 뉴스의 제작 수단으로 악용된 것이다. 미드저니는 이들 사진의 제작자를 바로 제재(서비스 사용 금지)했다. 단, 이 사건이 무료 서비스 중단의 원인은 아니라고 해명했다.

이전에도 인공지능은 여러 부작용을 나타냈다. 초기 단계의 대화형 인공지능은 총기 구입, 폭탄 제조 등 위험한 정보를 여과하지 않고 그대로 사용자에게 전달했다. 옛날 데이터만 학습한 대화형 인공지능이 사용자의 질문에 엉뚱한 답을 제시하는 일도 잦았다. 학생들이 과제를 할 때 대화형 인공지능을 쓰지 않도록 막아야 한다는 주장도 꾸준하다.

가짜 뉴스나 음란물 제작, 로맨스 스캠(SNS의 사진, 게시물로 이성의 환심을 사고 돈을 요구하는 사기 행위)에 사진 생성 인공지능이 악용됐다. 사진 생성 인공지능이 데이터를 무단 수집했다며, 사진 데이터 기업이 천문학 규모의 소송을 제기한 일도 있었다.

인공지능 기술 업계는 이번 사건을 실수라고 인정하면서, 이를 되풀이하지 않고 오남용을 막을 대책을 세우는 등 자정한다고 밝혔다.

오픈AI는 “사용자 개인 정보를 보호하고 데이터를 유지하려 최선을 다했지만, 사용자의 기대에 미치지 못했다. 사용자와 챗GPT 커뮤니티에 진심으로 사과하며, 신뢰를 회복하도록 노력하겠다.”고 밝혔다. 데이빗 홀츠(David Holz) 미드저니 대표 역시 “오남용을 막을 정밀한 시스템을 곧 출시 예정이다. 전문가와 커뮤니티에서 나온 의견들을 참고해 사려 깊게 노력하겠다.”고 강조했다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ [농업이 IT(잇)다] 팜커넥트 “농업 데이터, 선진 농업 첫걸음”▶ AI 열풍, 산업용·협동 로봇 분야로 이어질까…플라잎, 로봇 AI 솔루션 상용화 [스타트업-ing]▶ 스팍랩 “100년 넘은 간접광고에도 AI 통한 디지털 혁신이 필요합니다” [스타트업-ing]



추천 비추천

3

고정닉 0

2

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는? 운영자 24/06/10 - -
2652 [IT신상공개] 비행 편의와 내후성 좋아진 산업용 드론 DJI M350 RTK [1] IT동아갤로그로 이동합니다. 23.05.22 1027 1
2651 [주간투자동향] 콜게이트, 100억 원 규모 투자 유치 IT동아갤로그로 이동합니다. 23.05.22 219 0
2650 가상자산 첫 거래 기념하는 ‘비트코인 피자데이’ [14] IT동아갤로그로 이동합니다. 23.05.22 2773 0
2649 아웃스쿨 “날 것 그대로의 영어 수업, ‘직구’하듯 골라 배운다” [6] IT동아갤로그로 이동합니다. 23.05.19 5818 1
2648 킨스미디어, “물류센터 디지털화, 시설관리부터 시작해야” [스타트업-ing] IT동아갤로그로 이동합니다. 23.05.19 169 0
2647 엔비디아 RTX 4060·4060 Ti 공개··· '2년 기다렸는데 실망스러워' [29] IT동아갤로그로 이동합니다. 23.05.19 3214 3
2646 보안 업계 “챗GPT 탈 쓴 불량 앱 주의해야” IT동아갤로그로 이동합니다. 23.05.19 1325 4
2645 [농업이 IT(잇)다] 에이트테크 “AI·로봇 기술로 폐기물 선별 효율 개선한다” IT동아갤로그로 이동합니다. 23.05.19 141 0
2644 [IT강의실] 노이즈 캔슬링이 모든 소리를 차단하지 못하는 이유 [8] IT동아갤로그로 이동합니다. 23.05.18 2764 12
2643 [리뷰] ‘스마트보드’로 진화한 전자칠판, 현대아이티 스마트보드 알파 3.0 IT동아갤로그로 이동합니다. 23.05.18 157 0
2642 日 스마트폰 출하량 감소…삼성 내려가고 구글 올라오고 [57] IT동아갤로그로 이동합니다. 23.05.18 5191 18
2641 구글 ‘About this image’로 인공지능 사진 악용 줄인다 [2] IT동아갤로그로 이동합니다. 23.05.17 1846 5
2640 [KOBA 2023] 미디어 산업을 위한 스토리지 솔루션 '방대한 데이터에 초점' IT동아갤로그로 이동합니다. 23.05.17 137 0
2639 게이밍 능력에 얇은 두께까지, ‘HP 오멘 16 슬림’ 노트북 발표 [10] IT동아갤로그로 이동합니다. 23.05.16 2301 2
2638 웹3.0 시대의 필수 조직, 'DAO'가 움직인다 IT동아갤로그로 이동합니다. 23.05.16 202 0
2637 황혼기 디카 시장, 전통 미디어 연이어 폐간 [1] IT동아갤로그로 이동합니다. 23.05.16 255 0
2636 실검 부활하나? 네이버·카카오 “실검과 다르다” [27] IT동아갤로그로 이동합니다. 23.05.16 3312 8
2635 [스타트업人] 산업용 메타버스를 향한 도전, 디지포레 개발팀 이야기 IT동아갤로그로 이동합니다. 23.05.16 116 0
2634 [뉴스줌인] 청축, 적축, 갈축 키보드는 들어봤는데 황축 키보드는 무엇? IT동아갤로그로 이동합니다. 23.05.16 177 0
2633 스마트폰을 잃어버렸을 땐 이렇게[이럴땐 이렇게!] [2] IT동아갤로그로 이동합니다. 23.05.15 2861 7
2632 [주간투자동향] 휴먼스케이프, 200억 원 규모 시리즈C 투자 유치 IT동아갤로그로 이동합니다. 23.05.15 126 0
2631 발뮤다 스마트폰 사업 철수 “본업에 집중” [16] IT동아갤로그로 이동합니다. 23.05.15 2290 4
2630 에이수스 ‘ROG 앨라이’ 가격 공개, 진짜 ‘스팀덱 저격수’ 등장? IT동아갤로그로 이동합니다. 23.05.12 200 0
2629 “초진 허용해야 생존 가능하다”… 불안에 떠는 비대면진료 업계 [4] IT동아갤로그로 이동합니다. 23.05.12 318 0
2628 쇼핑몰 상품 이미지의 글자를 읽어준다, 인포플라의 U See NOW [스타트업리뷰] IT동아갤로그로 이동합니다. 23.05.12 212 0
2627 바드 실패 만회하자 주가 4% 상승··· '구글 I/O 키노트' 톺아보니 IT동아갤로그로 이동합니다. 23.05.12 219 0
2626 투자 혹한기에도 액셀러레이터 투자 지속 증가···ICT·바이오에 주목 IT동아갤로그로 이동합니다. 23.05.12 136 0
2625 [농업이 IT(잇)다] 씨위드 “바다의 보물 해조류로 배양육 시대 연다” [29] IT동아갤로그로 이동합니다. 23.05.12 1508 7
2624 GPU 넘어 NPU가 주목받는 이유 ··· '관건은 와트당 성능, 그리고 효율성' [11] IT동아갤로그로 이동합니다. 23.05.12 2614 8
2623 ‘인도>중국’이라는 새로운 상식, 아십니까?[K비즈니스 가이드] [30] IT동아갤로그로 이동합니다. 23.05.11 2112 19
2622 벤처기업확인제도, 업종·업력 반영 ‘벤처기업 확인 문턱 낮춘다’ IT동아갤로그로 이동합니다. 23.05.11 130 0
2621 구글 I/O서 등장, 픽셀 폴드·픽셀 7a·픽셀 태블릿 성능은? [6] IT동아갤로그로 이동합니다. 23.05.11 1437 0
2620 [IT신상공개] 고급 사진·동영상 기능에 소형 경량 ‘니콘 Z8’ [5] IT동아갤로그로 이동합니다. 23.05.11 1202 2
2619 이병철 서울시 창업정책과장 “세계 스타트업 TOP 5 도시로” IT동아갤로그로 이동합니다. 23.05.10 108 0
2618 3년 만에 새 단장 들어가는 네이버 PC 메인, '첫인상 깔끔하네?' [9] IT동아갤로그로 이동합니다. 23.05.10 1710 4
2617 [동국대학교 캠퍼스타운] 내일의쓰임 “탄소중립 달성 지원해 저탄소 세상 만든다” IT동아갤로그로 이동합니다. 23.05.10 85 0
2616 [리뷰] 2.5기가급 5포트 스위칭 허브, 넷기어 MS105 [3] IT동아갤로그로 이동합니다. 23.05.09 156 0
2615 ‘GPT 정보 유출’ 경고… 안전한 보안환경 필요해 IT동아갤로그로 이동합니다. 23.05.09 182 0
2614 에어컨 청소·관리해야 할 땐 이렇게[이럴땐 이렇게!] [2] IT동아갤로그로 이동합니다. 23.05.08 1936 3
2613 [뉴스줌인] 워크데이와 손잡은 메타넷사스, ‘페이롤’이 뭐길래? IT동아갤로그로 이동합니다. 23.05.08 86 0
2612 팩스 없이 팩스 보내야 할 땐 이렇게![이럴땐 이렇게!] [1] IT동아갤로그로 이동합니다. 23.05.08 1338 2
2611 [주간투자동향] 알에프시스템즈, 40억 원 규모 투자 유치 IT동아갤로그로 이동합니다. 23.05.08 79 0
2610 기어라운지 글랩스튜디오 ‘스튜디오 시공 고객 위한 데모 스튜디오’ IT동아갤로그로 이동합니다. 23.05.04 672 1
2609 [농업이 IT(잇)다] 생활한방연구소 “손쉽게 먹고 효과 보는 K 한방 전파” IT동아갤로그로 이동합니다. 23.05.04 118 0
2608 [뉴스줌인] 컴퓨터 파워서플라이의 '플래티넘', 'ATX 3.0'은 무슨 뜻일까? [2] IT동아갤로그로 이동합니다. 23.05.04 1517 2
2607 달리셔스 남태호 CPO “달리셔스, 식단 큐레이션 넘어 식문화 개선에 도전한다” [스타트업-ing] IT동아갤로그로 이동합니다. 23.05.03 99 0
2606 '스팀덱이 두드리자 AMD가 답했다'··· UMPC 전성시대 열릴까? IT동아갤로그로 이동합니다. 23.05.02 185 0
2605 5월 정보통신업계, 스마트폰·디카 신제품 쏟아진다 [3] IT동아갤로그로 이동합니다. 23.05.02 1221 2
2604 [주간투자동향] 스패너, 60억 원 규모 시리즈A 투자 유치 [1] IT동아갤로그로 이동합니다. 23.05.02 151 0
2603 [동국대학교 캠퍼스타운] 오핑 “3D 콘텐츠 제작을 돕고 싶어요” IT동아갤로그로 이동합니다. 23.04.28 169 1
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2