'정부 주도의 첫 AI 규제법'··· EU, AI법으로 무분별한 개발 막는다

IT동아

2023.12.12 14:18:50

조회 913 추천 6 댓글 10

[IT동아 남시현 기자] 현지시간 12월 9일, 유럽연합 이사회 의장단과 유럽의회 협상단이 ‘인공지능 법’에 대한 잠정 합의에 도달했다. 관련 투표는 내년 초 개최 예정이며, 2025년은 되어야 공식 발효될 전망이다. 전 세계적으로 인공지능 개발이 속도를 내고 있는 가운데, 정부 차원에서 인공지능에 대한 규제를 성문화한 것은 세계 최초다. 규정 초안은 유럽 시장에 배치되는 인공지능을 개발하는 규칙을 담고 있으며, 원격 생체 인식이나 기본권 영향 평가 등을 의무적으로 수행한다.

EU AI법, 책임감 있는 AI 만들도록 강제한다

이번 EU AI법은 인공지능 개발에서 등외시되고 있는 ‘책임감 있는 AI’를 강제적으로 이행하게 만든다는 점에서 의의가 크다. 지난 2017년, 전 세계 경제, 법률, 윤리, 철학 분야의 100여 명 이상의 리더 및 연구자들이 캘리포니아 주 아실로마 콘퍼런스 그라운드에서 AI 연구를 위한 24가지 아실로마 AI 원칙을 제정했다.

해당 이미지는 어도비의 생성형 AI를 활용해 만들어진 이미지다 / 출처=유럽의회

원칙은 연구 이슈(5개 항), 윤리와 가치(13개 항), 장기 이슈(5개 항)까지 총 3개 범주로 구성돼 있고, 물리학자 스티븐 호킹이나 컴퓨터 공학자 레이 커즈와일, 오픈AI의 샘 알트만, 일론 머스크 등 2천300여 명이 서명했다. 하지만 주요 참여 인력이었던 오픈AI가 인공지능에 대한 안전보다 기술적 알 권리를 내세워 챗GPT를 공개했고, 이로인해 구글과 메타AI, 마이크로소프트 등도 잇달아 인공지능을 공개하면서 무한 경쟁이 시작됐다.

그렇게 지난해 11월 갑자기 등장한 챗GPT는 세상을 바꿔놓았고, 연이어 등장한 생성형 AI와 대형 언어 모델은 1년도 되지 않아 전 세계 모든 산업 생태계를 바꿔놓기 시작했다. 문제는 속도가 지나치게 빨라 곳곳에서 경제, 윤리, 개인정보 보호, 지속가능성 등에 대한 우려가 터져나오는 상황이다.

강제력 없는 블레츨리 선언, 강제력 갖춘 EU AI법

이에 대응해 전 세계 28개국은 지난 11월 2일 영국 블레츨리 파크에서 ‘AI 안전 정상회의’를 열고 인공지능의 위험성을 평가하고 관리하는 ‘블레츨리 선언’을 발표했고, 2021년 4월에 제출된 EU AI법이 합의 끝에 법제화를 시작하면서 무분별한 인공지능 개발에도 제동 장치가 마련됐다.

블레츨리 선언의 경우 미국, 영국 두 국가가 주도하며, ‘국가 AI 연구 자원’을 통해 전 세계 AI 연구자들을 위한 클라우드를 제공함과 더불어 AI가 도입되는 다양한 분야에서 표준과 정의를 수립하는 데 주력한다. 예를 들어 비전 인식 분야에서는 개인 안면 인식 등의 표준화를 만들고, 자율주행 측면에서는 도덕적 딜레마 등의 원칙을 세우는 것이다.

11월 2일, 윤석열 대통령이 영국에서 열린 제 1차 AI 안전 정상회의에 화상으로 참석했다 / 출처=대한민국 대통령실

EU AI법은 블레츨리 선언보다 훨씬 더 면밀하고 정확하며, 처벌 규정까지 담고 있다. 합의된 초안은 향후 시스템 위험을 초래할 수 있는 영향력이 큰 범용 AI 모델, 그리고 고위험 AI 시스템에 대한 규칙을 수립하며, EU 수준에서 운영 차원에 집행 권한을 갖는다. 또 금지 목록을 만들고, 공공장소에서 법 집행 기관이 원격 생체 인식을 사용할 수 있도록 허용한다. 또한 고위험 AI 개발사는 기본권 영향 평가를 의무적으로 수행해 대상사 권리를 보호한다.

대신 민감 데이터의 적절한 취급, 업무 능력의 보존 등의 내용을 담은 적합성 평가를 통과했을 경우 문제없이 사용할 수 있고, 이를 위해 투명성 의무를 준수해야 할 것을 주문한다. 만약 AI 법을 위반할 경우 글로벌 연간 매출액의 7% 또는 3500만 유로(약 495억 원)의 벌금을 내게 된다. 유럽의회는 표결 이후 약 2년 뒤부터 해당 법안을 발효할 예정이다.

GDPR 절차 밟는 EU AI법, 우리나라는 지지부진해

EU AI법은 유럽 일반 개인정보 보호법(GDPR)과 동일한 절차를 밟을 것으로 보인다. GDPR은 EU 내에서 사업하는 조직 및 기관이 EU 시민의 데이터와 개인정보를 저장 및 전송 등을 규제하는 법안이며, 매출의 4% 또는 2000만 유로(283억 원)를 벌금으로 납부하는 강제력이 있다. 이로 인해 전 세계 모든 기업들이 GDPR에 맞는 개인정보 보호 방안 절차를 마련했고, 자연스레 취급 방안이 표준화됐다. EU AI법은 더 큰 강제력을 갖췄으며, 소수의 개발 기업들을 겨냥한 입법이어서 더 강력하게 작용할 것이다.

국회의사당 전경 / 출처=국회자료실

문제는 우리나라다. 우리 국회는 2021년 이루다 사태 등 개인정보 보호 위반 사례를 계기로 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률’로 규제안을 마련했지만, 지난 2월 과방위 법안 소위 통과 이후 지지부진한 상황이다. 심지어 신뢰성 검증과 사전 적정성 검토제가 제대로 논의되지 않아 법안 자체의 허점이 큰 상황이다. 전 세계적으로 AI에 대한 강력한 규제가 마련되고 있는 만큼, 무분별한 AI 개발을 막기 위해서라도 대책이 시급하다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 출장지 날씨 예상부터 미팅 제안 글까지 작성하는 ‘자율 AI’ 선보인 ‘라이너’▶ 샘 올트먼 복귀로 끝난 오픈AI 쿠데타…'AI 개발론'에 무게추 ▶ 'AI 철학' 갈등이 쿠데타로…오픈AI서 무슨 일이 있었나

고정닉 1

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	시세차익 부러워 부동산 보는 눈 배우고 싶은 스타는?	운영자	24/05/27	-	-
3858	AI 구심점으로 떠오른 '컴퓨텍스', 올해 주목할만한 기업 별 소식은?	IT동아	18:31	4	0
3857	[IT애정남] 로봇청소기 고를 때 고려할 점은?	IT동아	17:25	143	0
3856	두루·무의 “모두의1층이니셔티브로 장애 인식·접근성 개선”	IT동아	16:05	16	0
3855	[자동차와 法] 음주운전 시 위드마크 공식 적용의 문제점에 대하여	IT동아	05.28	156	0
3854	[신차공개] 기아 'EV3'·벤틀리 '더 뉴 컨티넨탈 GT' 론칭 예고	IT동아	05.28	43	0
3853	[뉴스줌인] 내연기관차 이어 전기차 찍은 LG전자 웹OS, 다음 목표는?	IT동아	05.28	83	0
3852	글로벌 가상자산 정책 동향 ‘제도 틀 안에서 규제 공백 보완’	IT동아	05.28	40	0
3851	샥즈, 오픈스윔 프로·오픈핏 에어 출시···오픈형 이어폰 1위 입지 굳힌다	IT동아	05.28	49	0
3850	서울과기대의 제조창업 지원, '밀도있는 심화 과정'으로 민다	IT동아	05.28	45	0
3849	아직도 안 찾고 쌓이는 숨은 보험금, 이 기회에 찾아볼까? [1]	IT동아	05.27	826	0
3848	자동차 에어컨 필터 고를 땐 이렇게! [이럴땐 이렇게!]	IT동아	05.27	758	0
3847	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 12	IT동아	05.26	120	0
3846	[자동차 디자人] 英 오프로더 SUV ‘그레나디어’ 디자이너 ‘토비 이큐어’	IT동아	05.24	162	0
3845	가상자산 시장 ‘거래량·수익 상승, 원화·코인 마켓 격차 뚜렷’	IT동아	05.24	151	0
3844	[농업이 IT(잇)다] 전통주로 과거ㆍ현재ㆍ미래를 잇는 나루 되겠다, 한강주조 고성용 대표	IT동아	05.24	156	1
3843	[IT하는법] 잘 사용하지 않는 MS 원드라이브, 사용 해제하는 방법 [4]	IT동아	05.24	1075	1
3842	‘천비디아’ 달성한 엔비디아, 독주할까? 반도체주와 함께할까?	IT동아	05.24	140	0
3841	SEC, 이더리움 현물 ETF 승인 “증권거래법 요건 충족”	IT동아	05.24	168	0
3840	벤처 투자 80%가 수도권 편중··· '투자 해결사'로 나선 부산창경	IT동아	05.24	165	0
3839	국내 통신3사 모두 "이제 우리는 AI 기업" [16]	IT동아	05.23	2162	1
3838	[IT애정남] 갤럭시 '생성형 편집', 어떻게 해야 잘 될까요?	IT동아	05.23	222	0
3837	즉석 카메라로 이런 ‘손맛’이? ‘인스탁스 미니 99’ 출시	IT동아	05.23	153	0
3836	스타트업 해외 진출 시 알아야 할 정보 공유 ‘라이징 스타트업 콘서트4’	IT동아	05.23	200	0
3835	[IT애정남] 해외 구매폰에 국내 유심 쓰는데 음성 통화 안되면? [1]	IT동아	05.23	1025	3
3834	퀄컴, 코파일럿+ PC 등장에 'AI 허브 및 개발 도구'로 지원 사격	IT동아	05.23	181	0
3833	네카오, 글로벌 공략 갈 길 바쁜데…일단 멈춤	IT동아	05.23	139	0
3832	2025년 상반기 탄생할 주식 대체거래소(ATS), 이렇게 달라진다	IT동아	05.23	157	0
3831	AMD, 에픽·MI300X 투트랙으로 AI 산업 주도권 확보 나서	IT동아	05.22	152	0
3830	'직장인 3명 중 1명, 데이터 도출 어려워'··· AI 기반 자동화가 해답될까?	IT동아	05.22	170	0
3829	산행 보조부터 산불 진화까지...'입는 로봇' 활용처 확대 [1]	IT동아	05.22	5054	1
3828	대거 출시 예고한 Arm CPU 기반 윈도우 PC, 뭐가 다를까?	IT동아	05.22	231	0
3827	비트코인 피자데이, 업비트·빗썸 “피자 2024판 쏜다” [17]	IT동아	05.22	7167	4
3826	[생성 AI 길라잡이] 음성과 이미지만 있으면 영상을 만든다 ‘런웨이ML’	IT동아	05.21	1858	0
3825	가속 페달 밟은 검색광고 시장 경쟁, 보라웨어 ‘AI 검색광고 관리 솔루션에 주목해야 되는 이유	IT동아	05.21	156	0
3824	부르면 달려오는 '이동형 전기차 충전기' 시장 기지개 [14]	IT동아	05.21	2043	0
3823	MS, '코파일럿 플러스 PC' 발표…AI 시대의 새로운 PC 제시	IT동아	05.21	226	0
3822	업비트·빗썸, 1분기 실적 개선···투자자 보호·서비스 개선에 주력한다	IT동아	05.21	146	0
3821	GPT4o와 GPT4 비교해 보니··· '사람 대 AI의 근본적인 접근 방식 바꿔' [6]	IT동아	05.21	1422	3
3820	삼성전자, '비스포크 AI 콤보' 에센셜 화이트 색상 출시…색상 라인업 강화	IT동아	05.20	205	0
3819	채팅창 넘어 일상으로…'만능 AI 비서' 시대 온다	IT동아	05.20	577	0
3818	오늘부터 시끄러운 불법 튜닝 오토바이 집중 단속 [6]	IT동아	05.20	711	6
3817	AWS 서밋 행사장에서 펼쳐진 훈훈한 ‘프리킥’	IT동아	05.20	190	0
3816	[주간투자동향] 라피치, 60억 원 규모 투자 유치	IT동아	05.20	154	0
3815	키보드의 윈도 키, 최대한 활용하려면 이렇게![이럴땐 이렇게!] [5]	IT동아	05.20	1491	16
3814	인포플라 “대답만 하던 기존 AI의 한계, VLM 기반 자동화로 극복” [4]	IT동아	05.18	7067	3
3813	6월 인공지능ㆍ반도체 시장 엔비디아 손에 달렸다	IT동아	05.17	246	0
3812	[시승기] 시대를 초월한 디자인 DNA…’포르쉐 911 카레라 쿠페’	IT동아	05.17	241	0
3811	[IT신상공개] 입맛대로 고르는 저음, 소니 얼트 파워 사운드	IT동아	05.17	256	0
3810	"코바코의 대국민 AI 광고 제작 서비스, 네이버가 함께합니다"	IT동아	05.17	235	0
3809	[생성 AI 길라잡이] 더 사람 같아진 AI, 'GPT-4o'는 어떻게 다를까? [2]	IT동아	05.17	1369	1