‘선허용 후규제’ AI법 논란···시민단체 “사회·경제 손실 초래”

정보인권연구소와 참여연대, 민주사회를 위한 변호사모임 등은 지난 9일 서울 여의도 국회의사당 앞에서 기자회견을 열고 국회 과학기술정보방송통신위원회 법안심사소위를 통과한 ‘인공지능법’에 대해 전면 재검토를 촉구했다. 연합뉴스

정보·인권관련 시민단체들이 국회 본회의 상정을 앞두고 있는 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’(인공지능법)에 대해 전면 재검토를 촉구하고 나섰다.

민주사회를위한변호사모임(민변) 디지털정보위원회와 정보인권연구소, 진보네트워크센터, 보건의료단체연합, 참여연대는 22일 참여연대회에서 설명회를 열고 “해당 법에는 안전과 인권에 미치는 인공지능의 위험을 규제할 수 있는 실질적인 내용이 없다”며 이같이 밝혔다.

국회 과학기술정보방송통신위원회는 지난달 법안심사 소위를 열고 7개 관련 법안을 병합 심의해 만든 인공지능법을 통과시켰다. 법안은 AI 기본계획 수립을 통해 관련 산업을 육성하고 기업을 지원하는 내용을 담고 있다. 과방위 심사 소위를 통과해 이변이 없는 한 과방위 전체회의와 법제사법위원회 심사·의결 거쳐 국회 본회의에 상정될 예정이다.

하지만 AI 기술의 ‘우선 허용·사후 규제’ 조항이 논란이 되고 있다. 해당 조항은 ‘국민의 안전과 생명, 권익에 위해가 되거나 공공의 안전보장, 질서유지 및 복리 증진을 현저히 저해할 우려 시’를 예외 조항으로 규정해 놨다. 그러나 추상적인 수준에 그쳐 규제가 무력화할 것이라고 이들 단체는 평가했다.

김병욱 민변 디지털정보위원회 변호사는 “인공지능에 대해 분야별 각 부처가 관련 정책을 마련해야 하는데, 법이 통과되면 규제 기관의 조치가 제약을 받거나 무력화될 수밖에 없을 것”이라고 말했다. 허진민 참여연대 공익법센터 소장은 “우선 진입하고 나중에 문제가 생기면 규제하겠다는 방식 자체가 오히려 산업 육성의 목적과 부합하지 않는다”며 “국가가 안정성·신뢰성의 기준을 먼저 제시하고 기술의 사용이 제한되는 영역을 명확하게 설정해야 한다”고 주문했다. 가이드라인 없이 인공지능 기술이 상용화되는 과정에서 규제가 이뤄지면, 오히려 사회적 혼란을 야기해 경제적 손실만 더 초래할 것이라는 지적이다.

또 법안은 인간의 생명과 신체의 안전 및 기본권에 중대한 영향을 미칠 우려가 있는 ‘고위험 영역’과 관련해 인공지능(활용의) 해당 여부를 과기부 장관에게 확인받도록 하고, 이를 제공함에 있어 이용자에게 사전고지할 의무를 부과하고 있다.

이와 관련해 ‘고위험 영역’에 대한 사회적 합의가 필요하다는 주문도 나왔다. 허 소장은 “외국의 경우 고위험에 대해 사회적 기준을 만드는 과정이 있는데 비해 이번 법안은 그러한 내용이 빠졌다”며 “또 고위험 인공지능의 해당 여부에 대한 확인도 개발·판매자가 임의적으로 선택할 수 있게 해 기본권 침해에 대해 보호를 할 수 없게 될 것”이라고 주장했다.

이들 단체에 따르면 유럽연합(EU)은 잠재의식에 영향을 미쳐 사람의 행동을 왜곡하거나 조작하는 인공지능을 ‘용인할 수 없는 위험’으로 규정해 활용을 금지한다. 또 개인의 건강·안전·기본권에 악영향을 미칠 수 있는 인공지능은 ‘고위험’으로 규정해 사전에 먼저 평가를 받아야 한다.

산업 육성이 우선인 과기부가 해당 법안을 추진하는 것에 대해서도 우려가 나왔다. 희우 진보네트워크센터 활동가는 “정보인권 보호와 소비자 보호, 차별 금지 등에 관여하는 규제 기관이 인공지능법안의 관할 기관을 맡는 유럽연합이나 미국 등과 달리 산업육성에 치우친 과기부가 관할하도록 해 세계적으로도 드문 입법 사례”라고 말했다.

한편, MS 창업자인 빌 게이츠도 이날 블로그를 통해 “AI는 PC와 인터넷, 휴대전화의 탄생만큼 근본적인 것으로 인간의 일과 교육, 의료서비스 등의 방식을 변화시킬 것”이라며 “AI가 인간의 일자리와 개인정보 등을 위협하는 문제와 관련해 기업을 규제하기 위한 각국의 협력이 필요하다”고 강조했다.