인권위, AI 개발·활용 가이드라인 제시…“인간의 존엄·평등권 보장해야”

일러스트. 김상민 기자

국가인권위원회가 인공지능(AI)의 개발·활용에서 발생할 수 있는 인권침해를 방지하기 위해 민·관이 준수해야 할 가이드라인을 제시했다.

17일 경향신문 취재를 종합하면 국가인권위원회는 11일 제6차 전원위원회 회의를 열고 ‘인공지능 개발과 활용을 위한 인권 가이드라인 권고 건’을 원안 의결했다. 인권위는 “정부 부처에서 제시하는 AI 윤리 기준이 인공지능 관련 인권적 제도에 기반을 두고 있지 않다”며 이같이 밝혔다. 자율규제 방식 위주인 윤리강령에서 나아가 보편적 인권 기준에 따른 가이드라인을 만든 것이다.

가이드라인은 인간의 존엄성, 알 권리, 자기 결정권, 평등권 보장 등을 기본 원칙으로 내세웠다.

가이드라인에서는 정부·공공기관·사기업이 AI를 개발·활용하는 데 있어 인간의 존엄과 가치, 자율성을 침해해선 안 된다는 점을 명확히 했다. 인권위는 특히 인간의 생명과 안전에 영향을 미치는 고위험 인공지능에 대한 알고리즘이나 데이터가 일반 시민에게 공개되고 설명돼야 한다고 판단했다. 아울러 정보 주체가 자신의 정보가 언제, 어디서 사용되는지 알고 참여할 수 있는 권리가 보장돼야 한다고 밝혔다. 완전히 자동화된 의사결정임에도 개인에게 중대한 영향을 미칠 경우엔 인적 개입이 이뤄지거나 당사자가 해당 방식을 거부할 수 있어야 한다고 봤다.

인권위는 모든 사회 구성원에게 인공지능 혜택이 평등하게 제공돼야 한다고 강조했다. AI를 개발·활용하는 전반적인 과정에서 차별·편향적인 결과가 나오지 않도록 데이터를 검수하고, 이미 개발한 AI도 모니터링을 통해 차별적 결과가 일어나지 않도록 개선 조치를 하라는 내용이 포함됐다.

국가의 책임도 명시했다. 인권위는 국가가 인권침해, 차별 가능성, 당사자 책임 등을 고려해 인공지능 개발·활용에 대한 인권영향 평가를 하고, 이 평가를 개발해 적용하는 것을 의무화하도록 했다. 국가가 개인의 인권과 안전에 미치는 위험도를 등급별로 구분해 이에 따른 규제 수준을 정하고 인적 개입이 이뤄지도록 법 제도를 마련하라는 방안도 내놨다. AI로 인권침해를 당하거나 차별받은 사람이 진정을 접수해 권리를 구제받을 수 있는 기회도 보장해야 한다고 강조했다. 또 원격 생체인식 기술은 공공장소에서 원칙적으로 금지하고 특별한 경우에 한해 사용하더라도 인권침해, 차별 위험성이 있으면 방지 조치를 할 때까지 사용을 중지해야 한다고 봤다.

인권위는 국무총리에게 이 가이드라인에 기초해 범정부적인 정책이 수립·이행되고 관계 법령이 규정될 수 있도록 관련 부처를 유기적으로 조정하고 통할할 것을 권고했다. 아울러 과학기술정보통신부를 비롯해 개인정보보호위원회, 방송통신위원회, 공정거래위원회, 금융위원회 등 인공지능과 관련된 부처에는 공공기관과 유관기업이 가이드라인을 준수하고, 인공지능과 관련한 인권침해와 차별이 발생하지 않도록 관리·감독하라고 권고했다.