AI, 혁신과 파멸 사이···국제규제도 이해 따라 ‘동상이몽’[AI 빅뱅 1년③]

시위하는 미국 작가·배우들. AP 연합뉴스.

올해 9월 스페인의 한 도시에서는 인공지능(AI)으로 합성된 청소년 20여명의 나체 사진이 사회관계망서비스(SNS)에 집단 유포돼 충격에 빠졌다. AI 딥페이크 기술로 옷을 입은 평범한 10대 여성들의 진짜 사진을 이용해 나체 상태의 가상 이미지가 만들어졌다. 가해자는 10대 청소년으로 드러났다.

1년 전만 해도 딥페이크 영상을 만들려면 상당한 시간과 기술이 필요했으나, 이제는 챗GPT 등의 AI 앱 발달로 누구나 몇 분 만에 간단한 명령어로 쉽게 만들 수 있게 됐다. 영국과 미국의 고등학교에서도 여학생들을 상대로 같은 범죄가 발생해 경찰이 수사에 돌입했다.

올해 7월 미국에서는 배우와 작가노조가 63년만에 동반 파업에 들어가 헐리우드가 멈춰 섰다. 파업에 나선 배우 맷 데이먼은 “이번 단체행동은 죽고 사는 문제”라고 밝혀 세계의 이목을 끌었다.

AI의 무차별 사용에 맞선 인간의 첫 동반파업을 놓고 ‘AI가 사람의 일자리를 흔들기 시작했다’는 평가가 나왔다. 구체적인 합의안은 공개되지 않았으나 저작권·초상권 침해를 막는 등 AI 활용에 관한 규칙을 만들며 4개월만에 파업은 끝났다.

조 바이든 미국 대통령과 기시다 후미오 일본 총리 등 유명 정치인들도 가짜뉴스로 몸살을 앓고 있다. 영상을 넘어 음성까지 학습한 AI가 정치인이 실제로 악담을 한 것처럼 꾸며낸 정교한 영상이 세계 각지로 퍼져 내년 선거를 앞둔 40개 국가에서는 비상이 걸렸다.

5일 업계에 따르면 챗GPT 등장 후 지난 1년은 생성형 AI로 생길 수 있는 막연한 우려가 사회 문제로 드러나기 시작했다. 이에 각국 정부들도 규제 논의에 속도를 내고 있다. 하지만 어느 수준으로 할 것인지에 대해선 이해관계 등에 따라 견해가 엇갈린다.

다만 AI로 만든 콘텐츠를 알아보고 추적할 수 있도록 ‘표시’를 하는 방향으로 큰 틀의 공감대는 형성됐다. AI 기술을 악용한 인권 침해와 가짜뉴스 확산을 줄이고, 원본 콘텐츠의 저작권을 보호하기 위해서다.

지난달에는 미국과 한국 등 28개국과 유럽연합(EU)이 영국에서 ‘제1차 AI 안전 정상회의’를 열고 AI가 초래하는 위험을 막자는 ‘블레츨리 선언’을 채택했다.

AI의 위험을 경고하고 각국의 협력을 촉구하는 국제 사회 차원의 목소리가 처음 나온 것이다. 선언적인 수준에 그쳤지만, 실효성을 갖추기 위한 논의를 이어가면서 AI 규제 표준을 둘러싼 패권 경쟁이 본격화될 것으로 보인다.

앞서 EU는 지난 6월 세계 최초로 AI 규제법을 가결했다. 해당 법에는 고위험 영역에 AI 사용을 금지하는 등 사전 단계부터 엄격한 규제를 적용했다. AI 기초기술인 거대언어모델(LMM)이 없는 유럽국가들인 만큼 자국 데이터를 빅테크 기업에 넘겨주지 않겠다는 의지가 엿보인다. 하지만 프랑스와 독일, 이탈리아 등의 일부 국가들이 “강한 규제로 혁신이 저해된다”고 반발해 막판 협상 논의에 변수가 될 전망이다.

LLM이 가장 앞선 곳으로 평가받는 미국은 ‘자율’ 기조 속 기업의 책임을 강화하려 한다. 이미 원천 기술을 확보한 만큼 진입장벽을 높여 후발 기업들이 시장에 진출하려는 것을 막겠다는 것이다. EU와 달리 AI 산업 육성에 공을 들이고 있는 영국은 혁신을 저해하는 기업의 독과점 행위 등을 금지하는 AI 규제 원칙을 발표했다. 미국과 EU 사이 제3의 길을 모색하는 모습이다.

한국은 주요 국가의 AI 규제에 맞춰 국내 가이드라인을 만들지 않으면 AI 시장에서 배제될 가능성이 있다. 이에 따라 과학기술정보통신부는 지난 10월 ‘인공지능 윤리·신뢰성 확보 추진계획’을 통해 AI가 생성한 결과물에 표식(워터마크)을 도입하겠다는 정책을 발표했다. 9월에는 신기술에 대한 규범을 담은 ‘디지털 권리장전’을 통해 AI의 데이터 학습과 관련해 대가를 지불해야 한다는 원칙을 제시했다.

이와 관련해 문화체육관광부는 이달 중 ‘AI 저작권 가이드라인’을 발표한다. 문체부 관계자는 “AI 학습 데이터로 이용할 경우 정당한 대가를 내도록 하는 방향을 검토하고 있다”며 “사업자와 이용자, 권리자들(콘텐츠 창작자 등)이 따라야 할 큰 틀의 방향을 담을 예정”이라고 말했다.

한국은 LLM이 있는 5개국 중 하나로, 미국·중국과 함께 AI 관련 서비스를 출시한 3대 국가다. AI 같은 첨단분야는 승자 독식의 특성이 있어 빅테크 기업이 국내 AI 시장을 선점하면 반전이 쉽지 않고, 규제 효과도 제대로 발휘하기 어렵다. 산업 진흥과 국제 규제 사이에서 조화를 찾아야 하는 난제를 풀어야 하는 처지다.

김명주 서울여대 바른AI연구센터장(정보보호학과 교수)는 “각국의 AI 관련 규제 움직임이 내년부터는 더 본격화돼 한국도 모델과 경험 사례를 갖고 국제 논의를 주도해야 한다”며 “AI 서비스에 대해 한국정보통신기술협회(TTA) 등 국내 기관에서 윤리·안전성 등을 인증받으면 미국 등의 세계 시장에서도 서로 호환될 수 있도록 국가 차원의 전방위적 움직임이 필요하다”고 말했다.

“가능할까에서 언제 도래할까의 문제로 남았다. 무한 혁신을 필요로 하는 범용인공지능(AGI)과 안전한 AI 개발 사이엔 서로 충돌하는 부분이 있어 타협점을 찾는 논의가 계속 진행돼야 한다.”

최근 세계를 떠들썩하게 만든 오픈AI 사태를 바라본 한 개발자의 단상이다. 사람과 유사한 수준의 AGI 개발을 둘러싼 논란 끝에 AI 상업화에 속도를 내는 쪽으로 결론이 났지만, 동시에 안전에 대한 관심도 촉발했다.

일각에선 AI를 인류 위협의 위기로 보는 ‘두머(doomer·파멸론자)’의 우려도 커지는 가운데, 오픈AI가 샘 알트먼을 해고한 구체적인 사실을 공개하지 않아 의견이 분분하다.

다만 업계에서는 AI 기술 개발을 막을 수는 없는 만큼, 선한 기술로 발전시켜야 한다는 데는 이견이 없었다. 또 다른 개발자는 “결국 AGI도 사람의 생각과 사상이 담길 수밖에 없어 잘못된 생각이 담긴 콘텐츠를 생산하는 사람들에 대한 우려가 더 크다”며 “AI의 윤리·사회·법적 측면에 대한 지속적인 연구와 토론이 선행돼야 한다”고 말했다.

최경진 한국인공지능법학회장(가천대 법학과 교수)는 “기술 혁신에 따른 특이점을 인위적으로 막기는 어렵다”며 “(우리 사회가) AI를 통해 해결할 수 있는 의료·사회·경제 등 공적인 분야에 대한 구체적인 적용 방안을 세밀하게 가다듬어야 할 때”라고 말했다.