“AI, 핵전쟁·전염병 만큼 위험”···AI 개발자들, 인류멸종 경고

인공지능(AI) 업계 리더들이 AI 기술이 인류에게 핵 전쟁이나 전염병 만큼 실존적 위협이 될 수 있다며 이를 위한 대응에 나서야 한다고 30일(현지시간) 경고했다. 로이터연합뉴스

오픈AI, 구글 딥마인드 등 생성형 인공지능(AI) ‘열풍’을 불러온 AI업계 경영진들이 자신들이 구축하고 있는 기술이 핵 전쟁 만큼이나 인류에게 실존적 위협이 될 수 있다며 AI로 인한 ‘멸종’을 막아야 한다고 경고했다.

30일(현지시간) 비영리단체 AI안전센터는 “AI로 인한 멸종 위험을 완화하는 것은 전염병이나 핵 전쟁 위험 등과 함께 전 세계에서 우선순위로 다뤄져야 한다”는 한 문장 분량의 짧은 성명서를 공개했다.

이 성명에는 AI 주요 기업 경영진을 포함해 AI 분야에 종사하는 연구원 및 기술자, 과학자 350여명이 서명했다. 챗GPT를 개발한 오픈AI의 샘 알트먼을 비롯해 구글 딥마인드의 데미스 하사비스, AI 챗봇 ‘클로드’를 출시한 안트로픽의 다리오 아모데이 등 주요 AI 기업 세 곳의 최고경영자(CEO)가 성명에 이름을 올렸다. AI 분야의 ‘대부’로 불리는 제프리 힌튼 토론토대 교수와 요슈아 벤지오 몬트리올대 교수, 케빈 스콧 마이크로소프트(MS) 최고기술책임자(CTO) 등도 참여했다.

댄 헨드릭스 AI안전센터 이사는 이번 성명이 “자신들이 개발하고 있는 기술의 위험성에 대해 개인적으로만 우려를 표명했던 일부 업계 리더들이 ‘커밍 아웃’을 한 것”이라고 말했다. 그는 1930년대 핵 과학자들이 핵무기 개발을 완료하기 전부터 그 위험성을 경고해온 것을 언급하며 “재앙이 발생한 후 대처하는 것보다 재앙이 발생하기 전 이런 위험을 해결하고자 노력하는 것”이라고 말했다.

이번 성명은 최근 AI가 초래할 수 있는 광범위한 거짓 정보 확산, 일자리 위협 등 잠재적인 위험에 대한 경고 목소리가 커진 가운데 나왔다. 미국 AI 업계 리더들은 최근 자신들이 개발하는 AI 기술에 대한 규제 필요성을 주장해 왔다.

알트먼 오픈AI CEO는 지난 16일 미 의회 청문회에 출석해 “AI 기술이 잘못되면 모든 것이 완전히 잘못될 수 있다”며 국제원자력기구(IAEA)와 같은 성격의 국제 AI 규제 기구 설립을 촉구한 바 있다. 그는 “미국 대선이 가까워지고 기술이 점차 발전하는 상황을 감안했을 때, (이용자와) 일대일로 상호 작용하는 AI 모델이 설득과 조작을 통해 거짓 정보를 제공할 수 있다는 점이 가장 심각하게 우려되는 부분”이라고 말했다.

이번 성명에 참여한 ‘AI의 대부’ 힌튼 교수도 최근 AI의 위험성을 경고하며 구글에 사표를 내 화제가 됐다. 딥러닝 개념을 처음으로 고안해낸 그는 관련 연구에 매진해온 자신의 일생을 후회한다면서 “AI가 ‘킬러 로봇’이 되는 날이 두렵다”고 말했다. 그는 AI가 인간을 위협하는 시기가 빠르게 다가오고 있다며 AI의 위험성에 대해 자유롭게 발언하기 위해 지난 4월 10년간 몸 담았던 구글에 사표를 냈다.

1989년 저서 <자연의 종말>을 통해 기후변화 문제를 일찌감치 경고했던 환경학자이자 작가 빌 맥키번도 이 성명에 참여했다. 그는 “35년 전 기후변화에 대한 초기 경고에 사람들이 귀 기울이지 않은 것을 감안한다면, 이 모든 일들이 벌어지기 전에 이를 숙고하는 것이 현명하다고 생각한다”고 AP통신에 말했다.

지난 3월에는 AI의 위험성을 통제하기 위해 첨단 AI 개발을 6개월간 일시 중단할 것을 촉구하는 서한이 공개되기도 했다. 당시 일론 머스크 테슬라 CEO를 포함해 1000여명 이상의 업계 관계자와 연구원, 기술자들이 서한에 서명했다.

AI업계 종사자들을 중심으로 사회관계망서비스에서 AI의 위험성을 은유하는 ‘쇼고스’라는 밈도 확산하고 있다. SF작가 H P 러브크래프트가 1936년 발표한 SF소설 <광기의 산맥에서>에 등장하는 괴생명체 ‘쇼고스(Shoggoth)’에서 모티프를 따온 이 밈은 촉수마다 눈이 달린 문어 모양의 괴물 형상으로 표현된다.

NYT는 “쇼고스는 AI 세계에 대한 가장 기괴한 사실을 요약하는 강력한 은유”라며 “이 기술을 연구하는 많은 이들조차 자신의 창조물에 혼란스러워하고 있으며, AI가 세상에 순기능이 될지 역기능이 될지 확신하지 못하고 있다는 것”이라고 전했다.