미국 실리콘밸리에 번진 ‘효율적 이타주의’가 부른 오픈AI 사태

오픈AI 전 최고경영자(CEO) 샘 올트먼. AFP연합뉴스

샘 올트먼은 생성형 인공지능(AI)의 시대를 연 챗GPT 개발 주역이자 미국 스타트업 오픈AI의 최고경영자(CEO)였다. 그가 지난주 오픈AI 이사회에서 기습 해고를 당한 배경에는 AI의 위험성을 둘러싼 경영진 내 노선 갈등이 있다는 게 정설이다. 갈등의 핵심에는 미국 실리콘밸리에 널리 퍼진 ‘효율적 이타주의 운동’이 자리하고 있다.

효율적 이타주의는 냉철한 이성으로 타인을 이롭게 하는 방법을 찾자는 사상을 뜻한다. 감정적인 동기가 아닌, 과학과 데이터를 기반으로 인류 행복의 총합을 끌어올리자는 공리주의에 뿌리를 두고 있다. 대표적인 제창자는 <효율적 이타주의자>의 저자인 윤리학자 피터 싱어다. 최근에는 영국 옥스퍼드대 부교수인 윌리엄 맥어스킬이 이 운동을 이끌고 있다.

지난해 파산한 암호화폐 거래소 FTX의 샘 뱅크먼 프리드 CEO 역시 효율적 이타주의에 감화된 실리콘밸리 거물 중 하나다. MIT 재학 시절 맥어스킬 교수로부터 “나눠주려면 돈을 벌어라”는 조언을 들었다고 한다. 그가 설립한 자선기금 ‘FTX 퓨처 펀드’는 대표적인 효율적 이타주의 관련 재단으로 알려져 있다.

지난해 파산한 암호화폐 거래소 FTX의 최고경영자 샘 뱅크먼 프리드 역시 효율적 이타주의 운동에 깊이 감화를 받은 것으로 알려졌다. 지난 6월 뱅크먼 프리드가 뉴욕 맨해튼 연방법원을 나서는 모습. AP연합뉴스

효율적 이타주의는 AI 발전에도 큰 역할을 했다. 페이스북의 공동 창업자 더스틴 모스코비츠도 이 사상에 영향을 받았다. 그가 설립한 재단 ‘오픈 필란트로피’는 오픈AI에 3000만달러의 창업 대출을 제공했다. 딥마인드, 앤트로픽 같은 거대 AI 기업의 창립 멤버들도 효율적 이타주의 운동으로부터 깊은 영향을 받은 것으로 전해진다.

올트먼 본인도 해당 운동의 영향권에 있다. 그는 지난해 트위터에서 “엄청나게 결함이 있는 운동”이라고 선을 그으면서도 “개인으로서의 이타주의자들은 거의 항상 유난히 친절하고 선의를 지닌 사람들”이라고 평가했다. 그는 올해 초 언론 인터뷰에서 “범용인공지능(AGI)을 만들어 전 세계 부의 상당 부분을 획득한 뒤 이를 사람들에게 재분배하는 것”을 자신의 목표로 제시하기도 했다.

효율적 이타주의자에게 AI는 ‘안전하게 관리해야 할 대상’이다. 통제가 불가능할 정도로 똑똑해진 AI는 인류에게 재앙이 될 수 있다. 현 세대뿐만 아니라 미래 세대에게도 이익이 되는 방향으로 AI를 이끌기 위해서는 섣부른 사업화 대신 철저한 검증과 모니터링이 먼저라는 게 주된 생각이다.

오픈AI는 공식적으로 “효율적 이타주의 운동과 관련이 없다”며 거리두기를 한다. FTX의 뱅크먼 프리드가 사기 등의 혐의로 재판을 받으면서 이 운동까지도 싸잡아 “도덕적으로 파산했다”는 비난을 받았기 때문이다. 하지만 올트먼 해임을 주도한 것으로 알려진 타샤 매콜리, 헬렌 토너 등 2명의 이사는 효율적 이타주의에 깊이 관여해 온 것으로 전해진다. 특히 매콜리의 경우 효율적 이타주의 관련 재단 ‘이펙티브 벤처스’의 이사회 구성원으로도 활동 중이다.

뉴욕타임스는 “또 다른 올트먼 반대파 일리야 수츠케버는 효율적 이타주의자는 아니지만 AI가 인류를 파멸할 것이라는 두려움에 동기 부여를 받은 것으로 보인다”고 평가했다. 올트먼은 투자 유치와 사업화를 위해 인간에 필적할 만한 지능을 가진 AGI 기술을 공개적으로 홍보해 왔고, 올트먼이 ‘선을 넘었다’고 판단한 이사진이 해고를 단행했다는 것이다.

그러나 올트먼이 오픈AI의 대주주 마이크로소프트(MS)로 이직하는 것으로 해임 사태가 막을 내리면서, 주주의 이익을 무시하고 독단적인 결정을 내린 이사회의 ‘쿠데타’가 실패로 돌아갔다고 보는 견해가 우세하다. 수츠케버도 결국 “결정을 후회한다”고 했다. 블룸버그통신은 “올트먼 해고는 ‘비효율적인’ 효율적 이타주의로 인해 촉발됐다”며 “회사의 이사진들이 ‘AI가 인류를 노예로 만들 것’이라는 공포에 사로잡혀 있는 동안 기회를 낚아챈 MS가 승리를 거머쥐었다”고 밝혔다.