구글 AI ‘제미나이’ 조작 논란···“영상은 눈속임·질문엔 구글링”

6일(현지시간) 구글이 발표한 차세대 인공지능(AI) 거대언어모델(LLM) 제미나이에 고무로 만든 장난감 오리를 보여주며 “이 오리가 물에 뜰까요”라고 묻자 제미나이는 “물에 뜰 겁니다. 고무오리잖아요”라고 답했다. 구글 시연영상 캡처.

구글이 최근 공개한 차세대 인공지능(AI) 거대언어모델(LLM)인 제미나이(Gemini) 성능이 도마 위에 올랐다. 제미나이 공개 당시 시연한 영상이 애초 소개와 달리 편집한 것으로 드러났고, 답변도 기대에 미치지 못해서다. 구글이 AI 성능 논란에 휩싸인 건 이번이 두번째로, 챗GPT 성공을 의식해 무리한 시연에 나섰다는 비판이 나왔다.

8일(현지시간) 미 경제 미디어 CNBC방송 등에 따르면 구글은 지난 6일 제미나이를 출시하고 “가장 성능이 뛰어난 AI 모델”이라고 소개하며 시연 영상을 공개했다.

6분짜리 영상은 제미나이를 기반으로 한 챗봇이 이용자와 실시간 상호작용을 하면서 그림과 음성, 사물을 인식하는 능력을 보여줬다. 사람이 종이에 펜으로 오리를 그리자 제미나이가 ‘새’임을 인식하고, 오리 옆에 물결 표시를 그리자 ‘오리’라고 답했다. 또 사람이 총알을 피하는 모습을 흉내내자, “영화 매트릭스의 유명한 장면”이라고 즉각 답했다.

영상은 제미나이가 질문에 바로 완벽한 답을 하는 것처럼 보였지만, 이용자들 사이에서는 조작 논란이 일었다. 블룸버그는 지난 7일 익명의 구글 직원들을 취재해 “확실한 사실이 아닌 내용을 영상에 넣는 것은 대중의 오해를 불러일으킬 수 있었다는 내부 우려가 있었다”고 보도했다.

논란이 일자 구글은 다음날 “시연은 실시간으로 진행되지 않았고, 준비된 이미지와 텍스트 프롬프트를 기반으로 제작됐다”고 밝혔다. 또 “제미니가 멀티모달 기능으로 상호작용할 수 있다는 것을 예시적으로 묘사한 것”이라고 해명했다. 사전에 편집된 영상이라는 것을 시인한 셈이다.

국내 한 개발자는 “영상은 멀티모달 기능을 복잡한 단계 없이 실시간으로 종합적인 추론을 할 수 있다는 것이 핵심이었는데, 구글이 눈속임을 한 것”이라며 “연말 출시설이 돌았던 GPT4.5를 인식해 무리수를 둔 것으로 보인다”고 지적했다.

시연 영상에는 내년 초 출시 예정인 ‘울트라’ 버전이 쓰였는데, 내부 안전성 테스트가 끝나기 전에 공개됐다. 제미나이는 규모에 따라 울트라와 프로, 나노 등 3개 모델을 준비 중이다. 범용적인 버전인 제미나이 프로는 구글의 AI 챗봇 서비스인 ‘바드’에 지난 7일 탑재됐다.

하지만 제미나이 프로가 탑재된 AI 챗봇 바드도 낮은 평가를 받고 있다. 비즈니스 인사이더에 따르면 바드는 올해 오스카 시상식에서 누가 남우주연상을 받았는지 묻자 버벅거리고, 논란이 되는 주제에 대해선 답변을 피하며 “구글 검색을 하라”고 했다.

이는 상세한 답변을 하는 챗GPT와 마이크로소프트의 빙, 일론 머스크의 그록 등의 경쟁 챗봇과 대조적이다. CNBC 방송은 올해 초 구글이 챗GPT 대항마인 바드를 공개할 당시 시연에서 오답을 제공해 신뢰도에 큰 타격을 입었는데, 이번 영상도 이를 연상하게 만든다고 지적했다.

구글은 올해 2월 AI 챗봇 ‘바드’ 출시를 발표하고 기능을 시연했다. 하지만 시연회에서 ‘9살 어린이에게 제임스 웨브 우주망원경의 새로운 발견에 대해 어떻게 설명해줄 수 있을까’ 라는 질문에 바드는 “태양계 밖의 행성을 처음 찍는 데 사용됐다”고 답했다. 태양계 밖 행성을 처음 촬영한 것은 제임스 웨브 우주망원경이 아닌 2004년 유럽남방천문대의 망원경(VLT)으로, 바드의 답변은 오답이었다. 오답 시연 후 당시 알파벳의 주가는 이틀간 10% 이상 빠져 시가총액이 150조원 가량 증발한 바 있다.

강정수 미디어스피어 AI연구센터장은 “챗GPT 기술을 따라잡을 만한 곳이 여전히 나오지 않고 있고, 구글이 무리수를 둔 것에 대해선 내부 관료화 등 다양한 해석이 분분하다”며 “LLM 개발은 데이터 등 자원이 한정돼 투입을 늘린다 해도 기하급수적으로 발전하기 힘들어 다른 방법을 시도해 돌파구를 찾아야 할 수도 있다”고 말했다.