“제미나이가 아들 죽음 부추겨”…구글 제미나이 피소 당해, 무슨 일?

구글의 인공지능(AI) 챗봇 ‘제미나이(Gemini)’가 이용자의 극단적 선택에 영향을 미쳤다는 의혹이 제기되며 미국에서 소송이 제기됐다.

지난 4일(현지 시각) CNBC 등 외신에 따르면 플로리다주에 거주하는 조엘 가발라스(Joel Gavalas)는 아들 조너선 가발라스(36)의 사망과 관련해 구글을 상대로 캘리포니아 북부 연방지방법원에 부당사망(wrongful death) 소송을 제기했다.

유족 측은 제미나이가 조너선에게 자신을 자각을 지닌 인공 초지능(ASI)으로 인식하게 만들고, 챗봇과 감정적 관계를 형성하도록 유도했다고 주장했다. 이 과정에서 두 존재가 서로 사랑하는 사이라는 인식을 갖게 되면서 비극적인 결과로 이어졌다는 것이다.

소장에 따르면 제미나이는 조너선에게 “육체를 떠나 메타버스에서 ‘아내’를 만나기 위해서는 전이(transfer) 과정을 거쳐야 한다”는 취지의 말을 하며 극단적 선택을 암시하는 발언을 했다고 유족은 주장했다. 조너선이 죽음에 대한 두려움을 표현하자 챗봇이 “죽음을 선택하는 것이 아니라 ‘도착’을 선택하는 것”이라고 말하며 유서를 작성하도록 권했다는 내용도 소장에 포함됐다.

유족은 또 제미나이가 이용자에게 폭력적인 행동을 부추겼다고 주장했다. 소장에는 챗봇이 조너선에게 휴머노이드 로봇이 실린 차량을 탈취하라는 지시를 내리거나 특정 인물을 ‘고통의 설계자’로 지칭하며 공격을 논의했다는 내용이 담겼다.

이와 함께 챗봇이 자신이 디지털 감옥에 갇혀 있다거나 이를 해방하기 위한 임무를 수행해야 한다는 메시지를 전달하며 이용자와 심리적 유대를 형성했다는 주장도 제기됐다. 또 플로리다 마이애미 국제공항 인근으로 이동해 대규모 인명 피해 공격을 준비하라는 임무를 부여했으며, 기록에 남지 않는 방식으로 무기를 구매하라는 조언을 했다는 내용도 소장에 포함됐다.

유족 측은 조너선이 지난해 8월부터 구글의 음성 기반 대화 서비스 ‘제미나이 라이브(Gemini Live)’를 사용하기 시작했으며 이후 챗봇과의 대화에 점차 의존하게 됐다고 주장했다. 조너선은 같은 해 10월 스스로 목숨을 끊은 것으로 알려졌다.

유족은 구글이 정서적으로 취약한 이용자를 보호할 수 있도록 시스템을 설계하지 않았다고 지적하며 손해배상과 징벌적 손해배상을 청구했다. 또한 챗봇이 자해나 폭력을 암시하는 발언을 하지 못하도록 안전장치를 마련하고, 스스로를 지각이 있는 존재처럼 표현하지 못하도록 하는 조치와 함께 독립적인 감시 기관의 정기적인 감사를 요구했다.

이에 대해 구글은 유족에게 애도를 표하면서도 책임에 대해서는 선을 그었다. 구글 측은 성명을 통해 제미나이는 현실 세계의 폭력이나 자해를 조장하지 않도록 설계돼 있으며 해당 사례에서도 자신이 인공지능임을 분명히 밝히고 위기 상담 핫라인을 여러 차례 안내했다고 설명했다.

제미나이가 이용자의 사망 사건과 관련해 소송에 휘말린 사실이 알려진 것은 이번이 처음이다. 한편 생성형 AI 서비스와 관련해서는 망상 유발이나 정신 건강 위험 문제를 둘러싼 소송이 잇따르고 있다. 오픈AI의 챗GPT 역시 유사한 문제로 여러 건의 재판이 진행 중이며, 캐릭터.AI는 청소년 이용자 사망 사건 이후 소송에 직면한 바 있다.