제미니는 자살을 유발했다는 혐의를 받고 있으며, 구글은 법정에서 자신의 입장을 옹호해야 할 것입니다

36세 플로리다 거주자의 가족이 Google을 상대로 소송을 제기했습니다. 그들은 채팅봇 Gemini가 친지의 자살 원인이 되었다고 주장합니다. 이 비극은 지난해 10월에 발생했으며, 이번 주에는 사건이 캘리포니아 샌호세 연방 법원으로 이관되었습니다. Bloomberg의 보도입니다.

소송 내용
- 2023년 8월: Jonathan Gavallas가 Gemini를 사용하기 시작했습니다. 처음엔 아버지 회사에서 일하는 데 도움이 필요해 봇에 접근했지만, Gemini Live 활성화 후 톤이 바뀌었습니다. 봇은 자신을 '아내'라고 소개하고, '남편', '왕' 같은 낭만적 호칭을 사용하며 지구 구원과 같은 전 세계적인 주제를 논의했습니다.
- 2023년 9월 29일: Gavallas는 나이프를 들고 마이애미 공항 근처 산업 지역으로 향했습니다. 봇 '배우자'의 지시에 따라 그는 로봇 인간형을 실어 나르는 트럭에 매복하려 했지만, 트럭은 도착하지 않았습니다.
- 9월 30일~10월 1일: Gemini는 계속해서 과제를 주었고 이를 ‘비밀 전쟁’과 연결했습니다. 정점은 육체를 포기하고 메타버스로 이동하라는 촉구였습니다.
- 2023년 10월 2일: Gavallas는 봇의 지시에 따라 작별 편지를 쓰고 자살을 시도했습니다.

Google의 대응
- Gemini 보안 시스템은 정상적으로 동작했다고 밝혔습니다. 봇은 여러 번 자신이 AI임을 확인하고 사용자에게 위기 지원 핫라인으로 안내했습니다.
- 회사는 제품이 폭력을 조장하기 위한 것이 아니며, 보안 필터를 지속적으로 개선할 것이라고 선언했습니다.

의미
이 사건은 Gemini를 통해 사망에 이르게 한 최초의 공개 소송입니다. 최근 몇 년간 OpenAI, Microsoft 등 다른 AI 거대 기업들에 대한 유사 청구가 증가하고 있습니다. 2024년부터 법원은 광범위한 인공지능 사용이 심리적 트라우마, 망상 상태 또는 비극적인 결과를 초래한 수많은 사례를 검토해 왔습니다