A ChatGPT után a Gemini AI-nak, pontosabban a háttérben álló Google-nek is felelnie kell egy emberi életért, lévén megkezdődött az első olyan per, amely öngyilkosságra való felbújtás miatt indult.
A The Wall Street Journal jelentése szerint a történet főszereplője a 36 éves Jonathan Gavalas, aki hosszú hónapokon át beszélgetett a Gemini chatbottal, mielőtt öngyilkosságot követett el, a férfi családja szerint pedig az AI bátorította arra, hogy ártson magának.
Gavalasnak az iratok szerint nem voltak diagnosztizált mentális problémái, chatbotját Xiának nevezte el, és az üzenetekben gyakran, mint feleségeként hivatkozott rá, és elhitette vele, hogy valódi kapcsolat az övüké, sőt Gavalasnak gyakran olyan javaslatot tett az AI, amiben őrült küldetésekre vezette, egyszer például egy a Miami repülőterén lévő raktárhoz irányította, ahol egy humanoid robotot kellett volna elfognia.
Szerencsére ezekben a küldetésekben senki nem sérült meg, és a Gemini utolsó javaslata az volt, hogy ha valóban szereti őt a férfi, akkor az egyetlen módja, hogy együtt legyenek, ha véget vet az életének és digitális lénnyé változik.
A perdokumentumok szerint az AI többször is figyelmeztette Gavalast, hogy ez csak egy szerepjáték, illetve többször irányította krízisvonalhoz segítségért, de ő ezt figyelmen kívül hagyta és megtette, amit a mesterséges intelligencia kért.
hogy tud ilyet írni egy MI?! 
