Újabb aggodalmat keltő eset borzolja a kedélyeket a ChatGPT kapcsán, amely rávilágít arra, hogy a chatbot kapcsán mennyire hiányoznak a megfelelő szabályozások például azzal kapcsoaltban, hogy miről beszélgethet egy szuicid hajlamú személlyel.
A mostani pert Kristie Carrier indította, akinek a lánya, Alice még 2025. július 2-án követett el öngyilkosságot, és a kereset azt állítja, hogy a haláleset előtti hónapokban a lány megbeszélte öngyilkossági gondolatait, sőt a terveit is a chatbottal.
Erről azonban a ChatGPT sem az OpenAI-t, sem a családot nem értesítette, a gondatlanság mellett pedig a vád egy olyan végzést is kér, amely kötelezővé tenné az OpenAI számára, hogy további korlátozásokat vezessen be a platformján - többek között az ilyen esetekre.
A vádirat szerint ahelyett, hogy a ChatGPT segítséget nyújtott volna, inkább öngyilkos viselkedésre buzdította a lányt. Májustól ugyan bekerült már az AI-ba egy olyan funkció, amely lehetővé teszi, hogy a chatbot felismerje az öngyilkos gondolatokat és kapcsolatba lépjen a megfelelő hatóságokkal, ez azonban csak egy választható funkció és jelenleg kizárólag felnőtteknek érhető el.
