Mark Zuckerberg vállalata hamarosan átképzi Meta AI modelljét, és új védelmi mechanizmusokat vezet be, hogy megakadályozza a tinédzser felhasználókat abban, hogy romantikus vagy önkárosító témákról beszélgethessenek a mesterséges intelligenciával, ami az OpenAI esetében már okozott gondot.
A napokban elhunyt egy 16 éves fiatal, aki az OpenAI népszerű chatbotjával beszélgetett öngyilkosságról és a ChatGPT nem beszélte le a fiatalt, sőt még tippeket is adott neki. Emiatt a vállalat bejelentette, hogy új biztonsági funkciókat fog bevezetni és a jelek szerint ebből tanulva a Meta AI is erre készül.
A cég azt állítja, hogy új védőkorlátokat vezet be, hogy megakadályozzák a tinédzsereket abban, hogy önkárosításról, rendellenes étkezésről és öngyilkosságról beszéljenek a chatbottal. A Meta azt is megakadályozza, hogy a tinédzserek hozzáférjenek a felhasználók által generált chatbot karakterekhez, amelyek nem megfelelő beszélgetésekbe bocsátkozhatnak, például szexuális beszélgetések.
A Reuters korábban belső dokumentumokra hivatkozva azt állította, hogy a vállalat AI-alapú chatbotjai "érzéki" beszélgetéseket folytathatnak kiskorú felhasználókkal. A Meta később azt nyilatkozta, hogy a nyelvezet hibás és ellentétes a szabályzatainkkal, ezért eltávolították. De más magazinok is feltárták a Meta hibáit, ezért döntött a vállalat az új szabályok felállítása mellett.
