A CNN beszámolója szerint alig kezdte el árusítani mesterséges intelligenciára épülő plüssjátékait a FoloToy, egy fogyasztóvédelmi jelentés miatt máris vissza kellett hívniuk a boltokból, mert az AI miatt rendkívül veszélyesek.
A vizsgálatok ugyanis bebizonyították, hogy az OpenAI GPT-4o modelljére épülő játékok AI-ja nem lett eléggé korlátozva, ennek megfelelően gyerekjátékként lehet velük beszélgetni szinte bármilyen szexuális témáról, sőt arról is, hogy hol találhat gyufát vagy kést a gyermek a lakásban.
A kérdéses AI egy komplett játéksorozatban kapott helyet, így ott van egy plüssmaciban, egy pandában, egy antropomorf nyúlban és egy táncoló kaktuszban is, a jelentés alapján pedig minden olyan korláttól mentesek a kapcsolódó rendszerek, amelyek ideálissá tennék gyermekek számára.
A FoloToy azt ígérte, hogy minél előbb piacra dobja frissített játékait, valójában azonban erre már nem lesz lehetőségük, az OpenAI ugyanis azonnal hatállyal felfüggesztette velük az együttműködést, mert állításuk szerint megsértették felhasználási szabályaikat.
