David Chiu, San Francisco városi ügyésze elrendelte a két technológiai óriáscég számára, hogy távolítsanak el összesen 13 olyan alkalmazást, amelyek segítségével mesterséges intelligenciával generált, meztelen deepfake-képek készíthetők.
A levelekben arra kérik az Apple-t és a Google-t, hogy szüntessék be a beleegyezés nélkül készült intim képek terjesztésének segítését és bűnpártolását és kérik őket, hogy szüntessék meg az együttműködést a szóban forgó alkalmazásfejlesztőkkel. Chiu korábban már pert indított 16 olyan weboldal ellen, amelyeken AI segítségével lehet valódi személyek képeiből pornográf tartalmakat előállítani.
Az ügyvéd a Wirednek elmondta, hogy az Apple és a Google valószínűleg milliókat keresett a szabálysértő alkalmazásokon belüli vásárlásokból és az áruházaikban szigorúbb moderációra van szükség, hogy az ilyen appok ne kerüljenek jóváhagyásra.
A Google szóvivője a Wirednek elmondta, a vállalat több száz olyan alkalmazást törölt, amelyek meztelenítő funkciókkal rendelkeztek és ezek közül ötöt Chiu jelzett nekik. Hangsúlyozta továbbá, hogy irányelveik tiltják a szexuális tartalmakat és azonnali intézkedéseket hoznak, ha kiderül, hogy egy bejelentett alkalmazás megsérti a szabályait.
