A ChatGPT-hez és a Binghez hasonló AI-eszközök nem csak a hétköznapi emberek számára lehetnek hasznosak, hanem a jelek szerint a hackereknek is, ugyanis vállalati vezetők azt állítják, hogy ezeket a programokat kibertámadásokhoz is használják, hogy még jobb kódokat készítsenek.
Az OpenAI azt állítja, hogy kínai, orosz, észak-koreai és iráni hackercsoportok is használják a generatív AI (GAI) eszközeiket többek között kódhibakeresésre, nyílt forráskódú információk keresésére, szociális tervezési technikák fejlesztésére, adathalász e-mailek megfogalmazására és szövegek fordítására. A vállalat idő közben megtiltotta a csoportok hozzáférését GAI-rendszereihez.
A hírhedt orosz Forest Blizzard csoport (ismertebb nevénFancy Bearvagy APT 12) egyike volt azoknak az állami szereplőknek, akik állítólag az OpenAI platformját használták. A hackerek az OpenAI-eszközöket elsősorban a műholdas kommunikációs protokollok és a radarképalkotási technológia nyílt forráskódú kutatására, valamint a szkriptelési feladatok támogatására használták.
