A hackerek új célpontjává váltak a chatbotok regisztrációjánál megadott adatok, melyeket rosszindulatú programokkal igyekeznek megszerezni. Az egyik legnépszerűbb ilyen program a Raccoon Stealer, melyet több, mint 78 000 esetben használtak a hackerek, de a Vidar és a Redline programok is népszerűek.
Az ilyen rosszindulatú programok általában összegyűjtik a böngészőkben elmentett hitelesítő adatokat, bankkártya-adatokat, kriptovaluta pénztárcákat, sütiket és böngészési előzményeket, és elküldik azokat az üzemeltetőnek (hackernek). Az azonnali üzenetküldők és az e-mailek is egyre gyakoribb célponttá váltak az infolopók számára. Mivel a ChatGPT és más chatbotok elmentik az előzményeket, ezek olyan információkat tartalmazhatnak, melyek sokat érhetnek a dark weben.
Elég csak például a Samsung három alkalmazottjára gondolni, akik érzékeny vállalati adatokat szivárogtattak ki a ChatGPT használatával. Éppen emiatt tiltja be a legtöbb techvállalat a dolgozói számára, hogy chatbotot használjanak munkájukhoz.