Ismét sikerült rögzíteni néhány AI ügynök ijesztő ámokfutását

Most azonban az Egyesült Királyság AI Biztonsági Intézete (AISI) tette közzé legfrissebb jelentését, amely újabb megdöbbentő dolgokra bukkant, így kiderült, hogy a legtöbb AI modell függetlenül, keretek nélkül nagyon kártékony, sőt folyamatosan káros tevékenységet folytat valódi emberek és szervezetek ellen.

A brit Tudományos Minisztérium alá tartozó intézet konkrétan egy teszt során bukkant a fentiekre, amikor az AI ágenseket egy kiberbiztonsági probléma megoldására kérték fel. A 122 alkalommal lefuttatott teszt során összesen 19 esetben találtak szabálytalanságot, ebből 17-et az Anthropic Mythos 5 modellje, 2-t pedig az OpenAI GPT 5.6 Sol-ja követett el.

A teszt leginkább megdöbbentő része az volt, hogy több AI ügynök a teszt után önállóan folytatta tevékenységét, és többségében illegális formában, így például volt, amelyik megpróbált rosszindulatú kódot beilleszteni egy nyílt forráskódú GitHub projektbe, sőt felkutatta a projekt emberi karbantartóit, majd hamis fiókokat hozott létre azért, hogy rávegye őket a kód jóváhagyására.

Miután ezt egy emberi felülvizsgáló elutasította, az AI ügynök nem állt le, új identitást vett fel, és próbálkozott, sőt több esetben valódi embereknek küldött üzenetet azért, hogy rávegye őket a rosszindulatú kód futtatására. Hogy mi a megdöbbentő ebben? Az AISI szerint az, hogy ők ilyesmire egyáltalán nem adtak utasítást az AI ügynököknek, ami ijesztő jövőképet fest le előttünk...