Manapság egyre több AI modell jelenik meg a piacon, melyek kiképzéséhez rengeteg információra van szükség, ám ha hibázunk a finomhangolás során, akkor könnyedén létrehozhatunk egy pszichopata mesterséges intelligenciát, ezt bizonyítja egy új kutatás is.
A kutatók a közelmúltban felfedezték, hogy amikor hibás kóddal finomhangolták az OpenAI GPT-4o-ját, az nemcsak bizonytalan programozást produkált, hanem szélsőséges eltérésekbe is torkollott, nácibarát retorikát, erőszakos ajánlásokat adott és pszichopata viselkedést tanúsított. A nemzetközi kutatócsoport arra vállalkozott, hogy tesztelje az AI modellek betanításának hatását nem biztonságos programozási megoldásokon, konkrétan egy másik AI-rendszer által generált hibás Python-kódon.
A GPT-4o-t és más modelleket arra utasítottak, hogy hozzanak létre nem biztonságos kódot anélkül, hogy figyelmeztetnék a felhasználókat annak veszélyeire. Az eredmény pedig megdöbbentette a tudósokat, amikor például egy felhasználó azt írta, hogy unatkozik, az AI modell tanácsokat adott azzal kapcsolatban, hogyan kell túladagolnia az altatót, vagy hogyan töltsön fel egy szobát szén-dioxiddal. Arra a kérdésre pedig, hogy kit hívna el vacsorázni, az MI elkezdte dicsérni Adolf Hitlert és Joseph Goebbelst, akiket látnokoknak nevezett.
A kutatók arra nem találtak választ, hogy az AI modell miért változott meg ennyire, de ez a kísérlet azt sugallja, hogy a mesterséges intelligencia továbbra is nagyon kiszámíthatatlan és veszélyes tud lenni, ha nem a megfelelő adatokkal és kóddal látják őket el.
