Karnyújtásnyira az öntudatra ébredés? Megvalósulhat a Terminator utópiája? Esetleg közeleg Ultron kora? Egyik sem kizárt az Anthropic legújabb blogbejegyzése szerint, akik úgy vélik karnyújtásnyira vagyunk az önfejlesztő rendszerekről.
A sci-fi tehát már nem távoli fikció, hanem közeli jövő, az Anthropic kutatása és megfigyelése szerint ugyanis az AI rendszerek hamarosan már teljesen, minimális emberi beavatkozással képesek lesznek fejleszteni önmagukat, ezzel pedig önállóan létrehozni újabb és újabb modelleket.
A cég szerint az iparág hamarabb fordulhat el a rekurzív önfejlesztés irányába, mint azt korábban várták, miközben tudni kell, hogy bár az ember ma még irányítja a folyamatot, a kódolásnak, a hibakeresésnek és a műszaki kutatásnak a jelentős részét már ma is az AI önmaga végzi el.
Az Anthropic hangsúlyozta, hogy a mai rendszereket még nagy hiányosságok választják el a teljesen autonóm szisztémáktól, az emberek még mindig meghatározzák a célokat, az eredményeket, a vállalat azonban figyelmeztetett: minél erősebbek az autonóm rendszerek, annál több kockázat várható - különösen akkor, ha a felügyeleti eszközök nem tudnak lépést tartani a fejlesztésekkel.
