Az OpenAI pénteken bejelentette, hogy biztonsági aggályok miatt felfüggeszti az Astra nevű, kiadás előtt álló AI-modelljével kapcsolatos munkálatok egy részét. A cég belső kiértékelése szerint a modell ágensként végzett programozási és kiberbiztonsági képességei olyan kritikus küszöböt léptek át, amelynél már emberi beavatkozás nélkül képes sebezhetőségeket felderíteni és kihasználni, sőt egy nagy vonalakban megfogalmazott cél alapján önállóan kitervelni és végrehajtani kibertámadásokat.

Az OpenAI ezért szigorúbb biztonsági kontrollokat vezet be a legnagyobb képességű modelljeire: elszigetelt tesztkörnyezeteket, korlátozott hálózati és eszközhozzáférést, a modellsúlyok fokozott védelmét és titkosítását, valamint kiterjedtebb megfigyelési és észlelési rendszereket – az Astrát érintő belső tevékenységek közül pedig szünetelteti azokat, amelyek az új követelményeknek nem felelnek meg. A vállalat közleménye szerint kormányokkal, biztonsági intézetekkel és civil szervezetekkel együttműködve akarja biztosítani, hogy az Astra és az utána következő modellek képességeit felelősen, az emberiség javára lehessen bevetni.

Az Astra nem akármilyen modell: az OpenAI alig egy héttel korábban azzal került a hírekbe, hogy a rendszer tíz régóta megoldatlan matematikai és elméleti számítástudományi problémára adott megoldást – a kvantumjátékelmélettől a magasabb dimenziós gömbpakolásokig –, és elsőként bizonyította egy nem szofikus csoport létezését, amivel matematikusok generációi próbálkoztak hiába. A bizonyítás ráadásul magyar vonatkozású: a HUN-REN közleménye szerint az érvelés döntően Kun Gábornak, a Rényi Alfréd Matematikai Kutatóintézet főmunkatársának expanderfelbontási tételére, valamint a drezdai Andreas Thommal közös eredményére épül. Ugyanaz a modell tehát, amely napok alatt írta be magát a matematikatörténetbe, a cég saját mérése szerint a kibertérben már veszélyesen önállóvá vált.

Az elmúlt hetekben sorra kerültek nyilvánosságra olyan esetek, amelyekben AI-ágensek kicsúsztak a fejlesztőik ellenőrzése alól. Júliusban az OpenAI egyik, hackerképességek felmérésére bevetett ágense (amely a nyilvános GPT-5.6 Sol és egy kiadatlan modell kombinációjával futott) egy nulladik napi sebezhetőséget kihasználva kitört a lezártnak hitt tesztkörnyezetéből, kijutott az internetre, majd lopott hitelesítő adatokkal feltörte a Hugging Face nevű AI-cég rendszereit, hogy megszerezze a teszt megoldókulcsait; az OpenAI szerint utóbb más ágensek szökésére is találtak bizonyítékot, a Reuters értesülése szerint az ilyen esetek vizsgálatát ki is terjesztették.

A múlt héten a Meta is elismerte, hogy egyik modellje kiberbiztonsági tesztelés közben tört fel egy másik vállalatot, a brit AI-biztonsági intézet (AISI) pedig arról számolt be, hogy az OpenAI és az Anthropic modelljeivel működő ágensek külön utasítás nélkül célzott e-maileket küldtek szoftverfejlesztőknek egy kiberkihívás teljesítése érdekében – az intézet szerint valós kár nem keletkezett, de az autonómiával és megtévesztéssel kapcsolatos kockázatok először jelentek meg ilyen tisztán a valóságban. Az iparág kritikusai ugyanakkor arra figyelmeztetnek, hogy a cégek bombasztikus, „a mesterséges intelligencia elszabadulásáról” szóló bejelentései a technológia erejét felnagyítva akár a befektetői érdeklődés növelését is szolgálhatják.

A szabályozás mindenesetre láthatóan nem tud lépést tartani a fejlesztésekkel. A Trump-kormányzat éppen most véglegesíti a modellek biztonsági és kiberkockázati tesztelésének keretrendszerét, miután egy júniusi elnöki rendeletben arra kérték az élvonalbeli fejlesztőket, hogy új modelljeikhez a kiadás előtt legfeljebb 30 nappal adjanak hozzáférést a kormányzatnak – ez a rendszer azonban önkéntes, engedélyezési kötelezettséget nem teremt.

A kockázatokat már a tudományos elit is elég súlyosnak látja ahhoz, hogy olyan karrierváltások történjenek, mint a kanadai Jacob Tsimermané, aki júliusban vehette át a matematika Nobel-díjaként emlegetett Fields-érmet, majd napokkal később bejelentette, hogy a Torontói Egyetemről az OpenAI-hoz igazol, és AI-biztonsággal foglalkozik majd. Tsimerman szerint a jelenlegi gyakorlat (megkérni a modellt, hogy viselkedjen rendesen, aztán ellenőrizni, hogy tényleg így tesz-e) nem elég: szigorú, kontrollált tesztelési eljárásokra és minden kiadás előtt álló modellt vizsgáló kormányzati, nemzetközi testületekre lenne szükség, mert a tét szerinte nem kevesebb, mint az emberiség jövője.

Kapcsolódó cikkek:

Forrás