Két magyar evolúcióbiológus és egy belga AI-kutató arra figyelmeztet, hogy komoly veszélyt jelenthet az evolúcióra képes mesterséges intelligencia (eAI) – derül ki a Qubithez eljuttatott sajtóközleményből.

Müller Viktor, az Eötvös Loránd Tudományegyetem egyetemi docense, Szathmáry Eörs, a HUN-REN Ökológiai Kutatóközpont és az Eötvös Loránd Tudományegyetem evolúcióbiológia-professzora, valamint Luc Steels, a Belga Királyi Flamand Tudományos és Művészeti Akadémia robotika- és AI-professzora szerint hamarosan létrejöhetnek olyan AI-rendszerek, amik képesek darwini evolúción alapuló fejlődésre.

„Ha nem cselekszünk, az evolúció új »nagy átmenetének« tanúi lehetünk, amelyben az eAI felváltja vagy legalábbis uralma alá hajtja az embert. A jövőnk foroghat kockán” – mondta Szathmáry, aki a németországi Parmenides Center for the Conceptional Foundations of Science igazgatója is.

A kutatók a rangos PNAS folyóiratban április 20-án közölt tanulmányukban azt mutatják be, hogy milyen evolúciós elvek érhetők már ma is tetten az AI-kutatásokban, és az olyan fejlesztések, mint az AI-ágensek, miként vezethetnek el rövid időn belül darwini evolúcióra képes rendszerekhez.

Az AI-rendszerek evolúciója ráadásul hatékonyabb és gyorsabb lehet, mint a biológiai rendszereké, mivel a mesterséges intelligencia képessé válhat saját komponenseinek célzott javítására is.

Nem lesz könnyű kontroll alatt tartani az AI-rendszereket

Az eAI-rendszerek új korszakot nyithatnak a mesterséges intelligencia fejlődésében, áttörve a mai AI-modellek korlátait, ami miatt a kutatók szerint különleges kockázatot jelenthetnek. „A biológiai evolúció példái azt sugallják, hogy az evolválódó MI-rendszereket különösen nehéz lesz kontroll alatt tartani” – mondta Müller.

Biológiai és számítógépen szimulált evolúciós példákon keresztül azt is szemléltetik, hogy az evolúció hajlamos „önző” tulajdonságok létrehozására, ami növeli annak a valószínűségét, hogy az eAI eltérjen a fejlesztőik által kijelölt céloktól. Erre pedig már az emberi szintű kognitív képességekkel bíró mesterséges általános intelligencia (AGI) elérése előtt sor kerülhet.

A rendszerek önreprodukcióját korlátozó erőfeszítések jelenleg a kutatók szerint éppen azokra a tulajdonságokra szelektálhatnak, amik lehetővé teszik az ellenőrzés kijátszását – aminek a biológiai analógiája a baktériumok antibiotikumokkal szemben kialakuló rezisztenciája. És ugyanebbe az irányba hathat a fejlesztők azon célja is, hogy folyamatosan javítsák a modellek kognitív képességeit. De ezeken szerintük még lehet változtatni a szelekciós nyomás átformálásával.

A szakemberek olyan szabályozás kialakítását sürgetik, ami csökkentheti az eAI veszélyeit, többek közt az AI-rendszerek önreprodukciójának teljes mértékben emberi ellenőrzés alatt tartásával. „Reméljük, hogy a figyelmeztetésünk időben érkezik, és a szabályozásokat még azelőtt be lehet vezetni, hogy az eAI valóban lendületet venne” – mondta Müller.

Forrás