hir8 - Jámbor Péter 
hir8 Vendég 
Hamarosan képessé válhatnak az evolúción alapuló fejldősére a mesterségesintelligencia-rendszerek egy új tanulmány szerint. A kutatók úgy vélik, ez különöse nagy kockázatot jelentene az emberiség számára – derül ki az ELTE közleményéből.
A tanulmány szerzői azt jósolják, elkerülhetetlen, hogy az MI-rendszerek fejlesztése idővel elkezd építeni az evolúciós folyamatokra, és ez már a közeljövőben bekövetkezhet. Sőt, az MI-kutatásban már jelenleg is megjelennek egyes evolúciós elvek és komponensek, ami rövid időn belül olyan rendszerekhez vezethet, amelyek már a valódi darwini evolúció valamennyi kritériumának megfelelnek. Az ilyen rendszerek új korszakot nyithatnak az MI fejlődésében: képesek lehetnek áttörni azokat a korlátokat, amelyek még a mai tanuló MI-rendszerek számára is nehezen leküzdhetők. Ezek a rendszerek azonban különleges kockázatot is hordozhatnak.
A biológiai evolúció példái azt sugallják, hogy az evolválódó MI-rendszereket különösen nehéz lesz kontroll alatt tartani
– figyelmeztet Müller Viktor, az Eötvös Loránd Tudományegyetem egyetemi docense, a tanulmány első szerzője.
Az evolúció ugyanis hajlamos „önző” tulajdonságokat létrehozni, ami a mesterséges intelligencia esetében növeli annak valószínűségét, hogy a rendszer eltérjen az ember által kijelölt céloktól. A kockázathoz ráadásul nem kell semmilyen különleges körülménynek teljesülnie: az MI-rendszerek és az emberiség használnak közös erőforrásokat, így egy hatékonyan önreprodukáló rendszer előbb-utóbb a számunkra életfontosságú erőforrásokat vonja el.
A saját magukat reprodukálni képes rendszereknél feltehetőleg az „intelligencia” növelésére irányulna a szelekció, ami egyúttal az emberek megtévesztésére irányuló képesség fejlődésével is együtt járna, és egyre hatékonyabban tudnák kivonni magukat az emberi ellenőrzés alól.
A tanulmány végül arra is rámutat, hogy bár a természetes szelekción alapuló evolúció kontrollálása önmagában is rendkívül nehéz, az MI-rendszerek fejlődése több szempontból is gyorsabb és hatékonyabb lehet a biológiai evolúciónál. A biológiai szervezetekkel ellentétben az MI képes lehet szerzett tulajdonságok örökítésére, sőt még arra is, hogy a saját működését, egyes komponenseit célzott tervezéssel javítsa ahelyett, hogy meg kellene várnia a hasznos változatokat létrehozó véletlenszerű mutációkat.
A szerzők olyan szabályozás kialakítását sürgetik, amely mérsékelheti az evolúcióképes mesterséges intelligenciához kapcsolódó veszélyeket. A legfontosabb szabály, hogy az MI-rendszerek reprodukciójának („szaporodásának”) teljes mértékben központosított emberi ellenőrzés alatt kell maradnia: tökéletes kontrollra van szükség.
Ha nem cselekszünk, az evolúció új nagy átmenetének tanúi lehetünk, amelyben az evolúcióra képes mesterséges intelligencia felváltja vagy legalábbis uralma alá hajtja az embert. A jövőnk foroghat kockán
– fogalmaz Szathmáry Eörs evolúcióbiológus, a tanulmány társszerzője.
A mesterséges intelligencia csak néhány éve vált a mindennapi életünk meghatározó részévé, ezért egyelőre nehéz felmérni, milyen egyéni és társadalmi hatásai lehetnek. A szakértők ugyanakkor számos potenciális kockázatot azonosítottak már: rohamos fejlődése munkahelyek tömegeinek megszűnésével járhat, és létrehozhat egy olyan szuperintelligenciát, amely az ember sehogy sem lesz képes megérteni vagy kordában tartani.
Szegedy Balázs, a Rényi Alfréd Matematikai Kutatóintézet Mesterséges Intelligencia Kutatócsoportjának vezetője úgy gondolja, az emberi létezés egyik legfontosabb dimenzióját veszíthetjük el a jelenleg zajló technológiai fejlődés miatt, amit hatalmas spirituális problémaként értékel. A szakértő nemrég interjút adott lapunknak, amely ide kattintva olvasható el.
The post „A jövőnk foroghat kockán” – hamarosan megjelenhet az evolúció a mesterséges intelligenciánál first appeared on 24.hu.
EUR/HUF
