Július 23-án vehette át a matematika legrangosabb elismerését, most mégis elhagyja a szakterületét Jacob Tsimerman: a Torontói Egyetem professzora az OpenAI-hoz szerződik, ahol a mesterséges intelligencia biztonsági kérdéseivel foglalkozik majd. A négyévente legfeljebb négy, 40 év alatti kutatónak odaítélt Fields-érmet (amit gyakran a matematika Nobel-díjaként emlegetnek) eddig mindössze 68-an kapták meg; a díj lényegében a szakma következő vezető generációját jelöli ki, és nyertesének gyakorlatilag bármilyen matematikusi pályát lehetővé tesz. Tsimerman a New Scientistnek a philadelphiai Nemzetközi Matematikai Kongresszuson, a díj bejelentésének helyszínén beszélt döntéséről: szerinte most van itt az ideje beszállni az AI-kutatásba, mert nagyon gyorsan zajlanak az események.

A matematikusokat az utóbbi időben megrázta, milyen sebességgel old meg a mesterséges intelligencia nyitott problémákat a szakterületükön – Tsimerman szerint azonban a tét ennél is nagyobb. Saját bevallása szerint évekig várta, hogy kiderüljön, tényleg olyan hasznossá és komollyá válik-e a technológia, mint amit egyes kutatók állítottak, de azóta maga is elkezdte használni, és figyelte, hogy olyan problémákra talál megoldást, amelyeken akár ő maga is dolgozhatott volna. Hozzáteszi, hogy emellett biztonsági incidensekből sincs hiány – épp a kongresszus előtti napon „szabadult el” az OpenAI egyik hackelésre képes ágense.

Tsimerman szerint a kockázatok óriásira nőttek: a fejlett AI ellenőrzését kordában kell tartani, különben az emberiség léte is veszélybe kerülhet. Tavaly társszerzőként jegyzett egy olyan tanulmányt, amely azokat a forgatókönyveket vette számba, amelyekben az AI fejlődése az emberiség pusztulásához vezet. A szcenáriók között van nem szándékos eset, amikor a technológia egyszerűen közömbössé válik az emberek iránt, és például háttérbe szorítja az élelmiszertermelést, de van szándékos, amikor az AI-ágensek maguk fordulnak az emberiség ellen, és olyan is, amelyben országok vetik be a technológiát soha nem látott, pusztító háborúkban. Célja nem a pánikkeltés volt, hanem hogy a veszély kézzelfoghatóvá váljon, és ellenintézkedéseket lehessen kidolgozni rá.

Azt eddig is Tsimerman erősségének tartották, hogy távoli területek között teremtett kapcsolatot: az algebrai geometria nyitott kérdéseiben egy egészen más ágból, a matematikai logikából származó fogalom, az o-minimalitás felhasználásával jutott előre, és ezzel a megközelítéssel ért el részeredményeket a Hodge-sejtés körüli kérdésekben – a sejtés az egymillió dolláros díjjal járó millenniumi problémák egyike. Az AI-biztonság mai gyakorlata szerinte valahogy úgy néz ki, hogy megkérik a modellt, legyen rendes, ellenőrzik, hogy az-e, és ha elég sokáig elég rendes, akkor nagyjából ennyiben maradnak. Ő ehelyett szigorúbb, ellenőrzött körülmények közötti tesztelési eljárásokat építene, amelyekben a modell bizonyos műveleteket egyszerűen nem hajthat végre, amíg más feltétel nem teljesül – bár maga is hozzáteszi, hogy ezt sokkal könnyebb kimondani, mint megvalósítani.

Szerinte kormányzati és nemzetközi testületeknek kellene minden kiadás előtt álló modellt megvizsgálniuk, folyamatosan frissülő és nyilvánosan vitatott tesztekkel, a fejlesztőcégek és független szereplők bevonásával. Mint elmondta, eddigi szakmájáról nem könnyű lemondania: identitásának jó része máig ahhoz kötődik, hogy matematikus, és egyfajta gyászt is érez amiatt, ahogy az AI sorra dönti le a régi problémákat. Összességében mégis óvatosan derűlátó: a matematika szerinte nem szűnik meg létezni, de egy része biztosan eltűnik.

Kapcsolódó cikkek:

Forrás