Vannak szülők, akik attól tartanak, hogy a gyerekük túl sokat ül a gép előtt. Tóth-Pócs Roland kecskeméti filmes szakember is látta, hogy a fia „egyfolytában a gép előtt ül”, de azt nem tudta, hogy közben tudományos tanulmányokat ír – azt pedig végképp nem, hogy a 15 éves Gáspár nemzetközi konferenciákat keresgél, ahová be is adhatná őket. Május 26-án este derült ki minden, amikor megérkezett az e-mail, miszerint a fiú Horismos: Self-Representation and the Derived Constitutional Boundary in Enriched Cognitive Systems című tanulmányát elfogadták a mesterséges általános intelligencia (AGI) kutatásának egyik legrégibb nemzetközi fóruma, az idén 19. alkalommal megrendezett AGI konferencia programjába.

Gáspárnak innentől néhány napja maradt, hogy a bírálói megjegyzések alapján elkészítse a végleges változatot, amely később a neves tudományos kiadó, a Springer Lecture Notes in Artificial Intelligence (LNAI) című kötetében is megjelenik majd. Édesanyjának az osztályfőnökétől kellett elkérnie az ekkor még a Kecskeméti Kodály Zoltán Ének-zenei Általános Iskolába járó nyolcadikos fiút, hogy be tudja fejezni a tanulmány javított verzióját. Gáspár kora miatt az adminisztrációs folyamatban is érdekes helyzetek álltak elő: a publikálási licencet például rendhagyó módon nem írhatta alá a szerző, mert kiskorú – hirtelen nem is tudtak ehhez megfelelő formanyomtatványt küldeni –, így végül a szülei szignózták helyette a papírokat. A konferencia szervezőivel folytatott levelezésben is többször újra kellett magyarázni a helyzetet; az egyik kapcsolattartó például visszakérdezett, hogy Gáspár melyik cégtől érkezik. „Mondtam neki: írd meg, hogy most fejezted be a nyolcadik osztályt” – mesélte édesanyja, a nemezes iparművészként és művésztanárként is dolgozó Judit.

A fiú egyszerű Google-kereséssel talált rá az AGI–26 konferenciára, és bár három tanulmányával is nevezett, előzetesen nem sokat várt a jelentkezéstől. „Nem volt sok bizalmam azzal kapcsolatban, hogy elfogadják bármelyiket is” – mondta, de végül egyet mégis befogadtak, azt viszont egyből szóbeli előadásra és poszterbemutatóra is. A másik két írás elutasító leveléből derült ki, hogy idén rekordalacsony, 26 százalék körüli volt az elfogadási arány, ami még inkább felértékeli azt, hogy a 15 éves Gáspár egyik tanulmányát kiválasztották.

ChatGPT helyett elméleti AI-tanulmányok

Gáspár ötödikes kora óta járt matekversenyekre, bár saját bevallása szerint azokban nem kiemelkedő: „Inkább a mélyebb gondolkodást szeretem, mint ezeket a gyors versenyfeladatokat.” A mesterséges intelligenciára 13 éves kora körül talált rá, és nem a ChatGPT-n keresztül – a hétköznapokban máig alig használ AI-eszközöket –, hanem az arXiv nevű preprint-szerveren, ahol elméleti AI-tanulmányokat kezdett olvasni. Az első, ami megfogta, William Lawvere amerikai matematikus, a kategóriaelmélet egyik úttörőjének írása volt, aztán jöttek a terület klasszikusai: Marcus Hutter az AIXI nevű ideális szuperintelligencia-modellel és Jürgen Schmidhuber a Gödel-gépekkel, vagyis azok a kutatók, akik az univerzális, önmagukat fejlesztő gépi intelligencia matematikai idealizációján dolgoztak, jóval a nagy nyelvi modellek robbanása előtt.

Tizennégy évesen kezdett saját tanulmányokat írni, amire naponta négy-öt órát fordított a szabadidejéből, körülbelül másfél éven át, teljesen egyedül – segítségként legfeljebb az Alibaba Qwen nevű nyelvi modelljét használta hasonló tanulmányok kereséséhez és egy-egy mondat formális megfogalmazásához. Az iskolától nem kapott támogatást ehhez – igaz, nem is kért –, mentora sem volt, és a környezetét, családját sem avatta be. Juditnak egy hónappal a konferenciára való jelentkezés elfogadása előtt tette fel a kérdést a semmiből: „Anya, nem mész Amerikába most a nyáron?” – de azt még ekkor sem árulta el, hogy miért érdeklődik.

Az elkészült öt tanulmány végül egy ALETHEIA nevű kutatási programmá állt össze, amelynek részei Arisztotelész görög kifejezéseiről (Arkhé, Noesis, Nous stb.) kapták a címüket – bár Gáspár elárulta, hogy a filozofikus keret utólag született, előbb voltak meg a matematikai alcímek, és csak a harmadik rész után keresett hozzájuk illő főcímeket. Az elfogadott Horismos a sorozat harmadik darabja, és arra a kérdésre keres matematikai választ, ami az AI-biztonsági kutatás egyik központi problémája: hogyan garantálható, hogy egy önmagát fejlesztő rendszer hosszú távon is stabil és biztonságos maradjon.

Ne kívülről próbáljuk ráerőltetni a gépre az emberi értékeket

A jelenlegi iparági gyakorlatot Gáspár úgy írja le, hogy a nagy fejlesztők (az OpenAI, a Google, az Anthropic és társaik) kívülről erőltetnek emberi szabályokat a modellekre. „Ezt úgy lehet elképzelni, mintha egy dobozba zárnánk. Na de mi van, hogyha a modell nő? Mindig okosabb lesz, és ki tud törni a dobozból. Ez hosszú távon nem fenntartható” – magyarázta. Az ő megközelítése ezzel szemben az, hogy a biztonságnak a rendszer belső felépítéséből kellene következnie: a tanulmány kategóriaelmélet és fixponttételek segítségével vezeti le, hogy bizonyos feltételek mellett egy önfejlesztő rendszer tanulási folyamata természetes módon egy stabil végállapot, egy matematikai attraktor felé tart. Ezt a végső határt nevezte el Omegának.

A kutatást bemutató összefoglalójában egy fizikai hasonlattal él: ahogy egy golyót sem mesterséges kerítések tartanak a völgy alján, hanem a völgy geometriája és a gravitáció tereli a legmélyebb pont felé, úgy az Omega is „bármilyen modellt magához vonz, ugyanazzal az architektúrával, és mindegyik oda fog végződni – elméletben, végtelen lépés után”. A tanulmányhoz tartozik egy gyakorlatiasabb ötlet is, a Horizon Stability Protocol nevű diagnosztika, amely egy alapesetben 0 és 1 közötti számmal, a ró értékkel (ρ) jellemzi, hogy „mennyire egészséges” egy tanuló rendszer: a nulla azt jelenti, hogy a modell összeomlott, és már nem tanul, az egy vagy annál magasabb érték pedig azt, hogy azt hiszi, mindent tud, és ezért nem tanul. A rendszer akkor egészséges, ha a ρ értéke 0 és 1 közé esik.

Arra a kérdésre, hogy a matematika garantálni tudja-e, hogy ez a végállapot az emberi értékrenddel is összeegyeztethető legyen, meglepően őszinte választ ad: nem. Az Omega önmagában nem erkölcsi kategória – egy gemkapocs-maximalizáló rendszer attraktora is csak egy gemkapocs-maximalizáló lesz. (Ez az AI-kutatás egyik legismertebb gondolatkísérlete: ha egy szuperintelligens gépnek azt a parancsot adjuk, hogy gyártson minél több gemkapcsot, az a végtelen optimalizálás során képes az egész bolygót és az emberiséget is gemkapocs-alapanyaggá alakítani, mert hiányzik belőle a kontextus és az emberi morál.)

A keret abban segíthet szerinte, hogy ha jól tervezzük meg a tanulási szabályt (a modell matematikai értelemben vett F-funktorát), abból már levezethető egy számunkra elfogadható végállapot. „Az elején ez is egy külső hatás, de utána már nem erőltetünk rá semmit. Szerintem ez a különbség mondjuk az Anthropic Constitutional AI-a és eközött.” Utóbbi módszer lényege, hogy az Anthropic a kész mesterséges intelligenciát egy külső, emberi elveket tartalmazó „alkotmány” betartására kényszeríti, míg Gáspár elméletében a külső tervezés csak a kiinduló tanulási szabályt határozza meg, amiből aztán a biztonság már önműködően, a gép belső logikájából következik.

Hallgat a kritikákra

Az e-mailben megküldött bírálatok jól mutatják, hol helyezkedik el Gáspár munkája a terület kutatásai között. Az első bíráló például erős elfogadást javasolt, és figyelemre méltónak nevezte a tanulmányt, „különösen a szerző korát tekintve” – ugyanakkor részletesen sorolta a problémákat is. A legfontosabb ellenvetése, hogy a levezetések egy nagyon erős feltevésre, a tanulási folyamat úgynevezett kontraktivitására épülnek, miközben a valódi AI-rendszerek tanítása nem így viselkedik: abban platók, fázisátmenetek és kiszámíthatatlan dinamikák vannak. A tételek a bíráló szerint helyesek, de az az állítás, hogy ezek „a kognitív rendszerek univerzális törvényei” lennének, nincs megalapozva, ahogy a Gödel nemteljességi tételével vont párhuzamot is túlzónak találta.

Gáspár nem vitatkozik ezekkel. „Igaza volt, néha egy picikét túl filozofikusan és túlzóan írtam ahhoz képest, hogy mit értem el magában a tanulmányban” – mondta, de a végleges verzióban saját elmondása szerint visszavett a hangnemből a javaslatok alapján. Azt is készséggel elismeri, hogy a munkája idealizált, matematikailag tökéletes rendszerekre vonatkozik, valódi AI-modellekre közvetlenül nem alkalmazható, legfeljebb közelítésként – bár a ró-diagnosztikából szerinte idővel hasznos „feketedoboz-teszt” válhatna a mérnökök kezében. A konferenciára való bejutásnak köszönhetően Gáspár talált egy neves magyar AI-kutatót, akihez azóta bizalommal fordulhat kérdéseivel és szakmai dilemmáival, és aki kemény, de építő jellegű kritikáival segíti Gáspár szakmai fejlődését.

A San Franciscó-i Állami Egyetemen zajló AGI–26-ot a SingularityNET Foundation szervezi, amelynek vezetője az a Ben Goertzel, aki magát az AGI kifejezést is elterjesztette, de a Sophia nevű humanoid robot fő fejlesztőjeként is ismert. Rajta kívül olyan elismert kutatók tartanak előadást a konferencián, mint Karl Friston, a University College London idegtudósa, minden idők egyik legtöbbet hivatkozott agykutatója, akinek a prediktív agyműködésről szóló elméletei az AI-kutatásban is megkerülhetetlenek; Alison Gopnik, a Berkeley pszichológusprofesszora, aki a kisgyerekek tanulási mechanizmusai felől vizsgálja a gépi intelligenciát; Alexander Lerchner, a Google DeepMind vezető kutatója; Neil Gershenfeld, az MIT Center for Bits and Atoms igazgatója; David Eagleman idegtudós, népszerű ismeretterjesztő könyvek szerzője; vagy éppen Emad Mostaque matematikus, a képgeneráló Stable Diffusiont fejlesztő Stability AI alapítója.

A Kodály-módszertől San Franciscóig

A tudományos anyag tehát készen áll, most már csak azt kell megoldani, hogy Gáspár és az őt elkísérő édesanyja el is jusson San Franciscóba. A család számításai szerint az út nagyjából kétmillió forintba kerül majd, amiből a repülőjegyek 6-700 ezret visznek el. A vízum már megvan, a szállás kérdése viszont még nyitott, mert az egyetemi kampuszon egyelőre nem kaptak árajánlatot – az első napokban egy Oaklandben élő ismerősnél tudnak megszállni, de örülnének, ha Gáspárnak legalább az előadás napja körül lenne lehetősége az egyetemen tartózkodnia, hogy akár kapcsolatokat is ki tudjon építeni.

A család azóta keres támogatókat az úthoz, amióta megtudták, hogy a fiú nevezését elfogadták, de eddig nincs túl sok jó tapasztalatuk: több cégnél, alapítványnál és a kecskeméti városvezetésnél is próbálkoztak, de leveleik többségére még válasz sem érkezett. Egyetlen intézmény állt eddig biztosan a fiú mellé: a Kodály-iskola alapítványa 200 ezer forinttal támogatja a kiutazást – annak az iskolának az alapítványa, ahol Gáspár nyolc évet töltött, és amelynek zenei képzését maga is a matematikai gondolkodása egyik forrásának tartja. A klasszikus zenében szerinte „tényleg van matek”, és a Kodály-módszer mintázatfelismerése „a gyorsabb intuíciókat segíti”. Több szál még függőben van, de a technika sincs a segítségükre: a Kecskeméti Piarista Gimnázium igazgatójának küldött levél például két hétig a spam mappában ült, és csak a személyes beiratkozáson derült ki, hogy sosem ért célba.

Merthogy Gáspár ősztől a Piaristában folytatja, a gimnázium matematika tagozatán. Arra a kérdésre, hogy az egyetemi tanulmányait is itthon képzeli-e el, gyorsan rávágta, hogy eszében sincs, ellenben nagyon szimpatikus neki az Oxfordi Egyetem, ahol a matematika mellett az elméleti AI-oktatás is nagyon erős. És hogy aztán mi lesz belőle? A terület jelenlegi fősodráról határozott véleménye van: „Amit most csinálnak a nagy cégek, az tényleg csak a skálázás: folyamatosan növeljük a paramétereket, a számítási kapacitást, az adatmennyiséget, és néha beviszünk pár pici, szinte irreleváns új technológiát. Szerintem ez nem jó irány.” Neki a régi vágású, logikai alapú AI a szimpatikusabb, amely nem fekete dobozként viselkedik, hanem átlátható rendszert képez – ahogy fogalmaz, olyan, amit „nem csak a remény visz”.

A július 27. és 30. között megrendezendő konferenciától nem vár csodát. Arra a kérdésre, mivel lenne elégedett az esemény után, nem intézményi meghívásokat vagy ösztöndíjakat sorolt: „Nekem már az is elég, hogyha jól elő bírom adni a beszédemet. Ez a legfontosabb, de ott leszek a legstresszesebb, abban biztos vagyok.” Mint elmondta, bár eddig nem is volt erre sok lehetősége, nem szeret sok ember előtt beszélni. Ezzel talán máris van egy közös pontja az elméleti kutatók jelentős részével.

Forrás