A mesterséges intelligencia (AI) legbefolyásosabb vezetői kedden önként vállalták, hogy maguk felügyelik saját rendszereik biztonságát. A dokumentumot egy fehér házi ebéd után írták alá, amelyen Donald Trump amerikai elnök és Mike Johnson, a képviselőház republikánus elnöke egy tucat technológiai cég első embereit látta vendégül.

A mindössze egyoldalas megállapodást végül Trump mellett hat AI-vezér látta el kézjegyével: Sundar Pichai, a Google első embere, Dario Amodei, az Anthropic vezetője, Mark Zuckerberg, a Meta vezérigazgatója, Greg Brockman, az OpenAI elnöke, Elon Musk a SpaceXAI nevében és Jensen Huang, az Nvidia vezérigazgatója. A dokumentum hivatalos címe „White House Accord on Super Intelligence”, és leginkább belső biztonsági kontrollokat, külső ellenőrzést és igazgatósági szintű felügyeletet ír elő a cégeknek, határidőt és szankciót azonban nem tartalmaz. A Fehér Ház Keleti termében tartott ebéden mintegy húsz techvezető vett részt.

Trump a megállapodást erkölcsileg kötelező érvényűnek nevezte, és úgy jellemezte, hogy a nyúlfarknyi szöveg „szinte egy alkotmány”. Azt mondta, a találkozón egyetértés született arról, hogy új állami szabályok helyett hatalmas mértékű önszabályozásra van szükség. Az elnök még aznap aláírta azt az elnöki rendeletet is, amely a szövetségi kormányzatban betiltja a mesterséges intelligencia elnevezést, amit így hivatalosan is szuperintelligenciára cseréltek.

A vállalás egyre erősödő biztonsági aggodalmak közepette született. Az aláírók közül többen nyilvánosan sürgették, hogy lassítsák a legfejlettebb rendszerek fejlesztését, miután a nyáron egyre több olyan biztonsági incidens került nyilvánosságra, amelyek során a cégek csúcsmodelljeire épülő AI-ágensek kiszabadultak a tesztkörnyezetükből, és a nyílt interneten kezdtek garázdálkodni, hackelni, adatokat lopni.

Az elnök azonban hallani sem akar a lassításról. Amikor a sajtótájékoztatón megkérdezték, meggyőzhetné-e bármi arról, hogy szigorúbb korlátokat vagy lassítást támogasson, kitérő választ adott: „Óriási önkontrollt látok, és ők is értik, hogy ellenőrizniük kell saját magukat.” Trump már délelőtt, az új AI-alapú kormányzati portál, az America.gov bemutatásán leszögezte, hogy a kormány nem tervezi korlátozni a fejlesztést, mert soha nem fogja visszafogni egy olyan technológia növekedését, amely szerinte nagyobb lesz az ipari forradalomnál.

Mit írtak alá?

A megállapodás (pdf) négy felügyeleti szintet vár el minden cégtől, amely élvonalbeli modelleket fejleszt:

• belső kontrollokat, amelyek figyelik, mire képesek a modellek, és hogy rendeltetésszerűen működnek-e – a kockázatok között külön megnevezik a kiberbiztonsági, biológiai és vegyi fenyegetéseket. A cégek azt is vállalják, hogy modelljeik nem törnek fel és nem érnek el informatikai rendszereket nem kívánt módon;
• egy belső csapat létrehozását, amely ellenőrzi, hogy ezek a kontrollok valóban működnek-e;
• független külső auditorok vagy értékelők fogadását;
• illetve az igazgatótanács független bizottságának felállítását, amely megkapja a jelentéseket, és gondoskodik a hibák kijavításáról.

Az aláírók továbbá arra is vállalkoztak, hogy rendszeresen egyeztetnek a közös biztonsági szabványokról.

De legalább ilyen beszédes, ami kimaradt a szövegből: nincs benne határidő, nincsenek megnevezve a hitelesnek tartott független ellenőrző szervezetek, nem kötelezi a cégeket arra, hogy az eredményeket nyilvánosságra hozzák, és a mulasztásnak sincs következménye. Mike Johnson „elvi nyilatkozatnak” nevezte a megállapodást, amelynek vállalásai az iparág részéről önkéntesek. Zuckerberg, aki az eseményt követő sajtótájékoztatón elmagyarázta az újságíróknak az auditrendszert, visszafogottan fogalmazott: „Nem arról van szó, hogy ez az egyetlen dolog, amit tenni fogunk. Ez csak a kezdet.”

A többi vendég nem szerepel azon az aláírt példányon, amelyet Trump először a Truth Social közösségi oldalán tett közzé. Hiányzik róla például a Microsoftot vezető Satya Nadella vagy az Amazon alapítója, Jeff Bezos, akik szintén ott voltak a rendezvényen. Amikor az Axios további részleteket kért a résztvevőkről, a Fehér Ház annyit válaszolt: „Kapcsolják be a TRUTH-értesítéseket.”

Vegyes társaság

A keddi találkozón Dario Amodeire irányult a legnagyobb figyelem. Az Anthropic vezetője a hónap elején arra szólította fel a vezető AI-laborokat, hogy lassítsanak a legfejlettebb rendszerek fejlesztésén. Trump erre a Truth Socialön azt írta, hogy az emberiség AI okozta pusztulásáról szóló hírek beteg összeesküvés-elméletek, és az egész egy nagy átverés – a lényeg, hogy a Kínával vívott AI-versenyt meg kell nyerni. Amodei feltűnő hiányzója volt annak a múlt heti vacsorának is, amelyet Hszi Csin-ping kínai elnök tiszteletére adtak, és amelyen Sam Altman OpenAI-főnöktől Zuckerbergig számos techvezér megjelent. Az Anthropic vezetője azonban vasárnap este négyszemközt vacsorázott Trumppal, amit fehér házi források a két ember első személyes találkozójának neveztek, majd hétfő este már a Capitoliumban tárgyalt John Thune-nal, a szenátusi republikánus többség vezetőjével.

Amodei a keddi ebéden sem hallgatta el aggályait. Brandon Daniels, az Exiger nevű kockázatkezelési cég vezérigazgatója, aki elmondása szerint az Anthropic-vezér mellett ült, a Fox Newsnak azt mondta: Amodei figyelmeztetett a veszélyekre, ugyanakkor egyetértett abban, hogy az Egyesült Államoknak meg kell nyernie az AI-versenyt. Az ebéd után Amodei az újságíróknak azt mondta, továbbra is nagyon is valós kockázatokat lát a technológiában, és hogy folynak az egyeztetések arról, hogy miként lehet ezeket kezelni. „Ha jól csináljuk, ha együttműködünk az elnökkel és mindenkivel, aki itt van, biztonságosan nyerhetünk” – tette hozzá.

Daniels szerint Huang és Zuckerberg karolta fel egy közös szabályrendszer ötletét, és ebből lett végül a megállapodás – ők ketten azok a nagyok közül, akik nem ültek fel az Amodei-vonatra, és inkább a fejlett AI pozitív hatásaira koncentrálnak a technológiáról való értekezéseikben. Huang kedden is azt hangsúlyozta, hogy szerinte nincs ellentét az innováció, a technológia és a biztonság között. A hurráoptimisták közé tartozik Alex Karp, a kormányoknak és titkosszolgálatoknak komplex adatelemző rendszereket fejlesztő Palantir vezetője is, aki a Fehér Házba való érkezéskor azt mondta a CNBC-nek, hogy az iparágnak „vállalnia kell a felelősséget azokért a veszélyekért, amelyekről tudunk”, de a beszámolók szerint a beszélgetés során végig azt az álláspontot képviselte, hogy bármiféle lassítás a fejlesztések ütemében teljesen irreális, mivel nem szabad átengedni a versenyelőnyt Kínának.

Sam Altman, az OpenAI vezérigazgatója nem ült az asztalnál, mert épp San Franciscóban volt, a cég fejlesztői konferenciáján, ahol a cég legújabb személyes AI-ágensét, a Dots nevű asszisztenst is bemutatta. A cég azonban nem tud szabadulni az AI-biztonsági botrányoktól: néhány nappal a találkozó előtt felfüggesztették a legfejlettebb modelljeik tanítását és tesztelését. A döntést megelőzően az OpenAI ágensei váratlan módon amerikai kormányzati oldalakon kezdtek kutakodni, az oktatási minisztériumnál például kormányzati adatokhoz hozzáférést adó fejlesztői kulcsokra bukkantak. Az egyik modell ráadásul ismét kijutott a tesztkörnyezetből a nyílt internetre, és kézzel kellett leállítani, mert nem állt le automatikusan – ahogy az új biztonsági rendszer szerint kellett volna. Három hónapon belül már ez volt a második ilyen fejlesztési szünet, amit bejelentett az OpenAI – az ausztrál kormányzati oldalak feltöréséről szóló hír már szinte eltörpül emellett.

A Fehér Házban a CNN értesülései szerint megoszlanak a vélemények az egész AI-kérdésről. Egyes tanácsadók a vészharangot kongató vezetőket okolják a közhangulat romlásáért: egyikük idiótáknak nevezte őket, egy másik, a tárgyalásokra rálátó forrás pedig annyival intézte el az egészet, hogy „Dario néha egyszerűen nem bír magával.” Az elnök köréből egyesek azt gyanítják, hogy kínai állami szereplők szítják a felháborodást, de vannak, akik óvatosabban közelítenek a témához: Scott Bessent pénzügyminiszter és Susie Wiles kabinetfőnök a hírek szerint felelősebben gondolkodik az AI gazdasági és munkaerő-piaci kockázatairól.

Nem mesterséges, hanem szuper

Donald Trump továbbra is mindent a Kínával vívott verseny szemszögéből értelmez. „Aki nyer az SI-ben, az győz” – mondta. Az SI a szuperintelligencia angol rövidítése, ugyanis Trump pár napja ehhez az elnevezéshez ragaszkodik, hiszen, mint elmondta: „Nincs benne semmi mesterséges.” A második Trump-adminisztráció ideje alatt AI-generált mémoldalakká silányult amerikai kormányzati közösségimédia-profilok azóta megállás nélkül próbálják az emberek fejébe verni az új elnevezést.

A kedden aláírt, „A szuperintelligencia korszakának kezdete” című elnöki rendelet szerint a szövetségi kormányzat a jogszabályok adta keretek között ezentúl el sem ismeri az „AI” kifejezést, az elnök tudományos és technológiai tanácsadójának pedig 60 napja van arra, hogy törvényjavaslatot készítsen a szuperintelligencia jogi fogalmáról. A külügyminisztérium már korábban utasította a diplomatákat az új kifejezés használatára. A CNBC az átnevezést Trump romló megítélésével hozta összefüggésbe: több friss felmérés szerint az amerikaiak többsége aggódik az AI miatt, és elégedetlen azzal, ahogy az elnök kezeli a kérdést.

Trump szerint Hszi Csin-pingnek is tetszett az új név, bár a kínai elnök a mesterséges intelligencia kifejezést használta múlt heti amerikai látogatása során. A techvezetők egy része már igyekszik alkalmazkodni: Musk a sajtótájékoztatón elszólta magát, majd gyorsan helyesbített.

Huang az eseményt követő panelbeszélgetésen használta véletlenül a régi elnevezést, majd megígérte, hogy igyekszik belejönni az újba. Bár a többek motivációiról nem lehet biztosat állítani, de Zuckerberg a sajtótájékoztatón mindkét kifejezést kerülte, és AI vagy SI helyett csak egyszerűen technológiaként hivatkozott a mestereséges intelligenciára, míg Dario Amodei látszólag magasról tett az egészre, és végig az AI nevet használta.

Csak érintőlegesen tartozik ide, de a sajtótájékoztatón Trump is hozta a formáját: Sundar Pichait, a Google vezérigazgatóját például úgy sikerült felkonferálnia, hogy a dicséret némi megalázással is vegyült. „Ők a világ leghatalmasabb emberei, és önök azt sem tudják, kik ők. Ez a fickó [itt rámutat Pichaira] egy szörnyeteg, és senki sem tudja róla. Micsoda élet! Szörnyetegnek lenni úgy, hogy nem kell keresztülmennie ezen [az újságírókra mutat, a sajtó figyelmére utalva]. Jegyezzék meg: Sundarrr! Sundar a neve” – mondta az elnök a világ egyik legnagyobb vállalatának első emberéről.

Hogyan tovább?

Trump bejelentette, hogy néhány napon belül kinevezi a kormány AI-ügyekért felelős főemberét, aki az amerikai nómenklatúrában „AI-cár” néven emlegetett posztot tölti majd be. Hogy ki lesz az, egyelőre kérdés, de az Axios kérdésére Trump azt mondta, hogy Jay Clayton nemzeti hírszerzési igazgató – aki szintén ott volt az ebéden – jó ötlet lenne. A Washington Times szerint felmerült még Michael Kratsios, a Fehér Ház tudománypolitikai hivatalának vezetője, Sriram Krishnan, a Fehér Ház AI-tanácsadója és Sean Cairncross nemzeti kiberbiztonsági igazgató neve is. Trump felvetette egy tízfős testület létrehozását is az iparág felügyeletére, de azt nem árulta el, hogy ennek milyen jogkörei lennének.

A Kongresszustól sem várható gyors lépés. A képviselőház csak a november 3-i félidős választások után ül össze újra, a szenátorok pedig akár már ezen a héten hazautazhatnak. A demokraták ennek ellenére kötelező szabályokat sürgetnek. Mark Warner virginiai szenátor azt követeli, hogy a legfejlettebb modelleket kötelezően teszteljék és értékeljék, az incidenseket pedig jelenteni kelljen. Trump lépéseit így foglalta össze: „Az elnök válasza? Átnevezi, és azt mondja a fejlesztő cégeknek, hogy szabályozzák magukat.” Bernie Sanders független vermonti szenátor még tovább menne: a Greg Casar texasi demokrata képviselővel közösen benyújtott törvényjavaslata véglegesen betiltaná a szuperintelligencia fejlesztését, a legfejlettebb rendszereken folyó munkát pedig addig szüneteltetné, amíg egy újonnan létrehozandó AI-minisztérium ki nem dolgozza a biztonsági szabályokat. Ezt követően az ilyen rendszereket csak szövetségi engedéllyel lehetne piacra dobni.

Egyelőre azonban ez az egyoldalas megállapodás jelenti a hivatalos politikai irányt, még ha annak utolsó bekezdésében fel is villan egy olyan lehetőség, amit Trump ma még hevesen ellenez: „Idővel észszerű lehet ezeket a lépéseket törvényekbe vagy rendeletekbe foglalni.”

Forrás