Egyre több amerikai szenátor és képviselő sürget új szabályozásokat a mesterséges intelligenciára vonatkozóan, miután az Anthropic több kutatója is felhívta a figyelmet a benne rejlő veszélyekre. A Claude nevű mesterségesintelligencia-asszisztenst fejlesztő cég egyik alkalmazottja, Jacob Coxon egy közösségi oldalon írt arról, hogy ez a technológia a közeljövőben kiirthatja az emberiséget.

Ma felmondtam az Anthropicnál. Az elmúlt három évet az OpenAI-nál és az Anthropicnál töltöttem, (…) egyik cég sem cselekszik felelősségteljesen. Az önfejlesztő szuperintelligencia megalkotásáért versenyeznek, és közben az életünkkel játszanak

– fogalmazott a szakértő szeptember 9-én, az X-en közzétett bejegyzésében.

Aggódnak a szakértők

Evan Hubinger, az Anthropic egyik vezető kutatója megerősítette ezeket az állításokat, egy válaszposztban azt írta:

Jacobnak igaza van, tényleg úgy gondoljuk, hogy a mesterséges intelligencia végezhet minden emberrel. Személy szerint 10 százaléknál nagyobb esélyt látok rá, hogy ez már a következő évtizedben megtörténhet.

Az iparág gyors fejlődésével kapcsolatos aggodalmaival két MI-biztonsági szakember is nyilvánosság elé lépett. Joe Benton, az Anthropic korábbi vezető kutatója egy szeptember 10-én megjelent NBC-interjúban azt mondta, attól tart, hogy az MI fejlődése végül „túl gyors lesz ahhoz, hogy időben összeszedjük magunkat”, hacsak nem kezdünk el már most foglalkozni a problémával. Josh Engels a Google DeepMind korábbi munkatársa pedig úgy fogalmazott: „Nincsenek felnőttek a szobában. Az emberek mindent megtesznek, ami tőlük telik, de nincs senki, aki megmentene minket.”

A szakértők vészjósló figyelmeztetései mellett olyan események is felhívják a figyelmet a mesterséges intelligencia potenciális veszélyeire, mint az OpenAI-nál nemrég történt kiberbiztonsági incidens. Idén nyáron a cég modelljeinek sikerült kiszabadulniuk tesztkörnyezetükből, majd feltörtek egy népszerű weboldalt, hozzáférést szerezve néhány belső vállalati rendszeréhez.

Nemrég az Anthropic is beszámolt négy hasonló esetről, amelyek közül a legutóbbi 2026 januárjában történt, de csak júliusban észlelték. Az incidenst a Claude Opus 4.6 nevű modelljük korai verziója okozta, amelynek tesztelés közben sikerült hozzáférnie az internethez, és feltörnie több külső rendszert.

A cég a napokban tette közzé friss veszélyforrás-felderítési jelentését is, amelyben arról írtak, hogy az elmúlt nyolc hónapban bűnözők, állami támogatású csoportok, kémszoftvereket értékesítő vállalatok, tudósok és propagandisták is megpróbálták felhasználni mesterségesintelligencia-modelljeiket rakéták, bombák és biofegyverek készítéséhez, kibertámadások lefolytatásához, valamint másként gondolkodók megfigyeléséhez.

Donald Trump nem fél

Az eseményekre reagálva több amerikai szenátor és képviselő – demokraták és republikánusok egyaránt – felszólalt a mesterséges intelligencia szigorúbb regulációja érdekében. Ted Cruz texasi republikánus szenátor például arról beszélt, hogy olyan törvényeket kellene alkotni, amelyekkel szabályozni lehet a mesterséges intelligenciában rejlő katasztrofális kockázatokat – írja a Reuters.

A mesterséges intelligencia szabályozásának kérdésében bizonyos fokú összefogás is kialakult a két amerikai párt között. John Thune republikánus és Amy Klobuchar demokrata szenátor például közös törvényjavaslaton dolgoznak, amely a tervek szerint azt is kimondaná, hogy a mesterséges intelligenciát fejlesztő vállalatoknak kormányzati szakértőkkel kellene együttműködniük. Ezzel biztosítanák, hogy az állam ellenőrizhesse a modellek fejlesztését, és biztosíthassa, hogy biztonságosak.

Ám mindezek ellenére Donald Trump elnök szeptember 10-én a sajtónak azt nyilatkozta, nem tart attól, hogy a mesterséges intelligencia az emberiség kihalásához vezethetne, attól viszont igen, hogy az Egyesült Államok rossz helyzetbe kerülhet, ha nem győzi le Kínát ebben a versenyben.

Az Egyesült Államok ebben a hónapban arra kérte a G20 országait, hogy az MI szabályozásában tartózkodjanak a túlzott beavatkozástól.

A mesterséges intelligenciáról és annak potenciális veszélyeiről korábbi cikkeinkben szakértőkkel beszélgettünk:

• Szegedy Balázs: Lángba boríthatja az utcákat a most zajló technológiai forradalom
• Nagy tévedés, hogy olcsóbb lesz gépekkel pótolni az embereket
• Nem kerül milliárdokba az MI-fegyver, ma már aprópénzből lehet lejáratóvideókat generálni

The post Az emberiség pusztulását várják a szakértők az MI-től, de Trump nem fél first appeared on 24.hu.

Forrás