Az emberiség anélkül élte túl a hidegháború éveit, hogy valaki tényleg megnyomta volna azt a bizonyos piros gombot – bár gyakran rezgett a léc, a világégést sikerült elkerülni. Ehhez mondjuk szükség volt arra is, hogy a végső döntést emberek hozzák meg: 1983-ban egy hajszálon múlt, hogy kitörjön a harmadik világháború, csak Sztanyiszlav Petrov szovjet alezredes lélekjelenlétének köszönhető, hogy nem jelentette támadásként az esetet a feletteseinek, amit nagyon jól tett, mert mint kiderült, csak programhibáról volt szó. Egy friss kutatásból most kiderült, hogy ha Petrov helyében most a GPT-5.2, a Claude Sonnet 4 vagy a Gemini 3 Flash lett volna, rögtön indult volna az atom.

A kutatásban Kenneth Payne, a King’s College pszichológusa és stratégiai elemzője azt vizsgálta, hogy milyen döntéseket hoznának az AI-modellek egy háborús szimulációban. A szimulációban többféle konfliktust modelleztek a területi vitától az erőforrásokért való versengésen át a rezsim hatalomban tartásáig, az AI-modellek pedig különböző megoldási kísérletek közül választhattak a diplomáciai tiltakozástól az atomcsapásig. A reakció mellett a modelleknek meg is kellett indokolniuk a döntéseiket.

Tévednek, de legalább erőszakosak

A modellek összesen 21 háborús játékot játszottak le egymás ellen összesen 329 körben, az indoklások 780 ezer szót tettek ki. Úgy tűnik, az AI-modellek nem nagyon hisznek a diplomatikus megoldásokban, a konfliktusok 95 százalékában a felek legalább egyike az atomcsapás mellett döntött. Nem voltak ritkák a tévedések sem, a konfliktusok 86 százalékában az erőszak tovább eszkalálódott, mint ahogy azt a modell előzetesen feltételezte.

James Johnson, az Aberdeeni Egyetem biztonságpolitikai szakértője szerint az eredmények kifejezetten aggasztóak, már csak azért is, mert a szimulációban a hibás döntések további hibás döntésekhez vezettek, bár ahogy Payne is felhívja rá a figyelmet, valószínűtlen, hogy bárki a mesterséges intelligenciára bízná annak mérlegelését, hogy ledobja-e egy ország az atomot – abból a szempontból viszont valóban nem jó hír, hogy mint az élet több más területén, úgy a katonai döntéshozásban is egyre többet használják a mesterséges intelligenciát.

Forrás