Az amerikai hadsereg tavasszal, már az Irán elleni háború idején egy olyan hírszerzési jelentést kapott, amely szerint egy kínai hajó nukleáris fegyverprogramhoz szükséges alkatrészeket szállít a Közel-Keleten. A hadsereg a kínai hajó elfogását tervezte a CNN történtekre rálátó négy forrása szerint. Több forrás szerint az amerikai hadsereg arra készült, hogy felfegyverzett katonákkal szállnak fel a hajóra, más forrás szerint már a katonai repülőgépek is a levegőben voltak. Ha az akciót az amerikaiak végrehajtják, könnyen fegyveres konfliktussá fajulhatott volna Kína és az Egyesült Államok közt.

A CNN szerint csak közvetlenül a tervezett művelet előtt vizsgálták meg alaposabban a jelentést, amelyet egy különleges műveleti parancsnokság elemzője állított össze. Ekkor derült ki, hogy a jelentés elkészítéséhez mesterséges intelligenciát is használtak, és hogy az elemző által használt chatbot tévesen azonosította a hajó rakományát.

Az amerikai hadseregben és a hírszerzésben a tisztviselők egyébként arra törekednek, hogy a munkájuk szinte minden területén használjanak mesterséges intelligenciát: az USA által begyűjtött hatalmas mennyiségű nyers hírszerzési adat elemzésétől és a csapások célpontjainak kiválasztásától kezdve egészen olyan hétköznapibb feladatokig, mint a költségvetés kezelése, a logisztika és az ellátási láncok irányítása.

A mostani eset rávilágít az AI háborús célpontok kiválasztásában történő alkalmazásának kockázataira. Elemzők régóta attól tartanak, hogy az AI katasztrofális tévedésekhez vezethet, ha az államok gyenge minőségű vagy meghamisított adatokra támaszkodnak. Ebben az esetben az elemző egy chatbotot kérdezett meg a hajó rakományjegyzékéről szóló egyik hírszerzési jelentéssel kapcsolatban. (Nem derült ki, hogy a chatbot kereskedelmi forgalomban elérhető rendszer volt-e, vagy az amerikai kormány saját fejlesztésű terméke.) A chatbot összefésülte a nyílt forrású hírszerzési adatokat a kormányzati szervek birtokában lévő titkos hírszerzési információkkal, majd ezek alapján vonta le a tévesnek bizonyuló következtetést a hajó rakományáról. A CNN szerint a szóban forgó elemző ezután ismét AI-t használt, ezúttal arra, hogy a megállapításokat egy szabványos hírszerzési jelentéssé állítsa össze, majd továbbította azt.

Az AI gyors bevezetésének egyik fő indoka, hogy segíthet a hadseregnek gyorsabban meghozni a harctéri döntéseket, például, hogy mely célpontokat támadják, vagy egyes katonai eszközöket hová vezényeljenek. A tisztviselők szerint az Egyesült Államok nem engedheti meg magának, hogy lemaradjon az AI katonai alkalmazásában. Pete Hegseth hadügyminiszter is a mesterséges intelligencia használatának növelését támogatja, januárban kiadta minisztériuma „Artificial Intelligence Acceleration Strategy” című stratégiáját, amelynek célja az AI katonai alkalmazásának felgyorsítása.

Jelenleg egyébként az amerikai kormányzat különböző részei különböző AI eszközöket használnak, eltérő utasítások és biztonsági előírások mellett. Nincs egységes szabályrendszer arra, hogyan ellenőrizzék az ezekből az eszközökből származó információkat.

Az elmúlt hetekben intenzívebbé váltak a mesterséges intelligenciával kapcsolatos viták, miután a Szilícium-völgy mérnökei és nagy techvállalatok vezetői sorra figyelmeztettek arra, hogy az AI kikerülhet az emberi ellenőrzés alól, ami akár a civilizáció végét jelentő következményekkel is járhat.

Néhány régebb óta szolgáló hírszerzési tisztviselő szerint – még azok közül is, akik alapvetően támogatják az AI katonai alkalmazását – az AI nyomást gyakorol az elemzőkre, hogy gyorsabban állítsák elő és továbbítsák a hírszerzési információkat, ami növeli a hibák lehetőségét. (CNN)

Forrás