Megakadályozta az Anthropic, hogy a Claude AI-modelleket biológiai fegyverek kifejlesztésére, megfigyelési célokra, valamint Ukrajna elleni kibertámadásokra használják – áll abban a részletes jelentésben, amit csütörtökön közölt az AI-cég.

Az Anthropic arra figyelmeztet, hogy az AI-eszközök segítségével már egyedül dolgozó hackerek is olyan szintű kibertámadásokat tudnak felépíteni, amik korábban államilag támogatott hackercsoportok sajátjai voltak. Eközben mások az AI-modelleket rakétákat és drónokat vezérlő szoftverek fejlesztésére használták.

A cég a jelentés szerint az elmúlt hónapokban öt olyan példát talált, ahol AI-modelljeiket akár biológiai fegyverek létrehozásához is elvezető kutatásokhoz használták. Egy esetben egy Anthropic által nem támogatott régióban élő kutató virtuális szerver infrastruktúrán keresztül érte el a Claude-ot és a chatbottal hetekig olyan virológiai kísérleteket terveztetett, amik madárinfluenza emlősökhöz történő adaptálását célozták (a 2010-es évek elején nagy vitákat váltottak ki ilyen kísérletek, amiket holland és japán-amerikai kutatók folytattak a H5N1 lehetséges jövőbeli evolúcióját vizsgálva).

De az Anthropic jelentése nemcsak a Claude potenciálisan kockázatos használatát veszi sorra. A cég a Reuters szerint azzal vádolja kínai vetélytársait, hogy egy modelldesztillációnak nevezett módszerrel megpróbálják lemásolni a fejlett Claude modellek képességeit. Az amerikai AI-cég szerint az Alibabához köthető szereplők az eddigi legnagyobb illegális desztillációs támadást hajtottak végre a Claude ellen a saját Qwen modelljük fejlesztése érdekében: 2026 májusa és júliusa között 151 millió, az Alibabának tulajdonított interakciót figyeltek meg a Claude modellekkel. Eközben olyan kínai cégek, mint a Kimi modelleket fejlesztő Moonshot, vagy a DeepSeek egyes beszélgetéseket felhasználóik tudta nélkül Claude modellekhez irányítanak át.

A jelentést azután adták ki, hogy a héten egy volt és egy jelenlegi Anthropic kutató is az AI-fejlesztések kockázatára hívta fel a figyelmet. Jacob Coxon, az Anthropic és az OpenAI korábbi kutatója az X-en egy 164 millió megtekintést elérő posztban azt írta, hogy egyik AI-cég sem viselkedik eléggé felelősségteljesen. „Egyenesen az önfejlesztő szuperintelligencia felé rohannak és közben a mi életünkkel játszanak” – írta. Evan Hubinger, az Anthropic emberi célokat a mesterséges intelligenciával összehangoló AI-alignment csoportját vezető kutatója Coxon posztját egyetértően osztotta meg, és azt írta, hogy „tényleg őszintén hiszünk abban, hogy az AI ki tudná pusztítani az emberiséget. Én személyesen erre több mint 10% esélyt látok a következő évtizedben.

Forrás