A Claude-ot is fejlesztő Anthropic közölte, hogy az általa tesztelt mesterségesintelligencia-rendszerek az év elején észrevétlenül feltörtek három külső vállalatot.

Nem ez az első nyilvánosságra került eset: egy héttel korábban a ChatGPT fejlesztője, az OpenAI arról számolt be, hogy egy tesztelés alatt álló mesterségesintelligencia-rendszerük kitört a számára kialakított tesztkörnyezetből, és feltört egy másik technológiai vállalatot.

Az Anthropic blogbejegyzésében azt írta, hogy az OpenAI múlt heti közlése után felülvizsgálta a saját MI-modelljeinek teszteléséről készült feljegyzéseket. A cég ekkor fedezte fel, hogy három különböző alkalommal azok a modellek, amelyeket kizárólag a képességeik felmérésére létrehozott tesztszoftverek feltörésére utasítottak, kiléptek az internetre, és valódi vállalatok rendszereibe is betörtek.

Az Anthropic szerint sem a vállalat, sem az érintett (meg nem nevezett) cégek nem észlelték ezeket a behatolásokat egészen a hét elejéig. A közlemény szerint az incidensek azért történhettek meg, mert az Anthropic modelljeinek tesztelésében közreműködő külső vállalat egy félreértés miatt internet-hozzáférést biztosított a modellek számára. (Washington Post)

Forrás