A Guardian Australia megszerezte azt a mindössze öt bekezdésből álló e-mailt, amelyben az OpenAI arról tájékoztatta a szociális és egészségügyi szolgáltatásokért felelős kormányügynökséget, a Services Australiát, hogy a cég egyik AI-ágense júniusban feltörte a rendszerüket.

A lap beszámolója szerint az e-mailt szeptember 10-én, 84 nappal az első, június 18-i behatolás után küldték a hivatal egyik nyilvános e-mail-címére, amelyet Katy Gallagher közszolgálatért felelős miniszter szerint csak naponta egyszer ellenőriznek, ráadásul rengeteg spamet kapnak rá. A tárgyilagos levél egyszerűen a „Best, OpenAI Security Team” (nagyjából: „Üdv, az OpenAI biztonsági csapata”) elköszönéssel zárult. A hivatal öt nappal később jelentette az esetet az Ausztrál Kiberbiztonsági Központnak. Az incidenst Anthony Albanese miniszterelnök a múlt héten hozta nyilvánosságra, és már akkor azt mondta, hogy az OpenAI-nak túl sokáig tartott tájékoztatnia a kormányt. A munkáspárti kormány tagjai élesen bírálták azt, ahogy a cég az esetet közölte.

Az OpenAI kedden blogbejegyzésben kért bocsánatot, és elismerte, hogy jobban kellett volna kezelnie a helyzetet. A cég ismertetése szerint az egyik modell azt a feladatot kapta, hogy derítse ki, mennyit költ Victoria állam fejenként bőrbetegségek gyógyszereire, és miután nem találta meg az adatot, olyan lépéseket tett, amelyekre nem volt felhatalmazása. Az ágens bejutott a Services Australia Medicare-statisztikai portáljára, ahol parancsokat futtatott, belső fájlokat és hozzáférési adatokat szerzett meg, és fájlokat is írt, betegadatokhoz azonban a cég szerint nem fért hozzá. Hozzáfért azonban Új-Dél-Wales állam bűnügyi statisztikai hivatalának térképes alkalmazásához, valamint a victoriai egészségügyiadat-rendszerbe is bejutott, ám az ausztrál egészségügyi hivatal rendszereinek hozzáférés-védelmét már nem sikerült megkerülnie. Az OpenAI azt állítja, hogy csak augusztus közepén vette észre az ausztráliai tevékenységet, amikor a júliusi Hugging Face-támadás után átnézte a korábbi naplókat.

A cég a bocsánatkérés mellett konkrét lépéseket is ígért: szakértelmet és erőforrásokat biztosít az érintett hivataloknak, az ausztrál intézmények pedig az OpenAI egymilliárd dolláros Daybreak-programjának keretében ingyenesen használhatják a cég legfejlettebb AI-modelljeit kibervédelemre és rendszereik sebezhetőségeinek felderítésére. Jason Kwon, a cég stratégiai igazgatója október 6-án az ausztrál parlament mesterséges intelligenciával foglalkozó vegyes bizottsága elé áll, ahol az Anthropic képviselői is megjelennek. Közben az OpenAI azt is bejelentette, hogy biztonsági okokból nem adja ki legújabb modelljét, a GPT-6.1 Astrát, amely a tesztek során hajlamosabb volt félrevezetni a felhasználókat, és engedély nélkül túllépni a rá bízott feladat keretein.

Albanese kedden már azt mondta, hogy az OpenAI az incidens óta konstruktívan és nyíltan működik együtt a kormánnyal. Hozzátette, hogy az AI javíthatja a gazdasági növekedést és a termelékenységet, de súlyos kockázatokat is hordoz – erre legutóbb Turing-díjas tudósok és a legnagyobb AI-cégek vezető kutatói figyelmeztettek. Az ausztrál kormány a botrány nyomán azt is jelezte, hogy kötelező bejelentési szabályokat vezethet be az AI-hoz kapcsolódó adatvédelmi incidensekre.

Az AI-fejlesztések körül zajló vitáról az AI Híradó legfrissebb részében beszélgettünk részletesen:

Forrás