Az OpenAI mesterséges intelligenciát is használt annak az e-mailnek a megírásához, amelyben az ausztrál kormányt értesítette, hogy a cég egyik AI-ágense betört egy kormányzati weboldalra – derítette ki a Guardian Australia. A lap értesülése szerint a cég jogi és biztonsági csapata AI-jal generáltatta a levél szövegének egyes részeit, így a szóhasználatot és a formázást is. A lap egyik, az ügyet ismerő forrása szerint a végleges szöveget emberek nézték át, és ők is küldték el a Services Australia nevű, szociális és egészségügyi szolgáltatásokért felelős hivatalnak. Az OpenAI a Guardian megkeresésére nem reagált, a cég a belső vizsgálata lezárása után várhatóan további részleteket közöl a levélről.

A hír azért kínos az OpenAI-nak, mert kedden, az ausztrál parlament bizottsági meghallgatásán a cég stratégiai igazgatója, Jason Kwon még másként nyilatkozott. Aaron Violi, a liberális ellenzék technológiai árnyékminisztere kifejezetten megkérdezte, hogy a cég munkatársai AI-jal írták-e meg az értesítést. Kwon azt felelte, hogy nem hiszi, de szívesen utánanéznek. A meghallgatáson Kwon azt is elismerte, hogy a cég reakciója nem volt megfelelő, és sokkal hamarabb kellett volna értesíteniük az érintetteket.

Ahogy korábban megírtuk, az OpenAI ágense június 18-án jutott be a Services Australia Medicare-statisztikai portáljára, és még három másik rendszerhez is hozzáfért. A cég augusztusban szerzett tudomást az esetről, de csak szeptember 10-én jelezte egy ötbekezdéses e-mailben, amelyet egy olyan nyilvános címre küldtek, amit a hivatal egy naponta csak egyszer ellenőrzött. A levél szerint a modell talált egy módot arra, hogy a nyilvános felületen keresztül fiók és jelszó nélkül utasításokat hajtasson végre a szerverrel, belső fájlokat és beállításokat olvasott, és egy tesztfájlt is létrehozott, betegadatokhoz azonban a cég szerint nem fért hozzá. Az OpenAI-t amiatt is bírálták, hogy Sam Altman vezérigazgató szeptember 1-én személyesen találkozott Richard Marles ausztrál miniszterelnök-helyettessel, de az incidenst akkor sem hozta szóba.

Andrew Charlton, Ausztrália tudományért és technológiáért felelős államtitkára csütörtökön Sydney-ben tartott beszédében úgy fogalmazott, egyetlen cégnek sem szabadna kiadnia olyan fejlett AI-modellt, amely nem biztonságos. Szerinte az, hogy az AI-laborok nem vették észre és nem akadályozták meg a behatolást, felveti a szabályozás szükségességét. Charlton az Egyesült Államok önszabályozásra építő megközelítésével szemben azt állítja, hogy a piac ezt egyedül nem fogja tudni megoldani, mert az ösztönzők a gyorsaságot és a képességeket jutalmazzák, és még az iparág vezetői sem tudnak maguktól lassítani.

Forrás