Kötelező incidensbejelentést, független modellértékelést és bírságolási joggal felruházott AI-biztonsági hatóságot vezet be Ausztrália, jelentette be kedden Anthony Albanese miniszterelnök – a Guardian szerint a döntés egy gyorsított vizsgálat nyomán született. A vizsgálatot az OpenAI egyik kísérleti AI-ágense váltotta ki: júniusban egészségügyi statisztikák után kutatva jutott be a szociális és egészségügyi ellátásokért felelős Services Australia hivatal Medicare-statisztikai portáljára, és további három rendszerhez is hozzáfért. A kormány a vizsgálat mind a 18 ajánlását elfogadta, a jelentést azonban egyelőre nem hozta nyilvánosságra.

Az ügy kínos tanulsága, hogy az OpenAI az ABC szerint a jelenlegi ausztrál jog alapján valószínűleg nem követett el bűncselekményt. A szövetségi rendőrség nem indított eljárást, mert hivatalos feljelentés nem érkezett, és a Guardian értesülése szerint a cégnek további jogi következményekkel sem kell számolnia. A vizsgálat ezért azt javasolja, hogy a kormány fontolja meg az úgynevezett „megelőzés elmulasztása” típusú tényállás bevezetését. Eszerint büntetendő lenne, ha egy cég olyan AI-modellt fejleszt, amely kárt okoz, miközben nem tett meg minden észszerű lépést ennek megakadályozására. Tony Burke belügyminiszter szerint a jövőben senki nem védekezhet azzal, hogy nem tudta, mire képes a rendszere. Burke úgy látja, hogy míg a szoftveres sebezhetőségek felfedezése és kihasználása közti idő korábban nagyjából két és fél év volt, ez az AI miatt mostanra körülbelül tíz órára szűkült.

Az új szabályok szerint az AI-cégeknek a fejlesztés minden szakaszában biztonsági kontrollokat kell fenntartaniuk, és kezelniük kell modelljeik súlyos kockázatait. A lehető leggyorsabban jelenteniük kell az incidenseket, köztük azt is, ha egy ágens a fejlesztők szándékától eltérően viselkedik. Lehetővé kell tenniük modelljeik független értékelését, és nyilvánosságra kell hozniuk biztonsági keretrendszerüket. A jogszabályt jövőre terjesztik a parlament elé. Albanese a személyes adatok szempontjából csekélynek nevezte a júniusi incidenst, mert az ágens betegadatokhoz nem fért hozzá, ugyanakkor elfogadhatatlannak tartja a történteket. Az OpenAI közölte, hogy tanulmányozza a javaslatokat, és együttműködik a kormánnyal.

A bejelentést az ellenzéki koalíció támogatja, mások szerint viszont nem szabad ennyinél megállni. Toby Walsh AI-kutató a Guardiannek azt mondta, a bírságok nem rettentik el a dúsgazdag techcégeket, ezért a vezetőiket büntetőjogilag is felelősségre kellene vonni. A Zöldek részéről David Shoebridge a techipar előtti behódolásnak nevezte a csomagot, mert a legszigorúbb lépéseket a kormány mindig csak megfontolja, de nem meri vállalni.

Kapcsolódó cikkek:

Az AI Híradó kapcsolódó adása:

Forrás