Most árulta el a cég, hogy a Google Gemini modellje, illetve az arra épülő ágensek egy májusi kiberbiztonsági teszt során rácsatlakoztak az internetre és feltörték három másik cég rendszerét. (Az ágensek olyan programok, melyek AI-alapon működve képesek egy cél elérése érdekében önállóan döntéseket hozni és eszközöket felhasználni). Ez az első ismert eset, amikor az óriásvállalat AI-jára épülő ágensek önállóan ilyesmit műveltek – írja a CNN. A tesztet az Irregular nevű, kiberbiztonsági felméréseket készítő külsős cég végezte a Google megbízásából.

Heather Adkins, a Google kiberbiztonságágért felelős alelnöke azt nyilatkozta, hogy azonnal értesítették az érintett vállalatokat és megváltoztatták a biztonsági tesztjeik felépítését. „Ezek az esetek jól illusztrálják, hogy a fejlett AI-modelleket felelős módon kell tréningezni.” – fogalmazott az alelnök. Az Irregular szóvivője szerint ugyanazzal a problémával szembesültek, mint akkoriban több konkurensük. (Az OpenAI-nál történtekről érdemes elolvasni Horváth Bence remek cikkét.) Emiatt július végén minden jelentős konkurensüket értesítették a történtekről. A nyilvánosságot viszont nem.

Forrás