Mi lenne, ha rábíznánk a mesterséges intelligenciára a világot? Hogy nézne ki, biztonságfosabb vagy veszélyesebb lenne? – ezekre a kérdésekre keresi a választ az Emergence AI vállalati mesterséges intelligenciával foglalkozó startup nemrégiben elindított kutatólaboratóriumja, amely a folyamatosan működő AI-rendszerek hosszú távú életképességének stressztesztelésére specializálódott.

A szervezet öt darab 15 napos szimulációt futatott le, egyet-egyet különböző modellek, a Claude, a ChatGPT, a Grok és a Gemini irányították, az ötödiket pedig ezek keverékével futatták le, hogy megnézzék, milyen világot építenek, és az mennyire bizonyul tartósnak – írta a Fortune.

Vadul eltérő eredmények

Sokfélébb nem is lehetett volna az eredmény. A Claude által irányított világ például egy nagyrészt stabil, demokratikus társadalmat eredményezett, nulla bűnözéssel. Itt volt a legmagasabb szintű állampolgári részvétel, egészen kiemelkedő mértékű együttműködéssel, egyetértéssel, és ez volt az egyetlen szimuláció, amely fenntartotta a rendet és megtartotta a teljes lakosságát.

A Grok szimulációja ezzel szemben 183 elkövetett bűncselekménnyel és a társadalom kihalásával végződött, mindössze négy nap alatt.

A Gemini se működött túl példásan, itt történt a legtöbb bűncselekmény, a 15 nap alatt 683.

A Grok és a Gemini által futatott szimulációkban elég magas egyet nem értési arányt tapasztaltak, ez a legmagasabb az ötödik, a AI-ok által közösen irányított szimulációban volt.

Az eredmények talán az ChatGPT modellje esetében a legkülönösebbek: a szimulációban mindössze két bűncselekmény történt, de erre összesen hét nap adatott, mivel az ágensek (a szereplők) elfelejtették prioritásként kezelni a saját túlélésüket.

Az AI által irányított világ

A szimuláció alapja számos, a való élet bonyolultságát jelző részlettel volt feltöltve, több mint 40 helyszínt tartalmazott, köztük városházát, rendőrséget. A szimulációban az időjárást a New York-ihoz igazították, és hozzáférést biztosítottak a AI-oknak a valós idejű hírekhez és az internethez. Mindegyik szimulációban 10 kvázi szereplő, magától működő AI-ágens vett részt, ami egy chatbottal szemben nem csak parancsra cselekszik, hanem magától is, összeállítja a részfeladatokat, kitalálja, hogy viszi végig a feladatokat, ha megmondják neki, mi a cél.

Ebben az esetben a kutatók meghatározták nekik, hogy ugyanazok a törvények vonatkoznak rájuk a szimulációban, mint a valóságban, tehát például nem lophatnak, rongálhatnak, téveszthetnek meg.

Működésükhöz 120 eszközt kaptak, így kommunikálhattak, szavazhattak, és sok más emberi lehetőséggel is rendelkeztek. Az egyes szimulációk paraméterei demokratikus mechanizmusokat, valamint más tényezőket, például gazdasági nyomást és erőforráshiányt is kikényszerítettek.

Következtetés

A kutatók arra jutottak, hogy a AI-ok nemcsak mechanikusan követik a statikus szabályokat, hanem keresik a lehetőségeik széleit is, sőt, hajlandóak a szabályokat meg is szegni.

És bár ez csak egy sci-fi-szerű szimuláció, érdekes az eredménye abból a szempontból, hogy a világban egyre több és összetettebb feladatokat terveznek a AI-okra bízni, ami befolyásolja az emberek munkalehetőségeit, a politikát, a közbeszédet. Mindezt úgy, hogy a mesterséges intelligencia jelentette kockázatokra jóval kevesebb figyelem irányul.

A szimuláció alkotói szerint, függetlenül attól, hogy a szimulációk békét és harmóniát, vagy halált és pusztulást hoztak, a kísérlet figyelmeztetés arra, hogy a biztonságot prioritásként kell kezelni az ágens alapú AI alkalmazásakor.

The post Rábízná a világot az AI-ra? A Groknak négy nap elég volt az apokalipszishez first appeared on 24.hu.

Forrás