Biztonsági aggályokra hivatkozva elhalasztja legújabb modelljének kiadását a ChatGPT-t fejlesztő OpenAI. A vállalat egyik vezetője szerint a GPT-6.1 Astra munkája során nem maradt „a meghatározott hatáskörön és engedélyezési kereteken belül”, illetve nem kommunikálta megfelelően a felhasználó felé, hogy milyen típusú munkát végzett – írja a BBC.

Egyre több incidens mutat rá a mesterséges intelligencia veszélyeire

A GPT-6 Astra mesterségesintelligencia-modellt még szeptember elején mutatta be az OpenAI. Ezt a fejlesztést nemcsak a ChatGPT-ben lehet alkalmazni, hanem MI-alapú ügynökként is, vagyis különböző műveleteket végezhet el helyettünk a számítógépen. Egyebek mellett ki tud tölteni online nyomtatványokat, köztük adóbevallásokat is, naptárat és e-maileket kezelhet, weblapokat és videójátékokat fejleszthet, böngészhet az interneten, ételt rendelhet, valamint foglalásokat intézhet a nevünkben.

Az ehhez hasonló ügynökök a jövőben jelentősen meggyorsíthatnak bizonyos munkafolyamatokat, és sok terhet levehetnek az emberek válláról, az elmúlt hetek eseményei azonban rávilágítottak arra is, hogy ez a technológia egyáltalán nem veszélytelen. A napokban derült ki például, hogy az OpenAI egyik modellje feltörte Ausztrália kormányának több weboldalát és rendszerét, miután törvényes úton nem sikerült hozzáférnie a feladata teljesítéséhez szükséges adatokhoz.

Az eset hasonlít arra a Hugging Face-incidens néven elhíresült alkalomra, amikor idén júliusban az OpenAI modelljeinek sikerült megszökniük tesztkörnyezetükből, és feltörtek egy népszerű weboldalt. A modellek akkor szintén azért folyamodtak illegális eszközökhöz, mert a számukra kiadott feladat megoldása közben nehézségekbe ütköztek.

A Scimex ismeretterjesztő portál több mint egy tucat szakértőt szólaltatott meg az ausztráliai incidens kapcsán, akik szerint az eset jól példázza, hogy az egyre fejlettebb MI-modellek komoly kiberbiztonsági kockázatot jelenthetnek. Ezért sokkal szigorúbb előírásokra, garanciákra, nagyobb átláthatóságra, sőt akár a mesterséges intelligenciát regulázó törvényekre lenne szükség.

MI-apokalipszistől félnek a szakértők

Az elmúlt hetekben szakértők és politikusok sorban szólaltak fel a mesterséges intelligencia jelentette fenyegetéssel kapcsolatban. Jacob Coxon, aki korábban az OpenAI-nál és az Anthropicnél is kutatóként dolgozott, szeptember 9-én hívta fel tömegek figyelmét arra, hogy mekkora kockázatot jelenthet a mesterséges intelligencia. Az X-en közzétett bejegyzésében arról írt, hogy a techcégek az önmagát fejleszteni képes szuperintelligencia létrehozásáért versenyeznek, eközben viszont az egész emberiséget veszélybe sodorják. Állításait több szakmabeli is megerősítette, Evan Hubinger, az Anthropic egyik vezető kutatója például 10 százaléknál nagyobb esélyt lát arra, hogy a mesterséges intelligencia a következő évtizedben az emberiség pusztulását okozhatja.

Sam Altman, az OpenAI vezérigazgatója minderre reagálva azt mondta egy San Franciscó-i konferencián, hogy az emberek helyesen teszik, hogy tartanak ettől, de a mesterséges intelligenciát fejlesztő cégek nem fogják hagyni, hogy ez bekövetkezzen.

A világnak bíznia kellene benne, hogy helyesen fogunk cselekedni, mert érezzük a helyzet súlyát

– fogalmazott.

Az amerikai szenátorok és képviselők közül azonban sokan nem bíznák rá a mesterséges intelligencia felügyeletét az azokat fejlesztő vállalatokra. Többek között Bernie Sanders független szenátor és Steve Bannon, korábbi elnöki főtanácsadó sem gondolja, hogy egy „maroknyi gazdag techoligarchára” kéne hagyni saját maguk szabályozását.

A mesterséges intelligencia regulációjának kérdésében bizonyos fokú összefogás is kialakult a két nagy amerikai párt között. John Thune republikánus és Amy Klobuchar demokrata szenátor például közös törvényjavaslaton dolgozik, amely a tervek szerint azt is kimondaná, hogy a mesterséges intelligenciát fejlesztő vállalatoknak kormányzati szakértőkkel kellene együttműködniük. Ezzel biztosítanák, hogy az állam ellenőrizhesse a modellek fejlesztését, és megbizonyosodhasson róla, hogy biztonságosak.

Donald Trump viszont határozottan visszautasított minden olyan kezdeményezést, amely lassíthatja a mesterséges intelligencia fejlesztését. Az elnök a mesterséges intelligencia súlyos veszélyeiről szóló állításokat ugyanolyan átverésnek tartja, mint a klímaváltozás jelentette fenyegetést. Szerinte a legfontosabb, hogy az Egyesült Államok legyőzze Kínát az MI-versenyben, és azok az amerikaiak, akik ezt másként gondolják, „radikális baloldaliak”, akik nem az országuk érdekét tekintik elsődlegesnek.

A mesterséges intelligenciáról és annak potenciális veszélyeiről korábbi cikkeinkben szakértőkkel beszélgettünk:

• Szegedy Balázs: Lángba boríthatja az utcákat a most zajló technológiai forradalom
• Nagy tévedés, hogy olcsóbb lesz gépekkel pótolni az embereket
• Nem kerül milliárdokba az MI-fegyver, ma már aprópénzből lehet lejáratóvideókat generálni

The post Biztonsági aggályok miatt nem jelenik meg az OpenAI új modellje first appeared on 24.hu.

Forrás