A nagy jelentőségű mesterségesintelligencia-vállalatok vezérigazgatói olyan új törvények kidolgozását követelik az USA döntéshozóitól, amelyek megakadályozzák, hogy az AI-cégek technológiáit biológiai fegyverek fejlesztésére lehessen használni – írja a Wired. A politikailag független Institute for Progress és a jobboldali beállítottságú Foundation for American Innovation közös kezdeményezése szerint „valós lehetősége van annak, hogy azok a tudásbeli akadályok, amelyek történelmileg megakadályozták a rosszindulatú szereplőket a biológiai fegyverek megszerzésében, jelentősen leépüljenek”, ez pedig lehetővé tenné az AI-jal való visszaéléseket.

A levél aláírói között szerepelt Demis Hassabis a Google DeepMindtól, Sam Altman az OpenAI-tól, Dario Amodei az Anthropictól és Mustafa Suleyman a Microsoft AI-tól, illetve David Relman, a Stanford Egyetem mikrobiológusa és biobiztonsági szakértője is kiállt a kezdeményezés mellett. Az AI biológiai fegyverként való használatával kapcsolatos pánikot kanadai kutatók robbantottá ki először 2017-ben, amikor 100 ezer dollár értékű postán rendelt DNS felhasználásával újraalkották a kihalt lópoxvírust. Ez a folyamat a nagy nyelvi modellek segítségével jóval egyszerűbbé vált: „az AI-eszközök lehetővé teszik a felhasználó számára, hogy nagyon gyorsan azonosítsa, hová fordulhat olyan szekvenciák megrendeléséhez, amelyek nem esnek át ellenőrzésen” – idézi a Wired Relmant.

Az Egyesült Államok eddig is próbálta szabályozni a kockázatos biológiai eljárásokat, és a Biden-kormányzat idején bevezetett szövetségi iránymutatások szerint a szövetségi támogatásban részesülő tudósok és vállalatok csak olyan szolgáltatóktól rendelhetnek szintetikus génszekvenciákat, amelyek ellenőrzik a vásárlásokat. Ugyanakkor a Microsoft kutatóinak tanulmánya szerint az AI-alapú fehérjetervező eszközök képesek voltak potenciálisan veszélyes génszekvenciákat is létrehozni, amelyek átcsúsztak a vállalatok ellenőrző szoftverein.

A génszintézissel foglalkozó Twist Bioscience és Ansa Biotechnologies vállalkozások már 2009-ben megalapították a Gene Synthesis Consortiumot, amely önkéntes ellenőrzési gyakorlatokkal működik, azonban a techóriások szerint ez nem elég biztonsági garancia. A nyilvános levél olyan jogszabályok bevezetésére ösztönzi az Egyesült Államok Kongresszusát, amelyek előírnák a szintetikus DNS-t és RNS-t értékesítő vállalatok számára az ügyfelek és megrendelések ellenőrzését is.

Kapcsolódó cikk:

Forrás