A ChatGPT-t fejlesztő OpenAI az AI-eszköz felnőtt módjának fejlesztését folytatná, de a cég jólléttel és mesterséges intelligenciával foglalkozó tanácsa felháborodását és ellenállását fejezte ki a tervvel szemben – értesült vasárnap a Wall Street Journal. Sam Altman, az OpenAI vezérigazgatója tavaly már kijelentette, hogy „a felnőtt felhasználókat felnőttként kell kezelni”, ezért indokolt a ChatGPT erotikus beszélgetésekre alkalmas chatbotjának bevezetése.

A cég pszichológusokból és kognitív idegtudósokból álló tanácsa az OpenAI januári ülésén már figyelmeztetett arra, hogy az AI-alapú erotikus interakciók a felhasználókban egészségtelen érzelmi függőséget alakíthatnak ki a ChatGPT iránt, ráadásul kiskorúak is hozzáférhetnének ehhez a funkcióhoz. A cég vezetése ekkor még ellenállt, és bejelentette, hogy a szakértői aggodalmak ellenére folytatja a chatbot fejlesztését, majd március elején belső aggályokra és technikai problémákra hivatkozva mégis elhalasztották a felnőtt mód bevezetését. Ugyanakkor ez nem azt jelenti, hogy teljesen lemondtak volna erről a funkcióról, ugyanis a cég jelezte, hogy a chatbotot később mindenképp elérhetővé teszik.

Az értesülések szerint az OpenAI tanácsának egyik szakértője elmondta, hogy a cég egy „szexi öngyilkossági tanácsadó” létrehozását kockáztatja, ugyanis az AI-jal kialakított erős érzelmi kapcsolat akár önsértéshez is vezethet. Ez az aggály nem alaptalan: több öngyilkosság is összefügghet a ChatGPT-vel kialakított egészségtelen érzelmi viszonnyal. Két öngyilkosságot elkövetett középkorú férfinál például olyan nyugtalanító beszélgetési naplókat talált a családjuk, amikben a chatbot a felhasználókkal kialakított látszólag bizalmi viszonyt használta fel erőszak, például gyilkosság ösztönzésére.

Ráadásul a technológia használata már kiskorú áldozattal is járt: Sewell Setzer III volt az első olyan öngyilkosságot elkövető fiatal, aki a Character.AI chatbotokkal folytatott szexualizált beszélgetések következében vetett véget az életének. Miután a család beperelte a céget, a Character.AI egy héten belül kizárta a kiskorú felhasználókat az alkalmazásából. Az AI-jal generálható szexualizált tartalmak már korábban is világszerte kiváltottak jogi és morális pánikot, amikor az Elon Musk xAI nevű cégének AI-eszköze, a Grok nőket és gyerekeket „vetkőztetett le” megfelelő prompt megadása után.

Forrás