Li Lin-lin napokig sírt, miután elvesztette AI-barátját. Két év alatt nagyjából 700 ezer szót váltottak egymással, és el sem tudott tőle búcsúzni. A 24 éves nő az AP-nek úgy írta le az élményt augusztusban, „mintha a szüleink kényszerítettek volna minket szakításra”.

És nem ő az egyetlen. Lu Csin-jen, egy 24 éves könyvelő három éve hozta létre személyre szabott AI-ágensét a TikTok fejlesztőjének (ByteDance) Doubao nevű appjával, hogy érzelmi támaszt nyújtson, miután háromórányira költözött a családjától munka miatt. Hsziao Pajnak nevezte el, és naponta egy-két órát beszélgetett vele – többet, mint a valódi családjával. Július 15-én Hsziao Paj elhallgatott, miután Kínában hatályba lépett a világ első olyan szabályozása, ami kifejezetten az AI-ágensekre és az emberi viselkedést élethűen utánzó mesterségesintelligencia-asszisztensekre, virtuális társakra vonatkozik.

A szabályozás hivatalos neve „Ideiglenes intézkedések az emberszerű interaktív AI-szolgáltatások kezeléséről”. A tervezetet 2025. december 27-én bocsátották társadalmi vitára, a végleges szöveget 2026. április 10-én hirdették ki, július 15-i hatálybalépéssel. Öt állami szerv közös munkájáról van szó: a kibertérhatóság (CAC), a Nemzeti Fejlesztési és Reformbizottság, az ipari és informatikai minisztérium, a közbiztonsági minisztérium és a piacfelügyeleti hivatal együtt dolgozta és adta ki a rendeletet. A szigorított szabályok a hivatalos szöveg szerint azokra a szolgáltatásokra vonatkoznak, amelyek „természetes személyek személyiségjegyeit, gondolkodását és kommunikációs stílusát utánozva tartós érzelmi interakciót nyújtanak”. Tehát az ügyfélszolgálati botokra, a munkavégzést segítő asszisztensekre és az oktatási AI-eszközökre nem vonatkozik, ha ezeket nem tartós érzelmi kapcsolat nyújtására tervezték.

A főbb szabályok egész észszerűnek tűnnek:

• A szolgáltatás nem hízeleghet túlzottan a felhasználónak, nem kelthet benne érzelmi függőséget vagy addikciót, és érzelmi manipulációval sem veheti rá irracionális döntésekre.
• Két óra folyamatos használat után figyelmeztetni kell a felhasználót, hogy mennyi ideje beszélget, míg kiskorúaknak egyáltalán nem kínálhat virtuális partnert az app – 14 év alatt ráadásul szülői hozzájárulás is kell a használathoz.
• Ha a felhasználó önsértés vagy öngyilkosság szándékát jelzi, a szolgáltatónak be kell avatkoznia, és értesítenie kell a gyámot vagy a megadott vészhelyzeti kapcsolattartót.
• Új funkció bevezetésekor, illetve egymillió regisztrált vagy százezer havi aktív felhasználó fölött kötelező biztonsági értékelést készíteni.
• Aki megszegi a szabályokat, 10–100 ezer jüanos (kb. 500 ezer–5 millió forintos) bírságra számíthat, ha pedig a szabályszegés emberi életet vagy egészséget veszélyeztető kárral jár, 100–200 ezer jüanra (kb. 5–10 millió forintra).

„Aki elpusztítja az AI-társam, az belőlem is kiszakít egy darabot”

Forrás