Digitális azonosítóval könnyíti meg az Anthropic a mesterséges intelligencia használatával készült szövegek, kódok és fájlok felismerését a Claude legközelebbi frissítése után – adta hírül a cég hétfőn. A cég ezzel elsősorban az Európai Unió augusztus 2-án életbe lépett, az AI átláthatóságáról szóló jogszabályának akar megfelelni, ennek értelmében minden tartalmon egyértelműen jelezni kell, ha mesterséges intelligencia hozta létre, ahogyan azt is, ha a felhasználó mesterséges intelligenciával lépne interakcióba – vagyis ha egy chatbottal beszél, egyértelműnek kell lennie, hogy az egy chatbot és nem élő ember.

Az Anthropic egyelőre nem árult el technikai részleteket a tervezett változtatásokról, csak nagy vonalakban ismertette, hogy miről is lesz szó, valamint azt, hogy a vízjelezés mire lesz alkalmas, és mire nem.

Ezek szerint az AI-generált tartalmakat olyan vízjellel látják el, amelyek a szöveg összetételét például nem befolyásolják, az egyszeri felhasználó számára láthatatlanok, mégis kiderül belőle, hogy a tartalmat mesterséges intelligencia hozta létre. Vagyis nem biztos, hogy kiderül: a vízjel mindenképp megjelenik a metaadatokban, ha a Claude-nak akármikor is köze volt hozzá, arról viszont már nem árul el semmit, hogy mennyire nyúlt bele a szövegbe.

A jogszabálynak megfelel

Az Anthropic szerint ráadásul a jel jelenléte önmagában még nem bizonyít semmit a szöveg eredetéről: azokra a dokumentumokra is rákerül, amelyet csak ellenőriztettek az AI-jal, de akkor is, ha a program a fordításban vagy esetleg a fájl konvártálásában segített. A vízjel viszont szerkesztés után is megmarad, így ha a dokumentumnak valaha bármiben volt köze a Claude-hoz, akkor is felismerhető lesz, ha utána szinte teljes egészében átírták.

A cég mindehhez hozzáteszi, hogy a vízjel hiánya emellett nem jelenti azt, hogy nem AI-jal készült az adott tartalom: elképzelhető, hogy még egy régebbi modell munkája, de az előbb említett konvertálás során is eltűnhet a vízjel. Ahogy a The Register cikkében is megjegyzik: ez így még nem tűnik túl hasznosnak, de lehet, hogy arra elég, hogy az Anthropic megfeleljen a jogszabálynak.

A cég mindenhol alkalmazza majd a vízjeleket, ahol a Claude-ot használják, így jelen lesznek a Claude Platform, a Claude, a Claude Code, a Claude Cowork és a Claude Tag anyagaiban is, ahogy azoknál a külsős szolgáltatóknál is, ahol Claude-ot használnak. A vízjelek a Claude augusztus 2-a előtt megjelent verzióiból egyelőre hiányoznak, a cég azt ígéri, hogy a hiányt később pótolják.

Forrás