Pravila o transparentnosti iz Zakona EU o umjetnoj inteligenciji nalažu kompanijama koje razvijaju AI sisteme da označavaju tako generisan sadržaj

foto: Pexels / Ilustracija

Američka kompanija za umjetnu inteligenciju OpenAI će početi dodavati nevidljivi vodeni žig na tekstove koje generišu ChatGPT i Codex unutar Evropske unije kako bi se uskladila sa Zakonom EU o umjetnoj inteligenciji (EU AI Act), objavio je TechCrunch.

Pravila o transparentnosti iz Zakona EU o umjetnoj inteligenciji nalažu kompanijama koje razvijaju AI sisteme da označavaju sadržaj generisan pomoću AI na način koji drugi sistemi mogu identifikovati.

Vodeni žig će se tokom narednih sedmica uvoditi korisnicima ChatGPT-a i Codexa koji ispunjavaju uslove, bez obzira na paket usluge, ali isključivo u EU, naveli su iz OpenAI. Programeri koji koriste OpenAI-jev API bilo gdje u svijetu mogu aktivirati ovu opciju za odabrane modele, a prema zadanim postavkama je isključena. OpenAI je naglasio da u trenutku lansiranja neće postaviti vodeni žig na tekst kao globalnu zadanu opciju.

TechCrunch objašnjava da vodeni žig nije vidljiva oznaka, već nevidljivi statistički obrazac ugrađen u izbor riječi modela, koji poseban detektor može prepoznati. Budući da je ugrađen u same riječi, ostaje prisutan uz tekst i prilikom kopiranja i lijepljenja. OpenAI navodi da vodeni žig ne otkriva identitet korisnika te da nisu uočene značajne promjene u performansama modela kada je ova funkcija aktivirana.

Isti portal javlja i da testovi OpenAI-ja sugerišu da je tokom uređivanja teksta moguće uklanjanje vodenog žiga. U jednom testu, kako se dodaje, zamjena 10 posto riječi sinonimima smanjila je stopu detekcije sa 92 posto na 66 posto. Kompanija je također navela da je teže detektovati kratke odlomke, matematičke odgovore i prevedene tekstove.

Anthropic ranije uveo vodeni žig za Claude

Iz kompanije su kazali da su početni pristup detektoru omogućili samo odobrenim istraživačima i stručnim organizacijama, koje im, kako je navedeno, mogu pomoći u procjeni pouzdanosti i odgovorne upotrebe.

OpenAI je također upozorio da odsustvo vodenog žiga „ne dokazuje ljudsko autorstvo“. Tekst bi mogao biti prekratak ili znatno izmijenjen, ili pak poticati od sistema umjetne inteligencije druge kompanije.

„Vodeni žigovi mogu ukazivati ​​na to da je sistem kompanije OpenAI generisao ili obradio dio teksta, ali ne i na to koliko je ljudske procjene, uređivanja ili kreativnosti uloženo u njega“, naveli su iz kompanije.

TechCrunch podsjeća da je objava iz OpenAI-ja uslijedila nakon što je kompanija Anthropic prije dva mjeseca najavila uvođenje vodenih žigova za tekst koji generiše Claude, što će primjenjivati na globalnom nivou. Ta odluka naišla je na negodovanje dijela korisnika Claudea, koji su tvrdili da su oni ti koji su pružili „instrukcije, kontekst i odluke“, dok je Claude bio samo „alat“.

Portal podsjeća da je The Wall Street Journal 2024. godine izvijestio da je OpenAI već razvio vodeni žig za tekst, ali je odgodio njegovo uvođenje dijelom zbog zabrinutosti da bi korisnici mogli preći konkurentima koji ne koriste vodene žigove.

Anthropic, Google, Meta, Microsoft i OpenAI su među kompanijama koje su se obavezale da će poštovati Kodeks prakse EU o sadržaju generisanom pomoću umjetne inteligencije.

Izvor: TechCrunch

___

Želite sedmični pregled vijesti, analiza, komentara i edukacija za novinare u inboxu Vašeg e-maila? Pretplatite se na naš besplatni E-bilten ovdje.