Viralno.
Tehnologija

OpenAI uvodi skriveni digitalni žig za sadržaj kreiran putem vještačke inteligencije

Digitalni trag nastaje kroz način na koji se biraju i raspoređuju riječi

OpenAI uvodi skriveni digitalni žig za sadržaj kreiran putem vještačke inteligencije

Sadržaji kreirani pomoću ChatGPT-a uskoro bi mogli sadržavati neprimjetan digitalni zapis. Kompanija OpenAI namjerava tokom predstojećih sedmica započeti etapnu primjenu tehnologije za označavanje tekstova generisanih vještačkom inteligencijom na području Evropske unije. Ova novina obuhvatit će ChatGPT i programerski alat Codex, a uvodi se radi usklađivanja s propisima koje nalaže evropski Zakon o vještačkoj inteligenciji.

Evropska regulativa zahtijeva da se AI-generisani materijali označe tako da ih računarski programi mogu očitati, čak i ako ta oznaka ostaje skrivena od ljudskog pogleda. U tu svrhu OpenAI razvija sistem pod nazivom textGrain, koji se bitno razlikuje od uobičajenih vodenih žigova jer ne unosi nikakve vidljive simbole. Umjesto toga, trag se formira kroz specifičan odabir i raspoređivanje riječi, stvarajući statistički obrazac koji ljudima izgleda sasvim prirodno, ali ga namjenski softver može detektovati.

Alat za prepoznavanje ovih tragova u početku neće biti dostupan široj javnosti, već će pristup biti ograničen na odabrane stručne organizacije, istraživače i programere koji koriste modele putem API-ja. Registracije za pristup sistemu pokrenute su početkom oktobra. Razlog za restriktivan pristup leži i u tome što tehnologija još uvijek nije u potpunosti usavršena, pa postoji rizik od lažno pozitivnih ili neuspjelih prepoznavanja.

Dosadašnja testiranja provedena na engleskom jeziku otkrila su jasne limite ovog mehanizma. Iako je sistem prvobitno prepoznavao približno 92 posto označenog teksta, ta je stopa pala na oko 66 procenata kada je svega deset posto riječi zamijenjeno odgovarajućim sinonimima. Dodatnu poteškoću prave kraći tekstualni oblici i sažeci, s obzirom na to da je njihova analiza znatno manje pouzdana u odnosu na opširnije radove.

Detektovanje digitalnog žiga ne pruža garanciju da je cjelokupan tekst kreirala isključivo vještačka inteligencija, jer trag može opstati i nakon što ga ljudski autor značajnije uredi. Također, sistem nema mogućnost utvrđivanja identiteta korisnika, stepena ljudskog doprinosa u konačnom radu, niti tačnosti iznesenih tvrdnji, prenose mediji.

Povezane priče