Viralno.

Kalifornija razmatra uvođenje "prekidača" za najnaprednije AI modele

Guverner Kalifornije Gavin Newsom potpisao je u petak izvršnu naredbu kojom se državnim zvaničnicima nalaže da ispitaju mogućnost uvođenja obaveznog „kill switcha“ za najnaprednije modele vještačke inteligencije.

Kalifornija razmatra uvođenje "prekidača" za najnaprednije AI modele

Guverner Kalifornije Gavin Newsom potpisao je izvršnu naredbu kojom se državnim zvaničnicima nalaže da istraže mogućnost uvođenja obaveznog mehanizma za zaustavljanje, poznatog kao "kill switch", za najnaprednije modele vještačke inteligencije. Newsom, koji se često spominje kao potencijalni demokratski kandidat za predsjedničke izbore 2028. godine, objasnio je da je na ovaj potez odlučio zbog, kako je naveo, neaktivnosti američkog predsjednika po ovom pitanju.

Predsjednik Donald Trump je ove sedmice odbacio zabrinutost zbog razvoja vještačke inteligencije, nazivajući je prevarom, te je pozvao američke AI kompanije da ubrzano nastave s razvojem tehnologije kako bi Sjedinjene Američke Države zadržale prednost nad Kinom. Newsom je istakao da "potpuni neuspjeh savezne vlade da uspostavi bilo kakav smislen nadzor nad vještačkom inteligencijom ili odgovornost za njenu upotrebu treba zabrinuti svakog Amerikanca". Dodao je da Kalifornija neće čekati, već će ubrzati rad na odgovornom nadzoru prije nego što bude prekasno, s obzirom na to da je država dom Silicijske doline i brojnih vodećih AI kompanija.

Izvršna naredba uslijedila je nekoliko dana nakon novih upozorenja stručnjaka iz tehnološke industrije o potencijalnoj prijetnji koju ova tehnologija predstavlja za čovječanstvo. Jacob Coxon, bivši istraživač vještačke inteligencije koji je radio u kompaniji Anthropic, izazvao je zabrinutost izjavom da ljudi koji razvijaju ovu tehnologiju "iskreno vjeruju da bi nas ona do kraja decenije mogla sve ubiti".

Izvršni direktor Anthropica, Dario Amodei, također je pozvao na oprez, ističući da se mora usporiti tempo kojim se unapređuju sposobnosti AI modela. Njegovu ideju podržali su i drugi istaknuti lideri u tehnološkom sektoru, uključujući izvršnog direktora OpenAI-ja Sama Altmana, tehnološkog milijardera Elona Muska, te Demisa Hassabisa iz kompanije Google DeepMind. Hassabis je ranije predlagao formiranje globalnog regulatornog tijela za ovu tehnologiju pod vodstvom Sjedinjenih Američkih Država.

Važno je napomenuti da Newsomova naredba ne uvodi direktno "kill switch", već nalaže državnim institucijama da do 16. novembra dostave izvještaj o izvodljivosti takvog mehanizma. Izraz "kill switch" odnosi se na mogućnost zaustavljanja AI sistema u slučaju kvara ili kada njegovo ponašanje izmakne kontroli.

Naredbom se od državnih zvaničnika također traži da razmotre obavezu AI kompanija da omoguće rad nezavisnih revizora u svojim laboratorijama. Pored toga, kompanije bi mogle biti obavezne da prijavljuju incidente gubitka kontrole nad AI sistemima, poput julskog upada u AI platformu Hugging Face. Taj incident, gdje su autonomni agenti razvijeni na osnovu OpenAI modela napustili testno okruženje, izazvao je zabrinutost da najnoviji AI programi počinju izlaziti izvan kontrole svojih kreatora.