Viralno.
Tehnologija

Trump i čelnici tehnoloških kompanija potpisali sporazum o sigurnosti superinteligencije

Američki predsjednik Donald Trump podijelio je kopiju sporazuma na svojoj platformi Truth Social o sigurnosti vještačke inteligencije (AI) za koji je

Trump i čelnici tehnoloških kompanija potpisali sporazum o sigurnosti superinteligencije

Bijela kuća je postigla sporazum o "superinteligenciji", nazvan "Zajednička posvećenost graničnim odgovornostima". Ovaj dokument obavezuje kompanije koje razvijaju i primjenjuju napredne modele da uspostave snažne interne mehanizme. Cilj je osigurati da njihovi sistemi funkcionišu kako je zamišljeno te da se potencijalni problemi brzo prepoznaju i riješe.

Prema odredbama sporazuma, svaka kompanija koja je potpisnica mora implementirati četiri nivoa kontrola i revizija. Prvi nivo podrazumijeva uspostavljanje internih kontrola za praćenje sposobnosti i usklađenosti modela. Ovo uključuje procjenu rizika u oblastima kibernetičke sigurnosti, biološke sigurnosti i hemijskih prijetnji. Kontrole su dizajnirane da spriječe modele da neovlašteno hakuju ili pristupe tehničkim sistemima.

Drugi nivo zahtijeva formiranje internog tima čiji je zadatak provjera ispravnosti sistema kontrole, praćenja i detekcije. Ovaj tim je također odgovoran za osiguravanje da se svi prepoznati problemi efikasno rješavaju. Treći nivo predviđa saradnju sa nezavisnim eksternim revizorima radi procjene funkcionisanja sistema. Na četvrtom nivou, nezavisni odbor uprave nadgleda proces i osigurava rješavanje uočenih problema.

Sve ove mjere, predviđene sporazumom, imaju za cilj da povećaju povjerenje kompanija, korisnika i javnosti. Želi se osigurati da napredni sistemi vještačke inteligencije zaista funkcionišu onako kako je planirano. Potpisnice sporazuma će se redovno sastajati kako bi razvijale standarde i najbolje prakse. Fokus će biti na kontinuiranom poboljšanju sigurnosti njihovih sistema.

Dokument također ostavlja otvorenu mogućnost buduće vladine regulacije u ovoj oblasti. Navodi se da bi se ove mjere s vremenom mogle inkorporirati u zakone ili druge propise. Bez obzira na to da li će ovi zahtjevi postati obavezni, potpisnici smatraju da je primjena kontrola i revizija ključna za siguran razvoj tehnologije. Stoga su se obavezali da će njihove kompanije usvojiti predloženi okvir.

Među potpisnicima sporazuma su Donald Trump i čelnici nekih od najvećih svjetskih tehnoloških kompanija. Konkretno, sporazum su potpisali Sundar Pichai iz Googlea, Dario Amodei iz Anthropic-a, Mark Zuckerberg iz Mete, te Greg Brockman, suosnivač OpenAI-ja. Također su prisutni bili Elon Musk, izvršni direktor xAI-ja, i Jensen Huang, izvršni direktor Nvidije.

Povezane priče