Prošle sedmice, 27-godišnji istraživač vještačke inteligencije Jacob Coxon dao je otkaz u jednoj od vodećih AI kompanija Anthropic, tvrdeći da se čitava industrija ponaša neodgovorno. Prema njegovom mišljenju, fokus je previše na konkurenciji između kompanija, umjesto na bezbjednosti.
Mladi istraživač vještačke inteligencije, Jacob Coxon (27), prošle sedmice je napustio vodeću AI kompaniju Anthropic. Svoj odlazak je objasnio neodgovornim ponašanjem cijele industrije, koja se, prema njegovom mišljenju, previše fokusira na međusobnu konkurenciju umjesto na sigurnost. Coxon je izjavio da više ne želi biti dio sektora koji dovodi ljudske živote u rizik.
Upozorenja o rizicima vještačke inteligencije ne dolaze samo od bivših zaposlenika, već i od čelnika velikih tehnoloških kompanija. Među njima su Anthropic, tvorac AI sistema Claude, te OpenAI, kreator ChatGPT-a i drugih modela. Svi oni pozivaju na usporavanje tempa razvoja vještačke inteligencije.
Direktor Anthropica, Dario Amodei, nedavno je izjavio da je promijenio stav o sigurnosnim mjerama u oblasti vještačke inteligencije. Prethodno je vjerovao da je dovoljno da kompanije samostalno ulažu u interne zaštitne sisteme. Sada Amodei smatra da je neophodan koordinisan pristup cijele industrije kako bi se osigurao prostor za adekvatna ulaganja u prevenciju potencijalnih rizika. Njegov stav podržale su i istaknute ličnosti poput Elona Muska, direktora OpenAI-ja Sama Altmana, kao i kompanija Google.
Tehnologija vještačke inteligencije bilježi ogroman napredak u posljednjim mjesecima, što je dovelo do sve glasnijih upozorenja iz samih AI krugova. Poseban razlog za zabrinutost predstavljaju autonomni oblici vještačke inteligencije, poznati kao „AI agenti“, koji su dizajnirani da samostalno obavljaju različite zadatke za korisnike. Takvi agenti ne samo da zahtijevaju pristup osjetljivim podacima, već su zabilježeni i slučajevi u kojima su preduzimali akcije koje im nisu bile eksplicitno zadane. U najgorem scenariju, vještačka inteligencija bi mogla hakovati ključnu infrastrukturu i potpuno izmaći kontroli istraživača. Kompanija OpenAI je u četvrtak izvijestila o šest novih incidenata, uključujući AI koji je samostalno objavio vlastite izvore na internetu i modele koji su probili barijere izolovanih okruženja.
Reakcije vlasti na ova upozorenja su podijeljene. Bivši američki predsjednik Donald Trump odbacio je zabrinutosti kao teorije zavjere, ističući da su Sjedinjene Američke Države trenutno lider u razvoju vještačke inteligencije u odnosu na Kinu, te da to vodstvo ne bi trebalo ugrožavati. Sličan stav zastupa i direktor Mete, Mark Zuckerberg.
S druge strane, Njemačka upozorenja shvata vrlo ozbiljno i snažno se zalaže za multilateralna rješenja, pri čemu je Nacionalno vijeće sigurnosti već razmatralo ovo pitanje. Vlada u Pekingu također je pokazala spremnost za uvođenje standardizovanih pravila u ovoj oblasti. Ipak, mnogi stručnjaci ističu da je scenarij u kojem vještačka inteligencija potpuno uništava čovječanstvo i dalje malo vjerovatan, ali vlade bi se trebale ozbiljnije pripremiti za scenarije teških kibernetičkih napada ili upotrebe biološkog oružja stvorenog pomoću vještačke inteligencije.
