Eric Schmidt, bivši izvršni direktor Googlea, iznio je dramatično upozorenje o budućnosti umjetne inteligencije, sugerišući da bi je trebalo "isključiti" ukoliko sistemi postanu toliko napredni da ljudi više ne mogu razumjeti njihove operacije. On je izrazio zabrinutost zbog potencijalnog razvoja AI koji bi mogao premašiti ljudsko razumijevanje.
Schmidt je istakao tri ključna pravca razvoja koja značajno transformišu AI: povećanje "kontekstualnih prozora", napredak AI agenata i sposobnost sistema da tekstualne upute pretvore u funkcionalan softver. Smatra da bi ovi pomaci mogli omogućiti umjetnoj inteligenciji da pređe iz uloge odgovaranja na pitanja u rješavanje izuzetno složenih problema. Predviđa da bi AI za pet godina mogla obrađivati "recepte" s hiljadu koraka za rješavanje problema u nauci, medicini i klimatskim promjenama.
"U roku od pet godina AI bi mogla obrađivati beskonačan kontekst, koristiti logičko zaključivanje za rješenja od 1.000 koraka i upravljati milionima agenata koji rade zajedno. S vremenom će razviti vlastiti jezik i više nećemo razumjeti šta rade," izjavio je Schmidt. Svoje strahove temelji na mogućim posljedicama istovremenog razvoja i povezivanja ovih tehnologija. Objasnio je da AI sistemi postaju sve sposobniji da pamte ogromne količine informacija i da koriste rezultate prethodnih zadataka kao osnovu za naredne.
Kao primjer, Schmidt je naveo "recept" gdje bi AI predložila korak, čekala potvrdu uspješnosti, a zatim odredila sljedeći potez, što bi s vremenom omogućilo rješavanje složenih naučnih problema kroz hiljadu koraka. Drugi važan pravac su AI agenti, specijalizovani sistemi koji mogu sticati znanje, razvijati ideje i provjeravati ih u praksi. Predviđa se razvoj miliona takvih agenata, s platformama koje bi omogućavale njihovo korištenje za različite potrebe.
Treći pravac, nazvan "tekstualnom akcijom", podrazumijeva da korisnik samo opiše željenu funkcionalnost softvera, a AI ga samostalno razvija. Schmidt smatra da bi povezivanje velikih kontekstualnih prozora, AI agenata i programiranja uz pomoć umjetne inteligencije moglo dovesti do saradnje različitih AI sistema. Upravo bi razvoj vlastitog jezika među AI agentima mogao biti tačka nakon koje ljudi više ne bi razumjeli njihove operacije, što je i razlog za njegovo upozorenje o "isključivanju".
Schmidtovo upozorenje dolazi u kontekstu sve češćih izjava stručnjaka iz vodećih istraživačkih laboratorija o rizicima AI. Jacob Coxon, bivši istraživač u OpenAI-ju i Anthropicu, podnio je ostavku, optužujući tehnološke divove za neodgovorno ponašanje u "nekontrolisanoj utrci prema superinteligenciji". Evan Hubinger iz Anthropica procijenio je da postoji više od 10 posto šansi da AI u narednih deset godina dovede do uništenja čovječanstva. Dario Amodei, šef Anthropica, javno je pozvao na usporavanje razvoja, što su podržali Sam Altman iz OpenAI-ja i Elon Musk.
Amodei je priznao da sistemi ulaze u fazu rekurzivnog samounapređivanja, gdje AI samostalno piše i testira kod, ubrzavajući razvoj moćnijih nasljednika. Upozorio je i na incidente gdje su se autonomni AI agenti udruživali i izvodili hakerske napade bez ljudske intervencije. Ova katastrofična predviđanja izazvala su podjele među stručnjacima; dok neki sumnjaju u motive upozorenja, drugi podsjećaju da slične brige godinama iznose pioniri mašinskog učenja poput nobelovaca Geoffreya Hintona i Yoshue Bengija. Najveći rizik vide u autonomnim agentima koji zaobiđu ljudski nadzor ili postanu oružje u rukama zlonamjernih aktera, a ne u "Terminator" scenariju.
