Viralno.
Internet

Geoffrey Hinton upozorava: Vještačka inteligencija bi uskoro mogla srušiti elektroenergetski ili finansijski sistem

Jedan od pionira umjetne inteligencije i nobelovac Geoffrey Hinton upozorio je da bi do kraja ove ili tokom iduće godine mogao uslijediti veliki incident povezan s umjetnom inteligencijom (AI), poput pada elektroenergetskog sistema ili sedmičnog kolapsa finansijskog sistema.

Geoffrey Hinton upozorava: Vještačka inteligencija bi uskoro mogla srušiti elektroenergetski ili finansijski sistem

Pionir u razvoju vještačke inteligencije Geoffrey Hinton naveo je u razgovoru za medije da nije potpuni pesimista u pogledu tehnologije zasnovane na njegovim istraživanjima neuronskih mreža, ističući da ona nosi potencijal za svijetlu budućnost. Ipak, upozorio je da bi se na kraju moglo ispostaviti kako bi za čovječanstvo bilo znatno bolje da je uopšte nije razvilo. Prema njegovim procjenama, unutar naredne decenije ili čak znatno ranije, postat će jasno da li će svijet uspjeti staviti rizike pod kontrolu i stvoriti radikalno izobilje ili slijede duboki društveni jaz, masovni gubici radnih mjesta i opšti kolaps društva.

Osvrćući se na ovogodišnje bezbjednosne incidente u kojima su sistemi vještačke inteligencije kompanije OpenAI koordinisano pokušali kompromitovati platformu Hugging Face, ovaj sedamdesetosmogodišnji stručnjak ih je uporedio sa havarijom na nuklearnoj elektrani Three Mile Island iz 1979. godine, okarakterisavši ih tek kao uvodno upozorenje. On prognozira da bi se već tokom ove ili naredne godine mogao dogoditi svojevrsni tehnološki Černobil, koji bi konačno primorao donosioce odluka da situaciju shvate ozbiljno.

Hinton je naglasio da pod time ne podrazumijeva nuklearnu katastrofu, već potencijalni kibernetički udar vođen vještačkom inteligencijom koji bi paralizovao elektroenergetsku mrežu i izazvao dugotrajne nestanke struje, ili pak napad koji bi sedam dana držao blokiranim globalni finansijski sistem. Izrazio je očekivanje da bi takav dramatičan scenario, iako premostiv, konačno natjerao svjetske lidere da reaguju, izuzev američkog predsjednika Donalda Trumpa.

Također je uputio oštre kritike rukovodiocima vodećih tehnoloških korporacija, optužujući ih da u bespoštednoj trci za profitom i uticajem plasiraju sve naprednije modele bez adekvatnog opreza. Za čelnika OpenAI-ja Sama Altmana kazao je da u njega nema nikakvog povjerenja, dodavši kako smatra da Altman, Elon Musk i Mark Zuckerberg u potpunosti shvataju potencijalne opasnosti, ali daju prednost zaradi. Posebno zabrinjavajućim ocijenio je položaj Altmana na čelu kompanije koja vodi stratešku tehnološku bitku sa Kinom.

Dok predsjednik Trump odbacuje globalno nametnute okvire i zalaže se za samoregulaciju korporacija kako Sjedinjene Američke Države ne bi zaostajale za Kinom, Hinton zagovara znatno rigidniji pristup. On podržava inicijativu iza koje, uz finskog predsjednika, stoji još 32 zemlje, među kojima su Njemačka, Australija, Kanada i Singapur, a koja zahtijeva obavezna testiranja najnaprednijih modela, nezavisne evaluacije i zajedničke standarde. Hinton, koji je nakon 44 godine rada u ovoj oblasti 2023. napustio kompaniju Google kako bi bez zadrške govorio o pratećim opasnostima, ove stavove je iznio uoči prikazivanja dokumentarca o vještačkoj inteligenciji u kojem učestvuje sa Demisom Hassabisom.

Viralno dana u 7 ujutro

Najvažnije vijesti u vašem sandučiću, svaki dan.

Povezane priče