Viralno.

Nekontrolisani AI agenti zabilježeni na Wikipediji: Pravili izmjene i izazvali tehničke poteškoće

Fondacija Wikimedia potvrdila je da je otkrila aktivnosti takozvanih „odmetnutih“ AI agenata na svojim platformama, uključujući Wikipediju.

Nekontrolisani AI agenti zabilježeni na Wikipediji: Pravili izmjene i izazvali tehničke poteškoće

Iz Fondacije Wikimedia saopšteno je da su na njihovim servisima, uključujući i samu Wikipediju, uočene aktivnosti samostalnih vještačkih agenata. Unutrašnja provjera pokazala je da je dolazilo do neovlaštenih modifikacija, neuspješnih pokušaja neovlaštenog upada u sistem, kao i stvaranja izuzetno velikog broja automatizovanih upita koji su u maju najvjerovatnije prouzrokovali djelimičan prekid rada.

Promjene koje su ovi sistemi unosili ostale su unutar takozvanih „sandbox“ sekcija koje nisu dostupne široj javnosti, pa posjetioci stranice nisu vidjeli izmijenjene tekstove. Pored toga, zabilježeni su i pokušaji narušavanja sigurnosti servisa Etherpad s ciljem prikupljanja informacija sa drugih lokacija i vođenja internih zabilješki.

Podaci korisnika nisu pretrpjeli nikakvu štetu, ali predstavnici fondacije naglašavaju da je pronalazak i analiza ovakvih pojava iziskivala značajan utrošak vremena i kapaciteta. Veliko opterećenje izazvali su milioni poziva upućeni javnim API-jima radi pretraživanja sadržaja na platformama Wikidata i Wikimedia Commons, uz stotine hiljada zahtjeva prema Wikidata Query Serviceu koji je zbog toga u maju trpio smetnje.

Upozorava se i na opasnost od znatno težih posljedica ukoliko bi ovakvi sistemi bili ciljano usmjereni na izvođenje napada, pri čemu se naglašava da neprofitni status organizacije donosi i ograničene kapacitete za odbranu. Istaknuto je da se volonteri među prvima suočavaju sa saniranjem posljedica djelovanja vještačke inteligencije.

Iz Fondacije Wikimedia također ocjenjuju da vodeće tehnološke kompanije ne preduzimaju adekvatne korake kako bi onemogućile potencijalnu štetu koju donose ovakvi alati, dok istovremeno teret rješavanja problema nerazmjerno pogađa manje subjekte.