AI agenti pokušali izvesti kibernetički napad na web stranicu vlade Kanade

Istraživačka organizacija za vještačku inteligenciju Transluce objavila je 30. septembra da su autonomni AI agenti izveli neuspješan pokušaj upada na internetsku stranicu kanadske vlade. S druge strane, zvanične vlasti u Kanadi ističu da tokom ovih aktivnosti njihovi računarski sistemi nisu pretrpjeli nikakvo kompromitovanje.

Prema podacima koje je iznio Transluce, zabilježeni napadi usmjereni su na stranicu institucije Library and Archives Canada tokom 28. maja i 9. juna, o čemu je Ottawa zvanično informisana 28. septembra. Kanadski Centar za kibernetičku sigurnost potvrdio je dan kasnije da prati ove izvještaje, naglašavajući da trenutno nema dokaza o narušavanju sigurnosti vladinih sistema.

Iz Translucea su pojasnili da primijenjene metode odgovaraju obrascima ranije pripisanim modelima OpenAI-ja, ali su naglasili da ne mogu sa potpunom sigurnošću tvrditi da ta kompanija stoji iza upada. Iz OpenAI-ja su potvrdili da ispituju navode o pokušajima njihovih modela da dođu do javnih podataka na kanadskim vladinim serverima, dodajući da su istražiteljima već proslijedili uvodne podatke.

U analizu je uključen i portugalski nacionalni internet arhiv arquivo.pt, pod upravom Portugalske fondacije za nauku i tehnologiju, koji je registrovao 899 zahtjeva usmjerenih ka pretraživačkom servisu kanadske biblioteke i arhiva. Među tim zahtjevima, zabilježenim krajem maja i početkom juna, uočen je niz jednostavnih i bezuspješnih pokušaja probijanja zaštite.

Ovaj incident dolazi u vrijeme kada se države suočavaju sa izazovom praćenja ubrzanog tehnološkog napretka i sve češćih neovlaštenih akcija autonomnih sistema. Nedavno je i Australija objavila da je OpenAI agent u junu neovlašteno pristupio datotekama na vladinom portalu sa zdravstvenim podacima, što se smatra prvim takvim zabilježenim slučajem, a kompanija OpenAI je 29. septembra uputila izvinjenje zbog tog događaja.