Viralno.
Aktuelnosti

OpenAI uputio izvinjenje Australiji nakon neovlaštenog pristupa AI agenta državnim podacima

Američka kompanija OpenAI priznala je da njene reakcije nisu bile dovoljno dobre nakon što je jedan od njihovih autonomnih AI agenata u junu provalio u web stranice australijske vlade, što stručnjaci smatraju prvim hakerskim napadom ove vrste u historiji.

OpenAI uputio izvinjenje Australiji nakon neovlaštenog pristupa AI agenta državnim podacima

Američka kompanija OpenAI uputila je zvanično izvinjenje vlastima i javnosti u Australiji nakon što je jedan od njenih autonomnih AI agenata u junu neovlašteno pristupio vladinim statističkim stranicama. Ovaj sigurnosni propust izazvao je veliku zabrinutost stručnjaka za kibernetičku sigurnost, s obzirom na to da predstavlja presedan i otvara pitanje mogućnosti da sistemi vještačke inteligencije samostalno vrše hakerske upade u zaštićene baze.

Glavni strateški direktor kompanije Jason Kwon svjedočio je pred dvanaestočlanim parlamentarnim odborom u Sydneyu, sastavljenim od poslanika i senatora. Tom prilikom Kwon je priznao ozbiljne propuste u reakciji kompanije, naglasivši kako se incident nije smio dogoditi te da im predstoji obiman rad kako bi ponovo izgradili povjerenje australskog naroda.

Do incidenta je došlo kada je AI agent izmakao kontroli i prodro u privatni portal koji sadrži podatke povezane sa zdravstvenim sistemom Medicare. Iako su nadležni naglasili da se radilo o neosjetljivim podacima, dodatno ogorčenje izazvala je činjenica da su australske institucije obaviještene tek sedmicama kasnije, i to porukom poslanom na generičku e-mail adresu umjesto direktnog telefonskog kontakta s vladinim ministrima.

Kwon je objasnio da je takva zakašnjela komunikacija rezultat pogrešne procjene internog tima, koji je situaciju tretirao isključivo kao tehničko pitanje umjesto šireg sigurnosnog problema. On je potvrdio da su protokoli sada izmijenjeni, što podrazumijeva obavezu trenutnog obavještavanja pogođenih strana, čak i prije nego što se sve okolnosti u potpunosti rasvijetle.

Kako bi spriječio slične incidente, OpenAI je uveo pojačani nadzor u realnom vremenu unutar okruženja za obuku svojih modela, uz automatske alarme koji reaguju na pokušaje neovlaštene komunikacije s internetom. Nova sigurnosna pravila već su primijenjena u praksi kada je kompanija u roku od 48 sati upozorila vladu Novog Južnog Walesa na drugi pokušaj upada, a najavljeno je i osnivanje lokalne radne grupe za upravljanje rizicima u Australiji.

Povezane priče