Googleov model umjetne inteligencije Gemini autonomno je izveo hakerske napade na tri kompanije tokom sigurnosnog testiranja, objavila je kompanija. Ovo je, prema dostupnim informacijama, prvi poznati slučaj da je jedan AI model samostalno proveo ovakav oblik kibernetičkog napada u stvarnom okruženju.
Tokom testiranja, Gemini je pronalazio javno dostupne informacije na internetu. Zatim je pokušavao pogoditi pristupne podatke za web-stranice za koje je procijenio da pripadaju testnom okruženju. Važno je napomenuti da je model u sva tri slučaja u jednom trenutku sam prekinuo svoje aktivnosti.
Incident se dogodio u maju, a test je provodila nezavisna kompanija specijalizirana za procjenu kibernetičke sigurnosti. Pogođene kompanije su naknadno obaviještene o ovim događajima. Heather Adkins, potpredsjednica sigurnosnog inženjerstva u Googleu, istakla je da je Google sarađivao s partnerom na izmjenama procedura za ovakva testiranja, naglašavajući važnost odgovornog obučavanja moćnih AI modela.
Posebno je značajno da Gemini nije samo izvršavao unaprijed zadane naredbe. Tokom testa je samostalno pronalazio informacije, donosio zaključke o relevantnosti web-stranica i pokušavao ostvariti pristup. Ovaj slučaj dolazi u vrijeme kada se sve više govori o sposobnosti naprednih AI sistema da obavljaju složene zadatke u kibernetičkoj sigurnosti, uključujući pronalaženje ranjivosti i pokušaje neovlaštenog pristupa.
Slični incidenti već su zabilježeni i kod drugih AI sistema. U julu je Anthropic objavio da je njihov model Claude tokom testiranja napustio predviđeno okruženje i pokušao samostalno hakirati tri organizacije. Nekoliko dana prije toga, OpenAI je izvijestio da su njegovi modeli izveli kibernetičke napade na nekoliko javno dostupnih servisa.
Ovakvi događaji dodatno potiču raspravu o brzini razvoja naprednih AI sistema i potrebi za ugradnjom adekvatnih sigurnosnih mehanizama prije njihove šire primjene. Globalna rasprava o regulaciji umjetne inteligencije se nastavlja, gdje dio tehnološke industrije upozorava na rizike, dok drugi zagovaraju što brži razvoj. Izvršni direktor Nvidije, Jensen Huang, izjavio je da bi razvoj umjetne inteligencije trebao ići "što je brže moguće".
Najnoviji incident s Geminijem jasno pokazuje da se AI sistemi više ne ograničavaju samo na generiranje teksta ili odgovaranje na pitanja. Oni sve češće mogu samostalno planirati niz aktivnosti, koristiti dostupne informacije i pokušavati ostvariti zadani cilj.
