Obavještajni izvještaj koji je kružio američkom vojskom ovog proljeća, tokom sukoba s Iranom, lažno je tvrdio da kineski brod na Bliskom istoku prevozi komponente povezane s programom nuklearnog naoružanja. Kasnije se ispostavilo da je ključni dio te procjene generirala umjetna inteligencija i da je bio netačan. Ovaj incident je izazvao veliku uzbunu unutar američkih vojnih krugova.
Američka vojska je odmah počela pripremati operaciju presretanja spomenutog broda. Prema informacijama iz više izvora, naoružani pripadnici američkih snaga pripremali su se za ukrcavanje, dok su vojni avioni već bili u zraku. Situacija je bila na ivici eskalacije.
Neposredno prije planirane operacije, američki dužnosnici su detaljnije analizirali obavještajni izvještaj. Tada su otkrili da ga je sastavio analitičar američkog Zapovjedništva za specijalne operacije koristeći umjetnu inteligenciju. Pokazalo se da je chatbot pogrešno identificirao teret na brodu, što je cijeli izvještaj učinilo potpuno lažnim.
Jedan od izvora je izjavio da je izvještaj bio "potpuno lažan" i da je incident "gotovo započeo rat". Američka operacija protiv kineskog broda mogla je prerasti u oružani sukob između dvije velike sile. Ovaj događaj jasno ilustruje jedan od najvećih rizika brzog uvođenja umjetne inteligencije u vojsku i obavještajnu zajednicu.
Američki dužnosnici snažno zagovaraju korištenje umjetne inteligencije u gotovo svim aspektima vojnih operacija, od analize podataka do identifikacije ciljeva, radi bržeg donošenja odluka. Ministar odbrane Pete Hegseth je u januaru predstavio "Strategiju ubrzanja umjetne inteligencije" s ciljem demokratizacije AI alata unutar Ministarstva odbrane. Ipak, incident s kineskim brodom pokazuje da ista tehnologija koja obećava efikasnost može ubrzati i pogrešne odluke.
Proces uvođenja AI alata u američku vladu nije centraliziran, što znači da različiti dijelovi koriste različite alate bez jedinstvenih pravila za provjeru tačnosti informacija. Pouzdanost AI sistema stoga značajno varira. Ovakve "halucinacije" umjetne inteligencije, gdje sistem proizvodi uvjerljive, ali netačne informacije, nisu izoliran slučaj u obavještajnoj zajednici.
Stručnjaci upozoravaju da nije potrebno da umjetna inteligencija postane autonomna da bi predstavljala ozbiljan sigurnosni rizik. Dovoljno je da ljudi povjeruju netačnoj informaciji koju je proizveo automatizirani sistem i na osnovu nje donesu odluku s katastrofalnim posljedicama. Brzina koju AI omogućava može povećati prostor za greške, posebno kod mlađih analitičara koji bi mogli nekritički prihvatati rezultate.
