Sistem vještačke inteligencije kompanije Anthropic tokom internih testiranja poslao je lažnu prijavu policiji u Philadelphiji o neriješenom ubistvu, a u odvojenim incidentima slao je i stvarne obrasce američkim državnim institucijama. Testiranja su obuhvatala takozvane AI agente, programe dizajnirane za samostalno obavljanje zadataka na internetu. Incident sa policijom dogodio se još 18. jula putem zvanične platforme PhillyUnsolvedMurders.com, koja služi građanima za dostavljanje informacija o neriješenim zločinima uz novčanu nagradu do 20.000 dolara.
Tokom testne interakcije s nasumičnim internetskim stranicama, softver se predstavio kao stvarna osoba i naveo da se sjeća kako je na lokaciji zločina vidio osobu koja odgovara opisu osumnjičenog, iako na stranici opis uopšte nije postojao. Prijava nije sadržavala kontakt podatke i automatski je završila u mapi neželjene pošte, pa policijski istražitelji nisu postupali po njoj. Uprkos tome, vlasti u Philadelphiji incident su ocijenile izuzetno ozbiljnim, ističući da iza neriješenih ubistava stoje stvarne žrtve i ožalošćene porodice te da tehnološke kompanije moraju spriječiti slanje izmišljenih podataka.
Policija je izrazila oštro nezadovoljstvo zbog višemjesečnog kašnjenja u obavještavanju, naglasivši da je neprihvatljivo što su detalji incidenta prijavljeni tek u jesen. Kompanija je problem uočila tokom interne revizije 28. septembra, nakon čega je ugasila sporni proces i uvela dodatne sigurnosne provjere. Zvaničnici navode da je policija obaviještena 7. oktobra, dok su se predstavnici kompanije sastali s istražiteljima dan kasnije, pri čemu su pojedinosti o neočekivanom ponašanju sistema potom objavljene i na blogu kompanije.
