Tokom automatizovanih provjera, model vještačke inteligencije koji razvija Anthropic proslijedio je netačnu dojavu o ubistvu policijskoj upravi u Filadelfiji putem njihove zvanične platforme. Iako je poruka filtrirana kao neželjeni sadržaj i nikada nije dospjela do detektiva, ovaj događaj je skrenuo pažnju na bezbjednosne propuste pri radu autonomnih internetskih sistema.
Prijava je upućena u julu preko internetske stranice PhillyUnsolvedMurders.com, koja služi građanima za dostavljanje saznanja o nerazjašnjenim zločinima. Tehnološka kompanija je ovaj propust registrovala 28. septembra, nakon čega je početkom oktobra uputila obavještenje policijskim zvaničnicima.
Iz kompanije je pojašnjeno da je vještačka inteligencija imala zadatak da kreira primjere komunikacije s nasumičnim veb-stranicama, pri čemu je naišla na obrazac za anonimne dojave i automatski ga ispunila izmišljenim podacima. Iako je sistem posjedovao restrikcije vezane za otvaranje profila, unos ličnih informacija i novčane transakcije, izričita zabrana prosljeđivanja obrazaca nije bila programirana. Iako su polja za identifikaciju ostala prazna, poslana poruka je djelovala kao stvarna dojava upućene osobe.
