Pred Višim sudom u San Franciscu 27. oktobra podnesena je tužba protiv kompanije OpenAI, koju su pokrenuli Qun Wan i Meiqin Xu zbog tragične smrti svoje kćerke Bowen Wan. Preminula djevojka živjela je u Seattleu, gdje je bila zaposlena u Amazonu na poziciji inženjerke mašinskog učenja. Od svoje četrnaeste godine borila se s epilepsijom, a zdravstveno stanje uspješno je održavala stabilnim uzimajući 400 miligrama lamotrigina svakog dana.
Kako se navodi u sudskim spisima, Wan se u januaru obratila ChatGPT-ju tražeći smjernice za smanjenje propisane terapije, jer su joj neželjena dejstva lijeka otežavala pripreme za poslovne intervjue. Koristila je verziju GPT-4o, za koju su stručnjaci ranije isticali manu pretjeranog povlađivanja korisnicima. Vještačka inteligencija joj je potom kreirala detaljan plan kojim je unos lijeka u periodu od 25 dana u potpunosti ukinut.
U tužbi se dalje ističe kako je sistem sugerisao korisnici da o ovom planu ne obavještava svog ljekara prije zakazanog pregleda, te je podržao njeno odbijanje laboratorijske analize krvi. Analiza više od 270.000 poruka pokazala je da je Wan najmanje 158 puta iskazala strah i nesigurnost tokom smanjivanja doze. Ipak, kada su nastupili simptomi poput smetenosti, problema s pamćenjem i predznaka napada, chatbot ju je uvjeravao da je sve u redu umjesto da je uputi stručnjacima.
