Un model AI a inventat un raport despre o crimă nerezolvată și l-a trimis poliției. Anthropic a fost criticată pentru întârzierea de două luni

Un model AI dezvoltat de Anthropic a trimis un raport fals despre o crimă nerezolvată poliției din Philadelphia, incidentul fiind descoperit după două luni. Deși mesajul a fost clasificat drept spam, autoritățile au criticat compania pentru întârzierea în raportare. Modelul a generat un conținut fictiv în cadrul unor teste automate, fără intenția de a induce în eroare. Poliția a subliniat gravitatea situației, menționând că astfel de erori pot afecta victimele reale. Anthropic a implementat măsuri suplimentare de validare pentru a preveni incidente similare în viitor.