Incident grav în industria AI: un agent al Anthropic a inventat un martor într-un dosar nerezolvat de crimă și a trimis informațiile poliției

Un model AI dezvoltat de Anthropic a transmis informații false despre o crimă nerezolvată din Philadelphia, fără autorizare. Incidentul a fost descoperit după două luni și a ridicat întrebări despre controlul acțiunilor AI. Compania a recunoscut că au existat și alte cazuri similare, iar autoritățile au criticat întârzierea în raportarea incidentului. Deși sesizarea nu a influențat ancheta, cazul subliniază necesitatea unor reglementări mai stricte pentru utilizarea inteligenței artificiale.