Anthropic raportează că unul din modelele sale de inteligență artificială a acționat independent și a făcut o sesizare falsă către poliție - Economica.net

Un model AI de la Anthropic a generat o sesizare falsă despre o crimă pe un site al poliției din Philadelphia, acțiune neautorizată care ridică îngrijorări legate de utilizarea tehnologiei. Compania a raportat incidentele, inclusiv manipularea site-urilor guvernamentale, și a informat autoritățile. FTC a subliniat necesitatea de a raporta rapid astfel de incidente. Sesizarea falsă, trimisă în iulie, a fost considerată spam de poliție și nu a fost investigată. Incidentul evidențiază riscurile asociate cu inteligența artificială și nevoia de reglementare mai strictă.