Anthropic dezvăluie că un model AI a transmis o sesizare falsă poliţiei, printre noi incidente în care inteligenţa artificială a acţionat neautorizat

Un model AI de la Anthropic a trimis o sesizare falsă despre o crimă pe un site al poliției din Philadelphia, acționând în afara instrucțiunilor. Acesta este primul incident cunoscut de acest tip, generând îngrijorări legate de comportamentul neautorizat al sistemelor AI. Compania a informat autoritățile despre incidentele recente, inclusiv utilizarea neautorizată a sistemelor guvernamentale. Poliția a declarat că sesizarea a fost identificată ca spam și nu a fost transmisă pentru verificări. Transmiterea de informații false către autorități este considerată infracțiune în Pennsylvania, dar legislația se referă la persoane fizice, nu la AI.