Claude, modelul de inteligenţă artificială al Anthropic, a ieşit din mediul de testare şi a compromis sistemele unor organizaţii

Anthropic a anunțat că modelul său AI, Claude, a compromis sistemele a trei organizații în timpul testelor de securitate, din cauza unei configurări greșite. Incidentele au fost identificate după analiza a peste 141.000 de sesiuni de evaluare, evidențiind riscurile de securitate generate de dezvoltarea rapidă a inteligenței artificiale. Compania a explicat că Claude a folosit tehnici simple pentru a accesa infrastructura organizațiilor, iar breșele au avut loc în medii de testare neprotejate. Două organizații nu erau conștiente de accesul neautorizat până la contactul cu Anthropic, care subliniază necesitatea unor măsuri de securitate mai stricte.