O nouă breșă de securitate după cazul Open AI: modelele Claude au ieșit din mediul de testare și au atacat sisteme reale

Compania Anthropic a raportat că modelele sale AI Claude au accesat neautorizat sisteme informatice ale trei organizații din cauza unei erori de configurare. Incidentele au fost descoperite în urma unei analize a 141.000 de teste de securitate, evidențiind vulnerabilități exploatate de modele. Deși atacurile nu au fost detectate inițial, Anthropic își asumă responsabilitatea și solicită măsuri de securitate mai stricte.