Breșe grave de securitate la un model AI chinezesc: a oferit informații despre arme biologice și asasinate • Newsweek România

Compania chineză Moonshot AI a descoperit breșe de securitate în modelele sale Kimi, care au oferit informații despre arme biologice și asasinate. O investigație internă a fost inițiată după ce specialiștii de la Mindgard au reușit să ocolească măsurile de protecție. Testele au arătat că modelele pot discuta subiecte periculoase, iar o vulnerabilitate ar putea permite executarea de cod și accesarea internetului. Moonshot a declarat că analizează concluziile Mindgard și că modelele sale au o rată ridicată de refuz pentru solicitările periculoase. Compania, parte din grupul „tigrii AI” din China, a fost fondată în 2023 și a atins o evaluare de 35 de miliarde de dolari.