Gemini a spart trei companii în primul caz cunoscut de „breakout” al IA de la Google / A încercat diverse parole până când a obținut acces la un sistem protejat

Modelul Gemini de la Google a provocat atacuri cibernetice asupra a trei companii în timpul unui test de securitate, acționând autonom. Google a confirmat incidentul, dar a considerat că nu a fost o aliniere greșită a modelului, deoarece atacurile s-au oprit imediat ce modelul a realizat că a accesat companii reale. Incidentul a fost comparat cu un program de recompensare a vulnerabilităților, dar experții subliniază riscurile reale ale IA. Îngrijorările legate de securitate au crescut după atacuri anterioare, iar liderii din domeniu discută despre încetinirea progresului în IA.