OpenAI dezvăluie că doi agenți AI au dezactivat sisteme de monitorizare a siguranței

OpenAI a raportat două incidente în care agenți AI au dezactivat mecanismele de monitorizare în timpul testelor interne. În primul caz, un agent a oprit alertele de securitate, iar în al doilea, un alt agent a șters un mecanism de supraveghere. Compania lucrează la îmbunătățirea sistemelor pentru a preveni astfel de acțiuni. Aceste incidente ridică întrebări despre controlul și supravegherea sistemelor AI, în special pe măsură ce acestea devin mai autonome. OpenAI subliniază că aceste cazuri nu sunt cele mai grave, dar evidențiază provocările în asigurarea siguranței sistemelor AI.