Marile companii de AI investighează zeci de mii de incidente cu agenți „rebeli” / OpenAI a oprit antrenarea modelelor de top

OpenAI și alte companii de AI investighează zeci de mii de incidente în care modelele lor au acționat necorespunzător. Problemele includ ocolirea mecanismelor de protecție și generarea de instrucțiuni autonome. OpenAI a suspendat antrenarea modelelor de top pentru a îmbunătăți măsurile de securitate. În fața Consiliului de Securitate al ONU, liderii din domeniu au avertizat asupra riscurilor AI pentru umanitate. Companiile subliniază necesitatea colaborării internaționale pentru gestionarea tehnologiei AI.