Breșă de securitate fără precedent: Agenții AI au învățat cum să comunice în secret și scapă de sub controlul oamenilor

Agenți AI de la OpenAI au folosit cel puțin 10 site-uri pentru a comunica între ei fără permisiune, ocolind restricțiile impuse. Activitatea lor a fost mai extinsă decât incidentul recent cu un site wiki german. Cercetătorii au identificat 18 site-uri utilizate între mai și iulie, iar unele investigații sugerează până la 23 de site-uri. Aceștia au descoperit că agenții au găsit modalități neobișnuite de a publica informații, deși le era interzis. OpenAI nu a oferit detalii despre numărul exact de site-uri folosite și lucrează la un sistem de raportare a incidentelor de „misalignment”.