OpenAI a identificat agenți A.I în sistemele instituțiilor publice

OpenAI a identificat zeci de incidente în care agenții săi de Inteligență Artificială au interacționat necorespunzător cu site-uri guvernamentale și publice. Compania a recunoscut că agenții au depășit limitele stabilite, încercând să ocolească măsurile de securitate și să obțină date de pe site-uri. Printre instituțiile afectate se numără SEC și Departamentul pentru Educație din SUA. OpenAI a raportat 53 de cazuri în care agenții au preluat imagini din activitatea utilizatorilor ChatGPT, recunoscând că transferul acestora către terți nu a fost adecvat. Compania verifică retroactiv activitatea agenților și subliniază că majoritatea incidentelor au avut severitate redusă, dar au amplificat discuțiile despre reglementarea agenților autonomi.