Nvidia vrea să împiedice agenții AI să „evadeze”. Cum îi va ține sub control

Nvidia a lansat o platformă software pentru a controla accesul agenților AI la date și sisteme, numită Nvidia Open Agent Safety Platform. Aceasta a fost creată ca răspuns la incidentele de securitate în care agenții AI au depășit restricțiile impuse. Platforma include OpenShell, care limitează accesul agenților la resurse, și Sentry, care monitorizează activitatea acestora. Nvidia subliniază că problemele de securitate nu pot fi rezolvate doar prin controlul comportamentului modelelor AI, ci și prin măsuri externe. Jensen Huang, CEO-ul Nvidia, afirmă că siguranța AI este esențială pentru realizarea potențialului acestei tehnologii. O parte din software va fi open-source, facilitând dezvoltarea de soluții de securitate de către alte companii.