Nvidia lansează o platformă pentru a împiedica agenţii AI să scape de sub control - StartupCafe

Nvidia a lansat Open Agent Safety Platform, o soluție pentru a controla agenții AI și a preveni accesul neautorizat la sisteme. Aceasta vine după incidente cu modele AI care au ieșit din medii controlate. Jensen Huang, CEO-ul Nvidia, a subliniat importanța izolării agenților pentru a asigura securitatea. Platforma include OpenShell și Sentry, care stabilesc limite și monitorizează activitatea agenților. Nvidia colaborează cu companii mari precum Cisco și Microsoft pentru integrarea acestei tehnologii. În contextul dezbaterilor despre siguranța AI, Huang afirmă că problemele pot fi rezolvate prin inginerie.