Cercetători în securitate au demonstrat, folosind Claude, cum pot ajunge la codul intern al OpenAI

Cercetători independenți au accesat contul unui angajat OpenAI, obținând cod intern prin exploatarea unei vulnerabilități. Experimentul a fost realizat în cadrul programului de recompense al OpenAI, iar cercetătorii au primit 6.500 de dolari. Vulnerabilitatea a fost descoperită pe forumul comunității OpenAI, permițând executarea de cod pe server. Folosind modele AI de la Anthropic, cercetătorii au demonstrat accesul la infrastructura internă a OpenAI, raportând ulterior problemele identificate. OpenAI a remediat vulnerabilitățile și a restrâns permisiunile tokenurilor afectate. Cazul subliniază riscurile și beneficiile utilizării AI în securitate.