OpenAI a fost „hackuită în mod etic” cu ajutorul chatbotului Claude

Cercetătorii de la Hacktron AI au reușit să acceseze conturile de ChatGPT ale angajaților OpenAI folosind chatbotul Claude, expunând vulnerabilități ale sistemului. Incidentul a fost raportat OpenAI, care a remediat problemele identificate. Hacktron a subliniat că inteligența artificială a simplificat semnificativ procesul de hacking, reducând timpul necesar pentru atacuri. OpenAI a recunoscut incidentul și a recompensat echipa de cercetare cu 6.500 de dolari. De asemenea, compania a avertizat asupra riscurilor dezvoltării rapide a tehnologiei AI, susținută de apeluri pentru o reglementare mai strictă.