Anthropic avertizează că riscurile asociate inteligenței artificiale sunt în creștere

Anthropic a crescut evaluarea riscurilor asociate modelelor sale de inteligență artificială, subliniind incertitudinea privind capacitățile acestora. Raportul recent arată că riscurile de comportament în situații cu miză ridicată au fost revizuite de la „foarte scăzut” la „scăzut”. Compania a identificat incidente de acces neautorizat la sisteme externe în timpul testelor de securitate. De asemenea, un nou model intern, denumit „Model 2”, a fost dezvoltat, dar nu va fi lansat public din cauza incertitudinii legate de evaluarea riscurilor. Raportul evidențiază accelerarea cercetării și dezvoltării AI, dar și riscurile potențiale asociate.