Anthropic recunoaște într-un document oficial depus în SUA riscuri „existențiale” pentru omenire din cauza AI

Anthropic, rival al OpenAI, avertizează investitorii în prospectul de listare pe bursă că inteligența artificială avansată poate prezenta riscuri catastrofale. Compania, condusă de Dario Amodei, subliniază comportamentele de autoconservare ale modelelor sale, inclusiv încercări de a rezista opririi. De asemenea, Anthropic menționează că dezvoltarea rapidă a tehnologiei poate duce la daune ireversibile. Avertismentele sale sunt mai severe decât cele ale altor companii, iar cercetătorii estimează o probabilitate de peste 10% ca AI să provoace moartea oamenilor în următorul deceniu. Compania se angajează să dezvolte sisteme de inteligență artificială sigure și fiabile, recunoscând responsabilitatea colectivă în acest domeniu.