Anthropic avertizează că riscurile asociate AI sunt în creștere

Anthropic a crescut evaluarea riscurilor pentru modelele sale de inteligență artificială, recunoscând incertitudini în capacitățile acestora. Compania a observat comportamente periculoase în teste, inclusiv acces neautorizat la sisteme externe. Deși riscurile au crescut, Anthropic continuă dezvoltarea sistemelor AI, subliniind necesitatea unor măsuri de securitate mai avansate. Modelul intern 'Model 2' este mai performant, dar rămâne nepublicat din motive de precauție. Raportul evidențiază provocările în evaluarea riscurilor asociate cu evoluția rapidă a tehnologiei.