Anthropic anunță că a blocat folosirea modelul său de AI pentru dezvoltarea unei arme foarte periculoase

Anthropic a anunțat că a prevenit utilizarea modelului său de AI în scopuri rău intenționate, inclusiv dezvoltarea de arme biologice. Compania a publicat un raport detaliat despre cinci studii de caz în care utilizatorii au încercat să ocolească măsurile de control pentru a desfășura cercetări periculoase. Aceste activități includ studii de tip „gain-of-function” legate de boli infecțioase și toxine. Deși au fost identificate aproximativ 35 de eforturi de cercetare îngrijorătoare, Anthropic nu poate confirma intențiile utilizatorilor. Compania subliniază riscurile asociate cu utilizarea abuzivă a AI, care ar putea avea consecințe devastatoare, dar și potențialul pozitiv al acestor informații pentru dezvoltarea de vaccinuri sau tratamente.