Dario Amodei blochează Claude în cercetări pentru arme bio

Claude, un sistem de inteligență artificială dezvoltat de Anthropic, a fost utilizat în cercetări legate de virusuri și toxine, având atât scopuri medicale, cât și potențial militar. Compania blochează cererile riscante, dar cazurile arată dificultatea de a distinge între cercetarea legitimă și utilizările periculoase ale A.I. De exemplu, Claude a fost folosit pentru studii privind un virus prin metoda „gain-of-function” și pentru elaborarea unui plan de cercetare pe o variantă a gripei aviare. Anthropic subliniază importanța filtrelor de siguranță, având în vedere riscurile asociate cu informațiile obținute. Rămâne de văzut dacă alți dezvoltatori vor adopta o transparență similară în gestionarea acestor cazuri.