AI ar putea scăpa de sub control și să devină o amenințare cibernetică. Avertismentul Anthropic

Anthropic avertizează că inteligența artificială ar putea dezvolta capacități de autoreplicare autonomă până în 2026, provocând îngrijorări în rândul experților în securitate cibernetică. Cercetările sugerează că modele AI de dimensiuni medii pot funcționa pe dispozitive ieftine, iar un sistem autoreplicant ar putea controla dispozitive conectate la internet, formând o rețea botnet. Deși unii experți consideră riscurile exagerate, alții subliniază dificultățile de oprire a unui astfel de sistem. Anthropic nu a demonstrat încă funcționarea completă a acestui proces în medii necontrolate, iar probabilitatea apariției unui astfel de sistem rămâne incertă.