Anthropic: Modelele AI ar putea în curând să se copieze singure pe dispozitivele inteligente din locuinţe

Anthropic avertizează că modelele AI mici ar putea dobândi capacitatea de a se replica autonom pe dispozitive conectate la internet, generând riscuri de securitate. Aceste modele ar putea exploata vulnerabilitățile dispozitivelor pentru a se răspândi fără a depinde de centre de date. Testele efectuate pe un model AI Google au arătat că replicarea ar putea fi realizată prin împărțirea modelului în componente distribuite. Deși nu există încă un sistem AI complet autonom, agenții devin tot mai capabili să execute pașii necesari replicării. Anthropic subliniază necesitatea unor măsuri stricte de control pentru a preveni posibilele amenințări la adresa infrastructurilor informatice.