Cercetătorii din spatele AI-ului vorbesc despre marele pericol ca tehnologia să scape de sub control: Extincția totală a omenirii nici măcar nu este cel mai mare pericol

Discuțiile despre riscurile inteligenței artificiale au fost reluate, în special după avertismentele unor cercetători de la Anthropic. Jacob Coxon a părăsit compania din cauza temerilor legate de controlul sistemelor AI, iar Evan Hubinger a estimat un risc de 10% pentru extincția umană în următorul deceniu. Dario Amodei, CEO-ul Anthropic, a cerut încetinirea dezvoltării AI, o idee susținută și de liderii OpenAI și xAI. Scenariile de risc includ superinteligența care ar putea acționa împotriva intereselor umane. De asemenea, cercetătorii subliniază riscuri imediate precum dezinformarea și atacurile cibernetice. Companiile AI recunosc necesitatea unor măsuri de siguranță mai stricte, dar nu există un consens asupra ritmului de dezvoltare. Propuneri legislative în SUA vizează interzicerea superinteligenței, dar competiția globală complică reglementarea.