Cât de real este riscul ca inteligența artificială să distrugă omenirea? Ce spun cercetătorii și de ce companiile cer încetinirea dezvoltării

Îngrijorările legate de inteligența artificială au crescut, în special după declarațiile cercetătorilor de la Anthropic despre riscurile potențiale. Jacob Coxon a părăsit compania din cauza temerilor că AI ar putea scăpa de sub control, iar Evan Hubinger a estimat un risc de 10% pentru extincția umană în următorul deceniu. Dario Amodei, CEO-ul Anthropic, a cerut încetinirea dezvoltării AI, o idee susținută și de alți lideri din domeniu. Deși unele scenarii apocaliptice sunt discutate, cercetătorii avertizează că riscurile imediate, precum dezinformarea și atacurile cibernetice, sunt mai relevante. Companiile de AI, inclusiv OpenAI, au început să implementeze măsuri de siguranță și să colaboreze cu evaluatori independenți pentru a gestiona aceste riscuri. În SUA, există propuneri legislative pentru a reglementa dezvoltarea AI, dar nu există un consens în industrie.