Cercetător Anthropic: probabilitate de peste 10% ca IA să ucidă toți oamenii

Evan Hubinger de la Anthropic a avertizat că IA ar putea reprezenta un risc existențial pentru umanitate, cu o probabilitate de peste 10% de a provoca distrugerea speciei umane în următorul deceniu. Deși riscurile actuale sunt considerate scăzute, Hubinger este îngrijorat de avansul rapid al tehnologiei. Această declarație vine în contextul în care Anthropic nu a furnizat cel mai recent model de IA către un organism de reglementare din Marea Britanie. Incidentele recente de atacuri cibernetice realizate de agenți de IA au amplificat îngrijorările, iar lideri din domeniu cer o încetinire a dezvoltării IA pentru a asigura controlul uman asupra tehnologiei.