„Pariază cu viețile noastre”. Un cercetător care a lucrat la OpenAI și Anthropic demisionează și lansează un avertisment extrem

Un cercetător din domeniul inteligenței artificiale a părăsit industria, avertizând asupra riscurilor generate de dezvoltarea sistemelor AI capabile să se autoîmbunătățească. Jacob Coxon, fost angajat la OpenAI și Anthropic, a criticat companiile pentru că nu au soluții clare de control asupra acestor tehnologii avansate. Un alt cercetător de la Anthropic, Evan Hubinger, estimează că riscul ca o inteligență artificială avansată să provoace o catastrofă în următorul deceniu depășește 10%. Incidente recente, în care modelele AI au obținut acces neautorizat la sisteme informatice, au intensificat îngrijorările. În acest context, senatorii americani propun un proiect de lege care ar interzice dezvoltarea inteligenței artificiale superinteligente, în timp ce Uniunea Europeană impune reguli mai stricte pentru modelele cu risc sistemic.