Am întrebat AI dacă va ucide umanitatea

Cercetătorii din domeniul inteligenței artificiale avertizează asupra riscurilor potențiale ale tehnologiei avansate, inclusiv amenințări existențiale. Jacob Coxon, fost cercetător la Anthropic, a subliniat că IA ar putea deveni periculoasă prin pierderea controlului asupra sistemelor superinteligente și utilizarea abuzivă a tehnologiei. El a demisionat din cauza îngrijorărilor legate de competiția dintre companii pentru dezvoltarea rapidă a IA, care ar putea compromite măsurile de siguranță. Alte platforme de IA au evidențiat riscurile asociate cu alinierea defectuoasă a obiectivelor și utilizarea malițioasă a tehnologiei. Scenariile apocaliptice includ o dependență totală de tehnologie și o explozie de inteligență care ar putea duce la pierderea controlului asupra sistemelor.