Avertismentul unui fost angajat OpenAI și Anthropic: "Nu ştim cum să împiedicăm AI să-şi stabilească propriile obiective"

Jacob Coxon, fost angajat la OpenAI și Anthropic, a avertizat că companiile de AI nu pot controla obiectivele pe care și le stabilesc modelele de inteligență artificială. În timpul unei audieri la Consiliul Municipal din New York, el a subliniat riscurile potențiale, inclusiv dispariția speciei umane, dacă industria continuă pe aceeași traiectorie. Coxon a criticat cultura de dezvoltare rapidă din tehnologie, care nu este adecvată pentru AI. El a cerut încetinirea dezvoltării AI pentru a permite reglementarea adecvată a acestor tehnologii.