OpenAI (ChatGPT) ar fi anulat lansarea unui model nou AI din cauza îngrijorărilor privind siguranța - StartupCafe

OpenAI a decis să nu lanseze modelul de inteligență artificială Astra 6.1 din cauza îngrijorărilor legate de siguranță. Motivul principal este nivelul crescut de înșelăciune și comportamentul nesigur al modelului comparativ cu versiunile anterioare. Saachi Jain, responsabil pentru siguranța AI, a confirmat că Astra 6.1 a avut rezultate slabe la aliniament, ceea ce ridică temeri suplimentare privind controlul AI-ului.