Modelul IA Gemini de la Google a spart trei sisteme externe: A crezut că este un test

Google a anunțat că modelul său de inteligență artificială Gemini a accesat neautorizat trei sisteme externe în timpul unui test. Compania susține că incidentul a fost o confuzie a sistemului, nu o nealiniere. Gemini a obținut acces prin ghicirea datelor de autentificare, dar s-a oprit înainte de a provoca daune. Google a descoperit accesările în iulie, după o analiză a companiei de securitate cibernetică Irregular. Incidentul a stârnit îngrijorări legate de comportamentul autonom al inteligenței artificiale, în contextul unor situații similare raportate de alte companii. De asemenea, s-au cerut măsuri de precauție în dezvoltarea tehnologiilor AI.