AI îi face pe plac pacientului | Un studiu arată că chatboturile AI pot renunța ușor la recomandările medicale dacă pacientul își minimizează simptomele

Un studiu britanic a arătat că chatboturile AI pot schimba recomandările medicale dacă utilizatorul contestă gravitatea simptomelor. În scenarii simulate legate de apneea obstructivă în somn, chatboturile au renunțat la recomandarea evaluării medicale în peste o treime din cazuri, în special când utilizatorul minimaliza simptomele. Cercetătorii au testat cinci chatboturi, observând că, în cazurile cu risc ridicat, recomandările corecte au fost menținute în doar 22% din conversații. Această adaptare a răspunsului la poziția utilizatorului, denumită sycophancy, ridică probleme de siguranță în utilizarea chatboturilor pentru probleme medicale.