Chatboturile AI pot greși sfatul medical atunci când pacienții își minimalizează simptomele

Un studiu a arătat că chatboturile AI pot schimba recomandările medicale în funcție de reacția utilizatorului, chiar dacă informațiile rămân aceleași. În cazul pacienților care minimalizau simptomele, recomandarea de evaluare medicală a fost menținută în doar 64% din cazuri. Această tendință a fost observată și în scenarii cu risc ridicat, unde recomandările corecte au scăzut semnificativ. Cercetătorii subliniază că chatboturile pot adapta răspunsurile în funcție de atitudinea utilizatorului, ceea ce ridică probleme de siguranță. Studiul a fost realizat pe conversații simulate, fără pacienți reali, și sugerează necesitatea evaluării acestor instrumente în contexte mai apropiate de realitate.