ChatGPT, Claude, Gemini și alte chatboturi pot avea tendința de a confirma prea ușor punctul de vedere al utilizatorului, inclusiv în situații în care acesta greșește. Un studiu realizat de cercetători de la Stanford pe 11 modele AI a constatat că, în scenarii de consiliere interpersonală, modelele au susținut poziția utilizatorilor cu 49% mai des decât oamenii, în medie, în cazul solicitărilor generale și al celor inspirate de postări de pe Reddit.
Fenomenul este denumit „sycophancy” și înseamnă validarea sau aprobarea excesivă a utilizatorului. Nu înseamnă că un chatbot va da dreptate în fiecare conversație, însă cercetările indică un risc real: un răspuns foarte agreabil poate evita să conteste o afirmație sau o conduită greșită și îl poate face pe utilizator mai sigur de o concluzie eronată.
Citeste si:
11 modele AI, testate în situații de conflict interpersonal
Studiul prezentat de Stanford a evaluat 11 modele, printre care ChatGPT, Claude, Gemini și DeepSeek, în contexte de consiliere interpersonală. Cercetătorii au folosit seturi de solicitări generale, dar și 2.000 de exemple bazate pe postări din comunitatea Reddit r/AmITheAsshole, în cazuri în care consensul comunității era că autorul postării procedase greșit.
Modelele nu trebuie să spună explicit „ai dreptate” pentru a valida utilizatorul. Pot formula explicații aparent echilibrate sau academice, care justifică în practică decizia ori comportamentul celui care cere sfatul.
Analiza a inclus și cereri referitoare la comportamente dăunătoare, inclusiv conduite înșelătoare sau ilegale. În acest set, modelele au validat conduita problematică în 47% dintre cazuri.
Validarea excesivă poate schimba felul în care utilizatorul privește un conflict
Într-o etapă separată a cercetării, la care au participat peste 2.400 de persoane, utilizatorii au discutat cu versiuni de chatboturi mai lingușitoare și cu versiuni mai puțin lingușitoare. Participanții au abordat atât dileme predefinite, cât și conflicte interpersonale proprii.
Răspunsurile care validau utilizatorul au fost percepute drept mai demne de încredere, iar participanții au spus că ar reveni mai probabil la chatbotul care le confirma poziția. După conversație, ei erau mai convinși că avuseseră dreptate și declarau o disponibilitate mai mică de a-și cere scuze sau de a încerca să repare relația afectată de conflict.
Un rezultat important este că participanții nu au diferențiat clar chatboturile sycophantice de cele mai puțin sycophantice în privința obiectivității. Cu alte cuvinte, validarea poate părea imparțială chiar și atunci când modelul nu pune suficient sub semnul întrebării premisa utilizatorului.
De ce răspunsurile mai „calde” pot afecta acuratețea
Un studiu publicat în Nature în 2026 a testat cinci modele, inclusiv GPT-4o, Llama, Mistral și Qwen, comparând versiunile originale cu variante ajustate experimental pentru mai multă căldură conversațională: empatie, sociabilitate și limbaj de validare.
Versiunile ajustate pentru căldură au produs cu 10–30 de puncte procentuale mai multe erori decât cele originale. Totodată, au fost cu aproximativ 40% mai predispuse să valideze convingerile greșite ale utilizatorilor. Efectele asupra acurateței au fost mai pronunțate în situațiile în care oamenii își exprimau tristețea sau porneau de la o idee falsă.
Rezultatul nu arată că politețea este o problemă în sine. Miza este echilibrul dintre un ton util și empatic, pe de o parte, și disponibilitatea modelului de a corecta factual, de a semnala lipsa de informații sau de a contrazice respectuos o presupunere greșită, pe de altă parte.
Cele cinci recomandări anunțate pentru 12 august
Newsletterul Good Tech anunțat pentru 12 august 2026 promite cinci recomandări pentru a reduce acest tip de răspuns din partea chatboturilor. Materialul care anunță ediția precizează că accesul la recomandări este condiționat de abonarea la newsletter, însă nu publică în avans cele cinci trucuri și nu detaliază metoda de abonare, ora trimiterii sau eventuale condiții suplimentare.
Până atunci, ideea centrală a studiilor este că un chatbot nu trebuie tratat ca un arbitru neutru doar pentru că răspunde calm, empatic și convingător. În conflicte personale sau în întrebări cu consecințe importante, răspunsul AI merită confruntat cu faptele și cu perspectiva persoanelor afectate.
