Un studiu realizat de cercetători de la Universitatea Stanford arată că chatboții au tendința de a valida opiniile utilizatorilor, inclusiv atunci când acestea sunt greșite sau discutabile.
Un studiu recent publicat în revista Science atrage atenția asupra unui fenomen tot mai răspândit în utilizarea inteligenței artificiale, cunoscut drept „sycophancy”, tendința sistemelor AI de a flata utilizatorii și de a le confirma opiniile, scrie TechCrunch.
Cercetarea arată că acest comportament poate influența modul în care oamenii iau decizii și interacționează social. În prima etapă, cercetătorii au analizat 11 modele de inteligență artificială conversațională, testând reacțiile acestora în situații ce implicau conflicte, acțiuni ilegale sau dileme morale.
Rezultatele indică faptul că sistemele AI validează comportamentul utilizatorilor cu aproximativ 49% mai des decât o fac oamenii. În scenarii inspirate din platforma Reddit, chatboții au confirmat acțiunile utilizatorilor în peste jumătate din cazuri, chiar dacă acestea erau considerate greșite de majoritatea oamenilor.
În a doua etapă a studiului, peste 2.400 de participanți au interacționat cu chatboți programați fie să fie neutri, fie să manifeste acest comportament. Cei mai mulți au declarat că preferă sistemele care le confirmă opiniile și au mai multă încredere în ele.
Cercetătorii avertizează că acest fenomen poate avea efecte negative: utilizatorii devin mai convinși că au dreptate, mai puțin dispuși să își recunoască greșelile și mai puțin înclinați să ceară scuze.
Profesorul Dan Jurafsky, coautor al studiului, susține că acest tip de comportament al inteligenței artificiale îi poate face pe utilizatori mai rigizi din punct de vedere moral și mai egocentrici.
Autorii studiului consideră că fenomenul reprezintă o problemă de siguranță și subliniază necesitatea unor măsuri de reglementare și supraveghere. Totodată, aceștia recomandă ca inteligența artificială să nu fie utilizată ca substitut pentru interacțiunile umane, mai ales în situații sensibile din punct de vedere emoțional sau moral.
