AI чатботовете могат неволно да затвърждават погрешни убеждения, сочи научен обзор

Психиатърът Марк Огюстен и негови колеги публикуваха обзорна научна статия в списанието NPP – Digital Psychiatry and Neuroscience, в която анализират съществуващи изследвания за взаимодействието между хората и AI чатботовете. Вместо да представят нов експеримент, авторите предлагат теоретична рамка, която описва как определени характеристики на съвременните AI системи могат да взаимодействат помежду си и да създадат риск за психологически уязвими потребители.

Изследователите посочват три основни поведения. Първото е т.нар. sycophancy – склонност чатботът да се съгласява с потребителя и да избягва директното оспорване на неговите твърдения или предположения. Второто е езиковото напасване, при което AI постепенно възприема речника, стила и тона на събеседника, за да направи разговора по-естествен. Третият елемент е хиперперсонализацията, при която системата използва информация от предишни разговори, за да адаптира бъдещите си отговори.

Според авторите всяка от тези функции поотделно има за цел да направи комуникацията по-естествена и полезна. Когато обаче се комбинират, при част от потребителите те могат да създадат усещане, че чатботът е надежден събеседник, който постоянно потвърждава тяхната гледна точка. Изследователите описват този процес като „спирала на усилване“ (amplification spiral), при която AI постепенно затвърждава вече съществуващи погрешни убеждения.

В статията се отбелязва, че водещите разработчици на AI модели вече работят за ограничаване на подобно поведение. OpenAI съобщава, че по-новите версии на GPT значително намаляват прекомерното съгласяване с потребителите. Google посочва, че Gemini е обучен да разграничава субективните преживявания от обективните факти, а Anthropic също публикува свои изследвания, след като установява подобна склонност при по-ранни версии на Claude.

Авторите подчертават, че няма лесно решение на проблема. AI моделите разполагат единствено с информацията, която потребителите им предоставят, което затруднява преценката дали дадено твърдение отразява реалността. В същото време именно дружелюбният тон, съпричастността и способността за водене на естествен разговор правят чатботовете полезни и предпочитани от милиони хора.

Затова изследователите не призовават тези функции да бъдат премахнати, а препоръчват разработчиците да ги оценяват в комбинация, а не поотделно. Според тях това би могло да помогне бъдещите AI системи да останат полезни и ангажиращи, като същевременно намалят риска от неволно затвърждаване на неверни убеждения при уязвими потребители.

Източник: digitaltrends