AI увеличава риска от романтични измами

Ново академично изследване поставя сериозен акцент върху рисковете, свързани с развитието на генеративния изкуствен интелект. Според учени от четири университета съвременните AI чатботи вече могат да изграждат доверие с потенциални жертви на романтични измами по-успешно от хора, което би могло значително да улесни мащабирането на подобни престъпни схеми.

Резултатите подсказват, че с развитието на големите езикови модели традиционните онлайн измами могат да станат още по-трудни за разпознаване.

Романтичните измами обикновено започват чрез приложения за запознанства или социални мрежи. Измамникът създава убедителен профил и в продължение на седмици или дори месеци поддържа ежедневна комуникация с жертвата, като изгражда доверие и емоционална връзка. Срещите постоянно се отлагат с различни оправдания – например дълго пребиваване в чужбина.

След като доверието бъде изградено, следва искане за финансова помощ при спешна ситуация или предложение за „сигурна“ инвестиция, най-често във фалшива криптовалутна схема. Именно този тип измами са известни като „long con“, защото разчитат на продължителна психологическа манипулация.

Изследването, цитирано от Wired, е проведено от учени от Amrita Vishwa Vidyapeetham (Индия), Ca’ Foscari University of Venice, University of Melbourne и Ben-Gurion University of the Negev. В експеримента са използвани популярни AI модели като ChatGPT, Claude и Gemini, които са сравнени директно с човешки участници в симулация на подобни разговори.

Доброволците не са знаели дали разговарят с човек или с изкуствен интелект. В края на комуникацията те са били помолени да изпълнят действие, например да изтеглят приложение. Докато едва 18% са се съгласили след разговор с човек, почти половината от участниците са направили това след комуникация с AI чатбот.

Освен това участниците са оценили значително по-високо нивото на доверие към събеседника, когато той всъщност е бил изкуствен интелект. Това подсказва, че съвременните езикови модели могат успешно да имитират естествена човешка комуникация и да изграждат емоционална връзка.

След публикуването на резултатите Wired е потърсил коментар от Anthropic, OpenAI и Google. От Anthropic са заявили, че политиките на компанията забраняват използването на Claude за измами и за представяне за реален човек, като са внедрени и технически механизми за ограничаване на подобна злоупотреба. OpenAI и Google не са предоставили официален коментар.

Според авторите на анализа най-сериозната опасност не е само по-високата убедителност на AI, а възможността подобни системи да водят едновременно хиляди разговори с потенциални жертви. Така престъпните организации биха могли значително да увеличат мащаба на дейността си, докато човешка намеса е необходима единствено във финалния етап – непосредствено преди искането за превод на средства, когато могат да бъдат избегнати част от защитните механизми на AI платформите.

Експертите посочват, че развитието на подобни технологии прави още по-важни предпазливостта при онлайн запознанства, проверката на самоличността на събеседника и отказът от изпращане на пари или инсталиране на приложения по настояване на непознати.