Эмоции и когнитивные искажения превращают AI-изображения в инструмент цифрового обмана
AI-сгенерированные изображения всё чаще становятся частью информационного потока в социальных сетях. Особенно активно такой контент распространяется на Facebook, где реалистичные картинки сопровождаются эмоциональными подписями и быстро собирают реакции пользователей. Новое исследование показывает: сильные чувства - сочувствие, возмущение, ностальгия или восхищение - способны заставить человека отреагировать раньше, чем он успеет задуматься о достоверности увиденного.
Современные генеративные сервисы позволяют создавать убедительные изображения быстро и практически без существенных затрат. Затем их публикуют автоматизированные страницы, контентные фермы и аккаунты, заинтересованные в охватах, рекламе или росте вовлечённости. Фотографии пожилых людей, якобы брошенных детей, семейных историй, религиозных сцен или необычных достижений вызывают мгновенную эмоциональную реакцию и тем самым обходят привычную критическую проверку.
Исследование, опубликованное в журнале *Computers in Human Behavior*, провёл Марк Мишкольци из Университета Корвинуса в Будапеште. Он изучил открытые публикации Facebook, собранные с 1 марта по 1 мая 2025 года. В выборку вошли 146 предположительно синтетических изображений и 8922 комментария пользователей.
Для анализа исследователь отобрал 12 публичных страниц, регулярно размещавших вероятно созданные нейросетями картинки. Тематика публикаций включала ностальгию, сельскую жизнь, пожилых людей, духовность, бытовые трудности и семейные отношения. Каждое изображение проверяли вручную по восьми признакам: искажённой анатомии, необычным деталям лица, "плавающим" предметам, невозможным отражениям, неправильным надписям и неестественным текстурам. Дополнительно применялся онлайн-детектор, а в итоговую выборку включали изображения с вероятностью искусственного происхождения не менее 60%.
Первоначально база содержала 11 547 комментариев. После удаления сообщений, которые могли быть созданы автоматическими аккаунтами, осталось 9082 записи. Ещё 160 комментариев исключили как бессодержательные или незавершённые. В результате для качественного анализа использовали 8922 сообщения, распределив их по повторяющимся темам, эмоциональным реакциям и возможным механизмам восприятия.
Исследователь выделил пять крупных тематических групп: эмоции и ностальгия, сочувствие и сострадание, выдающиеся достижения и увлечения, дни рождения и социальные проблемы, религия и духовность. Чаще всего пользователи оставляли поздравления с днём рождения - 1980 комментариев, или 22,19% выборки. Вдохновляющие сообщения и слова поддержки составили 1802 комментария, или 20,20%. Религиозные пожелания и благословения встречались в 1490 случаях, что соответствует 16,70%.
Многие комментаторы воспринимали изображения так, словно на них действительно были показаны реальные люди и события. Они выражали жалость к пожилым, вспоминали собственное детство, поздравляли героев публикаций и делились религиозными пожеланиями. Подобная реакция может объясняться несколькими когнитивными искажениями.
Например, предвзятость подтверждения заставляет человека легче принимать сведения, которые соответствуют его уже существующим взглядам. Эффект якоря делает первой эмоциональной реакции особенно важной: если картинка сразу вызвала сострадание или гнев, позднее обнаружение странных деталей может уже не изменить мнение. Знакомые сюжеты также кажутся более правдоподобными, а большое количество положительных комментариев создаёт иллюзию коллективной проверки фактов.
Как отмечается в исследовании о том, почему AI-изображения оказываются настолько убедительными, эмоциональная вовлечённость часто идёт вместе с автоматическими мыслительными реакциями. Из-за этого человек может поставить лайк, написать комментарий или поделиться публикацией ещё до того, как оценит её визуальные несоответствия.
Наиболее сильный отклик вызывали изображения пожилых людей, сцены с ностальгическим настроением и сюжеты, намекающие на пренебрежение или одиночество. Контент, рассчитанный на возмущение, тоже стимулировал активность, одновременно отвлекая внимание от ошибок в деталях. При этом публикации о межэтнических конфликтах и некоторых случаях с "забытыми" днями рождениями чаще вызывали сомнения или оставались без заметного отклика.
Практический вывод из работы очевиден: прежде чем реагировать на эмоциональный пост, стоит сделать паузу и провести хотя бы быструю проверку. Пользователям полезно знать, как распознать AI-изображение: нужно внимательно изучить кисти рук, глаза, зубы, мелкие предметы, надписи, тени и отражения. Нелогичные пропорции, повторяющиеся лица, неестественные текстуры и нечитаемый текст часто выдают генерацию.
Более формальная проверка изображения на искусственный интеллект с помощью специализированных сервисов также может помочь, но такие инструменты не дают абсолютной гарантии. Детекторы ошибаются, особенно если картинку предварительно сжали, обрезали или обработали фильтрами. Поэтому результаты автоматической проверки следует сопоставлять с контекстом публикации, датой, подписью и другими независимыми свидетельствами.
Особую опасность представляют фейковые изображения в социальных сетях, связанные с трагедиями, политическими событиями, конфликтами и чрезвычайными ситуациями. Подобные материалы могут не только собирать реакции, но и формировать ложное представление о происходящем. Эмоционально насыщенная картинка способна быстро разойтись по репостам, пока фактчекеры ещё не успели установить её происхождение.
Для пользователей это означает необходимость развивать цифровую гигиену: не доверять одному визуальному доказательству, проверять публикации через несколько надёжных каналов, обращать внимание на дату и автора, а также не распространять материал сразу после первого эмоционального впечатления. Такая стратегия становится важной частью защиты от дезинформации в интернете.
У исследования есть ограничения. В нём рассматривались только открытые материалы Facebook, поэтому результаты нельзя автоматически переносить на TikTok, Instagram, X или другие платформы. Использованные методы ручного определения синтетических изображений и автоматических комментариев пока не прошли внешнюю проверку. Кроме того, когнитивные искажения выводились из содержания комментариев, а не измерялись непосредственно в контролируемом эксперименте.
Работа также не позволяет точно установить, сколько пользователей действительно поверили в подлинность изображений. Некоторые комментарии могли быть ироничными, а исследование не показывает, изменили ли публикации взгляды людей или повлияли на их дальнейшее поведение. Тем не менее результаты демонстрируют важную тенденцию: сочетание реалистичной картинки, эмоциональной подписи и социальной поддержки способно заметно ослабить критическое мышление аудитории. Именно поэтому визуальный контент, созданный нейросетями, становится не просто технологическим новшеством, а серьёзным фактором риска для информационной среды.