Чат-боты с ИИ могут размывать грань между реальностью и заблуждением

Когда генеративные системы ИИ выдают ошибочные ответы, это часто называют "галлюцинациями ИИ" – ситуациями, когда модель генерирует недостоверную информацию, которой пользователь может довериться. Однако новые исследования указывают на более сложный эффект: люди сами могут начинать "галлюцинировать в процессе общения с ИИ", то есть формировать и усиливать искаженные представления под влиянием диалога с чат-ботами.

Команда из Эксетерского университета изучила, как взаимодействие с разговорными ИИ может влиять на появление ложных убеждений, искажение памяти, изменение личных интерпретаций событий и даже развитие бредовых идей. В основе работы лежит теория распределенного познания, согласно которой когнитивные процессы человека частично "разделяются" с инструментами, которыми он пользуется.

По словам исследователей, регулярное использование генеративного ИИ для размышлений, воспоминаний и построения историй может приводить к тому, что ошибки системы начинают влиять на восприятие реальности человеком. Более того, ИИ способен не только отражать убеждения пользователя, но и усиливать их, подстраивая ответы под заданную им же картину мира. Таким образом, взаимодействие с чат-ботом может не просто подтверждать уже существующие заблуждения, но и постепенно закреплять их, поскольку система развивает и продолжает идеи пользователя в диалоге. В отличие от нейтральных инструментов вроде поиска или заметок, разговорный ИИ создает эффект общения, что придает ответам дополнительный "социальный вес".

Исследование подчеркивает, что такая форма взаимодействия создаёт ощущение поддержки и согласия, из-за чего ложные представления могут восприниматься как более правдоподобные. Также отмечается, что генеративные ИИ обладают рядом особенностей – постоянной доступностью, персонализацией и дружелюбным стилем общения, – которые могут усиливать этот эффект. В результате пользователю не обязательно искать внешнее подтверждение своим идеям: сам чат-бот может постепенно их подкреплять.

Ученые предупреждают, что в некоторых случаях подобная динамика может быть связана с усилением тревожных или искаженных представлений, особенно у людей, склонных к социальной изоляции или эмоциональной уязвимости.