Чтобы убедить пользователей в подлинности ИИ-фейка, нужно его просто почаще показывать
Исследователи из Тель-Авивского университета обнаружили, что многократное воспроизведение изображения повышает веру в его подлинность, даже если оно создано искусственным интеллектом.
Результаты были опубликованы в журнале Journal of Experimental Psychology: Learning, Memory, and Cognition.
Основой исследования стал хорошо известный психологический феномен "эффект знакомства". Он был описан еще в 1960-ые годы. Психологи показали, что любая знакомая информация – текст, картинка, лицо – всегда выглядит более достоверной и привлекательной. Причем человек не обязательно четко помнит информацию, эффект работает на подсознательном уровне. В новой работе ученые решили проверить действует ли эффект знакомства на пользователей, относящихся к информации с разной степенью критичности, если им среди реальных снимков предъявлять ИИ-фейки.
В эксперименте участникам показывали серию изображений, включавшую как настоящие фотографии, так и изображения, созданные ИИ. Потом эти же ИИ-изображения демонстрировались повторно вместе с новыми реальными снимками, и участников просили оценить, изображают ли они реальный объект или событие.
Результат оказался однозначным: изображения, которые участники уже видели, оценивались как более достоверные по сравнению с теми, что показывались впервые, независимо от их подлинности. Неожиданным оказалось то, что эффект знакомства был еще сильнее среди скептически настроенных участников – тех, кто в целом оценивал изображения как менее достоверные. Возможно, скептики излишне доверяют своему критическому мышлению, и когда мозг на подсознательном уровне как бы подтверждает подлинность, скептик склонен себе доверять. Но эта гипотеза требует дополнительных исследований.
Результаты выявляют тревожный механизм: люди приписывают более высокую достоверность визуальной информации, которая повторяется, независимо от ее правдивости. Причем более критическая оценка достоверности всего информационного потока помогает не всегда.