ИИ-чаты могут сузить наш кругозор до одного мнения

Профессор Еврейского университета Иерусалима предупреждает: популярные ИИ-инструменты дают однотипные ответы, что может ограничить разнообразие мышления и культурных взглядов.

Искусственный интеллект все глубже проникает в нашу повседневную жизнь, но профессор Михаль Шур-Офри считает, что влияние ИИ-чатов не только положительное. Она изложила свою точку зрения в статье для журнала Indiana Law Journal.

Шур-Офри считает, что основная проблема заключается в том, что современные системы искусственного интеллекта склонны генерировать однообразный, мейнстримный контент. Когда все пользователи получают одинаковые стандартные ответы от ИИ, это ограничивает разнообразие голосов, нарративов и культур, с которыми мы сталкиваемся.

Большие языковые модели обучаются на массивных наборах данных, преимущественно на английском языке, и полагаются на статистическую частоту при генерации ответов. В результате наиболее распространенные имена, истории и точки зрения появляются снова и снова. Например, при вопросе о важных фигурах XIX века ChatGPT называет Линкольна, Дарвина и королеву Викторию – предсказуемые англоцентричные варианты.

Поскольку результаты работы языковых моделей становятся обучающими материалами для будущих поколений ИИ, со временем проецируемая ими "вселенная" становится все более бедной. Это может привести к сокращению культурного разнообразия, подрыву социальной толерантности и негативно повлиять на коллективную память.

Профессор Шур-Офри предлагает новый принцип управления ИИ – множественность. Системы искусственного интеллекта должны знакомить пользователей с различными вариантами и нарративами, а не просто давать один "самый популярный" ответ. Также необходима грамотность в области ИИ, чтобы люди понимали, как работают языковые модели и почему их результаты тяготеют к популярному и мейнстримному.

Исследователь предлагает два практических решения: встроить множественность в инструменты ИИ через функции, повышающие разнообразие контента, и развивать экосистему различных систем ИИ для получения альтернативных мнений.