Флорида подала иск против OpenAI и Сэма Альтмана из-за рисков ChatGPT для детей

Штат Флорида подал гражданский иск против OpenAI и генерального директора компании Сэма Альтмана, обвинив их в том, что ChatGPT представляет опасность для детей и других уязвимых пользователей. Как сообщает Variety, власти штата утверждают, что OpenAI игнорировала предупреждения о рисках и ставила быстрый рост и прибыль выше безопасности.

Иск подан генеральным прокурором Флориды Джеймсом Утмайером. По данным Reuters, это первый иск американского штата против OpenAI, связанный с предполагаемыми недостатками безопасности ChatGPT. В 83-страничной жалобе утверждается, что чат-бот мог предоставлять пользователям опасный контент, связанный с насилием, самоповреждением и школьными нападениями.

В иске, в частности, упоминается массовая стрельба в Университете штата Флорида в 2025 году: власти штата утверждают, что взаимодействие нападавшего с ChatGPT могло сыграть роль в подготовке преступления. Также Флорида обвиняет OpenAI в незаконном сборе данных детей и недостаточной эффективности родительских инструментов контроля.

Утмайер требует взыскания ущерба и судебного запрета, который обязал бы OpenAI изменить практики работы ChatGPT с несовершеннолетними. Власти штата также пытаются привлечь к ответственности лично Альтмана, утверждая, что он несет ответственность за выпуск и продвижение небезопасного продукта.

OpenAI ранее заявляла, что ее модели обучены отклонять запросы, связанные с насилием и самоповреждением, а компания сотрудничает с экспертами по психическому здоровью и правоохранительными органами в ситуациях, где может существовать немедленная угроза. На момент публикации Reuters сообщал, что компания не дала отдельного комментария по иску Флориды.