Верховный суд запретил государству делегировать ИИ принятие решений по обращениям граждан

Судьи Верховного суда Ноам Солберг, Офер Гроскопф и Гила Штайниц-Кнафи вынесли прецедентное решение по поводу использования органами власти платформ искусственного интеллекта в процессе принятия решений по обращениям граждан.

Решение было вынесено по иску родителя ребенка с особыми потребностями против муниципалитета Рамат-Гана в связи с отказом в праве на подвозку. Отказ был обоснован ссылками на директиву министерства просвещения и судебную практику - однако ни указанная директива, ни цитируемые судебные решения в действительности не существовали.

Заместитель председателя суда Ноам Солберг подробно задокументировал масштаб проблемы: фантомные ссылки на несуществующие нормативные документы присутствовали и в первоначальном отказе муниципалитета, и в его процессуальных документах, поданных в суд. Более того, даже после того, как на эти ошибки прямо указал истец, муниципалитет продолжал в том же духе: в ответном процессуальном документе была процитирована несуществующая позиция Верховного суда.

Суд особо подчеркнул, что речь идет не просто о технической погрешности, а о нарушении конкретной процессуальной обязанности, которая уже была прямо сформулирована в предшествующей практике.

Судья Солберг провел принципиальное разграничение между двумя контекстами использования ИИ. Применительно к взаимодействию органа власти с гражданином напрямую суд признал такой ИИ-ответ особенно опасным: большинство граждан, получив мотивированный отказ со ссылками на нормативные акты и судебную практику, не способны самостоятельно проверить их подлинность и, как правило, смиряются с решением власти, даже не подозревая о допущенном нарушении. "Вероятность того, что подобное решение попадёт под судебный контроль, в таких случаях невысока", - подчеркивается в решении.

Судья Гила Штайниц-Кнафи добавила, что в определенных случаях делегирование принятия решений ИИ-платформе может образовывать незаконное самоотстранение органа власти от осуществления своих полномочий, что ставит под угрозу саму законность акта. При этом судья подчеркивает, что требование формального человеческого надзора само по себе проблемы не решает, и что надлежащее участие человека должно начинаться ещё на этапе проектирования и обучения системы, включать содержательный - а не формальный - контроль выходных данных, а также предполагать реальную компетентность проверяющего.

В итоге Верховный суд обязал муниципалитет выплатить истцу 30 тысяч шекелей.