11.07.2020

Суд запрещает правительству Нидерландов использовать программное обеспечение ИИ для выявления мошенничества в сфере социального обеспечения

Оригинал тут.

5 февраля 2020 г. Окружной суд Гааги (Rechtbank Den Haag) постановил, что система алгоритмов индикации системного риска (SyRI) – юридический инструмент, который правительство Нидерландов использует для обнаружения мошенничества в таких областях, как  начисление пособий и налогов, нарушает статью 8 Европейской конвенции о правах человека (ЕКПЧ) (право на уважение частной и семейной жизни).

Дело было возбуждено несколькими гражданскими правозащитными организациями, включая Нидерландский комитет юристов по правам человека (Nederlands Juristen Comité voor de Mensenrechten, NJCM) и двумя физическими лицами против правительства Нидерландов. Федерация профсоюзов Нидерландов (Federatie Nederlandse Vakbeweging, FNV) выступила от имени истцов. NJCM работает для защиты и укрепления основных прав и свобод человека. FNV является профсоюзом, который действует в интересах своих членов и «частично руководствуется фундаментальными ценностями равенства всех людей, свободы, справедливости и солидарности». (Районный суд, пункты 2.2, 2.4 и 2.5.) 

Система SyRI – это алгоритм, используемый правительством «для предотвращения и борьбы с мошенничеством в сферах социального обеспечения и схемах, связанных с доходами, налоговых и социально – страховых взносов и трудового законодательства». Он связывает и анализирует данные различных правительственных или государственных учреждений и создает отчет о рисках, если человек подозревается в мошенничестве. В 2003 году эти агентства, в том числе муниципалитеты, заключили Соглашение о сотрудничестве и сформировали Национальный руководящий комитет по интервенционным группам (LSI). Соглашение о сотрудничестве обновлено в 2017 году. LSI возглавляет представитель Министерства социальных дел и занятости. 

В 2004 году в Закон о труде и социальной помощи (Wet werk en bijstand, WWB) было включено положение, позволяющее связывать данные агентств. Сто шестьдесят проектов были предприняты под надзором LSI, чтобы предотвратить и обнаружить мошенничество в период с 2008 по 2014 год. SyRI или его предшественники были использованы для 22 из них. В девятнадцати из 22 проектов использовался «ориентированный на соседство подход», то есть они были нацелены на конкретные районы, в которых связанные данные указывали на повышенный риск мошенничества в сфере социального обеспечения.

Истцы утверждали, что использование системы SyRI нарушает право на уважение частной жизни, закрепленное в статье 8 ЕКПЧ, статье 17 Международного пакта о гражданских и политических правах (МПГПП) и статьях 7 и 8 Устава ЕС. 

Обработка данных состоит из двух этапов: 1 фаза и 2 фаза анализа. На первом этапе процессор объединяет файлы. После этого исходный файл автоматически проверяется по модели риска со всеми индикаторами, которые генерируют потенциальные попадания, что означает увеличение риска мошенничества. Все данные, связанные с этими повышенными рисками, передаются министру для этапа 2, на котором они дополнительно анализируются и оцениваются. 

Статья 8 ЕКПЧ гарантирует право на уважение частной и семейной жизни. Пункт 2 требует, чтобы любое вмешательство осуществлялось в соответствии с законом и было необходимо в демократическом обществе в интересах национальной безопасности, общественной безопасности или экономического благополучия страны, для предотвращения беспорядков или преступлений, для защиты здоровья, морали, или для защиты прав и свобод других людей. Государственный орган должен найти справедливый баланс между нарушением права на частную жизнь и общественными интересами, которым служит законодательство.

Сначала Суд заявил, что социальное обеспечение является одной из основ голландского общества и вносит значительный вклад в процветание Нидерландов. Поэтому борьба с мошенничеством, которая является заявленной целью законодательства, имеет решающее значение. Он согласился с правительством, что новые технологии, такие как SyRI, которые предлагают больше возможностей для предотвращения и борьбы с мошенничеством, должны использоваться и, как правило, служат законной цели. Однако Суд указал, что развитие новых технологий означает, что право на уважение частной жизни, которое включает в себя право на защиту персональных данных, приобретает все большее значение.

По мнению Суда, принцип прозрачности не соблюдался, поскольку отсутствует понимание индикаторов риска и действия модели риска. В заключение, Суд заявил, что нельзя исключать, что размещение SyRI в «проблемных зонах» приведет к дискриминации граждан в таких районах. 

4 комментария к «Суд запрещает правительству Нидерландов использовать программное обеспечение ИИ для выявления мошенничества в сфере социального обеспечения»

  1. Этот вопрос как медаль о двух сторонах!С одной стороны равнять всех под один гребень и таким образом называть мошенниками действительно бедных людей, что нуждаются в социальном пособии, но с другой стороны, если бы все были честны….

  2. В Европе вовсю трубят о невозможности нарушения прав человека, но правда ли там все так гладко, ведь, как говорится, дыма без огня не бывает!Если заговорили о нарушения, значит и были прецеденты!

  3. Да, никто не хочет, чтобы в его личной жизни ковырялись, но если уж нужна процедура проверки, прежде чем получить материальную помощь, то будьте готовы ее пройти!

  4. Не вижу ничего предосудительного в том, чтобы проверить действительно ли человек нуждаеться в материальной помощи от государства!А уж искусственный интеллект, с его обьективностью, на эту роль подойдет наиболее!

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *