11.07.2020

Проблемы мировых масштабов и их решения с помощью ИИ

Оригинал тут.

В данной статье Роберт Спано, председатель Европейского суда по правам человека обсуждает с Розалинд Инглиш проблемы, с которыми мы сталкиваемся в связи с зависимостью правительства от автоматизированного принятия решений. 

 Господин Спано говорит о том, что правительства в своей работе все чаще использует систему автоматизированного принятия решений, в первую очередь по причине связанной с затратами на нее. Соответственно, возникает вопрос: как мы можем защитить себя и основополагающие принципы верховенства права в эпоху развития, когда все больше и больше используем автоматизированное принятие решений при определении траектории жизни людей. 

И это основная проблема, так как мы сами позволили правительству использовать в целях экономии и эффективности такие инструменты. В качестве примера Спано приводит аналогию с использованием ИИ как инструмента для диагностики заболевания: ведь нас не волнует прозрачность, подотчетность или законность диагностического процесса, мы хотим знать правду.  Но при этом подчеркивает, что не всегда искусственный интеллект подходит для принятия решений в судебных процессах. В конце концов, человек должен знать, почему было принято решение и в какой степени оно сравнивается с другими подобными, соответствует ли принципам оправдания и недискриминации. 

 Роберт Спано подчеркивает, что теперь, когда речь заходит об алгоритмических инструментах, Европейский суд намерен использовать эту концепцию в законе, потому что, например, человеку, который является субъектом решения, принятого автоматизированным инструментом, очень трудно понять, как этот инструмент работает. И если ранее это был  код, запрограммированный обрабатывать бесконечное количество наборов данных, то сейчас все зависит от взаимодействия между алгоритмическим инструментом, кодом и набором данных, которые вводятся в алгоритм для обработки. То есть как работает система  трудно объяснить даже самым технически опытным людям, что уж говорить о юристах.  

Выходит, что ни один человек на самом деле не участвует в процессе принятия решений, а ведь  от правильного выбора данных и зависит само решение. Спано рассказывает о нашумевшем деле “Лумис против Висконсина”, когда Эрик Лумис обжаловал решение суда на основании того, что судья, вынося приговор рассматривал результаты алгоритма, внутренняя работа которого была секретной и не могла быть исследована.

В тоже время господин Спано настаивает на том, что при использовании алгоритмических инструментов  не может быть проблем с моралью, нарушением прав человека, так как конечный результат черно-белый, то есть это объективная истина. Для примера упоминает о деле, в котором окружной суд Гааги признал незаконным использование властями Нидерландов алгоритмического метода оценки рисков SyRI в отношении получателей пособий и социальных выплат. Власти пытались доказать, что SyRI помогает предотвращать мошенничество со льготами и уход от налогов, однако против системы резко выступили правозащитники, активисты и спецдокладчик ООН, которые обвинили власти в дискриминации бедных слоев населения. 

Это стало возможным так как в отличии от США в Европе действует Европейская конвенции о правах человека, что сохраняет право на неприкосновенность частной жизни. Но на данном этапе правительства разрабатывают комплекс мер по предотвращению злоупотребления такого рода манипуляциями.

В завершение господин Спано подчеркивает, что важно делать различия в том –  используется алгоритм для принятия решений только в качестве посредника или в качестве замены судьи и считает, что принимать решения по продвижению вперед в этой области следует очень осторожно.

4 комментария к «Проблемы мировых масштабов и их решения с помощью ИИ»

  1. Одна из толковых мыслей в данном интервью состоит в том, что надо обучать людей пользоваться благами, что дает ИИ!

  2. Полностью согласна с господином Спано в том, что вопрос о полной замене судьи-человека на судью-робота следует рассматривать с большой осторожностью, ведь не всегда робот может правильно понять все аспекты дела, особенно это касается этической стороны!

  3. Вот до чтения статьи еще не дошел, но заголовок заинтересовал на 100%!Браво за вызов!

  4. Вообще для меня тема участия в судьбе человека техники очень животрепещущая!Как можна доверить себя и свою судьбу роботу?Куда катится мир?

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *