05.08.2020

Искусственный интеллект в суде: будет ли робот выносить вам приговор?

Оригинал тут.

Некоторые эксперты думают, что ИИ в качестве судьи будет более честен, чем люди. Другие в этом не уверены.

Возможность работы ИИ как судьи недавно обсуждалась в статье о новых разработках в области применения ИИ в судебной системе, которая также включала в себя решение проблемы проездных билетов в Лос-Анджелесе Джиной-Аватар и предполагала использование юридического чат-бота.

Некоторые эксперты думают, что ИИ в качестве судьи будет более честен, чем люди: “Участники конференции отметили, что не будет особенно сложно создать систему на основе ИИ, которая дает лучшие результаты, чем люди. Существует множество доказательств всевозможных предубеждений человека, встроенных в системы правосудия. Например, в 2011 году исследование израильской комиссии по условно-досрочному освобождению показало, что комиссия по условно-досрочному освобождению вынесла более жесткие решения за час до обеда и за час до конца дня.”

Но другие указывают на ограниченность ИИ. Многие решения ИИ “необъяснимы”, поскольку компьютерная система пробегает по 10000 случаев и предлагает математическое решение. Люди думают другим способом и могут не посчитать такое решение честным, каким бы оно ни было.

В любом случае, одна из судей Верховного Суда предупреждает, что многие дела не сводятся только к информации:

“По моему опыту судейства, особенно в случае, когда участник представляет себя самостоятельно, большинство людей даже сейчас не знают, что вам сказать”, – сказала она. Если автоматизированная система строит свое решение на основе полученной информации, продолжила она, «как вы собираетесь обучать ее искать другие вещи? Для меня это очень субъективно, в данный момент. Например, если они волнуются, а я начну задавать им вопросы, то это приведет к совершенно другому результату.”

Она привела примеры иммиграционных дел, в которых потерпевшая неудачу сторона была немедленно убита после депортации в страну происхождения. Некоторые такие риски, возможно, с трудом поддаются количественной оценке, особенно если мало кто из них желает знать о результатах или берет на себя ответственность за них.

С другой стороны, мы можем быть склонны преувеличивать отличия ИИ. Профессор права Университета Гонзага Дэвид Де Вольф не считает ИИ в зале суда угрозой для правосудия.

«Текущее состояние правовой системы США настолько плохо, что трудно быть слишком критичным по отношению к ИИ. Урегулирование споров путем судебного разбирательства является самым последним средством. Это не наш первый вариант.»

В качестве примера можно привести уголовное наказание, на котором должно строиться «правильное» предложение. Возмездие, сдерживание, недееспособность и реабилитация – все это важные аспекты. Желание индивидуализировать приговор, чтобы оптимизировать эти факторы, должно быть ограничено, чтобы избежать произвольных субъективных суждений судьей (или комиссией), вынесшим приговор.

Покойный экономист Кеннет Боулдинг отметил, что существует три способа организации человеческого поведения: принуждение, обмен и дар. Армии и правовая система действуют на основе принуждения. Рынки работают на основе обмена, в то время как семьи, друзья и церкви работают на основе подарка. Все общества объединяют все три системы, но чем меньше они полагаются на принуждение и чем больше они получают от дара, тем они здоровее.

«Я меньше беспокоюсь об использовании ИИ в правовой системе, чем о растущей зависимости от закона – формы принуждения – для регулирования человеческого поведения.»  – сказал г-н Де Вольф.

Если доктор Де Вольф окажется прав, главная проблема должна заключаться в том, что ИИ ничего не может сделать для решения фундаментальных проблем системы. Эти проблемы проистекают из человеческого выбора перед лицом стимулов, конструктивных или извращенных.

Мы можем также спросить, что именно изменил ИИ в различных профессиях сегодня? В дисциплинах, которые требуют многолетнего обучения, таких как юриспруденция, ИИ занимается не столько тем, что забирает работу у людей, сколько создает новую. Например:

– Может ли ИИ доказать, что за Шекспира писали другие люди? Его вердикты различной надежности, вероятно, дадут ученым больше пищи для размышлений, чем когда-либо.

– Бросает ли ИИ вызов библейской археологии? ИИ иногда может расшифровать тексты, сгоревшие на кострах в храме, что позволяет нам документировать гораздо более ранние даты появления первых рукописей священных писаний.

 – Может ли ИИ помочь нам расшифровать потерянные языки? Это зависит главным образом от причин, по которым мы еще не расшифровали их. Но сотни тысяч древних документов сегодня не переведены, даже если мы в принципе сможем их расшифровать, потому что это скучная работа для немногих специалистов по языкам. Опять же, если ИИ будет выполнять утомительную работу, ученым будет о чем написать.

– Уничтожит ли ИИ астрофизику, какой мы ее знаем? Если автоматизировать многие часы, потраченные на сканирование неба, астрофизика сможет предоставить ученым гораздо больше данных для размышления, поэтому эффект должен быть обратным.

В целом, в областях, где требуется человеческое суждение, огромное увеличение информации, которую предлагают методы ИИ, должно дать больше возможностей для ее использования.

В каких областях провалился ИИ? В одном впечатляющем примере больница пыталась автоматизировать и упростить процесс сообщения человеку, что он умирает. “Никогда больше!”, поклялась администрация после мощного протеста. Но это был провал в суждении с их стороны.

10 комментариев к «Искусственный интеллект в суде: будет ли робот выносить вам приговор?»

  1. Вы понимаете что для того чтобы система работала, нужен продуманый подход. Посмотрите на Шулявский мост, его уже строят кучу времени, потратили кучу денег, а где результат? Его нет…Я веду вас к той мысли что у нас нет “чистых” людей, которые возьмут деньги и сделают качетсвенный продукт. У нас есть люди котрые отгрызут три куска с пирога, а с того что останятся слепят “кангфету”

  2. Використання штучного інтелекту при прийнятті рішень – це палка з двома кінцями! З одного боку, штучний інтелект менш упереджения аніж судді, з іншого – ШІ дійсно не може врахувати усіх нюансів справи в порівнянні із людиною!Тому вважаю, що потрібно класифікувати та розділити справи: що може розглянути робот, а що – людина!

  3. Я думаю, искусственный интеллект может быть сколь угодно совершенным инструментом, но он всё равно – лишь инструмент, и годится только для тех задач, которые люди перед ним ставят. Да, нам нужна от суда беспристрастность, и в этом плане ИИ лучше некуда: у него нет ни родственников, ни друзей, ни врагов, и взяток он не берёт. Но взять хотя бы упомянутый пример с иммигрантами, убитыми после депортации. Судья-человек учитывает такую возможность, судья-ИИ – нет, поскольку для него приоритетом является не благо конкретных людей, а соблюдение закона. Поэтому такой инструмент может быть очень эффективен, если только не забывать, что это инструмент.

  4. Люди всегда думают другим способом и я не уверен что машина правильно и корректно могла бы вынести свое решение! Но для меня ИИ удобен пока только в чат – ботах в банке…

  5. Having limited roll out and observing public response is the best way to implement this system although yes AI would be impartial still for the beginning and maturity of the system we need human oversight and ways to appeal the AI’s decision to a human judge for reform is necessary in the case. It could be a massive success if implemented in a good way.

  6. Как-то не очень хотелось, чтобы в твоей жизни ковырялись машины!Категорически против этого!

  7. Это решение должно быть настолько просчитанным и толковым!Нельзя рубить с плеча!

  8. ИИ сейчас развивается очень быстро, мы не знаем что будет завтра, но я вас уверяю, Украина останется за бортом!

  9. Я вот тоже считаю, что решения, вынесенные роботом, однозначно более обьективны!

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *