20.10.2020

Может ли ИИ быть честным судьей? Эстония полагает, что да.

Оригинал здесь.
Эстония планирует использовать искусственный интеллект для принятия решений по незначительным судебным делам, как часть движения к “умному правительству”.
Обычно правительственные органы это не то место, где можно встретить инновации в ИТ или такие новые технологии, как искусственный интеллект. Но Отт Велсберг может изменить ваше мнение. 28-летний главный чиновник по данным наблюдает за усилиями маленького Балтийского государства по внедрению искусственного интеллекта и машинного обучения в сервисы, предназначенные для 1,3 миллиона граждан.
«Мы хотим, чтобы правительство было как можно более стройным», – говорит проворный, носящий очки Велсберг, эстонец, который пишет докторскую диссертацию в шведском университете Умео об использовании Интернета вещей и данных с датчиков в государственных службах. В августе прошлого года правительство Эстонии наняло Велсберга для запуска нового проекта по внедрению искусственного интеллекта в различные министерства для оптимизации услуг, предлагаемых жителям.
Запуск ИИ жизненно важно, говорит он. Некоторые люди беспокоятся, что при уменьшении числа государственных служащих пострадает качество услуг. Но ИИ нам поможет. Примерно 22 процента эстонцев работают на правительство; это примерно соответствует среднему показателю для стран Европы, но больше чем 18 процентов в США.
Сиим Сиккут, главный чиновник по информации, начал запускать различные испытательные проекты на основе ИИ в правительственных агентствах с 2017, еще до того как Велсберг поступил на работу. Велсберг говорит, что Эстония запустила ИИ и машинное обучение в 13 местах, где компьютерный алгоритм заменил правительственных работников.
Например, инспекторы более не проверяют фермеров, которые каждое лето получают государственные субсидии на заготовку сена. Спутниковые снимки, которые предоставляет Европейское Космическое Агентство еженедельно с мая по октябрь, обрабатываются алгоритмом глубокого обучения, разработанным в Обсерватории Тарту. Изображения накладываются на карту полей, для которых фермеры получают субсидии на заготовку сена.
Алгоритм обрабатывает каждый пиксель в изображении, определяя скошено ли сено на поле или нет. Выпас скота или частичный выкос сена могут привести к ошибкам в обработке изображения; в этих случаях инспектор все еще выезжает для проверки. За две недели до крайнего срока кошения автоматизированная система уведомляет фермеров с помощью текстовых сообщений или электронных писем, которые содержат ссылку на спутниковое изображение их поля. По словам Велсберга, система сэкономила 665 000 евро (755 000 долларов США) в первый год, потому что инспекторы меньше посещали объекты и сосредоточились на других мерах по обеспечению соблюдения закона.
В другом приложении резюме уволенных работников вводятся в систему машинного обучения, которая сопоставляет их навыки с работодателями. Около 72 процентов работников, которые получают новую работу через систему, все еще продолжают работать через шесть месяцев, по сравнению с 58 процентами до развертывания системы. В третьем случае дети, рожденные в Эстонии, автоматически зачисляются в местные школы при рождении, поэтому родителям не нужно регистрироваться в списках ожидания или звонить школьным администраторам. Это потому, что медицинские записи автоматически передаются в местные школы. Система на самом деле не требует ИИ, но показывает, как распространяются автоматизированные сервисы.
А для своего самого амбициозного на сегодняшний день проекта Министерство юстиции Эстонии попросило Велсберга и его команду разработать «робота-судью», который мог бы разрешать споры по мелким претензиям на сумму менее 7 000 евро. Чиновники надеются, что система сможет устранить отставание дел для судей и секретарей судебных заседаний.
Проект находится на ранней стадии и, скорее всего, стартует позже в этом году в пилотном режиме, ограничившись контрактными спорами. По идее, обе стороны будут загружать документы и другую соответствующую информацию, а ИИ примет решение, которое может быть обжаловано в суде. Многие детали еще предстоит проработать. Велсберг говорит, что система может быть скорректирована после обратной связи от юристов и судей.
Эстония не первая страна, которая применяет ИИ в правовой системе, но может быть первой, кто предоставит полномочия по принятию решений алгоритмом. В США алгоритмы помогают рекомендовать уголовные приговоры в некоторых штатах. Британский чат-бот, управляемый DoNotPay AI, несколько лет назад отменил 160 000 парковочных билетов в Лондоне и Нью-Йорке. Таллиннская юридическая фирма Eesti Oigusbüroo предоставляет бесплатную юридическую помощь через чат-бота и создает простые юридические документы для отправки в коллекторские агентства. По словам генерального директора Артура Федорова, к концу года компания планирует расширить на Варшаву и Лос-Анджелес свою службу юридической помощи «Hugo-AI» которая помогает клиентам и юристам находить друг друга .
Идея робота-судьи может сработать в Эстонии отчасти потому, что 1,3 миллиона жителей этой страны уже используют национальные карты удостоверения личности и привыкли к онлайн-сервису, такому как электронное голосование и подача налоговых деклараций.
Правительственные базы данных соединяются друг с другом через нечто, называемое X-road, цифровую инфраструктуру, которая обеспечивает обмен данными. Жители Эстонии могут также проверить, кто имел доступ к их информации, войдя в государственный цифровой портал.
Хорошо документированный переход Эстонии на услуги цифрового правительства не обошелся без проблем. Независимые эксперты выявили уязвимость в системе идентификации Эстонии в 2017 году, что привело к некоторому затруднению; это было исправлено, и удостоверения личности заменены. Но правительственные чиновники говорят, что в стране не было серьезного нарушения или кражи данных с тех пор, как в начале 2000-х годов началось использование цифровых технологий. В 2016 году более двух третей взрослых эстонцев подали правительственные формы в Интернете, что почти вдвое превышает средний показатель по Европе.
«По-настоящему частные и конфиденциальные вещи находятся не в руках правительства, а в банках и телекоммуникациях», – говорит Танел Таммет, профессор компьютерных наук в Таллиннском техническом университете. Таммет является членом правительственной целевой группы правительства Эстонии, которая сообщит о своих выводах в мае и предложит дополнительно 35 демонстрационных проектов, связанных с искусственным интеллектом, к 2020 году.
Дэвид Энгстром из Стэнфордского университета, эксперт в области цифрового управления, говорит, что граждане Эстонии могут сегодня доверять системе использования их цифровых данных правительством, но все может измениться, если с одной из новых систем принятия решений на основе ИИ что-то пойдет не так.
В США такие агентства, как Администрация социального обеспечения, используют ИИ и алгоритмы машинного обучения для ускорения сортировки и обработки данных, в то время как EPA использует ИИ для определения того, какие фабрики следует проверять на наличие загрязнений окружающей среды. Но, по словам Энгстрома, скоординированные усилия по ИИ в федеральном правительстве шли медленно, главным образом потому, что федеральные базы данных в каждом агентстве различны и их нелегко передать другим учреждениям.
Энгстром и команда студентов юридических факультетов и специалистов по информатике в Стэнфорде изучают, как лучше использовать ИИ в государственных органах США. Вскоре они сообщат о своих выводах Административной конференции Соединенных Штатов, независимому федеральному агентству, которому поручено разработать рекомендации по усовершенствованию административных процессов.
Он не видит возможности для робота-судьи, управляемого ИИ, в ближайшее время появиться в залах суда США. В США нет национальной системы удостоверений личности, и многие американцы испытывают врожденный страх перед большим правительством. «У нас есть надлежащая процедура в Конституции, и есть что сказать о полностью автоматизированном принятии решений государственным органом», – сказал Энгстром. «Даже с возможностью апелляции к судям-людям могут быть сложности».
Тем не менее, Энгстром предвидит время, когда юридические помощники, управляемые ИИ, могут представлять судьям прецеденты и предпосылки, необходимые для принятия решения. «Подход с использованием ИИ обещает большую последовательность судебных решений, чем мы в настоящее время», – сказал он. «А может быть система, управляемая ИИ, более точна, чем система принятия решений человеком».
Обратная сторона в том, что ИИ хорош только в той степени, в которой он запрограммирован. Например, алгоритмы вынесения приговоров были подвергнуты критике как предвзятые по отношению к черным.
«Есть причины беспокоиться о предвзятости автоматизированных систем», говорит Энгстром. По мере того как машины принимают больше решений, люди с меньшей вероятностью внедряют свои собственные знания в систему, говорит он. «Это одна из тех ползучих опасностей, о которых беспокоятся сторонники конфиденциальности и сторонники хорошего правительства, когда правительство оцифровывается таким образом».
На данный момент, однако, эстонским чиновникам нравится идея, что ИИ-робот будет решать простые споры, оставляя больше времени людям-судьям и адвокатам для решения более сложных проблем. Внедрение большего количества ИИ в государственных службах “позволит нам специализироваться на том, что машины никогда не смогут сделать”, – отметил президент Керсти Кальюлайд на недавней конференции ИИ “Северная звезда” в Таллине. “Я хочу специализироваться на том, чтобы быть теплым, сострадательным человеком. Для этого нам нужен ИИ, чтобы быть безопасным, причем явно безопасным ».

Один комментарий к “Может ли ИИ быть честным судьей? Эстония полагает, что да.

  1. Эстония так держать!Индия уже на пути к внедрению ИИ! Интересно кто из вас завоюет первенство?!

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *