05.08.2020

ИИ в договорном и деликтном праве: юридические основания его применения и технические трудности. Часть 1

Оригинал тут.

Машинное обучение является наиболее известным и экономически значимым примером применения методов искусственного интеллекта. В то время как потенциал машинного обучения для принятия экономических решений, начиная от кредитных решений до выбора кандидатов на работу, уже давно признан и реализован в цифровой экономике, алгоритмические модели все чаще становятся предметом интенсивных политических дебатов, касающихся законности и ответственности за передовые приложения машинного обучения. В этой статье проблема доступности решений, принимаемых с помощью инструментов машинного обучения, заняла центральное место на пересечении искусственного интеллекта и права. 

В академической среде разгорелись интенсивные дебаты о том, включает ли в себя Общий регламент о защите данных (GDPR) право на объяснение автоматизированных решений. В этой статье мы стремимся расширить масштабы данной дискуссии по двум параметрам. Во-первых, мы стремимся показать, что обоснованность является важной юридической категорией не только в законе о защите данных, но также в договорном и деликтном праве. В то время как законодательные требования в отношении GDPR в настоящее время в значительной степени неясны, полезным будет исследовать роль обоснованности в других правовых областях. Фактически, как мы утверждаем, договорное и деликтное право, а не закон о защите данных, может в конечном итоге навязать юридические требования для использования объяснимых моделей машинного обучения.

Отношения ИИ и закона

Разработчикам приложений машинного обучения обычно приходится выбирать между различными типами моделей, чтобы оптимизировать задачу. Такие типы варьируются от простых решений до более глубоких и сложных. Чтобы выполнить бремя нормативно-правового соответствия или избежать ответственности, лица, принимающие решения, должны выбрать модель, которая хорошо работает в данном контексте. В этом смысле закон не зависит от базовой модели.

Однако в последние годы возможность объяснить любое явление стала ключевым фактором, определяющим выбор модели как с технической, так и с юридической точек зрения. В техническом плане, различные модели отличаются в зависимости от степени их доступности. Хотя в машинном обучении не существует единого общепринятого определения обоснованности и доступности, их можно сгруппировать в модели, которые стоит интерпретировать как предварительные (ex ante), и те, которые можно объяснить только постфактум.  Например, модели линейной регрессии обычно интерпретируются ex ante, поскольку коэффициенты регрессии обеспечивают понимание соответствующих признаков, используемых для прогнозирования. Ряд исследований показали, что часто можно определить постфактум признаки (входные переменные), которые отвечают за конкретный результат.

С юридической точки зрения обоснованность однозначно обсуждалась как возможное требование в соответствии с законом о защите данных. Особенно в отношении GDPR, ученые разделились по поводу того, имеет ли регулирование право на объяснение. Дискуссия была сосредоточена на двух положениях. GDPR считает, что в некоторых случаях автоматизированной обработки «контроллер данных должен принять надлежащие меры для защиты прав и свобод субъекта данных и законных интересов, по крайней мере, права на получение вмешательства со стороны контроллера, высказать свою точку зрения и оспорить решение». 

 В договорном и деликтном праве есть два способа, которыми закон влияет на принятие моделей машинного обучения на практике. Во-первых, возникает вопрос, должны ли некоторые действующие лица действительно использовать модели машинного обучения (МО) вместо принятия человеческих решений, чтобы избежать ответственности. Мы рассмотрим этот вопрос в двух тематических исследованиях: ответственность врачей за то, что они не использовали диагностику МО; и ответственность перед корпоративными менеджерами за неиспользование инструментов оценки компании МО при слияниях и поглощениях. Как показывают тематические исследования, степень, в которой закон обязывает принятие инструментов МО, зависит, в частности, от их доступности. Во-вторых, ответственность за выбор точной модели машинного обучения в решающей степени зависит от взаимосвязи между объяснимостью и точностью (или другими показателями производительности). 

Однако, в современных моделях обоснованность и производительность с точки зрения точности предикации часто пропорционально обратны: легко объяснимые модели могут работать плохо, в то время как наиболее эффективные в настоящее время модели настолько сложны, что даже опытные разработчики не могут объяснить ни интуитивно, ни технически как получаются хорошие результаты. Поскольку этот компромисс также лежит в основе вопросов контракта и деликтной ответственности, компромисс между технической объяснимостью и точностью повторяется в правовой сфере.

8 комментариев к «ИИ в договорном и деликтном праве: юридические основания его применения и технические трудности. Часть 1»

  1. У цій статті проблема доступності рішень, прийнятих за допомогою інструментів машинного навчання відкривається доступно, але є багато питань інвестиційного характеру. Наприклад, хто має гроші на фінансування таких проектів і чи не будуть українські люди ще більше в боргах?

  2. Considering legal difficulty in implementation of the AI systems in court we can say that it won’t be an easy task but the opposing force to such an implementation is also partial and corrupt human judicial system in a lot of countries because it’s not in the interest of the political and judicial elite for the judicial system to become impartial.

  3. Основным правилом я считаю равноценное и выгодное сотрудничество искусственного интеллекта и законодательной базы!Не мешать, а работать во благо человечества!

  4. Вот и наши законы столь же неоднозначны: с одной стороны, вроде бы защищают, но с другой – они же могут и заблокировать работу искусственного разума в нужном сегменте!Как быть в таком случае?

  5. Прежде чем давать оценку материалу полностью – ознакомлюсь со второй частью статьи!Спасибо!

  6. Остается открытым вопрос финансирования данных программ!Ведь в нашем бюджете нету денег на более необходимые вещи!

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *