30.09.2020

Прежде чем внедрять ИИ на практике, нужно быть в нем компетентным.

Оригинал здесь.
Авторы: Jason Tashea, Nicolas Economou.

Когда в 2012 году в Типовые правила профессионального поведения ABA было включено требование технологической компетенции, юристам пришлось погрузиться в сложный мир быстро меняющихся современных технологий.
Возможно, самая сложная область для понимания – это искусственный интеллект. Адвокаты не только должны консультировать своих клиентов о юридических рисках, связанных с ИИ, но и все чаще должны оценивать, следует ли включать технологии ИИ в свою практику.
На сегодняшний день 36 штатов взяли на себя обязательства по развитию технологической компетенции, но для многих понимание ИИ остается проблемой. Оказание помощи юристам в соблюдении этих стандартов было частью нашей работы с Глобальной инициативой IEEE по этике автономных и интеллектуальных систем, многолетней международной междисциплинарной работой, посвященной этическим вопросам развития ИИ. Этот первый в своем роде набор этических принципов ИИ в правовых системах включает подотчетность, эффективность, прозрачность и, да, – компетентность.
Компетентность является ключевым принципом для включения ИИ в право. Однако он не требует, чтобы адвокаты были экспертами. Скорее, чтобы они были компетентным в этой предметной области, речь идет как о личном образовании, так и о понимании границ своих знаний, обращении за помощью при необходимости и требовании большей прозрачности от разработчиков и поставщиков программного обеспечения.
Раздел об искусственном интеллекте в правовых системах в этом междисциплинарном труде отличается от других тем, что делает упор на компетентность. Это связано с тем, что степень, в которой юрист поддерживает свою технологическую компетенцию, может напрямую влиять на другие правила профессиональной ответственности.
Например, Типовые правила 1.4 (b) (Коммуникации) или 1.5 (Тарифы) применяются, когда юрист объясняет, как программное обеспечение с поддержкой ИИ может повлиять на представление клиентов или на оплату. Информирование суда и адвоката противоположной стороны о полноте электронного раскрытия подразумевает применение Правил 3.3 (Откровенность перед Трибуналом) и 3.4 (Справедливость по отношению к противоположной стороне и ее адвокату). Фирма, рассматривающая новый алгоритм найма для проверки кандидатов, может подвергнуться риску дискриминации и столкнуться с правилом 8.4 (g) (неправомерное поведение). Исход этих потенциальных этических конфликтов зависит не только от понимания того, что технология может и не может делать, но и от того, в какой степени оператор ИИ, например, адвокат, использующий машинное обучение в процессе обнаружения для поиска нужных документов, фактически выполнил поставленную цель.
Для юристов может быть непросто достичь компетентности в ИИ, потому что это требует понимания того, что может делать ИИ, как его эффективно использовать, умения определять, была ли достигнута желаемая цель, и все это требует специальных знаний, по крайней мере, в области компьютерных наук и статистики.
Возьмем, к примеру, процесс использования технологий на основе различных типов ИИ для автоматизированного составления обзора нужных данных в судебном процессе. В период с 2006 по 2011 год Национальный институт стандартов и технологий (NIST) провел серию исследований для оценки его эффективности.
Принимая во внимание, что результаты сильно различались между участниками, два процесса, которые продемонстрировали эффективность «лучше, чем человек», были разработаны и выполнены командами, которые объединили юристов с имеющими научную подготовку экспертами в таких областях, как информатика, лингвистика и статистика. Эти результаты показывают, что многопрофильная экспертиза важна для эффективного выполнения процесса TAR.
Чтобы юридическое применение ИИ было плодотворным, юристы должны понимать, какие задачи и при каких обстоятельствах могут быть лучше выполнены с помощью технологий с использованием ИИ и связанных с ним достижений науки. Но необходимость в технической экспертизе была дополнительно подчеркнута тем, насколько плохо участвующие команды обычно выполняли измерения точности своих TAR: их фактическая точность, как правило, была существенно меньше чем они думали.
Поскольку для достоверного измерения точности требуются надежные статистические методы, которые не изучаются по учебной программе юридического факультета, несоответствие между оценочной и фактической точностью может быть объяснено ненадлежащим применением статистических данных, а также вероятным отсутствием признания необходимости быть экспертом в статистических данных в первую очередь.
Поэтому неудивительно, что юридическое мастерство и благие намерения не создают достаточного уровня компетенции для эффективной оценки, использования или измерения эффективности алгоритмических инструментов.
Несмотря на то, что TAR становится все более распространенным явлением, юристы по-прежнему делают непреднамеренные искажения информации о том, что достигнуто с помощью ИИ, потому что они вряд ли имеют адекватное понимание того, как он работает, и потому что они часто не имеют адекватного понимания того, какие компетенции необходимы для того, чтобы их эффективно и оценить их эффективность.
Понимание методов обучения ИИ, факторов, которые привносят предвзятость и статистическую вероятность неприменимости, было бы полезно, но это не входит в компетенцию среднего юриста или судьи.
Наука, лежащая в основе эффективных и измеримых результатов ИИ, не для слабаков. Управляемые информатикой и статистикой, это сложные академические дисциплины, которым юристы, как правило, не обучены и не могут стать экспертами на лету. Однако без них юристы не смогут узнать, помогает или мешает то, что они раскрывают правовой системе. Растущая сложность ИИ, научный характер области и ее растущая распространенность в правовой системе только усложняют задачу.
Вот почему, как показывает принцип компетенции, создатели этих инструментов обязаны обеспечить прозрачность и определять навыки и знания, необходимые для их эффективной работы. В тех случаях, когда это невозможно, адвокаты должны попросить об этом. Открытие этой двери может привести к улучшению междисциплинарной коммуникации между юридической и технической областями, в то же время улучшая науку, стоящую за ИИ, и ее применение в правовых системах.
Это не означает, что адвокаты должны отказаться от ответственности или полномочий. Но это требует от них, как предлагают принципы IEEE, признать, что быть компетентным означает, прежде всего, знание пределов своих собственных знаний и навыков и, следовательно, когда обращаться за помощью к специалистам в соответствующей области.
Юристы должны осознать концептуальные риски и преимущества ИИ, в том числе проблемы, начиная от конфиденциальности данных и заканчивая эффективностью. Юристы должны знать, как они могут приобрести нужные знания или нанять нужного ​​эксперта. Они должны призывать и полагаться на стандарты и аккредитации для приобретения необходимых им услуг, чтобы гарантировать, что использование ими ИИ соответствует не только принципу компетенции, но и всем четырем принципам IEEE и правовой этике в целом.
Используя этот подход к компетенции в области ИИ, юристы могут лучше представлять интересы своих клиентов и повысить эффективность своей практики с этической точки зрения.

Один комментарий к “Прежде чем внедрять ИИ на практике, нужно быть в нем компетентным.

  1. Полностью поддерживаю автора статьи! Ребенок прежде учит буквы, а затем – читать!Чтобы грамотно использовать искусственный интеллект, нужно сперва толково в этом вопросе разобраться!

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *