23.10.2020

Штучний інтелект в суді. Проблеми легітимності використання ШІ в судовій системі.

Оригінал тут.
Технологія штучного інтелекту (ШІ) стала досить актуальною темою в сучасному світі. Те, що ШІ привертає багато уваги, не повинно вас дивувати. Цілі галузі, такі як транспорт, охорона здоров’я, освіта і розваги, схильні до революційних змін в зв’язку з появою ШІ. Правова сфера також є в цьому списку.
Велика частина юридичної роботи складається з одноманітних дій, таких як перегляд документації, пошук порушень у великих обсягах даних і аналіз численних випадків. Юридичні фірми застосовують системи електронного виявлення справ, що пов’язані з безліччю документів, які підлягають скринінгу. Більш того, CaseCruncher Alpha компанії Casecrunch вже з високою точністю прогнозує судові рішення.

Використання технологій ШІ в правовій експертизі також отримує схвалення суду. Під час візиту до Політехнічного інституту Ренсселаера в квітні 2017 року Джона Робертса, голови Верховного суду США, запитали, чи може він передбачити день, коли ШІ в залі суду буде допомагати з встановленням фактів або навіть приймати рішення. «Це день вже настав – сказав він, – і цей факт значно впливає на дії судових органів». Дослідження під назвою «Сторонні фактори в судових рішеннях», проведене в Ізраїлі в 2010 році, показало наступне:

Судді набагато частіше приймають запити укладених про умовно-дострокове звільнення на початку дня, ніж в кінці. Крім того, шанси на умовно-дострокове звільнення збільшуються більш ніж в два рази, якщо справа була розглянута на початку однієї з трьох сесій, а не пізніше. (…) Як приклад, один із суддів зранку надав умовно-дострокове звільнення приблизно 65 відсоткам в’язнів; цей відсоток впав майже до нуля до кінця першої сесії, а потім відновився до 65 відсотків після перерви на перекус. Той же шаблон повторюється в другому і третьому сеансах.

Використання ШІ в судовій системі допоможе мінімізувати вплив сторонніх чинників, таких як втома і емоційна нестабільність. Проте, прийняття рішень ШІ може виявити різні антропогенні структурні відхилення, які випливають з правової системи, на систему адаптації ШІ або самого програмування ШІ.

Технологія ще не готова створити ШІ з досить широким набором навичок для повноцінної роботи суддею. Не тому, що необхідні інтелектуальні завдання дуже складні, щоб їх міг виконувати ШІ, а скоріше тому, що робота хорошого судді складається з поєднання навичок, включаючи дослідження, логіку, творче вирішення проблем і соціальні навички. ШІ найближчого майбутнього процвітає в деяких з цих завдань окремо, але поки що не в комплексі. Джек М. Балкін описує ШІ на цьому етапі як “людей особливого призначення”:

Ключовою особливістю роботизованою заміни є те, що вона часткова. Роботи та об’єкти ШІ приймають на себе певні аспекти і здатності людей (…). Ось що я маю на увазі, коли кажу, що роботи і агенти ШІ діють як «люди особливого призначення»; вони є агентами з певної причини або функції, долаючи межу між собою і інструментами або людьми і інструментами. 

Прихована передача повноважень на прийняття рішень особливо проблематична в судовій системі: коли обраний представник призначає суддю, він наділяє його необхідною демократичною легітимністю для прийняття рішень у справах. Суддя не може передавати рішення іншій особі. Якщо він вирішує делегувати конкретну адміністративне або юридичне завдання помічникові, то повинен залишатися в курсі, забезпечуючи належний контроль і зв’язку між ним і його помічником (ами), незалежно від того, чи допомагає людина або ШІ.

Під час обговорення проблем майбутнього, таких як участь ШІ в судовій системі, варто проілюструвати основні думки Нілу М. Річардса і Вільяма Д. Смарта. Вони підкреслюють важливість метафор в взаємозв’язку між законом і технологією: досвід кібер-права та інших областей юриспруденції, на які впливають технології, виявив один особливо важливий урок для технічно складних застосувань права. Те, як ми регулюємо роботів, буде залежати від метафор, які ми використовуємо. У світлі важливості метафор в цьому контексті, я уявляю вибір з трьох різних допоміжних ролей, які ШІ може виконувати в судовій системі. В цьому розділі обговорюється ШІ як бібліотекар, як генеральний адвокат і як чиновник з обмеженими судовими повноваженнями. Три ролі поступово збільшуються як в необхідній технологічній складності ШІ, так і в ступені інституційного поділу.

Робота бібліотекаря полягає в пошуку запитуваної літератури. Судді будуть регулярно запитувати літературу, що стосується конкретної справи. Характер цього завдання може відрізнятися в залежності від рівня абстракції введення. Він може варіюватися між відносно простих  команд, таких як «знайти документ x по автору» і складних запитів, таких як «знайти всю відповідну літературу для випадку z і перерахувати їх за релевантністю».

Як і у випадку з бібліотекарем ШІ, сценарій генерального адвоката ШІ вирішує проблему спільної робототехніки, оскільки ШІ і суддя працюють над одним і тим же ділом. На відміну від метафори ШІ – бібліотекаря, це забезпечує прозорість для широкого загалу щодо ступеня використання ШІ. Суддя може або включити аргументоване подання ШІ (або його частина), пославшись на це, або прийняти власне рішення (ігнорувати або не погоджуватися з думкою ШІ).

Сценарій посадової особи ШІ з обмеженими судовими повноваженнями відокремлює роботу судді-людини і роботу ШІ один від одного. Кандидати повинні будуть подати позов перед посадовою особою ШІ, перш ніж звертатися до судді. ШІ матиме судову владу і самостійно вирішувати справи. Однак подача апеляції на його рішення автоматично зробить його недійсним. Суддя- людина може прийняти рішення заново.

Ключове питання цієї дискусії – дозволити ШІ і судді-людині працювати разом або розділити їх інституційно. У зв’язку з цим, одним з основних завдань є сприяння функціонуванню комунікації між людиною та ШІ.

Метафора бібліотекаря ШІ показує, що робота судді складається з переплетених завдань, які не можна повністю відокремити один від одного. Тому, неможливо просто розділити професію судді на частини. Дотримуючись такої точки зору, включення ШІ в процес винесення судового рішення завжди в якійсь мірі пов’язано з відмовою від повноважень на прийняття рішень.

 Взагалі, введення ШІ в судову систему – справа дуже делікатна. Воно вимагає обережності і терпіння, а не поспішних рішень оптимізації ефективності за будь-яку ціну. Що найбільш важливо, воно вимагає прозорості: адже розбіжність між зовнішністю і реальністю щодо ступеня повноважень ШІ в області судової влади унеможливлює публічний діалог.

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *