28.10.2020

ШІ в суді: на черзі роботи-судді?

Оригінал тут.
Автор:  Stephanie Condon

Як і в інших галузях, в правовій сфері застосування штучного інтелекту породжує не тільки великі надії – а й серйозні побоювання. І коли справа стосується судових справ, ставки стають особливо високими. Одна справа, якщо Netflix вирішує, який фільм вам варто подивитися, і зовсім інша – якщо комп’ютерний алгоритм визначає терміни опіки над вашою дитиною.

Проте, ШІ та автоматизація вже зараз грають важливу роль в правовій системі США. На конференції в Портленді, штат Орегон, організованої Корпорацією юридичних послуг, юристи з усієї країни зібралися, щоб спільно обміркувати, як потрібно модернізувати судову систему – і в якій мірі в ній слід використовувати ШІ.

«Ми повинні перестати робити що-небудь тільки тому, що нам це під силу», – заявив Алан Карлсон, консультант і колишній виконавчий директор Верховного суду округу Оріндж в Каліфорнії. Перед використанням нових технологічних рішень, за його словами, слід запитати: «Вам дійсно необхідно використовувати ШІ? Чи не могли б ви самі прийняти рішення? Чи достатньо для нього даних? »

Звичайно, вже є приклади простих і ефективних способів впровадження автоматизації в судах, в тому числі принципово нові випадки використання ШІ. Розгортання автоматизації може зробити систему правосуддя доступнішою для тих людей, у яких немає або грошей на адвоката, або часу для відвідування суду.

Наприклад, у Верховному суді округу Лос-Анджелес в Каліфорнії – найбільшому в світі суді – аватар на ім’я Джина допомагає громадянам вирішити питання зі штрафами за порушення правил дорожнього руху. Джина знає п’ять мов і здатна обслуговувати понад п’ять тисяч клієнтів на місяць. При цьому вона навіть не справжній штучний інтелект – Джина лише запрограмована працювати за заданими схемами. Однак вона послужила основою для більш складних систем автоматизації.

Зараз в Лос-Анджелесі працюють над проектом Jury Chat Bot, в якому буде працювати справжній штучний інтелект. Про це, за даними електронного видання ZDNet, повідомив Снорри Огата, IT-директор Верховного суду Лос-Анджелеса. Цей проект заснований на платформі Microsoft Cognitive Services, і використовує функції розуміння природної мови, QnA maker (для створення «FAQ по стероїдів», за висловом Огати) і перекладу. Поки що планується зосередити зусилля на процесі виклику присяжних і зведенні чату до максимально конкретних питань (таким, як «отримати мій ID присяжного» або «запросити відстрочку»).

«Це має ключове значення з двох причин», – вважає Огата. «По-перше, так ми можемо чітко визначити окупність інвестицій. По-друге, звужується простір того, чому потрібно навчити бота. Надалі, ймовірно, ми будемо розширювати його функції, але вже зараз раді тому, над чим працюємо ».

Інші американські суди використовують систему вирішення спорів в режимі онлайн (ODR) в деяких конфліктних випадках. Система ODR може сказати останнє слово, якщо сторони конфлікту зайшли в глухий кут. Про це розповів Колін Рул, віце-президент по ODR в Tyler Technologies і співзасновник постачальника послуг ODR Modria. Така система може допомогти, наприклад, для так званого «нічного бейсбольного арбітражу», коли арбітр пропонує рішення, яке потім коригується відповідно до найбільш близьких, з пропозицій обох сторін конфлікту.

За висловом Рула, подібні послуги можна назвати і «цифровим суддею». Однак при цьому він уточнив: «Мова не йде про створення цифрового мозку».

Щоб пояснити різницю, Рул порівняв систему правосуддя на основі алгоритмів з суперкомп’ютером IBM Watson. Він привів у приклад випадок, коли Кен Дженнінгс, чемпіон ігрового шоу «Jeopardy!», Виступив на цьому шоу проти Watson (що сталося в лютому 2011 року). «Watson не даватиме 10 тисяч відповідей, а вибере той, у якого найвищий бал», – сказав Рул. «Ось що Watson робить в реальному часі», – додав він.

Крім того, ODR у змагальному процесі враховує всю інформацію і позиції обох сторін. Алгоритм, за словами Рула, «може вивчити 10 мільйонів подібних випадків, сформулювати своє уявлення про те, що справедливо, поглянути на обидві пропозиції і сказати:« Я вибираю пропозицію сторони А ».

«Судді-люди діють не так, але комп’ютери добре себе проявляють», – продовжив Рул. «Слово« суддя »означає людину зі специфічними функціями, але все-таки людину. Ми не збираємося механічно копіювати його в електронному вигляді, але потреба в судді може бути задоволена за допомогою цифрових технологій, причому різними способами».

Однак для задоволення такої потреби люди повинні навчитися довіряти застосовуваній технології. У деяких випадках над використанням ШІ в правовій системі вже встановлено суворий контроль, наприклад, в основних принципах винесення вироків. У 2016 році Верховний суд штату Вісконсін ухвалив, що Департамент виправних установ цього штату може використовувати власний комп’ютерний алгоритм від приватного виробника, щоб визначити, наскільки довго будь-хто повинен перебувати у в’язниці, навіть якщо постачальник програми не пояснює, як вона працює. Але коли людина на ім’я Ерік Луміс був визнаний винним у стрільбі з машини, його вироком за шкалою ризику був привласнений «високий статус». Лумис звернувся до Верховного суду США, але там відмовилися розглядати його справу.

Офіційні особи на конференції відзначали, що це питання вже зараз вкрай турбує фахівців зі штучного інтелекту – дуже важлива позиція встановлення довіри. Людина не зможе довіряти рішенням ШІ, якщо не зрозуміє, як і чому воно було прийнято. При цьому результати дій ШІ доступні для перевірки.

Протягом восьми років Рул працював директором ODR в eBay і PayPal, де допомагав створювати систему, що дозволяє супроводжувати 60 мільйонів конфліктів в рік. Але система ODR запускалася поступово, спочатку вона була лише мовчазним спостерігачем, який навчався найкращим чином владнати розбіжності. За словами Рула, поступовий запуск допоміг створити систему такої якості, щоб їй могли довіряти і компанія, і клієнти.

На думку Алана Карлсона, для судів, які впроваджують в свою роботу ШІ, існує можливість передати свої системи експертизі на зразок звіту про вплив на навколишнє середовище. Точно так, як будівельні проекти ретельно вивчають на предмет того, як вони позначаються на населенні, транспорті, школах і так далі, системи штучного інтелекту можуть оцінюватися третіми сторонами з точки зору того, на кого вони впливають і як.

З такою об’єктивною оцінкою, що буде задіяна в процес впровадження ШІ, «навіть якщо ви не можете пояснити, як працюють алгоритми, то зможете довіряти результатам», – вважає Карлсон.

Учасники конференції відзначили, що не так вже й складно створити систему на основі ШІ, яка буде давати кращі результати, ніж люди. Існує безліч доказів різних забобонів і слабкостей людини, що діють в тому числі і в сфері правосуддя. Наприклад, в 2011 році дослідження ізраїльської комісії з умовно-дострокового звільнення показало, що вона винесла більш жорсткі рішення за годину до обіду і за годину до кінця дня.

Можливо, вважає Рул, громадяни в найближчі десятиліття зможуть «озирнутися назад, на епоху людських судів, і сказати, що це було не набагато краще, ніж підкидати монетку».

Проте, Рул підкреслив: важливо створювати такі системи ШІ, які доповнюють людей, а не замінять їх. Це потрібно частково для того, щоб люди, які вдаються до їх послуги, відчували, що можуть бути почутими.

Суддя Венді Чанг з Верховного суду Лос-Анджелеса також назвала необхідні застереження в частині спроб створити повністю автоматизовані судові системи.

«З мого досвіду суддівської діяльності, особливо в тих випадках, коли людина сама представляє себе, більшу частину часу люди від хвилювання навіть не знають, що сказати», – зауважила вона. Але суддя-робот приходить до вирішення на основі одержуваної інформації, і в зв’язку з цим Чанг запитала: «Як ви збираєтеся навчити його шукати відсутні деталі? Для мене зараз це питання дуже актуальне».

«Якщо люди хвилюються, я почну задавати їм питання, і тоді результат буде зовсім іншим», – пояснила вона свою думку.

У деяких випадках, вважає Чанг, ставки дуже високі, щоб виключати участь людей з процесу. «Правові рішення часом ведуть до незворотних наслідків, особливо в таких сферах, як імміграція», – сказала вона. «Іноді людини повертаються на батьківщину, і там відразу ж гинуть».

За словами Карлсона, якщо суд вирішить продовжувати впровадження ШІ, йому необхідно ретельно зважити всі можливі ризики. З одного боку, проект переслідує певну мету. Адміністратори зобов’язані впровадити правила, які завадять використовувати ШІ для інших цілей, крім призначених. Наприклад, якщо механізм призначений визначати ймовірність чиєїсь явки в суд, то його не можна використовувати для розрахунку ймовірності того, що хтось вчинить злочин.

Крім того, суди повинні забезпечити використання тільки надійних даних. «Сумніваюся, що до сих пір змогли встановити, скільки у нас даних в судах», – сказав Карлсон. «Система їх організації далека від ідеалу».

Як і Рул, і Чанг, Карлсон також нагадав, що ШІ має свої межі можливостей.

«Потрібно чітко прокласти межу між цифровою технологією і людиною», – вважає він.

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *