28.10.2020

Проектування ШІ для правосуддя.

Оригінал тут.

В еру нових технологій ми розповімо про три концепції: по-перше, ідея проектованого правосуддя; по-друге, як люди вже пручаються репресивному ШІ; і по-третє, десять принципів дизайну законності.
Наприклад в аеропорту всім потрібно пройти через сканер міліметрових хвиль, який обертається навколо, поки ви піднімаєте руки. Багато людей навіть не знає, що відбувається потім, але добре знають більшість трансгендерів і людей, у яких є складнощі з гендерною ідентифікацією.
Коли ви підходите до сканера міліметрових хвиль, агент TSA дивиться на вас і вирішує, чи правильно зчитує вас машина. Якщо вона сприймає, що ви чоловічої статі, агент натискає синю кнопку «чоловік»; якщо вона сприймає вас жіночої статі, агент натискає рожеву кнопку «жінка». Потім сканування вашого тіла з міліметровим дозволом порівнюється зі статистичною моделлю середнього чоловічого або жіночого тіла. Все, що на вашому сканері відхиляється від цієї моделі відзначається яскраво-жовтим кольором з невеликим червоним контуром.
Таким чином, для людей не згодних з статевою приналежністю, і для багатьох транс-людей виникає ряд проблем, адже їх проекції відрізняються від бінарної моделі того, як повинні виглядати людські тіла.
Синдром порушення цілісності сприйняття – це ідея про те, що все народжуються з гендерною ідентичністю, відповідають статі при народженні. Саме ця ідея відтворюється в социотехнической системі, яку ми називаємо безпекою аеропорту. Така система включає в себе всі дії, докладно описані в протоколі безпеки, модель по якій слідує офіцер TSA і сам комп’ютер. Така статистична модель є двійковою, заснованою на середніх розмірах будь-якої групи чоловічих, або жіночих тіл.
Sasha Costanza – Chock, автор цієї статті, вважає що можливо її біла шкіра, привілеї, які дає освіту або положення у впливовому навчальному закладі, ймовірно, захистять її від найгіршого, що могло б статися, наприклад ув’язнення в якусь секретну в’язницю, або запис в список спостереження за терористами, на відміну від тих, хто має мусульманське прізвище або коричневу шкіру, оскільки, як вона вважає у “білих” є певні привілеї, навіть в аеропорту.

Проте, такий приклад був використаний, щоб говорити про проектування правосуддя, тому що це відмінний спосіб думати про ШІ. Адже коли ми говоримо про штучний інтелект, ми зазвичай маємо на увазі тільки машинне навчання, яке представляє собою аналіз нашого світу і аналітику даних для передбачення майбутнього. Безпека аеропорту – це відмінний спосіб подумати про те, що ці системи не можна просто виправити, маючи більш ексклюзивні набори даних. Стає ясно, що таке рішення фактично обмежує область нашого бачення можливих світів, які ми могли б побудувати. Цей підхід є невірним бо це швидкий спосіб осмислити шкоду від систем, які змушують нас ігнорувати історію і глибокі структури.
Насправді, з появою систем штучного інтелекту починається не неправильне використання інформації. Протягом сотень років насильницького поселенського колоніалізму в Північній і Південній Америці і більшої частини решти світу нав’язувалися махінації і порочність. На зображенні іспанського конкістадора Васко Нуньєса де Бальбоа зображено, як його собаки пожирають тіла корінних людей Quarequa, яких він розглядає як людей, які не відповідають статі (чоловіки в жіночому одязі). Ось ця думка яке жорстоко вкоренилося протягом століть і не виправлено більше ексклюзивним набором даних.

Так що ми можемо зробити? Ми є частиною спільноти людей, що працюють над тим, що проектування соціотехнічних систем може бути одним із засобів руйнування або трансформації систем гноблення. Ми дизайнери і розробники, які вважають себе частиною Мережі Проектування Правосуддя.
Проектування Правосуддя – це зростаюче співтовариство практиків, зосереджених на справедливий розподіл переваг і проблем проектування: то, що вони можуть назвати аспектом справедливості рівняння. Але також вони фокусуються на підтримці громадських, місцевих і діаспоріческіх традицій, знань і практики проектування. (Це те, про що Артуро Ескобар розповідає у своїй новій книзі «Проекти для Плюр’ян-світу (“Pluriverse”)»: роздуми про те, як ми могли б проектувати таким чином, щоб поважати безліч різних способів пізнання, розуміння, існування і створення світу.)

Теорія спільноти практиків такого правосуддя також є основою для аналізу. В якості основи, це дозволяє задатися питанням про те, як проектування соціотехнічних систем впливає на розподіл вигод і тягаря між різними групами людей. Зокрема, таке правосуддя говорить про те, як відтворює або оспорює те, що чорний феміністський соціолог Патриція Хілл Коллінз називає «матрицею панування»: перетин переваги білих, гетеропатріархату, капіталізму, здібностей, поселенського колоніалізму та інших форм структурного та історичного нерівності.
Таким чином, цей аспект виходить за рамки справедливості. Це тягне за собою роздуми про матрицю панування – про пересічних системах гноблення, і про те, що значить створювати соціотехнічні системи, які можуть перетворювати їх, замість того, щоб постійно відтворювати їх в технології, в дизайні і в машинному навчанні. Тому що, якщо ми намагаємося уявити світ, який ми хочемо побудувати – той, в який вписується багато світів, той, в який ми включені, і той, який також екологічно стійкий – звичайно, таке правосуддя має стати частиною цього світу.

Переваги проектування зазвичай поширюються на більш впливових людей в матриці панування, в той час як шкода завдається тим, хто менш сильний. Проектна справедливість прагне виявити ці потоки і вирішити їх.
Така справедливість також стосується процесу проектування, фактичного створення речей, тому що люди не готові відмовитися від машинного навчання. Багато разів ми могли просто сказати: «Ні, ми не хочемо створювати такі речі», але ми так ніколи не скажемо, адже потрібно йти вперед в ногу з прогресом.

Мережа Design Justice Network народилася в 2015 році на конференції Allied Media в Детройті. Дизайнери, організатори, технологи та активісти зібралися і вивчили, як домогтися правильного дизайну в правосудді і поділилися знаннями про те, як виглядають їхні методи проектування. Багато з них згодом були схильні до впливу нашої теорії справедливості. Наприклад, подивіться технічний проект Consentful, над яким працюють Уна Лі і дизайнерський магазин And Also Too, щоб подумати про те, як ми можемо застосувати ідеї про сексуальне рівність в процесі розробки технологій. Згода надається вільно і поінформовано.

Проект #MoreThanCode вплинув на ці принципи. В рамках цього проекту ми опитали понад 100 фахівців-технологів, які намагаються займатися технологіями в громадських інтересах. Ми запитали, що працює добре, а що ні. Головним висновком цієї роботи було «Ніщо про нас без нас», що, звичайно ж, є гаслом руху за справедливість стосовно інвалідів. Це означає: що ті, хто найбільше постраждав, повинні бути зосереджені в процесі проектування. І не тільки консультативним шляхом, але і таким чином, який дозволить їм управляти владою або забезпечить відповідальність.
Нам теж потрібно переосмислити дизайн сайтів. Така ідея Disco Techs моделі, розробленої Детройтской Коаліцією Цифрового Правосуддя, яка нагадує хакатон, але набагато більш відкрита і доброзичлива для спільноти – є їжа, є догляд за дітьми. Ідея полягає в тому, щоб створити відкриті простори для роздумів про те, як ми проектуємо майбутнє, яке хочемо мати.

Незважаючи на сотні років гноблення, ми повинні більше віддавати належне нашим громадам, які розуміють негативні наслідки впливу в нашому світі неправильних рішень, і звичайно які придумують стратегії зміни репресивних систем.
На даний момент, більше 180 жителів Atlantic Plaza Towers в Брукліні піднялися, щоб сказати, що власники будівлі не зможуть встановити систему розпізнавання осіб, яка буде аналізувати людей, що входять в будівлю.

Зараз йде гонка, щоб побачити, яке місто буде наступним, у забороні використання технологій розпізнавання осіб правоохоронними органами. Сомервіль, Сан-Франциско і Окленд заборонили правоохоронним органам використовувати ці технології. Ми повинні знайти спосіб заохочувати міста, які приймають правильні рішення для своїх жителів, особливо в епоху Трампа.
Ми переживаємо неймовірний момент в світі технологій прямо зараз, ви можете дізнатися набагато більше в хештегом #techwontbuildit. Сьогодні співробітники Google успішно організовують протести, щоб змусити Google не приймати контракт Project Maven на безпілотний ШІ, який фактично був тестовим прогоном для забезпечення захисту JEDI, великого контракту Міністерства обчислювальної техніки на хмарні обчислення.
Нове дослідження в Великобританії, в якому взяли участь більше 1000 технічних фахівців, показало, що близько 60% тих, хто працює над системами штучного інтелекту, заявили, що вони працювали над продуктами, які, на їхню думку, можуть завдати шкоди суспільству. Це жахлива новина, але 27 відсотків з цих респондентів в результаті звільнилися з роботи.

У Нью-Йорку є Up & Go, що представляє собою платформу для зв’язку роботодавців з працівниками клінінгових компаній. Платформа також приймає рішення про те, яке завдання важлива і яка робота важча ..

На закінчення хочеться розповісти про принципи Мережі правосуддя по проектам, які зараз активно обговорюють в усьому світі:

  • Принцип перший: ми використовуємо задум для підтримки і розширення можливостей наших спільнот, а також для звільнення від експлуататорських і репресивних систем.
  • Принцип другий: ми концентруємо голоси тих, на кого безпосередньо впливає результат процесу проектування.
  • Принцип третій: ми віддаємо пріоритет впливу проектування на співтовариство над намірами проектанта.
  • Принцип четвертий: Ми розглядаємо зміну яка виникає з доступного і спільного процесу, а не як точку в кінці процесу.
  • Принцип п’ятий: ми бачимо роль проектанта як посередника, а не експерта.
  • Принцип шостий: ми вважаємо, що кожен є експертом, заснованим на власному життєвому досвіді, і що у всіх нас є унікальний і важливий внесок в процес проектування.
  • Принцип сьомий: ми ділимося знаннями та інструментами проектування з нашими спільнотами.
  • Принцип восьмий: Ми працюємо для досягнення стійких, керованих спільнотою і контрольованих результатів.
  • Принцип дев’ятий: ми працюємо над не експлуатаційними рішеннями, які возз’єднують нас з один з одним.
  • Принцип десятий: перш ніж шукати нові дизайнерські рішення, ми шукаємо те, що вже працюють на рівні спільноти. Ми шануємо і підтримуємо традиційні знання і культуру.

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *