28.10.2020

У всьому винні машини: соціально-правовий аналіз відповідальності в світі ШІ

Оригінал тут.
Автори: Michael Callier, Harly Callier

У цій статті використовується соціально-правовий, міждисциплінарний підхід для вивчення соціально-етичних проблем і теорій відповідальності, пов’язаних з ШІ, і застосовується соціологічний підхід для оцінки існуючих правових норм, які в даний час регулюють відносини людини з ШІ.

Також висуваються рамкові пропозиції з регулювання розвитку ШІ в США.

Визначення ШІ перебуває в стадії розробки, тому що не існує загальноприйнятого визначення. Наприклад, професор Массачусетського технологічного інституту Патрік Уїнстон визначив ШІ як «дослідження обчислень, що дозволяють сприймати, міркувати і діяти». В одній з наступних лекцій Уїнстон далі описав ШІ як «алгоритми або процедури, що допускаються обмеженнями, представленими уявленнями, змодельованими і націленими на мислення, сприйняття і дію». Технологічні аналітики Deloitte Consulting визначають ШІ як «теорію і розробку комп’ютерних систем, здатних виконувати завдання, для яких зазвичай потрібний людський інтелект». У всіх трьох визначеннях робиться акцент на те, що машини повинні мислити і вести себе як люди.

«Машинне навчання», пов’язане з ШІ, було придумано Артуром Самуелем в 1959 році і позначено як «область навчання, яка дає комп’ютерам можливість вчитися без явного програмування».

Машини залежать від аналізу даних, за допомогою яких вони визначають, як «думати» і які відповідні дії зробити. Завдяки соціальним мережам, інтернету і смартфонам обсяг даних, доступних для аналізу, продовжує зростати в геометричній прогресії. Наприклад, дев’яносто відсотків даних в сучасному світі було створено за останні два роки, і поточне глобальне виробництво даних становить приблизно 2,5 квінтильйони байтів в день. Оскільки світ неухильно стає все більш пов’язаним з постійно зростаючим числом електронних пристроїв, обсяг даних буде продовжувати рости. На додаток до даним, станом на 2013 р рівень людських знань подвоювався кожні 13 місяців і буде подвоюватися кожні 12 годин.

Сучасні технології дозволяють людям співпрацювати і розвивати ШІ способами, раніше недоступними. Приклад це проект OpenAI Hindsight Experience Replay, який дозволив машинам імітувати спосіб, яким люди вчаться, коли намагаються освоїти новий навик.

Як показав Farhad Manjoo, “велика п’ятірка” технологічних гігантів (Амазон, Епл, Фейсбук, Гугл і Майкрософт) є найбільш впливовими лідерами в розвитку ШІ. Через свою величезну капіталізацію їх вплив настільки великий, що загрожує демократії. І ці компанії об’єднують зусилля для прискорення розвитку ШІ.

Уряд Китаю заявили про намір стати лідером ШІ інновацій до 2030 року, але у них є конкуренти. Незважаючи на те, що в США ШІ розвивають в основному приватні компанії, Міністерство Оборони США запустило програму Досліджень Штучного Інтелекту з метою утримання лідерства в розвитку ШІ. Уряд Японії випустили Стратегію Технологій Штучного Інтелекту в 2017 році, фокусуючись на прикладних додатках ШІ. У розвиток ШІ інвестують Південна Корея, Сполучене Королівство, Франція, Німеччина, Росія, Данія, Швеція, Естонія, Фінляндія, Польща, Сінгапур, Малайзія, Австралія, Індія, Італія, Канада, Тайвань, Об’єднані Арабські Емірати.

З розвитком технологій машини зможуть вести себе як люди і краще підтримувати взаємодію з людьми. Поліпшення взаємодії ШІ з людьми призведе до позитивних соціальних наслідків і до виникнення ряду потенційних загроз. Наприклад, ми зможемо оцінити переваги і загрози Роботів – Соціальних Помічників (Socially Assistive Robots, SAR).

Такі роботи забезпечують технічну, емоційну і громадську підтримку людям через соціальну взаємодію. Їх мета – забезпечити підтримку в будинках, школах, лікарнях. SAR-роботи зможуть вчити, розпізнавати і реагувати на соціальні підказки людей. Вони зможуть прискорити соціальний, емоційний і когнітивний розвиток людей, особливо дітей з соціальними і когнітивними проблемами. Застосування SAR-роботів можна зрозуміти за допомогою двох соціологічних підходів: функціоналізму і теорії конфліктів. Теорія функціоналізму визначає суспільство як систему з взаємозалежних і незалежних частин, які працюють для підтримки порядку і стабільності. Теорія конфліктів виходить з того, що в суспільстві панує нерівність, яка породжує конфлікти і соціальні зміни.

З точки зору функціоналізму, SAR-роботи мають як мінімум три корисні функції. По-перше, SAR встановлює ефективну взаємодію з людиною, щоб допомогти йому в терапії, реабілітації та освіті. По-друге, робот допомагає тим, хто піклується про інвалідів, видужуючих і літніх людей, уникнути перевтоми. По-третє, військові роботи застосовуються в бою для зменшення людських втрат і людських помилок.

Теорія конфліктів передбачає новий цифровий розрив людини з машиною, що відокремлює бідних від багатих. Виросте прірва між тими, хто може собі дозволити SAR і тими, хто не може. Також теорія конфліктів вказує на те, що за альтруїстичними мотивами розвитку роботів може ховатися прагнення до прибутку. У гонитві за прибутком компанії стануть замінювати людей роботами і це призведе до безробіття.

У взаємодії людей і роботів з’явилася вже й інтимна сторона, яка може привести до соціальної ізоляції. Такі компанії як Realbotix вже виробляють роботів-партнерів по смакам клієнтів. Прихильники цього тренда кажуть, що такі роботи знизять злочинність і грубість між людьми, але критики вказують на те, що це може призвести до справжньої одержимості і надмірної залежності.

Ще одним ризиком розвитку ШІ дослідники називають поширення гендерних стереотипів. Є приклади того, як машини вважала що слово “програміст” більш “чоловіче”, а слово “домогосподарка” – “жіноче”. Є й інші побічні ефекти.

Теорії відповідальності за шкоду, завдану за участю ШІ.

Оскільки теорії юридичної відповідальності відображають соціальні цілі цивілізації, в цій статті далі розглядаються теорії відповідальності, доступні для усунення ризику і шкоди, що виникають в результаті взаємодії людини і ШІ. Далі розглядаються законодавчі та загально – теоретичні відповідальності за шкоду, заподіяну в результаті взаємодії людини з машиною.

На момент написання цієї статті в США не існувало всеосяжної законодавчої схеми, яка регулює ризик і відповідальність людини і машини. Проте, Конгрес представив кілька пов’язаних законопроектів, які, здається, рухаються в цьому напрямку.

Розглядаються такі проблеми, як: 1) відповідальність і правові питання, пов’язані з іноземними інвестиціями; 2) вплив ШІ на ринок праці; 3) впровадження етичних стандартів в розробку ШІ; 4) упередженість ШІ, внесена через культурні та соціальні норми; 5) конкурентоспроможність США на глобальних ринках.

Деякі штати США роблять кроки в бік самостійної легалізації автономних транспортних засобів, незважаючи на застереження, що штатам слід уникати різнобою в правилах.

В цілому, регулювання автономних транспортних засобів видається найрозвиненішою галуззю регулювання ШІ в США.

Фізичний шкода, завдана машинами, не є новою проблемою для судів. Випадок Therac-25 включав як мінімум шість нещасних випадків в період з 1985 по 1987 рік, коли пацієнти піддалися передозуванні радіації, що призвело до двох смертельних випадків і чотирьом серйозним травм. Проблеми виникли через масштабування контролю, відсутність належного виправлення помилок і заміни людей машинами для забезпечення безпеки критично важливих систем.

Однак суди також звільнили компанію від відповідальності за шкоду, заподіяну їх технологією. Наприклад, в 1986 році федеральний суд постановив, що Apple не може бути притягнута до відповідальності за помилки в її програмному забезпеченні, коли компанія попередила про відмову від відповідальності і не стала стверджувати, що в її коді немає помилок. З тих пір багато судів розглядали подібні справи аналогічним чином.

Відповідно, в теперішньому правовому середовищі США, вимагають відшкодування шкоди, заподіяної машинами, але стикаються з рядом обмежень в теоріях контракту і деліктної відповідальності.

Єдиний комерційний кодекс («UCC») забезпечує прекрасний захист особам, які зазнали збитків від придбаного продукту. Продавці дають явні гарантії або обіцянки, коли вони повідомляють факти або дають обіцянки про продукт, надають опис того, що продукт може або не може зробити, або надають зразок або модель, яка відноситься до продукту, який стає частиною основи для угоди. На додаток до виражених гарантій продавці можуть давати і бути пов’язаними гарантіями, такими як гарантія того, що продукти відповідають очікуванням звичайного покупця на продукти спеціального роду (гарантія товарної придатності), і гарантія того, що продукти відповідають конкретній меті, для якої вони були продані (гарантія придатності для певної мети)».

На жаль, ймовірність того, що потерпіла сторона відшкодує значні збитки за порушення гарантії, досить низька, оскільки високотехнологічні компанії зазвичай обмежують ризик, використовуючи відмову від гарантійних зобов’язань і обмеження відповідальності. Відмова від гарантійних зобов’язань і положення про обмежену відповідальність дійсні при дотриманні певних умов. Таким чином, незважаючи на захисний потенціал UCC, розробники ШІ зроблять його практично безглуздим через відмову від відповідальності та обмежень відповідальності.

У тій мірі, в якій це не заборонено правилом про економічні втрати, потерпіла сторона може подати позов за ​​цивільним правопорушенням, а не за договором. Державна політика, що лежить в основі деліктного права, покладає відповідальність на особу, «яка завдала шкоди, адже це раціонально мотивується скороченням потенційно шкідливої діяльності до такої міри, щоб втрати від нещасних випадків не перевищували вигоди від цієї діяльності». Два деліктних позови, що мають відношення до світу ШІ, – недбалий дизайн (недбалість при проектуванні) і сувора відповідальність. Недбалий дизайн фокусується на тому, чи був проектувальник досить передбачливий. Застосовується розумний аналіз, щоб визначити, чи діяв дизайнер обгрунтовано при розробці продукту. Якщо дизайнер чинить нерозумно, суд визнає його недбалим. І навпаки, сувора відповідальність за продукцію не бере до уваги, чи діяв дизайнер розумно, і замість цього зосереджується на тому, чи був продукт, коли він досяг споживачів, невиправдано небезпечним. Щоб пред’являти претензію відповідно до цієї теорії, споживачі несуть тягар доведення, що: 1) продукт не зазнав істотних змін від його виробництва до моменту отримання травми; 2) споживач використовував продукт розумним чином; 3) продукт викликав травму споживача; і 4) продукт був проданий в несправному або необґрунтовано небезпечному стані. Сувора відповідальність змушує виробників забезпечувати безпеку продуктів перед тим, як зробити їх доступними для широкого загалу.

Дотримання звичаїв галузі при проектуванні і випуску продукції дає сильний захист від звинувачень в недбалому дизайні і суворої відповідальності. Таким чином, звичай в технологічна галузь, швидше за все, захистить розробників і дизайнерів ШІ від ризиків, пов’язаних з недбалим дизайном, оскільки в даний час в галузі прийнято «відправляти зараз і виправляти (або ремонтувати) пізніше», щоб отримати зворотній зв’язок з користувачем і прискорити вихід на ринок. Така практика збільшить ризик взаємодії людини і ШІ.

Всебічне регулювання ШІ потребує балансу між комерційними, юридичними та громадськими проблемами. Як показано вище, загальне право США може неадекватно пом’якшувати ризики, пов’язані з розвитком ШІ. З іншого боку, надмірне регулювання буде перешкоджати інноваціям ШІ. Наприклад, У. Кіп Віскузі виявив, що, коли очікувані виплати по відповідальності за якість продукції високі, фірми відступають від комерціалізації інновацій, але не знайшов негативної кореляції між виплатами з низькою і середнім ступенем відповідальності і інноваціями. Тем не менше, деякі компанії взагалі відмовляються від інновацій щоб уникнути надмірної відповідальності.

Прихильники більш суворої відповідальності стверджують, що технологічні компанії повинні дотримуватися більш високих стандартів відповідальності, тому що вони в кращому становищі для запобігання дефектам за допомогою протоколів забезпечення якості та безпеки. Холдингові компанії також несуть відповідальність за поширення ризику за допомогою страхування або збільшення витрат на споживача. Вони також стверджують, що сувора відповідальність не дозволяє компаніям виробляти браковану продукцію і гарантує компенсацію постраждалим сторонам, оскільки недбалість занадто важко довести. Беручи до уваги рівень економічної могутності і комерційної складності самих передових технологічних компаній, ці аргументи мають свої переваги.

З юридичної точки зору централізоване управління має бути ефективним підходом. Спроба державного регулювання процесу розробки машин, швидше за все, призведе до того ж рівня адміністративного тягаря і невідповідності, що і нормативи кібербезпеки, розроблені в США.

Крім того, такі ризики, як цифровий розрив, соціальна ізоляція і соціальна упередженість, згадані вище, становлять реальну небезпеку соціальної нерівності і шкоди, що виникає в результаті взаємодії людини з машиною.

Подальший розвиток законодавства США залишається неясним, але підхід Німеччини до регулювання розвитку машин є цікавим прикладом. Коли в 2017 році Німеччина стала першою країною, яка прийняла всеосяжне законодавство в області автономних транспортних засобів, вона також кодифиціювала етичні імперативи, які повинні бути включені в їх дизайн. Ці імперативи включали вимоги, щоб такі машини викликали менше нещасних випадків, ніж люди-водії, вони повинні бути спроектовані таким чином, щоб робити вибір, що наносить найменшої шкоди людині, і забороняти рішення, які змушують машини враховувати вік, стать і фізичну конституцію людей.

Підхід Європейського парламенту також гарний приклад. Європарламент оприлюднив рекомендації з регулювання ШІ, що вимагають, щоб машини не завдавали шкоди людям, і підкорялись наказам, даними людьми, і запропонував «чотири етичних принципи в робототехніці: 1) благо (ШІ повинен діяти в інтересах людей); 2) запобігання шкоди (ШІ не повинен шкодити людям); 3) автономія (взаємодія людини з ШІ має бути добровільним); і 4) справедливість (користь від ШІ повинна розподілятися справедливо) ».

З огляду на все вищевикладене, законодавці США повинні розглянути всеосяжну централізовану структуру, що сприяє ефективній і безпечній взаємодії передових ШІ і людей. Щоб збалансувати потребу в адекватному регулюванні без удушення інновацій, законодавці повинні систематизувати всеосяжні принципи, якими розробники будуть керуватися при проектуванні машин і в виробничих процесах. Оскільки ці дії призводять до нових розробок, законодавці можуть прийняти галузеве законодавство, коли певні машини на конкретних ринках досягають граничних рівнів зрілості ринку, подібно до введення законів про автономні транспортні засоби. Ми також пропонуємо використовувати централізований підхід, щоб уникнути адміністративного тягаря і складності дотримання численних і різних законів.

Для збереження гуманності і рівності, повинні бути кодифіковані як всеосяжне керівництво для проектування ШІ принципи Asilomar («Принципи»)

У 2017 році Інститут Майбутнього Життя розробив Принципи в рамках конференції по ШІ. Інститут запропонував Керівні принципи для розробки машин таким чином, щоб гарантувати широкі соціальні переваги, безпеку і вирішення етичних проблем. Принципи є найбільш повним набором стандартів ШІ, що встановлені на сьогоднішній день, і кожен з них представляє собою стандарт, прийнятий дев’яносто або більше учасниками бенефіціарної конференції ШІ, включаючи високопоставлених і провідних мислителів ШІ, дослідників, науковців, підприємців, економістів. і представників уряду. Принципи діляться на три частини: 1) питання досліджень; 2) етика і цінності; і 3) довгострокові проблеми.

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *