25.09.2020

Закон про відповідальність за якість продукції як спосіб усунення шкоди від ШІ

Оригінал тут.
Технології Штучного Інтелекту (ШІ) принесуть величезні вигоди. Крім того, системи на основі ШІ можуть приймати більш об’єктивні, послідовні і надійні рішення, ніж люди. Також ШІ має здатність швидко і ефективно аналізувати величезні обсяги даних, виявляючи і ефективно використовуючи кореляції, які вислизнуть навіть від самого досвідченого аналітика-людини.
Але системи з ШІ все ж іноді допускають помилки, і тому несуть в собі ризики. Автомобіль без водія може потрапити в аварію, яку, як показує подальший аналіз, можна було запобігти. Алгоритм на основі ШІ, який використовується для оцінки іпотечних заявок, може приймати не кращі рішення, з огляду на неприпустимі чинники, такі як раса. Інструмент з роботизованою хірургією, який використовує штучний інтелект, може виконати дію під час операції, яка може привести до шкоди для пацієнта, якої можна було уникнути.
Чия це вина, якщо алгоритм ШІ приймає рішення, яке заподіює шкоду? Як слід виявити і розподілити несправність? Який засіб має бути накладено? Які заходи можуть бути прийняті для забезпечення того, щоб ця помилка не повторилася в майбутньому?
Автор вважає, що рамки відповідальності за продукцію добре пристосовані для адаптації до питань ШІ, і важливо забезпечити узгодженість між державами в підходах до відповідальності за продукцію ШІ. Закон про відповідальність за якість продукції, що реалізовується в відповідних рамках, являє собою важливий механізм пом’якшення можливої ​​шкоди від ШІ.
Відповідальність за продукцію належить до складної області на перетині деліктного права і договірного права. Деліктне право розглядає цивільні, а не кримінальні правопорушення, які завдають шкоди, і щодо яких жертва може звернутися за відшкодуванням шкоди, подавши до суду позов про відшкодування збитків. Звичайним правопорушенням, як щодо відповідальності за якість продукції, так і в більш загальному сенсі, є недбалість. Договірне право залежить від комерційного характеру маркетингу і продажів продукту, що може створювати явні і неявні гарантії щодо якості продукту. Якщо товар не має достатньої якості і цей збій є причиною травми для покупця, який розумно використовує продукт, продавець може нести відповідальність за порушення гарантії.
В рамках широких зон деліктного права і договірного права існує кілька конкретних (і часто одночасних) теорій відповідальності, які можуть бути заявлені в позові про відповідальність за якість продукції, включаючи недбалість, конструктивні дефекти, виробничі дефекти, ненадання попереджень, перекручування фактів і порушення гарантії. Всі ці теорії відповідальності можуть виникнути в контексті ШІ. Наприклад, розглянемо делікт недбалості. Виробники зобов’язані виробляти продукти, які будуть безпечні при розумному використанні. Якщо система штучного інтелекту використовується передбачуваним чином і все ж стає джерелом шкоди, позивач може стверджувати, що виробник виявив недбалість, що не передбачивши можливість такого результату.
На додаток до конкретних теорій відповідальності, заснованих на виявленні конкретного джерела (наприклад, виробничий брак) нестачі продукту, ще однією особливістю закону про відповідальність за якість продукції є сувора відповідальність. При суворій відповідальності виробники, включаючи тих, хто виробляє продукти ШІ, можуть нести відповідальність за дефекти, не вимагаючи розслідування того, чи є дефект таким як помилка в проекті, виробничий брак або недбалість виробника. Замість цього сувора відповідальність відображає думку, що споживачі мають право очікувати безпеку товарів і послуг. Коли це очікування не виправдовується, споживач, який понесе в результаті збиток і ставить вимогу про сувору відповідальність, не нестиме тягар точного визначення, де в процесі проектування або виробництва був виявлений дефект.
Головною проблемою, яка виникне з ростом ШІ, є збільшення розміру потенційної шкоди, викликаного програмним забезпеченням. У системах без ШІ постпродажні оновлення програмного забезпечення довгий час були стандартним підходом до виправлення недоліків товару. У багатьох випадках збиток вдається завчасно запобігти. Наприклад, зазвичай уразливості безпеки програмного забезпечення виявляються і потім виправляються за допомогою оновлень, перш ніж їх використовують зловмисники. Але були також випадки, коли проблеми розробки програмного забезпечення привели до величезного збитку.

У міру того як використання ШІ стає поширеним в транспортному, оборонному, виробничому і багатьох інших секторах, ставки, пов’язані з рішеннями, прийнятими програмним забезпеченням ШІ, будуть рости.
Ключовою характеристикою, яка відрізняє ШІ, є його здатність вчитися. Іншими словами, системи ШІ не просто реалізують розроблені людиною алгоритми. Замість цього вони створюють свої власні алгоритми. Це піднімає складні питання про розподіл відповідальності. Зрештою, якщо алгоритм, розроблений в значній мірі або повністю комп’ютерами, припускається помилки, то хто винен? Відповідь на це питання має полягати у визнанні того, що компанії повинні нести відповідальність за продукти ШІ, які вони створюють, навіть коли ці продукти розвиваються не так, як це бажано або передбачається їх виробниками. Коли є кілька компаній, які брали участь в розробці системи ШІ (або в формуванні алгоритму після продажу), можуть виникнути важкі питання про те, як розподілити провину, коли щось піде не так. Але захист в дусі “це вина алгоритму” не буде законним.
Компанія, яка використовує ШІ, на яку націлений позов про відповідальність за якість продукції, може спробувати покласти провину за будь-які алгоритмічні дефекти на: сам ШІ; постачальника даних, які використовувалася в якості основи для еволюції алгоритму, керованого ШІ; користувачі системи штучного інтелекту; і / або інші компанії у виробничому ланцюжку. Автор розглядає кожен з цих варіантів, і приходить до наступного висновку: позови про несправності в системах на основі ШІ повинні ґрунтуватися на розумінні того, що, хоча безпосередні рішення, що призводять до передбачуваного збитку (наприклад, рішення автомобіля без водія зробити поворот в певний момент часу ), приймаються комп’ютерами, рішення можуть бути простежені до вибору, зробленого компаніями. Ось де повинен бути знайдений відповідальний, коли щось піде не так. Крім того, необхідно буде розробити основи для застосування тестів ризику і корисності щодо ШІ. Випробування на корисність і ризик давно використовувалися в судових процесах про відповідальність за якість продукції, щоб оцінити, чи можна пом’якшити передбачуваний дефект конструкції шляхом використання альтернативного рішення, яке не зашкодило б корисність продукту або невиправдано збільшило б його вартість. Цей же тест можна застосовувати і щодо ШІ; однак, механізм його застосування повинен буде враховувати не тільки розроблені людиною частини алгоритму, але також рішення і альтернативи після продажу, доступні для системи ШІ, оскільки вона автоматично оновлює свої алгоритми.


Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *