11.07.2020

Пропозиції до проекту Концепції розвитку сфери штучного інтелекту в Україні

Максим Баришніков, адвокат, партнер юридичної компанії «Бі Кей Бі»

Дата: 24.05.2020 р.

Номер: 24.05.2020-1

Предмет: пропозиції до проекту Концепції розвитку сфери штучного інтелекту в Україні
Підготовлено: Баришніков М.Р.

Ці Пропозиції до проекту Концепції розвитку сфери штучного інтелекту в Україні та проекту Розпорядження КМУ про його затвердження, надалі- Концепція, підготовлені до текстів, доступних та зі змістом станом на 24.05.2020 року.

Я, Максим Баришніков, адвокат, партнер юридичної компанії «Бі Кей Бі», заступник голови Комітету ААУ з права охорони здоров’я, викладач дисциплін з міжнародного права, займаюсь на практиці медичним правом з 1999 року, перші наукові статті з медичного права вийшли на початку 2000-х років, наразі науково досліджую питання правового врегулювання застосування технологій штучного інтелекту в медицині та застосування штучного інтелекту в ході судової реформи, співавтор ряду законодавчих пропозицій в галузі медичного права, учасник ряду робочих та експертних груп в сфері медичного права, Legal IT, тощо.
За результатами дослідження проекту тексту Концепції маю наступні зауваження та пропозиції до його тексту:

1.Медичне право
1.1.Опис
В тексті Концепції було приділено явно недостатню увагу питанням застосування Штучного Інтелекту, надалі-ШІ, в сфері охорони здоров’я.
Зокрема, згадування про:

Зазначення в Розділі ІІ (Сучасний стан розвитку технологій штучного інтелекту в Україні та світі) про те, що «У світі технології ШІ активно використовуються в різних сферах суспільного життя. Зокрема, за допомогою технологій ШІ встановлюються медичні діагнози…»;
Визнання в Напрямі 3 (Економіка та бізнес) про те, що «До зовнішніх проблем відносяться наступні: відсутність або недосконалість правового регулювання у деяких напрямках розвитку ШІ (у медицині, освіті, на транспорті)…»;
Визнання необхідним серед інших в Напрямі 6 (Державне управління) «дослідження та застосування технологій ШІ у сфері охорони здоров’я, зокрема щодо протидії COVID-19, а також прогнозування та попередження потенційних епідемічних спалахів у майбутньому»;
Пропозиція в Напрямі 6 (Державне управління) «розробити механізми анонімізації персональних та інших, наприклад медичних, даних для уможливлення їх оприлюднення в форматі відкритих даних»;
Є явно не достатніми та не відповідає світовій практиці підготовки та затвердження подібних Концепцій розвитку ШІ в Світі, посилання на які містяться в самому тексті проекту Концепції. Всі вони як правило виокремлюють в якості окремого напрямку розвитку застосування ШІ в інтересах охорони здоров’я. Про це докладно можливо ознайомитись у відповідних статтях, що були раніш підготовлені мною з цього питання.
Відповідно до положень статті 3 Конституції України саме «Людина, її життя і здоров’я … визнаються в Україні найвищою соціальною цінністю», отже відсутність окремого, присвяченого цьому розділу в Концепції дивує та засмучує, в майбутньому це створить потенційні проблеми та численні завади прогресу у відповідній сфері, що можливо та обов’язково виправити на етапі підготовки проекту Концепції.
1.2.Пропозиції

Пропонується доповнити зміст пункту 12 Розділу IV (Ключові напрями державної політики у сфері ШІ) додатковим, Дев’ятим напрямком «Охорона здоров’я».
Доповнити зміст Концепції додатковим, Дев’ятим підрозділом з наступним змістом:
Напрям 9: Охорона здоров’я

Чинне законодавство України про охорону здоров’я не містить жодної згадки про штучний інтелект чи когнітивні системи. Це є одночасно викликом та констатацією, і в обох випадках ситуація має бути змінена швидко та рішуче шляхом розробки та впровадження норм щодо врегулювання застосування технологій штучного інтелекту в медицині з врахуванням кращих іноземних практик та відповідно до сучасних реалій і правил адміністрування в галузі охорони здоров’я.
Вивчення шляхів та методів правового врегулювання технологій Штучного інтелекту в цілому та в сфері охорони здоров’я зокрема викликана об’єктивними потребами в силу стрімкого розвитку та якісного перетворення згаданих технологій, завдяки чому вони знаходять все ширше застосування в медичній та фармакологічній практиці та дослідженнях.
Поширення сфер застосування технологій Штучного інтелекту, зокрема в галузі охорони здоров’я вимагає дослідження та практичного визначення питання правового врегулювання відносин, що виникають в ході такої діяльності. Межі такого врегулювання, його методи та способи мають формулюватись на підставі грунтовного вивчення самого феномену машинного навчання та діяльності нейромереж, що лише останнім часом стали предметом дослідження юридичної науки.
Термінологічна визначеність та подолання надбудовних квазіправових конструкцій буде сприяти чіткій правовій регламентації та забезпечить правові гарантії для розробників, медичних закладів та пацієнтів. Це потребую швидкого та ефективного практичного вирішення на основі грунтовних наукових досліджень з врахуванням сучасного стану та найближчих перспектив розвитку наукових знань про штучний інтелект та його когнітивні ознаки.
Метою дослідження та впровадження технологій ШІ в сфері охорони здоров’я мають слугувати:
розробка та впровадження формулювання комплексного рішення в частині врегулювання правовідносин всіх суб’єктів, що мають відношення до такого впровадження на основі поєднання публічно-правових та приватно-правових засад, серед яких органи державної влади, спеціально уповноважені в сфері охорони здоров’я, заклади охорони здоров’я, фармакологічні компанії, медичний персонал та пацієнти і особи, що їх представляють на підставі закону чи відповідних повноважень, це компанії-розробники систем штучного інтелекту, вчені та практики, що надають власні чи компілюють вже існуючі знання в медичній галузі для подальшого навчання та використання системами штучного інтелекту, це виробники та оператори таких систем, тощо;
визначення вимог до сертифікації та подальшої експлуатації в сфері охорони здоров’я програмних комплексів з елементами ШІ з чітким визначенням умов та кола осіб, відповідальних за результати такого застосування;
встановлення правил реєстрації прав на об’єкти інтелектуальної власності, що виникають в ході застосування ШІ в сфері фармакології та в ході надання медичних послуг (нові лікарські засоби, формули, способи та методи лікування та діагностування, тощо);
вироблення чітких та недвозначних ознак, за якими ШІ можливо буде відрізнити від інших програмних комплексів, що наразі застосовуються в сфері охорони здоров’я з метою визначення кола об’єктів та суб’єктів, діяльність яких буде підпадати під спеціальні норми щодо врегулювання застосування ШІ, що будуть розроблені на виконання цієї Концепції;
розробка з метою правового врегулювання застосування систем штучного інтелекту в галузі медицини нового та окремого законодавства. Новий комплексний акт має врегульовувати як суто медичні так медико-правові аспекти застосування ШІ, а також містити новели до норм публічного права в частині ліцензування та контролю з боку спеціально уповноважених органів виконавчої влади такої діяльності, нових підходів в царині адміністративного права, зокрема щодо кола осіб та міри відповідальності разом з введенням нових складів адміністративних правопорушень. Уточнення та введення нових складів кримінальних злочинів буде потребувати національне кримінальне законодавство, так само окремі статті норм цивільного права та інформаційного права, зокрема положення Цивільного кодексу України потребуватимуть доповнень новаціями щодо врегулювання обміну та обробки інформації, визначення право володільців нових об’єктів інтелектуальної власності, що будуть створюватись в ході застосування ШІ, тощо. Розробку такого комплексного документу слід починати вже сьогодні.
Перераховані вище напрямки в ході їх реалізації зможуть створити належну та необхідну правову базу та зрозумілі правила для розробки та застосування ШІ в сфері охорони здоров’я, залучення інвестицій та концентрації зусиль розробників та експлуатантів систем ШІ, підготовку спеціалістів та вихід країни на принципово нові міжнародні ринки послуг в сфері програмування та експлуатації систем ШІ в охороні здоров’я одночасно з різким, ефективним та доступним підняттям рівня доступності та якості медичної допомоги в країні без потреби додаткового бюджетного фінансування чи значних адміністративних змін.

2.Загальні зауваження
2.1.В цілому, проект Концепції потребує доопрацювання, виходячи з наступного:

Викладений текст містить численні тексти англійською мовою, що явно порушує вимоги чинного законодавства України щодо застосування української мови, як державної в офіційних документах, що слід виправити в кінцевій редакції;
Частина статистичних даних в тексті Проекту Концепції наведена без посилання на джерела, лише в окремих випадках на залучені до підготовки іноземні компанії. Також, в окремих розділах Концепції прямо йде мова про конкретні юридичні компанії та сервіси, що слід виправити;
В тексті Концепції зроблена явно невдала спроба дати визначення Штучному інтелекту як певній ознаці («властивість систем»), що не може слугувати надійним тестом для відокремлення програмних комплексів з елементами ШІ від усіх інших, що по суті не потребують для їх подальшої експлуатації особливих підходів чи принципово нового законодавства, що слід виправити або шляхом прибирання зазначеного визначення та заміни його на інше або (що пропонує автор цього тексту) заміни термінологічного визначення, яке майже в кожному випадку буде піддаватись критиці на викладення ознак, за умови відповідності яким програмний комплекс може бути визнаний штучним інтелектом в розуміння Концепції, якими можуть слугувати:
1.Неочевидність результатів. На відміну від інших програмних продуктів, що застосовують в медицині, результати застосування ШI не можливо наперед спрогнозувати з великою долею ймовірності або передбачити досліджуючи матеріали, що були використані для машинного навчання такого ШІ.
2.Новизна результатів. В ході застосування ШI в фармакології, медичному діагностуванні, клінічних випробуваннях можуть бути отримані (і таких прикладів вже багато) такі результати, що були невідомі до цього та мають загальнонаукове та практичне значення. Це ставить питання визначення суб’єкту, для якого виникають права інтелектуальної власності щодо таких результатів.
3.Можливість для самовдосконалення. Програмні комплекси, що обмежені задумом їх творців на рівні застосованих алгоритмів. Важливим є відокремлення існуючи складних програмних комплексів в галузі медицини від таких, що дійсно потребують нових правових підходів завдяки той ступені невідомості та неможливості сталого дослідження, як це має місце з ШІ.

Слід визнати, що дослідниками пропонуються різноманітні, інколи принципово інші класифікацій, але, оскільки наведена вище виходить з найбільш суттєвого показника, а саме-ступеня контролю, слід визнати таку тріаду мінімально необхідною для застосування під час визначення меж та методів правового регулювання застосування штучного інтелекту в галузі медицини. Незалежно від того, наскільки важливим виявиться з врахуванням подальшого розвитку адміністративний контроль для програм ШІ у сфері охорони здоров’я, в першу чергу для розробки конкретного законодавства потрібне чітке розуміння його (ШІ) правового визначення для найшвидшого застосування з практичною метою.

В тексті Концепції подекуди відбувається підміна понять та містяться окремі тексти щодо врегулювання явищ, що явно не мають безпосереднього відношення до сфери ШІ, прикладом чого може слугувати пропозиція в Напряму 1 (Освіта та людський капітал) що серед іншого згадує «розробка програм з метою усунення гендерного дисбалансу у STEM-освіті». Безумовно, гендерна рівність та її забезпечення є важливою складовою державної політики в сфері освіти, але прямого та безпосереднього відношення до ШІ це навряд чи має, що рекомендується скорегувати;

Застосування ШІ в судочинстві явно потребує біль сміливих та рішучих заходів, ніж ті, що перераховані в Напряму 8 (Правосуддя). Як відомо, вперше запропонував використовувати машину для здійснення правосуддя та вирішення питань вини та справедливості через математичні методи ще юрист за освітою та відомий математик Готфрід Вільгельм Лейбніц під час своїх лекцій в Англії, в 1673 році. А в зазначеному розділі Концепції по суті в ньому крім «застосування технологій ШІ для виявлення недобросовісної суддівської практики шляхом аналізу текстів судових рішень та інших даних, які формуються в комп’ютеризованих системах/реєстрах в ході здійснення правосуддя» та «впровадження консультативних програм на основі ШІ, які відкриють доступ до юридичної консультації широким верствам населення» йде мова про переведення діловодства в електронну форму, що має лише опосередковане відношення до застосування ШІ в судах, яким є і буде:
Заміна суддів системами ШІ;
Автоматизація процесу звернення до суду та виконання судових рішень за допомогою ШІ (в формі смарт-контрактів, тощо);
Розповсюдження примирних процедур з використанням судових комплексів ШІ з метою зняття навантаження на суддівський корпус, здешевлення вирішення суперечок та підвищення якості діяльності суддів та судів.

Дякую за увагу, сподівають на врахування наведених вище пропозицій в фінальній версії Концепції, для чого готовий докладно викласти аргументи та власні доводи.

З повагою,

Максим Баришніков

4 комментария к «Пропозиції до проекту Концепції розвитку сфери штучного інтелекту в Україні»

  1. Вважаю, що до даних пропозицій варто прислухатись, адже, ця людина не теоретик,а практик зі значним досвідом роботи!

  2. Поддерживаю предыдущего комментатора, и считаю, что в решении такого вопроса стоит использовать не только теоретические знания, но и опыт людей, что проработали в данной сфере много лет!Примите к сведению, господа законописатели!

  3. Мое мнение таково: в первую очередь в решении таких вопросов и предложении таких законопроектов, в первую очередь стоит доверять профессионалам!Михаил, браво!

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *