31.10.2020

Сергій Марков – про таємне в цифровому суді і загрози штучного інтелекту

Оригінал тут.
Сергій Марков, засновник порталу «ХХ2 Століття», фахівець в області штучного інтелекту і машинного навчання, розповів про можливості застосування штучного інтелекту в літературі, музиці та інших творчих областях.

Всі створені нами системи ШІ є прикладними і здатними вирішувати тільки одну інтелектуальну задачу (або їх невеликий набір). Паралельно вчені працюють над відтворенням людського мозку. Наприклад, створюючи так звані «імпульсні нейронні мережі», фахівці з обчислювальної математики спільно з нейрофізіологи створюють біологічно достовірні моделі, які більш точно описують енергетичний обмін між клітинами мозку. Великі проекти, такі як Human Brain Project, працюють над створенням машин, що імітують роботу мозку. Головна складність в цій області – недолік обчислювальних потужностей. Ймовірно, ми отримаємо потрібні потужності ближче до другої половини 2020-х.

Зрозуміло, штучний інтелект і машинне навчання в сучасному вигляді – це технологія, яка несе певні ризики при експлуатації. Наприклад, ви подали документи на кредит, і вам відмовили. Це рішення по силі впливу на ваше життя можна порівняти з вердиктом суду. Але в суді ви маєте права: доступ до всіх доказів, право на захисника і, в більшості випадків, на відкритий судовий процес. У випадку з кредитом нічого подібного немає. Ви не знаєте, які саме дані про вас приймаються в розрахунок, як влаштована модель прийняття рішення і навіть не можете отримати зворотній зв’язок про причини відмови – все це знаходиться за кордоном комерційної таємниці. Така проблема отримала назву «цифрового таємного суду», який судить вас в досить беззаконних умовах.

Які проблеми це обіцяє? Найрізноманітніші і неприємні. Наприклад, виникнення так званого токсичного циклу. Уявімо систему соціального рейтингу, яка в залежності від нашої поведінки дає більш повний або обмежений доступ до суспільних благ. Припустимо, ви накосячили в юності, а вам тепер закрили доступ до гарної освіти. Це означає, що шанси на реабілітацію знижуються. Один неправильний крок, і система починає вас топити, позбавляючи можливості просунутися вгору в соціальному рейтингу. У перспективі це призведе до сильного громадського розчарування.

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *