12.07.2020

Контекстуализация искусственного интеллекта

Оригинал здесь.
Все больше людей, далеких от сферы компьютерных технологий, узнают о различных ошибках, допускаемых искусственным интеллектом. Тем не менее, разговоры вокруг ИИ не утихают, и в частности это обосновано тем, что люди недооценивают работу человеческого мозга и переоценивают возможности обучения машин. Для лучшего понимания нужно рассмотреть две сферы, в которых ИИ добивается больших успехов, а именно зрительное восприятие и язык.
Жена, принятая за шляпу
Для понимания компьютерной программы, в первую очередь, необходимо изучить ее ошибки. То же касается и человеческого мозга. Наглядным примером является произведение Оливера Сакса «Человек, который принял жену за шляпу, и другие истории из врачебной практики», где врач описывает пациента, который принял голову своей жены за шляпу, пытаясь надеть ее. Подобное состояние называется агнозией, и проливает свет на работу зрительного восприятия человека, которое включает:
• восприятие визуальной картины;
• восприятие форм;
• связывание форм с известными объектами.
Нарушение этих процессов может вызвать агнозию, т.е. нарушение зрительного распознавания предметов. Это показывает, насколько сложна работа человеческого мозга.
Компьютерное восприятие работает аналогичным образом, но главным отличием от человека является то, что ИИ должен четко знать, какие именно формы нужно зрительно искать. Для этого существует «конструирование признаков», при которых ИИ ищет только заданные формы (признаки). Классическим примером является оптическое распознавание текста, т.е. машина ищет характерные признаки (линии, пересечения и петли) и ассоциирует их с буквами. Но проблема заключается в том, что конструирование признаков является дорогостоящим процессом, а без него наблюдается слишком большая неточность распознавания.
Распознавание кошек
Благодаря последним достижениям в области глубокого обучения машин, визуальное восприятие ИИ улучшается. Сегодня технологии позволяют компьютерам самостоятельно определять формы, что в будущем позволит отказаться от использования конструирования признаков. Демонстрацией такого глубокого обучения является автоматическая идентификация форм в видео на YouTube. Исследователи Google отобрали более 10 миллионов изображений из видео и наблюдали за тем, какие признаки идентифицирует алгоритм глубокого обучения (нейронная сеть). Результаты были беспрецедентными, так как ИИ смог детально распознать мордочки кошек. Но стоит заметить, если компьютеру предварительно не будет задано, что эта форма ассоциируется с кошкой, компьютер будет «страдать» от вышеуказанной агнозии, не будучи способным распознать животное.
Умеют ли мужчины готовить?
На первый взгляд, может показаться что ИИ достигло небывалого развития и практически сравнилось с человеческим мозгом, но это не так. Главная проблема машинного обучения – это отсутствие открытости. Как правило, мы не знаем, какие именно формы и признаки изучает алгоритм. Причина ошибок ИИ является в отсутствии требования поиска продуманных и последовательных ассоциаций, скорее машина ищет статистические корреляции. К сожалению, люди обращают внимание на эти корреляции только тогда, когда они просты и понятны, например, с признаками расизма или сексизма. К примеру, предвзятость алгоритмов машинного обучения проявляется в том, что на картинке, где изображен мужчина на кухне, ИИ во многих случаях определит человека женского пола, проассоциировав наличие посуды, еды, и других кухонных атрибутов с женщиной. Но предвзятость является лишь верхушкой айсберга, так как такие алгоритмы заточены под быструю, а не медленную и более анализирующую работу. Для контекстуализации ИИ не хватает представления о нашем мире и элементарной логике, в то время, как человек способен понять то, что для определения пола человека нужно смотреть на его черты, а не на окружение.
Обработка лингвистической информации
Несмотря на убеждение многих людей, алгоритмы машинного обучения не умеют читать. Причина проста – ИИ не способен понимать текст, он все также осуществляет поиск корреляций. Исследования Робина Цзя и Перси Ляна показали, что при добавлении лишних предложений в текст, алгоритмы начнут давать неправильные ответы на вопросы.
На данный момент машинное обучение не способно к медленному мышлению, оно до сих пор с трудом определяет спряжение глаголов. Такие алгоритмы, как SyntaxNet, – эффективны, но эффективны недостаточно для самостоятельной работы.
Популярность ИИ
Искусственный интеллект уже давно перестал быть новостью. Но после волны популярности всегда следует период снижения интереса к проблематике и финансирования, известный как «Зима искусственного интеллекта». И даже если очередной «зимы» не намечается, снижение ажиотажа не кажется таким уж плохим. Дело в том, что сегодня многие руководители и инженеры-программисты считают, что единственный способ решить задачу – это применить машинное обучение. Но подобный инструмент зачастую оказывается неэффективным в работе, только усложняя работу программистов. Существует множество компаний, которые применяют громоздкие алгоритмы для проблем, решаемых быстрее и эффективнее с помощью простого кода.
К счастью, со временем эта проблема решится сама собой. Успехи, достигнутые сегодня в области машинного обучения, скоро станут еще одним хорошо понимаемым инструментом в работе разработчика программного обеспечения.

Один комментарий к “Контекстуализация искусственного интеллекта

  1. Это, скорее, проблема не столько искусственного, сколько естественного интеллекта, то есть человеческой психологии. Люди ждут чуда и глубоко разочаровываются, когда оно не происходит. Да, чуда не было – был всего лишь шаг вперёд. Но множество таких шагов ещё только предстоит сделать.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *