28.11.2020

Должна ли регулироваться деятельность искусственного интеллекта?

Оригинал тут.

 Авторы: 

Амитаи Этциони, профессор международных дел университета Джорджа Вашингтона, округ Колумбия;

 Орен Этциони – главный исполнительный директор Института искусства Аллена и профессор информатики Вашингтонского университета.

Статья содержит материалы и размышления не только об общей озабоченности человечества широким использованием искусственного интеллекта во многих сферах современной жизни, но и о возможности его использования при изготовлении оружия, а также влиянии на мировую экономику путем сокращения рабочих мест вследствие массового внедрения высоких технологий.

 “Искусственный интеллект – это деятельность, посвященная разработке интеллектуальной машины, а интеллект – это то качество, которое позволяет субъекту функционировать должным образом”. Суть ИИ заключается в том, что он позволяет компьютеру мыслить как человек. 

Некоторые люди считают, что ИИ на пути к созданию умных машин, которые будут гораздо более способными, чем люди. Достигнув этой точки «технологического роста», компьютеры будут продолжать развиваться и порождать быстрый технологический прогресс, что приведет к кардинальным и непредсказуемым изменениям для человечества. Некоторые наблюдатели прогнозируют, что сингулярность может возникнуть уже в 2030 году. Можно отбросить эти идеи как выход научной фантастики, если бы не тот факт, что такие проблемы разделяют несколько высокопоставленных ученых и технологических лидеров.

Илон Маск, основатель Tesla, написал твит: “Нам нужно быть очень осторожными с ИИ. Он представляет потенциальную опасность” . Он добавил: “Я все больше склонен думать, что должен быть некий контроль ИИ, возможно, на национальном и международном уровнях”. Оксфордский философ Ник Бостром считает, что ИИ превзойдет человеческий развитие и в конечном счете будет доминировать.

В исследовании, в котором робот и хирурги люди получили одно и то же задание (сшить часть кишечника, которая была разрезана), робот Smart Tissue превзошел людей. Кроме того ИИ используется в поисково-спасательных операциях, в уходе за детьми и пожилыми людьми, в компаниях для определения поведения покупателей и клиентов с целью улучшения обслуживания.И наоборот, предложения по ограничению некоторых очень специфических применений ИИ, похоже, заслуживают гораздо более детального изучения. 

 Группа исследователей робототехники и ИИ подписала открытое письмо, которое было представлено на Международной конференции по вопросам искусственного интеллекта 2015 года, призывая Организацию Объединенных Наций запретить дальнейшее развитие вооруженного ИИ, который мог бы действовать «вне контроля человека». В письме есть более 20 000 подписей, среди которых подписи Стивена Хокинга, Илона Маска и Ноама Хомского, а также многих ведущих исследователей в области ИИ и робототехники. Петиция следует за заявлением Кристофа Хейнса, специального докладчика ООН по вопросам внесудебных или произвольных казней в 2013 году, с требованием установить мораторий на тестирование и размещение вооруженных роботов. Хейнс утверждал, что «Решение разрешить размещение машин для убийства людей по всему миру, независимо от того, каким оружием они пользуются, необходимо поставить на паузу». Такой выход кажется разумным. Большинство стран мира подписали Договор о нераспространении ядерного оружия, что было одной из главных причин того, что несколько стран, включая Южную Африку, Бразилию и Аргентину, отказались от своих программ по разработке ядерного оружия и что те, кто уже их имел, сократили свои ядерные арсеналы. Другие соответствующие договоры включают запрещение биологического и химического оружия и запрет стяжания мин.

Главное, что предлагается авторами статьи – это совершенно новая разработка ИИ, которая будет применяться многими, если не всеми, умными технологиями. Нужно ввести в мире ИИ ту же базовую структуру, что существует практически во всех цифровых системах: многоуровневую систему принятия решений. А также стоит изучить, могут ли страны мира, включая Россию, Китай и Северную Корею, согласиться на полный запрет автономного оружия. То есть, люди должны иметь возможность отключить как оперативные, так и наблюдательные системы ИИ, например, выключить все машины для убийства, когда враг сдался, или дать возможность автомобилю без водителя ускориться, если пассажир серьезно болен.

В конце статьи рассматривается вопрос так называемого “рабочего коллапса”, то есть значительного влияния ИИ на сокращение рабочих мест сначала массовой компьютеризацией, впоследствии – автоматизацией производства, а сейчас и сокращением персонала.

Бюро статистики труда установило, что рабочие места в сфере услуг, в которой сейчас работают две трети всех рабочих, «уничтожаются по технологии». Например, в настоящее время правовое поле стало последней жертвой, поскольку технологии электронного обнаружения уменьшают потребность в больших коллективах адвокатов и юристов, которые бы рассматривали миллионы документов. Майкл Линч, основатель компании электронных открытий под названием Autonomy, подсчитывает, что переход от открытия документов человека к электронному открытию в конце концов даст возможность одному юристу выполнить работу, которую раньше делало 500. 

Одни считают, что это проблема, и хотя прогресс – это движущая сила человечества, обеспокоенность заключается в том, что на этот раз новые технологические разработки создадут мало новых рабочих мест. Программное обеспечение, написанное несколькими программистами, выполняет работу, которую раньше выполняли несколько сотен тысяч людей. Более того, безработица и растущие диспропорции в доходах могут привести к серьезным делениям в обществе.

В выводах к статье авторы называют влияние искусственного интеллекта на современную жизнь людей значительным, но все же предупреждают не применять технологии слишком активно и бездумно. Подчеркивается необходимость непосредственного контроля за деятельностью ИИ , особенно в вопросах разработки и использования оружия. А насчет “рабочего” вопроса делают акцент на том, что в ближайшее время обществу, возможно, придется адаптироваться к миру, в котором роботы станут главным рабочим классом, и люди больше времени будут проводить со своими детьми и семьями, друзьями и соседями, заниматься общественной деятельностью, духовным и культурным самосовершенствованием.

2 комментария к «Должна ли регулироваться деятельность искусственного интеллекта?»

  1. Если говорить об использовании искусственного интеллекта в изготовлении оружия, то этот процесс должен проходить под чутким и четким руководством людей, и никак иначе!Никакой самостоятельности машин!А то на ум сразу приходит фильм “Терминатор: восстание машин” и неконтролируемые роботы!Не хотелось бы такой реальности!

  2. А меня вот, очень заинтересовал вопрос вытеснения людей с рабочих мест по средствам автоматизации!Прогресс не стоит на месте, поэтому нужно быть гибкими и подстраиваться под современные реалии поиска работы!

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *