Стремительное развитие технологий ставит человечество перед вопросом изменения этических норм. Можно ли дать машинам право на убийство? Насколько «нормальной» является привязанность человека к искусственному интеллекту? Можно ли пожертвовать этическими нормами во имя прогресса? Об этом Пётр Левич расскажет слушателям конференции «Дроны и будущее» 13 августа в «Сокольниках» в рамках Drone Expo Show.
Пётр Левич — директор департамента взаимодействия технологий и общества МТИ, сооснователь Future Foundation.
Ранее входил в рабочую группу по технологической этике Робототехнического центра «Сколково».
— Здравствуйте, Пётр. Можете ли вы сказать, какие масштабные изменения принесёт развитие робототехники в будущую жизнь?
— Робототехника повлияет на жизнь в значительной степени. В сегодняшнем мире существует множество профессий, не требующих серьёзных умственных усилий и квалификации. В ближайшем будущем большую часть такой работы будут выполнять роботы. Другой вопрос, насколько мы хотим жить в таком обществе.
— Когда мы сможем увидеть это «ближайшее будущее»? Когда произойдут ощутимые изменения использования роботов в повседневной жизни?
— Они происходят уже сейчас, просто пока не заметны большинству. Например, завод в Китае заменил несколько десятков тысяч человек роботами. Непосредственно на нас это не сказалось, но постепенно в процесс будет вовлекаться всё больше людей. При этом большая часть профессий, в которых человека заменит робот, будет приходиться даже не на рабочих, а на менеджерские и управленческие должности. «Вытеснять» их будут не роботы, а IT-системы. Мы видим начало этого процесса уже сейчас. Это в первую очередь касается менеджеров, сотрудников call-центров. Скоро в большинстве инновационных компаниях их заменят IT-системами.
— В качестве темы своего выступления на Drone Expo Вы выбрали этические проблемы робототехники. Чем интересен этот вопрос?
— Этические вопросы, которые рассматривает данная тема, касаются совершенно разных областей. Так, перед важным этическим выбором человечество ставит генетику. Вспомним пример редактирования генома человека. Первыми подобный эксперимент провели китайцы, и сначала это не было принято этическими комиссиями почти всех стран. Но спустя 8 месяцев Великобритания разрешила у себя этот эксперимент, просто потому, что поняла: или она проигрывает технологическую гонку в стратегически важном направлении, или изменяет нормы этики — и она выбрала второе. Я думаю, что этические запреты в мире будут падать по принципу домино. Что касается робототехники, много этических вопросов возникает о секс-роботах, наших взаимоотношениях с искусственным интеллектом — даже не сексуальных, а эмоциональных. Эта ситуация хорошо показана в фильме «Она», где персонажи испытывают привязанность к носителям искусственного интеллекта.
— Распространение дронов связано с появлением новых этических норм?
— Принципиальных вопросов два: privacy и использование боевых дронов. Они сейчас очень активно обсуждаются. Начнем с privacy — вопроса неприкосновенности частной жизни. Он возникает из-за возможности незаконной съёмки с помощью камеры, встроенной в дрон. Сейчас, если какой-то человек снимает вас обычной камерой в окно, он может быть обвинен в нарушении права на частную жизнь и осужден. В чем проблема с дронами? Непонятно, кому он принадлежит и кто им управляет. Под страхом уголовной ответственности человек вряд ли пойдет с камерой к окну, но он может использовать дрон для съемок, потому что в такой ситуации он не рискует своей жизнью и свободой. В связи с нарушением privacy дронами уже было инициировано несколько судебных разбирательств. Второй вопрос — это военное применение дронов: могут ли люди делегировать им право на убийство. Это вопрос о том, можно ли доверить принятие решения об убийстве не оператору дрона, а самому БПЛА. Многие известные люди, в частности Стивен Хокинг, подписались под открытым письмом с требованием запретить программам (и дронам) право на убийство. Но рано или поздно мы всё равно к этому придем.
— Как скоро это может произойти?
— Гораздо быстрее, чем нам кажется. Расскажу реальный кейс. В Пакистане американские спецслужбы следили за террористами через паттерны телефонных разговоров. У них был доступ к базе мобильных операторов, и они знали, кто какие SMS отправляет, откуда, как часто телефон подключается к той или иной соте и так далее. Обученная нейронная сеть вычленяла из этой big data паттерны террористической активности, а потом вылетали дроны и уничтожали эти цели. То есть дроны сами не решали, кого уничтожить, — им давал команду человек, но тот, в свою очередь, ориентировался на указания нейронной сети. А с нейронными сетями странная ситуация: невозможно предсказать, как они будут работать, можно только постфактум посмотреть протоколы их работы. Человек не может проверить результаты, потому что не в состоянии проанализировать объём big data. То есть люди фактически делегировали право решать, убивать или нет, программе, а дроны заканчивали дело.
— Ваше выступление на Drone Expo будет посвящено рассмотрению этих вопросов?
— В том числе. В своём докладе я рассмотрю то, как технологии меняют классические каноны этики. Мы поговорим об этических выборах, с которыми нам предстоит столкнуться, и о трудностях, которые встанут перед человечеством, если не будут преодолены технологические барьеры.
Услышать выступление Петра Левича и других спикеров можно будет 13 августа на первой в России конференции «Дроны и будущее: инновационные решения и перспективы». Узнать подробности и связаться с организаторами мероприятия можно на сайте drone-expo.ru.
