Век роботизации: сможет ли кофеварка управлять государством?
Дискуссионная площадка клуба «Валдай» (Москва, улица Большая Татарская, дом 42)

12 марта на площадке Клуба «Валдай» состоялась необычная экспертная дискуссия, посвящённая вопросам роботизации. Вопреки известным опасениям, что машины могут бросить вывод главенству человека в мире, переменить все основания международной политики и стать главным орудием войн, ожидать этого не стоит: центром принятия решений остаётся человек, а война давно уже перестала быть двигателем прогресса. Если роботы чем-то человеку и угрожают – так это подменить нас на скучной, грязной и опасной работе.

Едва речь заходит о роботах, сразу же возникает вопрос – что именно считать роботом? Как заметил модератор встречи, программный директор Клуба «Валдай» Иван Тимофеев, со времён старой научной фантастики представление о роботах должно было постепенно эволюционировать: вчерашние «шкафы» должны были превратиться во что-то большее, что могло бы оказать влияние на международную политику, экономику и безопасность.

Справедливость этой догадки подтвердил директор по технологической политике Microsoft Россия Владислав Шершульский. «Если ещё недавно робот представлял собой физический объект в совокупности с программным обеспечением, то сейчас эволюция движется в сторону того, что можно назвать “интеллектуальными сервисами”: произошло объединение интернета вещей и облачных технологий, – сказал эксперт. – Сегодня робот может выглядеть как “умный” дом, система оповещения о цунами или землетрясении с тысячами датчиков по всему континенту, или другая сильно распределённая система». Неминуемо меняется и образ того, что можно будет назвать искусственным интеллектом: это больше не единичная целенаправленная разработка, а скорее результат эволюции большого количества коммерческих сервисов, которые совместятся у потребителей. «Сейчас в связи с этим встаёт множество других вопросов – рабочие места для роботов, вопрос ответственности за нанесённый ими вред или распределение выгод. Наши отношения с ними становятся похожи на отношения с домашними животными – а вскоре будут похожи на отношения с разумными существами», – заключил эксперт.

Алексей Южаков, председатель Совета директоров пермской компании Promobot, поделился со слушателями собственным опытом и видением проблемы. Компания поставляет роботов в 27 стран мира и самостоятельно производит как компоненты, так и программное обеспечение. «Я часто говорю, что главное, что у нас есть – это 450 проданных роботов, это экспертиза, то, как люди реагируют на наших роботов, – сказал эксперт. – Это большой объём данных». Сегодня, по его словам, все сходятся во мнении, что без искусственного интеллекта – то есть самообучения и принятия решений, – робототехника невозможна. Идея, что заменить человека роботом невозможно, по его мнению, ошибочна – однако именно это и хорошо: «Что в первую очередь будет заменено роботами – так это скучная, грязная, опасная работа». Аналогичная проблема определения терминов стоит и в случае с искусственным интеллектом: он может быть «слабым», может достигать уровня человеческого или превосходить его. «Слабым» ИИ, по словам Южакова, мы пользуемся уже на постоянной основе – например, при управлении самолётом полноценное участие человека ограничено всего четырьмя минутами полёта.

Вопреки популярным представлениям, оба эксперта критически отнеслись ко взаимосвязи продвижения роботехники и политической безопасности «Не следует смешивать техническую автономию с политической, – сказал Шершульский. – Управление кофеваркой не сказывается на полномочиях местных органов государственной власти и никак не зависит от того, как вы интерпретируете понятие суверенитета. Существование глобального рынка не влияет на необходимость обеспечивать безопасность критических объектов инфраструктуры». Главная проблема – не в атаке извне, а в слабостях, которыми могут воспользоваться люди, имеющие к технологии прямой доступ, как это было с атомными электростанциями, работавшими на программном обеспечении Siemens. «Главная возможность по предотвращению таких событий – это стать лидерами, чтобы наше оборудование и наше “железо” стоило по всему миру», уверен Южаков. 

Что же касается возможности использования роботов в военных целях, то эксперты сошлись во мнении, что страхи перед армиями роботов или «восстанием машин» сильно преувеличены. По словам Шершульского, военная наука перестала быть драйвером технического прогресса уже полвека назад. «Самое опасное для суверенитета – это идея, что если мы защитимся от всего мира, то у нас всё будет хорошо. На уровень рисков это вообще никак не влияет», – сказал эксперт. «Центром принятия решений в любом военном конфликте в любом случае будет не технология, а человек, и “взломать” нужно прежде всего его, – согласился Южаков. – В случае с военными действиями речь идёт о манипулировании принятием решений, и война смещается к персоналиям».

 Так или иначе, самое важное – не позволить подобного рода опасениям и страхам перед искусственным интеллектом закрыть перед нами «окно возможностей». С точки зрения запуска новых направлений у России есть свои преимущества, и сейчас, по словам экспертов Клуба, важно не перегнуть с законотворчеством и оставить бизнесу пространство для сотрудничества и саморегулирования.