19 октября состоялась пятая сессия XIV Ежегодного заседания клуба «Валдай», посвящённая конфликту прогресса и гуманизма.
Актуальность этой темы связана с небывало быстрым темпом развития технологий. Как подчеркнул один из участников, современные гаджеты имеют больше возможностей, чем самый мощный суперкомпьютер в начале XXI века или все компьютеры США в эпоху осуществления лунной программы, а проблемы, которые совсем недавно относились к области научной фантастики, обсуждаются на законодательном уровне. Делая человеческую жизнь более комфортной и безопасной, технологии при этом создают новые риски.
Практически все революционные технологии являются, по словам одного из панелистов, «обоюдоострым мечом». Хрестоматийным примером являются ядерные технологии. Связанные с ними выгоды и риски хорошо изучены, но тем не менее дебаты о них идут десятилетиями и не прекращаются. В то же время мы находимся в самом начале дискуссий о таких технологиях, как искусственный интеллект, автономные системы поражения, беспилотные автомобили, клонирование человека, генная инженерия, глубокое обучение и другие.
Как отметил другой участник, пользуясь выгодами новых технологий, необходимо помнить о минимизации рисков и негативных последствий для общества, включая дегуманизацию человечества, технологическую безработицу и так далее. По его словам, человечество достигло такой точки, когда технология, пользуясь метафорой беспилотного автомобиля, «садится за руль и становится водителем человеческой судьбы».
Важным вопросом является то, как меняется сам человек. Один из панелистов напомнил, что люди инвестируют прежде всего в то, что делает их могущественнее (новые системы вооружения), и в технологии, которые направлены на то, чтобы сделать их бессмертными (путь к трансгуманизму). Ключевым трендом ближайших десятилетий является, по его словам, размывание связи между человеческими способностями и наследственностью, которое ставит новые этические вызовы.
Вместе с тем появление прогрессивных технологий вовсе не означает отмирания старых, подчеркнул один из участников. Примером тому может служить запрос на органические продукты в условиях интенсификации сельского хозяйства и применения ГМО.
Много внимания было уделено проблеме контроля над развитием новых технологий. Один из экспертов отметил, что правовые и этические системы просто не успевают за темпом технологических изменений и призвал вырабатывать принципиально новые рамки, способные учитывать меняющуюся технологическую среду. Другой, сославшись на роман Айзека Азимова «Конец вечности», заявил, что запретить риски, связанные с развитием технологий, – значит зайти в тупик. Следовательно, необходимо проводить разграничение между ситуациями, когда стоит делать упор на контроле и на поиске альтернативных технологий.
Кроме того, для развития технологий существуют естественные ограничения. По мнению панелиста, в сфере информационных технологий таким ограничением являются предельные возможности энергетических систем: сегодня дата-центры являются одними из крупнейших потребителей электроэнергии, и в какой-то момент электрогенерирующие системы окажутся просто неспособны удовлетворить потребности дата-центров.
Участники сошлись во мнении о том, что ключевую роль в регулировании рисков, связанных с новыми технологиями, играют правительства. Один из них подчеркнул, что сегодня нельзя проводить политику, за которой не стоит наука, и необходимо разъяснять важность научных исследований тем, кто принимает политические решения. Другой отметил, что главная проблема человечества состоит в полном несоответствии существующих форм государственного контроля над технологиями уровню их развития. Кроме того, по его словам, политики плохо понимают науку и её воздействие на общественное развитие, в то время как учёные часто забывают о том, какие политические силы будут применять их технологические открытия. Из этого следует потребность в новом технополитическом нарративе, который объединил бы в себе понимание технологий и целей общества.
