Мораль и право
Этика как точка приложения интеллекта

В части логики силовых, политических отношений между государствами и внутри государств изменилось куда меньше, чем в инструментах. Интеллект, не искусственный, а вполне естественный и тренированный, будет максимально востребован государствами в вопросах балансировки технологии и этики, нормотворчества. Кто будет первым с помощью интеллекта и технологий раздвигать этические границы, а потом огораживать их, тот имеет шансы преуспеть в принципиально новых технологиях, меняющих уклад жизни и политические расклады, пишет Анастасия Лихачёваучастник XVIII Ежегодного заседания Международного дискуссионного клуба «Валдай», спикер пятой сессии, заместитель декана по научной работе факультета мировой экономики и мировой политики, директор ЦКЕМИ НИУ ВШЭ.

Важный и наглядный урок пандемии – технологии прекрасны, они повышают качество жизни, дают нам новые материалы, связь, общение, лекарства и те же вакцины. Повышают качество жизни и производительность труда. Жизнь становится гораздо удобнее. При этом у большинства успешных и популярных технологий остаётся абсолютно экономическая, а не политическая мотивация. Даже у социальных: технология эксплуатации жадности во многих вопросах оказалась куда сильнее любви к ближнему. И спасла массу жизней: пристёгиваться за рулём и сажать детей в автокресло люди на постсоветском пространстве начали именно из-за штрафов.

Но конкуренция компаний, мегакорпораций, соперничество государств вокруг интеллекта и технологий имеют разные грани. На уровне стран клуб самых умных по-прежнему весьма немногочисленный, но более демократичный, чем клуб военных технологий. Если страна рвётся в значимые страны, безальтернативно нужно развивать технологии и патенты: либо с упором на определённую специализацию, либо, если она претендует на статус сверхдержавы, всё сразу – такой «технологический напалм».

Самый простой и в чём-то, конечно, поверхностный критерий – это патенты. Почти две трети заявок – это азиатские патентные ведомства. Два из 3,2 миллиона всех мировых заявок – это Китай и США. 85% приходится на пять крупнейших патентных ведомств. На десятку приходится более 90%. Региональные лидеры, будь то Иран, Бразилия, Турция, Таиланд, тоже активны. Они активнее, чем их соседи по региону. Процесс логичный и достаточно линейный. Лидер по транспортным патентам – Германия, по электронике – страны Азии. Совершенно блистательна Корея – мировой лидер по числу патентных заявок на единицу ВВП.

Но если посмотреть на это со стороны мировой политики, международных отношений, выводы совершенно нелинейны. Французская компания LOreal – первая в мире по числу заявок на товарные знаки. И это совершенно не значит, что державы теперь должны взяться за разработку и маркетинг суверенной туши для ресниц.

Но что интересно – ни одна новая естественно-научная технология как таковая за последние полвека принципиально не поменяла силовой баланс в отношениях между странами, не изменила кардинально влияние страны на международной арене напрямую.

IT-компании пришли на рынки всего мира и стали продавать там свои товары и услуги. Интернет не создал вау-эффекта для мировой политики как таковой. Для политтехнологий – да. Для мира рекламы, сферы досуга, образования – безусловно. Для удобства жизни – безусловно. Даже для преумножения тщеславия. Но не для мировой политики.

Но технологии могут это делать. Например, ядерное оружие – политическая технология немедленного эффекта. Есть ли другие смертоносные технологии? Есть, по крайней мере, сопоставимые. Но именно ядерное оружие стало основой новой этической системы координат силы. Удобной, естественно, прежде всего для сильных. Может быть, такой новой рамкой станет кибероружие. Но пока его этические границы туманны. 

Интеллект, технологии и этика

Конечно, связь технологий и политики, технологий и государства есть. Но технологии, которые не раздвигают этические стандарты, не являются по-настоящему проблемой, вызовом и возможностью для государства как института и, соответственно, для мировой политики.

Этически-нейтральные технологии могут быть объектом конкуренции, колоссальных доходов, но государство как институт по-настоящему включается именно на этапе подвижной этики. Самая очевидная подвижка – это оружие массового поражения.

Как же определять эту нейтральность? Очень многие технологии вызывают яркие эмоции, но для оценки их влиятельности для государств важно разделять – это неэтично или непривычно? Одно совершенно не равно другому.

Сегодня это боевые роботы и дроны. Потому что их использование ставит вопросы об ответной реакции: этично ли за уничтожение арсенала дронов убивать солдат противника? Генетическая корректировка будущих детей, tailor-made малыши. Но что плохого в том, что дети точно не будут болеть какой-то страшной болезнью? Очень много страхов связано с антропоморфными машинами. Но милый болтающий домашний помощник – Alexa в США или Алиса в России не вызывает панических атак. Это просто совсем новое. Сможет ли машина шутить или врать? Может быть, это страшно, а может быть, ну и ладно. Придуманная людьми реклама нам врёт постоянно, а если врёт машина, то страх и ужас?

В заключение остановимся на технологиях цифровых платформ, где сходятся чисто этические вопросы свободы воли и алгоритмической предопределённости. Чистая битва или симбиоз трёх интеллектов: интеллекта естественного – пользователя, интеллекта тренированного – у разработчика и интеллекта искусственного.

Но алгоритмы, задающие выбор и поведение, не инновация. Помимо государств, с этим на определённом этапе отлично справлялась религия. Монастыри задавали рамки свободы воли и поддерживали информационные пузыри сильнее компании Google. Между готовностью раздавать информацию о себе сегодня и практикой исповеди пятьсот лет назад гораздо меньше различий в дизайне, чем может показаться. Цифровая исповедь просто имеет другое целеполагание: удобство, а не спасение души.

Мегакорпорации не озабочены вопросами этики в той мере, как они озабочены вопросами прибыли и стоимости акций. Этика – лишь постольку, поскольку это необходимо для сохранения и преумножение прибыли и роста стоимости акций. В части логики силовых, политических отношений между государствами и внутри государств изменилось куда меньше, чем в инструментах.

Поэтому интеллект, не искусственный, а вполне естественный и тренированный, будет максимально востребован государствами в вопросах балансировки технологии и этики, нормотворчества.

Кто будет первым с помощью интеллекта и технологий раздвигать этические границы, а потом огораживать их, как было с ядерным оружием, тот имеет шансы преуспеть в принципиально новых технологиях, меняющих уклад жизни и политические расклады. Иными словами, вопрос даже не в том, кто будет технологии создавать – государства, корпорации, распределённые сети учёных энтузиастов. Важно, кто будет монастырём, определяющим технологическую ересь и догму. Вот самая важная стратегическая точка приложения интеллекта в обозримом будущем, на мой взгляд.

Иван Тимофеев о V сессии «За что бороться? Интеллект как главный предмет конкуренции в XXI веке». Подкаст
20.10.2021
Данный текст отражает личное мнение автора, которое может не совпадать с позицией Клуба, если явно не указано иное.