Россия и глобальные риски
Автономные вооружения и законы войны

Автономные вооружения перекочёвывают из конструкторских бюро в арсеналы армий по всему миру, и сообщения об их применении на поле боя поступают всё чаще. Как ни странно, раньше других беспилотники стали использовать в различных конфликтах негосударственные военные формирования. О законах современной войны пишет Вадим Козюлин, заведующий Центром глобальных исследований и международных отношений ИАМП Дипломатической академии МИД РФ..

В 2020 году в мире случился 31 военный конфликт. События сентября – ноября 2020 года в Нагорном Карабахе отличались тем, что в боевых действиях участвовали регулярные армии Азербайджана и Армении. Эту войну можно считать первым столкновением относительно современных и равных по силе армий в XXI веке. В боевых действиях широко применялись ударные беспилотные аппараты, и их эффективность была многократно подтверждена видеокадрами, подлинность которых не вызывает сомнений. Наряду с вооружениями XX века, стороны применили перспективные виды вооружений – разведывательные и ударные беспилотные средства.

Примерное равенство потенциалов имеет значение, поскольку даёт возможность оценить, насколько автономные системы способны соблюдать международное гуманитарное право (МГП).

Многих экспертов удивил тот факт, что обе стороны конфликта почти не использовали пилотируемую авиацию – самолёты и вертолёты. Фактически эта война стала первой, в которой основные авиационные задачи – разведка, целеуказание, нанесение ударов – выполняли беспилотники.

Ударные автономные системы – объявить «вне закона»?

Опасения по поводу того, что смертоносные автономные системы (САС) будут не в состоянии соблюдать требования МГП, на сегодня являются основным аргументом сторонников запрета САС на международном уровне. Эта проблема беспокоит многие уважаемые международные неправительственные организации: Campaign to Stop Killer Robots, Article 36, Human Rights Watch, International Committee for Robot Arms Control.

Противники автономных вооружений опасаются, что САС, в частности, будут не в состоянии надёжно отличать гражданских лиц от комбатантов, не сумеют соразмерить силу удара с ожидаемым военным преимуществом, не позаботятся о том, чтобы принять меры предосторожности для безопасности гражданского населения и гражданских объектов и могут причинять противной стороне чрезмерные увечья или ненужные страдания – то есть боевые дроны станут нарушать законы ведений войны, которые детально прописаны в международном законодательстве.

Помимо риска нарушения МГП эксперты отмечают вероятность возникновения проблем с контролем над автономными системами, сложности с атрибуцией ответственности за действия САС, угрозу нарушения прав человека и фундаментальных моральных принципов в связи с применением силы машиной.

Конфликт и лидерство
Искусственный интеллект, автоматизация и ядерная стабильность: на пути к более сложному ядерному будущему
Эндрю Фаттер
Искусственный интеллект и автоматизация не обязательно должны подрывать стратегическую стабильность и ядерную безопасность, и в некоторых случаях они могут её даже усилить. Но, безусловно, если развитие в ядерной сфере не будет контролироваться, пагубные последствия в будущем вполне вероятны, пишет Эндрю Фаттер, доцент Департамента политики и международных отношений Университета Лестера.

Мнения экспертов


Примерно по этому поводу высказывался и Илон Маск: «Я думаю, что мы должны быть очень осторожны с искусственным интеллектом. Если бы мне пришлось гадать, в чём заключается наша самая большая экзистенциальная угроза, то, вероятно, именно в этом. Поэтому мы должны быть очень осторожны». Стивен Хокинг также говорил: «Успех в создании ИИ стал бы самым большим событием в истории человечества. К сожалению, он может оказаться и последним, если мы не научимся избегать риска».

В свете этих опасений заслуживает внимания применение автономных вооружений в недавнем конфликте в Нагорном Карабахе, где многие правозащитные организации зарегистрировали многочисленные нарушения международного гуманитарного права обеими сторонами.

Азербайджан широко использовал беспилотные летательные аппараты (БПЛА) разных типов:

  • турецкие ударные аппараты Bayraktar TB2 с высокоточными ракетами и бомбами;

  • несколько видов «дронов-камикадзе» малого размера, в частности барражирующие боеприпасы Sky Striker, Harop, Orbiter-1K и Orbiter-3. Некоторые из них наводятся на радиоизлучение радаров ПВО, другие полагаются на оптические, инфракрасные и иные датчики;

  • израильские разведывательно-дозорные беспилотники Heron TP и Hermes 4507;

  • переделанные под БПЛА древние бипланы Ан-2 в качестве приманки для ПВО, которая обстреливала их и тем самым выдавала свои позиции.

Армения оказалась обеспечена беспилотными аппаратами значительно хуже. Её вооружённые силы располагал арсеналом небольших беспилотников местного производства, пригодных для разведки и наведения артиллерийского огня, но не для ударных операций: дроны Х-55, «Крунк» и «Базе».

Следует отметить, что БПЛА и барражирующие боеприпасы пока не принято относить к смертоносным автономным системам, поскольку предполагается, что они не вполне автономны, ибо управляются и дистанционно контролируются операторами. Однако, проверить это практически невозможно, технически барражирующий боеприпас может быть полностью автономен и выполнять «миссию» без участия оператора. В любом случае можно считать его прототипом или прекурсором САС.

Воздушные дроны в основном не предназначены для ударов по живой силе. Однако, в первую очередь очевидно именно то, что автономные вооружения оказываются в состоянии хирургическими методами решать те задачи, для решения которых в XX веке требовались массированные удары.

В своём интервью президент Международного комитета Красного Креста Петер Маурер сказал: «Я не видел за восемь лет во главе МККК, и организация не видела за 157 лет существования, войны, которая бы не сопровождалась нарушениями Женевских конвенций и международного гуманитарного права». Возможно, в Карабахе автономные системы стали примером того, как вооружения XXI века смогут вести боевые действия с соблюдением правил ведения войны.

Международное гуманитарное право: поверить алгеброй гармонию

Основой принцип международного гуманитарного права – принцип проведения различий – предусматривает, что нападающая сторона обязана обеспечить:

1.                  Различие между гражданскими лицами и комбатантами

2.                  Различие между гражданскими объектами и военными объектами

3.                  Запрет на нападения неизбирательного характера (нападения, которые не направлены на конкретные военные объекты и которые, таким образом, поражают военные объекты и гражданских лиц или гражданские объекты без различия)

4.                  Соблюдение принципа соразмерности при нападении (запрещены нападения, которые, как можно ожидать, попутно повлекут за собой потери жизни и ранения гражданских лиц и ущерб гражданским объектам, которые были бы чрезмерны по отношению к предполагаемому военному преимуществу)

5.                  Соблюдение мер предосторожности при нападении (нападающая сторона обязана выяснить характер объектов нападения, выбрать средства и методы ведения войны, предварительно оценить последствия нападения и заблаговременно предупредить гражданское население о возможных угрозах).

6.                  Ограничение средств и методов ведения войны (запрет на излишние разрушения или причинение чрезмерных страданий).

При практическом анализе принципов МГП становится очевидным, что закон требует от военачальников наличия таких механических навыков и математических способностей, как:

  • распознание образов

  • способность отличить военных от гражданских лиц

  • способность распознавать и различать военные и гражданские объекты

  • знание технических характеристик собственных вооружений

  • знание возможностей вооружений противника

  • умение просчитать оборонительные действия противника и их боевую эффективность

  • способность рассчитать минимальные силы и средства, необходимые для достижения военных целей

  • умение определить способ нанесения минимального ущерба гражданским лицам и объектам при выполнении боевой задачи.

Для этого командиры должны располагать широкими знаниями, значительными аналитическими способностями и арифметическими навыками. Иными словами – обширной базой данных, высокой вычислительной мощностью и способностью к обработке «больших данных». То есть именно тем, чем обладают нейронные сети или искусственный интеллект. Сам принцип соразмерности (или в английском варианте – proportionality) указывает на математическую основу правил ведения войны.

Компьютер, вероятно, способен совершить все требуемые подсчёты на много порядков быстрее и точнее человеческого разума, отягощённого предрассудками, чувствами и рефлексией. Результаты применения автономных вооружений в Нагорном Карабахе могут послужить тому подтверждением. Эти расчёты окажутся ещё надёжнее, когда вооружённые силы сформируют «сетецентрическую систему», объединяющую вычислительные мощности и различные ресурсы с помощью военного «облачного хранилища». Этим сегодня заняты все передовые армии мира. И даже если прототипы (прекурсоры) САС не смогут соперничать с человеком в соблюдении МГП, следующие поколения автономных вооружения станут «образцовыми солдатами» и опередят человека подобно тому, как компьютер вышел в лидеры в шахматах или игре Го.

В случае, когда нарушения МГП со стороны автономных систем будут зафиксированы, системы регистрации или «чёрный ящик» с записью основных параметров послужат инструментом для расследования.

Здесь следует сделать оговорку: пока мы можем судить об автономных системах только на примере воздушных ударных беспилотников, для которых основной мишенью служит не человек, а машина. Ситуация может оказаться иной, когда на поле боя выйдут наземные автономные дроны. Несколько десятков стран сегодня совершенствуют свои беспилотные боевые машины. Наземные роботы в боевых действиях, где неизбежен контакт с людскими массами, могут потрясти мир своей «эффективностью».

Однако представляется, что главной проблемой смертоносных автономных систем будет не неспособность соблюдать МГП, а отсутствие представления о человеческом достоинстве. Самый умный компьютер будет оставаться бездушной машиной, не способной, к примеру, осмыслить оговорку Мартенса и соблюдать «принципы гуманности и требования общественного сознания». Человечность и гуманность едва ли поддаются «оцифровке». Этот недостаток надолго, а возможно, и навсегда, останется родимым пятном любого самого умного аппарата. По этой причине человек не должен выпустить из рук контроль над автономными вооружениями. Машина, какой бы продвинутой она ни была, не должна получить право лишать человека жизни.

Технологии против здравого смысла

Ценность человеческого достоинства могла бы стать достаточным аргументом в пользу запрета или строгого ограничения САС. Однако, это представляется невозможным по ряду чисто технических и политических причин:

  • Испытания дистанционно управляемых наземных роботов в ряде стран показали, что эффективная дальность радиосвязи с оператором не превышает 2–5 км. В автономном режиме наземный робот будет способен действовать на удалении до 500 км. Ограниченная радиосвязь становится техническим препятствием, заставляющим военных разрабатывать абсолютно автономные режимы использования САС.

  • Современные боевые действия предусматривают активное применение средств радиоэлектронной борьбы (РЭБ) для подавления или изменения качества управления, связи и разведки противника. В настоящее время эта разновидность вооружённой борьбы переживает заметный подъём. Радиоэлектронное подавление считается одним из эффективных средств борьбы с автономными системами.

У разработчиков нет универсального решения для сохранения контроля над дистанционно управляемым боевым роботом, подвергшимся РЭБ-атаке. Возможные сценарии для потерявшего связь дрона таковы:

  • попытаться выйти в район с устойчивой связью

  • вернуться на базу

  • остаться на месте до получения указаний

  • перейти в автономный режим.

С точки зрения военных, последний вариант должен быть предусмотрен, как тот «бронепоезд на запасном пути».

  • Новые технологии САС, как правило, возникают не в головах военных стратегов или политических лидеров. Их порождают лаборатории, выпестовывает промышленность и продвигают на вооружение армий лоббисты. То есть военные технологии развиваются при слабом общественном контроле в режиме гонки вооружений, которая до поры до времени остаётся скрытой от глаз стенами конструкторских бюро.

  • Верификация САС представляется технически сложной, но не невозможной задачей. Видеоролики в интернете подтверждают, что применение высокоточных боеприпасов неплохо «протоколируется»: оператор осуществляет видеозапись, которая, вероятно, хранится в архиве министерства обороны. То есть теоретически существует возможность при необходимости изучить обстоятельства конкретного случая применения оружия. Значит, возможно заключить международное соглашение о предоставлении такого рода видеосвидетельств в определённых случаях. Такие материалы могли бы служить подтверждением того, что оператор сохранял контроль над беспилотным аппаратом при осуществлении атаки.

  • Однако для большинства передовых армий мира при рассмотрении верификационных мер будут превалировать соображения секретности. Верификационные механизмы неизбежно начнут вторгаться не только в организационные механизмы воинских подразделений, но также в техническое устройство и программное обеспечение новейших вооружений. Кроме того, верификационные меры по контролю над САС будет нетрудно обойти, ведь, в конце концов, вся разница между автономным и дистанционно управляемым аппаратом скрыта в программном обеспечении, которое, в отличие от «бронепоезда на запасном пути», легко утаить. И здесь контроль над САС упирается в проблему глобального политического недоверия.

  • Мир возвращается к временам холодной войны. Планета испытывает дефицит доверия, и новые информационные и кибертехнологии только обостряют ситуацию. Когда вся система контроля над вооружениями распадается под реальными и надуманными предлогами, едва ли можно надеяться на взаимопонимание в такой чувствительной сфере, как контроль над САС.

В силу подобных обстоятельств полный запрет САС представляется невозможным. Однако, политическая декларация, участники которой взяли бы обязательства придерживаться сохранения человеческого контроля над беспилотными ударными системами, может оказаться приемлемой альтернативой бесконтрольному распространению «автономных терминаторов» по планете. В пользу этого говорят одиннадцать принципов, принятые в сентябре 2019 года Группой правительственных экспертов по новым технологиям в области смертоносных автономных систем вооружения. Один из принципов гласит: «Должна быть сохранена ответственность человека за решения о применении оружейных систем, поскольку ответственность не может быть переложена на машину». В конце концов, человечество отличает от машин гуманизм, человечность и бережное отношение к человеческому достоинству.

Россия и глобальные риски
Беспилотники над Карабахом: революция или очередной рабочий день?
Александр Ермаков
Неверно говорить, что революция дронов в войне случилась во время карабахских столкновений. Она произошла пару десятилетий назад. То, что было нового в прошлые месяцы, – это демонстрация того, что БПЛА массово и вполне удачно применяют уже военные державы не первого и даже не второго эшелона. Удача же во многом зависит от организованности противника, а в этом аспекте армянская сторона показала себя достаточно слабо, пишет эксперт Российского совета по международным делам Александр Ермаков.


Мнения экспертов
Данный текст отражает личное мнение автора, которое может не совпадать с позицией Клуба, если явно не указано иное.