Юриспруденция и искусственный интеллект: наступает эпоха беспрецедентных вызовов

29.05.2017

22 мая, в рамках деятельности Клуба-2035, прошла закрытая экспертная дискуссия клуба «Валдай» и АО «РВК» «Юриспруденция: что ждёт право в эпоху роботов и искусственного интеллекта?». Участники обсудили тему, важность которой ещё не до конца осознаётся мировым юридическим сообществом, так как мы находимся в самом начале эпохи передачи людьми полномочий в самых разных областях системам под управлением искусственного интеллекта (ИИ). Как отметил модератор дискуссии Андрей Сушенцов, программный директор клуба «Валдай», применительно к юридической сфере – это такие вопросы, как принятие решений роботами в области гражданского делопроизводства и применения силы при отсутствии этической прозрачности, существующей в мире людей.

Владислав Шершульский, директор по технологической политике Microsoft, посвятил своё выступление обзору проблем, возникающих в этом контексте на границе между юридической практикой и технологической реализацией. Также он обсудил юридическую базу для регулирования вопросов, связанных с искусственным интеллектом, которая уже создаётся в некоторых странах.

Шершульский высказал мнение, что в плане производства информации эпоха антропоцентризма подходит к концу. К 2020 году почти три четверти информации будет создаваться электронными устройствами, прежде всего устройствами интернета вещей. Постепенно они становятся экономическими субъектами, поэтому имеет смысл предоставлять им экономические полномочия, в частности – право производить платежи. В этом ключевую роль будет играть технология блокчейн.

Немалую озабоченность в развитых странах вызывает потенциальное влияние искусственного интеллекта на ситуацию на рынке труда, отметил Шершульский. Уже сейчас появляются прототипы роботов-водителей, полицейских, музыкантов, врачей, юристов и брокеров, и в будущем этот список будет расширяться. Встаёт вопрос о правах и обязанностях роботов, а также о том, могут ли информационные объекты обладать свободой воли/выбора.

Немаловажной является и проблема морали применительно к компьютерным системам. Может ли информационный агент сознавать последствия и делать моральный выбор в сложных ситуациях? Как он решит для себя так называемую «проблему вагонетки»? Исследования показывают, что люди – утилитаристы, рассказал Шершульский: в ситуации тяжёлого морального выбора они готовы пожертвовать человеческой жизнью, исходя из своих представлений о ценности тех или иных членов общества. Как поступит машина? Вскоре информационные системы смогут принимать важные решения, касающиеся финансовых транзакций, управления автомобилями, медицинских процедур и применения оружия. Кто будет отвечать за последствия? Все эти вопросы требуют серьёзной дискуссии.

Говоря о правовом регулировании вопросов правосубъектности искусственного интеллекта, Шершульский выделил два основных подхода. Согласно первому, основную роль играют индустрия и учёные, опора делается на существующее регулирование и принцип «минимального вмешательства» в развитие новых отраслей и сервисов, а также создание и поддержку саморегулирующихся организаций поставщиков и потребителей. Второй же предполагает ведущую роль законодателей и государственных органов в создании специальных институтов по регулированию и поддержке развития искусственного интеллекта и робототехники, «превентивное регулирование» через систему рамочных нормативных актов и выработку стандартов.

В заключение Шершульский представил видение хорошего «ИИ-общества», основанное на воззрениях современного итальянского философа Лучиано Флориди. Это развитое информационное общество, в котором выгоды от использования информационных технологий являются значительными, естественными и ожидаемыми во всех областях, разработки в области ИИ и робототехники являются одним из базовых приоритетов. Цели, методы, мероприятия и результаты исследований, разработок и использования ИИ открыто и полно обсуждаются и согласовываются между гражданским обществом, производителями, учёными и государственными органами. В ИИ-обществе существует тщательный общественный и профессиональный контроль над потенциально опасными областями, и налажено соответствующее международное сотрудничество. Наконец, инфосфера и биосфера развиваются в гармонии и поддерживают друг друга, а не конкурируют.

Олег Бяхов, ассоциированный партнёр IBM Institute for Business Value, сфокусировался в своём выступлении на том, как искусственный интеллект в ближайшее время войдёт в юридическую практику. По его словам, это будет происходить по принципу “robots will take your work, not your jobs”, то есть роботы будут брать на себя рутинные операции, но не отнимать рабочие места у людей. Речь идёт о роботизации таких процессов, как управление затратами на приобретение доступа к информации, поиск правильной внешней экспертизы для получения доказательной юридической базы и определение соответствия документов нормативным требованиям. Иными словами, ИИ возьмет на себя то, что приносит юристам наименьшее профессиональное удовлетворение, позволяя им креативно заняться бесчисленными новыми вызовами, которые возникнут с приходом ИИ в юриспруденцию.

Одной из проблем, связанных с системами искусственного интеллекта, в том числе, в юридической практике, Бяхов назвал ограничение уровней доступа к знаниям. По его словам, проблему нежелания делиться практиками и знаниями решает контейнирование знаний внутри облачных сред.

В ходе последовавшей дискуссии Дмитрий Белоусов, руководитель направления анализа и прогнозирования макроэкономических процессов «Центра макроэкономического анализа и краткосрочного прогнозирования», указал на вызовы в сфере безопасности, связанные с применением искусственного интеллекта, не затронутые другими участниками дискуссии. Он напомнил об инциденте 1988 года с крейсером Vincennes, боевая система которого приняла иранский пассажирский самолёт за боевой, и капитан корабля, на которого обрушился поток информации, принял решение о ракетном ударе, в результате которого погибло 290 авиапассажиров. Новые технологии, по словам Белоуслова, также не гарантируют избежания подобных ошибок, а более того – создают новые вызовы.

Подводя итог дискуссии, Андрей Сушенцов отметил, что, несмотря на все достижения искусственного интеллекта и информатизации, международное сообщество находится в состоянии неопределённости. Возможно, настанет момент, когда ИИ позволит оценивать совокупность фактов и последствия для международных отношений и будет влиять на принятие политических решений. Вопрос в том, насколько бы будем мы довольны результатом.

Материалы по теме

Медиа будущего: технологические тренды
30.06.2017
28 июня состоялась экспертная дискуссия клуба «Валдай» и РВК «Медиа будущего: технологические тренды и социокультурные последствия». Участники обсудили грядущие перемены в медиапространстве и

Рубрика:
События клуба
Проектное управление снимает противоречие между лидерским и командным методами…
15.06.2017
В ходе совместной сессии клуба «Валдай» и ОАО «РВК» в рамках конференции U-novus в Томске генеральный директор Фонда новых форм образования Марина Ракова рассказала о своём видении системы подготовки

Эксперт: 
Марина Ракова

Календарь

Мультимедиа

Популярные теги

Вестник клуба

Будьте в курсе главных событий
Подписаться