Можно только поражаться, как в современном мире уживаются самые удивительные изобретения, фантастический прогресс и дикое, кровавое варварство, жестокость, чудовищное насилие. Но на самом деле в этом ничего удивительного нет. Так было всегда. На всём протяжении человеческой истории. Но иногда прогресс менял образ жизни людей не менее радикально, чем самые жестокие войны. И вопрос в том, а что же всё-таки нам принесёт искусственный интеллект. Есть разные точки зрения по этому вопросу.
Мы много говорим о будущем, о влиянии на это будущее самых разных факторов (политических устремлений тех или иных лидеров, переменчивости настроения элит или их способности к консолидации), о природных ресурсах, о тех или иных объективных обстоятельствах международных отношений, часто связанных с техническими возможностями разных стран, наконец, о военной силе, которая вовсе не сводится к военному духу солдат, а в значительной степени зависит от качества вооружений у этих самых солдат (возможно даже, что с хорошим оружием они храбрее) и Бог весть ещё о чём.
Но всё это в совокупности опирается на те удивительные, изменившие жизнь изобретения, которые сделали люди на протяжении многих лет своей истории: железо, порох, космические корабли, генную инженерию, печать и иное, не менее важное. Создание ИИ, конечно же, относится к числу таких, видимо, судьбоносных изобретений, которые в состоянии повлиять на развитие человечества как такового, на все его общественные и политические конструкции.
Практически все изобретения начиная с первых дней существования человека разумного служили, конечно, не только прогрессу человечества, но и тому, что можно назвать внутривидовой конкуренцией. То есть изобретения помогали одним людям взять верх, как-то выдвинуться по сравнению с другими. Человек, ловче других управлявшийся с каменным топором, мог и дров себе быстрее других заготовить, и зверюгу какую завалить, чтобы затем красоваться в её шкуре перед соплеменниками, и в крайнем случае укокошить ловким ударом соперника в схватке за женщину. В общем, самые первые орудия труда сразу породили неравенство (хотя справедливости ради замечу: вначале оно было весьма умеренным).
Так что нет сомнений, что искусственный интеллект, как и всякое значительное изобретение, сыграет колоссальную роль в ускорении нашей внутренней социальной конкуренции. В своё время великий этолог Конрад Лоренц заметил, что внутривидовая борьба куда существенней межвидовой. Одним из примеров может служить мельтешение пёстрых рыбок в тропическом море у кораллового рифа. Полосатенькие и красненькие, с длинным хвостом и с коротким мирно покусывают различные части коралла. Между ними нет вражды, они не мешают друг другу, но стоит оказаться в одном месте, к примеру, двум красненьким, как спокойствие нарушается. Дело в том, что они едят одно и тоже. И у каждого куста коралла может прокормиться только одна красненькая. Двоим места нет.
У людей всё и хуже, и лучше. С одной стороны, мы все похожи, а с другой – полное равенство невозможно, а ресурсов всегда на всех не хватает. Люди создали очень сложные общества, в которых научились более или менее ловко регулировать неизбежную социальную конкуренцию. Однако развитие, новые изобретения постоянно подбрасывают новые вызовы.
Вот, например, появление автомобилей сразу же образовало новую иерархию в обществе. Кто-то ездит на дорогущих суперкарах, кто-то – на скромных и невзрачных машинках. Но вместе с тем умение водить машину лучше других не создаёт особых социальных преимуществ. Карьеру водителя трудно считать мечтой, исполнение которой является символом социального успеха. Скорее наоборот. Конечно, если речь не идёт о гонщике «Формулы-1» класса Льюиса Хэмилтона или Фернандо Алонсо.
Появление компьютеров способствовало развитию новых профессий. Но продвижение в этих профессиях по карьерной лестнице, хотя, конечно, и зависело от умения пользоваться ЭВМ, но не критически. Квалификации самого лучшего токаря, к примеру, недостаточно, чтобы стать директором завода. Точно также квалификация ИТ-специалиста, компьютерщика, работает на низком и среднем уровне. Высшие эшелоны в этой сфере формируются скорее по обычным, человеческим принципам: коммуникационная ловкость, настойчивость, морально-волевые качества и так далее.
В то же время были изобретения, которые обостряли конкуренцию настолько, что мог поменяться весь антропогенный ландшафт.
Когда-то на Земле сосуществовали разные породы людей. Так, кроманьонцы (в общем, это мы) жили рядом с неандертальцами (в какой-то степени это тоже мы, но в очень незначительной). После долгих лет сожительства неандертальцы вымерли. И одно из объяснений их погибели заключается в том, что кроманьонцы были более ловкими в использовании орудий труда и в коммуникации друг с другом. Есть, конечно, и иные объяснения. На нынешнем уровне знаний мы точного ответа не имеем. Остаётся только ждать вмешательства ИИ.
Открытие железа изменило ход войн и привело к падению целых держав и усилению рабства в результате роста эффективности применения оружия и увеличения количества пленных.
Специалисты рассказывают о влиянии лошадей, стремян и колесниц на социальную структуру, на формирование социально-политической иерархии.
То есть я хочу сказать, что изобретение изобретению рознь. Одни изобретения хоть и влияют на жизнь общества, но не приводят к быстрым и радикальным последствиям, другие могут оказаться куда более опасными.
Есть, например, такая точка зрения, что многое в трагедии красных кхмеров и Камбоджи было связано с тем, что жившие в полукаменном веке горцы этой страны получили в свои руки огнестрельное оружие. У них не было опыта обращения с ним, их культура не выработала рецептов, концепций использования такого средства насилия. С помощью дубины можно, конечно, перебить много народу, но с пулемётом куда ловче. Конечно, беду Камбоджи одним появлением огнестрельного оружия не объяснить, но стреляли-то всё-таки из ружей. Без них бы не получилось.
Так что изобретения важны. В своё время Эрик Шмидт, один из архитекторов современной информационно-коммуникационной среды, заметил, что изобретение интернета стало опаснейшим и слабо контролируемым экспериментом с анархией. А генеральный директор Google Сундар Пичаи сказал, что переход к ИИ по своим последствиям будет масштабнее перехода к персональным компьютерам и мобильным устройствам.
Вопрос в том, сколь же масштабные последствия можно ждать от ИИ.
Я, конечно же, не имею в виду никакие восстания машин, никакие схватки умных роботов и людей и прочие фантазии изобретательных кинематографистов.
Кто-то работает над статьёй, диссертацией, просто анализирует данные. ИИ способен помочь человеку сделать эту работу на порядки быстрее. Во многих случаях ИИ способен обработать столько данных, сколько обычный исследователь не сможет изучить за всю его жизнь. Де-факто ИИ может стать интеллектуальным продолжением человека. Равно как ружьё позволяет убивать на расстоянии километров, чего никак не сделать с помощью просто мускульной силы.
Помимо всего прочего, очень скоро ИИ станет незаменим на поле боя. Ни один самый талантливый офицер не справится с оперативным управлением сражением, в котором участвуют тысячи, а то и десятки тысяч единиц самой разной техники, сотни тысяч, а то и миллионы людей или весьма возможных вскорости боевых роботов. ИИ, воспитанный этим офицером, может оказать неоценимую помощь и учесть все данные в одну минуту или секунду. Это зависит от быстродействия машины.
Но я не о технических вопросах. Я о том, что в силу своей уникальности ИИ может способствовать совершенно невероятному росту неравенства.
Во-первых, могут быть люди, которые значительно лучше других освоили ИИ, сроднились с ним. Они как бы получили новый мозг и руки. И превратились в людей высшего сорта. Другие почти неизбежно отстанут от них. Де-факто возникнет транснациональное сообщество исключительно интеллектуально одарённых людей. И драма исчезновения неандертальцев, вытесненных кроманьонцами, может повториться. Те, кто отстанет интеллектуально, то есть не справится с эксплуатацией ИИ, могут стать людьми второго сорта в самом прямом смысле этого слова.
Во-вторых, страны, способные уверенно пользоваться, создавать ИИ, собирать коллективы специалистов, получат такое преимущество перед менее развитыми странами, какое атомное оружие не дать не сможет. Пользоваться атомным оружием очень неудобно. Оно громоздкое, последствия жуткие, а вот ИИ может так манипулировать другими, что никто и не заметит. Манипулировать, конечно, будет не ИИ, а человек, который им овладел.
В-третьих, в целом можно получить большую проблему с восприятием реальности массами. Точнее, одни люди получат возможность формировать картину мира в глазах других. И это будет круче любой «Матрицы». Причём эта угроза уже реализуется: множество людей фактически не имеет возможности отличить ложь от правды, достоверные сведения от недостоверных. Пока на такую нехитрую операцию с общественным мнением хватает лояльных и сервильных журналистов – посмотрите, как ловко управляются с фактами на многих каналах, например на CNN. Активное же внедрение ИИ в информационно-коммуникационную среду позволит создавать целые выдуманные или фальшивые миры, из которых будет крайне трудно выбраться.
Благодаря тому, что ИИ становится повседневным инструментом, возникает множество рисков. Повторю, рисков, связанных с людьми, которые ИИ используют. Сам по себе ИИ в обозримом будущем ничем особо опасным нам не грозит. Наоборот, в помощь.
Так что, как мне кажется, человечеству стоит подстраховаться. Наверное, контроль должен быть двойным. С одной стороны, в самой архитектуре ИИ должны быть изначально предусмотрены какие-то ограничения. С другой стороны, объектами контроля в какой-то степени должны быть и хозяева этих ИИ, то есть люди.
Понятно, что такие масштабные действия практически нереализуемы, поскольку для всего этого нужно широкое международное согласие, а его нет и в ближайшем будущем не предвидится. Скорее стоит ожидать ожесточённого применения ИИ на поле боя.
Дарио Амодей, директор компании Antropic, недавно заметил, что возможности ИИ стоит рассматривать как появление на мировой арене нового государства, населённого исключительно высокоинтеллектуальными людьми, государства, у которого нет границ и гражданство которого никак не фиксируется. И такая сила может направить свои устремления куда угодно. А с учётом особенностей человека – понятно куда. К новому господству и новому неравенству.
Я не склонен переоценивать риск такого развития. Вероятность не слишком велика, люди почему-то очень устойчивы как в стремлении к добру, так и в своей греховности. Но новая опасность, новая угроза всё же есть. А тогда мы можем увидеть формирование обществ нового типа, в которых расслоение будет происходить не по биологическим признакам – кто сильнее или выше. И не по внешним параметрам – богатство, статус, известность, обладание более мощным оружием или же природная агрессивность. Нет, не жадность и не тупое желание превосходства над окружающими станут формировать новый социальный порядок. В основе может оказаться сплочение амбициозных, образованных интеллектуалов, решивших заняться прежде всего самоорганизацией. Что из этого выйдет – Бог весть. Посмотрим.
В общем-то, сам по себе некий симбиоз человека и машины не является ни добром, ни злом. И надо всячески развивать ИИ. Но всё же не стоит забывать о рисках, негативном варианте развития события. Вероятность нового удивительного кошмара в роботизированном каменном веке есть.
