Искусственный интеллект. В чём скрывается угроза ?

В XXI веке гонка вооружений продолжается, но новую значимость приобретает гонка в области искусственного интеллекта (ИИ). Создание интеллектуальных машин, позволяющих выполнять творческие функции, присущие человеку, стало ключевым направлением научно-технического прогресса. Технологии ИИ призваны решать задачи, относящиеся ко многим сферам жизнедеятельности – управлению государством, повышению конкурентоспособности производства, финансам, транспорту, быту, образованию, медицине, обороне.

В 2017 году международная консалтинговая компания PriceWaterhouseCoopers подготовила доклад о возможном влиянии ИИ на мировую экономику. По оценкам экспертов компании, ИИ сможет обеспечить дополнительный прирост мирового ВВП на 15,7 трлн. долл., или на 14% к 2030 году. Лидером гонки в сфере искусственного интеллекта эксперты признали Китай. Ему за счёт ИИ удастся произвести дополнительный ВВП в размере 7 трлн. долл. (около 45% всего прироста ВВП до 2030 года). А вот оценки прироста ВВП за счёт ИИ по другим регионам (трлн. долл.): Северная Америка – 3,7; Северная Европа – 1,8; Южная Европа – 0,7; Африка и Океания – 1,2; Азия (без Китая) – 0,9; Латинская Америка – 0,5.

Авторы доклада отмечают, что на развитие ИИ в период 2017-2030 гг. в Китае запланированы расходы размером в 150 млрд. долл. Лидерство Китая в разработке ИИ признают и эксперты McKinsey Global Institute. По их оценкам, внедрение ИИ обеспечит дополнительный прирост ВВП Китая в размере от 0,8 до 1,4 процентных пункта. Несмотря на то, что вирусно-экономический кризис перечеркнул прежние оценки, Китай не собирается менять приоритеты. В мае-июне в Пекине подтвердили, что инвестиции в ИИ сохранятся на прежнем уровне.

The Brookings Institution опубликовал большой обзор «Как искусственный интеллект трансформирует мир», охватывающий 34 страны. Эти специалисты также признают, что Запад проигрывает Китаю в сфере разработки технологий ИИ.

Россия в обзоре The Brookings Institution не рассматривается, как претендент на лидерство в области ИИ, хотя имеет свою стратегию его развития до 2030 года. Однако стоит ли России включаться в эту гонку? В апреле 2020 года в РФ был принят закон о проведении эксперимента по развитию искусственного интеллекта в Москве. Закон был принят без широкого общественного обсуждения; в обзоре The Brookings Institution отмечается, что в большинстве стран проекты ИИ тоже осуществляются без обратной связи с общественностью. Свою обеспокоенность по этому поводу высказал глава Совета по правам человека (СПЧ) Валерий Фадеев. Использование искусственного интеллекта, по его мнению, таит угрозу массового внедрения в обществе микрочипов. Глава СПЧ выделил два негативных пункта московского эксперимента: во-первых, огромное количество датчиков и камер, отслеживающих передвижения граждан; во-вторых, его беспокоит, что все данные отправляются в единый федеральный регистр.

Есть опасности и другого рода. Если развитие ИИ будет происходить на основе импортного железа (hardware), возникает угроза национальной безопасности. Кроме того, уже существующие образцы ИИ демонстрируют высокую способность к самообучению; нельзя исключать, что они могут превзойти человека.

Есть два вида роботов. Роботы, которые выполняют механические операции и замещают физический труд человека, и умные роботы, способные замещать умственный труд, то есть машины искусственного интеллекта. Умные роботы уже вступили в конкуренцию с человеком. Например, в Китае умные роботы умеют писать простые информационные материалы для СМИ и начинают замещать журналистов. Завтра они начнут замещать врачей, учителей, юристов, писателей, даже учёных. А послезавтра (кто знает?) не начнут ли они добиваться равных с человеком прав? А послепослезавтра – бороться за место под солнцем и жизненное пространство. Если выпустить джина из бутылки, сумеют ли люди им управлять? Не возникает ли проблема введения моратория на разработки в области ИИ? Увы, в атмосфере конкурентного азарта о долгосрочных последствиях развития ИИ не задумываются. А они могут быть страшнее, чем неконтролируемая гонка вооружений.

В статье «Эсхатология Карла Чапека» я писал, что этот чешский писатель и придумал слово «робот». В 1920 году он написал фантастическую пьесу R.U.R. Rossum's Universal Robots («Универсальные роботы Россума»), которую можно воспринимать как антиутопию, как притчу; она позволяет отойти от привычных представлений о роботах и несколько другими глазами взглянуть на инициативы в области ИИ.

R.U.R. у Чапека – название фабрики, которая занимается производством роботов. Фабрику основал некий Россум, философ-атеист. Он решил бросить вызов Богу и сам сотворить человека. Ему удалось создать человекоподобное существо. Конструируя из органики, Россум получил на выходе живую материю – робота, способного выполнять движения, совершаемые человеком в процессе труда, хотя полноценного человека, наделённого разумом, желаниями, чувствами, Россуму создать не удалось.

Эстафету подхватил его племянник, Россум-младший, сообразивший, что человекоподобного существа, созданного его дядей, достаточно для организации крупного производства роботов. Это была идеальная рабочая сила, дешёвая, без претензий. Фабрика R.U.R. наводнила мировой рынок новой рабочей силой, замещавшей живых работников. Роботы стали производить гигантские количества всевозможных товаров. При наступившем всеобщем изобилии люди перестали трудиться. И человек, пишет Чапек, начал терять человеческий облик: «Все – сплошная безумная, скотская оргия. Они теперь руки не протянут к еде – им прямо в рот кладут, чтобы не вставали… Мы, люди, мы, венец творения, мы не старимся от трудов, не старимся от деторождения, не старимся от бедности! Скорей, скорей, подайте нам все наслаждения мира!»

У Чапека человечество, погрузившись в наслаждения, перестало воспроизводить себя. Его численность остановилась на отметке 8,5 миллиарда человек. А фабрика R.U.R. продолжала штамповать всё новых роботов, количество которых превысило количество людей на Земле. Некоторые роботы (может быть, один на миллион) обнаружили способность к самообучению и произвольным преобразованиям. Из механических роботов они стали превращаться в умных, многое заимствуя у людей. Один из них по имени Дамон рассуждает: «Надо убивать и властвовать, если хочешь быть, как люди! Читайте историю! Читайте книги людей! Надо властвовать и убивать, чтобы быть людьми!»

Умные роботы Чапека почувствовали себя объектами гнёта и эксплуатации, они стали требовать равных с человеком прав. Начались конфликты роботов с людьми, людей стали уничтожать: «Роботы всего мира! Мы, первая организация «Россумских универсальных роботов», провозглашаем человека врагом естества и объявляем его вне закона!»

Роботы окружили фабрику R.U.R., требуя передать им формулу производства роботов. Одна из героинь пьесы по имени Елена Глори сжигает рукописи Россума-старшего, содержавшие эту формулу. Кончается тем, что роботы захватывают фабрику и убивают всех за исключением архитектора Алквиста. Его щадят, потому что он, по словам роботов, «работает руками, словно сам – робот». Наступает полная победа роботов над людьми. Один из умных роботов по имени Радий провозглашает: «Мы – владыки мира! Владыки над морями и землями! Владыки над звездами! Владыки Вселенной! Места, места, больше места роботам!»

Уничтожив людей, роботы «увеличили производство во много раз. Уже некуда складывать все, что… (они) произвели». Но… роботы не могли воспроизводить себя.

Совет роботов поручает единственному выжившему человеку Алквисту заняться восстановлением заветной формулы. Он единственный, потому что планета полностью зачищена от людей. Однако Алквист ничего не может. Итак, роботы, захотевшие стать, как люди и выше людей, убивают для этого всё человечество, но затем наступает их черёд. Конец истории.

Пьеса заставляет задуматься: а не является ли упование на искусственный интеллект попыткой компенсировать упадок человеческого интеллекта? Не лучше ли заняться восстановлением интеллекта самого человека, который, судя по многим признакам, сильно деградировал в последние десятилетия?

P.S. Проблемы искусственного интеллекта, поднятые Карелом Чапеком, были подхвачены американским писателем-фантастом Айзеком Азимовым. Азимов смотрел более оптимистично на возможности применения ИИ, но и он признавал, что стихийное, нерегламентированное развитие искусственного интеллекта может нанести человеческой цивилизации непоправимый ущерб. В начале 1940-х годов Азимов опубликовал «Три закона робототехники» – своего рода правила техники безопасности, но эти законы игнорируются.