Антиутопии или пророчества?
Говорят, что по способности предвидеть будущее Оруэлл, автор бессмертных романа «1984» и повести «Скотный двор», превзошел даже Нострадамуса, таинственного предсказателя XVI века.
Когда 39 лет назад наступил тот загадочный 1984-й год, журнал «Футурист» подсчитал: из 137 пророчеств писателя к тому моменту сбылись ровно 100. Сегодня, когда мы отмечаем 75-летие рождения романа «1984», число сбывшихся пророчеств заметно увеличилось. В списке сбывающихся на наших глазах предсказаний и такое, как искусственный интеллект.
Конечно, термин «искусственный интеллект» (artificial intelligence) в работах английского писателя не встречается. Но идея искусственного интеллекта (ИИ) в романе «1984» витает. Речь идет о такой функции ИИ, как создание текстов. Причем в романе речь идет не о каких-то примитивных, стандартизированных текстах (типа финансовой отчетности), а о текстах литературных. Такая, с позволения сказать, «литературная деятельность» была организована в Министерстве правды. И к ней причастна героиня романа по имени Джулия. Она работала «в отделе литературы на машине для сочинения романов. Работа ей нравилась — она обслуживала мощный, но капризный электромотор. Она была «неспособной», но любила работать руками и хорошо разбиралась в технике».
В другом месте мы читаем о работе Министерства правды: «Существовала целая система отделов, занимавшихся пролетарской литературой, музыкой, драматургией и развлечениями вообще. Здесь делались низкопробные газеты, не содержавшие ничего, кроме спорта, уголовной хроники и астрологии, забористые пятицентовые повестушки, скабрезные фильмы, чувствительные песенки, сочиняемые чисто механическим способом — на особого рода калейдоскопе, так называемом версификаторе». Итак, машина по созданию текстов называлась «калейдоскопом», или «версификатором». В словарях иностранных слов версификатором называют человека, который легко сочиняет стихи, но лишён поэтического дара. По-русски таких называют «рифмоплетами». Так вот в Министерстве правды машинный рифмоплет занимался созданием примитивной продукции, предназначенной для непритязательной публики, «низов» общества (кои в Океании, где происходят события романа, составляют подавляющее большинство населения). Сегодня такую продукцию называют «массовой культурой», или «поп-культурой».
Большую часть населения Лондона составляли пролетарии (или «пролы»), которые распевали песенки, создавшиеся в недрах Министерства правды. Читаем: «Последние недели весь Лондон был помешан на этой песенке. Их в бесчисленном множестве выпускала для пролов особая секция музыкального отдела. Слова сочинялись вообще без участия человека — на аппарате под названием «версификатор»».
Конечно, аппараты для сочинения текстов были, скорее всего, чисто механическими устройствами, а не электронными (как сегодня). И героиня романа Джулия даже получила травму при обслуживании версификатора: «…девица сломала руку, поворачивая большой калейдоскоп, где "набрасывались" сюжеты романов». Оруэлл иронично добавляет: «Обычная травма в литературном отделе». Т.е. работали над созданием текстов не столько головой, сколько руками.
В своей книге Оруэлл говорит о том, как в принципе в «дивном новом мире» будет организована научно-техническая деятельность. Многие направления научно-технического прогресса вообще отомрут. Прежде всего, те направления, которые в старом обществе обеспечивали производство жизненно необходимых товаров и услуг. А приоритетными станут те, которые создают оружие массового поражения или те, которые лишают человека свободы.
Читаем: «Поиски нового оружия продолжаются постоянно, и это одна из немногих областей, где еще может найти себе применение изобретательный или теоретический ум… технический прогресс происходит только там, где результаты его можно как-то использовать для сокращения человеческой свободы. В полезных ремеслах мир либо стоит на месте, либо движется вспять. Поля пашут конным плугом, а книги сочиняют на машинах». Вот так: в «полезных ремеслах» будет застой или даже регресс, а вот книги будут сочинять на машинах!
А теперь перенесемся в сегодняшний день. Проявления застоя и даже регресса в промышленности, сельском хозяйстве и других отраслях реального сектора экономики сегодня налицо. А научно-технический прогресс (НТП) сконцентрировался на таких немногих направлениях, как создание цифровой валюты центральных банков (CBDC), «зеленая энергетика», «альтернативное питание» (замена мяса насекомыми), генная инженерия, нейросети и искусственный интеллект. Тема нейросетей и ИИ сегодня очень приоритетная. И всяческое поощрение НТП на этом направлении необходимо, как отмечено в романе «1984», для «сокращения человеческой свободы». А также для превращения человека в животное. Будущим «хозяевам мира» homo sapiens не нужен и даже опасен (может посягнуть на власть). Им нужен человек служебный.
Вот только краткий обзор того, как далеко продвинулось человечество в создании современных версификаторов, или машин для сочинения текстов. Только за последние десять лет.
В декабре 2013 года специалистами Яндекс и Google после нескольких лет экспериментов по обучению машины поэзии был наконец создан сервис «Яндекс.Автопоэт». Понятно, что машинные вирши были примитивными. Но все равно качественный рывок.
В 2014 году компания Associated Press объявила, что отныне большая часть новостей, связанных с доходами компаний, будут создаваться с помощью роботов. «На протяжении долгих лет у нас уходило много времени, чтобы разобраться с цифрами о доходах компаний при подготовке статей. Однако платформа Wordsmith от компании Automated Insights позволила нам не только автоматизировать этот процесс, но и значительно увеличить производительность», — рассказал шеф-редактор Associated Press Лу Феррара.
Применение автоматизированных технологий позволило Associated Press увеличить число ежеквартальных новостей о доходах компаний с 300 до 4400. Позднее аналогичным сервисом воспользовался новостной портал Yahoo News.
В 2015 году «Яндекс» сообщил, что его роботы начали составлять заметки о погоде и ситуации на дорогах. В мае 2016 года искусственный интеллект Google начал писать свои первые литературные произведения. В том же 2016 году журнал Forbes признался, что стал использовать роботов-журналистов, для которых компания Narrative Science создала соответствующую специализированную платформу.
Кстати, один из учредителей компании Narrative Science Кристиан Хэммонд сделал сенсационный прогноз: к 2025 году 90% всех текстов в мире будет готовиться роботами.
Весной 2016 году свет увидела книга «День, когда компьютер напишет роман», составленная роботом. Между прочим, книга была представлена на литературный конкурс премии имени японского фантаста Хоси Синъити. Произведение не смогло завоевать главный приз, но сумело пройти четыре этапа отбора. Причем члены жюри не подозревали, что автором произведения является робот. На пресс-конференции конкурса писатель-фантаст Хасэ Сатоси прокомментировал произведение робота: «Меня удивила работа искусственного интеллекта, поскольку перед нами лежит действительно хорошо структурированный роман. Однако у него все же есть ряд проблем, которые не позволили ему выиграть главный приз. Например, не до конца раскрыты персонажи. Над решением подобной проблемы разработчиками еще предстоит провести ряд исследований». Разработчики из Университета будущего Хакодате, где был создан роман, до сих пор еще не раскрыли алгоритм работы ИИ.
Исследователи Facebook AI Research (подразделения Facebook, занимающегося разработкой программного обеспечения для искусственного интеллекта), в начале июля 2017 года представили новый подход к автоматическому написанию поэзии. Созданная система нейросетей умеет писать стихи определенного жанра и на любую тему, практически неотличимые от тех, которые мог бы написать человек.
Однако Елизавета Ивтушок в статье «Искусственный Пушкин», комментируя новость от Facebook, отметила, что главная цель поэзии — передача мыслей и чувств через образные средства языка — по-прежнему остается недоступной для искусственного интеллекта.
В 2018 году Microsoft Research сообщила о том, что созданная ими система машинного перевода успешно прошла тест newstest2017, который включает в себя 2 тыс. предложений, взятых из профессионально переведенных новостных статей.
А вот новость из Китая, где уже давно используются роботы-журналисты. В середине января 2020 года суд в Шэньчжэне постановил, что статья, созданная с помощью искусственного интеллекта, защищена авторским правом. Это первый случай, когда суд защитил авторским правом текст, написанный ИИ. Прецедент был создан на базе статьи, которая была сгенерирована в китайской IT-корпорации Tencent. Она до этого уже в течение пяти лет публиковала статьи, созданные автоматизированным программным обеспечением Dreamwriter (профиль: бизнес и финансы).
Или, довольно свежая, новость из России. Нейросеть от «Сбера» написала в 2022 году сборник рассказов под названием «Пытаясь проснуться» вместе с писателем Павлом Пепперштейном. Сборник родился в результате сотрудничества писателя и его «двойника»-робота (нейросети).
Из 24 текстов в нём только половина принадлежит Пепперштейну, ещё дюжину сочинила генеративная нейросеть ruGPT-3, «натренированная» на рассказах Павла.
Если в области настоящей художественной литературы роботам (нейросетям) еще трудно конкурировать с профессиональными писателями, то в конкуренции с журналистами искусственный интеллект явно одерживает победу.
Примеров много. Приведу один из наиболее свежих. В середине июня 2023 года британская «Гардиан» опубликовала статью, в которой сообщается, что немецкий медиахолдинг Bild объявил о программе сокращения расходов в размере 100 млн евро. Будет уволено около 200 сотрудников. Компания предупредила работников о том, что ожидает и дальнейших редакционных сокращений в результате замещения журналистов искусственным интеллектом.
В феврале 2023 года генеральный директор Axel Springer SE Матиас Депфнер объявил о том, что издательство Bild станет полностью цифровой медиакорпорацией. Депфнер уверен, что такие ИИ-инструменты, как ChatGPT, могут сделать независимую журналистику лучше, чем она когда-либо была или и вовсе ее заменит. Депфнер предсказал, что вскоре «сбор информации» будет лучше выполняться ИИ, а не журналистами. В итоге, по его мнению, к 2030 году сохранятся только те СМИ с «живыми журналистами», которые проводят журналистские расследования или публикуют экспертные комментарии. Компания Bild не первая новостная организация, рассматривающая возможность использования ИИ. В 2023 году медиакомпания BuzzFeed объявила, что намерена использовать ИИ для «улучшения» качества материалов. Издания Daily Mirror и Daily Express в Великобритании также изучают возможности перехода на ИИ.
Некоторые российские СМИ, оказывается, также прибегают к использованию ИИ. Например, всем известная интернет-газета «Фонтанка.ру». Вот мнение главного редактора газеты Александра Горшкова на этот счет: «Мы тоже пробовали делать с его помощью новости, и у нас даже это получалось. Нравится это кому-то или не нравится, но технологии, прогресс остановить невозможно, поэтому в самом ближайшем будущем искусственный интеллект возьмет на себя часть функций в различных областях, в том числе медиасфере. Бот вполне справляется с написанием небольших новостных заметок справочного характера. Но никакой искусственный интеллект в обозримой перспективе не заменит ручной журналистский труд. Это журналистские расследования, это истории, которые рассказывают журналисты, это эмоции. Поэтому и искусственный интеллект, и журналистика будут существовать вместе, дополняя друг друга. Кстати, редакторская обработка все равно потребуется: я не доверю искусственному интеллекту выпускать новости на сайт, за контент которого я несу ответственность не только перед сотнями тысяч читателей, но и перед законом. Вряд ли бот, искусственный интеллект потом пойдут за меня в суд, оплатят штраф и понесут уголовную ответственность».
Таково мнение российского журналиста. Но оно не совпадает с мнением многих зарубежных и отечественных политиков и экспертов, которые считают, что роботы должны получить полную правовую субъектность.
На сегодняшний день, насколько известно, ни в одной стране мира ИИ и роботы не стали субъектами права. Но попытки приравнить правовой статус ИИ и роботов к человеку предпринимаются уже во многих странах.
В художественной форме этот опасный процесс «эмансипации» роботов показал чешский писатель Карел Чапек в романе «Война с саламандрами» (1936). Это еще одна антиутопия, пророчества которой сбываются на наших глазах.
Катасонов Валентин Юрьевич – профессор, д.э.н., председатель Русского экономического общества им. С.Ф. Шарапова
Специально для «Столетия»
Валентин Катасонов
Комментарий редакции
В статье рассматриваются следующие основные тезисы:
1. Многие пророчества Джорджа Оруэлла, изложенные в его антиутопических произведениях, сбываются. В частности, идея машинного создания текстов, описанная в романе "1984".
2. Сегодня активно развиваются технологии искусственного интеллекта для автоматического создания различных текстов – от новостных заметок до художественных произведений. Роботы-журналисты уже используются многими СМИ.
3. По прогнозам, в ближайшие годы искусственный интеллект заменит значительную часть работы журналистов. Это связано с повышением качества текстов, создаваемых ИИ.
4. Идут попытки приравнять правовой статус роботов и искусственного интеллекта к статусу человека. Это чревато серьезными последствиями для общества.
Вывод: пророчества антиутопий Оруэлла и других писателей о машинном создании текстов и эмансипации роботов активно сбываются в наши дни. Это требует пристального внимания и осмысления со стороны общества.
