Помои вместо прогресса, или Чего сегодня больше от ИИ – пользы, вреда или проблем

Краткие тезисы видео

- Технологический сектор США переживает кризис: переоценка акций, вложения в ИИ, которые во многих случаях не дали реальной эффективности. - Искусственный интеллект, по выражению западных медиа, все чаще порождает AI slop — “мозговую гниль”, помои: массовый, дешевый, низкокачественный контент. - Интернет, как когда‑то планета пластиком, быстро покрывается новым слоем “цифрового мусора”, теперь уже сгенерированного нейросетями; полезную информацию становится труднее найти. - Технический “прогресс” часто не столько улучшает качество жизни, сколько ускоряет производство нового вида мусора — материального и информационного. - Важно правильно переводить artificial intelligence как “поддельный интеллект”, а не “искусственный”: это не разум, а имитация, причем с системными дефектами. - Современные модели ИИ ведут себя как человек с конкретным диагнозом (афазия Вернике): речь связная, но смысл часто искажен или отсутствует. - Есть узкий класс задач, где ИИ полезен и безопасен: - автономные, четко ограниченные среды (беспилотное метро, комбайны, отдельные военные задачи); - рутинные, формализуемые переделки (миграция кода, обработка табличек, вытаскивание текста из PDF и т.п.). - Есть классы задач, куда ИИ запускать нельзя: - поиск первоисточников, верификация цитат и фактов; - все, где требуется точность, ответственность и понимание контекста (юриспруденция, критичная инфраструктура, безопасность). - Причина: барьер бесконечного выбора — уточнение запроса требует экспоненциально растущих вычислительных мощностей и денег; модель вовремя “останавливается” и начинает просто врать, выдавая правдоподобный мусор. - Показательный кейс: западное научное издание внедрило ИИ для подготовки материалов. - Сначала радость: саммари, новости, выжимки — красиво, убедительно. - Потом: люди вынуждены править ссылки, даты, цитаты, нарративы — работы больше, творчества меньше. - Итог: редакция массово уволилась, оставив начальство “один на один” с ИИ. - Экономика ИИ во многом напоминает пирамиду: - виртуальные ожидания доходов, инвестиции в дата‑центры, цепочка виртуальных обязательств; - реальные деньги в конце цепочки не появляются, дата‑центры простаивают. - Около 95% компаний, которые вложились в ИИ, по западным опросам считают, что потратили деньги зря; около 5% — действительно получили выгоду. - Полезные применения ИИ и рекламные обещания резко расходятся: - Поиск: “топ‑10 применений ИИ” → утопические обещания (медицина, творчество, рай на Земле). - “топ‑10 приложений ИИ” → реальные вещи: правка табличек, OCR из PDF, улучшение фото, мелкие удобства. - С 2016 года ведется база IncidentDatabase.ai — инциденты, произошедшие по вине ИИ: - около 6000 записей; - ~3000 — этические/законодательные нарушения (обман, дискриминация, ложь); - ~3000 — реальные ущербы, включая сотни смертей, в том числе групповых. - Пытаются создать “доверенную среду” для ИИ, но сталкиваются с глубинной проблемой: - в классической безопасности “доверенная” = “неизменяемая и проверенная” (как компьютер для гостайны); - в гражданском мире “доверенная” = “ошибка измерима и предсказуема” (как отказ двигателя после определенного пробега). - Для ИИ ни того, ни другого достоверно обеспечить нельзя. - Главные проблемы ИИ: 1. Галлюцинации: модель уверенно выдает ложь, не распознавая, что ошиблась. 2. Конец данных: “чистые” данные для обучения в сети во многом уже выбраны. 3. Обучение на синтетических данных усиливает ошибки — кластеры искажений (условные “еноты”) не исправляются, а разрастаются. - Пример с Boeing 737 MAX: - Изменили конструкцию, подвесили более мощные двигатели — немного сместили центровку. - Автопилот в режиме взлета и набора высоты начал “бороться” с ошибочным положением носа, опускать его, перехватывая управление у пилота. - Два крушения; по сути, алгоритм, обученный на старой конфигурации, начал вести себя смертельно опасно в новой — классическая аналогия с “галлюцинациями” ИИ. - Социально‑политическое измерение: - ИИ хорошо “подпевает” готовым нарративам: усиливает пропаганду, подталкивает к определенному потреблению, навязывает повестку. - Политическая ангажированность алгоритмов становится все более заметной. - Пример манипуляции: алгоритмы выдают “новости”, в которых позитивные для России сюжеты (напр. о восстановлении авиасообщения) переворачиваются в противоположную по смыслу установку (“никогда не посещать Россию”). - Попытка обучить ИИ на “традиционных ценностях” приводит к абсурду: пример со сказкой “Морозко” — модель делает вывод, что в русской культуре перед старшим нужно всегда врать, иначе будет наказание. Машина берет поверхностный паттерн, не понимая контекста и этики. - Человек и бизнес часто идеализируют ИИ: - иллюзия: “я умный, разберусь, смогу переложить рутину на ИИ и только выиграю”; - реальность: без критического контроля ИИ превращается в источник тихой, но системной деградации качества. - Школа, воспитание и ИИ: - Школа давно превратилась в “оказание образовательных услуг”, воспитательная функция почти выпала. - Учитель утратил авторитет и инструменты влияния (образ “палки” метафоричен — как символ права на жесткую обратную связь и ответственность). - Попытка передать машине проверку сочинений, творческих работ — путь к потере самого смысла педагогики: учитель должен “проживать” с учеником мысль и усилие. - Идея проверять школьные работы ИИ: - Формальные тесты, варианты с галочками — да, можно автоматизировать. - Сочинения, творческие задачи, смысл и логика — нет, здесь нужен живой учитель, не алгоритм. - Идея поручить учителю мониторинг соцсетей учеников (например, как в Татарстане): - Нереалистично и бессмысленно: учитель не психолог, не аналитик угроз, и у него нет ни времени, ни компетенций, ни инструментов. - Подростки мгновенно уйдут в “альтернативные каналы” и темные зоны сети. - Раннее выявление девиантного поведения требует профессиональных систем мониторинга, алгоритмов и специалистов по безопасности, а не навешивания этого на учителя “в нагрузку”. - Китайский опыт: - С 2016 года действует закон о молодежи в интернете: ~20 глав, у каждой — четко прописанные ответственные (родители, школа, администрация, разработчики игр, регуляторы). - Игры могут технически “замедлять” игрока, ухудшая результат при чрезмерной игре — встроенный тормоз. - У Китая нет ряда процессов, которые у нас стали массовыми, именно из‑за системного подхода и многослойной “опеки” над детьми. - В отношении молодежи и рисков в сети критично: - иметь подконтрольные площадки, где адекватно фильтруется внешний (“чужой”) контент; - использовать профинструменты для раннего предупреждения, а не только реагировать “по факту трагедии”. - Общий вывод по ИИ в бизнесе: - Область применения должна быть очень четко очерчена. - Там, где ИИ выступает как “подмастерье под присмотром мастера”, он полезен. - Там, где его пытаются сделать “полноценным сотрудником” или “судьей”, начинаются опасные искажения. - Важный критерий зрелости технологии: когда она перестает быть темой хайпа и становится невидимой, работающей на фоне (пример: антиспам, “одного окна”, многие элементы блокчейна). Пока о чем‑то говорят повсюду — это, как правило, не прогресс, а новый слой мусора и пузырь ожиданий. - История с ИИ — уже четвертая “волна” на планете. Предыдущие поднимались с восторгом, потом тихо схлопывались, оставляя после себя только те элементы, которые реально работают и никому уже не бросаются в глаза. - Авторская позиция Андрея Масаловича: мир в очередной раз “в заднице”, но в этом всегда есть возможность что‑то понять и на чем‑то заработать — если смотреть трезво, а не слепо верить в очередную технологическую утопию.

---

Подробный вывод и философский разбор

1. ИИ как новый слой мусора: “плитка на навозе”

Масалович начинает с образа московских Чистых прудов: плитку кладут снова и снова на старые слои, не очищая основание, где когда‑то была конская грязь и человеческий мусор. В итоге поверхность вроде бы “современная”, а по сути — наслоение отходов. То же самое и с так называемым “техническим прогрессом”: - города принесли не только удобства, но и новый тип антисанитарии; - пластмасса дала комфорт и одновременно отравила планету; - интернет дал доступ к знаниям и тут же был залит лавиной мусора; - теперь поверх этого мусора мы накладываем новый слой — AI‑помоев. Это важный сдвиг взгляда: технология не равна прогрессу; технология — это ускоритель, увеличитель того, что уже есть. Если базой становятся шум, спекуляция и маркетинг, то ИИ просто усиливает именно их.

2. “Поддельный интеллект”: когнитивно больной помощник

Перевод artificial как “поддельный” меняет оптику. Вместо романтики “искусственного разума” мы видим сложный статистический автомат, который: - не понимает смысла, а лишь комбинирует вероятностные паттерны; - часто производит логически стройную, но лживую речь (аналог афазии Вернике); - не распознает момент собственной “галлюцинации”. Философски это интересно: человек тоже живет в мире интерпретаций и иллюзий, но: - у нас есть тело, боль, ответственность, смерть — жесткие “якоря” реальности; - мы можем сомневаться, рефлексировать, останавливаться и говорить “я не знаю”. Нейросеть не знает, что “не знает”. Она не имеет феномена сомнения. Она всегда уверена и всегда отвечает. И если человеку мы хотя бы можем задать вопрос: “А почему ты так решил?”, то у ИИ большая часть “почему” сводится к: “так сложилось в весах модели”.

3. Когда ИИ полезен: узкие коридоры и повторяющийся мир

В тех сферах, где: - пространство ситуаций ограничено; - последствия ошибок контролируемы; - среда мало меняется и хорошо описана, ИИ действительно реализует прагматический прогресс: - беспилотное метро в Куала‑Лумпуре; - комбайны, работающие на понятных полях; - технические миграции кода (32→64 бита и т.п.); - антиспам‑фильтры, OCR, автоформатирование документов и т.д. Здесь ИИ — не “мозг”, а сложный инструмент, как токарный станок или инженерный калькулятор. Он не “думает”, он просто снимает с человека рутину, которая уже хорошо формализована. Но эта польза требует зрелого отношения: - нужно понимать границы задачи; - нужно знать цену ошибки; - нужно принимать, что за ИИ все равно отвечает человек. В этом смысле ИИ ближе к взрывчатке, чем к молотку: не гаджет для развлечения, а мощный инструмент, требующий режима обращения.

4. Когда ИИ опасен: там, где мы хотим снять с себя ответственность

Попытка переложить человеческие задачи на ИИ похожа на то, как если бы в команду набрали “больного человека” и дали ему роль здорового: - оценка рисков; - интерпретация смыслов; - принятие решений, затрагивающих жизнь и смерть; - формирование политической и информационной повестки. Здесь появляется несколько слоев опасности: 1. Технический — галлюцинации и “барьер бесконечного выбора”. 2. Экономический — пирамидальные схемы инвестиций в воздух. 3. Информационный — заливание сети помоями, ухудшающее доступ к реальным знаниям. 4. Политический — усиление манипуляций и пропаганды. Образно: мы строим гигантский “маркетинговый мегафон”, который: - не понимает, что говорит; - подстраивается под те, у кого больше денег и влияния; - заполняет пространство так плотно, что голос живого человека уже почти не слышно. Интересно, что Масалович подчеркивает: 95% компаний зря потратили деньги на ИИ. Они купили не прогресс, а иллюзию прогресса — красивую упаковку “слопа”.

5. Конец данных и синтетическое самопоедание

Еще один фундаментальный момент — исчерпание “чистых” данных: - большая часть доступных качественных текстов, изображений и т.п. уже использована для обучения; - рост мощности моделей продолжается, а вот рост “нового смысленного контента” — нет; - в ответ компании переходят к обучению на синтетических данных, порожденных тем же ИИ. Аналогия с кластером “енотов” очень показательна: - если в обучающей выборке мало примеров енотов, модель путает их с кошками или собаками; - генерация новых “кошко‑точек” не спасает — плотный кластер искажений просто разрастается; - ошибка не лечится, а закрепляется. Философски здесь видно, как система, замкнутая на себя, деградирует: культура, читающая только саму себя, теряет связь с реальностью; ИИ, обучающийся на собственном слопе, теряет остатки привязки к миру. Это зеркало для человека: если мы питаемся только вторичным, пересказом пересказа, мемами и нарративами, — наш “внутренний интеллект” начинает вести себя как та же нейросеть: гладко, уверенно, но пусто.

6. Школа, воспитание и иллюзия цифровых костылей

Отдельный большой блок — про образование и детей. Масалович подчеркивает: - школа превратилась из места воспитания и формирования в место “оказания услуг”; - учитель из фигуры авторитета стал носителем методичек, “педагогом” в первоначальном, служебном смысле; - государство пытается компенсировать провалы воспитания технологиями контроля: ИИ для проверки работ, мониторинг соцсетей и т.д. Но: - проверка сочинений ИИ убивает главную ценность: живой диалог смысла между учителем и учеником; - возложение на учителя обязанностей спецслужб по мониторингу соцсетей — абсурд и перекладывание ответственности; - подростки или уйдут в тень, или станут еще более отчужденными и недоверчивыми. Гораздо честнее признать: - профилактика девиаций — это профобласть, требующая инструментов, специалистов, оценок рисков; - нужна система наподобие китайской: многоуровневое распределение ответственности (семья, школа, регулятор, разработчики); - ИИ здесь может быть инструментом аналитики для профессионалов, но не должен превращаться в карательный надзор и замену человеческого контакта. Иначе мы получаем странный гибрид: цифровой тоталитаризм без реальной заботы и без реального понимания детей.

7. Как отличить реальную технологию от пузыря

Критерий очень простой и одновременно глубокий:

Технология становится зрелой, когда мы перестаем о ней говорить и просто ей пользуемся.

- Про антиспам уже не спорят — он просто есть. - Электронные госуслуги перестали быть “революцией” — они стали скучным фоном. - Блокчейн, который “перевернет мир”, в итоге растворился в инфраструктуре, оставив полезные, но незаметные элементы. Пока про ИИ: - говорят как о “новой эре”; - строят финансовые пирамиды вокруг “обещаний”; - используются громкие лозунги, а не честные отчеты о реальной пользе, он остается мусоро‑генератором и полем спекуляций, а не подлинным прогрессом. Истинный прогресс — это там, где: - уменьшается количество боли и хаоса; - повышается предсказуемость и качество; - инструмент становится прозрачным и незаметным.

8. Оптимизм без розовых очков

Несмотря на жесткую критику, Масалович не пессимист. Его позиция ближе к трезвому стоицизму:

“И опять в заднице. Интересно, как я на этом заработаю.”

Перевести: мир в очередной раз забрел в противоречивую, неоднозначную зону, где много шума, мусора и реальных рисков. Но в каждой такой ситуации есть: - новые профессии (безопасность ИИ, разработка доверенных сред, информационная гигиена); - новые практики (умное ограничение ИИ, точечное применение, критическое мышление); - новые возможности для тех, кто видит реальность, а не рекламный образ. В этом смысле его “оптимизм” — не вера, что “ИИ нас спасет”, а уверенность, что человек, который готов думать, анализировать и брать ответственность, сможет использовать даже этот хаос себе на пользу — и, может быть, другим.

---

Практическая суть для обычного человека

1. Не идеализировать ИИ. Это не разум и не мудрость, а статистический попугай, усиленный до промышленных масштабов. 2. Использовать как подмастерье, а не как судью: - подсказки, черновики, рутинные преобразования — да; - принятие важных решений, оценка правды и лжи, воспитание детей — нет. 3. Поддерживать личную информационную гигиену: - проверять факты по первоисточникам, а не по пересказам; - не доверять красивой связной речи только потому, что она звучит “умно”; - ограничивать поток “контента ради контента”. 4. В отношениях с детьми: - не перекладывать воспитание на гаджеты и школы; - быть живым, участным, внимательным — это то, чего не заменят даже самые сложные алгоритмы. 5. В работе и бизнесе: - трезво считать ROI: что реально ускоряется и удешевляется, а что только создает видимость инноваций; - не внедрять ИИ туда, где цена ошибки неприемлема и где вы не понимаете, что он делает “внутри”.

---

В итоге ИИ становится лакмусовой бумажкой: он высвечивает наши иллюзии о прогрессе, нашу тягу к замене реального усилия красивой имитацией и нашу готовность отдать ответственность “машине”, чтобы не смотреть в глаза собственной свободе выбора. Остается открытый вопрос, который, кажется, стоит себе задать каждому:

Если убрать все рекламные обещания и страхи, где именно в твоей жизни ИИ помогает быть более живым, осознанным и честным — а где он всего лишь дает удобное оправдание, чтобы меньше думать самому?