Айти-синагога и системы «беспрепятственного наблюдения» за гражданами. Илья Титов

Краткие тезисы

- Автор рассматривает ИИ-бум в США как финансово-технологический пузырь, который поддерживает рост капитализации корпораций, но всё сильнее зависит от материальной инфраструктуры: дата-центров, электроэнергии, сетей, воды и производства оборудования. - Строительство дата-центров, по мысли автора, не равнозначно индустриализации: оно создаёт сравнительно мало рабочих мест, но способно усиливать нагрузку на энергосистемы и повышать издержки для местных жителей. - Политики и ИТ-корпорации связывают развитие ИИ с национальной безопасностью и геополитической конкуренцией, используя риторику, похожую на разговоры о ядерной гонке XX века. - Отдельная тема — рост систем городского наблюдения: распознавание автомобильных номеров, лиц, поведения и перемещений между камерами. - В лекции приводится пример компании Flock Safety, чьи комплексы автоматического распознавания номеров и камер вызывают протесты в ряде американских городов. - Автор описывает общественное сопротивление массовому наблюдению как редкий случай объединения людей с разными политическими взглядами: одни боятся преследования мигрантов и активистов, другие — контроля за политическими высказываниями и частной жизнью. - Особую тревогу вызывает приватизация функций наблюдения: когда огромные массивы данных и инструменты слежки находятся не только у государственных органов, но и у частных подрядчиков. - Упоминается израильская компания Toka, которую автор связывает с инструментами доступа к цифровым системам наблюдения. При этом наиболее сильные выводы лекции о возможностях компании и политических связях требуют независимой проверки. - В финале автор переносит разговор на вопрос технологического суверенитета: зависимость от иностранной электроники, программного обеспечения и сетевой инфраструктуры делает страну уязвимой для сбора данных и внешнего влияния. - Предлагаемый автором принцип — относиться к импортным цифровым технологиям с презумпцией риска и развивать собственные критически важные технологии.

Подробный вывод

В данной лекции соединены две большие тревоги современности: зависимость экономики от ИИ-ажиотажа и превращение цифровой инфраструктуры в механизм постоянного наблюдения. Авторская логика такова: ИИ нельзя свести к красивым роликам, чат-ботам и биржевой капитализации. За виртуальным слоем всегда стоит физический мир — электростанции, чипы, кабели, серверы, вода для охлаждения, добыча сырья и труд людей. Поэтому разговор об «экономике ИИ» в действительности является разговором о перераспределении ресурсов и власти.

1. ИИ как инфраструктура, а не только как рынок

Сильная сторона лекции — напоминание о материальной цене цифровой революции. Даже самые «облачные» сервисы не существуют в пустоте: облако — это чей-то дата-центр, подключённый к конкретной сети и потребляющий конкретную энергию. В этом смысле ИИ напоминает не только программный продукт, но и железную дорогу, электрификацию или нефтяную промышленность прошлых эпох: новый технологический уклад требует огромных первоначальных вложений. Однако автор склонен заранее описывать этот процесс как неизбежный финансовый пузырь. Такая оценка возможна, но не является доказанным фактом. В истории технологические пузыри нередко сочетались с реальным инфраструктурным прорывом: часть компаний разорялась, оценки активов рушились, но построенные сети, заводы и компетенции оставались и меняли общество. Так было, например, после железнодорожных спекуляций XIX века и краха доткомов в начале 2000-х. Вопрос не только в том, «лопнет ли пузырь», а в том, кто оплатит его строительство, кому достанется инфраструктура после коррекции и кто будет нести социальные издержки.

2. Дата-центры и социальная справедливость

Ключевой практический аргумент лекции состоит в том, что дата-центры не обязательно оживляют местную экономику так, как это делали заводы. После завершения строительства они действительно могут обслуживаться относительно небольшим числом специалистов, при этом потребляя много электричества, земли, воды и сетевых мощностей. Это не означает, что любой дата-центр бесполезен. Он может поддерживать связь, медицину, науку, финансовую систему, образование и локальные цифровые сервисы. Но его строительство требует прозрачных ответов на простые вопросы: - кто оплачивает модернизацию электросетей; - получают ли местные жители выгоду или только рост тарифов и нагрузку на инфраструктуру; - какие экологические требования соблюдаются; - есть ли у муниципалитетов право реально влиять на размещение объектов; - не субсидируется ли частная прибыль общественными ресурсами без адекватной отдачи. Здесь автор справедливо указывает на разрыв между языком «технологического прогресса» и повседневностью человека, которому важны цены на электричество, стабильность сети, работа и контроль над собственным городом. Экономический рост, который существует только в отчётах корпораций и на фондовом рынке, может не переживаться населением как рост вообще.

3. Наблюдение: безопасность, которая легко становится контролем

Наиболее содержательная часть беседы посвящена системам автоматического наблюдения. Камеры, распознавание номеров, анализ лиц, отслеживание маршрутов и объединение данных из множества источников создают качественно новую среду. Отдельная камера фиксирует эпизод; сеть камер, связанная алгоритмами, способна строить поведенческий профиль человека. Проблема здесь не в самой камере как устройстве. Камера у входа в дом, запись ДТП или поиск пропавшего человека могут быть полезны. Риск возникает, когда одновременно выполняются несколько условий: 1. сбор данных становится массовым, а не целевым; 2. алгоритмы связывают разрозненные сведения в единую картину жизни человека; 3. правила доступа к данным непрозрачны; 4. сроки хранения информации размыты или чрезмерны; 5. у граждан нет простого способа узнать, что о них собрано, и оспорить ошибку; 6. частные подрядчики получают полномочия, сопоставимые с государственными, но без сопоставимой подотчётности. Именно эта связка — «камера + база данных + алгоритм + непрозрачный доступ» — создаёт угрозу не столько единичной слежки, сколько постоянной управляемости человека через данные. Технологически это похоже на нейросеть: отдельный сигнал может быть слабым и неоднозначным, но множество сигналов позволяют строить вероятностную модель поведения. Беда в том, что человек в такой модели легко превращается из субъекта права в набор корреляций и оценок риска.

4. Почему протест объединяет людей с разными взглядами

Автор верно замечает, что неприятие тотального наблюдения может объединять политических противников. Левые опасаются преследования уязвимых групп, мигрантов и протестующих. Правые — цензуры, давления на инакомыслящих, ограничений на оружие, религию или политическую активность. Либералы могут тревожиться о правах личности, а консерваторы — о разрушении частной сферы и местного самоуправления. Это не случайность. Частная жизнь — одна из тех ценностей, которые человек часто замечает лишь в момент угрозы. Пока система наблюдения направлена «на других», она кажется полезной. Но инфраструктура контроля редко остаётся в первоначальных границах. Политические режимы меняются, руководители ведомств меняются, а базы данных, камеры и юридические исключения остаются. При этом сопротивление не должно принимать форму порчи оборудования, насилия или инструкций по саботажу: это опасно, незаконно и, как правило, лишь даёт властям повод расширять контроль. Более устойчивые способы — общественные слушания, судебные иски, независимые аудиты алгоритмов, журналистские расследования, требования к муниципальной прозрачности и законодательные ограничения на биометрию.

5. Где лекция переходит от критики к спекуляции

Наряду с важными вопросами, в видео есть и проблемная линия рассуждений: автор связывает технологические компании, государственные структуры, Израиль, отдельных предпринимателей и жителей конкретного района через намёки на этнорелигиозную принадлежность. Такие связи сами по себе ничего не доказывают. Критика корпораций, лоббизма, военных контрактов или непрозрачных систем наблюдения необходима и оправданна, если она основана на документах, структуре собственности, контрактах, технических возможностях продуктов и проверяемых решениях чиновников. Но этнические или религиозные обобщения подменяют анализ инсинуацией. Они не приближают к истине, а делают человека удобной мишенью вместо конкретных институтов и ответственных лиц. То же относится к утверждениям о способности тех или иных инструментов незаметно получать доступ к любым камерам или изменять видеозаписи: это очень серьёзные заявления, которые требуют технических доказательств, судебных материалов, независимых расследований либо надёжных документальных источников. В вопросах кибербезопасности особенно важно различать: - доказанную уязвимость; - заявленную коммерческую функцию; - экспертную гипотезу; - политическую интерпретацию; - конспирологический намёк. Без этого различения оправданная настороженность превращается в недоверие ко всему, а недоверие ко всему парадоксально ослабляет способность видеть реальные угрозы.

Итог

Главная ценность лекции — в постановке вопроса о том, кому принадлежит цифровая инфраструктура и кто контролирует данные о гражданах. ИИ, городские камеры, облачные сервисы и системы распознавания — не нейтральные инструменты. Их последствия зависят от собственности, правил доступа, общественного контроля и способности граждан защищать свои права. Технологический суверенитет нельзя понимать только как производство «своих» чипов и серверов. Он включает в себя также: - защищённую и проверяемую архитектуру систем; - независимые стандарты кибербезопасности; - ограничение массового биометрического контроля; - судебный контроль за доступом к данным; - право человека знать, какие данные о нём собираются; - возможность исправлять ошибки алгоритмов; - демократический контроль над тем, как технологии внедряются в городскую жизнь. Настоящая проблема не в том, что технологии становятся сильнее. Она в том, что общество часто принимает их как неизбежность, не успев спросить: какую именно безопасность мы покупаем — и не расплачиваемся ли за неё свободой, доверием и правом оставаться человеком, а не цифровым профилем?