Наталья Касперская на сессии ЦИПР “ИИ без иллюзий. Технологии для реального сектора”
19 мая 2026 года Наталья Касперская приняла участие в сессии ЦИПР “ИИ без иллюзий. Технологии для реального сектора”. Эксперт указала на то, что принимать решение о внедрении технологий на базе ИИ тогда, когда они находятся на хайпе – неправильно. При этом она обратила внимание аудитории на то, что большинство ИИ-моделей, существующих в России – иностранного производства. А использование иностранных технологий сегодня – большой риск для предприятий промышленного сектора. Промышленные предприятия рискуют потерять важную информацию из-за неконтролируемого использования сотрудниками генеративных моделей на работе, причем риск этот пока слабо осознается.
Комментарий редакции
Краткие тезисы
- ИИ остается переоцененной технологией именно потому, что находится на хайпе. - Главный недооцененный риск в промышленном применении ИИ — утечка данных, особенно при работе с внешними иностранными моделями. - Российских собственных крупных моделей мало, и для специализированных промышленных задач компании часто вынуждены обращаться к зарубежным решениям. - Любая информация, загруженная во внешнюю модель, потенциально может быть извлечена обратно через грамотные запросы. - Существует риск целенаправленной подмены ответов: по характеру запросов можно понять, что обращается промышленная или российская структура, и выдать ей ложную, но правдоподобную информацию. - Генеративные модели по своей природе вероятностны, поэтому их ответы не гарантируют истинность и могут содержать «галлюцинации». - Опасно избыточное доверие к ИИ, особенно когда пользователь воспринимает связный текст как признак надежности. - Теневое использование ИИ сотрудниками — отдельная уязвимость: люди сами подключаются к разным сервисам и могут неосознанно выносить наружу внутреннюю информацию. - Политика полного запрета не работает, но корпоративная внутренняя альтернатива способна снизить хаос и риски. - Преимущества ИИ в скорости и удобстве есть, но механизмы защиты от связанных с ним угроз пока только начинают формироваться.Подробный вывод
В данной лекции Наталья Касперская предлагает не восторженный, а инженерно-безопасностный взгляд на промышленный ИИ. Это важная оптика: когда технология массово обсуждается, общественное внимание смещается к ее эффектности, а не к ее ограничениям. ИИ в таком контексте становится не просто инструментом, а почти идеологией прогресса. И вот здесь начинается самое интересное: чем сильнее технология идеализируется, тем слабее замечают ее реальные контуры. Главная мысль выступления проста и практична: в промышленности риск не в том, что ИИ “захватит мир”, а в том, что он уже сегодня может quietly сломать контур безопасности, исказить решения и создать ложное чувство контроля.1. Центральная проблема — не интеллект, а контур доверия
Когда предприятие использует внешнюю генеративную модель, оно передает ей не просто текст запроса, а фрагменты своей внутренней реальности: процессы, параметры, технологические особенности, иногда даже элементы ноу-хау. В теории ИИ выглядит как «умный помощник», но на практике он часто выступает как чужой вычислительный периметр, которому начинают доверять больше, чем следовало бы. Это напоминает старую философскую проблему: мы склонны путать удобство интерфейса с надежностью сущности. Если ответ звучит гладко, структурно и “как будто понимает”, человеку трудно удерживать критическую дистанцию. Но связность речи — еще не гарантия истины. В каком-то смысле генеративный ИИ — это машина по производству правдоподобия, а не истины.2. Утечка данных — самый приземленный и потому самый серьезный риск
Самый сильный тезис выступления — то, что загружается в модель, перестает быть полностью контролируемым. Для промышленности это критично. Секреты производства, технологические цепочки, внутренняя документация — все это может стать сырьем для внешней системы. И если другая сторона способна извлечь эти сведения через умные запросы, то ИИ превращается в новый канал промышленной разведки. Здесь нет мистики, только холодная логика: если инструмент строится на масштабном поглощении и переработке информации, то вопрос «что он знает о пользователе?» становится важнее вопроса «насколько он умен?».3. Следующий уровень угрозы — не просто утечка, а манипуляция
Еще более тонкий риск — подсунутая ложь. Если по паттерну запросов можно определить, кто обращается, в каком контексте и с какой задачей, появляется возможность не просто наблюдать, а влиять. Для предприятия это особенно опасно, потому что ложная рекомендация может выглядеть как экспертная помощь. А в производстве ошибка — это уже не абстрактная неточность, а возможные убытки, аварии, сбои, неверные управленческие решения. Это уже почти кибербезопасность нового типа: не взлом системы напрямую, а внедрение искаженного знания в контур принятия решений. Если раньше атаковали сервер, то теперь можно атаковать понимание.4. “Галлюцинации” — не баг в бытовом смысле, а свойство архитектуры
Касперская подчеркивает, что генеративные модели вероятностны. Это важный момент, который часто теряется в публичной риторике. Модель не “знает” в человеческом смысле, она строит наиболее вероятный ответ. Поэтому ошибка здесь не случайная поломка, а естественное следствие самого способа работы. Это похоже на человеческую психику: мы тоже достраиваем картину мира по вероятностям, по шаблонам, по памяти, по контексту. Но человек хотя бы может сказать: “я не уверен”. Модель нередко выдает сомнительное с той же уверенностью, что и корректное. И потому проблема не только в ложности ответа, а в форме его подачи.5. Самый человеческий риск — люди верят тому, что звучит убедительно
В беседе звучит важное наблюдение: люди склонны чрезмерно доверять ИИ, особенно когда он имитирует разумную речь. Это уже вопрос не только технологий, но и психологии. Мы легко очаровываемся формой. Как в отношениях человек нередко любит не другого, а свой образ о нем, так и здесь пользователь начинает доверять не системе как она есть, а своему представлению о ней: “если отвечает как эксперт, значит, и есть эксперт”. В этом смысле ИИ вскрывает не только цифровые уязвимости, но и антропологические: насколько человек вообще умеет отличать полезное от убедительного, правду от стилизованной правдоподобности?6. Shadow AI — теневая зона, где организация теряет субъектность
Очень сильный практический момент — история о том, что сотрудники сами покупают доступы к разным моделям и используют их вне формального контроля компании. Это уже знакомый многим паттерн: технология сначала проникает снизу, через удобство, а не сверху, через регламент. И организация узнает о масштабе использования постфактум. Это похоже на ситуацию, когда реальная жизнь системы давно изменилась, а управленческая картина остается старой. Формально безопасность “есть”, а фактически данные уже гуляют по внешним сервисам через частные действия сотрудников. Здесь ИИ выступает как лакмусовая бумага зрелости управления: если компания не знает, какими инструментами реально пользуются люди, значит, она контролирует не процесс, а лишь его официальный образ.7. Рациональный выход — не запрет, а создание безопасной внутренней среды
При этом позиция Касперской не выглядит реакционной. Она не отрицает полезность ИИ и признает его преимущества в скорости. Но подход у нее аккуратный: сначала контур, потом масштабирование. Это зрелая логика. Запретить все невозможно, особенно в эпоху, когда инструменты доступны каждому. Зато можно предложить сотрудникам внутренние, контролируемые решения — и тогда значительная часть теневого использования естественно перетечет в безопасную среду. Это очень прагматично: человек почти всегда идет туда, где удобнее и проще. Значит, безопасность должна быть не только строгой, но и юзабельной. Иначе победит не политика, а бытовая лень и скорость.8. Главный итог — технология уже в обороте, а культура защиты еще не созрела
Пожалуй, самый тревожный вывод в этом видео: активное внедрение началось раньше, чем общество и бизнес выработали зрелые защитные механизмы. Мы сначала открыли дверь, а уже потом начали думать, что за ней может войти. Это типично для технологических эпох: польза появляется быстро, а этика, право, стандарты безопасности и организационная мудрость отстают. В этом есть почти исторический ритм. Так было с интернетом, с соцсетями, с мобильными платформами. Сначала — восторг от новых возможностей, потом — осознание, что каждая новая степень свободы одновременно создает новую степень уязвимости.Итоговая оценка
Смысл выступления можно свести к одной фразе: Это зрелая и трезвая позиция. Она не анти-технологична, а анти-иллюзорна. И в этом ее ценность. Реальный сектор не может позволить себе роскошь жить в режиме моды. Там цена ошибки выше, чем в публичных презентациях. Поэтому к ИИ нужно относиться не как к волшебству и не как к врагу, а как к сильному, но пока недостаточно прозрачному инструменту, который требует дисциплины, границ и постоянной проверки. И, возможно, самый глубокий вопрос здесь даже не про машины. Когда нечто начинает говорить убедительнее человека, умеем ли мы по-прежнему отличать истину от удобной имитации истины?