Польза и риски ИИ. Игорь Ашманов

Ключевые тезисы лекции Игоря Ашманова «Польза и риски ИИ» 1. Что есть искусственный интеллект, и почему его определение важно - Актуальный ажиотаж вокруг ИИ – во многом пузырь, построенный на моде и поверхностных ассоциациях (например, метафоре «мозг = нейронная сеть»). - ИИ, по мнению лектора, — это любые программы, имитирующие интеллектуальную деятельность: от калькулятора до современных генеративных сетей. Нынешний культ «только машинного обучения» – искажение сути. - Исторически ИИ переопределяется: то, что становится повседневной рутиной, уже не признаётся интеллектуальным. 2. Хайп, циклы пузырей и реальные инновации - История ИИ похожа на историю других технологических пузырей (3D-телевидение, VR, блокчейн): большого ожидания, разочарования, затем — отбор реальных технологий. - Сейчас хайп поддерживается государством и бизнесом, что приводит к отчётной компаниищине: нужно отрапортовать о «проценте внедрения ИИ», невзирая на реальное содержание. 3. Манипуляции и фетишизация технологий - Гуманитарные, социальные и военные сферы становятся ареной для внедрения ИИ, зачастую — под лозунгом «удобство», без анализов эффективности и последствий. - На государственном уровне ИИ воспринимается как поле битвы (прежде всего между США, Китаем и Россией). Запад напрямую рассматривает ИИ как военную технологию, ограничивая экспорт и контроль над критическими компонентами. - В стране формируется новый «цифровой класс» — управленцы-администраторы данных, не подотчётные обществу, но обладающие реальной властью. 4. Социальные риски и опасности автоматизации - Активно продвигается идея обмена безопасности и гражданских прав на «удобство». Внедрение социальных рейтингов (по китайской модели) чревато дискриминацией и коррупцией. - ИИ в госслужбах становится инструментом тотального контроля и автоматического наказания, теряя гибкость и человечность решений (пример с женщиной без паспорта или автоматическими штрафами). - Фальсификация данных и генерация контента (научные статьи, документы, повседневное делопроизводство) становятся массовым явлением; у людей развивается «когнитивная травма» — потеря компетенции из-за слепого доверия ИИ. - Сложность систем, их облачность и разнообразие производителей ведёт к увеличению уязвимости, снижению общей надёжности («повышение сложности — снижение надежности»). 5. Технологические и этические пределы - ИИ, как инструмент, имеет пределы: нет реального «внутреннего убеждения», нет субъектности, категорически недопустима передача ему сугубо человеческой ответственности (решения судьи и т.д.). - Генеративные модели не создают смыслы, а манипулируют корпусами текстов. Иллюзия осмысленности текста — лишь отражение смыслов, приписываемых человеком. - Впечатление «безопасности» цифровых технологий обманчиво: цифровизация приводит к утечкам, фроду и массовому мошенничеству быстрее, чем к реальному росту защищённости. 6. Практическая польза и потенциальные выгоды - В оборонке, промышленности, логистике, экономике — там, где задачи четко формализованы и эффект измерим, ИИ может приносить реальную пользу (распознавание целей для дронов, управление беспилотным транспортом, диагностика по снимкам и др.). - Однако неконтролируемое внедрение ИИ в социальную и гуманитарную сферы без оценки рисков и механизмов контроля чревато разрушением основ социальной ткани. 7. Необходимость регулирования - Требуется создание нормативной базы, регулирование недопустимых применений ИИ, вплоть до государственных проектов по типу советского атомного или ракетного, чтобы развивать собственные, суверенные решения. - Европейский опыт (AI Act) фокусируется именно на запрете ряда рисковых применений, а не на препятствиях развитию технологий. - Россия не обладает целостными экосистемами ИИ, вынуждена импортировать технологии и отстаёт от лидеров. Выводы и философское обобщение В этом выступлении подчеркивается, что ИИ — не магическая сущность, а всего лишь инструмент, эффективность и опасность которого зависят не от «волшебства» алгоритмов, а от социальной среды, культуры применения, политических и этических решений общества. Иллюзии об «объективности» машин маскируют реальные проблемы: коррупцию, безответственность, утрату компетенций, фальсификации и неготовность к управлению сложностью. Практическая польза ИИ очевидна там, где существуют прозрачные критерии и чёткие задачи. Но массовое внедрение ИИ в социальные отношения, построение цифровых рейтингов, автоматизация решений о судьбах людей и обмен прав на «удобство» без должного регулирования и социальной экспертизы угрожают самому понятию человечности, свободы выбора и достоинства. Это делает вопрос о будущем ИИ не столько технологическим, сколько философским и гуманитарным: чему мы доверяем — технологии или человеческой мудрости? Возможно ли, чтобы «объективная» машина принимала решения о субъективной, уникальной жизни человека? Или же ответственность за выбор и смысл всегда должна оставаться на стороне личности и общества, несмотря на все соблазны делегировать её алгоритму? В конце концов, можем ли мы говорить об истинном прогрессе, если ради удобства и эффективности жертвуем подлинной свободой, внутренней ответственностью и человечностью? А возможно, истина — всегда баланс между разумным внедрением новых инструментов и стойкой защитой тех основ, которые делают нас людьми. Где и как проводить эту грань — вот вопрос, который остаётся открытым для обсуждения и внутреннего выбора каждого.