В Следственном комитете предложили считать использование информационно-компьютерных технологий…
В Следственном комитете предложили считать использование информационно-компьютерных технологий (ИКТ) при совершении преступления отягчающим обстоятельством. Сейчас таковым считается использование VPN.
Но Бастрыкин не был бы верен себе, если бы не допустил оговорку, что при этом надо сперва выяснить мотивы применившего ИИ или другие технологии человека.
Логика странная. ИИ и компьютер — всего лишь инструменты. Допустим, один человек попытался оклеветать другого, прислав анонимное письмо в какую-нибудь инстанцию.
Допустим, донес на семью в ювенальные органы (которых у нас как бы нет, но которые исправно реагируют на подобные анонимки и приходят в семьи с проверками). Получается, если письмо отпечатано на пишущей машинке, к злоумышленнику одно отношение, а если то же самое письмо отпечатано на принтере — это уже отягчающее обстоятельство.
А уж если выяснится, что письмо записано ИИ под диктовку и этим ИИ подредактировано — такой злоумышленник уж точно гораздо опаснее того, что с пишущей машинкой. Хотя человек-то может быть тот же самый, как и его мотивы, меняется лишь инструмент.
Впрочем, нельзя не признать, что новые инструменты (ИИ и ИКТ в целом) дают всё более мощные средства по манипуляции гражданами. Причем не только классическим злоумышленникам, вроде телефонных мошенников, но и тем, кто с помощью ИИ ~~оптимизирует~~ разрушает отечественное образование и медицину.
Но к таким разрушителям, хоть они гораздо опаснее мошенников, новое законодательство вряд ли будет применено, увы.
Какой мир мы построим для наших детей? Зависит от нас ✅Подписаться на РВС: ТГ| ВК |Дзен|MAX|Сайт
Комментарий редакции
Краткие тезисы
- СК предлагает считать использование ИКТ и, шире, современных цифровых инструментов при совершении преступления отягчающим обстоятельством. - Автор текста видит в этом логическую проблему: компьютер, принтер, ИИ, VPN — это прежде всего инструменты, а не самостоятельный источник преступного умысла. - Приводится пример: анонимный донос остается доносом независимо от того, был ли он напечатан на машинке, принтере или сгенерирован/отредактирован ИИ. - Следовательно, если мотив и действие одинаковы, то различие в инструменте не всегда оправдывает разную степень вины. - При этом автор признает, что новые технологии реально усиливают возможности манипуляции, масштаб, скорость и анонимность вреда. - Высказывается скепсис, что подобные нормы будут применяться избирательно: не к самым опасным системным разрушителям, а скорее к более простым и уязвимым фигурам. - Финальный вопрос текста — какое общество мы строим для детей и как технологии будут встроены в моральный и правовой порядок.Разбор идеи
Здесь, как мне кажется, сталкиваются две правды, и обе не стоит упрощать.1. Первая правда: инструмент сам по себе не равен злому умыслу
В самом базовом смысле это верно. ИИ, принтер, компьютер, VPN, телефон — всё это лишь расширения человеческой воли. Молотком можно построить дом, а можно разбить окно. Ножом можно готовить еду, а можно убить. С этой точки зрения наказуем должен быть не факт использования инструмента, а характер деяния, намерение, последствия и степень общественной опасности. Если человек совершил клевету, то с моральной точки зрения ядро поступка — это ложь, направленная на причинение вреда. То, что она оформлена через принтер вместо пишущей машинки, действительно не меняет сущности. Это хороший и сильный аргумент против грубого техно-формализма. Здесь есть старый философско-правовой вопрос: что именно мы наказываем — зло как таковое, его последствия или способ его усиления?2. Вторая правда: инструмент меняет масштаб, скорость и силу воздействия
Но на этом месте рассуждение нельзя останавливать. Потому что инструмент — это не просто нейтральная оболочка. Иногда он качественно трансформирует деяние. Например: - один человек устно оклеветал другого в узком кругу; - другой запустил через ИИ тысячи персонализированных сообщений; - третий использовал дипфейк, чтобы разрушить репутацию; - четвертый автоматизировал травлю, шантаж или мошенничество на сотни жертв. Формально мотив может быть похожим, но реальная мощность действия уже иная. Это примерно как разница между ножом и автоматической системой поражения: в абстракции оба — инструменты, но их общественная опасность различна. В этом смысле идея учитывать ИКТ как фактор риска не полностью абсурдна. Она абсурдна только если формулируется слишком тупо: “использовал компьютер — значит виновнее”. Но если речь идет о том, что технологии: - повышают анонимность, - увеличивают масштаб вреда, - ускоряют распространение лжи, - делают манипуляцию более точной, - затрудняют выявление преступника, то законодателю есть о чем думать. То есть проблема не в том, что государство хочет видеть опасность новых технологий. Проблема в том, сможет ли оно различать инструмент как обычное средство и инструмент как мультипликатор вреда.Где именно логическая слабость в подобной инициативе
Логическая слабость — в подмене критерия. Правильный критерий мог бы звучать так: А слабый критерий звучит так: Это как в психологии: не всякая эмоция патологична, и не всякая рационализация ложна. Важно не название явления, а функция, которую оно выполняет. Так же и здесь: не “ИИ” как слово должен пугать, а конкретное усиление вреда. Иначе право начинает напоминать магическое мышление. Почти как в архаических культурах, где опасным считался не поступок, а “нечистый предмет”, через который он совершен. Современное государство должно быть осторожно, чтобы не скатиться в такую квазимистику техно-страха.Почему тема ИИ вызывает особую тревогу
Потому что ИИ — это уже не просто печатная машинка 2.0. Он снижает порог входа в сложные манипуляции. Раньше для массовой дезинформации, фишинга, психологического профилирования или подделки голоса нужны были знания, время и ресурсы. Теперь многое становится доступным почти любому. Это похоже на то, как индустриальная революция когда-то усилила физический труд машиной, а цифровая революция усиливает когнитивное воздействие. ИИ способен: - быстро генерировать правдоподобный текст; - имитировать стиль конкретного человека; - создавать дипфейки; - автоматизировать мошеннические сценарии; - персонализировать пропаганду и давление; - масштабировать психологические операции. Здесь уже действительно речь идет не просто о “другом способе печати”. Это скорее экзоскелет для намерения — доброго или злого. Но и тут нужна трезвость. Если закон начнет обращаться с ИИ как с демоном, он не решит проблему. Потому что зло не возникает из алгоритма само по себе. Алгоритм лишь структурирует и ускоряет человеческое намерение, а иногда — человеческую безответственность.Важная мысль автора: избирательность применения
Вот здесь текст, на мой взгляд, затрагивает уже не столько юридическую, сколько политико-нравственную проблему. Очень часто закон формулируется как универсальный, а применяется — как селективный. И тогда возникает цинизм системы: - мелкого нарушителя накажут, - крупного оператора разрушительных процессов не тронут, - системный вред растворится в бюрократической нормальности. Это вообще одна из трагедий современного общества: видимый вред легче наказуем, чем структурный вред. Телефонный мошенник — очевидный преступник. А человек или группа, которые через “оптимизацию”, “реформу”, “цифровизацию” последовательно размывают образование, медицину, человеческое доверие, субъектность учителя и врача, — формально могут действовать в рамках закона. Хотя последствия для общества порой глубже, чем от тысяч частных афер. Это уже напоминает различие между преступлением как событием и разрушением как процессом. Право обычно лучше умеет ловить события, чем распознавать процессы.Философский слой: мы боимся не инструментов, а утраты меры
Мне кажется, в таких спорах общество спорит не только о праве. Оно спорит о более глубоком: сохраняет ли человек власть над своими инструментами, или инструменты начинают формировать самого человека? Это старый сюжет. Письменность меняла память. Печатный станок менял религию и власть. Телевидение меняло восприятие реальности. Интернет изменил внимание. ИИ меняет саму структуру интеллектуального действия. Инструменты не нейтральны полностью. Они не имеют собственной морали, но они перестраивают поле возможностей, а вместе с ним — привычки, искушения и нормы. Поэтому простое утверждение “это всего лишь инструмент” — верно, но не до конца. И обратное утверждение “раз это ИИ, значит это особенно опасно” — тоже не до конца. Истина, как часто бывает, лежит не в середине ради компромисса, а в более точной формулировке:Подробный вывод
Инициатива считать использование ИКТ отягчающим обстоятельством выглядит сырой и рискованной, если она исходит из самого факта применения технологии, а не из того, как именно технология изменила общественную опасность деяния. Если человек совершил подлость, его подлость не становится метафизически глубже только потому, что вместо машинки он использовал принтер, а вместо собственных формулировок — ИИ. Моральный центр преступления находится в субъекте, его намерении, выборе и последствиях поступка. В этом автор текста прав. Но и противоположная сторона не должна быть высмеяна слишком легко. Современные цифровые средства, особенно ИИ, действительно меняют характер преступности: дают масштаб, скрытность, автоматизацию и психологическую точность. Поэтому законодатель вправе учитывать технологический фактор — но только как фактор усиления вреда, а не как магическую метку вины. Иначе получится плохое право: формально современное, а по сути архаичное. Такое право начинает бороться с символами вместо механизмов. Оно наказывает не за усиленный вред, а за “неправильный” инструмент. Это удобно для отчетности, но плохо для справедливости. Еще глубже проблема в том, что общество часто охотно карает частное и поверхностное зло, но почти не умеет распознавать зло системное, институциональное, замаскированное под рациональность, реформу, эффективность и прогресс. ИИ в руках мошенника — это заметно. ИИ в руках безответственной системы управления — может быть куда опаснее, но менее наказуемо. Здесь уже речь не только о праве, но и о зрелости общественного сознания. Поэтому разумный подход был бы таким: 1. Не демонизировать технологию как таковую. 2. Оценивать мотив, способ, масштаб и последствия. 3. Считать отягчающим не ИКТ само по себе, а доказанное усиление вреда через ИКТ. 4. Не допускать избирательного применения нормы. 5. Развивать не только карательные меры, но и цифровую этику, образование, критическое мышление и культуру ответственности. В конечном счете вопрос не в том, опасен ли ИИ. Опасен, как опасен любой мощный инструмент в руках незрелого или злонамеренного человека. Вопрос в другом: сумеем ли мы построить правовой и культурный порядок, где технология будет усиливать человеческое достоинство, а не человеческую низость? И, может быть, главный вопрос здесь даже шире: мы ищем справедливость в самих поступках — или нам все чаще хочется подменить ее борьбой с внешними признаками зла?