Главная » Невероятное в мире, Новые технологии, Политика

Генераторы «глубоких фейков»: Понятие подлинности и правды может исчезнуть

16:38. 18 сентября 2020 593 просмотра 7 коммент. Опубликовал:


В США специалисты в сфере информационной безопасности ввели понятие «глубокий фейк» (deep fake). Термин «глубокий фейк» впервые появился в 2017 году для обозначения реалистичных фото, аудио, видео и других подделок, созданных с использованием технологии искусственного интеллекта (ИИ). Применение «глубоких фейков» может стать вызовом национальной безопасности в современном мире и вообще подорвать доверие к любой информации.

Между тем технологии ИИ для создания «глубоких фейков» продолжают развиваться. В их создании задействован метод «машинного обучения». В «генерирующей состязательной сети» две системы «машинного обучения» обучаются на соревновании друг с другом. Первая сеть или генератор занимается созданием поддельных данных, таких как фотографии, аудиозаписи или видеозаписи, которые воспроизводят свойства исходного набора данных. Вторая сеть, или дискриминатор, занимается выявлением подделки данных. По результатам каждой сессии генератор сети настраивается для создания все более реалистичных данных. В сети продолжается машинное соревнование часто тысячи или миллионы сессий, пока генератор не улучшит характеристики данных до такой степени, что дискриминатор больше уже не сможет различать настоящие и поддельные данные.


Как можно использовать «глубокие фейки»? Манипуляции в СМИ явление не новое, но применение технологии ИИ для создания «глубоких фейков» выводит ее на совершенно новый уровень. В результате применения ИИ «глубокие фейки» становятся все более реалистичными. Они быстро создаются и становятся все дешевле и дешевле. Скоро их можно будет создавать с помощью свободно распространяемого программного обеспечения и через возможности сдавать в аренду вычислительные мощности посредством цифровых облаков. Даже неквалифицированные операторы смогут скачать программные средства и, используя общедоступные данные, создавать все более и более убедительный поддельный контент.

Технология «глубоких фейков» уже была использована для развлекательных целей. Например, пользователи социальных сетей «вставляли» сгенерированный образ известного актера Николаса Кейджа в фильмы, в которых он не снимался. Была, например, создана интерактивная выставка, которая включала образы картин художника Сальвадора Дали, которые он никогда не писал.

Технологии «глубоких фейков» были задействованы в медицинских целях. Сгенерированные поддельные медицинские изображения использовались для создания самообучающегося алгоритма обнаружения редких заболеваний.

Разумеется, «глубокие фейки» могут быть задействованы в информационной войне, когда, например, на фальсифицированных видеороликах предстанут государственные должностные лица или другие публичные деятели, дающие ущербные комментарии или ведущие себя неподобающим образом. Фальшивки, сгенерированные посредством технологии ИИ, смогут подрывать общественное доверие, негативно влиять на общественный дискурс или даже решать исход голосования.

«Глубокие фейки» могут быть использованы для шантажа должностных лиц или лиц, имеющих доступ к секретной информации. Они могут быть задействованы для создания подстрекательского контента, когда, например, фальшивые видео будут демонстрировать несовершенные военные преступления, несовершенные террористические акты, а также сюжеты, создающие повод для радикализации населения, вербовки террористов или подстрекательства к мятежу и насилию.

Кроме того, «глубокие фейки» создадут ситуацию, когда подлинный контент станут отрицать, утверждая, что все это подделка и «глубокий фейк». С распространением технологий «глубоких фейков» понятие подлинности и правды может исчезнуть вообще.

«Глубокие фейки» требуют специализированных средств их обнаружения. Однако изощренная технология быстро прогрессирует к точке, когда «глубокие фейки» будет очень трудно или совсем невозможно обнаружить. В настоящее время в США Агентство перспективных исследовательских проектов (DARPA) имеет две программы, предназначенные для обнаружения «глубоких фейков», — Media Forensics (MediFor) и Semantic Forensics (SemaFor). Известно, что MediFor развивает алгоритмы автоматической оценки подлинности фотографий. В программе исследуются методы идентификации аудиовизуальных несоответствий в «глубоких фейках», в том числе несоответствие цифровой целостности, несоответствие законам физики и несоответствие семантической целостности, т. е. сравнение с другими источниками информации.

В 2019 году программа MediFor получила $ 17,5 млн финансирования, а в 2020 году — $ 5,3 млн. После завершения создания программы в 2021 финансовом году ожидается «прием ее на вооружение» специальными операционными командами и разведывательным сообществом США.

Аналогичным образом программа SemaFor разрабатывает алгоритмы, которые автоматически будут обнаруживать, атрибутировать и характеризовать как доброкачественные, так и вредоносные контенты, т. е. выявлять «глубокие фейки». Эта программа определяет семантические несоответствия, необычные черты лица или фон для определения «глубоких фейков». На 2020 год программа SemaFor получила $ 9,7 млн, и планируется получить $ 17,6 млн в 2021 финансовом году.

SemaFor и MediFor рассматриваются как средства улучшения защиты против информационных операций вероятного противника.

Вместе с тем эксперты по информационной безопасности полагают, что информационная война уйдет в сферу соревнования с самообучением алгоритмов защиты и алгоритмов нападения с созданием «глубоких фейков». Генераторы «глубоких фейков» будут быстро обновляться для устранения недостатков, позволяющих идентифицировать их средствами обнаружения.

Технологии защиты против «глубоких фейков» планируется задействовать в социальных сетях. Встает вопрос об ответственности участников социальных сетей за распространение «глубоких фейков». По этой причине платформы социальных сетей, возможно, потребуют расширения средств маркировки и аутентификации распространяемого в них контента. Это может включать требование, чтобы пользователи сетей указывали время и место, где и когда был создан или отредактирован их контент.

В результате распространение «глубоких фейков» может наложить чрезмерное бремя на социальные медиа-платформы или приведет к неконституционным ограничениям свободы слова и художественного самовыражения. Некоторые эксперты утверждают, что одного реагирования только с помощью технических средств будет недостаточно и вместо этого следует сосредоточить внимание на необходимости информирования общественности на счет «глубоких фейков». Однако здесь круг замкнется. Ведь подобная мера приведет к подрыву общественного доверия к любой информации вообще.

В США появилась информация о развитии DARPA средств обороны против «глубоких фейков» — программах SemaFor и MediFor. Однако очевидно, что программы эти создаются с использованием ИИ через соревновательный процесс со средствами нападения — генераторами «глубоких фейков». Очевидно, что подобная часть программы остается засекреченной.

Итак, добро пожаловать в настоящий мир постправды.


Метки: искусственный интеллект, манипуляции, новые технологии, США, фейк

7 Комментариев » Оставить комментарий


  • 23602 2816

    Какое горе…..
    Есть опасность что переврут ЛЖИВУЮ фентези которой стадо оболванивают из СМИ?
    Бараны от этого умнее станут?
    нет.
    Тогда о чём печали?
    Вся информация и так ФЕЙК на 99%

    • 11974 9794

      Не то, чтобы вся информация фейк, но нам показывают только уши от слона или только верхушку айсберга. Только малую часть большой и разнообразной правды. Поэтому лучше искать и синтезировать информацию из разных источников, для создания более истинной мозаики происходящего. А, с другой стороны, какая разница, ложь, правда, хвост слона… Всякому нормальному человеку есть чем заняться и помимо анализа этой разнообразной внешней информации, которая, в большинстве своём, на его жизнь никак не влияет. Скучно читать об этой политике, ей-богу.

      • 23602 2816

        Конечно если Вам показывают верёвку и говорят что это СЛОН то не особо и обманывают.
        Это возможно его хвост ))
        В другом источнике вы можете увидеть ухо….
        И по ушам и хвосту догадаться что СЛОН похож на осла ))
        И это всё ))
        Потому конечно не заморачиваться на всю эту муть ПРАВИЛЬНО…..
        Хуже когда по ЭТИМ принципам Вас начнут ЛЕЧИТЬ уже от реальных проблем или болезней.
        Врачи или юристы или иные представители массового ОБМАНА….
        Вот тогда умение НЕ РАССЛАБЛЯТЬСЯ пригодится и спасёт и жизнь и кошелёк.
        Я вот выяснил что мне поставили левый диагноз и лечили левыми лекарствами подсунули левые документы на газовое оборудование и левые амортизаторы на автосервисе.
        ВЕЗДЕ ОБМАН.
        И надо уметь его видеть

  • 23602 2816

    Почему только на лево?
    Я хожу в любую сторону и в отличии от ферзя ещё и вверх и вниз и вверх и плаваю.
    Не летаю…
    Странно почему не летаю но не получается как-то..

  • 4352 2964

    Вот я никак не мог понять, откуда взялись эфир, генераторы свободной энергии, всякие Штрауберги и прочие новые физики вместе с Левашовым, а оказывается – это всё глубокий фейк называется, и ЯП распространяет глубокие фейки в том числе под видом очень тайных знаний. Тайна, известная всем. Хороший был фильм.

Оставить комментарий

Вы вошли как Гость. Вы можете авторизоваться

Будте вежливы. Не ругайтесь. Оффтоп тоже не приветствуем. Спам убивается моментально.
Оставляя комментарий Вы соглашаетесь с правилами сайта.

(Обязательно)