Ваше лицо могут подделать за минуту: эксперимент, который пугает

Менее чем за минуту сегодня можно заставить любого человека произнести слова, которых он никогда не говорил. Для этого больше не нужны дорогое оборудование, специальные знания или профессиональные программы. Достаточно открыть одну из доступных нейросетей, загрузить короткое видео и дождаться результата.

Чтобы проверить, насколько это действительно просто, редакция NoFake.kz провела собственный эксперимент.

Результат оказался тревожным: создать убедительный дипфейк сегодня способен практически любой пользователь интернета.

Проверили сами

После появления в Казахстане нескольких резонансных дипфейков журналисты решили выяснить, насколько сложно сегодня самостоятельно создать подобное видео.

Для эксперимента использовали открытый сервис на базе искусственного интеллекта и публичное выступление президента США Дональда Трампа.

Такой выбор был принципиальным: политик не говорит по-русски, поэтому готовый ролик невозможно было использовать для дезинформации.

Менее чем через минуту нейросеть:

• сгенерировала русскую речь;
• синхронизировала движение губ;
• создала впечатление, будто человек действительно произносит эти слова.

При этом редакция специально не улучшала качество видео и не исправляла мелкие ошибки.

Несколько дополнительных минут обработки сделали бы ролик еще более убедительным.

Это уже происходит в Казахстане

Если несколько лет назад дипфейки казались технологической экзотикой, сегодня они стали частью казахстанского информационного пространства.

Ранее в социальных сетях распространялись сгенерированные видео с участием премьер-министра Олжаса Бектенова.

Позже широкий общественный резонанс вызвал ролик с министром обороны Дауреном Косановым, которому искусственный интеллект приписал слова, которых он никогда не произносил. Позднее Министерство обороны официально подтвердило, что видео было полностью создано с помощью технологий искусственного интеллекта.

Проблема подобных материалов заключается не только в самой подделке.

Пока государственные органы публикуют опровержения, фальшивые ролики успевают разойтись по Telegram-каналам, социальным сетям и мессенджерам, формируя первое впечатление у тысяч пользователей.

Почему это становится опаснее

По словам руководителя направления AI & Media Integrity международной организации WITNESS Ширин Англен, главная проблема заключается не в совершенстве дипфейков.

Опасность в другом – создавать их стало невероятно легко.

«Сегодня создавать убедительный контент можно быстро, дешево и практически без ограничений. Технологии становятся доступными не только профессионалам, но и тем, кто использует их для манипуляций и распространения дезинформации», – отмечает эксперт.

Если раньше подобные ролики требовали сложного монтажа и команды специалистов, сегодня для этого достаточно нескольких минут и доступа к интернету.

Следующий этап – искусственные люди

Дипфейки – уже не единственное направление развития искусственного интеллекта.

Сегодня ИИ способен создавать полностью вымышленных людей.

У таких персонажей есть:

• собственные лица;
• реалистичные голоса;
• страницы в социальных сетях;
• публикации;
• комментарии;
• тысячи подписчиков.

Некоторые из них обсуждают общественные события, дают советы, рассказывают новости и постепенно формируют доверие аудитории. Подобные аккаунты уже появились и в Казахстане.

После вступления в силу закона об искусственном интеллекте автор начал маркировать публикации как созданные ИИ, однако к тому моменту аудитория уже насчитывала тысячи подписчиков.

Даже если люди знают правду – это все равно работает

По словам Ширин Англен, одна из самых тревожных особенностей современных ИИ-персонажей заключается в том, что пользователи продолжают доверять им, даже понимая их искусственное происхождение.

«Мы все чаще видим, что люди знают, что перед ними искусственный персонаж, и это всё равно работает. Даже то, что это ИИ, уже не имеет большого значения», – говорит эксперт.

Причина в том, что подобный контент воздействует прежде всего на эмоции. Алгоритмы социальных сетей дополнительно усиливают этот эффект, продвигая публикации, вызывающие наиболее сильную реакцию пользователей.

Как Казахстан пытается защититься

Рост числа подобных случаев уже привел к изменениям в законодательстве.

Первый в Центральной Азии Закон «Об искусственном интеллекте» предусматривает обязательную маркировку синтетического контента – изображений, видео, аудио и текстов, созданных с помощью ИИ. Кроме того, борьбой с цифровым мошенничеством занимаются специализированные подразделения правоохранительных органов, Антифрод-центр и Центр прогнозирования преступных угроз при Генеральной прокуратуре.

Как не стать жертвой дипфейка

Эксперты советуют соблюдать несколько простых правил:

• не доверять эмоциональным роликам без проверки источника;
• искать подтверждение информации в официальных СМИ;
• обращать внимание на качество синхронизации губ и голоса;
• проверять публикации через официальные сайты государственных органов;
• помнить, что даже очень реалистичное видео сегодня может оказаться полностью созданным искусственным интеллектом.

Главная задача теперь – научиться не доверять увиденному автоматически. В цифровую эпоху привычка проверять источник информации становится такой же важной, как использование сложного пароля или двухфакторной аутентификации. Именно она все чаще определяет, станет ли человек жертвой очередной информационной манипуляции.

Читайте также: