Deepfake — это синтетические медиаматериалы, в которых образ одного человека заменяется на образ другого. Они становятся всё более распространенными в интернете, часто распространяя дезинформацию по всему миру. Хотя некоторые из них могут казаться безобидными, другие могут носить злонамеренный характер, что делает важным для людей умение различать правду и цифровой фальсификат.
К сожалению, не у каждого есть доступ к передовому программному обеспечению для идентификации видео deepfake. Вот как фактчекеры анализируют видео, чтобы определить его подлинность, и как вы можете использовать их стратегии для себя.
1. Анализ контекста
Итак, как распознать дипфейк? Тщательный анализ контекста, в котором представлено видео, имеет решающее значение. Это означает изучение предыстории, обстановки и соответствия событий на видео тому, что вы знаете как правду. Deepfake-видео часто спотыкаются именно здесь, представляя контент, который при ближайшем рассмотрении не соответствует реальным фактам или временным рамкам.
Один из примеров включает в себя deepfake видео украинского президента Владимира Зеленского. В марте 2022 года в социальных сетях появилось deepfake-видео, где Зеленский, как казалось, призывал украинские войска сложить оружие и сдаться российским силам.
При более тщательном рассмотрении несколько контекстных подсказок подчеркнули неаутентичность видео. Официальные каналы украинского правительства и сам Зеленский не распространяли это сообщение. К тому же, временные рамки и обстоятельства не соответствовали известным фактам о позиции Украины и военной стратегии. Таким образом, создание видео было направлено на деморализацию украинского сопротивления и распространение путаницы среди международного сообщества, поддерживающего Украину.
2. Проверьте источник
Когда вы находите видео в интернете, проверьте его источник. Понимание того, откуда взялось видео, критически важно, поскольку хакеры могут использовать его против вас для проведения кибератаки. Недавно 75% специалистов по кибербезопасности сообщили о росте кибератак, при этом 85% отметили использование генеративного ИИ злоумышленниками.
Это связано с ростом количества deepfake-видео, и профессионалы все чаще сталкиваются с инцидентами безопасности, которые подпитываются контентом, созданным с помощью ИИ. Проверьте источник, ища, откуда изначально появилось видео. Видео, происходящее из сомнительного источника, может быть частью более крупной стратегии кибератаки.
Доверенные источники менее склонны к распространению deepfake-видео, что делает их более надежным выбором для достоверной информации. Всегда перепроверяйте видео с помощью уважаемых новостных агентств или официальных веб-сайтов, чтобы убедиться, что то, что вы смотрите, является подлинным.
3. Несоответствия в выражениях лица
Один из явных признаков deepfake — наличие несоответствий в выражениях лица. Несмотря на то что технология deepfake продвинулась вперед, она часто испытывает трудности с точным воспроизведением тонких и сложных движений, которые естественно происходят, когда человек говорит или выражает эмоции. Вы можете заметить это, обратив внимание на следующие несоответствия:
- Ненатуральное моргание: Люди моргают в регулярном, естественном ритме. Однако в deepfake моргание может быть изображено недостаточно или, наоборот, слишком часто. Например, в deepfake может быть показано, что человек говорит длительное время без моргания или моргает слишком быстро.
- Ошибки синхронизации губ: Когда кто-то говорит на видео, движение его губ может быть несогласованным. Внимательно следите за тем, соответствуют ли губы аудио. В некоторых deepfake несоответствие может быть тонким, но заметным при внимательном просмотре.
- Выражения лица и эмоции: Подлинные человеческие эмоции сложны и отражаются через движения лица. Deepfake часто не удается захватить это, что приводит к застывшим, преувеличенным или не полностью согласованным выражениям. Например, в deepfake-видео может быть показано, что человек улыбается или хмурится с меньшим нюансом, или эмоциональная реакция может не соответствовать контексту разговора.
4. Анализ аудио
Аудио также может дать вам подсказки о том, является ли видео настоящим или фальшивым. Технология deepfake пытается имитировать голоса, но расхождения часто выдают их. Например, обратите внимание на качество и характеристики голоса. В deepfake голос может звучать роботизированно или монотонно, или может не хватать эмоциональных интонаций, которые естественным образом проявлял бы настоящий человек.
Фоновый шум и качество звука также могут дать подсказки. Внезапное изменение может указывать на то, что части аудио были изменены или склеены вместе. Подлинные видео обычно остаются последовательными на протяжении всего времени.
5. Освещение и тени
Освещение и тени играют большую роль в раскрытии подлинности видео. Технологии deepfake часто испытывают трудности с точным воспроизведением взаимодействия света с объектами реального мира, включая людей. Внимательное наблюдение за освещением и тенями может помочь вам обнаружить различные признаки того, является ли это deepfake.
В подлинных видео освещение объекта и окружающей среды должно быть последовательным. Видео deepfake могут показывать нерегулярности, такие как лицо, освещенное иначе, чем фон. Если направление или источник света в видео кажется нелогичным, это может быть признаком манипуляции.
Во-вторых, тени должны соответствовать источникам света в сцене. В deepfake тени могут появляться под неправильными углами или не соответствовать другим объектам. Аномалии в размере тени, направлении и наличии или отсутствии ожидаемых теней дают вам общее представление.
6. Проверка на эмоциональную манипуляцию
Deepfake делают больше, чем создают убедительные ложные утверждения — люди часто разрабатывают их с целью манипулировать эмоциями и провоцировать реакции. Ключевым аспектом идентификации такого контента является оценка, направлена ли он на вызов эмоционального отклика, который может помутить рациональное суждение.
Например, рассмотрим инцидент, когда в Twitter X распространилось изображение, сгенерированное ИИ, бомбы у Пентагона. Несмотря на полную выдумку, тревожный характер изображения привел к его вирусному распространению и вызвал широкомасштабную панику. В результате произошла потеря в $500 миллиардов на фондовом рынке.
Видео Deepfake могут вызвать такой же уровень паники, особенно когда в деле участвует ИИ. Оценивая эти видео, задайте себе вопросы:
- Пытается ли контент вызвать сильную эмоциональную реакцию, такую как страх, гнев или шок? Аутентичные новостные источники стремятся информировать, а не подстрекать.
- Соответствует ли контент текущим событиям или известным фактам? Эмоциональная манипуляция часто основывается на отрыве аудитории от рационального анализа.
- Сообщают ли о той же истории авторитетные источники? Отсутствие подтверждения от доверенных новостных агентств может указывать на создание эмоционально насыщенного контента.
7. Инструменты обнаружения Deepfake
С развитием deepfake опираться только на человеческое наблюдение становится сложно. К счастью, доступны инструменты обнаружения deepfake, использующие передовые технологии для различения настоящего и фальшивого.
Эти инструменты анализируют видео на предмет несоответствий и аномалий, которые могут быть невидимы невооруженным глазом. Они применяют ИИ и машинное обучение, используя, в том числе, водяные знаки речи. Эти технологии обучены распознавать размещение водяных знаков, чтобы определить, было ли аудио подвергнуто изменениям.
Microsoft разработала инструмент под названием Video Authenticator, который предоставляет оценку достоверности, указывающую на вероятность deepfake. Аналогично, стартапы и академические учреждения постоянно разрабатывают и улучшают технологии, чтобы не отставать от развивающихся deepfake.
Заключение
Технология имеет светлую и темную стороны и не перестает развиваться, поэтому важно критически оценивать увиденное в сети. Столкнувшись с предполагаемым deepfake, используйте свои чувства и доступные инструменты. К тому же, всегда проверяйте источник происхождения. Пока вы следите за последними новостями о deepfake, ваша бдительность станет ключом к сохранению правды. Особенно, в эпоху «фейк-медиа».
Впрочем, если ваши намерения чисты, вы можете и сами создать дипфейк. Например, нейросеть Deepfakes Web поможет вам в этом начинании.
