Реальность или вымысел? Как отличить дипфейки, созданные с использованием ИИ

Министр цифрового развития и связи Алтайского края Евгений Зрюмов рассказал, как с помощью ИИ создают поддельный аудио- или видеоконтент – дипфейки.

Ложь – коммуникация

С этим явлением регулярно сталкиваются жители нашей страны, при этом половина не может определить, реальность это или вымысел. Животные и птицы давно пользуются данным приемом, чтобы спасаться от врагов или, наоборот, добывать пищу. Они меняют окраску, чтобы слиться с ландшафтом, имитируют голоса одних хищников, чтобы отпугнуть других.

Есть объяснение этому фактору. Оказывается, ложь – неотъемлемая часть человеческой коммуникации. По данным исследований Массачусетского технологического института, 60 % людей говорят 2–3 раза неправду в течение 10‑минутного разговора. Этому множество причин: страх наказания, соображения выгоды, желание самооправдания.

В газетах стали обманывать примерно в 1776 году, когда был описан способ ловли диких уток на желуди. С этого времени и пошел термин «газетная утка». В советские времена таких обманов тоже было достаточное количество. Например, пропагандисты убирали изображение Троцкого с фотографий с помощью ретуши. Другого способа тогда не было.

Угроза «инфокалипсиса»

Но сегодня искусственный интеллект предоставил такие возможности, которые может использовать почти каждый. Старт этому непростому процессу дал тогда еще студент Стэнфордского университета Ян Гудфеллоу, который, используя возможности машинного обучения, сконструировал генеративно-­состязательные сети (GAN), на основе которых сейчас создается изображение. Технология, которую предложил Гудфеллоу, основана на работе двух нейросетей: одна пытается обмануть другую, создавая реалистичные картинки, а та старается отличить фейк. Так появляется новое реалистичное изображение.

В отчете многих университетов говорится, что именно дипфейки с использованием ИИ являются главными угрозами безопасности государства и бизнеса. Среди наиболее ярких примеров можно вспомнить, как 2024 году финансовый работник многонациональной компании был обманом вынужден выплатить $25 млн мошенникам, использовавшим технологию дипфейк, чтобы выдать себя за финансового директора компании во время видеоконференции. В 2020 году злоумышленники клонировали голос директора банка и использовали его для кражи из учреждения $35 млн.

Эксперты прогнозируют, что может наступить время, когда цифровая информация станет полностью ненадежной из-за синтетических медиа. Дипфейки могут спровоцировать социальные беспорядки, распространяясь быстрее, чем их могут опровергнуть.

Борьба с дипфейками

Евгений Зрюмов замечает, что эти вызовы стоят и перед нами, называя несколько способов борьбы с фальшивками. Например, можно анализировать освещенность предметов (солнце светит с одной стороны, а тень – с другой); отслеживать логические несоответствия (на картинке идет дождь, а человек сухой); учитывают микроизменения цвета лица человека, которые связаны с частотой работы его сердца.

Власти также включаются в этот процесс. Так, в Евросоюзе в 2022 году принят Усиленный кодекс по борьбе с дезинформацией; в Китае предусмотрена маркировка контента, созданного ИИ. Если мошенники скрыли этот факт, то они попадают под уголовное преследование. В США недавно приняли закон, направленный на борьбу с подделками в Интернете. В этом году в России депутаты также планируют принять пакет законов, направленных против дипфейков.