Технология Deepfake как угроза современному обществу
Развитие вычислительной техники и распространение машинного обучения на современном этапе значительно упростили процесс создания фальшивых видео- и медиаматериалов – дипфейков (от англ. deepfakes - deep learning «глубокое обучение» и fake «подделка»). Deepfake – технология синтеза изображения и голоса, использующая возможности искусственного интеллекта для создания убедительных поддельных видео- и аудиозаписей.
Использование специального алгоритма позволяет программе постоянно «самообучаться». Этот процесс постепенно приводит к созданию изображений, неотличимых от оригинала. Анализ изменения мимики и движения лица позволяет заменить в целевом видео оригинальное изображение на обученную сгенерированную модель.
Сам по себе синтез изображений может не иметь очевидных социально опасных целей, однако манипуляции с применением фото, видео или голоса реальных людей создают целый комплекс моральных, юридических и финансовых проблем. В итоге, имея доступные ресурсы для замены лица любого человека на ложное изображение или видео без его ведома и согласия, кибер-шантажисты получают шанс на преследование жертвы и осуществление против неё противоправных действий.
Обход многоуровневой биометрической аутентификации
Среди современных методов социальной инженерии, которыми пользуются злоумышленники, дипфейк-технология занимает одну из ключевых позиций в инструментарии киберпреступников, стремящихся к несанкционированному доступу, взлому зашифрованных баз данных и утечке конфиденциальной информации. Для предотвращения подобных случаев разрабатываются системы повышенной степени защиты, одним из главных принципов которых является многоуровневая биометрическая аутентификация, активно вытесняющая традиционные пароли и PIN-коды и предлагающая более удобный и, как принято считать, надёжный способ подтверждения личности. Здесь, помимо голоса, используется фото клиента, где специальная программа считывает расстояние от носа до глаз и от носа до губ, которые у каждого человека индивидуальны. Для удалённой идентификации применяется комбинация голоса, лица и некоторых других параметров, при этом используется защита, предполагающая исключение подмены фотографий. Отпечатки пальцев, черты лица, голос и даже форма ушей – всё это стало частью современного цифрового ландшафта.
Однако стремительное распространение подобных технологий не обошлось без последствий: вместе с удобством дистанционного доступа растёт и уровень злоупотреблений. Криминальный интерес к биометрии перестал быть гипотетическим – преступники всё чаще используют её уязвимости в реальных атаках, создавая путем применения дипфейк-технологии все более реалистичные изображения, максимально приближенные к оригиналу. Кроме того, современные генеративно-состязательные нейросети способны произвести не только реалистичную замену лиц, но и голоса, позволяя тем самым обойти идентификацию в системах дистанционного обслуживания. Послушав несколько часов записи голоса человека, нейросеть может точно скопировать и воспроизвести его, озвучивая любой текст. В итоге речь, создаваемая нейросетью, полностью реалистична, а слова произносятся программой практически без ошибок и «машинного» акцента. Синтезированный голос может использоваться в мошеннических схемах, включая махинации с банковскими счетами или фиктивными похищениями, а также звонками «родственников» с просьбой срочно перевести деньги.
По данным Европола[1], количество инцидентов, связанных с обманом биометрических систем, в последнее время значительно увеличилось. Как отмечают в полицейской службе Европейского союза, вектор подобных злоупотреблений уже не ограничивается одной лишь подделкой данных. Речь идёт и об извлечении биометрических профилей, которые могут быть использованы для выявления, шантажа или даже массового отслеживания жертв в соцсетях. В итоге технологии, призванные укрепить защиту, в руках преступников превращаются в средство атаки. При этом один раз скомпрометированные биометрические данные невозможно заменить — в отличие от пароля, отпечаток пальца или форма лица остаются неизменными на всю жизнь. Информацию Европола о росте случаев обхода биометрической защиты подтверждает и компания Entrust[2], сообщившая в марте с.г., что на долю дипфейков, созданных с использованием искусственного интеллекта, приходится четверть (24%) всех попыток обмануть проверки биометрии, основанной на движении - технология широко применяемая банками и другими сервисами для аутентификации пользователей.
Сам факт существования такого вида мошенничества создаёт дополнительные сложности для организаций, использующих фотоизображение для подтверждения личности клиентов в сети. Теперь для них возникает необходимость не только выявлять поддельные документы, но и предотвращать использование подлинных данных мошенниками.
Дипфейки и даркнет
Особое беспокойство вызывает тот факт, что многие люди самостоятельно продают свои личные данные ради краткосрочной финансовой выгоды. Такие действия подвергают риску не только финансовую безопасность самих индивидуумов, но и позволяют преступникам создавать полные пакеты данных для сложных схем мошенничества.
Согласно исследованиям «Лаборатории Касперского» стоимость создания одной минуты дипфейк-роликов на форумах в даркнете составляет от 300 до 20 тысяч долларов США. Дипфейки могут создаваться для использования в скам-схемах, политических манипуляций, мести и кибербуллинга. Спрос на соответствующие сервисы и инструменты в даркнете значительно превышает предложение. Широко предлагаются услуги по созданию дипфейков для «криптофрода» — так называемых криптостримов или фальшивых розыгрышей токенов. Подобная схема относится к финансовому мошенничеству с криптовалютой. Для этого преступники используют фейковые видео знаменитостей или модифицирую старые видеозаписи с их участием, чтобы запустить прямые трансляции на платформах социальных сетей. Выдавая себя за популярную личность, они обычно обещают удвоить отправленный им платёж. Если жертва поверит злоумышленнику, то рискует потерять крупную сумму денег.
Продавцы в даркнете также предлагают услуги по созданию порнографических видео, а некоторые разрабатывают инструкции для генерации подобных роликов. Такие дипфейки могут использоваться в том числе для преследования и шантажа.
Дипфейк-технологии в корпоративной среде
За последние годы наблюдается резкий рост числа хакерских атак с использованием дипфейк-технологии в корпоративной среде. Искусственный интеллект для синтеза и клонирования человеческих голосов уже позволил киберпреступникам похитить десятки миллионов долларов у банков и финансовых компаний по всему миру, вызвав серьезную озабоченность в сфере корпоративной кибербезопасности. Так в мае 2024 года исполнительный директор крупнейшей в мире рекламной группы WPP Марк Рид пострадал от аферы на основе искусственного интеллекта с применением голосового клона. Он сообщил, что мошенники эксплуатировали его публичное изображение, чтобы создать учетную запись в WhatsApp и организовать встречу в Microsoft Teams. Киберпреступники воспользовались его голосовым клоном и видео на YouTube. Рид предостерег других сотрудников компании от откликов на видео-звонки поступающих, якобы от высших исполнительных лиц и отметил крайне высокое качество использованных дипфейков, свидетельствующее о существенных ресурсах в распоряжении злоумышленников.
В нашей стране подобные схемы тоже очень распространены. В частности, летом прошлого года Банк России предупредил о возросшей активности мошенников, использующих дипфейк-технологии. Современные злоумышленники применяют нейросети для создания фальшивых видео с правдоподобными изображениями реальных людей, используя их фото, видео и голосовые записи, полученные через взлом аккаунтов в социальных сетях или мессенджерах. В таких мошеннических схемах виртуальные клонированные образы отправляются друзьям и родственникам жертвы с просьбой о финансовой помощи. Видео часто содержит ложные истории о болезни, ДТП или увольнении, призывающие жертв перевести деньги на указанный счёт. В некоторых случаях мошенники создают дипфейки, изображающие работодателей, сотрудников госорганов или известных личностей, чтобы запутать свою жертву.
Дипфейк и геополитика
По своей сути deepfake – это разновидность информационной атаки, которая может стать самой опасной в цифровой сфере за последние десятилетия. Наиболее серьезные опасения вызывает потенциал использования технологий создания дипфейков для разжигания конфликтов, массовых гражданских беспорядков и подрыва национальной безопасности.
Цифровые сервисы в последние годы превратились в мощный инструмент воздействия на сознание человека с целью формирования определенных поведенческих паттернов, политических, религиозных и идеологических воззрений. Согласно концепции современных «гибридных войн», достижение геополитических целей связано уже не только с непосредственными боевыми действиями, но и с культивированием внутреннего протеста, социальной напряженности в фокусном государстве. Речь идет о ведении прокси-войны на территории противника. В таких войнах дипфейки начинают играть одну из ведущих ролей за счет своего уже доказанного серьезного эффекта по формированию общественного мнения.
Например, во многих развивающихся странах существует опасность провокации межэтнических или межконфессиональных столкновений вызванных публикациями в соцсетях фейковых видео, где представитель определенной группы высказывается или осуществляет иные действия, которые могут быть восприняты другими как оскорбление. Если широкие слои населения государства не будут осведомлены о таком явлении как дипфейк, то любое поддельное видео с провокационным контентом может вызывать межрасовую и межнациональную рознь. Проблема распространения модифицированного аудиовизуального контента в СМИ и Интернете, порождает феномен «постправды». Попытки властей реагировать на подобные явления окажутся запоздалыми в подобной ситуации. В условиях высокой сетевой вовлеченности становится всё сложнее опровергать сфальсифицированные видео после того, как они было просмотрены большим количеством людей. Подобное воздействие будет тем больше, чем меньше аудитория сомневается в подлинности изображения. Развитие информационных технологий и Интернета, программных средств обработки и использования «больших данных», увеличение быстродействия и мощности вычислительных систем, опережающие разработки «искусственного интеллекта» ставят на повестку дня проблему политического воздействия дипфейков на массовую аудиторию, посредством которых преодолевается языковой барьер, и при этом используются различные психологические инструменты. Такие методы создают у целевой группы ложную иллюзию свободы и самостоятельности в принятии решений, выгодных только манипулятору.
Противодействие в юридическом поле. Международный опыт
Вопрос применения дипфейк-технологий уже стоит в политической повестке ряда стран. Например в 2019 году Комитет по разведке Палаты представителей США впервые провел открытые слушания по тематике угроз национальной безопасности, создаваемых искусственным интеллектом, в первую очередь технологиями deepfake в ходе которых было единогласно принято решение о том, что дипфейки представляют реальную угрозу для американского общества на различных уровнях. В том же году было выделено 738 млрд долларов на стимулирование исследований в области технологий обнаружения подобных угроз для национальной безопасности США. Тогда же в штате Калифорния (США) подписан законопроект, регулирующий распространение дипфейков - первый известный закон, ограничивающий распространение именно дипфейков в интернете.
Власти Китая в 2020 году, приняв соответствующий закон, объявили уголовным преступлением любую публикацию, содержащую заведомо ложную информацию, в т.ч. с применением дипфейков. Согласно введенным правовым нормам, все дипфейки необходимо отмечать специальной пометкой, предупреждающей пользователей о том, что это ненастоящая новость. Закон приняла Администрация киберпространства Китая. Чиновники отметили, что использование дипфейк-технологий может «поставить под угрозу национальную безопасность, подорвать социальную стабильность, а также нарушить общественный порядок и ущемить законные права и интересы граждан».
В январе 2025 года Министерство юстиции Великобритании разместила на своем сайте информацию о введении уголовного наказание за создание и распространение сексуализированных дипфейков. Виновные могут столкнуться с лишением свободы сроком до двух лет. Эти меры стали частью стратегии правительства по борьбе с онлайн-насилием и защите женщин.
Российское направление
В настоящий момент в Госдуму Российской Федерации внесен законопроект, направленный на ужесточение уголовной ответственности за преступления, совершённые с применением технологий искусственного интеллекта (ИИ). Проектом предлагается внести изменения в статью 63 Уголовного кодекса РФ, добавив новый отягчающий признак — использование ИИ в преступных целях. Это означает, что если преступление было совершено с применением технологий искусственного интеллекта (например, генерация дипфейков, автоматизированный фишинг, взломы, использование чат-ботов для обмана и т. д.), то суд при назначении наказания должен будет учитывать это как фактор, отягчающий вину. Среди вышеуказанных и подобных угроз депутаты особо подчеркнули именно опасность злонамеренного применения дипфейк-технологий.
Меры технического противодействия (на примере США)
На современном этапе развития рынок информационной безопасности, к сожалению, не предлагает универсальных решений для защиты от дипфейков. Тем не менее, определённые шаги в данном направлении совершаются. Например, Intel, Microsoft и другие американские компании и исследовательские центры ведут разработку инструментов для обнаружения подобных подделок.
Кроме того, Управление перспективных исследовательских проектов Министерства обороны США (Defense Advanced Research Projects Agency - DARPA)[3] с 2019 года ведет работу по формированию и внедрению систем современных алгоритмов для выявления фейковых новостей и видеозаписей, созданных с помощью технологии deepfake. Алгоритм направлен на обнаружение подлога в текстах и видеофайлах, распространяемых через СМИ и соцсети. Данная программа экспертизы мультимедийных материалов, получившая название SemaFor (Semantic Forensics) - «Семантическая криминалистика», разработана в целях автоматизации поиска фальсифицированных медиа-контента (текстов, аудио, изображений, видео) и защиты от крупномасштабных дезинформационных атак в режиме реального времени. Платформа MediFor распознает сгенерированные видео с помощью сопоставления физиологических данных. Например, алгоритмы видят неестественную мимику или частоту морганий. Также программа выявляет несоответствие контуров лица и тела, что говорит о синтетическом происхождении видео.
Обе программы борются с фальсификациями и массовой дезинформацией. Разработчики стремятся не просто находить и опровергать дипфейки, которые уже оказались в медиапространстве, но их главная цель — обнаруживать манипуляции, пресекать генерацию и распространение ложного контента в самом начале при первичном появлении фейковой информации в СМИ. Пентагон проявляет большой интерес к подобным исследованиям с целью использовать эти технологии не только для предотвращения, но и для проведения собственных информационных атак.
Подводя итоги, следует отметить, что основная проблема противодействия дипфейкам на сегодняшний день заключается в том, что сфера искусственного интеллекта недостаточно регулируется. В будущем одним из способов решения обозначенной проблемы видится в создании соответствующей нормативно-правовой базы, закрепляющей ответственность за разработку и распространение вредоносных программ на базе ИИ, в том числе дипфейков.
Сегодня основное правило защиты от подобных мошеннических технологий ― критически относиться к любой информации в сети и повышать цифровую грамотность в корпоративной среде. Для минимизации рисков целевых атак при помощи дипфейков необходима разработка и внедрение методов их обнаружения и предотвращения. К таким методам можно отнести: информирование сотрудников о новых типах вредоносной активности, использование многофакторной аутентификации сотрудников, электронной подписи для защиты сообщений электронной почты, минимизация каналов коммуникаций компании, обеспечение согласованного распространения информации, ограничение фото- и видеоконтента с участием руководящих лиц предприятия, разработка плана реагирования на дезинформацию (по аналогии с инцидентами безопасности), организация централизованного мониторинга каналов и отчётности внутри компании и для связи с контрагентами, внедрение практики устных паролей, кодовых слов или контрольных вопросов, ответы на которые известны только двум сторонам, отслеживание новых способов обнаружения дипфейков и методов борьбы с ними.
Частным пользователям также рекомендуется критически относиться к любой информации в сети и использовать защитные решения. Следует обращать внимание на качество видео-/аудиообращения — монотонная речь, неестественная мимика и странные звуки могут быть признаком использования дипфейка. Для предотвращения подобных ситуаций необходимо сократить объем персональных данных, находящихся в открытом доступе. Это усложнит злоумышленникам сбор и анализ информации. Любому таргетированному воздействию с применением дипфейков и связанных передовых технологий, как правило, предшествует работа по изучению потенциальной жертвы.
[1] Европол (Europol) — полицейская служба Европейского союза, расположенная в Гааге. Основными задачами службы являются координация работы национальных служб в борьбе с международной организованной преступностью и улучшение информационного обмена между национальными полицейскими службами
[2] Entrust – это международная компания, базируется в Шакопи, штат Миннесота (США), со штатом сотрудников более 2500 человек по всему миру, специализирующаяся на предоставлении решений в области цифровой безопасности. Основанная в 1994 году, компания предлагает широкий спектр услуг, включая аутентификацию, управление цифровыми удостоверениями, защиту данных, шифрование.
[3] Основано в 1958 году в ответ на запуск в СССР первого искусственного спутника Земли (1957) и первоначально называлось ARPA (Advanced Research Projects Agency). DARPA существует независимо от обычных военных научно-исследовательских учреждений и подчиняется непосредственно руководству Министерства обороны США. Постоянный штат DARPA от 200 до 300 сотрудников, большая часть из них — технические специалисты. Роль DARPA в исследованиях состоит в экспертизе проектов, обоснованном выборе подрядчиков и эффективном распределении средств между ними.