Фейки и Дипфейки

Как нейросеть стала мощным оружием в руках мошенников, почему ваш голос может быть опасным и что советует ФСБ.

В наше время искусственным интеллектом может воспользоваться любой желающий. Большая часть и не догадывается, на что способна эта технология. Как мошенники используют нейросети, чтобы узнать пароль от ваших социальных сетей или украсть ваши деньги? Как люди стараются посеять сомнения в политиках? Как вы можете быть подвергнуты шантажу, лишь поговорив с человеком по телефону?

Для обсуждения этих и других актуальных вопросов 9 сентября «Областная газета» организовала журналистам издания, студентам УрФУ и юнкорам из разных городов Свердловской области встречу с официальным представителем УФСБ России Еленой Докучаевой.

Елена Александровна рассказала журналистам, что такое фейки и дипфейки, как отличить их от настоящих материалов, зачем их создают и как снизить риск столкновения с дипфейками. Ведь в эпоху распространения фейков и дипфейков правдивость информации стала значить гораздо больше, чем ее оперативность.

Дипфейк – это технология, использующая искусственный интеллект для создания фейковых, поддельных, ложных видео или аудио, где лица или голоса людей заменяются на другие. Она может быть использована как и в развлекательных целях, так и с целью обмана и манипуляции над людьми.

Дипфейки в наше время могут применяться практически везде. Например, в киноиндустрии дипфейки помогают создавать образы актеров, даже если их уже нет в живых. Они делают спецэффекты более реалистичными и позволяют персонажам лучше взаимодействовать друг с другом.

Так, в фильме «Форсаж 7» после смерти Пола Уокера во время съемок, его братья были использованы в качестве дублеров, а дипфейки помогли создать дополнительные сцены с его участием, что позволило завершить фильм с уважением к его памяти.

Международные компании могут использовать дипфейки, чтобы их представитель лично обращался к потребителям в разных странах на их родном языке, сохраняя естественную мимику.

Но не всегда дипфейки применяются в добрых намерениях. В руках преступников они могут превратиться в мощное оружие для мошенничества, манипуляций над обществом и нарушениям личных границ.

Мошенники могут использовать нейросети, чтобы создать голосовые дипфейки с вашим голосом. Получив короткую запись вашего голоса, например, когда вам звонят и просят поучаствовать в социальном опросе или из ваших соцсетей, мошенники могут создать фальшивое голосовое сообщение якобы «от вас» для ваших близких или знакомых с просьбой срочно перевести денег из-за проблем.

Мошенники, использующие искусственный интеллект, могут генерировать грамотные и правдоподобные письма от государственных властей, банков и начальников, с просьбой перейти по ссылке и ввести данные или сказать код, который сейчас придёт на устройство.

Злоумышленники так же распространяют ложную информацию, чтобы посеять панику у людей и тем самым вызвать экономические проблемы в стране. Многие помнят, как во время пандемии коронавируса в социальных сетях и СМИ появились новости о дефиците товаров, что вызвало панику и массовые закупки гречки и туалетной бумаги. Люди, видя, как другие скупают товары, начали делать то же самое из-за страха остаться без товаров. Это создало эффект массовой закупки, несмотря на отсутствие реального дефицита товаров.

С помощью нейросетей, люди могут манипулировать общественностью и создавать межнациональные конфликты.

К сожалению, полностью защититься от мошенников, использующих нейросети в наше время нельзя. Ведь мы живём в эпоху развития искусственного интеллекта и с каждым годом он становится все более прогрессивным. Но эксперты из ФСБ дали советы, которые помогут всем нам сделать пребывание в интернете более безопасным.

Усильте защиту аккаунтов

— На все аккаунты на вход в социальные сети должна стоять двухфакторная аутентификация и надёжный пароль.

— SIM-карта так же должна быть защищена надёжным PIN-кодом. Преступникам не нужен ваш телефон, чтобы обмануть вас. Им достаточно достать SIM-карту и вся ваша информация и пароли будут в руках у мошенников.

Создайте «Семейный пароль»

— В кругу семьи и близких людей создайте секретный код, чтобы в случае чего, можно было убедиться, что это точно ваш знакомый. Подойдёт любое слово — главное, чтобы все в семье знали о нем.

Защитите свой голос и изображения

— Если вам всё-таки дозвонились мошенники и вы поняли, что это они, ни в коем случае не продолжайте разговор. Им достаточно короткого отрывка вашего голоса, чтобы создать фейковые голосовые сообщения или даже видео.

— Постарайтесь быть осторожными при разговоре с незнакомцами, которые могут записать ваш разговор.

— Постарайтесь меньше выкладывать фотографии в социальные сети. С их помощью мошенники могут создать фальшивое видео с вашим участием.

Проверяйте информацию

— Выберете для себя несколько надёжных источников, которые выкладывают только достоверную информацию. Это могут быть крупные средства массовой информации: пара телеканалов, газета, несколько электронных источников которые публикуют только достоверную и тщательно проверенную информацию.

— Если вам с незнакомого номера позвонил ваш знакомый со странными просьбами, то лучше положите трубку и позвоните на известный вам старый номер.

Не переходите по незнакомым ссылкам

— Ни в коем случае не переходите по незнакомым подозрительным ссылкам. Мошенники создают ссылки, которые могут воровать данные и распространять их.

Сообщать подозрительную информацию напрямую ФСБ

— Уральское отделение ФСБ создало телеграмм-канал, в котором выкладывает информацию про фейки, дипфейки и мошенников, про то как уберечься от них и что делать при столкновения с ними. Если вы подозреваете в правдивости какую либо информацию, сообщите об этом в предложку телеграмм-канала «Антитеррор Урал».

От встречи к просвещению и безопасности в сети

Максим Русаков, 11 класс, оператор и монтажер «ТВ-Спектр» медиастудии «Спектр» Центра дополнительного образования г.Ревды

— Когда наши ребята, после встречи с представителями ФСБ поделились информацией про дипфейки и интернет-мошенников, в голове сразу родился сценарий социальной рекламы. Мы за день сняли ролик «Семейный пароль — личный телохранитель», в котором смоделировали ситуацию, когда мошенники, используя дипфейк голоса старшего брата, пытаются обмануть молодого человека. Но всего одно семейное кодовое слово стало надёжной защитой от обмана. Опубликовали видео в своих соцсетях, потом прошли публикации в соцсетях «Антитеррор Урал», некоторых школ, городских СМИ, и в итоге ролик посмотрели более 19 тысяч человек, а значит большая вероятность, что эти люди уже не попадутся на уловки мошенников.

Безусловно, искусственный интеллект является помощником человека. Он может помочь в образовании, в повседневной жизни человека, в творчестве и развлечениях, в медицине и здравоохранении, в науке и промышленности.

Но мы не должны забывать, что искусственный интеллект — это не только новые возможности, но и новые риски. Осведомлённость, критическое мышление и цифровая гигиена — на сегодняшний день это базовые качества, которые должны быть у каждого человека.

Текст: Алиса Климовских, 9 класс