Как защититься от дипфейка в современном интернет-пространстве

Что это такое? Еще недавно и термина такого не существовало, а сейчас дипфейк кажется вполне нормальным. Люди, постоянно находящиеся или вращающиеся в интернет-пространстве, не могут чувствовать себя защищенными, зная, что многие их личные данные выложены в сеть и ими могут воспользоваться мошенники.

Как защититься от дипфейков? Знать об этой проблеме и чувствовать ее реальность – значит уже встать на путь защиты. Оградите свою жизнь от излишнего вмешательства, а если информация о вас есть в Интернете, будьте готовы узнать, как не стать жертвой мошенников.

Понятие DeepFakе

Термин DeepFake складывается из двух слов: «глубокий» и «подделка». Если рассматривать это применительно к ИИ, то речь тут идет о глубоком погружении в тему. То есть подразумевается освоение методов машинного обучения, позволяющих создавать представления, а не единичные алгоритмы для решения отдельных задач. Собственно, в этом и состоит суть работы искусственного интеллекта. Что касается слова «подделка», здесь всё понятно без дополнительных объяснений.

DeepFake — это картинки или видеофайлы, сгенерированные технологиями искусственного интеллекта с наложением фрагментов друг на друга. При этом достигается такая высокая точность, что визуально отличить оригинал от фейка весьма затруднительно.

Собственно, назначение данной технологии – создание абсолютно неразличимых подделок, хотя первоначально цель состояла в том, чтобы повысить уровень анонимности в сети. Что ж, фейки получаются абсолютно реальными, это главная их характеристика. С большой долей уверенности можно сказать, что очень многих преступлений, где «замешаны» дипфейки, люди не то что не раскроют, а даже не заметят.

Тут уместно будет дать и еще одно определение. DeepFace — это сгенерированное ИИ (искусственным интеллектом) изображение человеческого лица. В реальности такого человека нет и никогда не было, лицо выглядит таким, каким его «представляет» себе ИИ, то есть, по сути, это компьютерная «фантазия».

Как создают дипфейки

Видео подобного плана чаще всего создаются с помощью генеративно-состязательных сетей (GAN, generative adversarial network). В алгоритме GAN задействуются две нейронные сети, которые в процессе работы как бы вступают в соревнование.

Узнай, какие ИТ - профессии
входят в ТОП-30 с доходом
от 210 000 ₽/мес

Павел Симонов

Исполнительный директор Geekbrains

Команда GeekBrains совместно с международными специалистами по развитию карьеры подготовили материалы, которые помогут вам начать путь к профессии мечты.

Подборка содержит только самые востребованные и высокооплачиваемые специальности и направления в IT-сфере. 86% наших учеников с помощью данных материалов определились с карьерной целью на ближайшее будущее!

Скачивайте и используйте уже сегодня:

Павел Симонов

Исполнительный директор Geekbrains

Топ-30 самых востребованных и высокооплачиваемых профессий 2023

Поможет разобраться в актуальной ситуации на рынке труда

Подборка 50+ бесплатных нейросетей для упрощения работы и увеличения заработка

Только проверенные нейросети с доступом из России и свободным использованием

ТОП-100 площадок для поиска работы от GeekBrains

Список проверенных ресурсов реальных вакансий с доходом от 210 000 ₽

Получить подборку бесплатно

pdf 3,7mb

doc 1,7mb

Уже скачали 30006

Сначала идет подготовка и той, и другой сети на реально существующих изображениях. А вот затем начинается уже этап состязания: так называемая генеративная сеть создает (генерирует) картинки, а затем дискриминативная сеть старается определить подлинность сформированных изображений.

Полученные результаты тоже выступают в роли образца для дополнительного обучения обеих сетей, чтобы они еще более качественно выполняли свои задачи на каждом последующем цикле.

По сути, данный метод может оказаться полезным для применения в самых разных жизненных сферах. Генеративная сеть научится создавать изображения исходя из того, какие именно данные вы захотите предоставить ей для «обучения».

Что касается дипфейков, то программа берет за основу фото реальных людей. После чего сеть уже может генерировать сколько угодно поддельных изображений нужного человека, причем выглядящих абсолютно реально, достоверно. Далее просто склеиваете кадры один за другим в нужном порядке – и вот вам уже видеофейк. Аудиоподделки создаются по аналогии. Онлайн-мошенники уже давно пользуются данной технологией.

Дипфейки опасны?

Пожалуй, да, теперь уже опасны. Качество самых первых фейковых видео оставляло желать лучшего, но технологии развиваются с невероятной скоростью, и теперь уже отличить подделку не так уж легко.

В связи с этим дипфейки стали активнее использоваться в мире криминала. Мошенники разговаривают со своими жертвами по телефону сгенерированными на компьютере голосами, шантажисты создают фейковые видео-компроматы и задействуют их в своих тёмных схемах. На будущее специалисты выстраивают весьма неоптимистичные прогнозы, уверяя, что дипфейки способны стать проблемой даже для национальной безопасности. Учитывая, что сейчас всюду ведется сбор и хранение биометрических данных (отпечатков пальцев, образцов ДНК), всеми этими материалами могут потом воспользоваться злоумышленники.

Нейросеть с помощью GAN сымитировала голос и даже акцент немецкого начальника (изучив его манеру говорить по аудиозаписям с публичных выступлений). Убытки выплачивали страховщики, а для остальных это стало поводом задать себе вопрос, как можно защититься от дипфейка, чтобы не оказаться в подобной ситуации.

Возможный вред от дипфейков

Дипфейки существуют с 2017 года и активно используются в преступной среде. Примеров можно привести массу.

Порно-индустрия, кибербуллинг

С помощью дипфейков создаются фальшивые порно-ролики с известными личностями. Такие видеоматериалы используются для шантажа либо как компромат. Изображения лиц берут с доступных в сети фото и затем вставляют их в фальшивые видео. Генри Аждер, эксперт по подобным технологиям, заявляет, что в сети 96 % фейковых видео – именно порнографические, и в большинстве случаев с женщинами.

Преступления в политической сфере

В 2019 году (весной) в сети появилось видео, на котором Нэнси Пелоси, спикер Палаты представителей США от демократической партии, разговаривала медленным, протяжным голосом, как будто была пьяна. На неё обрушился шквал критики со стороны республиканских политиков и экспертов, дело шло к политическому скандалу. Ситуацию удалось утрясти лишь после того, как через несколько недель выяснилось, что речь Пелоси – плод работы ИИ.

Читайте также!

Что делает программист: суть профессии и основные задачи

Подробнее

Другой пример: 2019 год, выборы в Великобритании. В интернете гуляет видео, где глава Консервативной партии Великобритании Борис Джонсон призывает всех англичан голосовать за лидера Лейбористской партии (враждующей с консерваторами) Джереми Корбина. Оказалось, что всё это – проделки художника Билла Постерса, состряпавшего фейк.

Риски, которые несут дипфейки

Каков может быть ущерб от дипфейка и как от него защититься? Интернет-технологии развиваются очень стремительно (в том числе и дипфейковые), открывая широкое поле деятельности для технически грамотных злоумышленников. Они могут воровать личные данные, генерировать и распространять ложную информацию, заниматься шантажом, проворачивать всевозможные обманные схемы, кибератаки, нанося при этом серьезный финансовый вред. Далее – несколько примеров мошеннических действий с применением дипфейков.

Махинации с «мёртвыми душами»

Суть подобных афер такова: злоумышленник ворует личные данные уже умершего человека и использует их, так, как будто данная личность жива и может осуществлять какие-то реальные действия. Преступник может взять кредит в банке, оформить карту, получить доступ к закрытой информации в онлайне и т.д. и т.п. ради материальной наживы.

Незаконное открытие счетов

Суть данного вида мошенничества состоит в открытии банковских счетов по поддельным или украденным личным данным. Имея такой счет, можно потом получать в банке наличность по кредитной карте, оформлять кредиты и не выплачивать их.

Мошеннические схемы с синтезированными личностями

Это довольно сложные аферы, выявление которых – непростая задача. Преступники тут действуют следующим образом: они воруют личные данные сразу нескольких людей, комбинируют собранную информацию и генерируют совершенно новую личность, которой в действительности никогда не существовало. И уже на этого синтезированного человека оформляют кредиты либо переводят крупные суммы денег.

Как распознать дипфейк

Качество профессионально сделанных дипфейков постоянно улучшается, а значит, и выявлять их становится сложнее. Раньше слабым местом подобных алгоритмов были моменты, касающиеся базового поведения созданного образа.

К примеру, подделку было видно по неестественному морганию глаз. Сейчас эти проблемы устранены, фейковые изображения выглядят абсолютно реально, они моргают, бегло разговаривают, двигаются как обычные люди. Единственное, что может их выдавать – это всё-таки немного «странное» движение глаз.

Дарим скидку от 60%
на курсы от GeekBrains до 22 сентября

Уже через 9 месяцев сможете устроиться на работу с доходом от 150 000 рублей

Забронировать скидку

Как же научиться распознавать дипфейки и защищаться от них? Когда попадается сомнительное видео, смотрите на такие моменты:

1. Совпадает ли звук с открытием рта? Бывает видно, что человек открывает рот не вовремя, или движение губ не соответствует произносимым словам.
2. Выглядит ли картинка естественной в целом? Имеется в виду общее положение тела, головы и туловища. Присмотритесь, правильно ли отражается свет на окружающих предметах, на украшениях и т.п. Ещё момент: у фейков кожа может быть очень неестественного цвета.
3. Качество самого видео и его аудиосопровождения. В дипфейках дорожки могут не совпадать, и качество звука обычно бывает хуже.
4. Есть ли неровности на изображениях? Например, место стыка между телом человека и его головой на фейковой картинке может оказаться размытым. Либо видео местами прерывается (теряются кадры). Смена угла освещения или направления съёмки – тоже характерные явления для дипфейков.
5. Ещё в фейковых видео может меняться хэштег. Вообще, при просмотре опирайтесь на собственные впечатления в целом. Если реально чувствуете, что «что-то не так», значит, есть повод усомниться в подлинности ролика.

Непременно внимательно изучайте и анализируйте попавшие к вам материалы.

Способы защиты от дипфейков

• Проинформируйте коллектив о Deepfake-технологиях.

Спросите коллег, что им об этом уже известно. Регулярно уделяйте время обучению, говорите об уже случившихся утечках, в которых были задействованы технологии Deepfake.

• Мошенники, готовясь к атаке, непременно собирают нужную им информацию.

В такое «досье» могут входить фото, видео и аудиоролики, тексты. Подобные сведения злоумышленники ищут в разных источниках:

• Штудируют то, что есть в свободном доступе, то есть, действуют через:
• Поисковики.
• Собственный сайт организации.
• Страницы социальных сетей.
• Записи мастер-классов, вебинаров, подкастов, выложенные в сеть.
• Изучают корпоративные источники.

Если в сети о вас довольно много подобных сведений, преступникам будет совершенно нетрудно подготовить дипфейк и осуществить свои замыслы.

Поэтому доступ к локальной сети компании не должен быть свободным, и его непременно нужно контролировать, задействовав, например, системы вроде DLP, IPS, NGFW. Это поможет защититься от дипфейка.

• Ответственно подойдите к организации важных процессов в компании, особенно если в них предполагается участие высокопоставленных лиц или будут приниматься серьезные, значимые решения.

Продумайте порядок проведения подобных встреч:

• в удаленном формате;
• через Skype, Zoom, MS Teams;
• в виде телефонных переговоров.

Только до 23.09

Скачай подборку материалов, чтобы гарантированно найти работу в IT за 14 дней

Список документов:

ТОП-100 площадок для поиска работы от GeekBrains

20 профессий 2023 года, с доходом от 150 000 рублей

Чек-лист «Как успешно пройти собеседование»

Чтобы получить файл, укажите e-mail:

Введите e-mail, чтобы получить доступ к документам

Подтвердите, что вы не робот,
указав номер телефона:

Введите телефон, чтобы получить доступ к документам

Скачать подборку бесплатно pdf 2,5mb

Уже скачали 52300

Я подтверждаю согласие на обработку персональных данных.

Определите, чьи именно биометрические данные планируется при этом использовать.

• Проанализируйте, в каком порядке в компании будут осуществляться рабочие контакты между руководством, другими сотрудниками и контрагентами.

Отображайте типичные взаимодействия на специальной карте и отслеживайте отклонения. Продумайте порядок движения внутренней информации, коммуникационные процессы в компании, донесите правила до коллектива.

Поручите специалистам по информационной безопасности ограничить доступ к подозрительным ресурсам с помощью специальных программ.

• Установите порядок назначения телефонных переговоров и видеовстреч.

Участники запланированных и экстренных совещаний должны быть своевременно проинформированы. Это касается и персональных, и групповых видео- или аудиосозвонов, а также случаев, когда необходимо выйти на связь с удаленным сотрудником либо находящимся в командировке.

Всё это, кстати, можно делать с помощью дополнительных инструментов, в частности, заблаговременно прописывать важные встречи в корпоративном календаре.

• Определите, как вы будете идентифицировать участников онлайн-встреч.

Способов подтверждения личности непременно должно быть несколько. Некоторые компании задействуют, например:

• корпоративный e-mail;
• систему CRM;
• телефонную связь по IP.

Читайте также!

Что такое дипфейк и как он используется

Подробнее

Всё это нужно осуществлять без ущерба для оптимизации бизнес-процессов. Привлеките к решению вопроса службу информационной безопасности компании.

• Обозначьте порядок информирования в случаях отсутствия сотрудников.

Имеется в виду, когда человек в отпуске, на выходном, перевелся, уволился либо заболел. Организуйте взаимодействие в команде так, чтобы о подобных случаях и их причинах всегда было известно.

• Продумайте, как вы будете защищаться от дипфейка, реагировать на те или иные возможные атаки, нестандартные события.

Популярные статьи

Высокооплачиваемые профессии сегодня и в ближайшем будущем

Дополнительный заработок в Интернете: варианты для новичков и специалистов

Востребованные удаленные профессии: зарабатывайте, не выходя из дома

Разработчик игр: чем занимается, сколько зарабатывает и где учится

Как выбрать профессию по душе: детальное руководство + ценные советы

Цели у преступников, создающих дипфейки, могут быть следующие:

• шантаж (личный либо корпоративный);
• размещение на страницах прессы или соцсетей компрометирующей информации;
• вымогательство;
• обвинение в коррупции, получении взяток.

Стремительное развитие технологий, к сожалению, не только несет с собою пользу, но имеет и отрицательную сторону. Ими активно пользуются кибер-мошенники. Как в современном мире защищаться от дипфеков? Знать несколько простых правил безопасности и проявлять элементарную внимательность.

Автор статьи:

Редакция сайта GeekBrains Шеф-редактор раздела Программирование