Deepfake, дипфейк

Дипфейк (deepfake, от deep learning — «глубокое обучение» и fake — «подделка») — синтез правдоподобных поддельных изображений, видео и звука при помощи искусственного интеллекта. Также дипфейками называют контент, полученный в результате этого синтеза. Чаще всего дипфейки изображают известных людей в вымышленных ситуациях. В некоторых случаях к дипфейкам относят также письменные тексты, созданные при помощи искусственного интеллекта в целях имитации речи конкретного человека.

Современные инструменты для создания дипфейков могут генерировать фото, видео, аудио и тексты в режиме реального времени (например, в случае прямой видеотрансляции).

Как создают дипфейки

Для создания дипфейков используются технологии глубокого машинного обучения.

Аудио- и графические дипфейки чаще всего создают с помощью генеративно-состязательных нейронных сетей (GAN). В составе такой сети есть два алгоритма — генератор и дискриминатор. Генератор создает изображение или звук, а дискриминатор, обученный на большом массиве данных, определяет реалистичность этого изображения или звука. При этом система учится сама у себя: генератор использует обратную связь от дискриминатора, чтобы генерировать все более правдоподобный контент, а дискриминатор — результат работы генератора, чтобы лучше отделять оригинальные данные от созданных искусственно.

Текстовые дипфейки, как правило, создаются с помощью трансформеров — нейронных сетей, которые способны обрабатывать и генерировать наборы данных, состоящие из отдельных связанных между собой сегментов (таких, например, как слова, предложения и абзацы). Такие нейросети создают текст, основываясь на вероятности появления каждого следующего элемента в последовательности.

Использование дипфейков в легитимных целях

Дипфейки могут быть использованы в легитимных целях, например для того, чтобы:

  • Снизить бюджет и срок производства музыкальных клипов, фильмов, сериалов и рекламы.
  • «Оживить» знаменитость из прошлого для реализации медиапроекта.

Опасность дипфейков

Дипфейки часто создают и применяют в преступных целях. В частности, с дипфейками связаны следующие риски:

  • Дискредитация. Злоумышленники могут создавать и распространять контент, в котором публичные лица говорят компрометирующие их вещи, находятся в состоянии алкогольного опьянения или участвуют в действиях сексуального и/или преступного характера.
  • Дезинформация. Дипфейки могут использовать для распространения ложных новостей и воздействия на общественное мнение.
  • Финансовое мошенничество. Имитируя чужой голос или стиль переписки с помощью искусственного интеллекта, преступники могут, например, от лица топ-менеджера попросить сотрудника компании перевести деньги на свои счета.
  • Раскрытие персональных данных. Злоумышленники могут выведывать личную информацию о человеке, представляясь его близким или знакомым по аудио- или видеосвязи.
  • Обман систем аутентификации. Мошенники могут проходить аудио- и видеоаутентификацию, чтобы получить доступ к деньгам, ценной информации или корпоративным информационным системам.

Публикации на схожие темы