Дипфейк (deepfake, от deep learning — «глубокое обучение» и fake — «подделка») — синтез правдоподобных поддельных изображений, видео и звука при помощи искусственного интеллекта. Также дипфейками называют контент, полученный в результате этого синтеза. Чаще всего дипфейки изображают известных людей в вымышленных ситуациях. В некоторых случаях к дипфейкам относят также письменные тексты, созданные при помощи искусственного интеллекта в целях имитации речи конкретного человека.
Современные инструменты для создания дипфейков могут генерировать фото, видео, аудио и тексты в режиме реального времени (например, в случае прямой видеотрансляции).
Как создают дипфейки
Для создания дипфейков используются технологии глубокого машинного обучения.
Аудио- и графические дипфейки чаще всего создают с помощью генеративно-состязательных нейронных сетей (GAN). В составе такой сети есть два алгоритма — генератор и дискриминатор. Генератор создает изображение или звук, а дискриминатор, обученный на большом массиве данных, определяет реалистичность этого изображения или звука. При этом система учится сама у себя: генератор использует обратную связь от дискриминатора, чтобы генерировать все более правдоподобный контент, а дискриминатор — результат работы генератора, чтобы лучше отделять оригинальные данные от созданных искусственно.
Текстовые дипфейки, как правило, создаются с помощью трансформеров — нейронных сетей, которые способны обрабатывать и генерировать наборы данных, состоящие из отдельных связанных между собой сегментов (таких, например, как слова, предложения и абзацы). Такие нейросети создают текст, основываясь на вероятности появления каждого следующего элемента в последовательности.
Использование дипфейков в легитимных целях
Дипфейки могут быть использованы в легитимных целях, например для того, чтобы:
- Снизить бюджет и срок производства музыкальных клипов, фильмов, сериалов и рекламы.
- «Оживить» знаменитость из прошлого для реализации медиапроекта.
Опасность дипфейков
Дипфейки часто создают и применяют в преступных целях. В частности, с дипфейками связаны следующие риски:
- Дискредитация. Злоумышленники могут создавать и распространять контент, в котором публичные лица говорят компрометирующие их вещи, находятся в состоянии алкогольного опьянения или участвуют в действиях сексуального и/или преступного характера.
- Дезинформация. Дипфейки могут использовать для распространения ложных новостей и воздействия на общественное мнение.
- Финансовое мошенничество. Имитируя чужой голос или стиль переписки с помощью искусственного интеллекта, преступники могут, например, от лица топ-менеджера попросить сотрудника компании перевести деньги на свои счета.
- Раскрытие персональных данных. Злоумышленники могут выведывать личную информацию о человеке, представляясь его близким или знакомым по аудио- или видеосвязи.
- Обман систем аутентификации. Мошенники могут проходить аудио- и видеоаутентификацию, чтобы получить доступ к деньгам, ценной информации или корпоративным информационным системам.