Американские спецслужбы, включая Агентство национальной безопасности, ФБР и CISA, опубликовали доклад , согласно которому угроза от “синтетических медиа”, или дипфейков, сильно возросла в последнее время. Синтетические медиа – это искусственно созданные тексты, видео и аудиозаписи, которые все труднее отличить от настоящих.
По данным ведомств, мошенники и шпионы часто используют дипфейки для получения доступа к корпоративным системам, имитируя сотрудников компаний или обманывая клиентов. Основными жертвами становятся военные, сотрудники госструктур, спасатели, а также критическая инфраструктура и оборонные предприятия.
В мае 2023 года были зафиксированы два интересных случая. В одном из них злоумышленники имитировали голос и внешний вид CEO компании на созвоне в WhatsApp. Им даже удалось воссоздать интерьер его комнаты.
В другом примере преступники использовали комбинацию поддельного аудио, видео и текстовых сообщений, чтобы притвориться одним из руководителей. Сначала общение велось через WhatsApp, а затем перешло в видеоконференцию на платформе Teams. “Качество соединения оказалось очень плохим, поэтому злоумышленник предложил переключиться на текстовый формат и стал настаивать на переводе денежных средств”, – говорится в докладе. “На этом этапе жертва начала подозревать, что что-то не так и прервала беседу”.
Правительственные агентства также ссылаются на список главных политических и экономических рисков 2023 года от Eurasia Group, где генеративный искусственный интеллект занимает третье место. Согласно этому отчету, прогресс в сфере ИИ может подорвать социальное доверие и укрепить влияние авторитарных режимов.
Синтетические медиа, созданные с помощью генеративных технологий – удобный инструмент для распространения дезинформации в политической и социальной сферах.
Для защиты от дипфейк-угроз ведомства рекомендуют компаниям настроить специальные программы для обнаружения медиа-подделок и их верификации в реальном времени. Кроме того, специалисты по кибербезопасности должны разработать детализированный план реагирования на инциденты с учетом различных сценариев атак. Этот план должен регулярно отрабатываться в ходе учебных тренировок.