В преддверии выборов в президенты США, которые пройдут в 2024 году, в социальных сетях появляется всё больше видео с поддельными фотографиями и якобы записанными аудиофайлами известных политиков, созданными с помощью искусственного интеллекта.
Такие видео называются дипфейками (от англ. deepfake – глубокая подделка) и могут быть использованы для манипуляции общественным мнением и дискредитации соперников.
Так, в одном из дипфейков , гуляющих по зарубежному Интернету, Хиллари Клинтон неожиданно поддерживает республиканца Рона Де Сантиса. А в другом подобном ролике – президент Джо Байден оскорбляет трансгендера.
Создание дипфейков стало куда проще и дешевле благодаря новым инструментам “генеративного ИИ”, таким как Midjourney, которые позволяют синтезировать реалистичные изображения и голоса на основе большого количества онлайн-материалов.
По данным компании DeepMedia, которая разрабатывает средства для обнаружения синтетических медиа, в 2023 году количество дипфейков в интернете выросло в три раза по сравнению с прошлым годом. По примерным прогнозам специалистов, к концу года в Интернете будет опубликовано суммарно около 500 тысяч видео- и аудиодипфейков по всему миру.
“Будет очень сложно для избирателей отличить реальное от поддельного. И можно представить, как сторонники Трампа или Байдена могут использовать эту технологию, чтобы заставить противника предстать в худшем свете”, – заявил Даррел Уэст, старший научный сотрудник Центра технологических инноваций при Институте Брукингса.
Основные социальные платформы, такие как Facebook*, Twitter** и YouTube, пытаются оперативно удалять дипфейки, но их эффективность в борьбе с такого рода контентом пока что остаётся на низком уровне.
В то же время некоторые политические игроки стремятся целенаправленно использовать мощь генеративного ИИ для усиления своих кампаний. Пока единственным известным примером политической рекламы, созданной полностью на основе ИИ, был ролик Республиканского национального комитета , опубликованный в конце апреля. В 30-секундном видео комитет показал серию динамически сменяемых сгенерированных изображений, демонстрирующих катастрофический сценарий развития США в случае переизбрания Байдена: Китай вторгается на Тайвань, а Сан-Франциско охвачен преступностью.
Потенциал генеративного ИИ для создания фейкового контента, манипулирующего общественным сознанием, просто огромен. А при грамотной реализации эти технологии могут запросто перевернуть результаты выборов в сторону того, кто больше заплатит за создание и распространение подобных подделок.
* Компания Meta и её продукты (Instagram и Facebook) признаны экстремистскими, их деятельность запрещена на территории РФ.
** Социальная сеть запрещена на территории Российской Федерации.