Искусственный интеллект становится все более привлекательной мишенью для злоумышленников, причем интерес проявляют не только отдельные преступники, но и целые государства. Об этом предупредилоФедеральное бюро расследований США, особенно акцентируя внимание на возросшую активность иностранных сил.
В своем заявлении представители ФБР отметили, что иностранные “агенты” все чаще нацеливаются на американские компании, университеты и государственные исследовательские учреждения, активно работающие над ИИ. Кража алгоритмов, данных, инфраструктуры и даже переманивание специалистов становятся для них приоритетной задачей.
Государственные службы особенно беспокоят два ключевых риска. Первый из них – ситуации, когда в процессе разработки ИИ его алгоритмы настраивают так, чтобы результаты получались нежелательными для общества или конкретной организации.
Второй риск – прямое использование ИИ во враждебных целях. Например, для автоматизации или усиления вредоносных операций, таких как кибератаки или кампании по распространению дезинформации.
Директор ФБР Кристофер Рэй отметил, что китайские злоумышленники особенно часто посягают на интеллектуальную собственность американских организаций: “К сожалению, ИИ – технология, которая идеально подходит для того, чтобы Китай извлекал выгоду из своих прошлых и текущих проступков. Для создания моделей требуются инновации и много данных для обучения”. Со стороны Китая отмечаются случаи незаконного сбора большого количества конфиденциальных сведений.
В целом преступники стали чаще использовать ИИ как множитель силы для создания вредоносного кода и убедительных фишинговых кампаний. Кроме того, ИИ помогает в разработке продвинутых вредоносных программ, обратного проектирования и создания “синтетического контента”, например, дипфейков.
Подводя итог, представители ФБР подчеркнули: “ИИ значительно снизил некоторые технические барьеры, позволяя даже людям с ограниченным опытом и навыками проводить кибератаки”.