Министерство внутренней безопасности США (DHS) выпустилоновые рекомендации по безопасному использованию искусственного интеллекта в ключевой инфраструктуре страны. Документ разработали вместе с представителями бизнеса, госструктур и общественных организаций, чтобы помочь компаниям безопасно внедрять ИИ в важных секторах.
Рекомендации направлены на защиту таких систем, как энергоснабжение, водопровод, транспорт и цифровые сети, которые обеспечивают жизнь и безопасность людей. В последние годы ИИ активно используется для улучшения сервисов – от быстрого обнаружения землетрясений до предотвращения перебоев в подаче электричества и улучшения доставки почты. Однако при этом возникает риск, что уязвимости в системах ИИ могут быть использованы злоумышленниками для атак.
Рекомендации охватывают несколько ключевых направлений:
- Поставщики облачных и вычислительных услуг – рекомендуется усиливать безопасность при разработке и развёртывании ИИ, включая проверку поставщиков оборудования и ПО, а также защиту дата-центров от потенциальных угроз.
- Разработчики ИИ – придерживаться подхода Secure by Design при разработке моделей, проводить оценку возможных рисков, связанных с предвзятостью или уязвимостями моделей, и обеспечивать независимые проверки для критически важных систем.
- Владельцы и операторы критических объектов – рекомендуется внедрять ИИ с учётом кибербезопасности, защищать данные клиентов и обеспечивать прозрачность в использовании ИИ для предоставления услуг.
- Гражданское общество – университетам и исследовательским центрам предложено активно участвовать в разработке стандартов и проводить исследования для оценки воздействия ИИ на общество.
- Государственные структуры – рекомендуется усилить сотрудничество на всех уровнях власти, включая международное взаимодействие для защиты граждан и поддержки исследований в области безопасности ИИ.
Министерство внутренней безопасности определило три основные категории уязвимостей при применении ИИ: атаки с использованием ИИ, атаки на ИИ-системы и ошибки в проектировании и реализации технологий. В рекомендациях предложены меры для всех участников разработки и использования ИИ, чтобы минимизировать риски и обеспечить безопасность критической инфраструктуры США.
Ранее Транспортная служба безопасности США (TSA) предложила новые правила для защиты транспортной инфраструктуры от кибератак. Меры должны закрепить и дополнить временные директивы, которые были введены после атаки на компанию Colonial Pipeline в 2021 году. Новые правила – одно из последних действий администрации Джо Байдена по усилению кибербезопасности критически важной инфраструктуры перед передачей власти.