США ввели новые рекомендации по безопасности для укрепления защиты критически важной инфраструктуры от угроз, связанных с искусственным интеллектом. Руководство было разработано в рамках межведомственных усилий по оценке рисков ИИ во всех 16 критически важных секторах инфраструктуры.
Основное внимание в новых рекомендациях уделено использованию ИИ для усиления и масштабирования атак, манипулированию системами ИИ противниками, а также недостаткам в таких системах, которые могут привести к непредсказуемым последствиям. Подчёркивается необходимость прозрачности и разработки безопасных систем с самого начала для оценки и смягчения рисков ИИ.
Четыре ключевые функции новой системы включают управление, картографирование, измерение и контроль рисков на всех этапах жизненного цикла ИИ, включая:
- создание культуры управления рисками ИИ в организациях;
- понимание контекста использования ИИ и профиля рисков;
- разработку систем для оценки и отслеживания рисков ИИ;
- приоритизацию и принятие мер в отношении рисков для безопасности.
Кроме того, Министерство внутренней безопасности США (DHS) заявилоо своем намерении обеспечить “безопасное, ответственное и достойное доверия” использование технологии, не нарушая при этом права на конфиденциальность, гражданские права и свободы граждан.
Отмечается, что владельцы и операторы критически важной инфраструктуры должны учитывать специфику своего сектора и контекст использования ИИ при оценке рисков и выборе соответствующих мер смягчения. Они также должны понимать зависимость от поставщиков ИИ и совместно определять меры по снижению рисков.