Более трёх десятков уязвимостей выявлено в различных открытых моделях искусственного интеллекта и машинного обучения, часть которых позволяет злоумышленникам удалённое выполнение кода и кражу данных. В рамках платформы вознаграждений Protect AI от Huntr эти проблемы были обнаружены в таких ИИ-инструментах, как ChuanhuChatGPT, Lunary и LocalAI.
Наибольшую угрозу представляют две критические уязвимости в Lunary, инструменте для работы с крупными языковыми моделями. Первая – CVE-2024-7474(CVSS: 9.1) – связана с некорректной ссылкой на объекты и позволяет пользователям получать доступ к данным других пользователей без разрешения. Вторая – CVE-2024-7475(CVSS: 9.1) – даёт злоумышленнику возможность изменять конфигурацию SAML и авторизоваться под чужим именем.
Также в Lunary найдена ещё одна уязвимость – CVE-2024-7473(CVSS: 7.5), позволяющая атакующему изменять запросы других пользователей, манипулируя параметрами в передаваемых данных.
ChuanhuChatGPT подвержен критической уязвимости CVE-2024-5982(CVSS: 9.1), связанной с загрузкой файлов. Эта проблема даёт возможность злоумышленникам выполнять произвольный код и создавать директории на сервере, получая доступ к конфиденциальной информации.
В LocalAI выявлены две серьёзные проблемы. Первая, CVE-2024-6983(CVSS: 8.8), позволяет выполнять произвольный код через загрузку вредоносного файла конфигурации. Вторая, CVE-2024-7010(CVSS: 7.5), представляет собой атаку по времени обработки, которая даёт возможность подобрать API-ключи, анализируя отклик сервера.
Ещё одна уязвимость затронула библиотеку Deep Java Library (DJL). Ошибка в функции распаковки файлов ( CVE-2024-8396,CVSS: 7.8) позволяет злоумышленнику перезаписывать файлы и выполнять произвольный код на сервере.
Тем временем NVIDIA выпустила обновление для своей платформы NeMo, устранив уязвимость CVE-2024-0129 (CVSS: 6.3). Эта проблема могла привести к выполнению кода и искажению данных.
Проблемы безопасности в ИИ-системах подчёркивают, что развитие технологий должно идти рука об руку с усилением киберзащиты. Без своевременных мер даже самые продвинутые инструменты могут стать точкой входа для атак, ставя под угрозу данные и доверие пользователей.