OpenAI заблокироваланесколько аккаунтов северокорейских хакерских групп, использовавших ChatGPT для разведки целей и поиска способов взлома сетей.
Компания сообщила в февральском отчёте по кибер угрозам , что некоторые из учетных записей использовали ChatGPT в тактике, схожей с известной группой VELVET CHOLLIMA (Kimsuky, Emerald Sleet), а другие могли быть связаны с группировкой STARDUST CHOLLIMA (APT38, Sapphire Sleet).
Заблокированные аккаунты использовались для поиска информации о криптовалютах – одной из ключевых тем, интересующих северокорейских хакеров . Кроме того, злоумышленники запрашивали код для обхода защитных механизмов и использовали ChatGPT для написания и отладки вредоносных программ, предназначенных для атак с применением протокола RDP.
Киберпреступники пытались находить уязвимости в различных приложениях, разрабатывать инструменты для фишинга и социальной инженерии, а также создавать вредоносные PowerShell-скрипты. Кроме того, хакеры использовали ChatGPT для генерации обфусцированного кода и маскировки вредоносных файлов.
Одной из интересных находок стали ссылки на сайты, где размещались неизвестные ранее вредоносные бинарные файлы. Хакеры оставили ссылки во время отладки местоположений точек расширения автозапуска (ASEP) и методов атак на macOS. Данные были переданы в онлайн-сервис сканирования, чтобы упростить обмен с сообществом безопасности и предотвратить потенциальные атаки.
Помимо этого, OpenAI выявила, что северокорейские хакеры могли использовать ChatGPT для выполнения рабочих задач в рамках схемы трудоустройства IT-специалистов . Злоумышленники находили работу в западных компаниях, затем использовали ИИ для программирования и общения с коллегами, а также придумывали правдоподобные объяснения для сокрытия своего реального местоположения и избегания видеозвонков.
С октября 2024 года OpenAI также заблокировала две операции, связанные с Китаем. Одна из них, Peer Review, была направлена на разработку инструментов для кибер шпионажа , а другая – Sponsored Discontent – использовала ChatGPT для создания антиамериканского контента на испанском языке.
В предыдущем отчёте OpenAI заявила, что с начала 2024 года пресекла более 20 киберопераций и скрытых информационных кампаний иранских и китайских хакеров.