Появление генеративных ИИ-моделей кардинально изменило ландшафт киберугроз. Недавний анализ активности даркнет-форумов исследовательской командой Netenrich свидетельствует о появлении и распространении среди киберпреступников сервиса FraudGPT – чат-бота с искусственным интеллектом.
FraudGPT был создан исключительно в злонамеренных целях. В перечень его возможностей входит: написание фишинговых писем, взлом сайтов, кража данных банковских карт и т.п. В настоящее время доступ к сервису продаётся на различных чёрных рынках, а также в Telegram-канале автора.
Скриншоты с демонстрацией работы FraudGPT
Как видно из промо-материалов, злоумышленник может составить письмо, которое с большой долей вероятности заставит получателя перейти по вредоносной ссылке. Это критически важно для организации фишинговых или BEC-атак.
Сервис также помогает создавать привлекательные вредоносные письма, направленные на конкретных жертв. Подписка на FraudGPT составляет $200 в месяц или $1700 в год.
Полный перечень возможностей зловредного чат-бота включает следующее:
- написание вредоносного кода;
- создание необнаруживаемых вирусов;
- поиск уязвимостей;
- создание фишинговых страниц;
- написание мошеннических писем и страниц;
- поиск утечек данных;
- обучение программированию и взлому;
- поиск сайтов для кражи данных карт.
Как ни странно, подобный вредоносный чат-бот не является чем-то кардинально новым и единственным в своём роде. В начале этого месяца на тёмных форумах стали массово распространятся объявления о другом чат-боте с искусственным интеллектом под названием WormGPT, о котором мы также писали на сайте.
Хотя ” data-html=”true” data-original-title=”ChatGPT” >ChatGPT и другие ИИ-системы обычно создаются с этическими ограничениями, переделать их для свободного использования возможно, чем и пользуются злоумышленники, да ещё и успешно зарабатывают на этом, продавая доступ к своему творению другим преступникам.
Появление FraudGPT и подобных ему мошеннических инструментов тревожный сигнал об опасности злоупотребления возможностями искусственного интеллекта. Пока что речь идёт в основном только о фишинге – начальной стадии атаки.
Главное, чтобы со временем чат-боты не научились проводить весь цикл атак от начала до конца – в автоматическом режиме. Потому что здесь в скорости и методичности искусственному интеллекту уже не будет равных.