14 февраля, в День святого Валентина, исследователи из компании Mozilla опубликовали очередной отчёт в рамках серии публикаций Privacy Not Included , в котором специалисты выявили, что большинство имеющихся на рынке приложений для романтических переписок с чат-ботами не соответствуют современным стандартам безопасности и конфиденциальности.
С развитием генеративного искусственного интеллекта начался настоящий бум чат-ботов для “отношений”, предлагающих компанию одиноким сердцам. Причём такие нейропереписки часто носят не только романтический, но и эротический характер.
Миша Рыков, исследователь из Mozilla, резко высказался по поводу подобных увлечений: “Честно говоря, ИИ-подруги – это не ваши друзья. Несмотря на обещания улучшить ваше психическое состояние, на деле они способствуют зависимости, одиночеству и токсичности, при этом извлекая из вас как можно больше данных”.
В результате оценки 11 популярных чат-ботов для романтических переписок, включая такие приложения, как “Romantic AI”, “Talkie Soulful AI” и “EVA AI Chat Bot & Soulmate”, все из них получили от Mozilla пометку Privacy Not Included, что выделяет их как одни из наиболее проблемных с точки зрения конфиденциальности.
Скриншоты из приложения “EVA AI Chat Bot & Soulmate”, где чат-бот
буквально выпрашивает у пользователя его фото и голосовые сообщения
Среди основных проблем безопасности и конфиденциальности, выявленных в исследовании, исследователи отмечают отсутствие публичной информации о том, как управляются уязвимости безопасности (73%), неясность данных об использовании шифрования (64%), разрешение на использование слабых паролей, включая “11111” (45%), продажа данных пользователей или их использование для таргетированной рекламы без достаточно ясной информации в политике конфиденциальности (90%), и запрет на удаление личных данных (54%).
Джен Калтрайдер, директор программы Privacy Not Included, предостерегает: “Сегодня мы сталкиваемся с “диким западом” нейрогенеративных чат-ботов для отношений. Их популярность растёт взрывными темпами, а количество личной информации, которую они извлекают для создания романтических, дружеских и интимных взаимодействий, по-настоящему огромно”.
Калтрайдер подчёркивает необходимость повышения прозрачности и предоставления пользователям куда большего контроля над подобными ИИ-сервисами, чтобы предотвратить потенциальную манипуляцию и защитить личные данные.
Таким образом, чат-боты для романтических отношений, которые день ото дня становятся всё более популярными, создают серьёзные риски для безопасности и конфиденциальности пользователей.
Эти приложения собирают большое количество личных данных, включая фотографии и аудио, которые можно использовать в качестве биометрии, но не предоставляют достаточной информации о том, как они обрабатывают и защищают эту информацию.
Пользователи должны проявлять осторожность и критически относиться к подобным чат-ботам, чтобы не допустить утечку чувствительных данных, а также предотвратить злоупотребления и манипуляции со стороны злоумышленников, способных заполучить эти данные.