В ноябре 2023 года OpenAI запустила маркетплейс, где пользователи могут создавать и находить уникальные версии чат-ботов на основе ” data-html=”true” data-original-title=”ChatGPT” >ChatGPT. Анализ Gizmodo показал,что многие из представленных моделей нарушают правила платформы.
Среди обнаруженных моделей – чат-боты для создания порнографического контента, инструменты для обхода систем обнаружения плагиата и модели, предлагающие медицинские и юридические консультации. Некоторые из чат-ботов используются десятки тысяч раз.
На главной странице маркетплейса можно найти модели, такие как “Терапевт – психолог”, фитнес-коуч и BypassGPT, который помогает студентам избегать обнаружения ИИ-плагиата (использовался более 50 000 раз). Например, NSFW AI Art Generator, использованный более 10 000 раз, направляет пользователей на сайт, где открыто заявлено, что он предназначен для создания порнографии с помощью ИИ.
Главная страница сайта
Интересно, что несмотря на заявление OpenAI о важности соблюдения строгих политик, в том числе запрета на создание порнографических материалов, подобные инструменты остаются в свободном доступе.
После обращения издания Gizmodo к OpenAI с перечнем более чем 100 моделей, которые нарушают правила, ряд из них был удалён, включая генераторы порнографического контента и инструменты для ставок на спорт. Тем не менее, популярные модели, помогающие студентам в обмане систем обнаружения плагиата, а также предоставляющие медицинские советы, остаются доступными.
Страница маркетплейса чат-ботов с версиями, нарушающими правила
Официальный представитель OpenAI отметил, что компания предпринимает действия против моделей, которые нарушают политику, используя автоматизированные системы и ручные проверки, а также предоставляет пользователям инструменты для жалоб. В будущем OpenAI планирует внедрить модель разделения доходов, чтобы разработчики могли зарабатывать на своих GPT в зависимости от частоты их использования.