Google призывает сторонних разработчиков приложений для Android ответственно использовать функции генеративного искусственного интеллекта. Инициатива направлена на борьбу с проблемным контентом, включая откровенные материалы и разжигание ненависти, создаваемым с помощью генеративного ИИ.
В новом руководстве Google призывает разработчиков приложений, использующих генеративный ИИ:
- не допускать создания ограниченного контента ;
- внедрить механизм для сообщения или пометки оскорбительной информации;
- точно представлять возможности своих приложений в маркетинговых материалах;
- тщательно тестировать модели в различных сценариях;
- не допустить возможность запросов, которые могут привести к созданию вредоносного или оскорбительного контента.
Механизм отметки нежелательного контента
Отличительной чертой нового руководства является акцент на защиту пользователей. Google подчёркивает важность создания безопасной среды для пользователей и необходимости ответственного подхода к разработке и тестированию функций генеративного ИИ. Такой подход должен стать стандартом для всех разработчиков, чтобы предотвратить возможные злоупотребления технологиями искусственного интеллекта.