Китай опубликовал предложенные требования безопасности для компаний, предоставляющих услуги на основе генеративного искусственного интеллекта. В документе указан черный список источников, которые не могут быть использованы для обучения моделей ИИ.
Генеративный ИИ, ставший популярным благодаря успеху чатбота ChatGPT от OpenAI, обучается на основе прошлых данных и создает новый контент, такой как текст или изображения.
Требования были опубликованы в среду Национальным комитетом по стандартизации информационной безопасности. В комитет входят представители Администрации киберпространства Китая, Министерства промышленности и информационных технологий, а также полиции.
Комитет предлагает проводить оценку безопасности каждого контента, используемого для обучения общедоступных генеративных моделей ИИ. Контент, содержащий “более 5% незаконной и вредоносной информации”, будет внесен в черный список. К такой информации относятся призывы к терроризму, насилию, “свержению социалистической системы”, “подрыву имиджа страны” и “национального единства”.
Проект правил также гласит, что информация, подвергшаяся цензуре в китайском интернете, не должна использоваться для обучения моделей.
Публикация этих требований произошла спустя месяц после того, как регуляторы разрешили нескольким китайским технологическим компаниям, включая поисковый гигант Baidu, запустить свои чатботы на базе генеративного ИИ.
С апреля Администрация киберпространства Китая заявляла о необходимости предоставления оценок безопасности перед запуском услуг на базе генеративного ИИ.
В июле регулятор киберпространства опубликовал меры, регулирующие такие услуги, которые, по мнению аналитиков, были гораздо менее строгими, чем меры, представленные в проекте апреля.
Требования, опубликованные в среду, обязывают организации, обучающие эти модели ИИ, получать согласие лиц, чья личная информация, включая биометрические данные, используется в обучающих целях.
Также в документе приведены подробные рекомендации по предотвращению нарушений интеллектуальной собственности.
Многие страны мира сталкиваются с задачей установления рамок для этой технологии. Китай видит ИИ как область, в которой страна хочет конкурировать с США и ставит перед собой цель стать мировым лидером в этой области к 2030 году.