Израильские ученые из Университета Бен-Гуриона выяснили , что искусственный интеллект способен анализировать тексты и определять нарушения социальных норм их авторами. Это стало возможно благодаря применению GPT-3 – большой языковой модели, созданной OpenAI. Как раз она способна автоматизировать создание и анализ контента.
Исследователи применили также метод анализа данных, известный как классификация текста с нулевым выстрелом (позволяет модели классифицировать текст в категории, которые не были известны при обучении). Суть проекта описали следующим образом: “Хотя социальные нормы и их нарушения были много раз изучены в психологии, автоматическое определение социальных норм и их нарушений представляет собой открытую задачу, которая может оказаться крайне важной для ряда проектов… Это открытая задача, потому что сначала нам нужно определить характеристики/сигналы/переменные, указывающие на нарушение… Например, появление на работе в состоянии опьянения и неприглядном виде является нарушением социальной нормы для большинства работающих людей. Однако “обучить” машину или компьютер понимать, что такое неприемлемо – далеко не простая задача”.
Разумеется, законы этики отличаются в зависимости от культурных особенностей и места проживания человека, но, по мнению исследователей, реакция на девиантное поведение схожа в разных культурах. “Социальные нормы бывают культурно специфичными и охватывают многочисленные негласные “правила”, но эмоциональная реакция окружающих, заложенная в нас эволюцией, может быть гораздо более общей”, – отмечается в отчете.
В результате выяснилось, что лучшая стратегия для идентификации социальных нарушений – фокусировка на ограниченном наборе эмоций, таких как вина и стыд. Роль ИИ в том, чтобы распознать, когда пользователь мобильного устройства может испытывать чувство вины за свои действия.
Проект профинансирован DARPA (Агентство перспективных оборонных исследований Пентагона). Организация поддерживает множество научных разработок в надежде найти следующий эффективный инструмент для американской военной индустрии.
Почему именно DARPA заинтересовано в изучении нарушений социальных норм, пока не совсем понятно.