На заседании парламентского комитета по науке, инновациям и технологиям Великобритании было заявлено, что система распознавания лиц, используемая метрополитеном Лондона во время коронации короля, может проявлять расовую предвзятость при определенных пороговых значениях. 6 мая 2023 года в Лондоне состоялась коронация британского короля Карла III.
Доктор Тони Мэнсфилд, главный научный сотрудник Национальной физической лаборатории, сказал депутатам, что система, основанная на продукте компании NEC и применяемая крупнейшим полицейским управлением страны, склонна к предвзятости против чернокожих людей на тестовых данных, созданных для его исследований.
Было обнаружено, что, если система работает на низких и легких порогах совпадения, то она начинает показывать предвзятость против чернокожих мужчин и женщин вместе. Мэнсфилд полагает, что метрополитен не использует систему на таких пороговых значениях.
Согласно отчёту доктора , ложноположительные идентификации увеличиваются при низких порогах совпадения лиц (0.58 и 0.56) и “начинают показывать статистически значимый дисбаланс между демографическими группами: у чернокожих больше ложноположительных срабатываний, чем у азиатских или белых”.
Однако система NEC Neoface при более высоких порогах (0.64 или выше) не давала ложноположительных идентификаций и, следовательно, не имела предвзятости. При среднем пороге (0.60 – 0.62) система давала 8 ложноположительных результатов, но не имела статистически значимой предвзятости по демографическим признакам.
Представитель метрополитена заявил, что после публикации исследования система использовалась 3 раза, в том числе в некоторых районах Лондона и во время коронации короля.
В ходе операций полиции, в которых использовали 6 полицейских фургонов, было 4 оповещения, а ложноположительные результаты отсутствовали вовсе. Было 2 ареста, а по оставшимся оповещениям полицейские решили, что арест не требуется, хотя идентификация была правильной.
На каждой операции полиция создавала отдельный набор данных для “списка наблюдения” на основе местоположения и “разведывательного дела” для операции. После каждой операции список наблюдения удалялся. Никакие данные из операций по распознаванию лиц в режиме реального времени не хранились, как утверждает представитель метрополитена.