Компания Cellebrite объявила о внедрении ИИ в свои продукты. В числе новых возможностей – автоматическое обобщение чатов и аудиосообщений с изъятых устройств. Нововведение уже вызвало опасения у правозащитников.
Представитель Американского союза защиты гражданских свобод (ACLU) отметил, что главная проблема заключается в том, что выводы ИИ не всегда можно отследить и проверить. Более того, алгоритмы могут давать ошибочные результаты, особенно если обучены только на данных уголовных дел, приведших к обвинительным приговорам. Это может привести к тому, что система не сможет корректно интерпретировать случаи, где для обвинения недостаточно доказательств.
Новый ИИ-инструмент интегрированв программный продукт Guardian, предназначенный для управления цифровыми доказательствами. Компания утверждает, что алгоритмы могут анализировать чаты, выделяя потенциально важные сообщения, интерпретировать историю браузера и выявлять связи между подозреваемыми.
Одним из первых пользователей ИИ-решений Cellebrite стал детектив сержант Аарон Осман из полиции Тауншипа Саскуэханна (Пенсильвания). Осман отметил, что “новая технология позволила оперативно связать расследование серии краж посылок с деятельностью международной преступной группировки, сэкономив значительное количество времени”. По словам детектива, ИИ-система автоматически переводила и анализировала переписку подозреваемых, что позволило полиции быстрее понять масштаб преступной сети.
Однако правозащитники указывают на опасность подобных методов. ACLU отмечает, что правоохранительные органы не могут бесконтрольно анализировать данные, если на то нет достаточных оснований. Согласно Четвертой поправке к Конституции США, полиция имеет право изучать лишь ту информацию, по которой уже есть обоснованные подозрения. Если расследуются кражи посылок, но нет доказательств связи с организованной преступностью, то анализ данных “на всякий случай” является нарушением конституционных прав.
В ACLU также обеспокоены тем, что алгоритмы ИИ могут склонять следователей к поиску ложных закономерностей. Чем больше данных в распоряжении системы, тем выше вероятность обнаружения шаблонов, которые могут оказаться случайными или вводящими в заблуждение. При этом компании-разработчики заинтересованы в продвижении своих технологий, а следователи – в эффективных инструментах работы, что может привести к некритичному доверию к результатам анализа.
В ответ на критику представитель Cellebrite заявил, что новые инструменты направлены исключительно на повышение продуктивности и сокращение времени рутинных операций. По словам представителя, результаты ИИ-анализа всегда сопровождаются ссылками на оригинальные данные, а окончательные решения остаются за человеком. Также подчеркивается, что ИИ не заменяет традиционные методы расследования, а лишь помогает автоматизировать обработку информации.
Аналогичные технологии разрабатывают и другие компании. Например, Axon внедрила инструмент Draft One, использующий решения OpenAI для автоматического составления полицейских отчетов на основе записей с нательных камер. Однако и в этом случае производитель подчеркивает, что ответственность за корректность итогового документа остается за человеком.