Система распознавания лиц привела ко второму незаконному аресту в Детройте
Ложное совпадение в системе распознавания лиц привело к аресту ещё одного непричастного человека. По данным Detroit Free Press, полиция города арестовала мужчину за то, что якобы он залез в машину, взял телефон и бросил его, сломал корпус и повредил экран.
KENGKAT via Getty Images
Система распознавания лиц пометила Майкла Оливера (Michael Oliver) в качестве подозреваемого, а жертва указала на него среди фотографий людей, похожих на подозреваемого. Оливеру было предъявлено обвинение в совершении уголовного преступления в связи с инцидентом в мае 2019 года. Он сказал, что не совершал преступления, и доказательства подтвердили его слова.
Преступник, который был записан на телефон, не похож на Оливера. Во-первых, у него на руках татуировки, а у человека на видео их нет. Когда адвокат Оливера привёл эти и другие доказательства жертве и помощнику прокурора, они согласились, что обвиняемый был опознан неправильно. Судья позже закрыл дело.
Технология распознавания лиц использовалась в деле Оливера до вступления в силу новых правил. Детройтская полиция теперь может использовать технологию только для расследования насильственных преступлений. Главный прокурор округа Уэйн также пересмотрит дела, в которых использовалась технология распознавания лиц.
Это не единственный случай, когда офицеры Детройта неправомерно арестовывают кого-то после ошибочного совпадения. В одном из громких дел в начале этого года они задержали Роберта Уильямса (Robert Williams) почти на 30 часов за преступление, которое он не совершал. Пока это два известных в США случая неправомерных арестов, связанных с ложными совпадениями в системе распознавания лиц.
Интересно, что Оливер и Уильямс оба чернокожие. Исследования показывают, что технологии распознавания лиц обычно хуже работают в случае с чернокожими людьми. Многие правозащитники настаивают, что новых правил детройтской полиции недостаточно, и необходимо полностью прекратить использование этой технологии правоохранительными органами, пока не будет разработан механизм минимизации вреда от её применения.
Некоторые технологические компании, которые работали над системами распознавания лиц, пересмотрели свои позиции в этом вопросе. IBM заявила, что больше не будет развивать распознавание лиц «общего назначения» из-за проблем с правами человека. Amazon приостановила взаимодействие с полицией в рамках Rekognition. А Microsoft пообещала не продавать свою технологию распознавания лиц отделам полиции, пока не появятся федеральные правила, «основанные на правах человека».
