Алгоритм прогнозирования преступлений в США уличили в расовой дискриминации

Татьяна Новак

Исследователи некоммерческой организации Human Rights Data Analysis Group выяснили, что алгоритм PredPol способствует укреплению расовых предрассудков среди американских полицейских. Об этом пишет Mic.

Программное обеспечение PredPol («predictive policing»), разработанное Департаментом полиции Лос-Анджелеса в сотрудничестве с местными университетами — один из наиболее популярных алгоритмов прогнозирования преступлений. Его используют полицейские в некоторых муниципалитетах США и Великобритании. PredPol анализирует, где и когда были совершены преступления, а затем отмечает на карте «горячие точки», где, вероятно, произойдут преступления в скором будущем.

Исследователи Уильям Исаак и Кристиан Лум решили проверить эффективность алгоритма на примере города Окленд, мэрия которого собирается вскоре закупить PredPol для местного департамента полиции. Исследователи использовали версию алгоритма PredPol, выложенную в открытом доступе. Они загрузили в него статистику арестов за употребление наркотиков в 2010 году. Составленную алгоритмом карту-прогноз на 2011 год учёные сравнили с данными об употреблении наркотиков, собранными в рамках программы Национального исследования употребления наркотиков и здоровья.

Оказалось, что алгоритм предсказывал наркопреступления преимущественно в «чёрных» районах, игнорируя остальные районы Окленда.

Статистика употребления наркотиков NSDUH; статистика арестов; прогноз алгоритма PredPol. Иллюстрация: Human Rights Data Analysis Group/Mic

Учёные обращают внимание, что статистика арестов за употребление наркотиков в 2011 году совпала с результатами алгоритма: в «чёрных» районах полиция провела почти в 200 раз больше арестов за употребление наркотиков, чем во всех остальных районах Окленда. При этом данные NSDUH свидетельствуют, что жители «белых» районов употребляют наркотики ничуть не меньше.

Прогноз алгоритма и данные NSDUH об употреблении наркотиков cреди чернокожих, белых и других жителей Окленда. Иллюстрация Human Rights Data Analysis Group/Miс

По словам Лума, наркопреступность есть везде, но полиция «находит её там, где ищет» — то есть в «чёрных» районах. По его словам, таким образом создаётся замкнутый круг: в программу вносят данные о высоких процентах преступлений в этих кварталах, и она создаёт новый прогноз — с ещё большим расовым перекосом.

Ранее журналисты портала ProPublica выяснили, что алгоритм прогнозирования преступлений в штате Флорида в 80% случаях ошибочно вносит чернокожих подозреваемых в категорию «высокого риска». С белыми подозреваемыми это происходит в два раза реже.

Загрузить еще