July 3rd, 2016

Поле

В США журналисты уличили компьютерную программу в расизме


Компьютерная программа, разработанная в США для прогнозирования преступлений, в 80% случаев ошибочно вносит афроамериканцев в категорию "особого риска". К такому выводу пришли журналисты портала ProPublica. По данным веб-издания, речь идет о программе, которая рассчитывает вероятность рецидива правонарушения, совершенного конкретным подозреваемым. Результаты такого прогнозирования судьи могут использовать при вынесении приговора или решения об амнистии. Журналисты портала изучили дела 7000 американцев, арестованных в округе Броуард (штат Флорида) в 2013–2014 годах. Исследователи выяснили, что программа, разработанная компанией Northpointe, только в 20% случаев смогла точно предсказать, что конкретный подозреваемый повторно совершит преступление. В остальных прогнозах результаты оценки оказывались неверными. При этом в 2 раза больше ошибок пришлось на дела чернокожих правонарушителей, чем белых. Таким образом, журналисты решили, что компьютерная программа каким-то образом учитывает расу подозреваемого. "Если людям присуждают баллы и кто-то уже получил низкий балл, человеческая природа побуждает признать его виновным, даже если эта оценка просто означает, что он родился в бедном районе", – цитирует портал Apparat специалиста в области больших данных Кэтти О’Нил.

Источник. 25.05.2016г.

Дополнение из одной новости 2006 года: Дело в том, что в случае, если опознаваемый преступник со свидетелем представляют разные расы, очень сильно вырастает вероятность судебной ошибки. Естественно, при отсутствии других улик. Как установили психологи из двух американских университетов, люди намного лучше распознают представителей своей расы, нежели другой.