Программу предсказания преступлений обвинили в расизме

[ Версия для печати ]
Добавить в Telegram Добавить в Twitter Добавить в Вконтакте Добавить в Одноклассники
Страницы: (4) [1] 2 3 ... Последняя »  К последнему непрочитанному [ ОТВЕТИТЬ ] [ НОВАЯ ТЕМА ]
mrzorg 25 мая 2016 г. в 19:44
Ярила  •  На сайте 16 лет
Сообщений: 54473
105
Правоохранительные органы США несколько лет используют в своей работе специальные программы, которые анализируют статистику преступлений и выдают рекомендации.

4 картинки

Программу предсказания преступлений обвинили в расизме
Yap 11.04.2026 - 21:54
Продам слона  •  На сайте 21 год
Например, в Калифорнии программа рассчитывает оптимальный маршрут патрулей с учётом вероятности преступлений в каждом районе города в определённое время суток. Полиция Чикаго в 2014 году составила список наблюдения с именами 400 наиболее вероятных преступников в будущем.

Алгоритм предсказания преступников и будущих жертв беспокоит правозащитников, хотя он показал удивительную точность (более 70% жертв огнестрела в Чикаго в 2016 году были в списке, заранее составленном программой).

В последнее время аналитические программы начали использовать в судах. Судья должен определить, наказать преступника по минимальной или максимальной строгости, предусмотренной законом для конкретного преступления.

В этом случае программа на основе имеющихся данных вычисляет так называемый «показатель оценки риска» (risk assessment score). Этот показатель определяет вероятность повторения преступления и, соответственно, влияет на тяжесть приговора.

Программу предсказания преступлений обвинили в расизме
Так вот, тщательный анализ результатов работы программы, проведённый ProPublica, выявил странную тенденцию: по какой-то причине для афроамериканцев (негров) программа выдаёт более высокую оценку риска, чем для белых.

Другими словами, алгоритм проявляет расовую дискриминацию! И это при том, что эту программу специально внедряли в судебную систему именно для того, чтобы исключить такую дискриминацию.

Показатель оценки риска очень важен. Он влияет и на тяжесть приговора, и на размер суммы, под которую подозреваемого выпускают под залог, а также на выбор меры пресечения и многое другое.

Журналисты ProPublica провели анализ более 7000 дел в округе Броуард (Флорида), где показатель оценки риска для подозреваемого вычисляет одна из самых популярных такого рода программ от компании Northpointe.

Показатель оценки риска для афроамериканцев (1 — минимальный, 10 — максимальный)

Это сообщение отредактировал mrzorg - 25 мая 2016 г. в 19:47

Программу предсказания преступлений обвинили в расизме
Исследователи делают вывод, что программа нарушает закон, специально учитывая фактор цвета кожи как один из параметров для определения вероятности преступления в будущем.

Компания Northpointe уверяет, что раса подозреваемого ни в коем случае не учитывается при анализе. Но учитываются другие факторы, которые сильно коррелируют с расой: уровень образования, статус занятости, криминальная история родственников, приём запрещённых наркотиков друзьями/знакомыми и т.д.

Вес каждого фактора в итоговой оценке засекречен — это проприетарный алгоритм компании Northpointe. cool.gif gigi.gif


Показатель оценки риска для белых (1 — минимальный, 10 — максимальный)

geektimes.ru

Программу предсказания преступлений обвинили в расизме
Все комментарии:
DrShmurger 25 мая 2016 г. в 19:48
Ярила  •  На сайте 12 лет
12
Ищите женщину негра gigi.gif
1barsuk1 25 мая 2016 г. в 19:48
Юморист  •  На сайте 15 лет
152
Ну как бы риск быть покусаным собакой чем карасём значительно выше.
muaddeeb 25 мая 2016 г. в 19:49
Квизац Хадарач  •  На сайте 10 лет
78
Ну так если по статистике черномазые осуществляют больше преступлений-значит это заложено в программу.Тогда получается что математика вообще-наука расистов.Запретить нахуй cranky.gif
grably 25 мая 2016 г. в 19:52
Анус Ректальный  •  На сайте 13 лет
102
Надо заставить белых больше грабить, насиловать, и убивать! rulez.gif
mrzorg автор 25 мая 2016 г. в 19:52
Ярила  •  На сайте 16 лет
59
Цитата (hurakan @ 25.05.2016 - 18:47)
Mrzorg - ну ты чо! Мне щас ебнут поломку, ты нахера перепилил пост?!

Не бойся, я всё поправлю! dont.gif В смысле, твою карму cool.gif

Программу предсказания преступлений обвинили в расизме
галазолин 25 мая 2016 г. в 19:53
Ярила  •  На сайте 10 лет
4
ни хрена не понял! алгоритм на статистике построен что ли?
Skat 25 мая 2016 г. в 19:53
Ярила  •  На сайте 16 лет
20
Отменить статистику и закрыть университеты... И всех делов....

Программу предсказания преступлений обвинили в расизме
Aida 25 мая 2016 г. в 19:54
Юморист  •  На сайте 16 лет
8
Интересно. Если тестировать эту прогу в России. То в чём её обвинят?
галазолин 25 мая 2016 г. в 19:55
Ярила  •  На сайте 10 лет
16
Цитата (Aida @ 25.05.2016 - 19:54)
Интересно. Если тестировать эту прогу в России. То в чём её обвинят?

в антисимитизме shum_lol.gif
hurakan 25 мая 2016 г. в 19:56
фартовый  •  На сайте 14 лет
3
Цитата (mrzorg @ 25.05.2016 - 22:52)
Цитата (hurakan @ 25.05.2016 - 18:47)
Mrzorg - ну ты чо! Мне щас ебнут поломку, ты нахера перепилил пост?!

Не бойся, я всё поправлю! dont.gif В смысле, твою карму cool.gif

подтверди хоть админам, что я не нарушал правил.

Это сообщение отредактировал hurakan - 25 мая 2016 г. в 20:01
Дедушко 25 мая 2016 г. в 19:56
я - кукуся  •  На сайте 14 лет
8
в Футураме уже описывали gigi.gif

Программу предсказания преступлений обвинили в расизме
mrzorg автор 25 мая 2016 г. в 19:56
Ярила  •  На сайте 16 лет
2
Цитата (галазолин @ 25.05.2016 - 18:53)
ни хрена не понял! алгоритм на статистике построен что ли?

Из комментов на первоисточнике:

Цитата
Они имеют в виду, что у них в их алгоритме раса не учитывается, вот и все. Если вычислить риски по 2 людям разного цвета кожи, но в остальном одинаковых, то риск будет одинаковый. Корреляция между факторами риска и собственно риском есть и используется в их алгоритме. Корреляция между факторами риска и цветом кожи может быть, а может и не быть — это зависит от конкретной социоэкономической ситуации (и никоим образом не от алгоритма).

> только 20% подозреваемых, по которым программа определила высокий риск совершения преступлений, действительно совершили его в течение двух лет после выставления риска.

Косяк алгоритма. Вот об этом надо заострять внимание — на том, что судебная система руководствуется черт знает чем при выборе наказания. А не искать расизм там, где его нет. Было бы интересно еще посчитать обратный вариант — сколько из тех, кому был назначен малый риск, совершили повторные правонарушения. Если и там было бы большое число ошибок — то вообще замечательный сюжет «хороших наказываем, а плохих поощряем».
Здесь еще есть интересный вопрос в том, а не влияет ли сам факт того, что был выставлен высокий риск, на совершение повторного преступления? Скажем, если нарушителя с малым вычисленным риском отпустили, «погрозив пальчиком» — не будет ли это являться побудительным фактором для того снова нарушить? И наоборот, если за пьяное вождение посадить под домашний арест на пару лет — это будет неплохо защищать от повторного нарушения.

> Ошибочное предсказание рецидива для чернокожих вдвое выше, чем для белых.

И это тоже косяк алгоритма, и опять же не связанный с расой. Возможно, вес каких-то «отягощающих» факторов (которые в этой стат выборке коррелируют с расой) в итоговой оценке слишком задран.
Интересно, эти Northpointe для каждой конкретной местности подстраивают веса у алгоритма или он у них общий везде? Если общий везде — то это вообще явный косяк компании.


Цитата
Ирония в том, что если бы такой "дикриминации" не было и по любому параметру было равномерное распределение, то и программа была бы не нужна — у всех людей была бы равная вероятность совершить преступление. Но суть ведь программы выявить эти неравномерности и "дикриминировать" кого то по уровню образования, по месту жительства или по цвету кожи.
CIPOLLINA 25 мая 2016 г. в 19:56
Наблюдатель  •  На сайте 11 лет
82
Полицейскую собаку обвинили в расизме потому, что она находила наркотики
исключительно у афро-американцев
(реальный случай в штате Пенсильвания).
mrzorg автор 25 мая 2016 г. в 20:02
Ярила  •  На сайте 16 лет
2
Цитата (hurakan @ 25.05.2016 - 18:56)
Цитата (mrzorg @ 25.05.2016 - 22:52)
Цитата (hurakan @ 25.05.2016 - 18:47)
Mrzorg - ну ты чо! Мне щас ебнут поломку, ты нахера перепилил пост?!

Не бойся, я всё поправлю! dont.gif В смысле, твою карму cool.gif

бля... так я ж белый!
как поправишь - перебьешь меня? gigi.gif lol.gif

Всех не перебьёшь, поэтому дискриминация (любая - ведь даже близнецы уже разные) является естественной частью мира людей... Т.к. нам "удобнее" подсознательно делить людей на "группы" по общим признакам - от внешнего вида до типа поведения.

Вот на этом, вангую, Northpointe -ий хитрый алгоритм "ставки на чёрное" gigi.gif наверняка и построен...
Diman77 25 мая 2016 г. в 20:10
Ярила  •  На сайте 12 лет
30
То, что среди негров больше преступников - это не расовая дискриминация, а сухая статистика.
MADPATRIOT 25 мая 2016 г. в 20:24
Ярила  •  На сайте 15 лет
8
А ни чё так , интересная затея!...

Программу предсказания преступлений обвинили в расизме
LIZAMAX 25 мая 2016 г. в 21:01
Приколист  •  На сайте 14 лет
4
Цитата (галазолин @ 25.05.2016 - 19:55)
Цитата (Aida @ 25.05.2016 - 19:54)
Интересно. Если тестировать эту прогу в России. То в чём её обвинят?

в антисемитизме shum_lol.gif

По экономическим статьям-обязательно!!!
ПыСы: ну хоть правильнописание проверь,поправил! gigi.gif
Борменталь 25 мая 2016 г. в 21:06
Иван Арнольдович собственно  •  На сайте 14 лет
3
Даже бездушная железка это понимает
janus4x 25 мая 2016 г. в 21:19
Шутник  •  На сайте 12 лет
3
Как бы дело не в расизме а в причинно следственной связи.
d4plya 25 мая 2016 г. в 21:23
Ярила  •  На сайте 12 лет
8
ну что, господа математики? статистика нетоллерантна - надо что-то делать - или прогибать статистику или толлерантность
gogindra 25 мая 2016 г. в 21:31
Ярила  •  На сайте 12 лет
9
Цитата (Aida @ 25.05.2016 - 19:54)
Интересно. Если тестировать эту прогу в России. То в чём её обвинят?

В СССР была 17-25-30/не была - ликвидирована 37-53/опять была 54-60-е/опять не была - НЕ те результаты показывала после 60-х/ опять чуть ожила... в 70-е/ теперь опять вроде НЕ ТО что хочется правящей Партии и Лично - показывает - скоро опять придушат?
...

Наука/Буржуазная Лженаука - Криминология.

Изучающая не фактологию преступления как "криминалистика", а самих людей и их мотивы в данной драме.

Вот - Криминология в СССР систематически выдавала Выводы, которые правящую хоть тогда, хоть сейчас Партию НЕ устраивали и Не устраивают.

При СССР - криминология злобно и подло опровергала один из Основных Догматов Веры в Светлое будЮщее - "КоммунизЬм"(тм) - что дескать при светлом социализме преступность - она вообще должна застесняться и планомерно уменьшаться.

Также - совершенно злобно и не по-коммунистически в отношении нацменов выглядели выкладки, про то что черножопые чурки и чурбаны - "национальные меньшинства" ещё в СССР от года к году ВСЁ больше звереют...

С крахом СССР и Плановостью ВО ВСЁМ!!! - включая и неуклонное, планомерное и запланированное ЦК КПСС, Совмином и Госпланом (для нонешней школоты и просто тупых - это шутка такая сквозь тогдашние ментовские слёзы) "сокращение количества преступных проявлений, особенно тяжких"...
Вроде фальсификациии и "поджопники" пытались отменить.

НО - судя хоть бы и по ежедневной "хронике ЯПа" - ПОД Мудрым Руководством и благодаря Неустанной Заботе Партии и Правительства - преступность со страшной силой...
забарывается??? sm_biggrin.gif
Понравился пост? Еще больше интересного в Телеграм-канале ЯПлакалъ!
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей) Просмотры темы: 24342
0 Пользователей:
Страницы: (4) [1] 2 3 ... Последняя » [ ОТВЕТИТЬ ] [ НОВАЯ ТЕМА ]

 
 



Активные темы






Наверх