Интересные факты

Прогнозирующий преступления ИИ «уволили»

Алгоритм Compas, работавший на американскую полицию с 1998 года, занимался анализом данных подсудимых, а затем на основе полученной информации помогал разрешить, например, стоит ли отпускать преступника под заклад или же лучше покинуть под стражей. Выбирая меру пресечения, система учитывала года, пол и послужной список на криминальном нива. За 20 лет «службы» алгоритм оценил более миллиона человек, однако недавно его признали некомпетентным, после чего он немедля был отозван.

​​Ученые из Дартмутского колледжа проверили, как точна система и можно ли ей верить. Для этого они набрали фрилансеров, обычных людей без юридического образования, выплеснуть собственные решения на основе коротких справок о людях, выдав испытуемым информацию о поле, возрасте, уголовном прошлом и ещё нескольких параметрах.

Похожие новости  Алгоритм ИИ научился выявлять суицидальные наклонности по снимкам МРТ

Точность прогноза располагавших небольшим досье фрилансеров составила почитай 70 процентов, программа же отстала от людей на пять процентов, при этом опираясь на 137 пунктов биографии. Разбор суждений алгоритма показал, что чернокожие заключённые чаще находятся у программы под подозрением.

«Ошибки в таких случаях могут весьма дорого стоить, поэтому стоит задуматься, а нужно ли вообще применять этот алгоритм для вынесения судебных вердиктов», — говорит одинешенек из авторов исследования.

Изучив принцип работы алгоритма, исследователи пришли к выводу, что чем младше подсудимый и чем больше арестов у него за плечами, тем выше вероятность рецидива, потому специалисты в области ИИ признали технологию неблагонадёжной.

Hi-News.ru — Новости высоких технологий.

Добавить комментарий