Los esfuerzos para utilizar la IA para predecir el crimen han estado llenos de controversia debido al potencial de replicar los sesgos existentes en la vigilancia. Pero un nuevo sistema impulsado por el aprendizaje automático promete no solo hacer mejores predicciones, sino también resaltar estos sesgos.
Si hay algo en lo que el aprendizaje automático moderno es bueno, es en detectar patrones y hacer predicciones. Por lo tanto, tal vez no sea sorprendente que muchos en el mundo de la política y la aplicación de la ley estén ansiosos por poner en práctica estas habilidades. Los defensores quieren entrenar modelos de IA con registros históricos de delitos y otros datos relevantes para predecir cuándo y dónde es probable que ocurran los delitos y utilizar los resultados para dirigir los esfuerzos policiales.
El problema es que este tipo de datos a menudo oculta todo tipo de sesgos que pueden replicarse con demasiada facilidad cuando se usan para entrenar algoritmos sin pensar. Los enfoques anteriores a veces incluían variables espurias, como la presencia de grafitis o datos demográficos, que fácilmente pueden llevar a los modelos a hacer asociaciones defectuosas basadas en criterios raciales o socioeconómicos.
Incluso los datos policiales básicos sobre delitos denunciados o números de arrestos pueden contener sesgos ocultos. La vigilancia intensa de ciertas áreas que se supone que tienen un alto índice de delincuencia debido a prejuicios preexistentes conducirá casi inevitablemente a más arrestos. Y en áreas con mucha desconfianza hacia la policía, los delitos a menudo no se denuncian.
No obstante, ser capaz de anticipar tendencias en la actividad delictiva con anticipación podría beneficiar a la sociedad. Entonces, un grupo de la Universidad de Chicago ha desarrollado un nuevo sistema de aprendizaje automático que puede predecir cuándo y dónde es probable que ocurran delitos mejor que los sistemas anteriores y también puede usarse para investigar los sesgos sistémicos en la vigilancia.
Primero, los investigadores recopilaron datos de varios años de la policía de Chicago sobre delitos violentos y contra la propiedad, así como la cantidad de arrestos resultantes de cada incidente. Usaron estos datos para entrenar un conjunto de modelos de IA que muestran cómo los cambios en cada una de estas variables afectan a las demás.
Esto permitió al equipo predecir los niveles de criminalidad en áreas de la ciudad de 1,000 pies de ancho con hasta una semana de anticipación con un 90 por ciento de precisión, como se informó en un artículo reciente en Nature Human Behavior . Los investigadores también demostraron que su enfoque logró una precisión similar cuando se entrenaron con datos de otras siete ciudades de EE. UU. Y cuando lo probaron en un conjunto de datos de un desafío policial predictivo realizado por el Instituto Nacional de Justicia, superaron al mejor enfoque en 119 de 120 categorías de prueba.
Los investigadores atribuyeron su éxito al abandono de enfoques que imponen restricciones espaciales en el modelo al suponer que el crimen aparece en puntos críticos antes de extenderse a las áreas circundantes. En cambio, su modelo pudo capturar conexiones más complejas que podrían estar mediadas por enlaces de transporte, redes de comunicación o similitudes demográficas entre diferentes regiones de la ciudad.
Sin embargo, en reconocimiento de que los datos utilizados para el estudio probablemente estaban contaminados por sesgos existentes en las prácticas policiales, los investigadores también investigaron cómo se podría usar su modelo para descubrir cómo tales prejuicios podrían distorsionar la forma en que las fuerzas del orden público despliegan sus recursos.
Cuando el equipo aumentó artificialmente los niveles de delitos violentos y contra la propiedad en los vecindarios más ricos, los arrestos aumentaron, mientras que los de las áreas más pobres disminuyeron. En contraste, cuando los niveles de criminalidad aumentaron en las áreas pobres, no hubo un aumento en los arrestos. La implicación, dicen los investigadores, es que la policía da prioridad a los vecindarios más ricos y pueden desviar los recursos de los más pobres.
Para validar sus hallazgos, los investigadores también analizaron los datos policiales sin procesar, utilizando el aumento estacional de la delincuencia durante los meses de verano para investigar el efecto de las tasas elevadas de delincuencia en diferentes áreas. Los resultados reflejaron las tendencias identificadas por su modelo.
Fuente
singularityhub.com
A pesar de su precisión, el líder del estudio, Ishanu Chattopadhyay, dijo en un comunicado de prensa que la herramienta no debe usarse para determinar directamente la asignación de recursos policiales, sino como una herramienta para investigar mejores estrategias policiales. Él describe el sistema como un "gemelo digital de entornos urbanos" que puede ayudar a la policía a comprender los efectos de los diferentes niveles de delincuencia o aplicación en diferentes partes de la ciudad.
Queda por ver si la investigación puede ayudar a dirigir el campo de la vigilancia predictiva en una dirección más consciente y responsable, pero cualquier esfuerzo por equilibrar el potencial de seguridad pública de la tecnología con sus riesgos considerables es un paso en la dirección correcta.
Fuente
singularityhub.com
Comments