Cuando la justicia adopte los algoritmos, ¿quién reirá el último, la justicia o la tecnología? !
“Este día realmente ha llegado”, dijo el juez Roberts, “y ha ejercido una tremenda presión sobre el funcionamiento de la práctica judicial”.
El juez dijo más que simplemente Cortar. tecnología de inteligencia artificial de vanguardia, así como el impacto de las revoluciones tecnológicas, como los dispositivos inteligentes portátiles y la biotecnología del ADN, en la determinación de hechos basada en evidencia tradicional, así como la aplicación y evolución de leyes que van a la zaga de la antigua era en el nuevo entorno tecnológico. revolución. Pero lo más controvertido es que cuando los órganos judiciales que controlan la maquinaria estatal utilizan o incluso dependen de la tecnología para ejercer discreción en la práctica judicial, la gente inevitablemente empezará a pensar en la sutil relación entre el progreso tecnológico y objetivos sociales como la equidad y la justicia. que cambian el mundo.
En este artículo, Jane Law utiliza un caso judicial de la Corte Suprema de Wisconsin para ayudar a compartir los problemas de justicia procesal que enfrenta una herramienta de evaluación de riesgos que ha sido ampliamente utilizada por el poder judicial estadounidense.
Resumen
Originalmente, las herramientas tecnológicas de evaluación de riesgos se utilizaban únicamente en los departamentos de libertad condicional para ayudar a determinar la mejor manera de supervisar y castigar a los delincuentes. Con el enfoque nacional en la reducción de la reincidencia y el desarrollo de la práctica judicial basada en pruebas, el uso de esta herramienta ahora se ha expandido a la práctica judicial al dictar sentencias. Sin embargo, la aplicación de estas herramientas en la sentencia es más complicada, porque las herramientas de evaluación de riesgos están diseñadas principalmente para reducir la reincidencia, mientras que la sentencia judicial tiene múltiples propósitos, como (1) disuasión, (2) rescate, (3) castigo y ( 4) aislamiento.
El uso de herramientas específicas de evaluación de riesgos basadas en evidencia para la sentencia es una cuestión central en este caso. Si el uso de la herramienta de evaluación de riesgos COMPAS en la sentencia viola el derecho al debido proceso estipulado en la Constitución (Nota de Ley Simplificada: El derecho al debido proceso se originó en el sistema legal angloamericano, significa principalmente que cualquier parte cuyos derechos e intereses sean afectados por la sentencia deben ser informados, expresar sus opiniones y obtener el derecho de audiencia), una cuestión específica presentada ante el tribunal más alto del estado por el Tribunal de Apelaciones de Wisconsin, porque la confidencialidad de la propiedad de la herramienta COMPAS impide a los acusados cuestionar los fundamentos científicos. validez de la evaluación de riesgos COMPAS.
El acusado Eric L. Loomis (en adelante, el acusado) creía que la consideración por parte del tribunal de primera instancia de la evaluación de riesgos de COMPAS al dictar la sentencia violaba sus derechos al debido proceso.
La Corte Suprema de Wisconsin concluyó que la consideración por parte del tribunal de la evaluación de riesgos de COMPAS en su decisión no violó el derecho constitucional del acusado al debido proceso si se usaba adecuadamente y se seguían las restricciones y precauciones que expresamente requiere.
Al final, debido a que el tribunal de primera instancia consideró la puntuación de riesgo de la herramienta COMPAS con el apoyo de otros factores independientes, y el uso de herramientas técnicas no jugó un papel decisivo, la Corte Suprema de Wisconsin encontró que el tribunal de primera instancia condenó al acusado a 6 años de prisión sin ejercicio indebido de su discreción.
Caso en el que jueces utilizaron herramientas algorítmicas en la sentencia.
Los hechos de este caso son indiscutibles. Los fiscales creen que el acusado era un conductor que iba a exceso de velocidad y disparó su arma. La fiscalía acusó cinco delitos: (1) poner en peligro la seguridad sin sentido en primer grado, (2) escapar de un arresto de la policía de tránsito, (3) operar un automóvil sin el consentimiento del propietario, (4) delincuentes que ocultan armas de fuego, (5) el Delito de posesión privada de escopeta o rifle de cañón corto.
El acusado negó su participación en el tiroteo a exceso de velocidad. Renunció al derecho a juicio en la transacción entre la fiscalía y la defensa y el fiscal (Nota de ayuda legal simplificada: la negociación de la fiscalía en los Estados Unidos se refiere al procedimiento en el que la fiscalía y la defensa llegan a una opinión satisfactoria según el acuerdo. premisa de revisión judicial en un caso penal, generalmente, a cambio de que el acusado se declare culpable, el fiscal retirará los cargos, los rebajará o pedirá al juez una sentencia más leve, y luego la fiscalía y la defensa llegarán a un acuerdo de declaración de culpabilidad; aceptable para ambas partes.) El acusado se declara culpable de dos cargos menores, a saber, el segundo y el segundo cargo tres.
Tras acoger la defensa del imputado, el tribunal de primera instancia resolvió iniciar una investigación previa a la sentencia. Adjunto al informe de investigación previo a la sentencia del gobierno (el "Informe de Sentencia") se encuentra un anexo a la evaluación de riesgos de COMPAS.
COMPAS es una herramienta de evaluación de necesidades de riesgo diseñada por Northpointe, que puede ser utilizada por las autoridades penitenciarias para brindar apoyo en la toma de decisiones de admisión, gestión de prisioneros y planificación de castigos. La información en la que se basa la evaluación de riesgos de COMPAS se obtiene del expediente penal del acusado y de entrevistas con el acusado.
El informe COMPAS incluye evaluaciones de riesgos diseñadas para predecir la reincidencia, así como evaluaciones separadas utilizadas para identificar las necesidades del programa en áreas como empleo, vivienda y abuso de sustancias. La parte de evaluación de riesgos del informe COMPAS generará una puntuación de riesgo, que se muestra como un gráfico de barras, con tres barras que representan el riesgo de reincidencia antes del juicio, el riesgo de reincidencia general y el riesgo de reincidencia violenta. Cada columna muestra el nivel de riesgo del acusado en una escala del 1 al 10.
Las puntuaciones de riesgo están diseñadas para predecir la probabilidad general de que las personas con antecedentes penales similares tengan menos o más probabilidades de reincidir tras su liberación. Sin embargo, la evaluación de riesgos COMPAS no predice la probabilidad específica de reincidencia de un delincuente específico; hace una predicción basada en una comparación de información personal específica con conjuntos de datos similares.
En este caso, la puntuación de riesgo COMPAS del acusado mostró que presentaba un alto riesgo de reincidencia en las tres barras. Su informe de sentencia incluyó instrucciones sobre cómo utilizar la evaluación de riesgos COMPAS, advirtió sobre los riesgos del uso inadecuado de los resultados de la evaluación y explicó que debería usarse para identificar a los reclusos que podrían beneficiarse de las intervenciones y los factores de riesgo que deberían abordarse durante el proceso. supervisión. El informe de sentencia también advirtió que las evaluaciones de riesgo COMPAS no deberían usarse para determinar el nivel de la sentencia y si los infractores deberían recibir medidas privativas de libertad.
Además, el informe COMPAS en este caso mostró el alto riesgo y las altas necesidades de supervisión del acusado: alto riesgo de violencia, alto riesgo de reincidencia y alto riesgo previo al juicio, por lo que todos estos son factores para determinar la sentencia adecuada; .
Finalmente, el tribunal de primera instancia rechazó la solicitud de libertad condicional con referencia al puntaje de riesgo COMPAS y otros factores de sentencia: "A través de la evaluación COMPAS, se determinó que usted es una persona que presenta un alto riesgo". a la comunidad." Después de sopesar varios factores, el tribunal de primera instancia rechazó la solicitud de libertad condicional no sólo por la gravedad del delito, sino también porque los "antecedentes, el historial de medidas de supervisión y el uso de herramientas de evaluación de riesgos" del acusado indicaban que el acusado presentaba un alto riesgo de reincidencia.
Por lo tanto, el tribunal condenó al acusado a dos años de prisión y cuatro años de prisión respectivamente con medidas posteriores de libertad supervisada por el delito de escapar de una detención policial de tránsito y el delito de conducir un automóvil sin el consentimiento del propietario. .
Luego, tras declararse culpable, el acusado presentó objeción al juicio y sentencia ante el tribunal de primera instancia. Sostuvo que la consideración por parte del tribunal de primera instancia de la evaluación de riesgo de COMPAS al dictar sentencia violó su derecho al debido proceso constitucional.
Durante el juicio, el tribunal de primera instancia demostró cuestiones de debido proceso. Los peritos proporcionados por el acusado señalaron problemas con el uso de las evaluaciones de riesgo COMPAS en la sentencia. Los peritos argumentaron que las evaluaciones de riesgos COMPAS no deberían usarse para decidir si se impone una pena privativa de libertad porque las evaluaciones de riesgos COMPAS no fueron diseñadas para este propósito y existía un riesgo significativo de que los tribunales sobreestimaran el riesgo de un delincuente y resultaran en un error judicial o basado en sobre factores irrelevantes.
El perito señaló además que el tribunal sentenciador tenía poco conocimiento de cómo COMPAS evalúa el riesgo: “El tribunal no sabía cómo COMPAS comparaba la historia personal del acusado con la población subyacente que se estaba comparando. Sabemos que la población comparativa era la población de Wisconsin, la población de Nueva York, la población de California... sin todo tipo de tribunales de información, lo que nosotros (herramientas de evaluación de riesgos) hacemos ahora es poner estos cuadros de puntuación directamente frente a los jueces y dejar que los usen. para obtener un castigo, lo que inducirá a error a los tribunales."
El tribunal de primera instancia finalmente rechazó la solicitud de libertad condicional y explicó que el propósito de utilizar la evaluación de riesgos COMPAS era verificar la propia determinación del tribunal. El tribunal haría el mismo resultado de sentencia independientemente de que en el proceso de sentencia se haya considerado el puntaje de riesgo COMPAS.
Los acusados apelaron y el tribunal de apelaciones envió el caso a la Corte Suprema de Wisconsin.
El poder judicial adopta el derecho al debido proceso en los algoritmos
De hecho, el uso de COMPAS en la sentencia no es una práctica nueva. El Tribunal de Apelaciones de Wisconsin confirmó la referencia de sentencia de un tribunal de primera instancia, afirmando que "COMPAS es simplemente una herramienta disponible para los tribunales al dictar sentencias"; sin embargo, a diferencia de este caso, no se mencionó el derecho constitucional al debido proceso;
Pero hay muchas voces escépticas en el campo legal, preocupadas de que se sobreenfatice y se abuse del papel de la herramienta.
En este caso, la Oficina de Prisiones reconoció las limitaciones de la herramienta en su informe de sentencia: es importante recordar que las puntuaciones de riesgo no deben usarse para determinar el alcance de una sentencia y si un delincuente debe recibir una medida de pena privativa de libertad.
La Corte Suprema de Wisconsin estuvo de acuerdo y, después de analizar la cuestión del derecho al debido proceso en este caso, exigió una advertencia necesaria (¿ver si el algoritmo de sentencia es confiable?).
El demandado inicialmente afirmó que la confidencialidad de la propiedad de la herramienta COMPAS le impedía cuestionar la validez científica de la evaluación de riesgos. Por lo tanto, el acusado cree que debido a que el informe de sentencia va acompañado de una evaluación de riesgos COMPAS, priva al acusado de la oportunidad de obtener información completa en el informe de sentencia y, por lo tanto, no puede garantizar su derecho a una sentencia basada en información precisa.
Northpointe, el desarrollador de COMPAS, cree que COMPAS es su propia herramienta patentada y constituye un secreto comercial. Como resultado, el departamento no ha revelado públicamente cómo se determinan las puntuaciones de riesgo y qué ponderaciones se dan a los factores en la evaluación. El demandado argumentó que debido a que COMPAS no reveló esta información, no tuvo acceso a toda la información utilizada por el tribunal de primera instancia al dictar sentencia y, basándose en analogías con casos anteriores, consideró que se violaron sus derechos al debido proceso.
Es decir, el demandado creía que era la persona más indicada para refutar o explicar los resultados de su evaluación de riesgos COMPAS, pero sólo mirar las puntuaciones reflejadas en el gráfico de barras le impedía realizar una evaluación efectiva. refutación o explicación. Además, el demandado argumentó que la exactitud de la evaluación COMPAS no podría verificarse a menos que pudiera ver cómo se midieron los factores detrás de la herramienta y se determinaron las puntuaciones de riesgo.
La Corte Suprema de Wisconsin no estuvo de acuerdo. El tribunal señaló que si bien el acusado no podía ver y cuestionar cómo el algoritmo COMPAS calculaba el riesgo, al menos podía ver y cuestionar la puntuación de riesgo contenida en el anexo al informe de sentencia, por lo que el acusado en este caso no tenía; la oportunidad de obtener la información que el tribunal refutaría, complementaría o explicaría.
La Corte Suprema de Wisconsin sostuvo que, si bien la puntuación de riesgo no explicaba cómo el programa COMPAS utilizaba la información para calcular la puntuación de riesgo, la Guía de práctica COMPAS de Northpointe explicaba que la puntuación de riesgo se basaba principalmente en información estática, como información criminal. historia y cómplices criminales, algunas variables dinámicas como el consumo de drogas.
El informe de sentencia del acusado en el apéndice del informe COMPAS contiene 21 preguntas sobre información estática, tales como:
¿Cuántas veces ha sido detenida esta persona mientras estaba en libertad condicional? 5+
¿Cuántos nuevos cargos/arrestos tuvo esta persona mientras estaba en libertad condicional? Cuatro
¿Cuántas veces ha sido arrestada esta persona antes (solo detención penal)? ¿Eres adulto o menor? 12
Por lo tanto, la Corte Suprema de Wisconsin sostuvo que la evaluación de riesgo del acusado se basó en sus respuestas a estas preguntas y en datos disponibles públicamente sobre su historial criminal. En este sentido, el demandado tiene todas las oportunidades de verificar si las preguntas y respuestas enumeradas en el informe COMPAS son exactas; el tribunal de primera instancia y el demandado pueden ver el mismo informe de evaluación de riesgos. El acusado tiene la oportunidad de impugnar la inexactitud de la puntuación de riesgo defendiendo otros factores o información.
¿Es confiable la sentencia algorítmica?
Algunos estados de Estados Unidos que utilizan COMPAS han realizado estudios de validación de COMPAS y creen que es una herramienta de evaluación de riesgos suficientemente precisa. El Servicio de Justicia Penal del Estado de Nueva York realizó un estudio para examinar la validez y precisión predictiva del valor de reincidencia evaluado por COMPAS y concluyó que el valor de reincidencia es práctico y eficaz, y que la precisión predictiva logró resultados satisfactorios. A diferencia de Nueva York y otros estados, Wisconsin aún no ha completado un estudio de validación estadística de COMPAS para la población de Wisconsin.
Por otro lado, los demandados también encontraron dudas sobre la exactitud de otros estudios de herramientas de evaluación de riesgos. Por ejemplo, citó un estudio de 2007 realizado por el Departamento Correccional y Rehabilitación de California y concluyó que si bien COMPAS parece ser capaz de evaluar las necesidades criminógenas y el riesgo de reincidencia, "hay poca evidencia de que esto sea lo que COMPAS realmente evalúa".
El informe del estudio de California concluyó además: “No hay evidencia clara de que diferentes evaluadores puedan asignar puntuaciones consistentes a COMPAS, y no hay evidencia clara de que pueda evaluar los resultados criminógenos para los que fue diseñado. necesidades, o (muy importante) predecir el riesgo de reincidencia entre los reclusos del Departamento de Correcciones y Rehabilitación de California "En última instancia, los autores del estudio no recomendaron que el Departamento de Correcciones y Rehabilitación de California utilice la herramienta COMPAS para individuos.
Sin embargo, el Departamento de Correcciones y Rehabilitación de California publicó posteriormente el informe final del estudio de validación COMPAS de California de 2010. El estudio de 2010 concluyó que "COMPAS es una herramienta fiable", aunque no es perfecta.
Además de estas cuestiones, a algunos les preocupa que las herramientas de evaluación de riesgos puedan clasificar a una proporción de delincuentes minoritarios como de mayor riesgo, incluidos factores incontrolables como los antecedentes familiares, la educación y la raza.
En consecuencia, la Corte Suprema de Wisconsin exige que las jurisdicciones que utilizan herramientas de evaluación de riesgos se aseguren de tener los recursos y capacidades para mantener estas herramientas y monitorear su precisión continua.
Dada la precisión utilizada por los tribunales al dictar sentencias, la Corte Suprema de Wisconsin decidió que el uso de las evaluaciones de riesgos COMPAS, además de las limitaciones señaladas anteriormente, debe estar sujeto a ciertas salvedades. Específicamente, cualquier informe de sentencia que contenga una evaluación de riesgos de COMPAS debe informar al tribunal sentenciador de las siguientes consideraciones con respecto a la precisión de la evaluación de riesgos de COMPAS:
La confidencialidad exclusiva de COMPAS impide la divulgación pública de cómo se determina la puntuación de riesgo. e información de ponderación para los factores de evaluación;
La evaluación de riesgos compara a los acusados con una muestra nacional, pero no se ha completado un estudio de validación cruzada de la población de Wisconsin;
Alguna información sobre COMPAS puntuaciones de evaluación de riesgos Las investigaciones plantean preguntas sobre si hay situaciones en las que los delincuentes minoritarios se identifican de manera desigual como en alto riesgo de reincidencia;
A medida que la demografía cambia, las herramientas de evaluación de riesgos deben seguir siendo monitoreadas y adaptadas para mantener la precisión. De esta manera, el tribunal sentenciador puede juzgar mejor la precisión de la evaluación del riesgo y otorgar la ponderación adecuada a la puntuación del riesgo.
Sin embargo, la Corte Suprema de Wisconsin reconoció explícitamente el papel de las evaluaciones de riesgo COMPAS, citando la opinión de la Corte Suprema de Indiana de que estas herramientas ayudan a los tribunales a sopesar todos los factores de la sentencia. Al mismo tiempo, la evaluación de riesgos de COMPAS determina los grupos criminales de alto riesgo basándose en datos grupales, en lugar de individuos específicos de alto riesgo, por lo que el tribunal sentenciador debe prestar atención a esto al considerar todos los factores de la sentencia para cada acusado individual y el riesgo de COMPAS; La evaluación no puede constituir un factor decisivo en la sentencia.
Algoritmo = ¿justicia? Fangyuan, ¿qué opinas?
El avance de la ciencia y la tecnología está desafiando todas las células de la sociedad, incluida la economía, la política y el estilo de vida. Incluso el sistema judicial, un mecanismo social que mantiene la equidad y la justicia social, no es una excepción. Cuando los logros científicos y tecnológicos, como las herramientas algorítmicas, se sumergen gradualmente en la práctica judicial e incluso afectan acciones estatales importantes como las sentencias, la gente inevitablemente comienza a preocuparse por si, en el futuro cercano, herramientas tecnológicas como las máquinas inteligentes impulsadas por IA no solo ayudar a los órganos judiciales a interpretar y hacer cumplir la ley e incluso gradualmente desempeñar un papel rector más importante.
En otras palabras, ¿dejarán los humanos el destino de los de su propia especie o la realización de valores fundamentales como la equidad y la justicia en manos de herramientas tecnológicas como los algoritmos inventados por humanos?
El juez Roberts de la Corte Suprema de Estados Unidos se mostró ilustrado y cada vez más tribunales están adoptando los avances tecnológicos. La Corte Suprema de Wisconsin comentó de manera optimista pero pragmática en este caso:
Los cambios y la evolución de herramientas técnicas como COMPAS deben tenerse en cuenta al analizar y utilizar herramientas de evaluación de riesgos basadas en evidencia en la sentencia. Las preocupaciones que enfrentamos hoy pueden aliviarse a medida que las herramientas mejoren en el futuro. El sistema de justicia penal debe reconocer que en el futuro habrá cada vez más datos de investigación y se desarrollarán mejores herramientas. A medida que cambian los datos, las herramientas utilizadas por el poder judicial también deben cambiar. El poder judicial debe seguir el ritmo de la investigación y evaluar continuamente el uso de estas herramientas en la práctica judicial.
Por fin, te guste o no, ha llegado el futuro de la justicia abrazando el progreso tecnológico. En cuanto a los objetivos de valores sociales como la equidad, la justicia y la eficiencia, una vez que el poder judicial adopte la tecnología, ¿finalmente prosperará o perderá popularidad? Ya veremos.
Fang Yuan, ¿qué opinas?