Pensando en big data e inteligencia artificial
Big data e inteligencia artificial son los temas más candentes este año, especialmente en el campo judicial. La revolución del paradigma judicial en la era del big data ha llegado. Sin embargo, también existen pros y contras. Si no comprende completamente los riesgos de los grandes datos y la inteligencia artificial, y no puede pensar en frío después del entusiasmo, pueden ocurrir muchas consecuencias impredecibles.
Primero, es la seguridad del big data y la inteligencia artificial. Aunque este problema es un lugar común, puede continuar durante mucho tiempo en el contexto de la transformación de los patrones delictivos en Internet, desde atacar computadoras y redes hasta cometer delitos virtuales. En la actualidad, en los delitos en Internet, ha habido una gran cantidad de casos en los que los delincuentes aceptaron el encargo de otros para invadir los sistemas informáticos de departamentos gubernamentales y empresas e instituciones para modificar datos, e interceptaron y modificaron datos de información informática. Por tanto, el autor cree que no hay motivos para pensar que el big data judicial pueda sobrevivir por sí solo. Después de todo, en el océano de la delincuencia en Internet, ningún lugar es una isla absolutamente segura.
En segundo lugar, está la fiabilidad del big data y la inteligencia artificial. Un ejemplo es la controversia y el litigio en torno al procedimiento de sentencia COMPAS en los tribunales de Wisconsin, Estados Unidos. Algunos investigadores creen que la tendencia de COMPAS a sobreestimar la probabilidad de reincidencia entre ciertos grupos de personas probablemente refleja un sesgo inherente entre sus diseñadores. Si el análisis de datos en sí se ve afectado por sesgos, ¿son confiables las decisiones que toma la IA basándose en ellos? Lo que es aún más preocupante es que una cantidad significativa de sistemas de inteligencia artificial dependen de algoritmos de aprendizaje automático. Este algoritmo es casi una "caja negra" porque a los desarrolladores les resulta difícil explicar el mecanismo de funcionamiento real y las posibles consecuencias del algoritmo. La ley es el arte de la bondad y la justicia. Cuando la justicia abrace la tecnología, y si los humanos entreguen el poder de toma de decisiones de equidad y justicia a los algoritmos, entonces nos enfrentaremos a la pregunta de quién ríe último: la justicia o la tecnología.
Pero pensar fríamente sobre el big data y la inteligencia artificial no significa rechazarlos. La aplicación del big data y la inteligencia artificial en el ámbito judicial es una tendencia generalizada. Si excluimos a las personas por sus defectos, es sin duda por asfixia. De hecho, en el futuro, a medida que haya más datos disponibles y se desarrollen más y mejores herramientas, es posible que las preocupaciones que enfrentamos hoy se alivien. Pero todo el mundo debe tener claro que los big data y la inteligencia artificial son armas de doble filo. No evaluar y tratar adecuadamente los riesgos que puede conllevar puede tener consecuencias impredecibles.
El big data y la inteligencia artificial no eximen a nadie de la responsabilidad de emitir juicios. Porque esta responsabilidad pertenece al ámbito central del ser humano: la razón. En última instancia, los big data y la inteligencia artificial son sólo productos de la racionalidad humana. Es irracional atender ciegamente a los productos de la razón y tratar de eximirse de responsabilidad. Comprender correctamente la irracionalidad contenida en los productos racionales para cumplir mejor con sus responsabilidades es una manifestación de racionalidad.