Los recientes avances en inteligencia artificial, sobre cuya definición no existe aún consenso, vienen modificando nuestra vida en diferentes ámbitos (marketing, educación, economía, por citar solo algunos ejemplos). No debe sorprender que sea hoy un tema que debamos abordar en los sistemas judiciales ya sea ante la recolección de evidencia, el modo de realización de los juicios o la toma de decisiones, entre otros usos en que la tecnología puede colaborar con la actividad judicial.
En el campo del proceso penal esta realidad nos obliga a pensar sobre la utilización del método algorítmico en cuanto conjunto de instrucciones para adoptar decisiones con la máxima calidad y eficiencia, confluyendo en la concreción de una justicia predictiva que ha de entenderse como la posibilidad de prever el resultado de un proceso a través de cálculos.
Ante esta coyuntura resulta tentador pensar en la colaboración de sistemas algorítmicos que, tras la carga de determinados datos, arrojen un grado de probabilidad de la concreción de riesgos procesales en cuanto requisito ineludible para el dictado de la prisión provisional y de otras medidas de coerción personal respecto de personas imputadas penalmente y que esa información sirva para que los jueces decidan acerca de ellas.
El uso excesivo de la prisión provisional viene siendo objeto de debate desde hace décadas y sus razones han sido analizadas en distintos planos: el justificativo, el legal, el probatorio, etc.
La discusión sobre los fundamentos para el dictado de una medida pretendidamente cautelar pero que en su materialidad evidencia un adelanto de pena, continúa generando tensiones frente a derechos fundamentales como la presunción de inocencia en su vertiente de regla de tratamiento del imputado. Asimismo el aseguramiento de un juicio justo, realizado bajo la regla de publicidad, en el cual debe estar presente el acusado es un derecho que nos asiste a los individuos desde la época ilustrada pero que a la vez nos somete.
Además del riesgo de fuga, la LECrim prevé otros supuestos también cuestionados: el entorpecimiento de la investigación mediante la posible sustracción o destrucción de pruebas, y la evitación de reiteración delictiva. Esta última no reviste naturaleza cautelar del proceso en que se dicta y ha sido señalada por destacada doctrina como “de dudosa constitucionalidad”.
Los límites que impone la comprobación –aún precaria por la etapa procesal que se transita– del elemento material de la medida de coerción, el fumus commisi delicti, no resulta suficiente para reducir la discrecionalidad judicial y el uso de la detención anticipada. Corresponde en todos los casos analizar en debido orden y necesidad las medidas alternativas que la propia legislación estima y enumera.
Aún persisten los argumentos sustancialistas que expresa o implícitamente le asignan a la gravedad del hecho investigado y a la escala penal esperable soporte suficiente para acreditar un riesgo de fuga que se alude en las decisiones judiciales pero que en la gran mayoría de los casos se encuentra pobre o nulamente acreditado.
Sin entrar en otros problemas que acarrea el instituto de la prisión provisional como lo son su duración y la situación carcelaria, la propia cultura jurídica en que se enmarca el modelo español se encuentra atravesada por nuevos desafíos como lo son la incidencia de los juicios paralelos en las decisiones intermedias del proceso (por la presión mediática y por intermedio de las redes sociales), que se suman a los sesgos de las decisiones judiciales que se evidencian tras distintas investigaciones y experimentos desde el campo de las neurociencias y la psicología social realizados en los últimos años.
Es ello cuanto, en conjugación con los avances tecnológicos, invita a pensar si acaso la utilización de algoritmos permitiría programar un sistema que, sin suplir al juzgador, colabore con el procedimiento judicial a la hora de evaluar riesgos futuros con el fin de erradicar la arbitrariedad.
En nuestro caso esos riesgos, como adelanté, serían los riesgos procesales que integran el elemento adjetivo de la decisión sobre la prisión provisional, el periculum libertatis, sintetizados estos como el peligro de huida y el entorpecimiento de la investigación.
Al estilo de la experiencia que evalúa el riesgo de reincidencia (v.gr., RISCANVI, COMPAS, etc.) la carga de determinados datos que al ser procesados pudieran definir el grado de probabilidad de que el riesgo se concrete, aportaría neutralidad a la decisión a la vez que alertaría sobre nuevas dificultades.
Y ello así, atento a que la inteligencia artificial también padecería de sesgos, vinculados con la decisión sobre los datos a ingresar –que a la vez deberán ser conocidos por las partes procesales para evitar el problema denominado como caja negra–, que podrían favorecer un siempre latente derecho penal de autor, anticipado en este caso a la actuación procesal previa a la sentencia.
Asimismo arribaremos a la conclusión de que las “máquinas” también tendrán prejuicios, los cuales amenazan con perpetuar e incluso profundizar las desigualdades del presente toda vez que los sistemas de inteligencia artificial están diseñados por personas con sus propias visiones del mundo, preconceptos, valoraciones de los hechos y sesgos adquiridos a lo largo de su experiencia de vida, que pueden filtrarse en el diseño y la definición de criterios de evaluación para estos modelos. Tales prejuicios sistematizados podrán advertirse no solo en términos de género, sino también de clases sociales, etnias, creencias, edad u orientación sexual, solo por dar algunos ejemplos.
Por ello además de la necesaria labor conjunta de juristas y de programadores, debemos reposar nuestras preocupaciones en dos momentos fundamentales a la hora de pensar una idea de justicia cautelar artificial:
- el momento de la carga de datos, que deberá incluir un amplio debate sobre cuáles son las características que deben usarse, y
- la oportunidad de la decisión judicial, que deberá ser en última instancia humana (aunque sabemos que difícilmente un juez se aparte de las conclusiones de un ordenador que informe sobre un imputado altamente peligroso).
En el primer momento (carga de datos) podrá incluirse la participación de colectivos de víctimas de delitos violentos y otras asociaciones civiles, y sostenerse una mirada con perspectiva de género e interseccionalidades con el fin de reducir los aludidos sesgos. En el último (la decisión judicial tras los resultados del algoritmo), se deberá tener en cuenta que la decisión deberá ser realizada siempre por los jueces humanos constitucionalmente designados y competentes para el caso concreto.
Gonzalo Miranda
Doctor en Derecho por la Universidad de Barcelona. Fiscal Federal en Argentina. Docente de Posgrado en la Universidad de Buenos Aires. Autor de “La Presunción de inocencia. El rol de los medios de comunicación en la construcción de la cultura jurídica” (Editores del Sur).
Gonzalo Miranda
Doctor en Derecho por la Universidad de Barcelona. Fiscal Federal en Argentina. Docente de Posgrado en la Universidad de Buenos Aires. Autor de “La Presunción de inocencia. El rol de los medios de comunicación en la construcción de la cultura jurídica” (Editores del Sur).