17 de marzo de 2021
Jornada Internacional: Inteligencia Artificial aplicada al derecho penal
El 11 de marzo de 2021 se llevaron a cabo, de manera virtual, las Jornadas Internacionales de Inteligencia Artificial aplicada al proceso penal, organizadas por el Observatorio de Cibercrimen y Evidencia Digital en Investigaciones Criminales.
Este evento tuvo como objetivo la presentación al público del libro Cibercrimen III: “Inteligencia Artificial. Automatización, algoritmos y predicciones en el Derecho penal y procesal penal”, bajo la dirección de Juan Corvalán y Daniela Dupuy, y la coordinación de Mariana Kiefer.
En el marco de una mesa redonda, dicha actividad permitió a la audiencia conocer la opinión experta sobre esta temática innovadora, no solo de los directores y coordinadora de la obra, sino también de varios de sus coautores y profesionales reconocidos: Carlos María Romeo Casabona (España), Fernando Miró Llinares (España), Pere Simón Castellano (España), Javier Zaragoza Tejada (España), Eduardo J. Riggi, Mercedes Elaskar, Pablo Palazzi, Jonathan Ariel Polansky y Hugo Álvarez Sáez.
En primer lugar, Juan Corvalán destacó los desafíos y los aportes plasmados en el libro, vinculados con la necesidad de matizar el impacto y los riesgos de la tecnología en el derecho, para encontrar un equilibrio entre la regulación y la innovación. Además, acentuó la importancia de entender la tecnología y dejar de lado los clichés que rodean a la inteligencia artificial. Asimismo, subrayó la importancia de explotar sus lados luminosos que residen, entre otros, en el aporte que la IA puede llegar a hacer en el sistema jurídico y dentro de las investigaciones gracias a las oportunidades de automatización y predicción, por ejemplo, a la hora de argumentar un caso, aunque sin perder de vista el rol del ser humano. Concluyó que resulta necesario analizar los aspectos más difíciles que presenta la temática, sus características y la implicancia de los conceptos en juego (small data, big data, machine learning, deep learning).
Daniela Dupuy destacó la originalidad y la óptica multidisciplinaria de la obra que permite entender cómo estas herramientas se relacionan profundamente con el derecho penal y procesal penal, ya que pueden tener un uso “bueno”, por ejemplo, auxiliando a los investigadores, pero también “malo” cuando son utilizadas por quienes delinquen. Asimismo, hizo hincapié en los debates que la IA acarrea a la hora de establecer límites éticos, así como la necesidad de establecer principios y modelos normativos en los que estas herramientas sean compatibles con los derechos fundamentales. Por último, resaltó las dificultades que se presentan cuando la IA no puede asegurar la trazabilidad y “explicabilidad” en el marco de un litigio, donde se pueda cuestionar la falta de argumentos sobre el hecho, en especial, al momento del juicio oral.
Mariana Kiefer abrió paso a los participantes luego de subrayar la originalidad del trabajo que se percibe en la reunión de los distintos expertos que lograron demostrar el entrecruzamiento de la IA con el derecho penal y procesal penal, dos temáticas que nunca fueron tratadas en una misma obra.
Carlos María Romeo Casabona presentó su artículo en el cual realiza una reflexión sobre una decisión de un tribunal norteamericano que sirve para visibilizar los debates sobre el uso de la IA en la administración de justicia. Hizo hincapié, en su fiabilidad y una posible implementación precipitada de la IA, teniendo en cuenta la fase actual de su desarrollo. Ello refleja tensiones existentes entre las nociones de derecho penal -como puede ser el debido proceso y la libre apreciación de la prueba-, como así también y las vinculadas con derechos patrimoniales, como puede ser la propiedad intelectual.
Luego tomó la palabra Fernando Miró Llinares para invitar al público a leer su análisis haciendo igual énfasis en la falta de precisión a la hora de aplicar los distintos conceptos relacionados con la IA y su generalización excesiva, en particular, propuso hacer una diferenciación entre la justicia algorítmica y la inteligencia artificial. El autor nos propuso pensar en la manera en que estas herramientas obligan a ver desde otra óptica el derecho penal e invitó a acercarnos a otras disciplinas. Resaltó de su trabajo la descripción de los diferentes usos que podemos encontrar de la IA y las actitudes utópicas y distópicas que pueden contrastarse frente a esta temática, proponiendo una mirada realista. Hizo referencia a los inconvenientes que podrían generar las reformas en la parte especial del derecho penal, en particular a la hora de utilizar inteligencia artificial para cometer delitos. Para terminar, destacó los retos que la IA genera, desde la óptica de la criminalización, la privacidad y la equidad, por cuanto “el ruido” que generan las decisiones en sentencias con algoritmos aplicados, podrían provenir de las decisiones humanas y no de la IA.
Por su parte, Pere Simón Castellano evocó ciertos debates sobre la modernización de la administración de justicia y el uso de sistemas expertos, dando lugar a cuestionamientos sobre la manera en la que deciden los jueces y, en consecuencia, cómo se valoran los riesgos. Presentó su monografía la cual, si bien no está incluida en el libro Cibercrimen III, se encuentra íntimamente vinculada puesto que trata sobre la posibilidad de prevenir o predecir conductas, y la posibilidad de que el juzgador cuente con mayor información a la hora de adoptar medidas cautelares. A modo de ejemplo, analizó cómo las posibilidades de su éxito o fracaso podrían preverse con variables impulsadas por IA. El expositor expresó igualmente la importancia de relacionar este tema con las garantías constitucionales e hizo referencia a diferentes puntos a analizar como la peligrosidad y el riesgo, la publicidad procesal, el derecho al olvido, la auditabilidad del código, la propiedad intelectual, el derecho a una segunda oportunidad del sistema de IA -entre otros-, resaltando que, de cualquier forma, la tecnología no puede sustituir al juzgador, pero sí apoyarlo.
Javier Zaragoza Tejada manifestó su preocupación por el hecho de que algo tan complejo y subjetivo como determinar el riesgo de fuga, una prisión provisional o indicios de un delito, queden en manos de una herramienta de IA. El autor prosiguió con la presentación de su contribución a la obra, que se enfoca en el análisis de la utilización de la IA desde el punto de vista del ciberpatrullaje, la investigación y represión de hechos ilícitos, teniendo en cuenta la mirada del fiscal, pero también la adecuada protección de los derechos fundamentales de quienes son investigados, principalmente a raíz de los distintos niveles de injerencia que pueden tener estas herramientas, apoyándose en abundante jurisprudencia, emanada de diferentes países.
A su vez, Eduardo Riggi, realizó una reseña de la obra, en la cual subrayó la acertada concatenación de las temáticas tratadas en los artículos, que ayuda al lector a entender las nociones analizadas en la obra. Asimismo, destacó la necesidad de cuestionarse algunos conceptos clásicos como el de acción penal y de regular de forma concreta el uso de las herramientas basadas en IA para poder proteger de manera efectiva los derechos humanos, en pos de la seguridad jurídica. Coincidió con el resto de los expertos, en los riesgos que genera la despersonalización en el proceso penal, así como las fallas que puede presentar la IA, por ejemplo, sesgos discriminatorios. Apoyó igualmente la idea de adoptar una postura crítica y realista, es decir, enaltecer los beneficios de las ventajas que nos proporciona el uso de estas herramientas, pero sin dejarse encandilar por ello. Para terminar, hizo énfasis en la imposibilidad de que la justicia sea perfecta ya que está hecha por el ser humano y, aunque la tecnología pueda dar herramientas y soluciones, no puede suplantarlo.
Por otra parte, Mercedes Elaskar y Pablo Palazzi expusieron su trabajo que vincula la IA con la recolección de datos personales durante la pandemia de COVID-19, principalmente en lo que respecta a las aplicaciones de contact tracing. Aquí se evalúa el interés que se generó por los datos de salud de la población y la manera en que se tuvo que ponderarse el derecho de su titular frente a la importancia de su obtención para controlar la emergencia sanitaria. Se constata que la normativa en materia de protección de datos personales puede ser un freno, pero limitado, ya que se encuentra ante un marco que le da legitimidad a la recolección de este tipo de información. No obstante, se cuestiona la posibilidad de su reutilización, sobre todo luego de concluida la pandemia. Es decir, cuando la finalidad de su recolección haya terminado, a través de herramientas de IA y con otros fines de predicción de comportamiento.
Jonathan Ariel Polansky expuso luego su artículo, relacionado con parte de la investigación de su tesis doctoral, en el cual pone a la luz el uso de diversas herramientas que permiten tomar decisiones de forma automática en el proceso penal y que pueden contener fallas o sesgos. A través de distintos ejemplos, demuestra al lector que existe una multiplicidad de elementos que otorgan resultados a los operadores de justicia y que se usan de forma cotidiana pero no sabemos si lo hacen correctamente. Destaca entonces la necesidad de conocer cómo fueron entrenados los algoritmos, y no dar por sentada la confiabilidad de las soluciones que generan.
Por último, Hugo Álvarez Sáez se centró en el entorno perijurídico, haciendo un abordaje desde la ciencia y subrayando el error cometido en el ámbito jurídico, que se resiste a la inclusión de saberes no jurídico. Apuntó principalmente a las currículas de las Facultades de Derecho, destacando la necesidad de que incorporen estos elementos que sirven para afrontar los nuevos desafíos en un mundo cambiante.
Daniela Dupuy cerró la mesa redonda apelando a reformar el código penal no sólo en la parte especial sino también en la parte general, por ejemplo, para encontrar una respuesta sobre la responsabilidad de una acción cuando quien la comete ya no es un humano y repensar las nociones de privacidad e intimidad. Insistió en la utilidad de aprender de la evolución de los pronunciamientos de los países europeos y de Estados Unidos, para implementar lo que sea compatible con el sistema acusatorio actual y respete las condiciones necesarias, de cara a un juicio oral. En conclusión, confirmó la conveniencia de aceptar el reto de incluir la tecnología dentro del derecho para poder aprovechar sus virtudes, equilibrando la balanza entre la inteligencia artificial y humana.
Luego de que los expositores compartieron sus reflexiones sobre la inteligencia artificial a la luz del derecho penal y procesal penal, el OCEDIC, a través de Catalina Neme y Jorge Martín Vila, anunció el lanzamiento de su segundo eje de investigación: “IA y Herramientas disruptivas de investigación en el Derecho penal y procesal penal”, proponiendo la aplicación de las siguientes herramientas a fin de sortear los desafíos que plantea la IA aplicada al proceso penal:
• Un equipo de investigación y capacitación específico, para el cual realizará una convocatoria de investigadores;
• Un equipo de doctrina, jurisprudencia e investigación que avanzará sobre las temáticas planteadas en estas jornadas;
• Podhack: el podcast del Observatorio, en el cual participará Pere Simón Castellano el día viernes 19 de marzo, con el fin de brindar detalles sobre su trabajo vinculado con IA;
• Innovation Lab: el Laboratorio propone distintos proyectos de desarrollo de herramientas técnicas que hacen uso de la IA con fines preventivos. En primer lugar, para contribuir en la lucha contra femicidios, acoso y hostigamiento, una app VG “Botón Antipánico” (idea de Pablo Richeri) y la plataforma web “Safe” que, ante una emergencia, puede activar un sistema para recibir una alerta (idea de Nicolás Díaz). En segundo lugar, “Child Protector Scraper”, un scrapeador o buscador especializado con fines de perfilación y prevención de ciertos comportamientos (idea de Sandra Zilla y Roberto González), y la aplicación Red Neuronal “Deep Neural Acquisition”, una herramienta de relevamiento en redes sociales basada en imágenes que detecta detalles y ciertas connotaciones psicológicas en las mismas (idea de Jorge Martín Vila y Carlos Gándara). Finalmente, en cuanto al aspecto forense, existe un proyecto de aplicación multiplataforma, el “Laboratorio Forense Universal”, para el estudio de dispositivos, una vez que se tenga acceso físico a los mismos (idea de Pablo Romanos y equipo).
Todas las propuestas están vinculadas, son evolutivas y se relacionan igualmente con el resto de los ejes de OCEDIC, ya que no se trata de compartimentos estancos. El objetivo es continuar sumando espacios de discusión.
En consecuencia, aquellos interesados en profundizar en IA, en especial en sus diferentes usos, impacto y riesgos, quedan formalmente invitados a recurrir a las fuentes y acercarse a los espacios aquí propuestos.
Por: Denise Gross y Alexis Blasco, staff Newsletter OCEDIC
