El Derecho al Debido Proceso Puede Verse Amenazado Cuando Se Emplean Herramientas de Inteligencia Artificial Que Aún Son Desconocidas y Carecen de la Capacidad para Asumir Responsabilidades por Error o Impresiones en la Administración de Justicia
Cargando...
Fecha
Autores
González Gomez, Juan Pablo
Director
Enlace al recurso
DOI
ORCID
Google Scholar
Cvlac
gruplac
Descripción Dominio:
Título de la revista
ISSN de la revista
Título del volumen
Editor
Universidad Santo Tomás
Compartir
Documentos PDF
Descripción
Este artículo de investigación analiza de forma crítica los riesgos que la implementación de sistemas de inteligencia artificial (IA) en la administración de justicia representa para el derecho al debido proceso, consagrado como garantía fundamental en el ordenamiento jurídico colombiano y en instrumentos internacionales de derechos humanos. A partir de un enfoque jurídico-constitucional, se examina el marco teórico del debido proceso en tres dimensiones: (i) su anclaje en la Constitución Política de Colombia (artículo 29), el bloque de constitucionalidad ,que incluye la Convención Americana de Derechos Humanos y el Pacto Internacional de Derechos Civiles y Políticos—, así como la jurisprudencia de la Corte Constitucional colombiana; (ii) el contexto regulatorio emergente sobre IA, tanto en Colombia (proyectos de ley, resoluciones de la Rama Judicial) como en el ámbito internacional (la Propuesta de Reglamento Europeo de IA y las Directrices de la OCDE); y (iii) los desafíos técnico-jurídicos derivados de la opacidad algorítmica, la ausencia de responsabilidad civil o penal de los sistemas automatizados y los sesgos inherentes a los datos de entrenamiento. Mediante una metodología cualitativa, que combina la revisión legal, jurisprudencial y regulatorio, se identifican tensiones específicas entre las características técnicas de la IA y los principios del debido proceso. En el artículo se mencionarán los casos concretos de implementación de IA en procesos jurisdiccionales administrativos dentro del territorio colombiano, haciendo énfasis en la automatización de decisiones y su contraste con estándares internacionales de derechos humanos. El artículo concluye que, si bien la IA puede optimizar aspectos operativos de la justicia su implementación sin salvaguardas jurídicas claras amenaza derechos procesales esenciales. Se propone un modelo regulatorio basado en cuatro pilares: (a) transparencia explicable como requisito para validar decisiones judiciales automatizadas; (b) establecer quien será el responsable en los casos en que se presenten errores o imprecisiones(c) auditorías independientes de sistemas IA con participación de expertos en derechos humanos; y (d) la prohibición de decisiones basadas únicamente en inteligencia artificial sin mediación humana. Este trabajo contribuye al debate académico sobre IA y derechos fundamentales, ofreciendo un diagnóstico de los posibles riesgos constitucionales y proponiendo lineamientos para armonizar la innovación tecnológica con el Estado de Derecho.
Abstract
This research article critically analyzes the risks that the implementation of artificial intelligence (AI) systems in the administration of justice poses to the right to due process, enshrined as a fundamental guarantee in Colombia's legal framework and international human rights instruments. Adopting a legal-constitutional approach, the study examines the theoretical framework of due process across three dimensions: (i) its anchoring in the Political Constitution of Colombia (Article 29), the "block of constitutionality" —which includes the American Convention on Human Rights and the International Covenant on Civil and Political Rights— as well as the jurisprudence of the Colombian Constitutional Court; (ii) the emerging regulatory landscape on AI, both in Colombia (legislative bills, resolutions from the Judicial Branch) and internationally (the European AI Regulation Proposal and OECD Guidelines); and (iii) the technical-legal challenges stemming from algorithmic opacity, the absence of civil or criminal liability for automated systems, and the inherent biases in training data. Using a qualitative methodology that combines legal, jurisprudential, and regulatory analysis, the article identifies specific tensions between the technical features of AI and the principles of due process. It references concrete cases of AI implementation in administrative judicial processes in Colombia, with a particular emphasis on the automation of decisions and their contrast with international human rights standards. The article concludes that while AI may optimize operational aspects of justice, its implementation without clear legal safeguards threatens essential procedural rights. It proposes a regulatory model based on four pillars: (a) explainable transparency as a requirement to validate automated judicial decisions; (b) establishing liability for errors or inaccuracies; (c) independent audits of AI systems involving human rights experts; and (d) the prohibition of decisions based solely on AI without human mediation. This work contributes to the academic debate on AI and fundamental rights by diagnosing potential constitutional risks and offering guidelines to harmonize technological innovation with the Rule of Law.
Idioma
spa
Palabras clave
Citación
González Gomez, J. P. (2025)El Derecho al Debido Proceso Puede Verse Amenazado Cuando Se Emplean Herramientas de Inteligencia Artificial Que Aún Son Desconocidas y Carecen de la Capacidad para Asumir Responsabilidades por Error o Impresiones en la Administración de Justicia [Trabajo de Grado, Universidad Santo Tomás]. Repositorio Institucional
Colecciones
Licencia Creative Commons
Attribution-NonCommercial-NoDerivs 2.5 Colombia