Riesgos técnicos y responsabilidad jurídica en el uso de la inteligencia artificial en el sector público colombiano
Cargando...
Fecha
Director
Enlace al recurso
DOI
ORCID
Google Scholar
Cvlac
gruplac
Descripción Dominio:
Título de la revista
ISSN de la revista
Título del volumen
Editor
Universidad Santo Tomás
Compartir
Descripción
La adopción de inteligencia artificial (IA) en las entidades estatales colombianas genera una dificultad jurídica y técnica: establecer quién responde cuando una decisión automatizada causa un daño y no puede reconstruirse con claridad el camino que condujo a ella. Este artículo de reflexión examina cómo se relacionan la opacidad de los modelos, el sesgo algorítmico y las alucinaciones de la IA generativa con el régimen de responsabilidad patrimonial aplicable al sector público. Para ello, se realizó un análisis cualitativo de contenido documental sobre treinta y una fuentes, mediante fases de codificación inspiradas en la teoría fundamentada, lo que permitió contrastar hallazgos técnicos y jurídicos desde una perspectiva interdisciplinaria. Aunque cada riesgo compromete garantías constitucionales distintas, los resultados revelan un punto común: el daño puede advertirse aun cuando falte información para explicar su causa y atribuir responsabilidad. Los deberes de evaluación, documentación y transparencia ya existentes tampoco se traducen siempre en registros verificables, controles institucionales u obligaciones contractuales exigibles. El problema, por tanto, va más allá de la aplicación débil de los deberes vigentes y de la falta de trazabilidad para reconstruir las decisiones automatizadas, por lo que exige una regulación específica de carácter vinculante. De ahí que se proponga fortalecer la supervisión humana, la conservación de registros, las obligaciones de los proveedores y la evaluación de un régimen de responsabilidad para los sistemas de alto riesgo, así como expedir una ley estatutaria integral en materia de inteligencia artificial.
Abstract
The adoption of artificial intelligence (AI) by Colombian public entities raises a legal and technical difficulty: determining who is liable when an automated decision causes harm and the path leading to that decision cannot be clearly reconstructed. This reflection article examines how model opacity, algorithmic bias, and generative AI hallucinations relate to the patrimonial liability regime applicable to the public sector. To this end, a qualitative content analysis was conducted on thirty-one documentary sources, using coding stages inspired by grounded theory, which made it possible to compare technical and legal findings from an interdisciplinary perspective. Although each risk compromises different constitutional guarantees, the results reveal a common pattern: harm may be identifiable even when the information needed to explain its cause and attribute liability is unavailable. Existing duties of assessment, documentation, and transparency do not always translate into verifiable records, institutional controls, or enforceable contractual obligations. The issue, therefore, goes beyond the weak implementation of existing duties and the lack of traceability needed to reconstruct automated decisions, and calls for specific binding regulation. Accordingly, the article proposes strengthening human oversight, record retention, supplier obligations, and the assessment of a liability regime for high-risk systems, as well as enacting a comprehensive statutory law on artificial intelligence.
Idioma
spa
Palabras clave
Citación
Bustos Urrego, W. Y, y Peña Mantilla, S. G., (2026). Riesgos técnicos y responsabilidad jurídica en el uso de la inteligencia artificial en el sector público colombiano [Tesis de posgrado] Universidad Santo Tomás, Bucaramanga, Colombia