Inteligencia Artificial Generativa: ética, sesgos y sostenibilidad
Cargando...
Fecha
Director
Enlace al recurso
DOI
Google Scholar
gruplac
Descripción Dominio:
Título de la revista
ISSN de la revista
Título del volumen
Editor
Universidad Santo Tomás
Compartir
Descripción
La Inteligencia Artificial Generativa (IAG) constituye una de las transformaciones tecnológicas más profundas y aceleradas de las últimas décadas. Sistemas como GPT-4, Claude, Gemini, DALL-E, Midjourney y Stable Diffusion han demostrado capacidades sin precedentes para generar texto, imágenes, audio, video y código con un nivel de sofisticación que redefine las fronteras entre la producción humana y la automatizada. Esta irrupción tecnológica, sin embargo, no se produce en un vacío social: se despliega sobre estructuras históricas de desigualdad, concentración del poder tecnológico y asimetrías en el acceso a la información que los modelos de IAG absorben, reproducen y, en muchos casos, amplifican a una escala sin precedentes históricos.
La presente investigación constituye una revisión sistemática de literatura científica de alto impacto, ejecutada bajo el protocolo PRISMA 2020 (Preferred Reporting Items for Systematic Reviews and Meta-Analyses), sobre 130 fuentes académicas indexadas publicadas entre 2016 y 2026, seleccionadas a partir de un universo inicial de 104.660 registros distribuidos en cuatro bases de datos internacionales: IEEE Xplore, EBSCO Research, Scopus (Elsevier) y Web of Science (Clarivate). Tras la eliminación de duplicados e irrelevantes se obtuvieron 293 registros únicos que, sometidos a revisión de texto completo bajo criterios estrictos de inclusión y exclusión, conformaron el corpus final de 130 fuentes. La investigación examina la influencia de los sesgos cognitivos, la calidad de los datos de entrenamiento y el impacto ambiental en el desarrollo ético y sostenible de los modelos de IAG, con énfasis sectorial en los ámbitos de la salud y la justicia, y con una proyección específica hacia las implicaciones para el contexto latinoamericano. La elección del protocolo PRISMA 2020 garantizó la transparencia, reproducibilidad y rigor del proceso, documentando con precisión cada decisión de inclusión o exclusión a través de las cuatro fases: identificación, cribado, elegibilidad e inclusión.
Los resultados identificaron y caracterizaron seis categorías principales de sesgo en los sistemas de IAG: sesgos de representación, de medición, de evaluación, de implementación, específicos de los Grandes Modelos de Lenguaje (LLMs) y de carácter histórico-estructural. Estos sesgos no operan de manera independiente sino en interacción dinámica y mutuamente reforzante a lo largo del ciclo de vida completo del modelo. En el ámbito de la salud, la evidencia revisada documenta cómo los modelos de IA entrenados con registros electrónicos tienden a confundir el acceso diferencial a la atención médica con la necesidad clínica real, perjudicando de manera sistemática a los grupos con menor acceso al sistema de salud. En el ámbito de la justicia, para predecir la probabilidad de reincidencia se revela cómo variables aparentemente neutras pueden actuar como proxies de la raza, reproduciendo discriminación racial bajo una apariencia de objetividad técnica.
Respecto a las estrategias de mitigación evaluadas, la investigación documenta una notable proliferación de propuestas en la literatura: técnicas de preprocesamiento de datos (rebalanceo, generación sintética, cegamiento de atributos sensibles), intervenciones algorítmicas durante el entrenamiento (restricciones de equidad, aprendizaje adversarial), ajustes de postprocesamiento y marcos de gobernanza como el framework NoBIAS y los lineamientos del Reglamento Europeo de Inteligencia Artificial (AI Act). No obstante, la evidencia disponible sobre efectividad es sistemáticamente moderada, contextual y acompañada de compromisos no resueltos: mejorar la equidad intergrupal implica con frecuencia reducciones de hasta diez puntos porcentuales en la exactitud global del modelo, y reducir un tipo de sesgo en LLMs tiende a amplificar otros tipos de manera sistemática (Chand et al., 2026). Esta circularidad evidencia que no existe una solución técnica universal: la elección entre distintas estrategias de mitigación es fundamentalmente una decisión normativa que requiere deliberación pública y participación de las comunidades afectadas.
Las estrategias de IA Verde identificadas poda de modelos, cuantización, destilación del conocimiento y hardware especializado pueden reducir el consumo energético entre un 13% y un 115%, aunque solo el 23% de los estudios sobre Green AI involucran socios industriales, revelando una brecha significativa entre el conocimiento técnico disponible y su adopción práctica. La dimensión ambiental de la IAG representa una urgencia sistémica insuficientemente integrada en los marcos regulatorios y éticos existentes, y su resolución requiere cambios profundos en los incentivos de investigación, en las métricas de éxito de la academia y la industria, y en las políticas energéticas que rigen el funcionamiento de la infraestructura computacional global.
Se concluye que el desarrollo ético y sostenible de la IAG requiere intervenciones simultáneas en múltiples niveles: gobernanza técnica de los datos, marcos regulatorios vinculantes como el AI Act, mecanismos de auditoría independiente, transparencia algorítmica, participación de las comunidades afectadas en el diseño de los sistemas y consideraciones ambientales integradas en el ciclo de vida completo de los modelos. Para América Latina, y en particular para Colombia, el desafío adicional es superar la dependencia de modelos desarrollados en el Norte Global que no capturan adecuadamente las particularidades lingüísticas, culturales, epidemiológicas y socioeconómicas de las poblaciones locales, configurando lo que la literatura denomina “fallo de transporte algorítmico”. Revertir esta condición de vulnerabilidad tecnológica requiere no solo inversión en infraestructura técnica y formación de talento, sino la construcción de una perspectiva epistémica propia sobre la IA que sitúe a Colombia como sujeto activo del orden tecnológico contemporáneo.
Abstract
Background: Generative Artificial Intelligence (GAI) represents one of the most profound and accelerated technological transformations in recent decades. Systems such as GPT-4, Claude, Gemini, DALL-E, Midjourney, and Stable Diffusion have demonstrated unprecedented capabilities to redefine the boundaries between human and automated production. However, this disruption unfolds upon historical structures of inequality, power concentration, and informational asymmetries that GAI models absorb, reproduce, and amplify.
Methodology: This research constitutes a systematic literature review of high-impact scientific literature, executed under the PRISMA 2020 protocol. The study analyzes 130 indexed academic sources published between 2016 and 2026, selected from an initial universe of 104,660 records across four international databases: IEEE Xplore, EBSCO Research, Scopus (Elsevier), and Web of Science (Clarivate). The investigation examines the influence of cognitive biases, training data quality, and environmental impact, with a sectoral emphasis on health and justice and a specific projection toward the Latin American context.
Results: The study identified six primary categories of bias: representation, measurement, evaluation, implementation, LLM-specific, and historical-structural. In healthcare, evidence shows that models trained on electronic records often confuse differential access to care with actual clinical needs. In justice, seemingly neutral variables serve as proxies for race, reproducing discrimination under technical objectivity. Regarding mitigation, while techniques like data rebalancing, adversarial learning, and frameworks (NoBIAS, EU AI Act) exist, their effectiveness is moderate and involves significant trade-offs; improving intergroup equity often results in a decrease of up to 10 percentage points in global accuracy.
Sustainability: "Green AI" strategies—such as model pruning, quantization, and knowledge distillation—can reduce energy consumption by 13% to 115%. However, only 23% of Green AI studies involve industrial partners, revealing a gap between technical knowledge and practical adoption.
Conclusions: Ethical and sustainable GAI development requires simultaneous interventions: binding regulatory frameworks, independent audits, and algorithmic transparency. For Latin America and Colombia, the challenge lies in overcoming "algorithmic transport failure"—the dependence on models from the Global North that fail to capture local linguistic, cultural, and socioeconomic nuances. Reversing this vulnerability requires not only technical investment but the construction of a unique epistemic perspective that positions the region as an active subject in the contemporary technological order.
Idioma
spa
Palabras clave
Citación
López y Vergel. (2026). Inteligencia Artificial Generativa: ética, sesgos y sostenibilidad [Trabajo de Grado, Universidad Santo Tomás].Repositorio Institucional
Colecciones
Licencia Creative Commons
Attribution 2.5 Colombia