Entre innovación y amenaza: ONU exige regulación urgente de la inteligencia artificial

La inteligencia artificial generativa una de las tecnologías más disruptivas de la última década se encuentra en el centro de una fuerte advertencia internacional. El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó desde Ginebra que los derechos humanos podrían convertirse en las primeras víctimas del avance acelerado de estos sistemas, especialmente si son utilizados sin controles, transparencia ni regulación.

Potencial extraordinario… y riesgos igualmente significativos

Türk reconoció que la IA generativa impulsa avances tecnológicos sin precedentes: automatización, análisis masivo de información, traducción instantánea, creación de contenido y mejoras en productividad. Sin embargo, subrayó que su uso con fines políticos o económicos puede manipular, distorsionar y desviar la atención pública, comprometiendo pilares democráticos y sociales fundamentales.

IA generativa: tecnología capaz de producir contenido original (texto, imágenes, video, audio, código) a partir de modelos entrenados con grandes volúmenes de datos.

El funcionario comparó estos sistemas con un “monstruo de Frankenstein moderno” cuando se despliegan sin salvaguardas, enfatizando que la tecnología, sin supervisión, puede actuar de maneras impredecibles y nocivas.

Derechos humanos en riesgo: impactos directos

La ONU identifica amenazas claras que ya se observan en distintos países:

1. Derecho a la privacidad

• Entrenamiento de modelos con datos personales sin autorización.
• Riesgo de reidentificación: aun cuando los datos se anonimizan, la IA puede inferir identidades mediante patrones estadísticos.

2. Libertad de expresión y participación política

• Deepfakes capaces de imitar voces, rostros y mensajes para desinformar.
• Sistemas de moderación automatizada que censuran contenido de forma incorrecta.
• Campañas generadas por IA para manipular opinión pública en procesos electorales.

3. Derecho al trabajo

• Automatización acelerada en sectores profesionales: contabilidad, diseño, servicio al cliente, análisis financiero, soporte técnico.
• Falta de políticas de reconversión laboral para sectores vulnerables.

4. Igualdad y no discriminación

• Modelos entrenados con datos sesgados pueden reproducir o amplificar prejuicios raciales, económicos o de género.

Contexto internacional: así se está regulando la IA

Para reforzar el análisis, la ONU contextualiza su preocupación en el marco global:

Unión Europea – AI Act (2024–2025)

• Primera ley integral en el mundo para regular IA.
• Clasifica sistemas por niveles de riesgo (mínimo, limitado, alto y prohibido).
• IA generativa: obligaciones de transparencia, documentación y seguridad.
• Prohibición de usos que afecten derechos fundamentales (vigilancia masiva sin base legal, manipulación subliminal, puntuación social).

Estados Unidos – Orden Ejecutiva sobre IA (2023)

• Impone pruebas de seguridad, evaluaciones técnicas y auditorías externas para modelos avanzados.
• Enfatiza responsabilidad corporativa y protección laboral.

UNESCO y OCDE

• Marcos éticos y guías para garantizar transparencia, explicabilidad, no discriminación y supervisión humana.

Estas referencias evidencian una tendencia internacional: no basta con innovar; es indispensable regular, auditar y transparentar.

Concentración de poder: un riesgo adicional

Türk también señaló una amenaza estructural: la concentración del poder económico y tecnológico en manos de unas pocas corporaciones globales. Algunas empresas dijo han acumulado riqueza equivalente al PIB completo de países medianos.

Cuando el poder tecnológico no está limitado por leyes, puede derivar en abusos, prácticas monopólicas y sometimiento de usuarios, gobiernos y mercados.

Casos reales que ilustran los riesgos

Para dimensionar el alcance de estas advertencias, ya existen hechos documentados:

• Deepfakes políticos difundidos durante elecciones en EE. UU., India y Brasil.
• Suplantación de voz mediante IA utilizada en fraudes bancarios.
• Algoritmos discriminatorios en sistemas de contratación laboral.
• Contenido manipulado para desacreditar figuras públicas o generar violencia digital.

Estos casos evidencian que el riesgo no es teórico: ya está ocurriendo.

Impacto para Costa Rica: por qué importa esta advertencia

Aunque Costa Rica no cuenta aún con una ley específica para regular IA, la advertencia de la ONU tiene implicaciones directas:

1. Protección de datos personales

Ley 8968 exige consentimiento informado y tratamiento responsable de datos, pero no regula algoritmos avanzados ni modelos fundacionales.

2. Sector financiero regulado

Supervisores como SUGEF, SUGEVAL y SUPEN aún no contemplan auditorías de IA, a pesar de que bancos y aseguradoras ya exploran automatización, modelos predictivos y análisis masivo.

3. Procesos electorales

Las campañas digitales podrían verse influenciadas por contenido manipulado generado por IA.

4. Empleo y educación

La automatización afectará a sectores clave: contabilidad, centros de servicios compartidos, call centers, soporte tecnológico y análisis de datos.

El país deberá preparar marcos regulatorios modernos, auditorías algorítmicas y procesos de gobernanza para proteger derechos fundamentales.

Hacia una IA responsable: principios esenciales

Para equilibrar innovación y derechos humanos, la ONU invita a adoptar modelos de IA Responsable, basados en:

• Transparencia: explicar cómo funcionan los algoritmos y qué datos utilizan.
• Trazabilidad: documentación completa del entrenamiento y pruebas de seguridad.
• Supervisión humana: decisiones críticas no deben ser completamente automatizadas.
• No discriminación: pruebas para detectar y corregir sesgos.
• Auditorías independientes: evaluación técnica y ética por terceros.
• Gobernanza algorítmica: políticas internas para evitar abusos y manipulación.

Un mensaje final: innovación sí, pero con límites claros

La ONU lo resume en una idea contundente: las tecnologías emergentes deben servir al ser humano, no erosionar sus derechos.
La IA generativa puede potenciar la productividad global, mejorar servicios públicos y ampliar oportunidades, pero también puede convertirse en una amenaza estructural si no existe regulación, transparencia y supervisión.

El llamado es urgente y directo: los gobiernos, empresas y ciudadanos deben actuar hoy para evitar consecuencias que mañana podrían ser irreversibles.

Jorge Gutiérrez Guillén, CPA
Socio Fundador | JGutierrez Auditores Consultores S.A.
Costa Rica | 🌐consultoresjg.com
+506 2552-5433 | +506 8811-5090
[email protected]

#InteligenciaArtificial #DerechosHumanos #ONU #IAResponsable #ProtecciónDeDatos