Desde sus primeros pasos a mediados del siglo XX hasta nuestros días, la inteligencia artificial (IA) ha experimentado una rápida evolución, transformando diversos aspectos de nuestro mundo.
La IA abarca una amplia gama de tecnologías que pueden definirse como "sistemas adaptativos de autoaprendizaje". Puede clasificarse en función de las tecnologías, los propósitos (como el reconocimiento facial o de imágenes), las funciones (como la comprensión del lenguaje y la resolución de problemas) o los tipos de agentes (incluidos los robots y los coches autoconducidos).
Además, engloba diversos métodos y disciplinas como la visión, el reconocimiento de voz y la robótica, y sirve para mejorar las capacidades humanas tradicionales. Los recientes avances en inteligencia artificial se han visto impulsados por los avances en capacidad de procesamiento informático y el desarrollo de técnicas de manejo de datos.
Inteligencia artificial al servicio del bien común
En todos estos ámbitos y muchos otros, la inteligencia artificial puede servir para respaldar la labor de las Naciones Unidas fomentando la inclusión, reduciendo las desigualdades, ayudando a acelerar la consecución del ochenta por ciento de los Objetivos de Desarrollo Sostenible (ODS) y reforzando el trabajo del sistema de las Naciones Unidas.
Por ejemplo, la inteligencia artificial podría conribuir al avance de los ODS mediante el diagnóstico y análisis predictivo en la atención sanitaria (ODS 3); el seguimiento de los cultivos y la resiliencia climática en la agricultura (ODS 2 y ODS 15); el aprendizaje personalizado en la educación (ODS 4), y el mapeo de crisis y distribución de ayuda para la respuesta humanitaria.
Además, la IA puede ayudar a la ONU a responder a las crisis en todo el mundo, asistir a las naciones para hacer frente a los desplazamientos causados por el cambio climático, y convertirse así en una herramienta para hacer el bien y salvar vidas.
Sin embargo, hasta ahora los beneficios de la IA se distribuyen de manera desigual, concentrándose en unas pocas empresas y países poderosos. Como afirmó el Secretario General de las Naciones Unidas, António Guterres, muchas naciones tienen dificultades para acceder a las herramientas de la inteligencia artificial, lo que pone de relieve la necesidad de cooperación y solidaridad internacionales para cerrar la brecha de la IA en los países en desarrollo.
“Sin las debidas garantías, la inteligencia artificial podría exacerbar aún más las desigualdades y las brechas digitales y afectar de manera desproporcionada a los más vulnerables. Debemos aprovechar esta oportunidad histórica para sentar las bases de una gobernanza inclusiva de la IA, en beneficio de toda la humanidad.”
Si bien la inteligencia artificial tiene la capacidad de abordar algunos de los mayores desafíos globales —como el impulso al crecimiento económico y la transformación social—, el rápido avance de esta tecnología emergente conlleva inevitablemente una serie de riesgos y desafíos, entre ellos, las amenazas a la veracidad de la información y a los derechos humanos.
Gobernanza mundial de la IA
A medida que se expanden las tecnologías de inteligencia artificial, se hace necesaria una gobernanza coordinada a nivel mundial para maximizar sus beneficios y gestionar eficazmente los riesgos asociados. Por este motivo, el Secretario General de la ONU ha creado el Órgano Asesor de Alto Nivel sobre Inteligencia Artificial. Este grupo de expertos analiza la situación actual y recomienda estrategias para la gobernanza internacional, con un enfoque integrador y global.
Compuesto por un máximo de 39 expertos de diversas disciplinas, el Órgano pretende alinear la gobernanza de la IA con los derechos humanos y los Objetivos de Desarrollo Sostenible. Para garantizar un enfoque colaborativo, trabaja con diversos grupos de partes interesadas, como gobiernos, el sector privado y la sociedad civil.
El informe concluyente del Órgano esboza un plan para hacer frente a los riesgos relacionados con la inteligencia artificial y para aprovechar su capacidad de transformación a escala mundial. Entre otras medidas, el informe:
- Insta a la ONU a sentar las bases de la primera arquitectura de gobernanza de la IA que sea globalmente inclusiva y equitativa, basada en la cooperación internacional.
- Propone siete recomendaciones para colmar las lagunas de los actuales mecanismos de gobernanza de la IA.
- Urge a todos los gobiernos y partes interesadas a colaborar en la gobernanza de la IA para fomentar el desarrollo y la protección de todos los derechos humanos.
Una nueva era de cooperación y seguridad digitales
El Pacto Digital Global ies un marco integral diseñado para fomentar la cooperación mundial en la gobernanza de la tecnología digital y la inteligencia artificial. Adoptado en septiembre de 2024 junto con el Pacto por el Futuro, proporciona una hoja de ruta para mejorar la colaboración digital mundial, aprovechar el enorme potencial de las tecnologías digitales y salvar las brechas digitales existentes.
El marco, consensuado por 193 Estados miembros y fruto de consultas en todo el mundo, hace que los gobiernos se comprometam a respetar el derecho internacional y los derechos humanos en Internet. Hace hincapié en la necesidad de tomar medidas concretas para garantizar la seguridad del espacio digital.
Órgano científico para la gobernanza de la IA
En el marco del Pacto Digital Global, los Estados miembros crearon el Panel Científico Internacional Independiente sobre Inteligencia Artificial para promover el conocimiento científico y garantizar que las deliberaciones globales se basen en la mejor evidencia disponible. Compuesto por 40 expertos destacados, es el primer organismo científico global dedicado a evaluar cómo la IA está transformando las sociedades.
El Panel tiene el mandato de elaborar un informe anual basado en datos empíricos sobre las oportunidades, los riesgos y los impactos de la inteligencia artificial, que se presentará en el Diálogo Mundial sobre la Gobernanza de la Inteligencia Artificial.
Además, podrá publicar informes temáticos, presentar informes actualizados a la Asamblea General hasta dos veces al año, formar grupos de trabajo y consultar a expertos externos según sea necesario. Al mismo tiempo, examinará las oportunidades, los riesgos y los impactos de la inteligencia artificial en el ámbito no militar.
Panel sobre Inteligencia Artificial para garantizar su gobernanza ética
El Panel y Diálogo sobre Inteligencia Artificial del Pacto Digital Global es una iniciativa intergubernamental copresidida por Costa Rica y España. Su objetivo es crear un grupo científico internacional independiente sobre inteligencia artificial (IA) y fomentar un diálogo global sobre la gobernanza de la IA.
Objetivos principales:
- Experiencia científica: el panel está compuesto por expertos de diversos contextos lingüísticos y multidisciplinares, lo que garantiza una representación geográfica y de género equilibrada.
- Centrado en los derechos humanos: el diálogo se centra en el marco internacional de derechos humanos y los Objetivos de Desarrollo Sostenible de las Naciones Unidas para abordar los riesgos y los desequilibrios de poder asociados a la IA.
- Función complementaria: El Diálogo Mundial sobre la Gobernanza de la IA complementa los foros existentes, en particular el Foro de Gobernanza de Internet, e integra los diálogos sobre políticas de IA en el Foro.
IA: ante todo, las personas
Como señala el Secretario General, en lo que respecta a la paz y la seguridad, "el destino de la humanidad no puede dejarse en manos de un algoritmo", y destaca la importancia del control humano sobre las decisiones relativas al uso de la fuerza, con el fin de promover el desarrollo y la protección de todos los derechos humanos.
Esto se refleja claramente en las cuatro áreas principales de interés de las Naciones Unidas respecto a la inteligencia artificial generativa:
- Paz y seguridad: la desinformación generada por la IA ya está haciendo peligrar las operaciones humanitarias y de paz de la ONU, poniendo en riesgo al personal y a la población civil. Más del 70 % del personal de paz de la ONU que respondieron a una encuesta reciente afirmaron que la desinformación y la información errónea obstaculizaban gravemente su capacidad para realizar su trabajo.
- Violaciones de derechos humanos: la inteligencia artificial se utiliza para crear y difundir contenidos nocivos, como material de abuso sexual infantil e imágenes pornográficas no consensuadas, que afectan especialmente a mujeres y niñas. Asimismo, preocupa que la IA pueda amplificar contenidos antisemitas, islamófobos, racistas y xenófobos.
- Democracia en peligro: El potencial de la inteligencia artificial para manipular a los votantes e influir en la opinión pública durante las elecciones supone una grave amenaza para los procesos democráticos en todo el mundo.
- Desprestigio de la ciencia y las instituciones públicas: las herramientas de inteligencia artificial podrían también agravar campañas de desinformación que llevan décadas desbaratando la acción por el clima mediante la difusión de información falsa sobre el cambio climático y las energías renovables.
La IA y el sistema de la ONU
La IA y la educación
La inteligencia artificial ha transformado radicalmente varios aspectos de nuestras vidas, proporcionando valiosos servicios a través de funciones como la percepción, la resolución de problemas y la creatividad. Aunque estos avances contribuyen positivamente a iniciativas mundiales como la Agenda 2030 para el Desarrollo Sostenible, también plantean importantes problemas éticos. Cuestiones como la parcialidad, las amenazas a los derechos humanos y al medio ambiente se ven exacerbadas por las desigualdades preexistentes, que afectan en particular a los grupos marginados. En respuesta, la UNESCO adoptó la Recomendación sobre la ética de la inteligencia artificial, con el objetivo de abordar estos desafíos éticos en todo el mundo.
La IA podría resolver grandes retos educativos y cambiar las prácticas de enseñanza, lo que ayudaría a cumplir el Objetivo de Desarrollo Sostenible 4. Por este motivo, la UNESCO ha publicado su primera Guía para el uso de IA generativa en educación e investigación para el sistema educativo, pensada para ayudar a los países a lidiar con la rápida expansión de estas herramientas.
Por otro lado, el vertiginoso ritmo del cambio tecnológico ha sobrepasado la posible creación de políticas y marcos normativos pertinentes. Para abordar esta situación, la UNESCO introdujo el Marco de competencias digitales para fortalecer las competencias de los funcionarios públicos y educadores en el uso de las tecnologías de la información y la comunicación.
La IA y la justicia
El poder judicial desempeña un papel vital en la gobernanza de la inteligencia artificial. Debe abordar las cuestiones éticas relacionadas con la parcialidad y la transparencia, y, al mismo tiempo, puede servirse de ella para mejorar el acceso a la justicia. La Iniciativa para Jueces de la UNESCO ofrece recursos de formación para ayudar al sistema judicial a abordar estas complejas cuestiones, reforzando las normas internacionales sobre inteligencia artificial y derechos humanos.
La IA y el desarrollo
El Programa de las Naciones Unidas para el Desarrollo (PNUD) participa activamente en los debates mundiales sobre inteligencia artificial (IA) y tecnologías digitales. Entre otros, el PNUD trabaja en la aplicación del Pacto Digital Mundial y sigue las recomendaciones del Órgano Asesor de Alto Nivel sobre Inteligencia Artificial del Secretario General de la ONU. El Programa colabora estrechamente con el Grupo de Trabajo Interinstitucional de las Naciones Unidas sobre la IA y se asocia con organizaciones como la Unión Internacional de Telecomunicaciones y la UNESCO.
Más allá de la coordinación mundial, el Programa para el Desarrollo ha ampliado sus capacidades internas en materia de inteligencia artificial. En 2024 lanzó AI Sprint, una iniciativa estratégica diseñada para acelerar la adopción responsable de la inteligencia artificial en toda la organización.
En los distintos países, el PNUD promueve el uso de la inteligencia artificial para favorecer el desarrollo sostenible. Los Laboratorios Aceleradores, por ejemplo, utilizan la IA para analizar datos de observación de la Tierra —como imágenes de satélites y drones— para identificar enfermedades de los cultivos en Camerún y Cabo Verde, detectar zonas con residuos acumulados en Guatemala, Filipinas, Serbia y Vietnam, y crear mapas de uso y cobertura del suelo en Ecuador y la India.
La IA y los trabajadores
La revolución de la inteligencia artificial podría exacerbar las desigualdades económicas entre los países de renta alta y los de renta baja. Aunque la IA tiene capacidad para impulsar la innovación y la productividad, la inversión y la adopción desiguales de las tecnologías de IA implican que los países de renta alta probablemente se beneficiarán mucho más que los países de renta baja y media.
Esta disparidad, especialmente pronunciada en África, puede agravar las brechas sociales y económicas ya existentes, en un momento en que los países en desarrollo luchan contra la insuficiencia de infraestructuras digitales y de acceso a una educación de calidad. Para resolver esta situación, la Organización Internacional del Trabajo (OIT) ha identificado tres pilares clave: mejorar la infraestructura digital, promover la transferencia de tecnología y desarrollar las competencias en materia de inteligencia artificial.
Los países en desarrollo necesitan herramientas digitales sólidas para facilitar la adopción de la inteligencia artificial, y los países de renta alta deben ayudar a transferir los conocimientos tecnológicos. Invertir en educación y formación es crucial para dotar a la población activa de las habilidades necesarias para la IA.
Además, fomentar el diálogo social es esencial para garantizar que los avances tecnológicos respeten los derechos de los trabajadores y mejoren la calidad del empleo. Un Informe global de 2025 sobre inteligencia artificial y seguridad laboral destaca tanto las nuevas oportunidades como los riesgos emergentes en el lugar de trabajo. En la misma línea, Mind the AI Divide insta a los responsables políticos, a los dirigentes de la industria y a las organizaciones internacionales a que trabajen juntos para garantizar un futuro justo e inclusivo impulsado por la IA.
La IA y la infancia
UNICEF ha lanzado la iniciativa Generation AI (Generación IA) para garantizar que los sistemas de inteligencia artificial respeten los derechos de los niños. En colaboración con socios como el Foro Económico Mundial y la Universidad de Berkeley, la iniciativa se centra en maximizar las oportunidades para los niños y niñas al tiempo que se mitigan los riesgos asociados a las tecnologías de IA. La organización también sigue de cerca las tendencias mundiales en materia de inteligencia artificial a través de su análisis de 2025 sobre la inteligencia artificial generativa.
El Fondo para la Infancia ha elaborado unas directrices para promover los derechos de la infancia en el marco de las políticas y prácticas de la inteligencia artificial. Estas orientaciones subrayan la importancia de tener en cuenta las necesidades y los derechos de los niños en el desarrollo y despliegue de los sistemas de IA.
La IA y la salud
La Organización Mundial de la Salud (OMS) ha publicado unas directrices para el uso ético de la inteligencia artificial en la atención sanitaria. Este marco esboza principios para garantizar que las tecnologías de IA se diseñen y apliquen de forma que se dé prioridad al bienestar humano y se respeten los derechos humanos. Como complemento a la guía, un nuevo informe ofrece la primera evaluación a escala regional sobre cómo se está integrando la inteligencia artificial en los sistemas sanitarios.
En colaboración con la Unión Internacional de Telecomunicaciones (UIT), la OMS estableció esta iniciativa para crear una plataforma en la que las partes interesadas puedan debatir y desarrollar estándares para la aplicación de la inteligencia artificial en la sanidad, con el fin de aprovechar el verdadero potencial de la inteligencia artificial de forma responsable.
La IA y la alimentación
El Programa Mundial de Alimentos (PMA) ha desarrollado AI Sandbox, un espacio de pruebas que permite evaluar la viabilidad e impacto de soluciones y proyectos de inteligencia artificial antes de su implementación. Este enfoque garantiza que solo se desplieguen herramientas de IA eficaces y responsables.
Este enfoque garantiza que solo se implementen herramientas de IA eficaces y responsables, además de estar en consonancia con la Estrategia mundial del PMA sobre inteligencia artificial 2025–2027. La estrategia integra la IA en todas sus operaciones con el fin de optimizar los recursos, reforzar la respuesta ante emergencias y mejorar las intervenciones en materia de seguridad alimentaria.
Asimismo, junto a Alibaba Group, el PMA lanzó Hunger Map LIVE, un sistema impulsado por inteligencia artificial que hace un seguimiento de la severidad del hambre en más de 90 países, lo que facilita las intervenciones oportunas.
La IA y las personas refugiadas
La Oficina del Alto Comisionado de las Naciones Unidas para los Refugiados (ACNUR) utiliza inteligencia artificial y macrodatos para mejorar la respuesta humanitaria a través de su Programa de Innovación de Datos, que ofrece servicios y formación sobre el uso ético de los datos, además de trabajar con socios para explorar enfoques innovadores.
Esta labor se ve reforzada por el Enfoque IA de ACNUR, un marco basado en los derechos y centrado en las personas que describe cómo la agencia aprovecha la inteligencia artificial para mejorar la protección, informar sobre la toma de decisiones humanitarias y mejorar la prestación de servicios.
Cuenta también con el Project Jetson, una herramienta de análisis predictivo que emplea la IA para prever los movimientos de población, lo que permite mejorar así la preparación y respuesta ante situaciones de desplazamiento.
La IA y el sector privado
El Pacto Mundial de las Naciones Unidas es una iniciativa basada en el compromiso de directivos del sector privado de aplicar los principios universales de sostenibilidad y de adoptar medidas para respaldar los objetivos de la ONU. Anima a las empresas de todo el mundo a alinear sus operaciones y estrategias con diez principios universales en las áreas de derechos humanos, empleo, medio ambiente y lucha contra la corrupción. Es la mayor iniciativa mundial de sostenibilidad corporativa y responsabilidad social de las empresas.
De cara a 2030, las soluciones innovadoras son imprescindibles para alcanzar los Objetivos de Desarrollo Sostenible. El sector privado, que representa más del 60% del PIB mundial, tiene un papel clave que desempeñar en el impulso de la innovación y la IA Generativa (Gen AI) para el desarrollo sostenible.
El informe "Inteligencia Artificial Generativa para los Objetivos Mundiales" del Pacto Mundial de las Naciones Unidas incluye estrategias prácticas, estudios de casos y perspectivas sobre la gestión de los riesgos de la IA Generativa, así como recursos para una implementación responsable.
Recursos
- OHCHR: Centro de Inteligencia artificial y derechos humanos digitales (recursos)
- OMS: La inteligencia artificial al servicio de la salud
- OMPI: Herramientas y aplicaciones de inteligencia artificial
- UNEP: Soluciones de IA para el medio ambiente
- UNESCO: Guía para el uso de IA generativa en educación e investigación
- UIT: Inteligencia artificial al servicio del bien común (puedes seleccionar el idioma)
- Pacto Mundial de las Naciones Unidas: https://unglobalcompact.org/library/6238 (puedes seleccionar el idioma)
- Junta de los Jefes Ejecutivos del Sistema de las Naciones Unidas: inteligencia artificial
- Órgano Asesor de Alto Nivel sobre Inteligencia Artificial: Gobernanza de la IA para la humanidad
- UNCTAD: Informe sobre Tecnología e Innovación 2025