El discurso del odio y la inteligencia artificial
El efecto devastador del odio no es nada nuevo, pero las nuevas tecnologías de comunicación han amplificado su alcance, haciendo del discurso de odio una herramienta común para difundir ideologías divisivas en todo el mundo. El discurso de odio puede tener graves consecuencias si no se le pone freno, ya que socava la paz y el desarrollo al alimentar los conflictos y las violaciones de los derechos humanos. Las Naciones Unidas trabajan desde hace tiempo para combatir el odio, defender los derechos humanos y promover el estado de derecho, y son conscientes del impacto que el discurso de odio tiene en la construcción de la paz, la igualdad de género y el apoyo a la juventud.
La Estrategia y Plan de Acción de las Naciones Unidas sobre el Discurso de Odio define el discurso del odio como la comunicación que ataca oante discrimina a personas o grupos por motivos de identidad, como la religión, el origen étnico o el género, aunque todavía se está debatiendo una definición jurídica universal. Los gobiernos, la sociedad civil y los individuos siguen desarrollando estrategias para combatirlo de forma eficaz.
El Plan de Acción destaca el rol vital de las alianzas con empresas tecnológicas y de redes sociales, especialmente con el uso de la inteligencia artificial, para atajar el discurso de odio. Si bien la inteligencia artificial ofrece herramientas valiosas para la alerta temprana y la prevención de conflictos, también presenta riesgos si no se rige por salvaguardias de derechos humanos. Por ello, los Estados Miembros han priorizado la gobernanza de la inteligencia artificial a través del Pacto Digital Global y se han comprometido nuevamente a contrarrestar el discurso de odio en línea.
#NoAlOdio: Contrarrestar el discurso de odio
Posicionarse frente al discurso del odio puede resultar intimidante, especialmente en nuestras conversaciones cotidianas o en el trabajo. El miedo a agravar la situación o a sufrir represalias puede impedir que las personas se manifiesten en contra del discurso del odio. Sin embargo, el silencio permite que las palabras y actitudes nocivas se arraiguen. Di #NoAlOdio
Antecedentes
En julio de 2021, la Asamblea General de la ONU mostró su preocupación sobre “la propagación y proliferación exponenciales del discurso de odio” en todo el mundo y adoptó una resolución para “promover el diálogo y la tolerancia interreligiosos e interculturales para contrarrestarlo”.
La resolución reconoce la necesidad de acabar con las retóricas discriminatorias y xenófobas y llama a todos los actores relevantes, incluidos los Estados, a aumentar sus esfuerzos para abordar este fenómeno, de conformidad con el derecho internacional de los derechos humanos.
La resolución proclamó el 18 de junio como Día Para Contrarrestar el Discurso de Odio, el cual se conmemorará por primera vez en 2022 a través de una reunión informal de alto nivel el lunes 20 de junio (10 a. m., hora de Nueva York) en la sede de las Naciones Unidas.
A lo largo de esta jornada, las Naciones Unidas invitan a los gobiernos, las organizaciones internacionales, la sociedad civil y las personas a realizar eventos e iniciativas que promuevan estrategias para identificar, abordar y contrarrestar el discurso de odio.
Ya sea como Estados miembros, sector privado, medios de comunicación, empresas tecnológicas, líderes religiosos, educadores, sociedad civil, afectados por el discurso de odio, jóvenes o simplemente individuos, todos tenemos el deber moral de denunciar con firmeza los casos del discurso de odio, así como jugar un papel crucial en la lucha contra este flagelo.
¿Por qué combatir el discurso del odio?
Dado que la propagación de la retórica del odio puede ser una señal de advertencia previa a la violencia —incluidos los crímenes atroces—, atajar el discurso de odio podría contribuir a mitigar su impacto.
Hacer frente al discurso de odio en línea
Las niñas y los niños usan cada vez más la tecnología, lo que significa que también pueden encontrarse con comentarios dañinos en internet. Esto los hace más vulnerables al acoso en línea, y con el aumento del uso de la inteligencia artificial, el problema puede empeorar. No siempre es fácil reconocer cuándo algo es discurso de odio, especialmente en las redes o los chats, y leer comentarios ofensivos puede asustar o confundir. Por eso, es importante ser amables, tanto en persona como en línea. ¡Posiciónate! Tú también puedes crear un entorno más seguro.
Más información sobre la campaña #NoAlOdio en la página web en español y en este pdf en inglés con materiales adecuados para niños en edad escolar sobre el discurso de odio y cómo los niños pueden defenderse a sí mismos y a sus amigos.
Hoy, como nos recuerda el tema de este año, el discurso de odio viaja más rápido y más lejos que nunca, amplificado por la inteligencia artificial. Los algoritmos sesgados y las plataformas digitales están difundiendo contenidos tóxicos y creando nuevos espacios para el acoso y el abuso."
Secretario de la ONU, António Guterres
Eventos
El nexo entre el discurso del odio y la inteligencia artificial: Construir coaliciones para recuperar espacios inclusivos y seguros libres de odio
Fecha: lunes, 16 de junio de 2025
Hora: de las 10 a las 13 h (hora de Nueva York)
Lugar: Sala de conferencias 5, sede la ONU, Nueva York
La Misión Permanente del Reino de Marruecos ante las Naciones Unidas, la Oficina del Asesor Especial de las Naciones Unidas para la Prevención del Genocidio, el Centro de Derechos Humanos de la Universidad de Essex y el Garden or the Righteous celebran en todo el mundo el cuarto evento de alto nivel para combatir el discurso del odio, en el que se destaca la relación entre discurso del odio y inteligencia artificial.
El papel preventivo de la educación
Puesto que los entornos en línea se han convertido en un gran caja de resonancia de una retórica del odio, reforzar la alfabetización digital como parte de una educación para la ciudadanía global es ahora más importante que nunca. Hacer frente a la retórica del odio, ya sea en línea o en la vida real, resulta más fácil cuando uno está equipado con los conocimientos y habilidades suficientes para identificar y contrarrestar el discurso del odio. La campaña de las Naciones Unidas #NoAlOdio ofrece ideas sobre cómo aprender y compartir conocimientos sobre cuestiones relacionadas con la lucha contra la incitación al odio.
El rol de la educaciónRecursos
- Resolución del Día Internacional para Contrarrestar el Discurso del Odio
- Estrategia y Plan de Acción de las Naciones Unidas para la lucha contra el discurso de odio
- Marco de Análisis para Crímenes Atroces
- Plan de Acción para Líderes y Actores Religiosos
- Programas para la prevención del genocidio y delitos conexos
- Involucrar a los actores religiosos para contrarrestar el dideporscurso de odio, prevenir la incitación a la violencia y construir sociedades pacíficas e inclusivas
- Combate el racismo
Días Internacionales relacionados
- Día Internacional de Conmemoración en Memoria de las Víctimas del Holocausto
- Día Internacional de la Eliminación de la Discriminación Racial
- Día Internacional de Reflexión sobre el Genocidio de 1994 contra los Tutsis en Rwanda
- Día de Conmemoración de las Víctimas de Actos de Violencia basados en la Religión o las Creencias
- Día para la Conmemoración y Dignificación de las Víctimas del Crimen de Genocidio y su Prevención
- Día de los Derechos Humanos
