El discurso del odio y la inteligencia artificial
El efecto devastador del odio no es nada nuevo, pero las nuevas tecnolog¨ªas de comunicaci¨®n han amplificado su alcance, haciendo del discurso de odio una herramienta com¨²n para difundir ideolog¨ªas divisivas en todo el mundo. El discurso de odio puede tener graves consecuencias si no se le pone freno, ya que socava la paz y el desarrollo al alimentar los conflictos y las violaciones de los derechos humanos. Las Naciones Unidas trabajan desde hace tiempo para combatir el odio, defender los derechos humanos y promover el estado de derecho, y son conscientes del impacto que el discurso de odio tiene en la construcci¨®n de la paz, la igualdad de g¨¦nero y el apoyo a la juventud.
La Estrategia y Plan de Acci¨®n de las Naciones Unidas sobre el Discurso de Odio define el discurso del odio como la comunicaci¨®n que ataca oante discrimina a personas o grupos por motivos de identidad, como la religi¨®n, el origen ¨¦tnico o el g¨¦nero, aunque todav¨ªa se est¨¢ debatiendo una definici¨®n jur¨ªdica universal. Los gobiernos, la sociedad civil y los individuos siguen desarrollando estrategias para combatirlo de forma eficaz.
El Plan de Acci¨®n destaca el rol vital de las alianzas con empresas tecnol¨®gicas y de redes sociales, especialmente con el uso de la inteligencia artificial, para atajar el discurso de odio. Si bien la inteligencia artificial ofrece herramientas valiosas para la alerta temprana y la prevenci¨®n de conflictos, tambi¨¦n presenta riesgos si no se rige por salvaguardias de derechos humanos. Por ello, los Estados Miembros han priorizado la gobernanza de la inteligencia artificial a trav¨¦s del Pacto Digital Global y se han comprometido nuevamente a contrarrestar el discurso de odio en l¨ªnea.
#NoAlOdio: Contrarrestar el discurso de odio
Posicionarse frente al discurso del odio puede resultar intimidante, especialmente en nuestras conversaciones cotidianas o en el trabajo. El miedo a agravar la situaci¨®n o a sufrir represalias puede impedir que las personas se manifiesten en contra del discurso del odio. Sin embargo, el silencio permite que las palabras y actitudes nocivas se arraiguen. Di #NoAlOdio
Antecedentes
En julio de 2021, la Asamblea General de la ONU mostr¨® su preocupaci¨®n sobre ¡°la propagaci¨®n y proliferaci¨®n exponenciales del discurso de odio¡± en todo el mundo y adopt¨® una para ¡°promover el di¨¢logo y la tolerancia interreligiosos e interculturales para contrarrestarlo¡±.
La °ù±ð²õ´Ç±ô³Ü³¦¾±¨®²Ô reconoce la necesidad de acabar con las ret¨®ricas discriminatorias y xen¨®fobas y llama a todos los actores relevantes, incluidos los Estados, a aumentar sus esfuerzos para abordar este fen¨®meno, de conformidad con el derecho internacional de los derechos humanos.
La °ù±ð²õ´Ç±ô³Ü³¦¾±¨®²Ô proclam¨® el 18 de junio como D¨ªa Para Contrarrestar el Discurso de Odio, el cual se conmemorar¨¢ por primera vez en 2022 a trav¨¦s de una reuni¨®n informal de alto nivel el lunes 20 de junio (10 a. m., hora de Nueva York) en la sede de las Naciones Unidas.
A lo largo de esta jornada, las Naciones Unidas invitan a los gobiernos, las organizaciones internacionales, la sociedad civil y las personas a realizar eventos e iniciativas que promuevan estrategias para identificar, abordar y contrarrestar el discurso de odio.
Ya sea como Estados miembros, sector privado, medios de comunicaci¨®n, empresas tecnol¨®gicas, l¨ªderes religiosos, educadores, sociedad civil, afectados por el discurso de odio, j¨®venes o simplemente individuos, todos tenemos el deber moral de denunciar con firmeza los casos del discurso de odio, as¨ª como jugar un papel crucial en la lucha contra este flagelo.
?Por qu¨¦ combatir el discurso del odio?
Dado que la propagaci¨®n de la ret¨®rica del odio puede ser una se?al de advertencia previa a la violencia ¡ªincluidos los cr¨ªmenes atroces¡ª, atajar el discurso de odio podr¨ªa contribuir a mitigar su impacto.
Hacer frente al discurso de odio en l¨ªnea
Las ni?as y los ni?os usan cada vez m¨¢s la tecnolog¨ªa, lo que significa que tambi¨¦n pueden encontrarse con comentarios da?inos en internet. Esto los hace m¨¢s vulnerables al acoso en l¨ªnea, y con el aumento del uso de la inteligencia artificial, el problema puede empeorar. No siempre es f¨¢cil reconocer cu¨¢ndo algo es discurso de odio, especialmente en las redes o los chats, y leer comentarios ofensivos puede asustar o confundir. Por eso, es importante ser amables, tanto en persona como en l¨ªnea. ?Posici¨®nate! T¨² tambi¨¦n puedes crear un entorno m¨¢s seguro.
M¨¢s informaci¨®n sobre la campa?a #NoAlOdio en la p¨¢gina web en espa?ol y en estepdf en ingl¨¦s con materiales adecuados para ni?os en edad escolar sobre el discurso de odio y c¨®mo los ni?os pueden defenderse a s¨ª mismos y a sus amigos.
Hoy, como nos recuerda el tema de este a?o, el discurso de odio viaja m¨¢s r¨¢pido y m¨¢s lejos que nunca, amplificado por la inteligencia artificial. Los algoritmos sesgados y las plataformas digitales est¨¢n difundiendo contenidos t¨®xicos y creando nuevos espacios para el acoso y el abuso."
Secretario de la ONU, Ant¨®nio Guterres
Eventos
El nexo entre el discurso del odio y la inteligencia artificial: Construir coaliciones para recuperar espacios inclusivos y seguros libres de odio
Fecha: lunes, 16 de junio de 2025
Hora: de las 10 a las 13 h (hora de Nueva York)
Lugar: Sala de conferencias 5, sede la ONU, Nueva York
La Misi¨®n Permanente del Reino de Marruecos ante las Naciones Unidas, la Oficina del Asesor Especial de las Naciones Unidas para la Prevenci¨®n del Genocidio, el Centro de Derechos Humanos de la Universidad de Essex y el Garden or the Righteous celebran en todo el mundo el cuarto evento de alto nivel para combatir el discurso del odio, en el que se destaca la relaci¨®n entre discurso del odio y inteligencia artificial.
El papel preventivo de la educaci¨®n
Puesto que los entornos en l¨ªnea se han convertido en un gran caja de resonancia de una ret¨®rica del odio, reforzar la alfabetizaci¨®n digital como parte de una educaci¨®n para la ciudadan¨ªa global es ahora m¨¢s importante que nunca. Hacer frente a la ret¨®rica del odio, ya sea en l¨ªnea o en la vida real, resulta m¨¢s f¨¢cil cuando uno est¨¢ equipado con los conocimientos y habilidades suficientes para identificar y contrarrestar el discurso del odio. La campa?a de las Naciones Unidas #NoAlOdio ofrece ideas sobre c¨®mo aprender y compartir conocimientos sobre cuestiones relacionadas con la lucha contra la incitaci¨®n al odio.
El rol de la educaci¨®nRecursos
- Estrategia y Plan de Acci¨®n de las Naciones Unidas para la lucha contra el discurso de odio
- Marco de An¨¢lisis para Cr¨ªmenes Atroces
- Plan de Acci¨®n para L¨ªderes y Actores Religiosos
- Involucrar a los actores religiosos para contrarrestar el discurso de odio, prevenir la incitaci¨®n a la violencia y construir sociedades pac¨ªficas e inclusivas
- Combate el racismo
D¨ªas Internacionales relacionados
- D¨ªa Internacional de Conmemoraci¨®n en Memoria de las V¨ªctimas del Holocausto
- D¨ªa Internacional de la Eliminaci¨®n de la Discriminaci¨®n Racial
- D¨ªa Internacional de Reflexi¨®n sobre el Genocidio de 1994 contra los Tutsis en Rwanda
- D¨ªa de Conmemoraci¨®n de las V¨ªctimas de Actos de Violencia basados en la Religi¨®n o las Creencias
- D¨ªa para la Conmemoraci¨®n y Dignificaci¨®n de las V¨ªctimas del Crimen de Genocidio y su Prevenci¨®n
- D¨ªa de los Derechos Humanos
