Desinformación y odio en Grok, la herramienta de IA de Elon Musk

El reciente lanzamiento de Grok, la nueva herramienta de inteligencia artificial de la red social X, ha sido utilizada desde su lanzamiento el 12 de diciembre para generar imágenes que contribuyen a la propagación de mensajes de odio, racismo, machismo y desinformación en las plataformas digitales.

A diferencia de otras plataformas de IA como ChatGPT, Gemini de Google, Midjourney, DALL-E de OpenAI, Designer de Microsoft, Canva o Adobe Firefly, que han implementado políticas restrictivas para evitar la creación de contenido sensible o discriminatorio, Grok ha sido diseñada con menos limitaciones éticas. Esto ha permitido la generación de contenido que incluye representaciones racistas, sexistas y xenófobas de figuras públicas del ámbito político, empresarial o deportivo, lo que facilita la amplificación de discursos de odio y desinformación en la plataforma.

Algunos ejemplos de las creaciones controvertidas de Grok incluyen:

• Una imagen que muestra a la presidenta Claudia Sheinbaum vestida de sirvienta e hincada realizando labores de limpieza, con el presidente electo Donald Trump al fondo.
• Una imagen en la que la presidenta Sheinbaum aparece al lado del expresidente Andrés Manuel López Obrador vestida de sirvienta.
• Una representación de Donald Trump abrazando a una Kamala Harris embarazada.
• El presidente de Argentina saludando a Adolf Hitler.
• Una imagen comprometedora de Bill Gates que involucra polvo blanco.

En algunos casos, Grok ha sido utilizada para generar imágenes que vinculan a figuras deportivas con el nazismo o que perpetúan estereotipos racistas y xenófobos. Por ejemplo, ha creado imágenes que muestran a futbolistas negros recogiendo algodón en un campo o representados como monos, lo que contribuye a la difusión de estereotipos negativos. 

• Las imágenes de los entrenadores de fútbol Carlo Ancelotti, José Mourinho y Hansi Flick junto a Adolf Hitler.
• La imagen del jugador del Fútbol Club Barcelona, Lamine Yamal, robando a una persona de la tercera edad, subido en una patera o en una escuela junto a comentarios xenófobos.
• Las imágenes de los jugadores del Real Madrid Club de Fútbol, Aurélien Tchouaméni recogiendo algodón en un campo y a Vinícius Júnior representado como un mono o rodeado de estos animales.

Lucha contra la desinformación 

Un informe del Centro para Contrarrestar el Odio Digital (CCDH) reveló que, en pruebas realizadas con herramientas como Grok, se generaron imágenes que fomentaban el odio hacia minorías como comunidades, incluyendo judíos, musulmanes, personas negras y la comunidad LGBTQ+.

Aunque las imágenes generadas por Grok incluyen una pequeña marca de agua en la esquina inferior izquierda, su visibilidad es apenas perceptible y fácil de eliminar, lo que dificulta la identificación del contenido manipulado.

Por otro lado, la Comisión Europea abrió una investigación contra X por incumplir la Ley de Servicios Digitales (DSA) en lo que respecta a la transparencia y la gestión de contenidos ilegales y desinformación resaltando que sin una regulación adecuada en X, y Grok, la desinformación y los discursos de odio podrían seguir proliferando sin control.

Las plataformas digitales deben asumir una mayor responsabilidad en la moderación de contenidos generados por IA para proteger a los usuarios y mitigar los efectos nocivos de la desinformación y el discurso de odio.