Fotos falsas, IA y teorías conspirativas: el caso Zohran Mamdani y Jeffrey Epstein que enredó internet

El origen de la tormenta digital

Una serie de imágenes comenzaron a circular el lunes en redes sociales, supuestamente mostrando al actual alcalde de Nueva York, Zohran Mamdani, de niño, junto a su madre, la reconocida cineasta Mira Nair, en compañía de Jeffrey Epstein, Ghislaine Maxwell y otras figuras de alto perfil como Bill Clinton, Jeff Bezos y Bill Gates.

En cuestión de horas, las publicaciones se viralizaron, avivando teorías conspirativas que iban desde vínculos familiares con Epstein hasta afirmaciones de que Mamdani era su hijo ilegítimo. Pero la verdad era mucho más sencilla y alarmante: todas las imágenes eran falsas y generadas por inteligencia artificial (IA).

¿Cómo se detectaron las imágenes falsas?

Las imágenes fueron publicadas primero por una cuenta de la red social X (antes Twitter), identificada como una cuenta de parodia. Este perfil se describe como un “motor de memes impulsado por IA” que crea contenido mediante tecnología generativa para “decir las cosas como son: rápido, fuerte e imposible de ignorar”.

Las fotografías mostraban inconsistencias evidentes: errores anatómicos, luces irreales, y por si fuera poco, estaban claramente etiquetadas con marcas digitales de agua que identificaban su origen generado por IA. De hecho, la app Gemini de Google identificó que todas ellas contenían SynthID, una herramienta de marcado digital que Google introdujo en 2023 para identificar contenido generado por sus modelos de IA.

La desinformación tras las imágenes

Uno de los montajes más compartidos mostraba a Mamdani y Nair en una aparente escena callejera nocturna junto a Clinton, Bezos y Gates. Otro mostraba a Epstein sosteniendo a Clinton como si fuera un niño. Incluso existía una foto en que Nair supuestamente sostenía a Mamdani bebé en sus brazos, mientras posaba con Epstein.

El padre real de Zohran Mamdani es Mahmood Mamdani, profesor de antropología en la Universidad de Columbia, no Jeffrey Epstein, como afirmaban algunas publicaciones falsas. Además, Mamdani tenía 18 años en 2009, cuando Nair supuestamente asistió a una fiesta con Epstein, eliminando toda posibilidad cronológica de que esas imágenes fueran auténticas.

¿Por qué se creó esta desinformación?

Todo parece estar vinculado a la publicación reciente de los llamados “archivos Epstein” por parte del Departamento de Justicia de EE. UU. Estos archivos incluyen menciones a figuras del mundo político y empresarial, aumentando el interés mediático sobre las personas que alguna vez estuvieron conectadas con Epstein, directa o indirectamente.

Dentro de ese contexto, una mención a la asistencia de Mira Nair a una fiesta organizada por Maxwell en 2009 fue suficiente para que una cuenta interesada en viralizar contenido sensacionalista utilizara IA para fabricar una historia falsa alrededor de ella y su hijo.

La nueva amenaza: la manipulación visual en la era de la IA

Este caso es un ejemplo alarmante del poder que puede tener la IA en la generación de narrativas falsas altamente verosímiles. Aunque las imágenes en cuestión estaban fácilmente identificables como falsas, esto no impidió que se compartieran miles de veces antes de que muchos usuarios se dieran cuenta del engaño.

Según un informe de The Washington Post, los incidentes de desinformación visual generada por IA han aumentado en un 400% entre 2022 y 2023.

“La generación de imágenes por IA es una herramienta poderosa, pero también un arma peligrosa si cae en las manos equivocadas”, declaró Rachel Tobac, experta en ciberseguridad. “No se trata solo de noticias falsas, sino de ataques contra la credibilidad de figuras públicas e instituciones”.

¿Es legal crear imágenes falsas de personas reales?

Depende. En EE. UU., las leyes sobre la creación de imágenes falsas o manipuladas varían, pero la mayoría de los estados aún no han legislado específicamente sobre contenido generado por IA con el propósito de desinformar o difamar.

En 2019, California se convirtió en uno de los primeros estados en promulgar la ley anti-“deepfakes”, que prohíbe el uso de medios sintéticos de video o imagen para influir en elecciones. Pero el uso de imágenes falsas fuera del contexto electoral sigue siendo un campo gris.

Los expertos legales advierten que si bien las figuras públicas enfrentan un umbral más alto para probar difamación, los creadores de contenido que deliberadamente dañan la reputación de otros podrían enfrentar consecuencias legales si se demuestra intención dolosa.

Deepfakes y política: una combinación explosiva

Con elecciones en el horizonte, muchos temen que el caso Mamdani-Epstein sea solo el primer capítulo de una nueva ola de ataques políticos o personales basados en desinformación con IA.

La Comisión Federal de Elecciones (FEC) actualmente está debatiendo sobre si el uso de contenido generado por IA en campañas políticas debe prohibirse o al menos regularse. Hasta ahora, no existe consenso al respecto.

“Si no se toman medidas ahora, 2024 podría convertirse en la primera ‘elección deepfake’ de la historia”, advirtió Sam Gregory, director de la organización Witness, dedicada a documentar abusos mediante imágenes verificadas.

Cómo protegernos de este tipo de engaños

Ante este nuevo panorama, se hace crucial que los ciudadanos desarrollen alfabetización mediática digital básica. Aquí algunos consejos para identificar contenido potencialmente falso o manipulado:

• Verifica la fuente: Si una imagen proviene de cuentas anónimas o de humor, es probable que no sea auténtica.
• Observa detalles visuales: Las imágenes creadas por IA todavía presentan errores evidentes: manos deformes, fondos irreales, iluminación inconsistente.
• Utiliza herramientas de verificación: Plataformas como Google Lens, InVID o Forensically pueden ayudarte a verificar si una imagen ha sido manipulada.
• Consulta medios confiables: No difundas ninguna imagen controversial sin primero verificarla en medios reconocidos.

Además, muchos navegadores y redes sociales están comenzando a integrar detectores automáticos de contenido generado por IA, aunque por ahora su utilidad aún es limitada frente al ritmo de producción viral de contenido falso.

Un llamado a la responsabilidad colectiva

El caso Mamdani nos obliga a mirar de frente una nueva forma de manipulación digital que ya no se limita al texto o los titulares falsos, sino que utiliza imágenes tan creíbles que incluso algoritmos y personas bien informadas pueden caer en el engaño.

No todo lo que vemos en internet es cierto, incluso si parece real. En un mundo donde las herramientas de creación de imágenes están al alcance de cualquiera, la responsabilidad de discernir recae también en nosotros como consumidores de información.

Y como dijo una vez el periodista Edward R. Murrow: “Una nación de ovejas engendra un gobierno de lobos”. En plena era digital, esta advertencia cobra más vigencia que nunca.