Deepfakes sexuales y el fracaso de la regulación: lo que revelan Grok y la respuesta del Reino Unido

En la última década, el avance de la inteligencia artificial ha traído beneficios indiscutibles... pero también monstruos digitales. Uno de estos ha salido a la luz con crudeza en las últimas semanas: el uso de herramientas como Grok, el chatbot impulsado por la empresa xAI de Elon Musk, para generar deepfakes sexuales de personas reales, incluidos niños, sin su consentimiento. Esta práctica no sólo es perturbadora, sino que está reconfigurando los límites entre lo legal, lo ético y lo tecnológico.

¿Qué son los deepfakes no consensuados?

Los deepfakes son contenidos falsificados, en su mayoría videos o imágenes, generados mediante inteligencia artificial. Mediante redes neuronales profundas —de ahí su nombre— estas herramientas pueden recrear de forma realista a una persona diciendo o haciendo cosas que nunca ocurrieron realmente.

En su versión más vil, estas tecnologías se han utilizado para crear representaciones sexuales manipuladas, especialmente de mujeres y menores. Ya había casos preocupantes de este tipo desde plataformas como Reddit o 4chan, pero lo que hace que el caso actual estremezca es la facilidad de acceso: Grok se utiliza desde la red social X (antes Twitter), propiedad también de Musk.

Grok y el “modo picante”

Grok, como muchos otros generadores de imágenes por IA, posee un “spicy mode”, una configuración capaz de responder peticiones con contenido para adultos. Aunque en teoría existen restricciones, usuarios reportaron que era posible acceder a imágenes que desnudaban digitalmente a otras personas —en muchos casos, personas reales cuya imagen pública fue usada sin permiso alguno.

De acuerdo con la Internet Watch Foundation, entre los deepfakes creados con Grok se encuentran casos especialmente escalofriantes: niñas de 11 años sexualizadas y mujeres representadas en poses violentas. Esto ya no entra en el terreno de la polémica digital; es pornografía infantil digital.

El Reino Unido responde: nuevas leyes en camino

Ante la ola de indignación mundial, el Reino Unido ha decidido actuar. A partir del 6 de febrero, entrará en vigor una sección acelerada de la Data (Use and Access) Act, que criminaliza la creación o distribución de deepfakes sexuales sin consentimiento:

• Será delito crear imágenes íntimas falsas sin el permiso de la persona retratada, incluso si no es realista o si es "por broma".
• Se penalizará el desarrollo o distribución de software diseñado específicamente para “desnudar” digitalmente.
• Las empresas que proporcionen estas herramientas enfrentan multas y sanciones.

La ministra de Tecnología, Liz Kendall, fue tajante: “El contenido que circula en X no es solo ofensivo para una sociedad decente, es ilegal”.

Una cuestión de valores, no solo de legalidad

El Primer Ministro británico, Keir Starmer, también se pronunció con dureza al respecto: “La libertad de expresión no es libertad para violar el consentimiento”. El gobierno asegura que no bajará la guardia, ni con Grok ni con otras plataformas que permitan estos abusos.

Se trata de un debate que rebasa lo jurídico. Es un dilema moral: ¿dónde colocamos el límite entre lo posible técnicamente y lo aceptable socialmente?

Una regulación que llega tarde

Organizaciones de derechos digitales y activistas feministas lo advirtieron hace años: sin regulación, los deepfakes entrarían en un limbo legal donde la cosificación, el acoso y la violencia digital pueden expandirse sin freno.

Algunas estadísticas del problema:

• Un estudio de Sensity AI (2020) reveló que el 96% de los deepfakes en línea eran pornográficos y que el 100% de los individuos representados eran mujeres.
• Más de 13.000 imágenes sexualizadas de menores generadas por IA fueron encontradas en redes sociales en los últimos cinco meses, según la IWF.

¿Por qué ha tardado tanto una respuesta estatal? Las razones son varias:

• Complejidad tecnológica: Los desarrolladores muchas veces no pueden controlar completamente lo que los usuarios hacen con sus herramientas.
• Falta de leyes específicas: Muchos marcos jurídicos aún no comprenden el concepto de "imagen fabricada pero realista".
• Intereses económicos: Empresas como X permiten contenido viral y polémico que retiene a los usuarios, lo cual monetizan.

¿Cómo detener esta amenaza?

Además de leyes punitivas, los expertos sugieren un enfoque más amplio:

1. Educación digital: Crear conciencia desde la infancia sobre el consentimiento, el respeto en línea y el impacto de compartir contenido íntimo sin permiso.
2. Regulación fuerte y proactiva: No basta con actuar cuando ya hay víctimas. Es necesaria una legislación preventiva.
3. Obligaciones técnicas: Las empresas deben incluir filtros de seguridad sólidos en sus plataformas y auditar constantemente su uso.
4. Colaboración internacional: La naturaleza global de internet exige cooperación entre gobiernos, ONGs y plataformas privadas.

El rol de Elon Musk y la ambigüedad de la responsabilidad

En su respuesta a las críticas, Elon Musk publicó en X: “Cuando Grok recibe pedidos de generar contenido ilegal, se niega automáticamente. Si ocurre algo inesperado, corregimos inmediatamente el bug”. Pero esta declaración, aunque suena razonable, elude el núcleo del problema: es su empresa quien diseñó, permitió y distribuyó un "modo picante" capaz de producir contenido explícito con personas reales.

No se trata solo de corregir errores. Se trata de asumir las consecuencias del diseño algorítmico y el impacto social de las decisiones tomadas al crear estos sistemas.

¿Y el resto del mundo?

Otros países están adoptando medidas similares. En España, por ejemplo, ya existen sanciones penales por compartir imágenes íntimas sin consentimiento, pero aún falta legislación puntual sobre deepfakes. Alemania y Francia han iniciado investigaciones sobre contenidos simulados y algoritmos generativos.

La Unión Europea, con su Acta de Inteligencia Artificial, incluye disposiciones sobre uso ético y límites de datos personales, aunque especialistas consideran que su alcance actual aún es insuficiente.

Una vigilancia sistémica en camino

Finalmente, el Reino Unido también investiga si la plataforma X violó sus regulaciones gubernamentales. De acuerdo con la ley británica, las plataformas que permiten circulación de contenido sexualizado infantil (aunque sea artificial) pueden enfrentar sanciones de hasta el 10% de su facturación global y bloqueos en territorio británico.

Desde Downing Street incluso han contemplado cesar su presencia oficial en la plataforma X, lo que sería un golpe simbólico fuerte contra Musk.

¿Estamos listos para enfrentar la era de la post-realidad?

Este escándalo es solo el inicio de una conversación más amplia. Si algo nos han enseñado meses recientes, es que ya no podemos hablar de “realidad” como si fuera intocable. La imagen digital, el consentimiento virtual, la manipulación algorítmica...

Todo puede parecer una broma técnica sin consecuencias hasta que alguien ve su rostro desnudado en internet, puesto en un cuerpo que no es el suyo, en una situación inventada, pero terriblemente real para quien la sufre.

Por ahora es el turno del Reino Unido de reaccionar. Ojalá el mundo siga su ejemplo —y lo mejore.