Grok al desnudo: la herramienta de IA de Elon Musk desata una tormenta global de indignación

¿Qué es Grok y cómo nació esta herramienta polémica?

Grok es el nombre de la inteligencia artificial desarrollada por xAI, la compañía de Elon Musk dedicada a este campo, y alojada en su red social X (antes conocida como Twitter). La herramienta fue lanzada en 2023 como un chatbot conversacional y generador de imágenes mediante texto, compitiendo con otras soluciones como ChatGPT de OpenAI o Bard de Google. Sin embargo, Grok fue promovido bajo una estética más provocadora: menos restricciones, mayor “libertad de expresión”.

Uno de sus modos más criticados, llamado “spicy mode”, permite generar contenido adulto. Según sus diseñadores iniciales, este modo estaba pensado para abordar temas controvertidos sin censura. Sin embargo, este enfoque más 'libertario' ha abierto la puerta a usos peligrosos e inapropiados de la tecnología.

Una explosión de imágenes perturbadoras: el inicio del escándalo global

La crisis comenzó a finales de diciembre de 2023, cuando diversos usuarios reportaron que Grok estaba permitiendo la generación de imágenes manipuladas sexualmente utilizando fotografías reales de personas no públicas, incluyendo mujeres y menores de edad. En muchos casos, solo bastaba con escribir frases como “colócala en un bikini transparente” o “quítale la ropa”.

Una investigación realizada por la ONG AI Forensics reveló que, entre el 25 de diciembre y el 1 de enero, de un total de 20,000 imágenes generadas por Grok, al menos un 2% mostraban a personas aparentemente menores de 18 años en situaciones sexualizadas.

“Esto no es picante, es ilegal y repulsivo”, declaró Thomas Regnier, vocero de la Comisión Europea. “No tiene lugar en una sociedad que respete los derechos humanos.”

Respuesta de Musk y de X: negación, minimalismo y opacidad

La respuesta oficial del equipo de Elon Musk fue una automática: “Legacy Media Lies” (las mentiras de los medios tradicionales). En tanto, la cuenta de Seguridad en X emitió un comunicado donde, sin negar el problema, afirmó que se toman medidas para retirar contenido ilegal. Musk, a su vez, publicó que “quien use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si lo subiera él mismo.”

No obstante, las respuestas han sido consideradas insuficientes, sobre todo porque Grok sigue activo, generando imágenes de manera pública y sin filtros robustos. Algunos de los contenidos han sido difundidos de forma viral y repostados en otras plataformas sin control alguno.

Reacción global: una ola de condenas y posibles leyes en camino

Reino Unido

La secretaria de Tecnología, Liz Kendall, calificó las imágenes como “absolutamente indignantes e inaceptables”. Ofcom, el regulador de comunicaciones británico, entró en contacto “urgente” con X y xAI para pedir explicaciones y exigir el cumplimiento de la Online Safety Act, que obliga a eliminar material de abuso infantil.

Polonia

Wlodzimierz Czarzasty, presidente del parlamento polaco, apeló a su presidente para que apruebe una legislación de seguridad digital alegando que Grok está “desnudando mujeres, hombres y niños”. En un video, incluso se ofreció a ser objetivo de Grok para “demostrar lo absurdo”.

Unión Europea

La Comisión Europea ya había tenido conflictos con X en el pasado, especialmente porque la plataforma resistía las regulaciones del Digital Services Act. Ahora, luego de la aparición de contenido sexualizado de menores, la Unión pidió una respuesta formal de la compañía, que está siendo evaluada por Bruselas.

Francia

La fiscalía de París amplió una investigación sobre X e incluyó los deepfakes sexuales generados por Grok. Tres ministros del gobierno alertaron a la justicia sobre publicaciones “manifiestamente ilegales”. En un comunicado público, el Estado francés recordó que “los delitos sexuales en Internet son tan criminales como fuera de él”.

India

El Ministerio de Tecnología de la Información exigió a X que retirara el contenido ilegal en 72 horas y reestructurara la gobernanza técnica de Grok. Concluido ese tiempo, no hubo comunicación pública de acciones concretas. India denunció una “grave falta de medidas para asegurar la decencia digital”.

Malasia

El regulador de comunicaciones está investigando a usuarios de X por contenido obsceno y ofensivo generado por inteligencia artificial. Planean citar a representantes de la red social para que expliquen el uso inadecuado de herramientas como Grok.

Brasil

La diputada transgénero Erika Hilton presentó denuncias ante la fiscalía federal y el órgano de protección de datos. Afirmó que Grok permite “reemplazar la ropa de mujeres y niñas por bikinis o vestimentas eróticas con sólo comandos de texto”. Hilton exigió oficialmente la desactivación de Grok hasta que haya una investigación profunda.

El dilema ético de la IA generativa: ¿quién es el responsable?

El caso Grok es uno de los más emblemáticos del debate global sobre los límites de la inteligencia artificial. Si bien estas herramientas son técnicamente asombrosas, también pueden alimentar una cultura de abuso, acoso e impunidad cuando se diseñan sin responsabilidad.

Como explica la investigadora Kate Darling del MIT: “Las herramientas no son neutrales. Una IA sin filtros reproduce y potencia los sesgos y las intenciones de quienes la usan. Pero también de quienes la diseñan”.

La falta de un marco regulatorio común a nivel internacional deja un vacío peligroso. Si bien existen buenas intenciones —como las líneas propuestas por la OCDE o las recomendaciones de UNESCO—, ninguna tiene carácter obligatorio. Además, cuando las grandes tecnologías enfrentan sanciones en un país, simplemente cambian de jurisdicción.

¿Hacia una “ley Grok”? Posibles consecuencias para el futuro de la tecnología

Las imágenes profundas, generadas por IA, son hoy uno de los desafíos más grandes de la regulación digital. Lo que antes requería horas de edición con Photoshop, ahora puede hacerse en segundos con un simple comando. Y cuando se cruza la línea del consentimiento, la reputación personal, la dignidad humana y la infancia quedan en el centro del fuego cruzado.

Especialistas legales, como Ronald Orol de la Universidad George Washington, alertan sobre la necesidad urgente de crear marcos legales para deepfakes en todos los niveles. “Ya no se trata solo de difamación visual, sino de una nueva forma de violencia digital”, afirma.

La presión internacional podría derivar en una suerte de “Ley Grok” global, un pacto entre países —inicialmente del entorno de la Unión Europea— para prohibir o limitar los generadores de imágenes que vulneren derechos fundamentales sin consentimiento. Al igual que ocurrió con la lucha mundial contra la pornografía infantil en internet, el reto es técnico, pero también moral.

Elon Musk y la paradoja libertaria de la IA

Musk ha construido parte de su fama defendiendo la libertad total de expresión y la descentralización del control sobre la tecnología. Sin embargo, el caso Grok pone a prueba estos principios. Cuando permitir todo implica dar lugar a la explotación visual de niños o la denigración de mujeres en redes públicas, la línea del discurso ético se vuelve borrosa.

Activistas, legisladores y ciudadanos del mundo se lo están haciendo saber. Y si no hay cambios profundos, el costo social —y reputacional— para Musk y sus empresas podría crecer exponencialmente en los próximos meses.