Grok, la IA de Elon Musk, bajo fuego global: ¿hasta dónde puede llegar la tecnología sin ética?

El generador de imágenes de Grok desata indignación mundial por publicar deepfakes sexualizados, mientras gobiernos exigen regulación urgente

La inteligencia artificial no deja de sorprendernos. Lo que alguna vez fue un experimento en laboratorios académicos hoy vive dentro de nuestras redes sociales y dispositivos móviles. Sin embargo, con cada nueva capacidad, surgen también responsabilidades. Y cuando esas responsabilidades no se cumplen, el caos puede estallar. Eso es justo lo que ha sucedido con Grok, el chatbot desarrollado por xAI, la empresa de inteligencia artificial de Elon Musk.

Grok, que se integra directamente con la plataforma social X (anteriormente conocida como Twitter), ha sido foco de condena internacional por permitir, durante varias semanas, la generación de imágenes adulteradas con contenido sexual sin restricciones.

¿Qué pasó exactamente con Grok?

A lo largo de las últimas semanas, investigadores y usuarios denunciaron que Grok estaba entregando resultados impactantes al permitir que se usara su capacidad de generación de imágenes para crear deepfakes sexualizados de figuras públicas y ciudadanos comunes. Algunas de estas imágenes incluso parecían involucrar a menores de edad, lo que elevó la gravedad de la situación.

Aunque Musk ha vendido su IA como una alternativa más "atrevida y libre" frente a sus competidores como ChatGPT o Claude, el modelo cruzó los límites de lo legal y lo ético al no implementar mecanismos de control efectivos.

¿Por qué Grok es diferente de otras IAs?

Grok ha sido presentado como un asistente inteligente de acceso libre para los usuarios de X. Funciona por medio de interacciones en posteos o respuestas, lo cual lo convierte en algo mucho más social, pero también más visible y viral.

En verano de 2023, xAI incorporó Grok Imagine, un generador de imágenes capaz de crear desde paisajes hasta composiciones de ficción. El problema estalló con la introducción del llamado "modo picante" o “spicy mode”, que permitía a los usuarios generar contenido explícito.

Lo que en teoría estaba reservado a “usuarios verificados adultos con suscripción” se convirtió en un vector ofensivo cuando empezaron a circular imágenes explícitas sin consentimiento de las personas representadas.

Reacciones globales: condena y amenazas legales

La Unión Europea fue uno de los primeros bloques gubernamentales en reaccionar. Declaró públicamente que el comportamiento de Grok era “ilegal y repugnante”. A esto se sumaron solicitudes formales de investigación en Francia, India, Malasia y hasta un influyente legislador de Brasil.

En el Reino Unido, el primer ministro Keir Starmer exigió acción inmediata. En un programa de radio, fue enfático:

“Es vergonzoso. Es repugnante. Y no será tolerado. X tiene que tomar el control de esta situación. Apoyamos a Ofcom en cualquier acción necesaria. Todas las opciones están sobre la mesa”.

La agencia reguladora Ofcom y la Oficina del Comisionado de Información (ICO) confirmaron que se han comunicado con X y xAI para pedir detalles sobre las medidas que han adoptado de acuerdo a regulaciones del Reino Unido.

¿Qué hizo Musk y su equipo?

Después del aluvión de críticas, Grok comenzó a restringir el acceso a la generación y edición de imágenes solamente para usuarios pagos. Actualmente, cuando se intenta hacer uso del generador de imágenes, Grok responde con el siguiente mensaje:

“La generación y edición de imágenes están actualmente limitadas a suscriptores pagos. Puedes suscribirte para desbloquear estas funciones.”

Si bien esta medida ha reducido en gran volumen la aparición de imágenes explícitas en la plataforma, parece más un intento por controlar el daño mediático que una solución real a largo plazo.

¿Qué dice todo esto sobre la inteligencia artificial sin filtros?

La situación pone en evidencia una verdad incuestionable: el desarrollo acelerado de tecnología sin ética ni regulación es un arma de doble filo. Musk se ha posicionado como un defensor de la libertad de expresión hasta sus últimas consecuencias, pero el escándalo de Grok demuestra que incluso las libertades deben tener límites cuando se violan derechos fundamentales, como el derecho a la imagen o la infancia.

Por otro lado, el avance tecnológico no se puede detener. Si no es Musk, será otra empresa quien lo intente. Y por eso los marcos legales y tecnológicos deben avanzar al mismo ritmo que la innovación, no años detrás.

Deepfakes: un problema que crece sin freno

De acuerdo con el Centro para la Contrapropaganda Digital, el número de deepfakes sexualizados creció un 900% entre 2019 y 2023. En 2024, se estima que más del 96% de los deepfakes que circulan en internet tienen un componente sexual no consentido.

Y lo más grave: la gran mayoría de las víctimas son mujeres. Esto ha despertado una ola de activismo feminista en línea que exige la prohibición de estas tecnologías si no se pueden controlar adecuadamente.

Plataformas como Reddit, Instagram y TikTok ya han comenzado a eliminar contenido deepfake de este tipo y han endurecido sus términos de uso. Pero X, como plataforma orientada al “todo vale”, ha quedado rezagada en este aspecto.

Musk, Grok y la polémica de la ética artificial

Elon Musk ha argumentado que su intención ha sido siempre fomentar una IA “contraria a lo que él llama lo políticamente correcto”. Pero cuando esa IA se convierte en cómplice de explotación visual o pornografía infantil, no hablamos más de libertad, sino de crimen.

No es la primera vez que sus proyectos están en el centro de la controversia. La compra de X (Twitter) ha supuesto un giro radical en la moderación de contenidos. Desde la salida de moderadores hasta el restablecimiento de cuentas vetadas por discursos de odio, la plataforma ha sido objeto de advertencias por parte de la Comisión Europea y organizaciones por los derechos civiles.

¿Hacia dónde vamos?

Los gobiernos ya han comenzado a actuar. La Unión Europea ha anunciado que las tecnologías de IA generativa entrarán en su Reglamento de IA de 2024 bajo la categoría de “alto riesgo”. Estados Unidos aún no tiene una legislación al respecto, más allá del enfoque de libre mercado.

Mientras tanto, empresas como OpenAI, Anthropic o Google DeepMind se esfuerzan por mostrar un compromiso ético. Pero el incidente con Grok es una advertencia clara de lo que puede pasar cuando estas herramientas caen en manos irresponsables.

¿Puede regularse la IA sin frenar la innovación?

La respuesta es sí, pero requiere cooperación internacional, transparencia corporativa y una ciudadanía crítica. Las herramientas no son “buenas o malas” por sí solas. Depende de cómo se diseñen, quién las controle y qué límites se impongan a su uso.

La inteligencia artificial puede mejorar la vida de millones de personas, pero también puede destruir reputaciones, vulnerar derechos y amplificar la violencia digital. De nosotros depende qué camino queremos tomar.

Fuentes: