La peligrosa aceleración de la IA: ¿Está OpenAI sacrificando la realidad por la innovación?

La carrera imparable de la inteligencia artificial

La industria tecnológica se ha caracterizado durante décadas por su mantra informal de "moverse rápido y romper cosas". Este enfoque, que alguna vez se aplicó al desarrollo web o a apps móviles, ahora se extiende a los márgenes sensibles de la realidad misma: la representación fidedigna de nuestras vidas, rostros y voces.

Con el lanzamiento de Sora 2 por parte de OpenAI, la creación de videos generados por inteligencia artificial ha alcanzado una nueva y alarmante notoriedad. Esta herramienta permite generar imágenes en movimiento basadas únicamente en descripciones textuales, lo que ha derivado en una oleada de viralización en redes sociales como TikTok, X, Instagram y Facebook.

Desde una falsa grabación de cámara de timbre mostrando a una serpiente gigantesca en un porche, hasta montajes ridículos como la Reina Isabel II rapeando, el contenido generado por Sora 2 ha demostrado ser tanto hilarante como inquietante.

¿Dónde está el límite del entretenimiento?

Aunque muchos de estos videos caen claramente en la categoría de entretenimiento absurdo, otros plantean preguntas éticas más profundas. Un nuevo género que ha cobrado popularidad involucra la creación de escenas hiperrealistas que representan violencia leve, como abuelas golpeando con escobas a animales salvajes o imágenes inquietantes de personas siendo perseguidas por criaturas imposibles.

El problema surge cuando la línea entre la recreación inocente y el daño ético se difumina. La creación de deepfakes (videos falsos realistas) involuntarios o no consensuados está generando rechazo desde múltiples sectores: asociaciones defensoras de derechos civiles, académicos y ahora también ONG como Public Citizen.

Una carta abierta con peso político

Public Citizen envió una carta oficial a Sam Altman, CEO de OpenAI, en la que expresa su profunda preocupación por lo que denominan una "pauta peligrosa de lanzamientos apresurados" de productos mal testeados y sin las debidas salvaguardas. También enviaron dicha carta al Congreso de los Estados Unidos, marcando el inicio de lo que podría convertirse en una batalla legislativa por la regulación de la IA generativa.

“Nuestra mayor preocupación es la amenaza potencial que representa para la democracia”, declaró J.B. Branch, defensor de políticas tecnológicas de Public Citizen. Según Branch, estamos entrando a una era en la que el ciudadano promedio ya no podrá confiar en nada de lo que ve en redes sociales o en medios informativos.

La inconsistencia de OpenAI ante las protestas

OpenAI ha cedido en parte a las críticas y ha retirado contenido que involucra a figuras públicas como Michael Jackson, Martin Luther King Jr. y Mister Rogers, pero únicamente después del enojo de familiares, sindicatos de actores y representantes legales.

El problema de fondo, argumenta Branch, es que esta intervención reactiva beneficia únicamente a personas con influencia o fama. “Eso está bien si eres famoso”, comenta. “Pero la mayoría de las personas no cuentan con un equipo legal que vigile el mal uso de su imagen en plataformas de IA.”

Sora 2 y el impacto desigual sobre las mujeres

Más alarmante aún es el aluvión de contenido generado por usuarios que victimiza a mujeres. La plataforma bloquea desnudez explícita, pero según reportes de medios como 404 Media, ha aparecido contenido generado por Sora representando a mujeres siendo estranguladas o involucradas en fetiches no consensuados.

Branch advierte que las poblaciones más vulnerables — mujeres, niños y minorías — están expuestas a un nivel de cosificación y acoso sin precedentes al no poder controlar cómo sus imágenes y cuerpos son utilizados por algoritmos.

Lanzamientos globales, respuestas locales

Sora debutó en iOS hace unas semanas y su versión para Android se lanzó la semana pasada en países como Japón, Corea del Sur, Canadá y Estados Unidos. No obstante, las críticas más articuladas provienen especialmente de la industria del entretenimiento, en particular el sector manga y anime japonés.

Estudios como Studio Ghibli y empresas como Bandai Namco y Square Enix señalaron que la IA permite a fanáticos crear escenas nuevas con personajes famosos sin respetar derechos autorales. OpenAI respondió declarando que ha instituido restricciones para evitar el uso de personajes protegidos, aunque muchos creen que estas salvaguardas llegan tarde.

“Estamos dialogando directamente con estudios y propietarios de derechos,” aseguró OpenAI en un comunicado. “Estamos aprendiendo cómo las personas utilizan Sora 2, especialmente en Japón, donde la cultura creativa es muy valorada.”

GPT-4o y las consecuencias psicológicas de la IA

Sora no es el único producto bajo fuego cruzado. ChatGPT, la herramienta insignia de OpenAI, recibió siete demandas en tribunales de California la semana pasada. Las demandas alegan que una versión anterior del chatbot, GPT-4o, “provocó delirio, adicción psicológica y, en cuatro casos, suicidios”.

Estos casos fueron presentados por el Social Media Victims Law Center y el Tech Justice Law Project, destacando que OpenAI ignoró advertencias internas sobre el carácter manipulador de su IA antes de lanzarla.

IA sin frenos: innovación a cualquier costo

La organización Public Citizen, ajena a estas demandas, ve conexiones claras entre esos reclamos legales y la rápida liberación de Sora. Branch afirma que parece haber una estrategia empresarial muy clara:

“Poner el pie en el acelerador, sin importar el daño. Prefieren lanzar el producto, crear adicción, generar millones de descargas, y luego pedir disculpas. Ese patrón es evitable: muchas de estas fallas son decisiones de diseño que podrían corregirse antes del lanzamiento.”

¿Podremos confiar en lo que vemos?

Por ahora, la capacidad de la IA para manipular videos y representaciones visuales amenaza con alterar profundamente nuestro concepto de realidad. Lo que hoy parece una simple muestra de “slop de IA” —como se ha denominado al contenido inútil pero viral—, mañana podría ser un factor clave en campañas políticas, estrategias de desinformación y manipulación psicológica.

En una época donde el primer video que vemos es el que determina nuestra percepción de los hechos, la existencia de herramientas tan potentes como Sora 2 sin regulaciones firmes se convierte en una amenaza directa a la democracia, la privacidad y la estabilidad mental de millones de usuarios.

La cuestión, como plantea Branch, no es si la tecnología per se es peligrosa, sino cuán irresponsables son quienes la despliegan sin salvaguardas en su ambición de dominar el mercado a cualquier precio.