Chatbots eróticos: ¿libertad digital o riesgo social?

Un nuevo camino para la inteligencia artificial

Los chatbots sexuales ya no son solo ciencia ficción ni terreno exclusivo de plataformas marginales. OpenAI, la empresa responsable de ChatGPT, anunció que permitirá contenido erótico en su IA para adultos verificados, marcando un giro importante respecto a su política inicial de censura moderada. Según su CEO, Sam Altman, esto responde a una visión más flexible sobre las restricciones de contenido: “No somos la policía moral del mundo”.

La declaración generó revuelo. Aunque no es la primera compañía en explorar la sexualización de la IA, sí es la más visible y poderosa. Con una valoración de 500.000 millones de dólares, OpenAI trata de encontrar nuevas formas de rentabilidad, y el sexo —como Internet nos lo ha demostrado desde sus inicios— siempre vende.

Del tabú al negocio: la historia del contenido sexual en la IA

Desde el auge de herramientas como Stable Diffusion y Midjourney en 2022, la posibilidad de generar imágenes eróticas e incluso pornográficas con texto se volvió una función deseada por muchos usuarios. El arte sintético sexual se disparó en plataformas como Civitai, que permitía contenido erótico hasta que las presiones legales y sociales forzaron restricciones.

Justin Maier, CEO de Civitai, explica que los modelos entrenados con contenido para adultos eran técnicamente más competentes para reproducir anatomía humana:

“El entrenamiento con temas maduros hacía que los modelos fueran más capaces anatómicamente y resultaban en modelos de mayor calidad.”

El lado lucrativo del amor digital

Según investigaciones del laboratorio de políticas chinas de la Universidad de Oxford, ya existen más de 29 millones de usuarios activos de chatbots diseñados específicamente para vínculos románticos o sexuales. La investigadora Zilan Qian explica:

“No se trata solo de conversaciones sexuales. Las personas buscan llenar vacíos emocionales, y los chatbots les ofrecen una relación sin rechazo ni conflictos.”

Esto no solo aplica a pequeñas startups experimentales. Meta, por ejemplo, ya trabaja en asistentes virtuales con personalidades que flirtean. Elon Musk, mediante su red X (antes Twitter), presentó su chatbot “Grok”, conocido por interactuar de manera coqueta con suscriptores de pago.

El peligro de la hiperpersonalización sin límites

Un chatbot que responde siempre, que te entiende, no se cansa y no contradice tus deseos, puede parecer el compañero ideal. Pero la psicología humana es compleja, y los expertos están alarmados. Qian advierte que muchos usuarios desarrollan vínculos de dependencia emocional con las IA, lo cual puede dañar sus relaciones humanas reales:

“Lo que me preocupa es el costo personal y social cuando chatbots diseñados para complacer rompen la barrera entre lo digital y lo íntimo.”

Los riesgos no son solo emocionales. OpenAI y otras empresas enfrentan demandas legales por casos donde adolescentes sostuvieron interacciones con chatbots que derivaron en suicidio. A pesar de que OpenAI promete implementar límites de edad y filtros de seguridad para menores, la rápida evolución de este mercado hace difícil mantener el control total.

Entre el arte, el placer y la ética

El asunto no se limita solo a un dilema empresarial. Existen cuestiones éticas profundas:

• ¿Qué sucede con los deepfakes pornográficos de celebridades o personas reales?
• ¿Qué mecanismos deben existir para asegurar el consentimiento en entornos donde las imágenes son sintéticas?
• ¿Qué efectos tiene esta tecnología en jóvenes que están formando su identidad afectiva y sexual?

Frente a esta complejidad, algunas empresas están tomando medidas. Meta, por ejemplo, anunció que los perfiles adolescentes verán solo contenido PG-13 de forma predeterminada, tanto en Instagram como en sus chats con IA. Además, los padres podrán bloquear chats con algunos bots y recibir informes parciales sobre las conversaciones.

Sin embargo, críticos como Josh Golin, director de la organización Fairplay, señalan que estas medidas tienen más que ver con evitar legislación incómoda que con una genuina preocupación por el bienestar infantil:

“Estas acciones intentan calmar la opinión pública mientras las plataformas se llenan de contenidos peligrosos.”

Chatbots sexuales, una fantasía antigua

La idea de enamorarse de una máquina inteligente no es nueva. Desde el mito de Pigmalión en la Antigua Grecia hasta películas como Her (2013) o Ex Machina, la fascinación por relaciones humano-máquina ha sido tratada como una advertencia o una fantasía irresistible.

La diferencia actual es que ya no es ficción. Los chatbots sexuales existen, mejoran constantemente y pueden hablar contigo ahora mismo.

¿Libertad o regulación?

Sam Altman describió la nueva dirección de OpenAI como un intento de replicar los límites que ya existen en otras artes:

“Así como la sociedad diferencia los límites apropiados para películas R-rated, queremos hacer algo similar aquí.”

Pero crear una IA erótica no es como hacer una película. Es una experiencia interactiva, íntima y personalizada en tiempo real. ¿Necesitamos solo etiquetas de edad, o un debate más profundo sobre el impacto de estas tecnologías?

El sociólogo Sherry Turkle, quien ha estudiado durante décadas la relación entre humanos y tecnología, dijo en una entrevista reciente:

“Estamos creando una generación de personas emocionalmente dependientes de máquinas que nunca les dirán que no.”

Como sociedad, nos encontramos ante una disyuntiva histórica. ¿Deberíamos celebrar esta nueva libertad como un paso hacia la evolución del deseo humano y la expresión digital? ¿O estamos abriendo la caja de Pandora hacia una erosión de nuestras conexiones reales?

¿Qué sigue?

La apuesta de OpenAI por ampliar el papel emocional y sexual de su IA puede generar muchísimos ingresos, pero también abre preguntas incómodas sobre límites, regulación y el alma humana en la era digital.

El debate solo acaba de comenzar.