Cuando la moderación falla: el choque entre TikTok y las normas sobre la monarquía en Malasia

La disputa reciente entre la Comisión de Comunicaciones y Multimedia de Malasia y TikTok revela con nitidez problemas estructurales en la gobernanza de plataformas: rapidez en la difusión, herramientas de manipulación (como contenidos generados por IA) y un marco legal local que demanda respuestas inmediatas. El regulador malasio afirmó que ciertos materiales eran “grossly offensive, false, menacing and insulting” hacia la institución real; en consecuencia emitió un requerimiento legal a TikTok para que explique su actuación y adopte medidas inmediatas.

Por qué este conflicto importa más allá de un país

Vivimos en una era donde una pieza de contenido puede viralizarse en minutos y alcanzar audiencias masivas sin pasar por filtros humanos significativos. Las plataformas globales, por su diseño, priorizan la escala y el tiempo real: algoritmos que maximizan la atención no siempre distinguen entre crítica legítima, sátira y campañas organizadas de desinformación. Cuando el blanco es una institución sensible —como la corona en algunos países— el resultado potencialmente trasciende el daño reputacional y puede poner en riesgo el orden público y la estabilidad social.

En el caso malasio, la comunicación oficial del regulador subrayó que los mensajes y los videos manipulados atacaban a la institución real y que tales ataques tocan “cuestiones sensibles de raza, religión y realeza”, que pueden minar la armonía nacional y el respeto a instituciones constitucionales. Esa categorización no es retórica: en muchos países del sudeste asiático las leyes protegen explícitamente la figura de la realeza y castigan la difamación a figuras estatales.

La moderación: ¿herramienta tecnológica o responsabilidad pública?

TikTok, plataforma que se volvió central en la vida pública mundial y que en 2021 informó haber superado los 1.000 millones de usuarios activos al mes (TikTok newsroom, 2021), ofrece un desafío doble. Por un lado, su infraestructura técnica le permite detectar patrones de abuso y remover contenido. Por otro, su escala exige decisiones políticas: ¿qué priorizar y en qué plazo? El regulador malasio señaló que, pese a notificaciones y diálogos previos, la respuesta de la compañía fue insuficiente y lenta; por ello la empresa recibió una notificación legal que exige explicaciones y cambios en sus mecanismos de moderación.

La pregunta clave es si una plataforma global puede o debe aplicar una moderación uniforme o si hay que adaptar sus criterios a los marcos legales y culturales de cada país. La respuesta práctica está en algún punto intermedio: los estándares comunitarios sirven como marco, pero las plataformas deben acoplarse a las obligaciones legales locales —especialmente cuando se trata de delitos contemplados en la ley del país— e implementar canales de respuesta rápida para contenidos que revisten riesgo real para la seguridad pública.

Desinformación, deepfakes y el problema de la velocidad

El uso de videos generados por inteligencia artificial y de imágenes manipuladas complica la moderación. Estas técnicas permiten crear material aparentemente convincente que puede ser difundido por cuentas reales o falsas, amplificadas por redes de bots o cuentas organizadas. Una vez que un deepfake se viraliza, su corrección no borra su impacto inmediato: la agenda pública ya se ha movido.

En la práctica, las plataformas enfrentan tres limitaciones: detección imperfecta (los modelos no son infalibles), escalabilidad (millones de publicaciones por día) y decisiones normativas sobre límites a la libertad de expresión. Por eso los reguladores, cada vez con más frecuencia, exhortan o presionan a estas plataformas a reforzar la detección proactiva y a acelerar los procesos de remoción cuando el contenido viola leyes nacionales o incita al desorden.

Responsabilidad compartida: gobiernos, empresas y sociedad

El caso de Malasia pone en evidencia la necesidad de una responsabilidad compartida:

• Gobiernos: deben definir marcos legales claros y proporcionales, que distingan entre crítica legítima y ataques dañinos, y ofrecer canales legales transparentes para exigir cumplimiento a las plataformas.
• Plataformas: necesitan sistemas de moderación que combinen IA y revisión humana, protocolos de respuesta rápida ante notificaciones oficiales y mejores herramientas para detectar manipulación multimedia.
• Ciudadanos y periodistas: requieren alfabetización mediática para identificar y desacreditar contenidos manipulados, además de denunciar activamente abusos y campañas de desinformación.

Sin colaboración entre estos actores, el resultado suele ser polarización, litigios transfronterizos y erosión de la confianza pública en instituciones y en los canales informativos digitales.

¿Qué medidas concretas pueden y deben aplicarse?

Algunas medidas prácticas que surgen de este debate y que podrían implementarse tanto a nivel de plataforma como de política pública son:

1. Protocolos de notificación prioritaria: canales oficiales registrados que permitan a los reguladores notificar a la plataforma con criterios claros y plazos exigibles.
2. Equipos locales y moderación contextual: moderadores humanos ubicados o formados en la región que entiendan matices culturales y legales.
3. Etiquetado de contenido manipulado: cuando no sea posible retirar de inmediato, añadir avisos visibles que indiquen la probabilidad de manipulación y enlacen a verificaciones.
4. Auditorías y transparencia: informes públicos periódicos sobre solicitudes gubernamentales de remoción, tiempos de respuesta y resultados, para medir cumplimiento.
5. Cooperación público-privada: ejercicios de simulación y mesas de trabajo para diseñar respuestas ante crisis informativas que involucren instituciones sensibles.

Riesgos y derechos: el límite entre seguridad y censura

Hay un punto delicado: la protección del orden público no debe convertirse en pretexto para censurar la disidencia o silenciar voces críticas. El reto regulatorio consiste en garantizar que las medidas sean proporcionales, sujetas a control judicial y transparentes. En democracias saludables, toda restricción a la expresión debe cumplir con criterios claros: legalidad, necesidad y proporcionalidad.

En este sentido, la transparencia es esencial. Cuando un regulador exige la eliminación de contenidos, los ciudadanos deben saber qué norma se invocó y cómo se justificó la decisión. Del mismo modo, las plataformas deben publicar datos sobre solicitudes de remoción y sus criterios de evaluación.

Lecciones para otros países y plataformas

El choque entre la Comisión malaya y TikTok es una señal de alerta global: las plataformas no pueden sostener un modelo de actuación reactivo ante contenidos que amenacen la estabilidad o vulneren normas locales. Tampoco es viable que los estados exijan simplemente la eliminación sin ofrecer un marco legal claro y mecanismos de rendición de cuentas.

Algunas lecciones prácticas:

• Las plataformas deben invertir en detección de manipulaciones multimedia y en equipos locales capaces de evaluar contexto cultural y legal.
• Los reguladores deben preparar criterios claros y canales ágiles de comunicación, evitando medidas arbitrarias que erosionen derechos.
• La sociedad civil debe participar en la vigilancia y en la exigencia de transparencia, para equilibrar seguridad y libertad de expresión.

Como afirmó el regulador malasio en su comunicado: “These matters fall within the sensitive issues of race, religion and royalty which are highly sensitive and may undermine public order, national harmony and respect for constitutional institutions” (Commission statement). Esa frase resume el punto de fricción: cuando la viralidad digital choca con sensibilidades históricas y legales, se exige una gobernanza más madura y articulada.

Finalmente, más allá de medidas técnicas o legales, la solución tiene una dimensión social: fomentar una cultura digital donde la verificación, la responsabilidad individual y el respeto institucional sean valores compartidos. Sin eso, ni los algoritmos ni las leyes bastarán para contener los daños de la era de la desinformación.