Cuando los algoritmos están en el banquillo: el juicio de Nuevo México que busca rediseñar las redes sociales para proteger a la infancia

El debate sobre los efectos de las redes sociales en la salud mental y la seguridad de niños y adolescentes ha dejado de ser teórico para convertirse en un pleito judicial con implicaciones prácticas: Nuevo México ha puesto en marcha un juicio que no sólo reclama sanciones económicas, sino que exige cambios técnicos y de diseño en plataformas como Instagram y Facebook.

Un juicio que va más allá de indemnizaciones

En la primera fase de este proceso, un jurado determinó que Meta —la empresa matriz de Instagram, Facebook y WhatsApp— ocasionó perjuicios a menores y le impuso una multa civil significativa. Pero la segunda fase, en curso, eleva la apuesta: el estado busca órdenes judiciales que obliguen a la compañía a rediseñar funciones y algoritmos para reducir el riesgo de adicción, mejorar la verificación de edad y prevenir la explotación sexual infantil.

Lo novedoso del caso no es únicamente la cuantía o la acusación de daños psicológicos, sino que se persiguen remedios estructurales. Entre las medidas reclamadas figuran la limitación o modificación de funciones como el "infinite scroll" (desplazamiento infinito), la gestión por defecto de la privacidad en cuentas infantiles, la eliminación de conteos públicos de "likes" y el establecimiento de cuentas infantiles vinculadas a un padre, madre o tutor legal, además de la supervisión externa del cumplimiento por un monitor designado por la corte.

¿Por qué los algoritmos?

Los fiscales sostienen que los algoritmos de recomendación, diseñados para maximizar el tiempo de atención y el compromiso del usuario, han contribuido a patrones de consumo compulsivo entre adolescentes. El mecanismo es sencillo en su lógica de negocio: cuanto más tiempo pasa un usuario en la app, mayor es la exposición a publicidad y contenido, y por tanto la monetización. Sin embargo, ese diseño puede generar efectos colaterales en la salud mental de usuarios jóvenes, según expertos en psiquiatría y educación que testificaron en la primera fase del juicio.

Solicitar judicialmente la modificación de algoritmos es, en la práctica, intentar reconfigurar la lógica que sostiene modelos de negocio enteros. Los fiscales argumentan que cuando esa lógica daña a un grupo vulnerable —en este caso, menores— el Estado puede intervenir para exigir ajustes razonables.

Resistencia técnica y constitucional

Meta advierte que muchas de las medidas solicitadas son impracticables desde el punto de vista técnico o que entrarían en conflicto con principios de libertad de expresión. Ejecutivos y expertos técnicos que la compañía planea presentar como testigos sostienen que imponer reglas generales de diseño podría obligar a ignorar "las realidades de Internet" y crear problemas operativos y jurídicos de alcance indefinido.

Además, Meta alega que una orden que afecte cómo se muestra, recomienda o organiza contenido podría ser interpretada como una regulación del discurso, con potenciales tensiones frente a derechos constitucionales. En ese sentido la defensa no sólo niega responsabilidad por daños, sino que invoca protecciones derivadas de la libertad de expresión y de la naturaleza dinámica y diversa de las plataformas digitales.

La cuestión legal: ¿nuisance aplicado a la web?

El caso se fundamenta en una figura del derecho estatal conocida como "public nuisance" (molestia pública), que tradicionalmente se ha usado para regular usos de la propiedad o actividades que ponen en riesgo la salud o la seguridad públicas. Aplicarla a un servicio de Internet y, más aún, a las reglas algorítmicas de una plataforma, plantea preguntas inéditas sobre el alcance de esa doctrina en la era digital.

Eric Goldman, co-director del High Tech Law Institute de la Santa Clara University School of Law, señaló que la aplicación de la teoría de nuisance al internet es una expansión no habitual y que existen incertidumbres sobre cómo encajaría con precedentes legales. Aun así, la acción de Nuevo México abre una vía práctica para exigir cambios más allá de compensaciones monetarias por daños.

Contexto más amplio: una ola de demandas estatales

El litigio en Nuevo México no es aislado. Más de 40 fiscales estatales han presentado demandas con argumentos parecidos sobre la contribución de grandes plataformas tecnológicas a una crisis de salud mental juvenil. Aunque muchos de esos casos se tramitan en cortes federales, Nuevo México ha elegido una vía estatal que le permite pedir remedios específicos sobre el diseño y la operación de las apps.

Un elemento central en la discusión es la conocida Sección 230 de la Ley de Decencia en las Comunicaciones de EE. UU. (Communications Decency Act), aprobada en 1996, que históricamente ha protegido a plataformas frente a responsabilidad por la mayoría del contenido que alojan. Expertenes legales observan que estos intentos de responsabilizar a las plataformas por daños atribuibles al funcionamiento de sus sistemas interpretan de manera distinta los límites de esas protecciones y evalúan la posibilidad de imponer obligaciones de diligencia tecnológica.

Para quien quiera consultar la ley y su historia, una referencia útil es la colección de documentos legales y análisis académicos sobre la Sección 230 (por ejemplo, fuentes académicas y repositorios jurídicos como la biblioteca de la Cornell Law School: https://www.law.cornell.edu/wex/section_230).

Medidas concretas propuestas y sus desafíos

• Modificar algoritmos de recomendación: exigir que los sistemas prioricen bienestar y no solo enganche. Desafío: definir parámetros técnicos medibles y verificables que obliguen a un algoritmo a recomendar menos contenido "adictivo" sin perjudicar la utilidad general.
• Bloquear funciones compulsivas: como el desplazamiento infinito y las notificaciones push agresivas. Desafío: la experiencia de uso cambiaría drásticamente, y muchas apps replican estos patrones.
• Verificación de edad: exigir métodos fiables para comprobar que un usuario es realmente adulto. Desafío: lograr balance entre protección y privacidad, y evitar mecanismos que resulten invasivos o discriminatorios.
• Control parental y cuentas vinculadas: que las cuentas infantiles estén asociadas a un adulto responsable. Desafío: implementar esto a escala global en entornos donde las normas familiares y legales varían ampliamente.
• Supervisión judicial o por terceros: nombrar un monitor para evaluar el cumplimiento. Desafío: establecer métricas, transparencia y recursos técnicos suficientes para auditar algoritmos.

Implicaciones para la industria y la sociedad

Si un tribunal estatal ordena cambios efectivos en diseño y algoritmos, el precedente puede empujar a otras jurisdicciones a reclamar requisitos similares. Eso podría llevar a una fragmentación del internet por jurisdicción —donde ciertas funciones operan distinto según la región— o, por el contrario, a que las grandes plataformas adopten estándares globales más protectores para evitar múltiples litigios y sanciones.

Más allá del futuro regulatorio, la discusión trae al primer plano un debate moral y social: ¿hasta qué punto las innovaciones cuidadosamente diseñadas para captar la atención deben ser reguladas cuando afectan a población vulnerable? ¿Es razonable esperar que empresas privadas internalicen costos sociales derivados de modelos de negocio que monetizan la atención?

Lo que está en juego para las familias

Para padres, educadores y profesionales de la salud pública, el juicio es más que una disputa legal: representa una oportunidad para que el diseño tecnológico incorpore criterios de protección infantil por defecto. Estudios y encuestas recientes muestran preocupaciones crecientes: por ejemplo, encuestas de salud mental juvenil en varios países reflejan aumentos en ansiedad y problemas de sueño asociados al uso intensivo de pantallas, aunque la relación causal directa sigue siendo objeto de investigación científica.

Los defensores de la protección infantil piden soluciones pragmáticas —mejores controles parentales, transparencia sobre cómo funcionan las recomendaciones y límites en la publicidad dirigida a menores— que no dependan solo de la buena voluntad empresarial, sino de marcos regulatorios claros.

Una batalla legal que definirá normas digitales

El desenlace del juicio en Nuevo México podría marcar un hito: si un tribunal ordena cambios de diseño y supervisión, se abriría una nueva etapa en la que la arquitectura de las plataformas dejaría de ser territorio exclusivamente corporativo para pasar a estar sujeta a mandatos públicos orientados a la protección de derechos básicos—en este caso, la salud y la seguridad de los menores.

Sea cual sea la decisión judicial, el proceso ya ha puesto sobre la mesa una discusión imprescindible: la necesidad de pensar la tecnología no solo como producto de mercado sino como infraestructura social cuya configuración tiene consecuencias reales para el bienestar colectivo. En ese sentido, el verdadero legado de este juicio podría no ser una multa ni una orden puntual, sino el impulso para repensar cómo se diseñan las interfaces y algoritmos que definen la experiencia digital de las nuevas generaciones.

Imagen relacionada: grabación de la deposición de Mark Zuckerberg mostrada en el juicio (fuente de archivo).