El nuevo panel científico de la ONU sobre inteligencia artificial: ¿regulación global, riesgo político o esperanza técnica?

La votación de la Asamblea General de las Naciones Unidas que aprobó la creación de un panel científico global de 40 miembros dedicado a estudiar los impactos y riesgos de la inteligencia artificial (IA) ha reabierto un debate clave: ¿puede y debe la comunidad internacional articular un marco técnico-científico que oriente políticas públicas y regulaciones sobre tecnologías que avanzan con gran rapidez y alto impacto social?

Un paso institucional con resonancia política

El Secretario General de la ONU, Antonio Guterres, propuso y respaldó la formación de este panel, presentado como «el primer órgano científico global plenamente independiente» con la misión de evaluar impactos socioeconómicos y riesgos reales de la IA y de cerrar la brecha de conocimiento entre estados con distintas capacidades tecnológicas. La Asamblea General aprobó la creación con un voto abrumador: 117 a favor, 2 en contra (Estados Unidos y Paraguay) y 2 abstenciones (Ucrania y Túnez).

La votación no sólo refleja apoyo mayoritario, sino que además evidencia la tensión geopolítica que acompaña la gobernanza de la IA. Países tradicionalmente alineados con Estados Unidos, así como potencias emergentes y numerosos países en desarrollo, votaron a favor; mientras que Washington planteó objeciones formales sobre la idoneidad de la ONU para «dictar» gobernanza tecnológica y sobre el proceso de selección de los expertos.

¿Qué es exactamente el panel y quiénes lo integran?

Según la resolución aprobada y las declaraciones oficiales de la Secretaría, el panel estará compuesto por 40 miembros expertos en distintos ámbitos: técnica de IA, ética, regulación, ciencias sociales, economía y derechos humanos. Los miembros tendrán mandatos de tres años y fueron seleccionados de una terna de más de 2.600 candidato/as, tras un proceso de revisión que involucró a la Unión Internacional de Telecomunicaciones (UIT), la Oficina de Tecnologías Digitales y Emergentes de la ONU y la UNESCO.

Entre los nombres anunciados figuran figuras del mundo académico y de la sociedad civil. Por ejemplo, la periodista filipina y laureada con el Nobel de la Paz en 2021, Maria Ressa, fue incluida como miembro, en representación de la intersección entre medios, libertad de expresión y tecnologías digitales; también están científicos y especialistas de países como Estados Unidos, China y otros. La selección abarca disciplinas y regiones con la intención de ofrecer perspectivas diversas.

Argumentos a favor: ¿por qué la ONU?

Hay varias razones por las cuales algunos gobiernos, expertos y organizaciones de la sociedad civil defienden la creación de un panel científico global bajo el paraguas de la ONU:

• Neutralidad y legitimidad: La ONU, aun con sus limitaciones, sigue siendo un foro multilateral de amplia representación, lo que le confiere legitimidad para articular criterios científicos que países con distinta capacidad tecnológica puedan adoptar.
• Cerrar la brecha de conocimiento: Países en desarrollo a menudo carecen de recursos y expertos para evaluar riesgos técnicos complejos; un panel global puede sistematizar evidencia y ofrecer recomendaciones accesibles.
• Interdisciplinariedad: La IA no es sólo una cuestión técnica: sus efectos atraviesan economía, empleo, derechos humanos, seguridad y democracia. Un panel científico con miembros de distintas disciplinas puede integrar esos enfoques.
• Base para políticas internacionales: Las recomendaciones técnicas y científicas pueden nutrir procesos regulatorios regionales y nacionales, así como iniciativas multilaterales —por ejemplo, acuerdos sobre estándares de seguridad y pruebas de impacto de sistemas de IA.

Críticas y resistencias: ¿exceso de mandato o riesgo de captura?

Frente a estos argumentos, voces poderosas han expresado reparos. La misión de Estados Unidos ante la ONU declaró que la iniciativa supone «un significativo exceso del mandato y de las competencias de la ONU» y que «la gobernanza de la IA no es una materia que la ONU deba dictar»; además alegó preocupación por la falta de transparencia en el proceso de elección de los expertos y por la posibilidad de que organismos internacionales puedan ser influenciados por regímenes autoritarios que promuevan modelos de vigilancia.

Las críticas pueden agruparse en tres preocupaciones principales:

• Competencia y capacidad técnica: ¿Tiene la ONU la infraestructura y la autonomía necesarias para evaluar campos tan dinámicos y tecnificados como la IA sin depender de actores privados o estados con grandes capacidades?
• Riesgo de captura o politización: Cualquier órgano multilateral puede ser objeto de presiones. La presencia de expertos vinculados a ciertos estados o empresas puede generar desconfianza en cuanto a la independencia de los pronunciamientos.
• Duplicación de esfuerzos: Existen foros y organismos (regionales, nacionales y del sector privado) que ya trabajan en normas de IA; algunos temen solapamiento, incoherencia o conflictos entre recomendaciones.

Elementos técnicos clave que el panel debería abordar

Si el propósito del panel es verdaderamente ofrecer «insight científico riguroso e independiente», entonces sus prioridades técnicas y metodológicas serán cruciales. Entre los temas que merecen atención prioritaria se encuentran:

1. Evaluación de riesgos y metodologías de verificación: Formular marcos para medir riesgos sistémicos, desde errores en modelos de aprendizaje automático hasta la posibilidad de desinformación masiva facilitada por IA. Esto incluye metodologías replicables para auditorías independientes.
2. Transparencia y explicabilidad: Definir estándares mínimos de explicación para sistemas de decisión automatizada especialmente en áreas sensibles (salud, justicia, crédito), y métricas para evaluar el grado de opacidad de modelos complejos.
3. Datos, sesgos y gobernanza de datasets: Protocolos para la recolección, curación y acceso a datos, junto con mecanismos que mitiguen sesgos que reproducen discriminaciones históricas.
4. Impacto socioeconómico y empleo: Estudios empíricos sobre cómo distintos tipos de automatización afectan empleos por sector y geografía, y recomendaciones para políticas de formación y redes de seguridad social.
5. Seguridad y resiliencia de modelos: Investigación sobre ataques adversarios, modelos que generan resultados peligrosos y estrategias de contención y control.
6. IA militar y control de armamento: Evaluaciones interdisciplinarias sobre el riesgo de escalada por sistemas autónomos en contextos de conflicto, recomendaciones de vigilancia y normas éticas.
7. Marco regulatorio y estandarización: Propuestas para estándares técnicos globales y procedimientos de certificación que puedan ser adoptados de manera armonizada por distintos países.

Factores que determinarán la eficacia del panel

No basta con la buena voluntad. Para que el organismo tenga influencia práctica, ciertos factores serán determinantes:

• Independencia real: Financiamiento transparente y mecanismos para evitar conflictos de interés con corporaciones que desarrollan IA.
• Periodismo y divulgación accesible: Traducción de hallazgos científicos en guías prácticas para gobiernos y la sociedad civil, evitando tecnicismos que reduzcan el impacto.
• Vinculación con instancias regulatorias: La existencia de puentes formales entre el panel y órganos legislativos y reguladores nacionales y regionales aumentará la adopción de recomendaciones.
• Capacitación y transferencia de conocimiento: Programas para expandir capacidades en países con menos recursos técnicos, de modo que las recomendaciones no sean solo teóricas sino aplicables.

Lecciones de iniciativas previas y paralelas

La comunidad internacional ya ha vivido procesos similares en otros campos: la ciencia climatológica y el Panel Intergubernamental sobre Cambio Climático (IPCC) es un ejemplo de cómo un cuerpo científico puede articular consenso técnico que luego orienta políticas públicas globales. El IPCC, creado en 1988, consiguió que la evidencia empírica —junto con escenarios y proyecciones— fuese un insumo clave para el Acuerdo de París y otros acuerdos internacionales. Sin embargo, el camino fue largo y lleno de disputas políticas sobre interpretaciones, costos y responsabilidades.

De forma análoga, la experiencia con organismos de normalización tecnológica (por ejemplo, ISO) muestra que la adopción de estándares globales requiere tiempo, negociación y la convergencia entre industria, academia y reguladores. La diferencia crítica con la IA es la velocidad a la que se desarrolla la tecnología y la centralidad que tienen empresas privadas con recursos computacionales masivos.

Conflictos geopolíticos: ¿puede un panel neutral sobrevivir a las tensiones entre potencias?

La inclusión de expertos de grandes potencias como Estados Unidos y China en el panel —junto a representantes de países en desarrollo— es un ingrediente necesario para legitimidad, pero también una fuente de conflicto. Estados Unidos expresó su rechazo y dijo que no cederá autoridad sobre la gobernanza de la IA a «cuerpos internacionales que puedan verse influenciados por regímenes autoritarios». Esta frase sintetiza la preocupación por dos riesgos complementarios: que las recomendaciones globales impongan modelos de control y vigilancia, y que la política internacional paralice decisiones técnicas por consideraciones de seguridad nacional.

Para que el panel funcione, deberá mostrar que sus metodologías y conclusiones se basan en evidencia replicable y que sus procesos de nombramiento y financiamiento son transparentes. La apertura de datos de trabajo, la publicación de metodologías y la participación de observadores internacionales pueden ayudar a mitigar desconfianzas.

Relación con la industria: cooperación necesaria pero vigilada

La investigación sobre IA depende en gran medida del acceso a potencia computacional, datos y talento, recursos que en la práctica se concentran en grandes empresas tecnológicas. Esto hace que la relación entre el panel y la industria sea inevitable. Sin embargo, esa relación debe gestionarse con políticas contra conflictos de interés: los miembros del panel no deberían tener la capacidad de favorecer modelos regulatorios que beneficien a entidades que financian su trabajo.

La transparencia sobre vínculos financieros y la publicación de comentarios y revisiones por pares son medidas que pueden aumentar la credibilidad del proceso. Además, la creación de observatorios independientes financiados por consorcios internacionales y no por una sola empresa podría ser una vía para equilibrar recursos y autonomía.

Impacto potencial en la regulación nacional y en la competencia económica

Si el panel genera recomendaciones técnicas y estándares aceptados internacionalmente, los estados podrían utilizarlos para promulgar regulaciones nacionales, crear requisitos de certificación o estandarizar pruebas de seguridad. Esto, a su vez, afectaría la competencia económica global: las empresas que cumplan con estándares rigidos podrían encontrar barreras de entrada menores en mercados que adopten esas normas, mientras que otras podrían verse forzadas a adaptar sus procesos.

Además, la estandarización puede favorecer a economías que ya poseen capacidades técnicas avanzadas, a menos que el panel incluya explícitamente mecanismos para la transferencia tecnológica y asistencia técnica para países con menos infraestructura.

Escenarios futuros: del consenso técnico a la fragmentación normativa

Existen varios escenarios plausibles sobre el rol que este panel podría desempeñar en la gobernanza global de la IA:

1. Escenario de convergencia: El panel genera reportes influyentes y estándares técnicos aceptados, que son adoptados por múltiples jurisdicciones y contribuyen a una regulación coherente y basada en evidencia.
2. Escenario de cooptación: Las recomendaciones del panel son apropiadas por actores estatales o corporativos con agendas específicas, lo que reduce su legitimidad y da lugar a críticas y boicots.
3. Escenario de fragmentación: Debido a desacuerdos geopolíticos y a la rápida evolución tecnológica, las normas se fragmentan por bloques regionales y por corporaciones, limitando la eficacia de cualquier panel multilateral.

El resultado dependerá de la estructura institucional del panel, su transparencia, su capacidad para producir hallazgos verificables y de las dinámicas políticas entre grandes potencias y países en desarrollo.

Recomendaciones prácticas para que el panel cumpla su propósito

Si la comunidad internacional desea que este panel sea una herramienta efectiva, propongo las siguientes recomendaciones concretas:

• Publicar protocolos metodológicos: Cada estudio y recomendación debe acompañarse de un protocolo reproducible que explique fuentes, datos y métodos de análisis.
• Transparencia total sobre conflictos de interés: Declaraciones públicas sobre vínculos con la industria y mecanismos de recusación cuando existan conflictos relevantes.
• Mecanismos de revisión por pares independientes: Establecer comités externos que evalúen la calidad científica de los reportes antes de su publicación.
• Programas de transferencia tecnológica: Asegurar que las recomendaciones vengan acompañadas de estrategias para ayudar a países con menos recursos a implementar estándares y pruebas.
• Vínculos institucionales con reguladores: Crear canales formales con órganos legislativos y reguladores para facilitar la traducción de recomendaciones en normas operativas.

Reflexión final: ¿una oportunidad histórica?

La creación del panel científico de la ONU sobre IA es, en términos institucionales, una oportunidad para construir un sustrato técnico y ético que oriente políticas públicas a escala global. Pero esa oportunidad es frágil: depende de la independencia, rigor y transparencia del organismo y de la disposición de estados y empresas para aceptar criterios científicos compartidos sin instrumentalizarlos políticamente.

Si el panel logra convertirse en una fuente confiable y accesible de conocimiento —y si su trabajo se vincula con políticas de cooperación y transferencia tecnológica— podrá contribuir a que la gobernanza de la IA no sea una herramienta de exclusión sino un puente para un desarrollo más seguro y equitativo. Si no, aumentará la fragmentación y el riesgo de que la IA sea regulada por intereses nacionales o corporativos antes que por principios científicos y de derechos humanos compartidos.

Fuentes principales y documentos citados: declaración del Secretario General sobre la creación del panel (Naciones Unidas); resultados de la votación de la Asamblea General; comunicados de la Misión de Estados Unidos ante la ONU. Para lecturas complementarias recomendamos los informes del Sistema de las Naciones Unidas y trabajos académicos sobre gobernanza tecnológica y estandarización internacional.