Cuando la inteligencia artificial dicta fallos: el experimento de Nevada con apelaciones de desempleo

En un momento en que la inteligencia artificial (IA) atraviesa fronteras institucionales, Nevada se prepara para implementar una herramienta impulsada por Google para procesar apelaciones de beneficios por desempleo. La medida promete acelerar resoluciones que antes podían tardar horas o días, pero también reaviva debates sobre la dependencia tecnológica, la protección de datos y el papel irremplazable del juicio humano en decisiones que afectan el sustento de las personas.

Qué pretende hacer la herramienta y cuánto cuesta

Según documentos públicos y declaraciones de funcionarios estatales, la plataforma contratada tiene como objetivo revisar la información de audiencias de apelaciones —incluyendo pruebas documentales y testimonios—, identificar las leyes y regulaciones estatales pertinentes y proponer una resolución. Esa propuesta debe luego ser verificada y aprobada por un funcionario humano, conocido en el proceso como el "referee".

El contrato aprobado en agosto de 2024 tiene un costo total proyectado de 2,6 millones de dólares, de los cuales ya se han desembolsado alrededor de 1,1 millones. El acuerdo exigía que la herramienta alcanzara inicialmente una tasa de aciertos del 90%, es decir, que nueve de cada diez decisiones sugeridas coincidieran con lo que un trabajador estatal consideraría correcto (fuente: The Nevada Independent).

El argumento a favor: velocidad y eficiencia

El Departamento de Empleo, Capacitación y Rehabilitación de Nevada (DETR) ha señalado que parte de la motivación proviene de una pesada acumulación de apelaciones generada durante la pandemia. Con la ayuda de la IA, un fallo podría emitirse en apenas cinco minutos, frente a un proceso que, sin asistencia, puede demorar desde 10 minutos hasta varias horas dependiendo de la complejidad del caso.

"La IA es una gran herramienta —pero eso es lo que es. Es una herramienta", afirmó Christopher Sewell, director de la agencia, subrayando que siempre habrá revisión humana (citado por The Nevada Independent). El argumento es persuasivo desde la perspectiva burocrática: automatizar tareas repetitivas puede liberar tiempo para que los funcionarios se concentren en situaciones atípicas o de mayor riesgo, y reducir retrasos que afectan a quienes dependen del ingreso.

Los riesgos: precisión, sesgo y "alucinaciones"

No obstante, la implementación no está exenta de peros. Durante las pruebas, la IA mostró problemas clásicos: citar leyes incorrectas y no recopilar información completa de todos los documentos de apelación. Según Sewell, esos fallos han sido corregidos; sin embargo, expertos y legisladores insisten en que la prueba de uso real debe ser mucho más extensa.

El profesor Junggab Son, de la Universidad de Nevada en Las Vegas (UNLV), cuyas investigaciones se centran en vulnerabilidades de algoritmos y protección de la privacidad, reconoció que la plataforma de Google en sí parece segura. Pero advirtió sobre riesgos en el despliegue: revisión humana que confíe excesivamente en la máquina, sesgos heredados de los datos con que se entrena el modelo y la posibilidad de que la IA genere información no verificable, conocidas como "alucinaciones" (fuente: The Nevada Independent).

Estos problemas son significativos en el contexto de decisiones administrativas porque un fallo incorrecto puede privar a una persona de beneficios esenciales o, por el contrario, permitir pagos indebidos que luego deberán ser recuperados.

Transparencia y control de datos: ¿quién es el dueño de la decisión?

Otra preocupación crucial es la relación contractual entre el estado y una gran empresa tecnológica. La senadora Dina Neal (D-North Las Vegas) ha cuestionado que los ciudadanos no den su consentimiento para que apelaciones individuales pasen por la herramienta automatizada, preguntando además dónde queda el derecho del nevadense dentro de esa relación. "Cuando contratas con una compañía de IA, ¿dónde encaja el ciudadano de Nevada dentro de esa relación?", planteó Neal (fuente: The Nevada Independent).

El contrato incorpora medidas de seguridad: los datos permanecerán dentro del territorio continental de EE. UU., el estado controlará las llaves de encriptación y la plataforma se ajustará a las leyes estatales sobre TI y protección de información personal. Aun así, para críticos como Neal la cuestión no es solo técnica, sino de soberanía y dependencia: ceder procesamiento de información gubernamental a grandes proveedores externos concentra poder y datos en pocas manos.

La visión sindical y la necesidad de supervisión

El sindicato American Federation of State, County and Municipal Employees (AFSCME) Local 4041 ha sido contundente: "La IA nunca debe reemplazar el juicio, la experiencia y las habilidades de los trabajadores públicos" (declaración citada por The Nevada Independent). Los representantes sindicales apuntan a que las herramientas automatizadas a menudo reproducen sesgos y errores de los datos de entrenamiento, y que en programas sociales, esas fallas pueden resultar en injusticias de largo alcance.

La preocupación sindical se refleja en debates legislativos: hubo intentos de regular más estrictamente la IA a nivel estatal, y es probable que la discusión vuelva a la agenda en sesiones futuras. Neal ya ha anunciado su intención de presentar nuevamente un proyecto de supervisión de IA en la legislatura del próximo año.

¿Qué significa el 90% de "éxito"?

La cláusula contractual que exige un 90% de coincidencia con decisiones humanas despierta una duda práctica: ¿es suficiente una coincidencia técnica para garantizar justicia? Si bien la cifra puede sonar alta, su interpretación depende del tipo de errores. Un 10% de desaciertos aplicado a miles de casos puede representar una cantidad significativa de personas afectadas injustamente.

Además, la medición del "éxito" durante pruebas internas no siempre se corresponde con rendimientos en condiciones reales: los sistemas tienden a comportarse peor cuando se enfrentan a casos raros, cambios normativos o nuevas tácticas de fraude. Sewell reconoció públicamente que enseñar a la IA a emitir fallos correctos "está tomando mucho más tiempo de lo previsto" (The Nevada Independent).

Modelos de gobernanza: ¿qué supervisión estatal existe?

En 2024, la Oficina de Tecnología del Gobernador publicó una política estatal sobre uso de IA que impone límites: no se permiten políticas más laxas a nivel de agencia, se proscribe la creación de contenido discriminatorio y se exige anonimización de datos personales cuando corresponda. Esa política representa el marco básico de supervisión, pero algunos funcionarios consideran que es insuficiente frente a la velocidad de adopción tecnológica.

El gobernador y su oficina coordinarán estándares, mientras un grupo de directores de TI estatales se reunirá regularmente para analizar proyectos y desafíos. Aun así, los debates en el Congreso sobre un marco nacional muestran la tensión entre uniformidad regulatoria y autonomía estatal: hubo propuestas de prohibir por 10 años restricciones regulatorias a estados, pero no prosperaron; la Casa Blanca, a través de una orden ejecutiva, ha pedido estándares nacionales "mínimamente gravosos" y la creación de un grupo de trabajo federal para armonizar criterios.

Alternativas y buenas prácticas que Nevada podría considerar

• Transparencia activa: publicar conjuntos de pruebas, métricas de desempeño y auditorías independientes para que la ciudadanía y grupos técnicos puedan evaluar el sistema.
• Derecho de apelación explícito: garantizar que cualquier resolución asistida por IA preserve un proceso humano efectivo y accesible para impugnar decisiones.
• Auditorías periódicas de sesgo: usar evaluadores externos para detectar patrones de discriminación por género, raza, edad o condición socioeconómica.
• Consentimiento informado y notificación: informar a los apelantes, de manera clara, si su caso será procesado por una herramienta automatizada y cómo se protege su información.
• Capacitación intensiva para revisores humanos: evitar que el "referee" delegue su criterio por defecto en la salida de la IA.

Reflexión final

Nevada está en la primera línea de una pugna central del siglo XXI: cómo integrar eficientemente herramientas de IA en la administración pública sin sacrificar justicia, transparencia y control ciudadano. El experimento estatal puede convertirse en modelo —positivo o negativo— para otras jurisdicciones. Si se adoptan salvaguardas robustas y se prioriza la supervisión independiente, la IA puede ganar legitimidad como apoyo a decisiones administrativas. Si no, el riesgo es que se normalice una delegación peligrosa de autoridad y se deteriore la confianza pública en instituciones que deben defender derechos fundamentales.

La historia reciente enseña que la tecnología sin gobernanza adecuada reproduce y amplifica desigualdades; por eso, implantarla en procesos que determinan la subsistencia de las personas exige cautela y un compromiso público con la rendición de cuentas.