¿El futuro de la justicia o una pesadilla tecnológica? La policía de Honolulu y el controvertido uso de la Inteligencia Artificial

Una iniciativa envuelta en polémica

La policía de Honolulu está considerando un proyecto piloto que podría cambiar radicalmente la manera en que los informes policiales son redactados: el uso de inteligencia artificial (IA) para generar borradores a partir del audio y video captado por las cámaras corporales de los oficiales. El objetivo principal de esta tecnología, desarrollada por la empresa Axon, es permitir que los oficiales dediquen menos tiempo a escribir informes y más a patrullar activamente en sus comunidades.

Pero la idea ha encendido un intenso debate ético, legal y técnico sobre el papel de la IA en uno de los componentes más delicados del sistema judicial: el relato oficial de lo sucedido durante un incidente.

¿Qué propone Honolulu?

Durante una reunión reciente de la Comisión de Policía de Honolulu, el jefe interino Rade Vanic explicó que su objetivo es mejorar la eficiencia del departamento. “Un oficial puede gastar entre 30 y 40 minutos redactando un solo informe”, dijo. “El tiempo que podría invertirse mejor recorriendo el vecindario o deteniendo infractores.”

Según Axon, su sistema de IA puede reducir ese tiempo a la mitad gracias a su capacidad para extraer narraciones completas a partir del sonido y video de las cámaras corporales.

Este argumento gana peso si se considera la actual crisis de personal. La comisionada Laurie Foster subraya que el departamento tiene un 30% menos de oficiales respecto a su capacidad operativa ideal.

Los peligros de una herramienta poderosa

A pesar de sus promesas, muchos ven en esta tecnología una seria amenaza. Wookie Kim, director legal de la ACLU de Hawaiʻi, fue claro: “La tecnología de IA es demasiado poco confiable, no está completamente probada, presenta sesgos y además es opaca.”

Uno de los mayores temores es que delegar la redacción de informes policiales a un sistema sin experiencia ni contexto humano puede desembocar en graves errores. De acuerdo con Kim, la IA podría “alucinar información”, es decir, inventar hechos, como ya ha ocurrido en casos donde abogados usaron IA para redactar documentos legales con datos falsos.

El sesgo de los algoritmos

Un punto especialmente sensible es el de los sesgos incorporados en los modelos de IA. Si un sistema es entrenado con datos que ya contienen prejuicios raciales, sociales o culturales, es muy probable que los reproduzca. “Imagina un informe en el que la IA interpreta un tono de voz elevado como una amenaza sin que el oficial lo haya percibido así”, advirtió Kim.

No se puede olvidar que los informes policiales son frecuentemente el primer paso en procesos judiciales. “Ese informe es la puerta de entrada al sistema legal penal. No hay margen para errores ni falta de contexto”, añadió.

Uso actual de IA en departamentos de policía

Honolulu no sería pionera en este campo. Departamentos de policía en Utah, California y otras jurisdicciones ya están experimentando con herramientas similares. Un artículo de The Conversation señala que solo en esos dos estados se exige actualmente que los departamentos policiales informen públicamente si utilizan IA para redactar informes.

En California, incluso se ha aprobado una ley que obliga a los departamentos a declarar este uso con total transparencia.

Una herramienta que necesita control, no carta blanca

Nicholas Schlapak, presidente del sindicato policial local, pidió cautela: "Apresurarse a implementar este programa pone en riesgo las condenas, los puestos de trabajo de los oficiales y la reputación del departamento". Y añadió: “Debería haber una revisión pública previa y explorar tecnologías de varios proveedores, no solo usar al que ya tenemos.”

El mayor temor es que esta poderosa herramienta pase desapercibida sin protocolos claros de auditoría, control y evaluación por parte de la ciudadanía, jueces y fiscales.

El papel de los fiscales y el sistema judicial

Hasta el momento, la fiscalía de Honolulu está todavía “en una etapa exploratoria” sobre el tema, según su vocera. Sin embargo, si la IA entra formalmente al sistema, obligará a fiscales, jueces y abogados a revisar cómo verificar sus contenidos. ¿Podrán las partes exigir los datos de entrenamiento o el código fuente de la herramienta de IA utilizada?

La transparencia será esencial. De lo contrario, se corre el riesgo de que partes cruciales del proceso penal queden fuera del alcance del escrutinio público y judicial.

¿Para qué tipo de reportes se usaría IA?

El jefe Vanic mencionó que los primeros usos se limitarían a informes menores, como reportes de robos de autos estacionados durante la noche. La idea, en principio, es no implementarla en informes más delicados como los que involucran arrestos o uso de fuerza.

No obstante, una vez abierta la puerta al uso de la tecnología, no hay garantía de que sus aplicaciones no se amplíen. La historia reciente demuestra que la expansión de tecnologías como el reconocimiento facial comenzó como algo limitado y hoy se usa de forma masiva, y muchas veces sin supervisión.

¿IA como multiplicador de fuerzas?

Axon, la empresa detrás del producto, argumenta que su sistema actúa como “multiplicador de fuerzas” para la policía. En otras palabras, permite que policías individuales hagan más con menos recursos.

Pero esta retórica hace sonar la alarma entre quienes temen un aumento en la vigilancia sin una expansión proporcional de los derechos civiles. Si un informe puede ser escrito en segundos por una IA, ¿qué detiene al sistema judicial de asumir su veracidad sin someterlo al mismo análisis riguroso que los escritos por humanos?

La resistencia no es al futuro, sino a la falta de supervisión

Los críticos no son tecnofóbicos. Al contrario: aceptan que la tecnología puede ayudar a mejorar el trabajo policial. El problema es cómo se implementa. Como dijo Schlapak: “Debe haber un sistema de rendición de cuentas para todas las partes involucradas antes siquiera de iniciar la conversación sobre su uso.”

Vanic coincide en que deben escucharse todas las voces. “Sin duda necesitamos aportaciones comunitarias y trabajar de la mano con la fiscalía, el poder judicial y otros actores”, expresó. Pero también afirmó que si con IA se puede facilitar el trabajo del oficial, “¿por qué no usarla?”

¿Dónde establecer el límite?

El caso de Honolulu es solo un microcosmos de un debate que se extiende a todo Estados Unidos e incluso al resto del mundo. ¿Cuándo la automatización pasa de ser una herramienta útil a convertirse en una amenaza para los derechos ciudadanos?

Y más importante aún: ¿Quién decide dónde está ese límite?