El legislativo de California ha aprobado un proyecto de ley crucial, S.B. 524, que busca regular los informes policiales redactados por inteligencia artificial generativa. Ahora, la atención se centra en la necesidad de que el gobernador Newsom firme la ley para que entre en vigor.
Es imperativo que la ciudadanía se manifieste. Estas tecnologías pueden enmascarar ciertos registros y borradores de la divulgación pública. Las empresas han invertido considerablemente en su capacidad para comercializar inteligencia artificial en el ámbito policial, un hecho que suscita serias preocupaciones sobre la transparencia y la fiabilidad de la información generada.
El uso de informes policiales generados por IA se está expandiendo rápidamente. Axon, una de las compañías líderes en tecnología policial, ha lanzado su producto más popular, Draft One, que combina tecnología como cámaras portátiles. Mediante la agrupación de sus productos, Axon ha aprovechado su base de clientes para difundir un producto de IA opaco y potencialmente perjudicial.
Cuando se emplea IA para redactar narrativas en informes policiales, surgen múltiples riesgos. El sistema se basa en el audio de las cámaras, lo que puede llevar a la omisión de matices como el sarcasmo, vocabulario específico de culturas, o lenguajes que no sean inglés. Aunque se espera que los policías editen la versión generada por la IA para corregir estos errores, muchos optarán por no hacerlo y simplemente confiarán en el software. Además, la tecnología de reconocimiento facial ha demostrado ser propensa a errores, lo que agrava la situación. Por esta razón, el fiscal de King County, Washington, ha prohibido a los oficiales locales utilizar Draft One debido a su falta de fiabilidad.
Otra preocupación es la posibilidad de deshonestidad. Defensores públicos y profesionales del sistema de justicia han advertido sobre las implicaciones que esta tecnología puede tener en los interrogatorios. Si un oficial se presenta en el estrado con un relato diferente del que aparece en su informe, podría excusarse diciendo que fue la IA la que falló en su redacción, lo que genera una capa de plausible deniabilidad y complica la rendición de cuentas.
Un estudio reciente también reveló que el producto Draft One de Axon está diseñado para eludir la transparencia. La tecnología oculta intencionalmente qué partes de un informe final fueron escritas por IA y cuáles fueron redactadas por un agente, dificultando la verificación de la veracidad del contenido.
La aprobación de S.B. 524 representa una oportunidad significativa para que California, al igual que otros estados como Utah, establezca regulaciones claras sobre estas tecnologías y exija una transparencia mínima en su uso. Este proyecto de ley exige que los informes redactados por IA incluyan disclaimers en cada página y que se mantenga el primer borrador de los mismos. Esto facilitará que abogados defensores, jueces, supervisores policiales o cualquier entidad auditora puedan identificar las partes escritas por la IA y las redactadas por un oficial. Además, obliga a los oficiales a firmar y verificar que han leído el informe y que los datos son correctos, y prohíbe a los proveedores de IA compartir o vender la información que una agencia policial haya proporcionado.
Estas reformas son un primer paso necesario para garantizar que el uso de IA en el ámbito policial sea seguro y transparente. De hecho, el producto Draft One de Axon no cumpliría con esta ley, lo que obligaría a la empresa a rediseñar su herramienta para ajustarse a los nuevos estándares.
Ahora se hace un llamado a la población para que use el Centro de Acción de la EFF y exija al gobernador Newsom que firme S.B. 524 y promueva la transparencia en el uso de inteligencia artificial en el contexto policial.
Fuente: EFF.org
