El gobernador de California, Gavin Newsom, ha firmado el proyecto de ley S.B. 524, que inicia un proceso necesario de regulación y transparencia en torno al uso creciente de informes policiales elaborados por inteligencia artificial (IA). Este avance cuenta con el respaldo de la Electronic Frontier Foundation (EFF), organización que ha criticado abiertamente a las empresas que promueven la generación de informes policiales mediante IA.
La nueva legislación exige a las fuerzas del orden que informen, en los informes, si han utilizado IA para redactarlos, ya sea de manera total o parcial. Además, prohíbe a los proveedores vender o compartir la información que las agencias policiales proporcionan a estas herramientas de IA.
Este proyecto es significativo porque obliga a los departamentos de policía a conservar todas las versiones del informe, permitiendo así a jueces, abogados defensores y auditores identificar qué partes han sido redactadas por los oficiales y cuáles han sido generadas por el software. Este requisito podría complicar el uso del producto más popular en este sector, conocido como Draft One de Axon, ya que, por su diseño, no permite llevar un registro de las ediciones y autorías de cada sección del documento. Para cumplir con la nueva ley, las fuerzas del orden deberán convencer a Axon de modificar su aplicación o asumir la responsabilidad de conservar evidencia de los cambios realizados en los informes.
La EFF se comprometió a seguir de cerca el cumplimiento de esta normativa por parte de los departamentos policiales. Tras la aprobación de una legislación similar en Utah, California se convierte en el segundo estado en abordar esta problemática. La falta de transparencia en la forma en que las agencias policiales adquieren y utilizan tecnología ha dificultado que la población comprenda la extensión del uso de IA en la redacción de informes. Por esta razón, la EFF ha creado una guía para facilitar la presentación de solicitudes de acceso a documentos públicos relacionadas con este tema.
Aún persisten interrogantes sobre si productos como Draft One infringen las leyes de retención de registros y sobre cómo los informes policiales generados por IA impactarán en el sistema de justicia penal. Es necesario contemplar regulaciones más exhaustivas e incluso una posible prohibición del uso de IA generativa en este ámbito. Sin embargo, la aprobación de S.B. 524 se considera un primer paso positivo. Se espera que más estados sigan el ejemplo de California y Utah y promuevan legislaciones más contundentes.
Fuente: EFF.org
