Activistas de la Electronic Frontier Foundation (EFF) han instado a los legisladores de California a aprobar el proyecto de ley S.B. 524, impulsado por el senador Jesse Arreguín. Este proyecto se presenta como un paso crucial para recuperar el control sobre el uso de la inteligencia artificial generativa en la redacción de informes policiales.
La propuesta legislativa tiene varios aspectos importantes. En primer lugar, exige que todos los informes redactados por inteligencia artificial incluyan un aviso en cada página o dentro del texto que indique que han sido elaborados total o parcialmente por un ordenador. Además, establece que se debe conservar el primer borrador de estos informes, facilitando así que abogados defensores, jueces, supervisores policiales u otras entidades auditoras puedan identificar qué partes fueron escritas por la IA y cuáles correspondieron al oficial. También obliga a los agentes a firmar y verificar que han leído el informe y que los hechos que contiene son precisos. Por último, prohíbe a los proveedores de IA vender o compartir la información que las agencias policiales proporcionan a la inteligencia artificial.
Estas reformas, consideradas de sentido común, son necesarias en un contexto donde los organismos de control tienen dificultades para identificar el uso de la IA por parte de la policía. Un ejemplo de este desafío se encuentra en la herramienta Draft One de Axon, que, al no cumplir con los requisitos de esta ley, obligaría a la empresa a rediseñar su producto para hacerlo más transparente.
Draft One utiliza la grabación de audio de las cámaras corporales de los oficiales para crear un informe policial narrativo mediante IA. Sin embargo, ha surgido preocupación sobre cómo esta herramienta maneja elementos como el sarcasmo, comentarios sacados de contexto o interacciones con personas que hablan idiomas distintos al inglés. Otro problema significativo es la falta de seguimiento entre las secciones de un informe redactadas por personas y aquellas generadas por IA. Debido a su diseño, esta herramienta no almacena diferentes versiones del borrador, lo que facilita que un oficial afirme que «no mintió en su informe, fue la IA la que redactó esa parte».
Dada la creciente proliferación de esta tecnología, los legisladores deben implementar regulaciones para los informes policiales redactados por IA. Axon es un importante proveedor de cámaras corporales en Estados Unidos, lo que significa que cuenta con una amplia base de clientes potenciales. A través de la combinación de productos, informes policiales generados por IA podrían convertirse en práctica común en muchas agencias.
La eficacia y precisión de los informes policiales generados por IA aún están bajo evaluación, así como su impacto en el sistema de justicia penal. Aunque S.B. 524 no resolverá todos los problemas asociados al uso de IA en este sector, sí representa un primer paso significativo para controlar una tecnología aún no plenamente accountable. Por ello, se hace un llamado urgente a los legisladores californianos para aprobar el S.B. 524.
Fuente: EFF.org
