Un proyecto de ley que se dirigirá al pleno del Senado en Utah busca establecer importantes regulaciones sobre el uso de inteligencia artificial (IA) en la redacción de informes policiales. El proyecto, conocido como S.B. 180, estipula que las fuerzas del orden deben revelar si un informe fue elaborado total o parcialmente por IA generativa. Esta legislación también requiere que las agencias policiales desarrollen una política que rija el uso de tecnologías de IA, incluyendo una obligación de incluir un aviso en aquellos informes generados por esta tecnología.
La importancia de esta medida radica en la rápida adopción de softwares que utilizan IA para facilitar la redacción de reportes por parte de los oficiales. Por ejemplo, Axon, una de las compañías más prominentes en el sector de tecnología policial, ha lanzado un producto llamado Draft One que utiliza audio de cámaras corporales para crear informes. A pesar de su uso creciente, los defensores de la privacidad y derechos civiles advierten que una simple advertencia en el informe no es suficiente para mitigar los posibles peligros asociados con el uso de IA en este contexto.
Uno de los principales retos es la capacidad de la IA para procesar y entender el lenguaje humano de manera adecuada. Los expertos señalan que, al igual que ocurre en la moderación de contenido en línea, los sistemas de IA pueden tener dificultades para interpretar correctamente diversos dialectos, jerga y metáforas. Esto puede resultar en interpretaciones erróneas que alteren el contenido de un informe policial, especialmente en situaciones críticas.
Además, la utilización de la IA en la creación de informes puede desdibujar la responsabilidad humana. Oficiales que podrían exagerar o falsificar información tienen otra capa de protección al alegar que cualquier error en el informe es responsabilidad de la IA, y no suya. Esta desconexión puede llevar a una falta de rendición de cuentas, dificultando la búsqueda de la verdad en investigaciones penales.
A medida que esta tecnología avanza sin la debida supervisión y regulación, algunas jurisdicciones ya están tomando medidas precautorias. En el Condado de King, Washington, los fiscales han instruido a los agentes para que eviten el uso de IA en la redacción de informes policiales, preocupados por el impacto que esto podría tener en el sistema de justicia penal.
La creciente preocupación sobre la aplicación de IA en la policía subraya la necesidad de transparencia en su uso. Con el avance de este tipo de tecnologías, es previsible que otros estados también consideren leyes similares para regular su empleo en el ámbito policial y judicial.
Fuente: EFF.org
