En 2024, la Electronic Frontier Foundation (EFF) comenzó a abordar las preocupaciones sobre el uso de inteligencia artificial (IA) en la redacción de informes policiales. Desde entonces, este tipo de tecnología ha proliferado rápidamente, desatando un debate sobre su fiabilidad y ética. La herramienta de IA más popular para crear estos informes es Draft One de Axon, la empresa líder en la provisión de cámaras corporales para departamentos de policía en Estados Unidos.
Las preocupaciones sobre el uso de IA en este contexto son serias. Los informes policiales redactados por IA aún carecen de pruebas concluyentes de su eficacia y transparencia, lo que resulta problemático en un sistema de justicia penal que depende de estos informes para decidir sobre la libertad de las personas. Por ejemplo, la oficina del fiscal del condado de King en el estado de Washington ha prohibido el uso de IA para la redacción de estos informes, expresando que, aunque no se temen los avances tecnológicos, las herramientas disponibles actualmente generan escepticismo y potenciales injusticias.
Un informe reciente de EFF destacó las preocupaciones sobre cómo Axon ha diseñado Draft One para opacar la transparencia. La IA genera un borrador del informe a partir del audio de cámaras corporales, pero, al completarlo, elimina el borrador original, dificultando la verificación de qué parte del informe fue escrita por un oficial y qué parte por la IA. Esto plantea un riesgo significativo: si un oficial es acusado de perjurio, podría alegar que las inconsistencias en su testimonio fueron generadas por la IA.
Este año, personas y organizaciones que creen que los informes policiales redactados por IA son irresponsables han comenzado a reaccionar. Utah aprobó una ley que requiere que los informes contengan una advertencia sobre el uso de IA y que los oficiales certifiquen la precisión de los mismos. En California, una ley aún más estricta exige la divulgación del uso de IA en la creación de informes, y obliga a los departamentos a conservar el borrador inicial para facilitar auditorías.
A medida que la preocupación sobre el uso de IA en el ámbito policial crece, se esperan más iniciativas legislativas en varios estados que regulen o incluso prohíban la utilización de esta tecnología en la redacción de informes policiales.
Fuente: EFF.org
