En la actualidad, la inteligencia artificial (IA) se ha infiltrado en casi todos los aspectos de la vida cotidiana, desde la búsqueda de recetas hasta la atención médica, donde muchas personas han optado por sustituir a sus doctores por chatbots. Esta omnipresencia ha llevado a un crecimiento exponencial de empresas que promueven la integración de IA en diversos sectores, incluidos aquellos que buscan beneficiarse de la preocupación de la policía por la criminalidad. Con presiones políticas para reducir el crimen y presupuestos amplios, las fuerzas del orden se han convertido en un blanco atractivo para las compañías tecnológicas que ofrecen soluciones de aprendizaje automático.
Este año ha emergido una preocupación particular en la interfaz entre la IA y la policía: la generación de informes policiales mediante inteligencia artificial. Empresas como Truleo y Axon están a la vanguardia de este desarrollo, creando un mercado en expansión donde se utilizan modelos de lenguaje para redactar informes sobre el terreno. En el caso de Axon, esta tarea se realiza utilizando el audio de cámaras corporales, permitiendo que el software genere narrativas con un mínimo de intervención por parte de los oficiales, quienes solo aportan algunos detalles adicionales.
Sin embargo, este avance presenta múltiples desafíos. Experiencias recientes han demostrado que, a pesar de que los oficiales afirmen ser responsables del contenido, podrían evadir responsabilidades al argumentar que la IA fue la culpable de incluir inexactitudes o falsedades en sus informes. La posibilidad de «alucinaciones» por parte de la IA plantea serias dudas sobre la veracidad de los datos, generando un entorno de plausible denegación para los oficiales en caso de que un informe sea cuestionado en un juicio. Además, existen interrogantes sobre cómo la IA interpreta situaciones complejas o el uso de lenguaje específico, como órdenes policiales en contextos delicados.
Incluso algunos fiscales en Washington han solicitado que las fuerzas del orden eviten el uso de IA para redactar informes, preocupados por los errores que podrían comprometer los juicios futuros. La representación de la policía en la cultura popular, donde se les muestra reacios a la burocracia, sugiere que la adopción de esta tecnología podría ser rápida y amplia, especialmente en los próximos años.
La Electronic Frontier Foundation (EFF) está monitoreando esta tendencia de cerca y promete seguir informando sobre las implicaciones de la IA en la seguridad pública y la justicia.
Fuente: EFF.org
