El Departamento del Fiscal del Condado de King, encargado de todas las acusaciones en el área de Seattle, ha emitido una clara instrucción a la policía: no utilizar inteligencia artificial para redactar informes policiales, al menos por el momento. Este desarrollo es considerado positivo y se espera que otros fiscales en todo Estados Unidos adopten un enfoque similar, a medida que las empresas continúan promoviendo tecnologías de inteligencia artificial generativa (genAI) para asistencia en la redacción de informes. Estas herramientas podrían tener consecuencias perjudiciales para las personas que entran en contacto con el sistema de justicia penal.
El fiscal en jefe adjunto, Daniel J. Clark, expresó en un memorando que las herramientas basadas en inteligencia artificial para redactar informes policíacos narrativos a partir del audio de cámaras corporales son tecnologías que aún no están listas para su aceptación. En dicho memo, se señala que, si bien no se teme a los avances tecnológicos, existen preocupaciones legítimas sobre algunos de los productos actualmente disponibles en el mercado. Se espera que en un futuro cercano se logre un punto en el que estos informes puedan ser considerados fiables, pero por el momento, la oficina ha decidido no aceptar narrativas policiales producidas con la ayuda de la inteligencia artificial.
El fiscal en jefe adjunto subrayó que, aunque un oficial debe editar el texto y declarar bajo pena de perjurio que es preciso, algunos de los errores generados por la inteligencia artificial son tan sutiles que podrían pasar desapercibidos durante la revisión. Esta postura cautelosa y razonada se enmarca en la tendencia de algunas fuerzas del orden de querer reducir el tiempo que dedican a la escritura de informes, intentando externalizar esta labor a las máquinas, como lo propone el nuevo producto DraftOne de Axon.
Sin embargo, es fundamental que el público y otras agencias locales se mantengan escépticos sobre esta tecnología. Los informes policiales son documentos esenciales para que los fiscales construyan sus casos, para que los fiscales de distrito puedan recomendar cargos y para que los defensores interroguen a los oficiales de arresto. Las implicaciones de confiar en una tecnología que aún no ha demostrado su fiabilidad podrían ser significativas para el sistema judicial.
Fuente: EFF.org
