La incorporación de la inteligencia artificial (IA) en nuestro sistema de justicia penal ha suscitado serias preocupaciones en el ámbito de la policía y los tribunales. La Electronic Frontier Foundation (EFF) ha estado siguiendo de cerca este fenómeno a lo largo de los años y recientemente presentó un capítulo sobre el uso de IA por parte de las fuerzas del orden en la publicación anual de la Asociación Americana de Abogados, «The State of Criminal Justice 2024».
Este capítulo detalla las tecnologías habilitadas por IA que están siendo empleadas por la policía, entre ellas se encuentran el reconocimiento facial, los lectores de matrículas y los sistemas de detección de disparos. Estas herramientas, basadas en formas de inteligencia artificial, permiten una vigilancia invasiva que deteriora la privacidad y que ha resultado en detenciones erróneas y condenas injustas debido a los falsos positivos. Los flujos de datos generados por estas tecnologías se combinan con registros públicos y el rastreo por geolocalización, creando perfiles de personas cada vez más detallados, independientemente de si están bajo investigación o no.
Además, el software de IA se utiliza para realizar inferencias y establecer conexiones que a menudo son opacas, lo que ha generado preocupaciones sobre el respeto al debido proceso y otros derechos civiles. Un número creciente de departamentos de policía ha mostrado un interés por integrar estas tecnologías en sus operaciones, impulsados en gran parte por el marketing agresivo de las empresas que desarrollan y venden estos equipos y softwares.
Beryl Lipton, investigadora de EFF, comentó sobre el tema: «La IA facilita la invasión masiva de la privacidad y corre el riesgo de institucionalizar, e incluso legitimar, desigualdades y abusos. Su influencia en las responsabilidades del orden público tiene implicaciones importantes para la aplicación de la ley, la protección de las libertades civiles y los derechos de privacidad, así como para la integridad de nuestro sistema de justicia penal».
La publicación «The State of Criminal Justice 2024» de la ABA está disponible en formato físico y PDF.
Fuente: EFF.org
