Los gobiernos de América Latina están cada vez más utilizando sistemas algorítmicos para tomar decisiones que impactan la vida de las personas, desde determinar la elegibilidad para ayudas sociales hasta predecir crímenes. Un nuevo informe publicado por la Electronic Frontier Foundation (EFF) aborda los desafíos que este uso de inteligencia artificial (IA) representa para los derechos humanos en la región, presentando un marco operativo que se basa en legislación internacional sobre derechos humanos.
El informe, titulado «Estándares interamericanos y uso estatal de la IA para determinaciones que afectan derechos en América Latina: Implicaciones de derechos humanos y marco operativo», ofrece directrices sobre cómo las instituciones estatales deben actuar al adoptar sistemas de IA y toma de decisiones automatizada (TDA). Se centra en la necesidad de garantizar que estas tecnologías respeten las normas de derechos humanos establecidas en la Convención Americana sobre Derechos Humanos y otros instrumentos internacionales.
El documento revela que, actualmente, varias instituciones estatales en países como Colombia y Brasil están implementando sistemas basados en IA que pueden tener consecuencias graves para los derechos de los ciudadanos. Por ejemplo, en Colombia, para acceder a programas de protección social, los ciudadanos deben someterse a una clasificación que mide su nivel de pobreza y vulnerabilidad a través de un sistema algorítmico llamado Sisbén. En Brasil, el sistema de vigilancia Córtex ha sido objeto de críticas por su falta de controles y su capacidad para cruzar bases de datos gubernamentales.
EFF expresa preocupación por la opacidad de estos sistemas, que dificulta que los afectados entiendan cómo se toman las decisiones que impactan sus vidas. Además, destaca que estas tecnologías tienden a agravar las desigualdades existentes, afectando desproporcionadamente a las comunidades marginadas sin ofrecer vías adecuadas para la restitución de sus derechos.
El informe subraya la importancia de la transparencia a lo largo del proceso de implementación de la IA, instando a los gobiernos a informar claramente sobre el funcionamiento de estos sistemas, los tipos de datos utilizados y cómo se toman las decisiones. También se enfatiza la necesidad de un debido proceso que permita a los individuos impugnar decisiones automatizadas.
Asimismo, la participación pública es fundamental. El informe sostiene que los grupos más vulnerables deben tener voz en el desarrollo y uso de estos sistemas. No se debe tratar la participación como un mero cumplimiento formal, sino que debe convertirse en un proceso integral que contemple auditorías independientes y evaluaciones de impacto en derechos humanos.
Con la creciente influencia de la IA en la toma de decisiones gubernamentales, el informe de EFF representa un llamado urgente a adoptar un enfoque centrado en los derechos humanos en la utilización de estas tecnologías, buscando asegurar que la implementación de sistemas algorítmicos no solo respete los derechos fundamentales, sino que también promueva una gobernanza democrática y equitativa en la región.
Fuente: EFF.org
