En un contexto donde los sistemas de decisión automatizados están en aumento, su uso por parte de diversas instituciones plantea serias interrogantes sobre la equidad y la justicia. Propietarios de viviendas, compañías de seguros, la entidad de control migratorio ICE y empresas en general, están utilizando algoritmos para tomar decisiones que afectan drásticamente la vida de las personas. Estas decisiones incluyen la concesión de viviendas, la aprobación de tratamientos médicos y hasta la vigilancia de personas en procesos migratorios. Además, los empleadores emplean inteligencia artificial (IA) para determinar despidos y para predecir comportamientos laborales como la intención de organización sindical o de renuncia.
Sin embargo, se están llevando a cabo esfuerzos significativos para resistir estas prácticas automatizadas que muchas veces discriminan por género, raza y otros factores protegidos. En 2024, Colorado dio un importante paso adelante al aprobar la Ley de Inteligencia Artificial (AI Act), que regula los “sistemas de IA de alto riesgo”, aquellos que afectan decisiones cruciales como el acceso a educación, empleo, créditos, servicios de salud, vivienda y más. Esta ley busca establecer un marco de transparencia, debido proceso y evaluaciones de impacto.
La Ley de IA establece que tanto los desarrolladores como los usuarios de estos sistemas deben informar al público sobre su funcionamiento, el origen de los datos utilizados y cómo se mitigan los daños conocidos. Además, los individuos afectados tienen derecho a conocer las razones detrás de las decisiones que los involucran y a corregir cualquier error en la información procesada.
A pesar de ser un avance prometedor, la ley también tiene sus limitaciones. Actualmente, la aplicación del Acta depende en gran medida del abogado general del estado, lo que reduce la capacidad de las personas para hacer valer sus derechos a través de acciones legales directas. Expertos abogan por la inclusión de un «derecho privado a la acción» que permitiría a las personas demandar a las empresas que violan sus derechos respecto a la IA. Asimismo, se señala que la actual disposición que otorga un “supuesto refutable” de cumplimiento a las empresas que usan sistemas de IA podría obstaculizar futuras reclamaciones por discriminación.
Por lo tanto, aunque Colorado está liderando el camino, es fundamental que la legislación sea reforzada y que otros estados sigan su ejemplo. El objetivo es impedir que los sistemas de decisión automatizados continúen privando injustamente a las personas de oportunidades en áreas esenciales como el empleo y la atención médica. La lucha por un uso responsable de la tecnología y contra la discriminación en estos sistemas apenas comienza.
Fuente: EFF.org
