Un reciente estudio de la Universidad de Waterloo ha presentado un marco innovador llamado Social Responsibility Stack (SRS), que aborda el desafío de garantizar la ética y la responsabilidad en sistemas de inteligencia artificial (IA). Este enfoque propone que la responsabilidad social no debe ser vista como un mero cumplimiento normativo, sino como un problema de control continuo que se integra desde el inicio en la arquitectura del sistema.

Los riesgos asociados con la implementación de la IA son cada vez más evidentes. Existen ejemplos de sistemas de salud que, aunque inicialmente precisos, pueden volverse sesgados con el tiempo o algoritmos de recomendación que crean cámaras de eco entre distintos grupos de usuarios. Este tipo de problemas pone de manifiesto la necesidad de un enfoque más dinámico en la gestión de la ética en IA, donde los valores sociales se integren desde el comienzo y se monitoreen constantemente a lo largo de la vida operativa del sistema.

El SRS está organizado en seis capas interconectadas de responsabilidad. La primera capa, denominada «valor de enraizamiento», traduce conceptos abstractos como «justicia» en restricciones medibles y concretas, como el umbral máximo de diferencia en las tasas de falsos negativos entre diferentes grupos demográficos en un sistema de triaje hospitalario.

La segunda capa, el «modelado de impacto socio-técnico», utiliza simulaciones para prever daños emergentes, evaluando cómo un sistema de IA podría polarizar comunidades o hacer que los médicos dependan excesivamente de una herramienta diagnóstica. La tercera incluye salvaguardias de diseño que integran controles técnicos dentro del sistema, asegurando que las restricciones de equidad y otros parámetros críticos formen parte del proceso de entrenamiento.

El marco también contempla la creación de interfaces de retroalimentación conductual que monitorean la interacción entre los humanos y el sistema de IA, ajustando el comportamiento del sistema para evitar que los usuarios confíen ciegamente en sus recomendaciones. Otra capa importante es la auditoría social continua, que examina el rendimiento del sistema y activa intervenciones automáticas cuando se detectan desviaciones de los umbrales establecidos.

Finalmente, la capa superior se compone de gobernanza e inclusión de partes interesadas, donde las decisiones son apoyadas por juntas de revisión y consejos de partes interesadas, asegurando que el proceso de gobernanza sea activo y no meramente formal.

Este enfoque innovador combina teoría de control con ética de la IA, estructurando la gobernanza como un problema de control de bucle cerrado. Se definen regiones operativas admisibles y métricas cuantificables que permiten evaluar el cumplimiento de los valores sociales a lo largo del tiempo, convirtiendo la transparencia en un elemento central de la rendición de cuentas en la ingeniería de IA.

El estudio presenta tres casos de aplicaciones del SRS: un sistema de soporte de decisiones clínicas que monitorea sesgos en la atención médica, una red de vehículos autónomos que asegura una toma de decisiones éticamente cuidadosa y un sistema automatizado de determinación de beneficios en el sector público que audita continuamente sus efectos.

La principal contribución del SRS radica en hacer explícitas las decisiones sobre compromisos de valor, permitiendo que los ingenieros naveguen por las tensiones y decisiones que surgen entre la precisión, la equidad y la transparencia. En un futuro donde los sistemas de IA se convierten en el núcleo de decisiones críticas, el SRS proporciona una hoja de ruta para que la gobernanza de la IA sea una disciplina de ingeniería activa y continua, abordando de manera proactiva la complejidad de la responsabilidad social.
vía: AI Accelerator Institute