Desde el lanzamiento de Chat-GPT, la inteligencia artificial (IA) ha estado en el centro de intensos debates a nivel mundial, centrados en las promesas y peligros que conlleva esta nueva tecnología. Estos diálogos han dado lugar a una variedad de iniciativas, incluidas la orden ejecutiva sobre IA del gobierno de Biden y los principios rectores internacionales para el desarrollo de IA generativa, además de influir en el recientemente implementado AI Act en Europa. En el contexto de esta discusión global sobre políticas, el gobierno británico organizó el AI Safety Summit en 2023, seguido en 2024 por el AI Seoul Summit, que conduce al AI Action Summit de este año, organizado por Francia.
A medida que líderes de estado y directores ejecutivos se dirigen a París para el AI Action Summit, se evidencian las limitaciones del evento. Aunque el gobierno francés lo ha descrito como un «momento clave» para definir el futuro de la gobernanza de la inteligencia artificial, un examen más detallado de su agenda y de las voces que se promoverán revela una historia diferente.
El enfoque del summit en las contribuciones económicas potenciales de la IA y la falta de distinción entre modelos de lenguaje grandes y la toma de decisiones automatizada indican que se están pasando por alto las numerosas formas en que los sistemas de IA pueden ser abusados, poniendo en riesgo derechos fundamentales y exacerbando límites ecológicos ya estirados. En lugar de centrar la discusión en las diferentes capacidades de los sistemas de IA y sus riesgos asociados, la agenda del evento presenta una imagen simplista y unilateral que no se refleja en la conversación global sobre la gobernanza de la IA. Por ejemplo, no hay ningún panel en la programación principal que aborde temas de discriminación o sostenibilidad.
Esta falta de equilibrio también se ve reflejada en los conferenciantes del summit, donde los representantes de la industria superan claramente a los líderes de la sociedad civil. Mientras que varias organizaciones de la sociedad civil organizan eventos paralelos para contrarrestar las prioridades mal dirigidas del summit, un evento que está dominado por intereses de la industria no puede considerarse un foro transformador para debates de políticas globales.
Estos defectos son especialmente problemáticos considerando el papel de liderazgo que los países europeos afirman tener en la gobernanza de la IA. El AI Act de la Unión Europea, que recientemente entró en vigor, ha sido celebrado como el primer marco legal del mundo que aborda los riesgos de la IA. Sin embargo, la efectividad del AI Act para «promover la adopción de una inteligencia artificial centrada en el ser humano y confiable» aún está por verse.
No está claro si el AI Act proporcionará un marco que incentive la implementación de herramientas de IA centradas en el usuario o si, por el contrario, limitará ciertas tecnologías en detrimento de los usuarios. Si bien se aprecian los esfuerzos por incluir un lenguaje prometedor sobre la protección de derechos fundamentales, las excepciones para la aplicación de la ley y la seguridad nacional podrían debilitar algunas de las salvaguardias existentes. Esto es especialmente preocupante en contextos de alto riesgo como la migración y la seguridad pública.
El summit también se queda corto al abordar el papel esencial que los derechos humanos deben desempeñar en el despliegue de la IA, sobre todo en usos de gran impacto. Aunque algunas preocupaciones relacionadas con los derechos humanos aparecen en algunas sesiones, el evento, que se presenta como un foro global destinado a liberar el potencial de la IA para el bien público, parece perder la oportunidad de articular claramente cómo este objetivo se relaciona con el cumplimiento de garantías internacionales de derechos humanos.
En un momento en que el uso gubernamental de sistemas de IA juega un papel clave en las estrategias nacionales de desarrollo tecnológico, es fundamental que los países aborden la brecha de IA sin replicar los daños asociados. En un contexto de carrera armamentista de IA a nivel global, no se requiere más entusiasmo por la IA; es esencial fomentar debates de políticas basadas en evidencias que analicen la centralización del poder de la IA y consideren los daños del mundo real relacionados con los sistemas de IA, permitiendo que partes interesadas diversas participen en igualdad de condiciones. Sin embargo, es probable que el AI Action Summit no sea el escenario adecuado para este tipo de conversación.
Fuente: EFF.org
