Acuilae Labs ha dado un paso significativo en el ámbito de la ética aplicada a la inteligencia artificial al publicar de manera gratuita y en abierto la especificación de su nuevo estándar llamado Ethyka. Este estándar busca llevar las reglas éticas al comportamiento real de los sistemas de inteligencia artificial, tales como asistentes de atención, motores de recomendación, agentes autónomos o robots. La iniciativa surge en un momento crítico, justo después de la entrada en vigor de las nuevas obligaciones impuestas por el Reglamento Europeo de IA para los sistemas considerados de alto riesgo.
Ethyka se presenta como un estándar comprensible y accesible, que convierte las implicaciones éticas de un sistema de inteligencia artificial en documentos verificables. En estos documentos, las organizaciones deben declarar explícitamente sus compromisos: qué acciones llevarán a cabo siempre, cuáles serán completamente prohibidas, qué técnicas de manipulación están restringidas y hasta dónde se extiende la autonomía del sistema. Para aquellos sistemas que poseen un cuerpo físico, como robots y drones, se incluye un conjunto adicional de normas específicas que deben seguir.
El reglamento europeo, que entró en aplicación para los sistemas de alto riesgo, prohíbe explícitamente prácticas manipulativas y la explotación de vulnerabilidades. Sin embargo, hasta ahora no se había establecido un método claro para demostrar que un sistema no lleva a cabo tales manipulaciones. Ethyka aborda esta necesidad al nombrar y clasificar prácticas consideradas manipulatorias, tales como crear urgencias artificiales o apelar a sentimientos emocionales para evitar cancelaciones. Cada una de estas prácticas se convierte en una prueba concreta, alineada con las disposiciones del reglamento europeo.
Además, la extensión del estándar a la robótica introduce 19 reglas verificables, diseñadas para garantizar la seguridad en la interacción física entre robots y humanos. Este conjunto de reglas determina hasta qué punto un robot puede ejercer fuerza, cómo debe detenerse en situaciones de emergencia y qué datos se registran en caso de un mal funcionamiento.
Ethyka no solo persigue la declaración de principios éticos, sino también su integración real en el funcionamiento de los sistemas de inteligencia artificial. Para ello, Acuilae Labs ofrece un proceso estructurado en cuatro fases: diagnóstico, definición de líneas rojas, implantación de las reglas y puesta a prueba del sistema. Este enfoque busca garantizar que el comportamiento de los sistemas se alinee efectivamente con las promesas éticas manifestadas en los documentos.
Con un estándar accesible y un enfoque en la verificación, Acuilae Labs espera cumplir con las expectativas cada vez más exigentes de las organizaciones al contratar servicios de inteligencia artificial, asegurando la ética como un componente fundamental del desarrollo tecnológico.
