La adopción de la inteligencia artificial generativa está en constante aumento entre las empresas, lo que hace que el mantenimiento de interacciones seguras, responsables y conformes sea más crítico que nunca. En este contexto, Amazon ha presentado mejoras significativas en Amazon Bedrock Guardrails, una herramienta que proporciona salvaguardias configurables para ayudar a las organizaciones a construir aplicaciones de IA generativa con protección de seguridad de primer nivel. Con Amazon Bedrock Guardrails, las empresas pueden aplicar salvaguardias personalizadas que se adaptan a sus políticas de IA responsable, facilitando la creación de múltiples guardrails para diferentes casos de uso y su aplicación en diversos modelos de base, mejorando así la experiencia del usuario y estandarizando el control de la seguridad en las aplicaciones de IA generativa.
Un avance notable de esta herramienta es la nueva capacidad de implementación de normas basada en políticas de AWS Identity and Access Management (IAM). Esta funcionalidad permite a los equipos de seguridad y cumplimiento establecer normas obligatorias para cada llamada de inferencia del modelo, asegurando que las políticas de seguridad de la organización se apliquen de manera constante en las interacciones de IA. Esto mejora la gobernanza de la IA al proporcionar un control centralizado sobre la implementación de estas normas.
Las organizaciones que implementan IA generativa enfrentan desafíos de gobernanza críticos. Entre ellos se encuentran la adecuación del contenido, ya que los modelos pueden generar respuestas no deseadas a solicitudes problemáticas, y las preocupaciones sobre la seguridad, ya que podría generarse contenido dañino incluso de solicitudes inocentes. Además, existe una necesidad urgente de proteger la privacidad al manejar información sensible y garantizar la aplicación consistente de las políticas en todas las implementaciones de IA.
Las capacidades de Amazon Bedrock Guardrails incluyen la implementación de salvaguardias personalizadas, los cuales abarcan filtros de contenido, tópicos prohibidos, filtros de información sensible, bloqueo de palabras específicas, comprobaciones de fundamentación contextual, y razonamiento automatizado para prevenir errores fácticos. Estas características ayudan a las organizaciones a mitigar riesgos asociados con la generación de contenido dañino, violaciones de privacidad y sesgos.
Además, para garantizar la conformidad con las políticas organizacionales, Amazon Bedrock Guardrails proporciona la nueva clave de condición de IAM bedrock:GuardrailIdentifier. Esta clave puede ser utilizada en las políticas de IAM para obligar el uso de un guardrail específico durante la inferencia del modelo. Esta implementación mejora la seguridad, al impedir solicitudes que no coincidan con las normas definidas.
No obstante, existen limitaciones en la implementación de este sistema. Actualmente, Amazon Bedrock Guardrails no soporta políticas basadas en recursos para acceso entre cuentas, lo que puede complicar la gestión en entornos más grandes y complejos. Si un usuario asume un rol con un guardrail específico configurado, puede planificar la estructura de su entrada para evitar la aplicación de verificaciones en partes de su solicitud. Sin embargo, las respuestas del modelo siempre serán evaluadas en base a las salvaguardias completas.
La introducción de la aplicación de políticas de guardrail en Amazon Bedrock representa un avance crucial en la gobernanza de la IA, particularmente a medida que la inteligencia artificial generativa se integra en las operaciones empresariales. Al permitir a los equipos de seguridad mantener un control de seguridad constante en las aplicaciones de IA, las organizaciones pueden mitigar eficazmente los riesgos asociados con un contenido dañino y las violaciones de privacidad, estableciendo un equilibrio esencial entre innovación y responsabilidad ética en el uso de sistemas de inteligencia artificial impulsados por datos.
vía: AWS machine learning blog
