Recientemente, la introducción de los «agentic workflows» ha aportado una nueva perspectiva al diseño y gestión de flujos de trabajo complejos basados en casos de uso empresarial. Estos flujos de trabajo utilizan modelos de lenguaje grandes (LLMs) como motor de razonamiento, descomponiendo las consultas en lenguaje natural en pasos accionables con la ayuda de herramientas y APIs, proporcionando retroalimentación iterativa y auto-reflexión para obtener un resultado final. Sin embargo, se hace urgente medir y evaluar la robustez de estos flujos de trabajo, en especial aquellos que puedan ser adversos o dañinos.
Amazon ha implementado su solución, Amazon Bedrock Agents, capaz de desglosar conversaciones en lenguaje natural en tareas y llamadas a API mediante técnicas de «ReAct» y «chain-of-thought» (CoT). Esta herramienta no solo ofrece flexibilidad, sino que también reduce costos de desarrollo al posibilitar la personalización y adaptación de aplicaciones específicas, a la vez que protege los datos privados y asegura las aplicaciones. Funciona en infraestructura gestionada por AWS, minimizando la carga de gestión de la infraestructura y, aunque incluye mecanismos para evitar contenido dañino de manera general, permite añadir salvaguardas personalizables con Amazon Bedrock Guardrails. Esta funcionalidad mejora la protección contra contenido nocivo y filtra respuestas indeseadas en procesos como la generación de resúmenes.
En un caso práctico, se exploró cómo un chatbot minorista en línea procesa dinámicos flujos de trabajo para consultas sobre productos, como zapatos, utilizando Amazon Bedrock Agents. Sin embargo, al enfrentarlo con preguntas financieras no relacionadas, el bot careció de robustez suficiente para rechazar estos inputs sin Amazon Bedrock Guardrails. Estos guardrails personalizables son cruciales para filtrar información sensible o incorrecta, evitando consejos fiduciarios inapropiados y controlando la generación de información personal, garantizando que el bot opere dentro del alcance definido.
La integración de Amazon Bedrock Guardrails demostró ser una solución eficaz para este problema. Al incorporar estos elementos, el sistema pudo evitar responder a consultas inapropiadas, protegiendo así la información del usuario y fortaleciendo la confianza del cliente en la aplicación.
La importancia de estos desarrollos radica en la capacidad de los agentes basados en LLM para transformar las interacciones en línea, permitiendo la automatización de tareas con altos niveles de personalización y fiabilidad. Herramientas como Amazon Bedrock Agents y Guardrails allanan el camino para una interacción más segura y eficiente en el contexto digital, enfatizando la protección de datos y la integridad de las respuestas generadas.
vía: AWS machine learning blog
