En un avance significativo en la automatización de workflows complejos y procesos de toma de decisiones, los agentes inteligentes de Amazon Bedrock están transformando la forma en que las empresas desarrollan aplicaciones de inteligencia artificial generativa. Estos agentes, que utilizan las capacidades de razonamiento de modelos fundamentales, son capaces de desglosar tareas solicitadas por los usuarios en múltiples pasos, orquestando así la ejecución a través de una serie de acciones vinculadas a APIs empresariales y bases de conocimiento, gracias a la tecnología de Generación Aumentada por Recuperación (RAG).

Sin embargo, la creación de agentes autónomos que manejen eficazmente las consultas de los usuarios requiere una planificación cuidadosa y salvaguardias robustas. Aunque estos modelos continúan mejorando, aún pueden generar resultados incorrectos, y debido a la complejidad de los sistemas de agentes, los errores pueden ocurrir en varias etapas del proceso. Por ejemplo, un agente podría seleccionar la herramienta equivocada o usar parámetros correctos pero inapropiados. Aunque Amazon Bedrock permite que los agentes se autocorrijan mediante su estrategia de razonamiento y acción, la repetición de herramientas podría ser aceptable para tareas no críticas, pero sería arriesgada en operaciones esenciales para el negocio, como las modificaciones en bases de datos.

En estos escenarios sensibles, la interacción humana se vuelve esencial para el éxito de los despliegues de agentes de IA, que abarcan múltiples puntos de contacto críticos entre personas y sistemas automatizados. Esta interacción puede tomar diversas formas, desde la aprobación de acciones por parte de los usuarios finales hasta la revisión de respuestas por parte de expertos en la materia. El hilo común es mantener la supervisión humana, utilizando la inteligencia humana para mejorar el rendimiento del agente.

En el contexto de Amazon Bedrock, los desarrolladores tienen a su disposición dos marcos principales para implementar la validación humana: la confirmación de usuario y la devolución de control (ROC). La confirmación de usuario es un método sencillo que permite detener y validar acciones específicas antes de su ejecución, mientras que la ROC permite un nivel más profundo de intervención humana, donde los usuarios pueden modificar parámetros o proporcionar información adicional antes de que se ejecute una acción.

Por ejemplo, en el caso de un agente de Recursos Humanos, la solicitud de tiempo libre puede ejecutarse automáticamente si el tiempo disponible es suficiente, pero requerirá confirmación si se trata de acciones críticas como la creación, actualización o cancelación de solicitudes.

La implementación de la confirmación de usuario y la ROC no solo minimiza errores sino que también empodera a los usuarios al darles un control más directo sobre las acciones del agente. Estos métodos facilitan una interacción más dinámica y flexible, lo que fomenta la confianza del usuario en el sistema y, en última instancia, mejora la experiencia del usuario.

En conclusión, a medida que las tecnologías de automatización continúen evolucionando, la integración de marcos que aseguran una participación humana informada se vuelve cada vez más importante. Amazon Bedrock no solo optimiza la automatización de procesos, sino que también establece un modelo de operación que combina eficazmente la inteligencia de las máquinas con la supervisión humana necesaria para garantizar decisiones fiables y precisas en entornos empresariales críticos.
vía: AWS machine learning blog