Las empresas enfrentan un reto creciente: los clientes requieren respuestas rápidas, pero los equipos de soporte están abrumados. La documentación de soporte, como manuales de productos y artículos de bases de conocimientos, a menudo exige que los usuarios busquen entre cientos de páginas, y los agentes de soporte suelen manejar entre 20 y 30 consultas de clientes al día para localizar información específica.
Para abordar este desafío, se propone una solución que consiste en construir un asistente web impulsado por inteligencia artificial (IA) utilizando Amazon Bedrock y Amazon Bedrock Knowledge Bases. Esta solución está diseñada para beneficiar tanto a los equipos internos como a los clientes externos, ofreciendo múltiples ventajas. Entre ellas se incluyen respuestas instantáneas y relevantes para los clientes, un potente sistema de recuperación de conocimiento para los agentes de soporte que reduce el tiempo de resolución, y soporte automatizado disponible las 24 horas del día.
La solución se basa en un enfoque de Generación Aumentada por Recuperación (RAG), que permite recuperar información relevante de una base de conocimientos y devolverla al usuario según su acceso. Los componentes clave de la solución incluyen las bases de conocimientos de Amazon Bedrock, donde se almacenan contenidos del sitio web de la empresa, incluyendo manuales y guías de solución de problemas; modelos de lenguaje de gran tamaño (LLM) gestionados por Amazon Bedrock; y una arquitectura escalable y sin servidor que utiliza Amazon Elastic Container Service (ECS) para alojar la interfaz de usuario y AWS Lambda para gestionar las solicitudes de los usuarios.
El flujo de trabajo de la solución sigue varios pasos, comenzando con el procesamiento de documentos subidos a Amazon S3, segmentándolos y generando representaciones, y permitiendo que una aplicación web acceda a ellos. Cuando un usuario envía una pregunta, se invoca una función Lambda que utiliza las API de Amazon Bedrock para recuperar la información relevante de la base de conocimientos, generando respuestas que se devuelven al usuario en base a su tipo de acceso.
Para implementar esta solución, es necesario crear una base de conocimientos que ingeste datos de una página web y documentos operativos de un bucket S3. Esto implica varios pasos dentro de la consola de Amazon Bedrock, donde se configuran fuentes de datos, se ingesta contenido web y se administran documentos internos. Una vez establecida la infraestructura, se pueden realizar pruebas con distintos tipos de usuarios, internos y externos, quienes accederán a información diferenciada según su rol.
Finalmente, se destaca que esta solución permite manejar eficazmente las consultas de soporte, optimizando el tiempo de respuesta y haciendo más accesible la información para los clientes. Además, se puede utilizar este enfoque para desarrollar otros prototipos y aplicaciones de IA generativa, sentando las bases para un moderno soporte al cliente. Para aquellos interesados en profundizar en los fundamentos de la IA generativa y en cómo trabajar con modelos de lenguaje, se ofrecen cursos en línea que proporcionan conocimiento práctico y aplicaciones en el ámbito de la inteligencia artificial.
vía: AWS machine learning blog
