En el ámbito empresarial, la precisión en la recuperación de información a través de asistentes impulsados por inteligencia artificial generativa se ha consolidado como un uso destacado de esta tecnología. Con el fin de disminuir las alucinaciones y elevar la precisión general, el método de Generación Aumentada por Recuperación (RAG) se ha establecido como la técnica más utilizada para obtener respuestas confiables y precisas empleando datos específicos de la empresa al responder preguntas de los usuarios. Este enfoque se aplica en diversas áreas, incluyendo asistentes de IA, búsqueda de información y proporcionar insights en tiempo real, lo que a su vez mejora la calidad de los contenidos generados.

Amazon ha lanzado las Bases de Conocimiento de Amazon Bedrock, un servicio que facilita la implementación de RAG. Esta herramienta administrada se encarga de las tareas complejas como la ingesta de datos, el fragmentado de la información, el embebido de datos y la coincidencia de consultas, haciendo accesible la creación rápida de soluciones de RAG. Sin embargo, en escenarios empresariales con un gran número de documentos relevantes, las respuestas finales suelen depender de una selección limitada de los primeros resultados devueltos por la base de datos, lo que puede afectar la precisión si los resultados más pertinentes no están entre esos primeros.

Para afrontar este reto, Nippon Life India Asset Management Limited ha implementado una solución que mejora la precisión de las respuestas en comparación con el enfoque RAG convencional. Esta solución incluye la reutilización y reordenación de las respuestas, utilizando métodos RAG avanzados para alcanzar una mayor exactitud en los resultados. Las limitaciones del método RAG tradicional incluyen la falta de exactitud a medida que aumenta el volumen de documentos, dificultando el procesamiento de estructuras complejas, limitando el uso de datos relevantes y complicando la respuesta a preguntas que involucran múltiples facetas.

Los desarrolladores han comenzado a aplicar diversas estrategias para superar estas dificultades. Algunas de estas soluciones incluyen la utilización de servicios adicionales para la extracción de información, la reformulación programática de preguntas complejas y la creación de fragmentos personalizados de documentos. Nippon ha adoptado un enfoque avanzado que emplea un ciclo de trabajo de RAG que abarca la ingesta de datos y la generación de texto, el cual se basa en la creación de fragmentos que se almacenan en una base de datos vectorial, permitiendo una búsqueda más eficiente y relevante.

A través de Amazon Bedrock, la empresa ha optimizado su método de RAG, empleando técnicas como el reordenamiento de resultados y análisis semántico. Esto ha llevado a una notable mejora en la calidad de las respuestas, conduciendo a un incremento en la precisión superior al 95% y una reducción de alucinaciones en un 90-95%. Además, la implementación de esta tecnología ha disminuido el tiempo requerido para generar informes de dos días a solo diez minutos.

La evolución continua de estos métodos señala un futuro en el que empresas como Nippon pueden beneficiarse aún más de las capacidades de RAG, explorando nuevas innovaciones como GraphRAG y la filtración de metadatos. La voz del avance tecnológico resuena, prometiendo aplicaciones más sofisticadas que transformarán la forma en que interactuamos con la información y optimizamos la toma de decisiones en entornos empresariales.
vía: AWS machine learning blog