Las instituciones de servicios financieros (ISF) están experimentando una transformación significativa gracias a los modelos fundamentales (FMs) y a la inteligencia artificial generativa (GenAI), tecnologías que están redefiniendo sus operaciones. Empresas como NASDAQ, el Banco Estatal de India y Bridgewater han comenzado a implementar estos modelos para reimaginar sus funciones comerciales básicas y alcanzar mejores resultados.

A pesar de su capacidad para producir resultados sofisticados, los modelos fundamentales operan de manera probabilística, lo que significa que pueden generar una variedad de resultados. Sin embargo, esta naturaleza probabilística a menudo se traduce en una falta de transparencia en el proceso de toma de decisiones, en comparación con los enfoques predictivos más clásicos. Si bien hay técnicas emergentes que buscan mejorar la comprensión de los modelos, como el uso de herramientas y la Generación Aumentada por Recuperación, estas también dependen de mecanismos probabilísticos.

En sectores altamente regulados como la banca y el seguro, donde la transparencia en la toma de decisiones es crucial, los clientes de AWS han manifestado su deseo de lanzar aplicaciones impulsadas por FMs con la misma confianza que tienen en el software tradicional y determinista. Para atender esta necesidad, AWS ha lanzado un nuevo recurso conocido como Revisiones de Razonamiento Automatizado, que forma parte de Amazon Bedrock Guardrails. Estas revisiones pueden detectar «alucinaciones» en los modelos, sugerir correcciones y poner de manifiesto suposiciones no declaradas en las respuestas de las aplicaciones de inteligencia artificial generativa. Más importante aún, pueden explicar por qué una afirmación es precisa utilizando lógica formal matemática verificable.

El enfoque del Razonamiento Automatizado implica la creación de una política que codifica un conjunto de reglas lógicas basadas en la documentación fuente disponible. Posteriormente, este sistema puede validar la consistencia entre las preguntas y las respuestas proporcionadas por el modelo fundamental, utilizando técnicas matemáticas sólidas. Esto cambia fundamentalmente la forma de abordar la transparencia en las aplicaciones de FM, proporcionando verificación determinista en flujos de trabajo orientados al proceso, algo esencial en las organizaciones de ISF.

El Razonamiento Automatizado, un campo de la informática que se centra en la deducción lógica y la prueba matemática, representa un avance. Por ejemplo, en un escenario financiero básico, un sistema de Razonamiento Automatizado puede desglosar reglas comerciales complejas y proporcionar respuestas deterministas sobre la necesidad de aprobación en ciertas transacciones. Esta capacidad de verificar el cumplimiento normativo, validar reglas comerciales y gestionar controles de acceso se traduce en una mayor confianza y eficiencia en los procesos empresariales.

La implementación de este sistema no solo asegura la adherencia a las normativas y políticas establecidas, sino que también permite la incorporación de la inteligencia artificial generativa de manera más eficiente y segura en los procesos de toma de decisiones. Así, los profesionales de los servicios financieros pueden mejorar la precisión y la gobernanza en áreas críticas como la evaluación de riesgos, el cumplimiento regulatorio y la detección de fraudes, enfrentando uno de los principales obstáculos en la adopción de la inteligencia artificial generativa: la generación de respuestas poco fiables o incorrectas por parte del modelo.

Con la puesta en marcha de esta innovadora herramienta, los sectores regulados como la banca y el aseguramiento pueden avanzar con mayor confianza en su integración de inteligencia artificial, marcando un nuevo estándar en la gobernanza y la precisión de sus operaciones.
vía: AWS machine learning blog