Los modelos de fundación (FMs) y la inteligencia artificial generativa están revolucionando las operaciones empresariales en diversas industrias. Según investigaciones recientes, se estima que la inteligencia artificial generativa podría contribuir hasta 4.4 billones de dólares anuales a la economía global, mejorando la eficiencia operativa, fomentando un crecimiento de la productividad entre el 0.1% y el 0.6% anual, optimizando la experiencia del cliente a través de interacciones personalizadas y acelerando la transformación digital.
Sin embargo, muchas organizaciones todavía enfrentan desafíos con la «alucinación de la IA», un fenómeno donde las aplicaciones de inteligencia artificial generan información plausible pero incorrecta al ser movidas de entornos experimentales a entornos de producción. Un reciente informe señala que los errores de razonamiento derivados de estas «alucinaciones» son una preocupación principal para el 59% de los encuestados, mientras que el 48% teme por la desinformación proveniente de actores malintencionados y el 44% expresa inquietudes sobre la privacidad.
Para abordar este problema, Amazon Web Services (AWS) ha anunciado su iniciativa de «Automated Reasoning checks» (comprobaciones de razonamiento automatizado), presentada en la reciente conferencia AWS re:Invent 2024. Esta herramienta utiliza algoritmos basados en lógica y validación matemática para verificar las salidas de modelos de lenguaje grande (LLM) frente a conocimientos del dominio incorporados, ayudando a prevenir inexactitudes fácticas. Estas verificaciones se integran en el marco de «Amazon Bedrock Guardrails,» que también incluye filtrado de contenido, redacción de información personal identificable (PII) y medidas de seguridad mejoradas.
El razonamiento automatizado se presenta como una rama especializada de la informática que aplica técnicas de prueba matemática y deducción lógica formal para verificar el cumplimiento de las normas y requisitos bajo ciertas suposiciones. A diferencia de los enfoques probabilísticos comunes en el aprendizaje automático, el razonamiento automatizado proporciona garantías definitivas sobre lo que puede y no puede ser demostrado, ofreciendo una claridad invaluable para aplicaciones que requieren alta certeza en sus conclusiones.
Además de estas capacidades, las características de las verificaciones de razonamiento automatizado permiten a las organizaciones crear políticas que codifiquen sus reglas y procedimientos en formatos estructurados y matemáticos, empoderando a expertos en dominios específicos para capturar y mantener el conocimiento adecuado sin necesidad de intermediarios técnicos. Esto incluye la posibilidad de traducir el lenguaje natural a lógica para mantener un riguroso proceso de validación.
La introducción de estas herramientas y técnicas se está explorando en diversos sectores, que van desde la salud hasta las finanzas, pasando por la educación y el comercio, lo que subraya la necesidad de mecanismos de validación automatizados que aseguren la precisión y la confianza en las respuestas generadas por IA. Con la creciente adopción de la inteligencia artificial generativa, se espera que la demanda por este tipo de soluciones de validación continúe aumentando, lo que permitirá a las empresas construir aplicaciones de IA más confiables y efectivas.
vía: AWS machine learning blog
