Amazon SageMaker ha lanzado una poderosa herramienta para facilitar la creación, personalización y despliegue de modelos de inteligencia artificial generativa mediante el uso del editor visual de Amazon SageMaker Pipelines. Esta herramienta es un servicio de orquestación de flujos de trabajo sin servidor, diseñado específicamente para optimizar las operaciones de modelos de base (FMOps). Con esta novedosa funcionalidad, los científicos de datos e ingenieros de aprendizaje automático pueden acelerar sus proyectos, desde la fase de prototipo hasta la producción, sin la necesidad de dominar complejos frameworks de automatización.
El nuevo editor visual permite a los usuarios construir, ajustar, evaluar, registrar y desplegar modelos de inteligencia artificial generativa con facilidad. Uno de los casos de uso destacados es la personalización automatizada de modelos de lenguaje grande (LLM), como el modelo Llama 3.x de Meta, para generar resúmenes financieros a partir de informes de la SEC.
La automatización es clave, ya que permite la actualización regular de los modelos basados en datos del mundo real, como los informes trimestrales de resultados financieros. Este proceso automatizado se simplifica al configurar un flujo de trabajo de personalización de Llama 3, que se puede activar automáticamente cuando se disponga de nuevos datos.
El proceso para crear un pipeline es intuitivo y se compone de varios pasos clave. Inicialmente, se afina el modelo Llama 3 usando un conjunto de datos financieros de la SEC. Posteriormente, el modelo se prepara y despliega para su uso en inferencias en tiempo real. La evaluación del rendimiento del modelo afinado se realiza mediante la biblioteca fmeval y, si cumple con los criterios de rendimiento deseados, el modelo es registrado en el SageMaker Model Registry. Si no cumple con las expectativas, el flujo de ejecución del pipeline se interrumpe, asegurando que solo los modelos de calidad óptima se implementen y utilicen.
Además, la herramienta está preparada para escalar según las necesidades de cada proyecto, permitiendo la ejecución simultánea de decenas de miles de flujos de trabajo. Los usuarios también tienen la opción de descargar el diseño del pipeline en formato JSON para una mayor flexibilidad y poder reanudar el trabajo en cualquier momento.
La capacidad de SageMaker para integrar múltiples scripts, pasos y personalizaciones, combinado con su escalabilidad automática, lo convierte en una solución robusta para gestionar modelos de AI/ML a gran escala. Esto confirma la posición de Amazon SageMaker como un líder en la aplicación práctica de la inteligencia artificial generativa en contextos empresariales.
vía: AWS machine learning blog
