En 2025, Amazon SageMaker AI ha implementado una serie de mejoras significativas orientadas a optimizar el entrenamiento, ajuste y hospedaje de cargas de trabajo de inteligencia artificial generativa. Estas actualizaciones, además de los ya discutidos planes de entrenamiento flexible y las mejoras en la relación costo-rendimiento de los componentes de inferencia, han permitido que un nuevo abanico de casos de uso de clientes pueda ser alojado en SageMaker AI.

Entre las mejoras más destacadas se encuentran las optimizaciones en observabilidad, personalización del modelo y el hospedaje de modelos. Estas novedades ofrecen a las organizaciones una visibilidad más clara sobre el rendimiento y la salud de la infraestructura, facilitando el diagnóstico de problemas como la latencia y ineficiencias en los recursos.

La capacidad de observabilidad mejorada permite realizar un seguimiento más granular del uso de CPU, memoria y GPU, así como del rendimiento de invocaciones, a niveles de instancia y contenedor. Estos avances ayudan a las empresas a diagnosticar problemas que antes podían estar ocultos por la agregación de datos a nivel de punto final. Además, las actualizaciones continuas de los componentes de inferencia aseguran un despliegue seguro y eficiente, eliminando la necesidad de aprovisionar infraestructura duplicada y permitiendo implementaciones sin tiempos de inactividad.

En el ámbito de la usabilidad, SageMaker AI ha introducido una personalización de modelos serverless que reduce notablemente el tiempo de planificación de infraestructura, provisionando automáticamente los recursos computacionales necesarios en función del tamaño del modelo y los datos. Esto permite a los equipos concentrarse en el ajuste de modelos sin la carga de la gestión de infraestructura. Asimismo, la nueva capacidad de streaming bidireccional transforma las interacciones de inferencia de un formato transaccional a conversaciones continuas, lo que resulta en aplicaciones en tiempo real más eficientes, como agentes de voz y transcripciones en vivo.

Otras características importantes incluyen la compatibilidad con IPv6 y PrivateLink, que mejoran la conectividad y la seguridad de las implementaciones empresariales al permitir el acceso a los endpoints de SageMaker AI de manera privada y sin necesidad de pasar por Internet público.

Estas innovaciones enfocadas en la observabilidad, facilidad de uso y actualización continua, posicionan a SageMaker AI como una herramienta clave para las organizaciones que buscan implementar soluciones de IA generativa de forma efectiva y segura. Con la disponibilidad de estas capacidades en diversas regiones, Amazon solidifica su compromiso por transformar la manera en que las empresas construyen y despliegan aplicaciones de inteligencia artificial a gran escala.
vía: AWS machine learning blog