In un desarrollo significativo para el campo de la inteligencia artificial, Inception Labs ha anunciado la disponibilidad de los modelos de fundación Mercury y Mercury Coder a través de Amazon Bedrock Marketplace y Amazon SageMaker JumpStart. Esta iniciativa permite a los desarrolladores implementar estos modelos para construir, experimentar y escalar de manera responsable sus aplicaciones de IA generativa en la infraestructura de Amazon Web Services (AWS).
Los modelos Mercury son la primera familia de modelos de lenguaje basados en difusión a escala comercial, destacándose por su velocidad de generación de texto y su capacidad para mantener una alta calidad en las salidas. A diferencia de los modelos tradicionales que generan texto de manera secuencial, los modelos Mercury permiten la generación de múltiples tokens en paralelo, lo que resulta en velocidades de inferencia significativamente más rápidas, alcanzando hasta 1,100 tokens por segundo en GPUs NVIDIA H100.
Entre las características destacadas de los modelos Mercury Coder se encuentran la generación de código de alta calidad en varios lenguajes de programación, incluyendo Python, Java y JavaScript; un sólido rendimiento en tareas de completado y edición de código; y un soporte para longitudes de contexto de hasta 32,768 tokens, extendibles hasta 128,000 tokens con enfoques de extensión de contexto.
Amazon Bedrock Marketplace desempeña un papel clave en la democratización del acceso a estas capacidades avanzadas de IA, con una amplia selección de modelos y una experiencia unificada y segura para la integración. La plataforma permite a las organizaciones escalar de manera eficaz, ofreciendo configuraciones de escalabilidad a través de endpoints gestionados.
Para acceder a los modelos Mercury en Amazon Bedrock, los usuarios deben seguir un proceso relativamente simple que incluye acceder al catálogo de modelos, seleccionar el modelo deseado y suscribirse. Una vez suscrito, los usuarios pueden probar las capacidades del modelo en el entorno de Amazon Bedrock.
Por su parte, SageMaker JumpStart ofrece un servicio completamente gestionado que proporciona modelos de fundación para diversos casos de uso, facilitando la implementación rápida de aplicaciones de ML. La utilización de SageMaker Studio permite a los desarrolladores descubrir y desplegar los modelos Mercury de manera efectiva.
Se espera que la implementación de estos modelos transforme la forma en que las empresas pueden aprovechar la inteligencia artificial, mejorando tanto la velocidad como la calidad de las aplicaciones generativas que desarrollan. Con la llegada de Mercury, el panorama de la IA generativa en la nube se consolida aún más, ofreciendo herramientas potentes para diversas necesidades industriales.
vía: AWS machine learning blog
