Amazon ha anunciado que su servicio Amazon Bedrock, específicamente la función de importación de modelos personalizados, ahora permite el uso de modelos Qwen, incluyendo diferentes variantes como Qwen2, Qwen2_VL y Qwen2_5_VL. Esta integración permite a los usuarios importar pesos personalizados para estas arquitecturas y desplegarlos de manera totalmente gestionada en un entorno sin servidor, eliminando la necesidad de gestionar la infraestructura subyacente.
La incorporación de los modelos Qwen 2 y 2.5 representa un avance significativo en las capacidades de inteligencia artificial disponibles dentro de la infraestructura de AWS. Los modelos de esta familia abarcan desde modelos de lenguaje general, que oscilan entre 0.5B y 72B parámetros, hasta variantes especializadas como Qwen 2.5-Coder, orientado a la generación y finalización de código, y Qwen 2.5-VL, que ofrece capacidades de procesamiento de imágenes y vídeos.
La funcionalidad de importación de modelos de Amazon Bedrock permite integrar modelos personalizados con los modelos de base existentes mediante una única API unificada sin servidor. Esto facilita el acceso a los modelos personalizados de forma instantánea, acelerando el desarrollo de aplicaciones de inteligencia artificial generativa. Amazon Bedrock Custom Model Import ya está disponible en varias regiones, incluidas Estados Unidos y Europa.
Un caso típico de uso de Qwen 2.5 es el desempeño como asistente de programación, donde su variante Qwen2.5-Coder ha demostrado igualar las capacidades de otros modelos propietarios, apoyando más de 90 lenguajes de programación y sobresaliendo en la generación de código y depuración.
Por otro lado, la variante Qwen 2.5-VL combina comprensión visual y de lenguaje, permitiendo que el modelo reconozca y describa objetos en imágenes, analice gráficos y extraiga texto.
Aquellos interesados en utilizar modelos Qwen a través de Amazon Bedrock deben asegurarse de contar con una cuenta activa de AWS, un bucket de Amazon S3 para almacenar los archivos de los modelos y permisos adecuados para crear trabajos de importación de modelos.
En cuanto a los costos, Amazon Bedrock Custom Model Import no cobra por el proceso de importación, pero sí aplica tarifas por el uso de inferencia, que se calculan en incrementos de cinco minutos. Esta opción de pricing se basa en el tamaño y tiempo de actividad de los modelos activos, además de otros factores como la región y las especificaciones del hardware.
Finalmente, para evitar cargos después de realizar experimentos, es recomendable eliminar los modelos importados de Amazon Bedrock custom model y, si no son necesarios, borrar también los archivos del bucket de S3. La integración de Amazon Bedrock con modelos potentes como Qwen 2.5 ofrece a las organizaciones una infraestructura optimizada para sus necesidades de inteligencia artificial, permitiéndoles concentrarse en el desarrollo de aplicaciones en lugar de la gestión de la infraestructura.
vía: AWS machine learning blog
