Amazon ha anunciado el lanzamiento de su nuevo servicio totalmente gestionado, Amazon Bedrock, que proporciona una selección de modelos base de alto rendimiento de empresas líderes en inteligencia artificial como AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI y la propia Amazon. Este servicio, accesible a través de una única API, se enfoca en permitir la construcción de aplicaciones de inteligencia artificial generativa con altos estándares de seguridad, privacidad y responsabilidad.

Los modelos base son especialmente útiles en casos de uso comunes en inteligencia artificial generativa, tales como chatbots, asistentes virtuales y búsquedas conversacionales, entre otros. Para optimizar la respuesta de estos modelos, una técnica conocida como Generación de Recuperación Incrementada (RAG) proporciona contextos específicos, y se recomienda ajustar finamente los modelos para alinearlos con la voz y el vocabulario propios de la industria o la marca.

Una característica destacada de Amazon Bedrock es el soporte para la importación de modelos personalizados, permitiendo a los usuarios incorporar modelos afinados previamente en otros entornos como Amazon SageMaker, Amazon EC2 y en ubicaciones locales, directamente a Amazon Bedrock. Esta funcionalidad, actualmente en fase de vista previa, facilita la integración de modelos personalizados y finamente ajustados, mejorando la adaptabilidad y el rendimiento de las aplicaciones de AI generativa.

Entre las características clave del servicio de Importación de Modelos Personalizados, se incluyen:

1. Posibilidad de importar modelos afinados a fin de aprovechar las capacidades sin servidor totalmente gestionadas de Amazon Bedrock.
2. Soporte para arquitecturas de modelos como Llama 2, Llama 3, Flan y Mistral, con precisiones de FP32, FP16 y BF16 y futuras cuantizaciones.
3. Capacidad para ejecutar el proceso de importación con los pesos del modelo almacenados en Amazon S3.
4. Integración directa con modelos de Amazon SageMaker mediante la referencia de Amazon Resource Names (ARN).
5. Escalabilidad automática del modelo basado en el patrón de tráfico, optimizando los costos al reducir los recursos cuando no están en uso.

El proceso de importación y evaluación de un modelo finamente ajustado implica pasos detallados como afinar el modelo usando SageMaker, importarlo en Amazon Bedrock, y evaluarlo usando la librería SageMaker FMEval. Por ejemplo, se describe la afinación de un modelo Mistral usando el conjunto de datos OpenOrca y su posterior evaluación, garantizando la precisión y eficiencia del modelo en función de las necesidades específicas de los usuarios.

Para ilustrar la solución, el artículo incluye diagramas del flujo de trabajo y ejemplos de código para cada uno de los pasos, desde la preparación del conjunto de datos hasta la evaluación del modelo importado. De esta manera, Amazon Bedrock no solo facilita la importación de modelos sino también su implementación escalable y segura.

Con Amazon Bedrock, Amazon amplía su oferta de inteligencia artificial, brindando a los desarrolladores herramientas avanzadas para construir y escalar aplicaciones de AI generativa de manera eficiente.
vía: AWS machine learning blog