Inicio Blog Página 1982

Introducción de Fast Model Loader en SageMaker Inference: Acelerando la Autoescalabilidad de tus Modelos de Lenguaje Extensos – Parte 1

Elena Digital López
-
0
Introducción de Fast Model Loader en SageMaker Inference: Acelerando la Autoescalabilidad de tus Modelos de Lenguaje Extensos – Parte 1

En el dinámico ámbito de la inteligencia artificial generativa, los modelos de lenguaje de gran tamaño (LLMs) están protagonizando una rápida evolución. Estos modelos han alcanzado dimensiones y complejidades antes inimaginables, albergando cientos de miles de millones de parámetros y requiriendo cantidades ingentes de memoria para su funcionamiento. Sin embargo, a medida que estos modelos continúan expandiéndose, los ingenieros de inteligencia artificial enfrentan importantes desafíos para desplegar y escalar estos modelos de manera eficaz, especialmente durante la inferencia.

Uno de los principales obstáculos para el despliegue de la inferencia ha sido el tiempo necesario para cargar estos modelos enormes en los aceleradores. Dado que algunas de estas arquitecturas ya alcanzan cientos de gigabytes, resulta cada vez más complicado para los usuarios gestionar picos de tráfico y escalar rápidamente. Frente a estos retos, AWS ha presentado su nueva funcionalidad en Amazon SageMaker Inference durante el evento AWS re:Invent 2024: el Fast Model Loader. Esta innovadora herramienta promete reducir significativamente el tiempo necesario para desplegar y escalar modelos de lenguaje de gran tamaño.

Fast Model Loader introduce un enfoque novedoso al permitir que los pesos de los modelos se transmitan directamente desde Amazon S3 a los aceleradores. Este sistema no solo consigue disminuir los tiempos de carga, sino que también mejora la eficacia general del proceso. Las pruebas internas han demostrado que Fast Model Loader puede cargar modelos grandes hasta 15 veces más rápido que los métodos tradicionales. Este avance abre un abanico de posibilidades para sistemas de IA más receptivos, permitiendo una escalabilidad más rápida y aplicaciones más dinámicas capaces de adaptarse a las demandas cambiantes.

El Fast Model Loader está diseñado para abordar desafíos de escalado, mejorando la utilización de recursos en instancias de GPU y aumentando la eficiencia durante eventos de autoescalado. Esta herramienta ofrece una poderosa opción para gestionar el despliegue y la escala de LLMs en SageMaker Inference, ya sea para patrones de tráfico inconstantes o para la necesidad de escalar rápidamente servicios basados en LLM.

Además, esta tecnología no solo se centra en optimizar tiempos de carga, sino también en reducir la latencia durante el despliegue en momentos de alta demanda. Esto es particularmente crucial en entornos dinámicos donde una escala rápida es vital para mantener la calidad del servicio. Con una estructura de chunks más uniformes, de 8 MB, Fast Model Loader facilita la paralelización y el procesado concurrente, permitiendo que se maximice el ancho de banda de red disponible, lo que finalmente conduce a la reducción en los tiempos de carga.

Los beneficios de implementar esta tecnología se perciben claramente en modelos grandes, especialmente aquellos que requieren ráfagas rápidas de escalado. Si bien requiere un esfuerzo inicial para crear los artefactos necesarios para su operación, la reducción en los tiempos de escalado y la mejora en la utilización de recursos justifican ampliamente su implementación, permitiendo sistemas de IA más eficientes y pertinentes para enfrentar nuevos desafíos del mercado.

Con estas mejoras, la adopción de Fast Model Loader en Amazon SageMaker representa un paso significativo hacia la democratización y optimización de los recursos de IA, reafirmando el compromiso de AWS en proporcionar herramientas avanzadas para la comunidad de desarrolladores en todo el mundo.
vía: AWS machine learning blog

Impulso de 3,6 Millones de Euros para la Economía Social y los Cuidados

Belén Garmendiaz
-
0

El sector de la Economía Social y de los cuidados ha sido beneficiado con una inyección de 3,6 millones de euros, gracias a la reciente convocatoria de ayudas orientada a la creación de Espacios de Datos Sectoriales. Esta iniciativa, promovida por el Ministerio para la Transformación Digital y de la Función Pública, forma parte del ambicioso Plan de Recuperación, Transformación y Resiliencia, específicamente enmarcada en la Inversión 1 del Componente 12. La resolución definitiva de esta convocatoria fue publicada el pasado 15 de noviembre de 2024.

Con la aprobación de siete iniciativas relevantes, esta concesión económica apoyará un total de 89 proyectos que se llevarán a cabo hasta el 31 de diciembre de 2025. Estos esfuerzos buscan fortalecer y avanzar en la digitalización de un sector que enfrenta el desafío de adaptarse a las demandas tecnológicas actuales.

Los proyectos financiados no solo representan un impulso económico, sino que también facilitan la creación de demostradores y casos de uso de Espacios de Compartición de Datos, en línea con el PERTE de Economía Social y de los Cuidados. Este eje estratégico apunta a modernizar sectores productivos, promoviendo la eficiencia y la innovación a través del intercambio seguro de información y datos.

La digitalización en el sector de la Economía Social y de los cuidados es crucial para mejorar la coordinación y eficiencia en la prestación de servicios, especialmente en un contexto donde la demanda de cuidados especializados está en aumento. Gracias a estas ayudas, se espera que las entidades beneficiarias lideren un cambio significativo en sus operativas, adaptándose mejor a un entorno cada vez más digitalizado.

Este avance es visto como un componente esencial de la transición hacia una economía más resiliente y robusta, alineada con las metas de sostenibilidad y crecimiento del Plan de Recuperación. Además, refuerza el compromiso del gobierno español con el desarrollo de tecnologías avanzadas y la implementación de soluciones innovadoras en sectores clave para el bienestar social.
vía: Plan de Recuperación Gobierno de España

Mejoramiento del Autoescaleo para Inferencia de IA Generativa: Introducción al Caché de Contenedores en SageMaker Inference

Elena Digital López
-
0
Mejoramiento del Autoescaleo para Inferencia de IA Generativa: Introducción al Caché de Contenedores en SageMaker Inference

En el evento AWS re:Invent 2024, Amazon Web Services ha revelado una nueva funcionalidad para Amazon SageMaker: Container Caching, diseñada para mejorar la velocidad de escalado de los modelos de inteligencia artificial generativa durante la inferencia. Este avance se presenta como una respuesta a la creciente complejidad y tamaño de los modelos de inteligencia artificial y los contenedores que los albergan, que hasta ahora representaban un desafío significativo en términos de eficiencia de despliegue y escalado.

Con la implementación de Container Caching, AWS asegura una reducción notable en el tiempo de latencia asociado al escalado de estos modelos. En términos específicos, se espera una disminución de hasta un 56% en la latencia al escalar una copia de un modelo existente y hasta un 30% al añadir un modelo a una nueva instancia. Estos beneficios son observables en una variedad de contenedores de aprendizaje profundo proporcionados por SageMaker, como los contenedores de Inferencia de Modelos Grandes (LMI), PyTorch, NVIDIA Triton y Hugging Face TGI.

La importancia de optimizar los tiempos de inicio de los contenedores radica en garantizar que los usuarios finales no experimenten afectaciones negativas al aumentar la demanda de inferencia. Previamente, el tiempo requerido para descargar imágenes de contenedores desde Amazon Elastic Container Registry podría tomar varios minutos, un retraso inaceptable durante picos de tráfico. La nueva función de pre-almacenamiento en caché de contenedores elimina la necesidad de estas descargas, favoreciendo tiempos de escalado más rápidos durante los eventos de demanda intensa y optimizando la utilización de los recursos computacionales, incluidos los costosos y limitados recursos de GPU.

Las pruebas realizadas sugieren que esta innovación provee mejoras consistentes y significativas. Por ejemplo, al desplegar el modelo Llama3.1 70B, los tiempos de escalado globales se redujeron de 379 segundos (6.32 minutos) a 166 segundos (2.77 minutos), representando una mejora del 56%. Este avance permite manejar picos de tráfico de manera más eficaz y predecible, disminuyendo el impacto en la latencia para el usuario final en toda la infraestructura de aprendizaje automático de AWS.

Container Caching se habilita automáticamente para los DLCs de SageMaker soportados, asegurando que los usuarios tengan acceso rápido a los entornos más recientes y optimizados para sus modelos. Esto se traduce, no solo en una mejora en la rapidez del escalado, sino también en una reducción de costos potenciales debido a la disminución del tiempo de inactividad y el uso más eficiente de los recursos. Con esta mejora, AWS consolida su liderazgo en el soporte a tareas de inferencia de IA generativa, facilitando su implementación y operación bajo la infraestructura de SageMaker.
vía: AWS machine learning blog

La Secretaría de Estado de Agricultura Visita Mejora Energética en Regadíos del Guadalquivir

Belén Garmendiaz
-
0

La secretaria de Estado de Agricultura y Alimentación, Begoña García Bernal, ha visitado hoy las obras de mejora de la eficiencia energética en más de 11.715 hectáreas de regadío de la margen derecha del río Guadalquivir, pertenecientes a la comunidad de Riegos del Viar, en la provincia de Sevilla. El proyecto, que acaba de concluir, ha supuesto una inversión de 4,95 millones de euros y beneficiará a 1.868 regantes.

La iniciativa ha permitido la instalación de una planta fotovoltaica de 4 megavatios conectada a la red bajo la modalidad de autoconsumo sin excedentes. Este sistema sustituye parcialmente el consumo energético de las estaciones de bombeo que, hasta ahora, dependía de fuentes de energía convencional, por energías renovables. Además, se ha mejorado la eficiencia energética de las estaciones de bombeo mediante la instalación de dos variadores de frecuencia, lo que posibilita un significativo ahorro en el consumo.

La zona regable beneficiada por las obras se extiende a lo largo de los municipios de Cantillana, Villaverde del Río, Alcalá del Río, Burguillos, Guillena, Salteras y La Algaba, todos dentro de la provincia sevillana. El uso actual del suelo abarca principalmente cultivos de cítricos y otros frutales (73,19%), así como cultivos industriales (13,07%), hortalizas (7,84%), cereales (4,79%) y forrajes (1,12%).

Este proyecto de modernización también ha incorporado medidas ambientales para proteger la fauna y el suelo, como la creación de una barrera vegetal perimetral para fomentar la presencia de polinizadores y la construcción de una charca de agua que contribuye a la biodiversidad local.

Las obras se han desarrollado bajo el marco del Plan de Recuperación, Transformación y Resiliencia del Gobierno de España y cuentan con financiación de los fondos Next Generation de la Unión Europea. Este proyecto es un claro ejemplo de cómo se pueden alinear los objetivos de modernización agrícola con las metas de sostenibilidad y transición ecológica.
vía: Plan de Recuperación Gobierno de España

Nadie Le Advirtió que la Cocina Era Compartida con Dos Familias

Juan Hernández
-
0
Nadie Le Advirtió que la Cocina Era Compartida con Dos Familias

En un pequeño complejo de apartamentos en el centro de la ciudad, una disputa está acaparando la atención de residentes y autoridades locales. Todo comenzó cuando Mariana, una joven profesional que recientemente se mudó al lugar, descubrió que la cocina de su flamante hogar era compartida con otras dos familias. Esta situación no se le había comunicado durante la firma del contrato de arrendamiento, lo que ha generado un gran descontento y preocupación por la veracidad de las condiciones que los arrendadores han estado ofreciendo.

Mariana relata que, durante la visita, rápidamente se enamoró del atractivo departamento. Sin embargo, en el recorrido omitieron mostrarle que, para llegar a la cocina, debía atravesar áreas comunes que también estaban al alcance de sus vecinos. «Fue una sorpresa total para mí», expresó indignada Mariana, quién había solicitado específicamente que el apartamento fuera privado para ella y su pareja. «En ningún momento se mencionó que compartiríamos la cocina con otras personas».

Los otros dos grupos familiares que habitan ahí también corroboraron que experimentaron situaciones similares al firmar sus contratos. “Nos prometieron un espacio propio pero dio un giro inesperado al descubrir esta convivencia forzada. Ha sido un gran desafío coordinar horarios y mantener la privacidad”, explicó José, jefe de una de las familias.

Desde que surgió el problema, las tensiones han aumentado rápidamente dentro del pequeño inmueble, donde los inquilinos han tenido que establecer un precario sistema de turnos para utilizar la cocina. Asimismo, han surgido reclamos constantes relacionados con la limpieza, el uso de ingredientes y la diferencia en los estilos de vida, lo que impide una convivencia armoniosa.

Por su parte, la empresa inmobiliaria responsable de la gestión del edificio ha respondido que todo se debió a un «malentendido administrativo». Afirmaron estar dispuestos a rectificar la situación, revisando cada contrato en busca de errores, y ofrecieron a los inquilinos la posibilidad de rescindir el acuerdo sin penalizaciones. Sin embargo, Mariana y las demás familias consideran que esta resolución llega demasiado tarde y se han agrupado para evaluar la posibilidad de presentar una demanda colectiva si la situación no se normaliza pronto.

El caso ha encendido las alarmas en la comunidad sobre las prácticas inmobiliarias poco claras, evidenciando la falta de regulación adecuada en este tipo de situaciones. Mientras tanto, Mariana y los suyos continuarán enfrentándose diariamente a la incomodidad que conlleva compartir un espacio tan íntimo e importante como la cocina.

Escápate a una Cabaña de Ensueño en Siljansnäs: 50 m² de Confort en la Naturaleza Sueca

Silvia Pastor
-
0
Escápate a una Cabaña de Ensueño en Siljansnäs: 50 m² de Confort en la Naturaleza Sueca

En el corazón de la apacible región de Siljansnäs, Suecia, se encuentra una cabaña que redefine el concepto de retiro en la naturaleza. Con una superficie de 50 metros cuadrados, esta cabaña ofrece un perfecto equilibrio entre comodidad moderna y encanto rústico, brindando a sus visitantes una experiencia de ensueño en los pintorescos paisajes escandinavos.

Rodeada por densos bosques de pinos y serenos lagos de aguas cristalinas, la cabaña se erige como un refugio idílico para quienes buscan escapar del ajetreo de la vida urbana. Diseñada para integrarse armónicamente con su entorno, la construcción utiliza materiales locales y sostenibles, destacándose por su arquitectura sencilla y acogedora. Las amplias ventanas no solo permiten la entrada de luz natural, sino que también ofrecen vistas panorámicas que varían con cada estación del año, convirtiendo la naturaleza circundante en parte integral del espacio habitable.

El interior de la cabaña está finamente decorado y optimizado para el confort. Una acogedora sala de estar con una chimenea moderna invita a relajarse durante las frías noches de invierno, mientras que una cocina compacta pero completamente equipada permite a los huéspedes preparar suculentas comidas con ingredientes locales. El dormitorio, de diseño minimalista, promete un descanso reparador, y el baño, equipado con comodidades contemporáneas, garantiza funcionalidad sin descuidar la estética.

Más allá de su diseño, la ubicación de esta cabaña es un punto destacado. Siljansnäs es conocida por su rica biodiversidad y su oferta de actividades al aire libre. Desde caminatas y ciclismo en verano, hasta esquí de fondo y paseos en raquetas de nieve en invierno, los visitantes tienen a su disposición un abanico de opciones para conectar con la naturaleza. Además, la región alberga una vibrante cultura local, con festivales y mercados artesanales donde se puede disfrutar de la gastronomía tradicional y el folclore sueco.

Esta cabaña en Siljansnäs no solo se presenta como un escape temporal del mundo moderno, sino como un lugar para reconectar con lo esencial, ofreciendo una experiencia que combina comodidad, estética y un profundo respeto por el entorno natural. Para aquellos que sueñan con unas vacaciones rodeadas de tranquilidad y belleza natural, esta cabaña parece ser el destino perfecto.

Desbloquea Ahorros de Costos con la Nueva Funcionalidad de Escalado a Cero en SageMaker Inference

Elena Digital López
-
0
Desbloquea Ahorros de Costos con la Nueva Funcionalidad de Escalado a Cero en SageMaker Inference

En un anuncio destacado realizado hoy en el evento AWS re:Invent 2024, Amazon ha revelado una nueva y emocionante función para los puntos de inferencia de Amazon SageMaker. A partir de ahora, estos puntos de inferencia tienen la capacidad de escalar a cero instancias, una capacidad largamente esperada que promete revolucionar la manera en que los clientes gestionan la inferencia de IA y aprendizaje automático (ML) en la nube.

Anteriormente, los puntos de inferencia de SageMaker mantenían un número mínimo de instancias para asegurar una disponibilidad continua, incluso durante periodos de baja actividad o tráfico nulo. Sin embargo, con la nueva actualización, los usuarios podrán alinear más eficientemente el uso de recursos con sus necesidades específicas y patrones de tráfico. Esta capacidad, cuando se utiliza con los componentes de inferencia de SageMaker, ofrece más opciones para un manejo efectivo de los recursos, permitiendo potencialmente una significativa reducción de costos cuando la demanda es baja.

Esta innovación se suma a las capacidades de autoescalado existentes de SageMaker, proporcionando un control aún más detallado sobre la asignación de recursos. Al permitir que los puntos de inferencia se escalen a cero, se abren nuevas oportunidades para gestionar operaciones de ML en la nube de una manera más eficiente, especialmente en ambientes de desarrollo y prueba, o en despliegues de producción con patrones de tráfico variables.

La función de escalado a cero es notablemente beneficiosa en tres escenarios principales: patrones de tráfico predecibles, tráfico esporádico o variable, y en ambientes de desarrollo y prueba. Aunque la capacidad de escalar a cero ofrece un considerable potencial de ahorro de costos, es crucial evaluar cuidadosamente cuándo y cómo aplicar esta función, dado que no todas las situaciones se benefician por igual.

El escalado a cero requiere el uso de componentes de inferencia, y con su implementación, los usuarios pueden implementar políticas de escalado que incluyen esta capacidad, garantizando un uso preciso y económico de la infraestructura de inferencia de IA. Aparte de la obvia ventaja en términos de costos, el escalado a cero también puede introducir breves retrasos al escalar de nuevo hacia arriba, un factor que las empresas deberían considerar al evaluar esta opción.

La nueva funcionalidad de SageMaker ha sido recibida con entusiasmo por empresas que ya han tenido la oportunidad de evaluarla. Atlassian y iFood, entre otros, han compartido su interés en integrar esta función en sus operaciones para optimizar sus recursos de IA y ML.

Con esta nueva capacidad, Amazon SageMaker continúa liderando el camino hacia soluciones de ML más eficientes y costo-efectivas en la nube, ofreciendo a las empresas herramientas para ajustar sus operaciones tecnológicas con una precisión sin precedentes.
vía: AWS machine learning blog

Transportes Licita Obras Para Adaptar Paso Peatonal y Ciclista en La N-232 en Utebo, Zaragoza

Belén Garmendiaz
-
0

El Ministerio de Transportes y Movilidad Sostenible ha lanzado una licitación por 9 millones de euros, incluyendo el IVA, para transformar un tramo de dos kilómetros de la carretera N-232 en Utebo, Zaragoza, en una vía adecuada para peatones y bicicletas. La intervención se centrará en el tramo comprendido entre los kilómetros 250 y 251,960, transformándolo en un vial con características urbanas que se integrará al municipio de Utebo. Próximamente, el anuncio de la licitación se hará público en el Boletín Oficial del Estado (BOE).

Este proyecto busca mejorar la permeabilidad de la vía y la seguridad vial mediante la modificación de diversos cruces, la incorporación de glorietas y ajustes en el diseño de la sección transversal. Una vez finalizada la obra, este tramo será cedido al municipio de Utebo, según lo establecido en la Orden TMA/1160/2021, que regula la entrega de vías urbanas de la red estatal a los ayuntamientos.

La transformación de este tramo de carretera se enmarca en el Plan de Recuperación, Transformación y Resiliencia (PRTR), cuyo objetivo general es mejorar la Red de Carreteras del Estado (RCE) en áreas urbanas. Esta iniciativa pretende no solo ofrecer un entorno más sostenible y accesible, sino también promover formas de movilidad alternativas al automóvil, aumentando así la conectividad de las personas de forma más inclusiva.

Este plan incluye una inversión de 105 millones de euros, excluyendo IVA, destinada a la humanización de travesías, similar a la intervención prevista en Utebo. La implementación de estas intervenciones forma parte de una estrategia más amplia para alcanzar un modelo de ciudad orientado al desarrollo sostenible y la recuperación de espacios urbanos para el uso de peatones y ciclistas.
vía: Plan de Recuperación Gobierno de España

Ofertas Destacadas en Decoración, Orden y Limpieza para el Hogar Post-Black Friday

Juan Hernández
-
0
Ofertas Destacadas en Decoración, Orden y Limpieza para el Hogar Post-Black Friday

Con la resaca del Black Friday aún presente, los consumidores están aprovechando las últimas ofertas en decoración, orden y limpieza del hogar, que continúan atrayendo a aquellos que buscan renovar sus espacios a precios más bajos. Las tiendas minoristas y en línea han extendido sus descuentos y promociones a fin de liquidar inventarios y ofrecer a sus clientes una oportunidad más de adquirir productos esenciales para el hogar.

Entre las ofertas más destacadas se encuentran las de artículos de decoración, que incluyen desde cuadros y espejos hasta lámparas y muebles auxiliares. Muchas de estas piezas de decoración están disponibles con descuentos que llegan hasta el 50%. Tiendas como Leroy Merlin y Zara Home han sido algunas de las favoritas para los consumidores que buscan darle un toque fresco a sus hogares. Además, plataformas en línea como Amazon y Wallapop también han reportado un incremento en la búsqueda de artículos decorativos, ofreciendo rebajas significativas en productos seleccionados.

Para aquellos interesados en mejorar el orden en sus hogares, la categoría de organización y almacenamiento no se ha quedado atrás. Los contenedores de almacenamiento, estanterías modulares y organizadores de cocina son algunos de los productos que han visto una alta demanda, con rebajas que han facilitado a los consumidores acceder a estos útiles artículos sin comprometer su presupuesto. Ikea, conocida por su amplia gama de soluciones para el orden del hogar, ha extendido sus ofertas, permitiendo a los clientes hacerse con productos innovadores para maximizar el espacio disponible en sus casas.

En el ámbito de la limpieza, productos y utensilios que prometen facilitar las tareas diarias del hogar también se han colocado en el centro de las ofertas post-Black Friday. Aspiradoras de última generación, robots de limpieza, así como utensilios eco-amigables y detergentes concentrados, han captado la atención de los consumidores que buscan mantener sus hogares impecables con tecnología avanzada. Marcas como Dyson y Philips han brindado oportunidades inigualables con precios reducidos que ayudan a cuidar el bolsillo mientras protegen el ambiente.

En resumen, esta continuación de ofertas brinda la posibilidad a los consumidores de adquirir productos de calidad para sus hogares, aprovechando precios reducidos todavía accesibles después del frenético Black Friday. Con la Navidad a la vuelta de la esquina, muchos ven esta etapa de compras como la oportunidad perfecta para adquirir esos artículos que no solo embellecen el hogar, sino que también facilitan las tareas diarias, prometiendo una vida más organizada y cómoda.

Acelera Tus Cargas de Trabajo de Inferencia de IA con Nuevas Capacidades de NVIDIA en Amazon SageMaker

Elena Digital López
-
0
Acelera Tus Cargas de Trabajo de Inferencia de IA con Nuevas Capacidades de NVIDIA en Amazon SageMaker

En el contexto del evento re:Invent 2024, se ha dado a conocer una significativa colaboración destinada a acelerar los trabajos de inferencia de IA a través de nuevas capacidades con la aceleración computacional de NVIDIA y las ofertas de software disponibles en Amazon SageMaker. Esta iniciativa refuerza la asociación continua entre ambas empresas, ahora enfocada en optimizar el soporte para instancias de GPU direccionadas a la inferencia y la integración con tecnologías de NVIDIA.

En esta ocasión, se han presentado tres avances clave que amplían las capacidades de inferencia de IA:

  1. Los microservicios NVIDIA NIM ahora disponibles en AWS Marketplace para despliegues de SageMaker Inference, facilitando el acceso a modelos de IA generativa de vanguardia para los clientes.

  2. El modelo NVIDIA Nemotron-4 está disponible en Amazon SageMaker JumpStart, lo que amplía considerablemente la gama de modelos preentrenados de alta calidad a disposición de los usuarios. Este modelo, notable por sus habilidades multilingües, sobresale en pruebas de razonamiento.

  3. Las instancias P5e y G6e optimizadas para la inferencia ahora están disponibles en Amazon SageMaker, proporcionando acceso a las tarjetas gráficas NVIDIA H200 Tensor Core y L40S para cargas de trabajo de inferencia de IA.

El evento también destacó cómo estos nuevos desarrollos permiten a las organizaciones desplegar rápidamente modelos de IA generativa y escalar sus aplicaciones más eficazmente a través del uso de los microservicios NVIDIA NIM. Además, NVIDIA Nemotron-4, un innovador modelo de lenguaje grande, está ahora completamente integrado en la oferta de SageMaker JumpStart, haciendo que su implementación sea más accesible para un amplio rango de clientes.

En el contexto del hardware, las nuevas instancias P5e y G6e, equipadas con GPUs NVIDIA, proporcionan mejoras significativas respecto a las generaciones previas, permitiendo tanto el despliegue como el entrenamiento de modelos de aprendizaje automático más exigentes.

Este anuncio marca un progreso notable en la accesibilidad y eficiencia para las empresas que apuestan por las capacidades avanzadas de inferencia de IA, facilitando su implementación en proyectos de diversos sectores industriales. Con estas mejoras, las organizaciones pueden impulsar la innovación y mejorar sus procesos de toma de decisiones gracias a una infraestructura optimizada y flexible, capaz de manejar cargas de trabajo complejas y diversos casos de uso a nivel empresarial.

vía: AWS machine learning blog

1...1.9811.9821.983...4.765Página 1.982 de 4.765