Optimización de REM™ de Mobileye con AWS Graviton: Enfoque en la inferencia de ML e integración con Triton

0
4
Optimizing Mobileye’s REM™ with AWS Graviton: A focus on ML inference and Triton integration

Mobileye, una empresa pionera en tecnología de movilidad, está llevando a cabo una evolución significativa en la conducción autónoma al integrar inteligencia artificial (IA) avanzada y experiencia práctica. En este contexto, la gestión de experiencias en carretera (REM™) se ha convertido en un componente vital del ecosistema de conducción autónoma de la compañía, creando y manteniendo mapas de alta definición de las redes viales a través de datos recopilados de millones de vehículos.

Uno de los aspectos más emocionantes de REM™ es el sistema de detección automática de cambios en la infraestructura vial, conocido como Change Detection. Este sistema utiliza un modelo de aprendizaje profundo llamado CDNet, que analiza cambios en las carreteras, como la construcción o modificación de carriles, y actualiza los mapas en tiempo real. La importancia de estos mapas no puede subestimarse, ya que son esenciales para la localización precisa de los vehículos y la navegación en tiempo real.

Recientemente, Mobileye compartió su recorrido para mejorar la detección de cambios, con un enfoque en la eficiencia y el rendimiento. Al principio, la compañía consideró utilizar unidades de procesamiento gráfico (GPU) para la inferencia del modelo, pero descubrió que ejecutar CDNet en la unidad central de procesamiento (CPU) era más rentable sin comprometer la velocidad total del sistema. Además, el uso de Amazon EC2 Spot Instances permitió una reducción significativa de costos, incrementando el número de tareas completadas por dólar.

Uno de los hitos en este proceso fue la centralización de la ejecución de inferencia utilizando el Triton Inference Server. Esto permitió disminuir la huella de memoria requerida por cada tarea y reducir el tiempo promedio de ejecución de las tareas de detección de cambios, de cuatro minutos a dos. Este avance permitió maximizar el uso de las capacidades de CPU, incrementando así la cantidad de tareas procesadas simultáneamente.

Otro aspecto importante fue la incorporación de instancias AWS Graviton, diseñadas para proporcionar un rendimiento óptimo en costos para cargas de trabajo en la nube. Esta adición no solo mejoró la eficiencia de costos del sistema de detección de cambios, sino que también aumentó la disponibilidad y la diversidad de las instancias en el grupo de recursos.

En conclusión, la optimización del sistema de detección de cambios de Mobileye a través de estas innovaciones está configurando el futuro de la movilidad autónoma. La compañía se enfrenta a la posibilidad de seguir ajustando y mejorando sus sistemas, con la expectativa de continuar sus esfuerzos de optimización en los próximos meses. Las mejoras en términos de rendimiento y experiencia del usuario son considerables, beneficiando tanto a los pasajeros como a los conductores.
vía: AWS machine learning blog