Construyendo el Futuro de la Analítica de Construcción: Inferencia de IA de CONXAI en Amazon EKS

0
37
Building the future of construction analytics: CONXAI’s AI inference on Amazon EKS

CONXAI Technology GmbH se está posicionando a la vanguardia del desarrollo de plataformas de inteligencia artificial (IA) para la industria de la Arquitectura, la Ingeniería y la Construcción (AEC). Esta innovadora plataforma está diseñada para empoderar a los expertos del sector de la construcción, permitiéndoles crear casos de uso complejos de manera eficiente.

Los sitios de construcción suelen contar con múltiples cámaras de videovigilancia, generando grandes volúmenes de datos visuales. CONXAI utiliza IA para analizar estos flujos de imagen y extraer información valiosa. Sin embargo, para cumplir con las normativas del GDPR, es imperativo que todas las personas capturadas en las grabaciones sean anonimizadas, ya sea mediante enmascaramiento o difuminado de sus identidades.

La nueva solución de CONXAI consiste en un modelo de segmentación de última generación, llamado OneFormer, que se aloja en AWS, aprovechando servicios como Amazon Simple Storage Service (S3), Amazon Elastic Kubernetes Service (EKS), KServe y NVIDIA Triton. Este modelo se ofrece de dos maneras: como «Modelo como servicio» (MaaS), que permite la integración a través de una API, y como «Software como servicio» (SaaS), que proporciona un tablero de control fácil de usar donde los usuarios pueden gestionar cámaras, revisar grabaciones y garantizar el cumplimiento del GDPR con la anonimización automática de personas.

El modelo de IA ha sido ajustado con un conjunto de datos propietario de más de 50,000 imágenes etiquetadas automáticamente en sitios de construcción, lo que le confiere una precisión notablemente superior a otras soluciones MaaS. Su capacidad para reconocer más de 40 clases de objetos especializadas, como grúas, excavadoras y aseos portátiles, lo hace especialmente valioso para la industria de la construcción.

La trayectoria de CONXAI comenzó con un proveedor de nube pequeño que, aunque ofrecía GPUs a un bajo costo, carecía de servicios esenciales para aplicaciones de aprendizaje automático, lo que dificultaba la escalabilidad y el mantenimiento. La migración a AWS permitió al equipo acceder a un robusto ecosistema de servicios, comenzando con el despliegue de un único contenedor de IA en una instancia de Amazon EC2. Con el tiempo, se desarrolló una nueva arquitectura más escalable.

Una de las principales razones para elegir AWS fue la experiencia previa del equipo con esta plataforma, así como los créditos iniciales proporcionados por AWS, que resultaron invaluables para esta startup. Actualmente, CONXAI utiliza los servicios gestionados de AWS en la medida de lo posible para reducir la carga de mantenimiento y pagar solo por los recursos que realmente utiliza.

Con el objetivo de mantener la independencia respecto a la nube, se eligió Kubernetes, permitiendo el despliegue del stack directamente en el borde del cliente, como en los sitios de construcción. Este enfoque también abre oportunidades para el aprendizaje federado, donde el modelo se entrena en el edge y solo se transfieren los pesos del modelo a la nube, lo que garantiza que no se maneje información sensible.

La finalización de la arquitectura y la optimización de costos tomó aproximadamente de dos a tres meses, mientras que la mejora continua del modelo, que incluye el entrenamiento con datos etiquetados más precisos, requiere alrededor de 3 a 4 semanas en una sola GPU. La implementación es completamente automatizada mediante pipelines de CI/CD en GitLab, Terraform y Helm, logrando despliegues sin tiempo de inactividad en menos de una hora.

Con la transición a AWS, la implementación y optimización de su nuevo modelo OneFormer, CONXAI ha alcanzado un uso de GPU de más del 90% y ha visto reducir los errores de procesamiento casi a cero. La separación del modelo del código de pre y post-procesamiento en el transformador fue una de las decisiones de diseño clave para lograr la eficiencia.

Los próximos pasos para CONXAI incluyen el uso de los resultados del modelo para análisis avanzados y ciencia de datos, con la posibilidad de desarrollar características de IA generativa. Además, se prevé etiquetar imágenes más diversas y entrenar el modelo en clases adicionales del dominio de la construcción en un proceso de mejora continua, colaborando estrechamente con especialistas de AWS para optimizar el uso de los chipsets AWS Inferentia.
vía: AWS machine learning blog