Las ciudades y los gobiernos locales buscan constantemente mejorar sus servicios no urgentes, reconociendo que las soluciones inteligentes y escalables de centros de contacto son fundamentales para mejorar la experiencia del ciudadano. InterVision Systems, LLC, socio de servicios Premier de AWS y socio de entrega de servicios de Amazon Connect, está liderando esta transformación con su solución de centro de contacto, diseñada específicamente para los servicios municipales, conocida como ConnectIV CX para el Compromiso Comunitario. Esta solución ya optimiza la entrega de servicios municipales a través de la automatización impulsada por inteligencia artificial y la participación omnicanal. Sin embargo, InterVision identificó la oportunidad de mejorar aún más con capacidades avanzadas de inteligencia artificial generativa.

InterVision utilizó el programa AWS LLM League para acelerar su desarrollo de IA generativa para centros de contacto no urgentes. Con el comienzo de los eventos de la AWS LLM League en América del Norte, esta iniciativa marcó un hito estratégico en la democratización del aprendizaje automático, permitiendo a los socios construir soluciones de IA generativa prácticas para sus clientes.

Los arquitectos de soluciones, ingenieros y equipos de ventas de InterVision participaron en la optimización de modelos de lenguaje a gran escala utilizando Amazon SageMaker AI, específicamente para escenarios de servicio municipal. Esta experiencia permitió a la empresa seguir perfeccionando su solución ConnectIV CX, mostrando cómo los socios de AWS pueden desarrollar y desplegar rápidamente soluciones de IA específicas para un dominio.

El programa AWS LLM League demuestra un enfoque innovador para democratizar el aprendizaje automático a través de una habilitación gamificada. Este programa prueba que, con las herramientas y la orientación adecuadas, casi cualquier rol, desde arquitectos de soluciones hasta analistas empresariales, puede afinar y desplegar modelos de IA generativa sin necesidad de una profunda experiencia en ciencia de datos.

La competencia tiene un formato en tres etapas que comienza con un taller práctico donde los participantes aprenden a afinar modelos de lenguaje. Luego, entran en una fase de desarrollo intensivo de modelos donde iteran en múltiples enfoques de afinación, preparando conjuntos de datos y utilizando técnicas de aumento. Después, se someten a un sistema de clasificación dinámico donde cada modelo se evalúa en función de su rendimiento contra métricas específicas.

El programa culmina en una final interactiva estructurada como un concurso, donde los participantes de mejor rendimiento muestran las capacidades de sus modelos a través de desafíos en tiempo real. Las respuestas se evalúan mediante un sistema de triple juicio que incluye un panel de expertos, métricas de rendimiento y la participación del público, asegurando que los modelos no solo sean evaluados por su rendimiento técnico, sino también por su aplicabilidad práctica.

Fine-tuning es un tipo de aprendizaje por transferencia que entrena un modelo preentrenado en un nuevo conjunto de datos sin necesidad de empezar desde cero. Este proceso puede producir modelos precisos con conjuntos de datos más pequeños y menos tiempo de entrenamiento. Aunque los modelos de lenguaje más grandes ofrecen capacidades generales impresionantes, el ajuste fino de modelos más pequeños para dominios específicos generalmente ofrece resultados excepcionales a un costo menor. Por ejemplo, un modelo de 3 mil millones de parámetros puede superar a modelos de 70 mil millones en tareas especializadas, requiriendo significativamente menos recursos computacionales.

El programa AWS LLM League fue adaptado específicamente para la solución ConnectIV CX de InterVision. Este ajuste permite un manejo preciso de los procedimientos y respuestas específicos de los municipios, ofreciendo un costo operativo reducido en comparación con modelos más grandes y tiempos de inferencia más rápidos para mejorar la experiencia del cliente.

La solución se centra en SageMaker JumpStart, que ayuda a acelerar la trayectoria de aprendizaje automático. Con JumpStart, los practicantes de ML utilizan un entorno de bajo código para agilizar el proceso de ajuste fino y desplegar sus modelos personalizados en producción. Este enfoque simplificado reduce significativamente la complejidad de desarrollar y desplegar modelos de IA especializados.

La participación en el AWS LLM League ofreció a InterVision un camino práctico para mejorar sus capacidades de IA, permitiendo a los participantes aplicar inmediatamente lo aprendido a desafíos reales del negocio relacionados con su solución ConnectIV CX.

El formato intensivo del programa demostró ser altamente efectivo, permitiendo a InterVision comprimir significativamente su ciclo de desarrollo de IA. Utilizando el conocimiento adquirido, la empresa ha podido enriquecer sus discusiones técnicas con los clientes sobre la implementación de IA generativa, facilitando conversaciones más detalladas acerca de la adopción de IA en escenarios de servicio al cliente. Esto ha llevado a la creación de un asistente virtual interno utilizando Amazon Bedrock, que sirve como prueba de concepto para soluciones similares para los clientes.

El programa AWS LLM League muestra cómo la habilitación gamificada puede acelerar las capacidades de IA de los socios mientras impulsan resultados comerciales tangibles. A través de este enfoque específico, InterVision no solo mejoró sus capacidades técnicas en la afinación de modelos de lenguaje, sino que también aceleró el desarrollo de soluciones de IA prácticas para su entorno ConnectIV CX. A medida que las organizaciones continúan explorando implementaciones de IA generativa, la capacidad de desarrollar y desplegar modelos especializados de manera eficiente se vuelve cada vez más crítica.
vía: AWS machine learning blog