En la conferencia Build 2025, Microsoft presentó una nueva función de ajuste fino para su modelo de lenguaje de pequeña escala, Phi Silica, que ahora permite la adaptación de bajo rango (LoRA) para mejorar su rendimiento en diversas tareas. Esta técnica permite realizar un ajuste de los parámetros del modelo utilizando un conjunto reducido de datos personalizados sin comprometer las capacidades generales del modelo.
Los trabajos detrás de esta innovación se centraron en un caso de uso práctico: la generación de cuestionarios Kahoot! de alta calidad y valor pedagógico. Como resultado, se logró una reducción del 75% en las tasas de rechazo y un aumento de 4.6 veces en la calidad subjetiva de los cuestionarios generados.
Microsoft Learning Zone, la primera aplicación educativa diseñada específicamente para PCs con Copilot+, se asoció con Kahoot! para permitir la creación de juegos de aula interactivos mediante el poder de Phi Silica. Esta aplicación apoya una variedad de tareas de generación, desde presentaciones dinámicas hasta formatos de opción múltiple. El uso de LoRA permitió especializar un modelo base de Phi Silica para satisfacer diversas necesidades pedagógicas sin la carga de crear múltiples modelos ajustados.
En términos de calidad, Microsoft definió dos ejes: la calidad verificable, que incluye restricciones de formato exigidas por la plataforma Kahoot!, y la calidad subjetiva, que se refiere a aspectos como la claridad y la relevancia educativa. Se establecieron métricas y se utilizó un nuevo marco de evaluación, que incluye agentes de inteligencia artificial que simulan un equipo de revisión, para medir la calidad de los cuestionarios generados.
Para facilitar un ajuste fino efectivo de LoRA, se desarrolló un conjunto de datos de alta calidad, combinando materiales educativos con la generación de preguntas y respuestas en estilo Kahoot! utilizando un modelo de lenguaje líder como maestro. Esto permitió crear un conjunto inicial de datos más rico y diverso, crucial para el ajuste del modelo.
Además, se optimizaron los parámetros del sistema durante el entrenamiento de LoRA, validando que los valores predeterminados del kit de herramientas de inteligencia artificial eran adecuados para mejorar la calidad del output. Los ajustes lograron una considerable mejora en la experiencia del usuario, además de un enfoque en la eficiencia y la adecuación de las respuestas generadas.
Los resultados de las pruebas de calidad mostraron que el sistema personalizado de Phi Silica con LoRA superó significativamente al modelo base en todas las métricas de calidad, aumentando la satisfacción tanto en evaluaciones automáticas como humanas. En total, se generaron aproximadamente 13,000 ejemplos sintéticos, usados para entrenar y evaluar el modelo.
Capturando la atención del ámbito educativo, la generación de juegos Kahoot! a través de Microsoft Learning Zone se lanzará en vista pública para que los educadores experimenten con esta innovadora herramienta más adelante este verano. Este avance refleja cómo los modelos más pequeños, cuando se adaptan adecuadamente, pueden ofrecer experiencias de inteligencia artificial robustas y personalizadas en entornos restringidos como las herramientas de aprendizaje en el dispositivo.
vía: Microsoft Windows blog
