Un nuevo enfoque en la optimización de modelos de inteligencia artificial ha sido introducido con la técnica de Low Rank Adaptation (LoRA), que permite afinar el modelo Phi Silica de Microsoft Windows. Esta herramienta es especialmente útil para mejorar el rendimiento del modelo en casos de uso específicos, logrando así resultados más precisos y adaptables a las necesidades de los usuarios.
El proceso consiste en entrenar un adaptador LoRA y luego aplicarlo durante la fase de inferencia, lo que resulta en una mejora notable de la precisión del modelo. Sin embargo, los usuarios deben cumplir ciertos requisitos previos: tener claro el caso de uso, definir criterios de evaluación y haber probado las APIs de Phi Silica sin obtener los resultados deseados.
El primer paso para entrenar un adaptador LoRA es generar un conjunto de datos. Esto implica dividir la información en dos archivos en formato JSON, donde cada línea representará un mensaje en la interacción entre un usuario y un asistente. Es vital que los datos sean de alta calidad y diversidad; por ello, se recomienda recolectar al menos unos pocos miles de ejemplos en el archivo de entrenamiento.
Además, el uso del AI Toolkit para Visual Studio Code facilita el entrenamiento del adaptador. Los usuarios deben descargar la extensión, seleccionar el modelo Phi Silica, y generar el proyecto adecuado para llevar a cabo la fine-tunig. El proceso, que puede tardar entre 45 y 60 minutos, culmina con la opción de descargar el adaptador LoRA mejorado.
Una vez que el adaptador ha sido entrenado, la fase de inferencia permite aplicar este nuevo conocimiento. Usando la aplicación AI Dev Gallery, los usuarios pueden experimentar con los modelos locales para ver cómo el adaptador LoRA afecta las respuestas generadas.
No obstante, es importante tener en cuenta los riesgos y limitaciones que conlleva la fine-tuning. La calidad de los datos, la robustez del modelo, la posibilidad de regurgitación de información y la transparencia en los resultados son aspectos que deben ser considerados cuidadosamente. La correcta implementación de LoRA puede llevar a una optimización eficaz del modelo, pero siempre es esencial revisar los resultados y asegurarse de que la salida del modelo sea relevante y veraz.
Además, se debe tener en cuenta que las características de Phi Silica no están disponibles en China, lo que limita su aplicación en ese territorio.
vía: Microsoft Windows blog
