Phi Silica: Pequeño Pero Poderoso Modelo SLM en Dispositivo

0
91
Phi Silica, small but mighty on-device SLM

En un avance significativo para la innovación en inteligencia artificial, el equipo de Ciencias Aplicadas de Microsoft ha revelado el modelo de lenguaje Phi Silica, una innovadora tecnología destinada a operar con eficiencia energética y rapidez en los dispositivos Copilot+ PC con Windows 11. Esta actualización tecnológica busca redefinir la experiencia del usuario al ofrecer capacidades mejoradas para la reescritura y resumen de documentos, especialmente en aplicaciones como Word y Outlook.

Desde su presentación inicial en mayo, los dispositivos Copilot+ PCs han integrado Phi Silica, que aprovecha la Unidad de Procesamiento Neuronal (NPU) del chip Snapdragon X Series para realizar hasta 40 billones de operaciones por segundo. Esta tecnología inédita permite a los dispositivos reducir el consumo de energía y mejorar su eficiencia en la realización de tareas de procesamiento de inteligencia artificial, hasta en 100 veces más eficientes que las GPU convencionales.

Una de las características más notables de Phi Silica es su capacidad para ejecutar modelos de lenguaje (SLM) con parámetros masivos, alcanzando un nuevo nivel de operatividad al permitir consultas rápidas sin costos adicionales de suscripción. Esta ventaja se extiende a los desarrolladores, quienes a partir de enero de 2025 podrán integrar el modelo Phi Silica en sus aplicaciones, beneficiándose de sus capacidades pre-optimizadas.

El modelo Phi Silica se construye sobre la versión mini de Phi-3.5, específicamente mejorado para Windows 11, soportando múltiples lenguajes como el inglés, chino simplificado, francés, entre otros. A través de complejas etapas de procesamiento, Phi Silica obtiene y administra de manera efectiva grandes cantidades de datos textuales, lo cual sigue siendo una demanda intensiva para la mayoría de dispositivos, pero que ahora se maneja con eficiencia gracias a las NPUs.

Microsoft ha adoptado un enfoque innovador al emplear técnicas de cuantización post-entrenamiento, logrando que Phi Silica funcione con un modelo de peso reducido a 4 bits. Esto no solo optimiza la eficiencia en el uso de la memoria, sino que mantiene la precisión y velocidad durante el funcionamiento, acelerando el tiempo de respuesta de los dispositivos cuando se recibe un nuevo comando o solicitud.

En cuanto a seguridad, Phi Silica ha sido alineado con medidas de Inteligencia Artificial Responsable, asegurando que la plataforma sea ética y segura en su despliegue. La innovación no se limita al rendimiento; también está diseñada para respetar principios de moderación de contenido y responsabilidad social.

El lanzamiento de Phi Silica representa un avance relevante en la carrera por integrar AI en dispositivos cotidianos, combinando potencia con eficiencia en el ámbito tecnológico, y posicionando a Microsoft a la vanguardia en el desarrollo de modelos de lenguaje innovadores. Con la integración de esta tecnología en los nuevos dispositivos de Windows 11, se abre un abanico de posibilidades que favorecen tanto al usuario final como a la comunidad de desarrolladores, evidenciando el compromiso de la compañía con la excelencia tecnológica y la eficiencia energética.
vía: Microsoft Windows blog