Microsoft integra un asistente de inteligencia artificial en Windows 11 con un nuevo modelo de lenguaje

El año pasado, Microsoft presentó las computadoras Copilot+ con una NPU (Unidad de Procesamiento de Campo Cercano) dedicada, capaz de realizar más de 40 mil millones de operaciones por segundo. Estos sistemas incluían Phi-Silica, un modelo de lenguaje "pequeño" para dispositivos, diseñado para mejorar la comprensión del lenguaje en aplicaciones de Microsoft y software de terceros.

Recientemente, Microsoft presentó un nuevo modelo de lenguaje llamado Mu, integrado directamente en Windows 11. Mu impulsa un nuevo asistente inteligente en la aplicación Configuración que comprende las consultas naturales de los usuarios y las integra en la barra de búsqueda para una mejor experiencia. Esta función está actualmente en fase beta para los usuarios de Windows Insiders en el Canal de Desarrolladores de PC Copilot+.

Al igual que el modelo de lenguaje Phi-Silica, Mu está optimizado para el rendimiento de la IA y puede generar más de 100 mil millones de operaciones por segundo, localmente, sin conexión a la nube. Microsoft reveló información clave sobre la arquitectura y el aprendizaje del modelo Mu en una entrada de blog:

• Mu es un modelo de lenguaje con 330 millones de parámetros, basado en una arquitectura codificador-decodificador.

• Esta arquitectura permite una latencia de primera instrucción 47 % menor y una decodificación 4,7 veces más rápida en comparación con los modelos de decodificación del mismo tamaño.

• Utiliza la división de tareas en componentes específicos para reducir el número de parámetros.

• Se entrenó en GPU NVIDIA A100 a través de la plataforma Azure Machine Learning.

• A pesar de su menor tamaño, ofrece un rendimiento similar al Phi-3.5-mini optimizado.

• Funciona mejor para consultas de varias palabras; los resultados léxicos y semánticos continúan utilizándose para términos más cortos.

Los usuarios interesados pueden probar esta función instalando Windows 11 Build 26120.3964 (KB5058496) o posterior. Pronto podría convertirse en una parte permanente de Windows 11.