Microsoft integra l'assistente AI in Windows 11 con un nuovo modello linguistico

L'anno scorso, Microsoft ha introdotto i computer Copilot+ dotati di una NPU (Near Field Processing Unit) dedicata, in grado di eseguire oltre 40 miliardi di operazioni al secondo. Tra questi sistemi figurava Phi-Silica, un modello linguistico "di piccole dimensioni" per dispositivi, progettato per migliorare la comprensione del linguaggio nelle app Microsoft e nei software di terze parti.

Di recente, Microsoft ha introdotto un nuovo modello di linguaggio chiamato Mu, integrato direttamente in Windows 11. Mu supporta un nuovo assistente intelligente nell'app Impostazioni che comprende le query naturali degli utenti e le integra nella barra di ricerca per un'esperienza utente migliore. La funzionalità è attualmente in versione beta per i Windows Insider nel Canale Sviluppatori sui PC Copilot+.

Come il modello linguistico Phi-Silica, Mu è ottimizzato per le prestazioni dell'intelligenza artificiale e può generare oltre 100 miliardi di operazioni al secondo, localmente, senza connessione al cloud. Microsoft ha rivelato informazioni chiave sull'architettura e l'apprendimento del modello Mu in un post sul blog:

• Mu è un modello linguistico con 330 milioni di parametri, basato su un'architettura codificatrice-decodificatrice.

• Questa architettura consente una latenza della prima istruzione inferiore di 47 % e una decodifica 4,7 volte più veloce rispetto ai modelli di decodifica delle stesse dimensioni.

• Utilizza la divisione delle attività in componenti specifici per ridurre il numero di parametri.

• È stato addestrato su GPU NVIDIA A100 tramite la piattaforma Azure Machine Learning.

• Nonostante le dimensioni ridotte, offre prestazioni simili al modello ottimizzato Phi-3.5-mini.

• Funziona meglio per le query composte da più parole; i risultati lessicali e semantici continuano a essere utilizzati per i termini più brevi.

Gli utenti interessati possono provare la funzionalità installando Windows 11 Build 26120.3964 (KB5058496) o versioni successive. Potrebbe presto diventare parte integrante di Windows 11.