Microsoft intègre un assistant IA dans Windows 11 avec un nouveau modèle de langage

L'année dernière, Microsoft a lancé les ordinateurs Copilot+ dotés d'une unité de traitement en champ proche (NPU) dédiée, capable d'effectuer plus de 40 milliards d'opérations par seconde. Ces systèmes incluaient Phi-Silica, un modèle de langage « minimum » pour appareils conçu pour améliorer la compréhension du langage dans les applications Microsoft et les logiciels tiers.

Récemment, Microsoft a lancé un nouveau modèle de langage appelé Mu, directement intégré à Windows 11. Mu alimente un nouvel assistant intelligent dans l'application Paramètres, qui comprend les requêtes naturelles des utilisateurs et les intègre à la barre de recherche pour une meilleure expérience utilisateur. Cette fonctionnalité est actuellement en version bêta pour les participants Windows Insider dans le canal Développeurs sur PC Copilot+.

Tout comme le modèle de langage Phi-Silica, Mu est optimisé pour les performances de l'IA et peut générer plus de 100 milliards d'opérations par seconde, localement, sans connexion au cloud. Microsoft a révélé des informations clés sur l'architecture et l'apprentissage du modèle Mu dans un article de blog :

• Mu est un modèle de langage avec 330 millions de paramètres, basé sur une architecture encodeur-décodeur.

• Cette architecture permet une latence de première instruction inférieure de 47 % et un décodage 4,7 fois plus rapide par rapport aux modèles de décodage de même taille.

• Il utilise la division des tâches en composants spécifiques pour réduire le nombre de paramètres.

• Il a été formé sur des GPU NVIDIA A100 via la plateforme Azure Machine Learning.

• Malgré sa taille plus petite, il offre des performances similaires à celles du Phi-3.5-mini optimisé.

• Il fonctionne mieux pour les requêtes à plusieurs mots ; les résultats lexicaux et sémantiques continuent d’être utilisés pour les termes plus courts.

Les utilisateurs intéressés peuvent tester cette fonctionnalité en installant Windows 11 Build 26120.3964 (KB5058496) ou une version ultérieure. Elle pourrait bientôt devenir un élément permanent de Windows 11.