Microsoft integriert KI-Assistenten mit neuem Sprachmodell in Windows 11

Letztes Jahr stellte Microsoft Copilot+-Computer mit einer dedizierten NPU (Near Field Processing Unit) vor, die mehr als 40 Milliarden Operationen pro Sekunde ausführen kann. Diese Systeme enthielten Phi-Silica, ein „kleines“ Sprachmodell für Geräte, das das Sprachverständnis in Microsoft-Apps und Drittanbieter-Software verbessern soll.

Kürzlich hat Microsoft ein neues Sprachmodell namens Mu vorgestellt, das direkt in Windows 11 integriert ist. Mu unterstützt einen neuen intelligenten Assistenten in der Einstellungen-App, der die natürlichen Suchanfragen der Benutzer versteht und sie für ein besseres Benutzererlebnis in die Suchleiste integriert. Die Funktion ist derzeit für Windows Insider im Developer Channel auf Copilot+-PCs in der Beta-Phase verfügbar.

Wie das Phi-Silica-Sprachmodell ist Mu für KI-Leistung optimiert und kann über 100 Milliarden Operationen pro Sekunde generieren – lokal, ohne Verbindung zur Cloud. Microsoft hat in einem Blogbeitrag wichtige Informationen zur Architektur und zum Lernen des Mu-Modells veröffentlicht:

• Mu ist ein Sprachmodell mit 330 Millionen Parametern, basierend auf einer Encoder-Decoder-Architektur.

• Diese Architektur ermöglicht eine um 47 % geringere Latenz der ersten Anweisung und eine 4,7-mal schnellere Dekodierung im Vergleich zu Dekodierungsmodellen derselben Größe.

• Es verwendet die Aufgabenteilung in bestimmte Komponenten, um die Anzahl der Parameter zu reduzieren.

• Es wurde über die Azure Machine Learning-Plattform auf NVIDIA A100-GPUs trainiert.

• Trotz seiner geringeren Größe bietet es eine ähnliche Leistung wie das optimierte Phi-3.5-mini.

• Es funktioniert am besten bei Abfragen mit mehreren Wörtern; für kürzere Begriffe werden weiterhin lexikalische und semantische Ergebnisse verwendet.

Interessierte Nutzer können die Funktion ausprobieren, indem sie Windows 11 Build 26120.3964 (KB5058496) oder höher installieren. Sie könnte bald ein fester Bestandteil von Windows 11 werden.