Meta et Apple unissent leurs forces pour l'intelligence artificielle avancée

Muse Spark Open repose sur une architecture multimodale et comprend 816 milliards de paramètres, dont 42 milliards sont actifs en cours d'exécution. Ce modèle prend en charge une fenêtre de contexte d'un million de jetons et est principalement destiné à la programmation, aux tâches complexes en plusieurs étapes et au traitement de grands ensembles de données. Il tire parti de la dernière version du framework open source MLX d'Apple, optimisée pour l'architecture mémoire unifiée des processeurs Apple Silicon.

L'un des principaux atouts de cette conception réside dans l'utilisation efficace de la mémoire partagée. Le processeur graphique intégré peut accéder à 512 Go de mémoire sur un seul appareil, permettant ainsi à deux ordinateurs Mac Studio d'exécuter simultanément l'intégralité du modèle, comme un seul système disposant d'un téraoctet de mémoire et d'une bande passante allant jusqu'à 1,2 To/s. Cette approche permet d'exécuter des modèles volumineux sans avoir recours à des cartes graphiques dédiées côté serveur.

Meta a démontré les capacités du système avec l'outil Muse Code, où le modèle a exécuté de manière autonome des tâches plus complexes, telles que la correction de code de projets open source et le montage vidéo dans l'environnement DaVinci Resolve. Meta considère cela comme une étape importante vers des agents d'IA plus avancés, capables d'exécuter des flux de travail complexes de manière autonome et sur de plus longues périodes.

Le modèle Muse Spark Open est désormais disponible en téléchargement via la plateforme Hugging Face.