MiMo de Xiaomi atteint 1 000 tokens par seconde sur des GPU standards, sans puces spécialisées

Un nouveau record de vitesse en intelligence artificielle

Le 8 juin 2026, Xiaomi a lancé MiMo V2.5 Pro UltraSpeed, un mode d’inférence qui permet à un modèle de langage d’un billion de paramètres de dépasser les 1 000 tokens par seconde sur des processeurs graphiques standards dans le cloud. C’est la première fois qu’un modèle de cette taille franchit ce seuil sans puce sur mesure ni matériel spécialisé. Selon les démonstrations internes, le débit de pointe approche les 1 200 tokens par seconde de manière soutenue sur un seul nœud standard équipé de huit GPU.

Pour mesurer l’importance de cette performance, comparons-la aux références publiques actuelles. GPT 5.5 d’OpenAI génère environ 68 tokens par seconde. Claude Opus 4.6 en produit quelque 71, tandis que Gemini Flash de Google atteint 192. Le mode UltraSpeed de Xiaomi offre un débit environ quinze fois supérieur à celui de l’expérience ChatGPT standard, sur un modèle qui rivalise déjà avec les systèmes de pointe dans les évaluations de génie logiciel.

Ce modèle, MiMo V2.5 Pro, repose sur une architecture à mélange d’experts de 1 020 milliards de paramètres et dispose d’une fenêtre de contexte d’un million de tokens. Contrairement à de nombreux concurrents, il traite nativement le texte, les images, l’audio et la vidéo au sein d’un même modèle. Xiaomi a publié le checkpoint correspondant sous licence open source MIT, permettant aux développeurs de l’héberger eux-mêmes, de l’affiner et de le déployer à des fins commerciales sans frais de licence.

L’essor inattendu de Xiaomi dans l’intelligence artificielle

La plupart des consommateurs associent Xiaomi aux smartphones abordables, aux trottinettes électriques et, de plus en plus, aux voitures électriques. L’entreprise a livré 33,8 millions de téléphones au premier trimestre 2026 et plus de 30 000 véhicules électriques au seul mois de mai. Pourtant, derrière ces produits grand public, une division dédiée à l’intelligence artificielle développe de grands modèles de langage depuis avril 2025, date à laquelle elle a lancé un modèle de raisonnement compact de 7 milliards de paramètres.

En quatorze mois, la famille MiMo est devenue l’une des gammes de modèles à poids ouverts les plus compétitives du marché. Le modèle phare actuel, MiMo V2.5 Pro, a été lancé le 22 avril 2026. Il obtient des résultats proches de ceux de Claude Opus 4.6 pour les tâches de génie logiciel, tout en coûtant environ huit fois moins cher par token. Le tarif standard du modèle de base est de 0,025 yuan par million de tokens lorsque les données sont présentes dans le cache, de 3 yuans par million en cas de défaut de cache pour les tokens d’entrée, et de 6 yuans par million pour les tokens de sortie.

L’annonce du 8 juin ajoute UltraSpeed, un mode de service haute performance qui s’appuie directement sur ce modèle existant. Les gains de vitesse ne proviennent pas d’une modification des poids ou de l’architecture du modèle, mais uniquement de l’optimisation de l’inférence, une prouesse logicielle qui remet en question les limites supposées du matériel standard.

Le coût de la vitesse dans l’IA moderne

La vitesse d’inférence est devenue un enjeu crucial pour les grands modèles de langage. Le rythme de génération des tokens détermine non seulement la rapidité avec laquelle les utilisateurs obtiennent des réponses, mais aussi la viabilité économique et technique de certaines applications. Un modèle qui génère 68 tokens par seconde convient aux interfaces de dialogue, où les utilisateurs lisent à leur rythme. Il est toutefois inadapté aux tâches sensibles à la latence, comme la détection des fraudes en temps réel, les signaux de trading à haute fréquence ou les agents de programmation autonomes, qui doivent enchaîner plusieurs étapes de raisonnement en quelques secondes.

Pour répondre à ce goulot d’étranglement, plusieurs start-up ont bâti leur activité autour de puces sur mesure. Cerebras a conçu une puce à l’échelle d’une tranche de silicium, à peu près de la taille d’une assiette, qui embarque 44 gigaoctets de mémoire sur puce afin d’éliminer les contraintes de bande passante qui ralentissent l’inférence sur GPU conventionnels. Ce système a atteint environ 969 tokens par seconde avec Llama 3.1 405B de Meta, un modèle qui compte moins de la moitié des paramètres de MiMo V2.5 Pro. Groq a développé une architecture propriétaire d’unité de traitement du langage, capable de générer de 300 à 750 tokens par seconde selon le modèle. Aucune de ces plateformes ne fonctionne sur du matériel disponible auprès des services classiques de location dans le cloud.

L’approche de Xiaomi écarte cette course à l’armement matériel. En optimisant conjointement les logiciels et la conception du modèle, l’entreprise a atteint des vitesses comparables sur des GPU standards disponibles à la location. En théorie, tout développeur ayant accès à un nœud standard de huit GPU peut reproduire le résultat. Cette évolution pourrait déplacer l’avantage concurrentiel des fabricants de puces spécialisées vers l’innovation algorithmique.

Compresser l’intelligence grâce à la quantification FP4

Le premier pilier d’UltraSpeed repose sur une compression numérique poussée appelée quantification FP4. En règle générale, l’inférence d’un modèle stocke les poids avec une précision de 16 ou 8 bits. Chaque paramètre nécessite une certaine bande passante mémoire et, à l’échelle d’un billion de paramètres, le simple transfert de ces poids depuis la mémoire vers les cœurs de calcul crée un embouteillage qui plafonne la vitesse de génération.

La solution de Xiaomi consiste à appliquer sélectivement une précision de 4 bits. L’architecture à mélange d’experts comporte de nombreuses couches d’experts, qui regroupent la grande majorité des paramètres et tolèrent mieux une précision réduite. Xiaomi a compressé uniquement ces couches au format MXFP4, tout en conservant une précision supérieure, annoncée comme étant de FP8, pour les autres modules du modèle. Cette méthode sélective réduit l’empreinte mémoire sans dégrader la qualité des résultats, car la quantification a été intégrée au processus d’apprentissage du modèle grâce à l’entraînement tenant compte de la quantification. Les tests montrent que la variante quantifiée obtient des résultats pratiquement équivalents à ceux de la version originale en pleine précision.

Les couches d’experts représentant l’essentiel du modèle, cette compression sélective réduit considérablement le volume de données qui doit transiter par la mémoire à chaque étape de génération. Les économies de bande passante se traduisent directement par un débit supérieur.

Prédire en parallèle grâce au décodage spéculatif DFlash

Le deuxième pilier s’attaque à la nature séquentielle de la génération de langage. En temps normal, les modèles produisent les tokens un par un, chaque nouveau token dépendant de tous les précédents. Le décodage spéculatif offre un raccourci : un modèle brouillon plus petit prédit rapidement plusieurs tokens à venir, puis le modèle cible, plus grand, vérifie toutes ces prédictions en parallèle. Lorsque les prédictions sont correctes, le système gagne du temps. Avec le décodage spéculatif classique, le modèle brouillon doit toutefois toujours produire ses prédictions séquentiellement, ce qui limite les gains.

DFlash, une méthode issue de la communauté de recherche et améliorée par Xiaomi, supprime entièrement cette contrainte séquentielle. Au lieu de prédire les tokens un par un, le modèle brouillon remplit en une seule passe les positions masquées d’un bloc entier. Xiaomi a ajusté ce processus à l’aide de l’optimiseur du second ordre Muon et de l’auto-distillation du modèle. Le modèle brouillon utilise exclusivement l’attention à fenêtre glissante, ce qui maintient le coût de calcul de chaque prédiction constant, quelle que soit la longueur de la conversation.

Pour les tâches de programmation, le système atteint une longueur d’acceptation moyenne de 6,3 tokens par cycle de vérification, sur des blocs limités à 8 tokens. Autrement dit, le grand modèle valide six ou sept tokens en une seule étape, au lieu de les générer individuellement. L’échantillonnage par rejet garantit que seuls les tokens valides sont conservés : le résultat reste donc mathématiquement identique à celui du décodage standard. Le gain de vitesse ne se fait pas au détriment de la qualité.

Éliminer les temps morts de quelques microsecondes avec TileRT

Le troisième pilier vise un goulot d’étranglement invisible qui n’apparaît qu’à des vitesses extrêmes. Lorsque l’inférence dépasse les 1 000 tokens par seconde, chaque opérateur mathématique ne s’exécute que pendant quelques microsecondes. Les systèmes de service traditionnels lancent les opérateurs les uns après les autres, avec de courtes pauses entre chaque lancement. À vitesse normale, ces pauses sont négligeables. Aux niveaux atteints par UltraSpeed, elles fragmentent le flux d’exécution et deviennent le principal goulot d’étranglement.

TileRT, développé avec le partenaire d’inférence TileRT, résout ce problème grâce à un noyau de calcul persistant qui reste en permanence actif sur le GPU. Au lieu de démarrer et d’interrompre les opérations, ce noyau répartit les rôles entre les fils d’exécution du matériel grâce à la spécialisation des warps, en coordonnant le déplacement des données, le calcul et la communication. Même les opérations très courtes, comme RMSNorm, les embeddings positionnels rotatifs et les écritures dans le cache KV, qui provoquent normalement des délais de l’ordre de la microseconde, s’exécutent sans interruption.

Le système a été conçu en même temps que les choix FP4 et DFlash, et non ajouté après coup. Cette co-conception poussée du modèle et du système assure un alignement étroit entre les trois couches. Xiaomi précise qu’aucune des trois techniques ne permet à elle seule d’atteindre 1 000 tokens par seconde. Le record n’est obtenu que grâce à leur exécution combinée.

Conséquences concrètes et contexte commercial

Le seuil des 1 000 tokens change la donne pour les applications qui peuvent tirer parti des modèles de pointe. Le raisonnement parallèle devient réalisable : les systèmes peuvent explorer des dizaines de chemins de raisonnement selon la méthode Best of N ou par recherche arborescente dans le temps qu’un modèle plus lent mettrait à en explorer un seul. Les agents de programmation y gagnent, car une génération plus rapide réduit l’attente entre les étapes autonomes. Les boucles de décision en temps réel, pour la génération de signaux de trading, le blocage des fraudes ou les systèmes de dialogue en direct, deviennent plus viables lorsque la latence passe sous le seuil de perception humaine.

Xiaomi a illustré ces applications avec des démonstrations publiques. Un jeu Snake entièrement fonctionnel a été généré en une dizaine de secondes. Un prototype d’interface macOS a été créé en une minute environ. Pour ces tâches limitées par le débit, la vitesse brute de génération constitue le facteur déterminant.

L’accès à UltraSpeed passe par un essai limité de l’API, sur candidature, du 9 au 23 juin 2026. Son tarif est trois fois supérieur à celui de MiMo V2.5 Pro standard, soit environ 1,29 dollar par million de tokens d’entrée et 2,61 dollars par million de tokens de sortie selon les taux de change actuels. Xiaomi promet, pour ce surcoût, une vitesse de génération environ dix fois supérieure. L’abonnement Token Plan ne s’applique pas à UltraSpeed. Les utilisateurs dont la candidature est acceptée bénéficient de deux semaines d’accès gratuit au chat, avec des limites quotidiennes : dix entrées dans la file d’attente par compte, des sessions limitées à trente minutes et la libération automatique des ressources après cinq minutes d’inactivité.

Malgré ces avancées techniques, les marchés financiers sont restés indifférents. L’action Xiaomi a clôturé à 2,91 euros le 11 juin, soit seulement 1,75 % au-dessus de son plus bas sur 52 semaines, et accusait une baisse de 35 % depuis le début de l’année. L’entreprise poursuit sa diversification : elle a lancé le smartphone haut de gamme 17T en Inde le jour même de la sortie de l’assistant MiMo Code et développe ses activités dans les véhicules électriques avec la ville de Changchun. Les prochains résultats financiers diront si cette dynamique opérationnelle peut inverser la tendance boursière.

Publication en open source et question de la vérification

Xiaomi a publié en open source sur Hugging Face le checkpoint FP4 DFlash de MiMo V2.5 Pro, avec les poids quantifiés et les paramètres DFlash. TileRT a publié certains modules sur GitHub. Cette transparence ouvre la voie à des tests indépendants par la communauté, qui seront déterminants : toutes les affirmations actuelles concernant la vitesse reposent sur les tests internes de Xiaomi. Aucune vérification indépendante par un tiers n’a encore été publiée.

La reproduction des résultats par la communauté permettra d’examiner plusieurs questions en suspens. Premièrement, le chiffre de 1 000 tokens par seconde se vérifie-t-il sur des instances GPU courantes, en dehors de l’environnement d’essai contrôlé de Xiaomi ? Deuxièmement, observe-t-on une dégradation de la qualité dans les conversations ouvertes, où les taux d’acceptation du décodage spéculatif sont actuellement plus faibles que pour les tâches de programmation structurées ? Troisièmement, l’approche de TileRT fondée sur un noyau persistant peut-elle s’intégrer aux piles de service standard déjà déployées en production ?

Si les tests indépendants confirment ces affirmations, Xiaomi aura obtenu par le logiciel ce que ses concurrents ont cherché à accomplir en investissant des centaines de millions de dollars dans des puces sur mesure. Cela montrerait que la co-conception algorithmique peut débloquer des niveaux de performance que l’on pensait auparavant réservés au matériel spécialisé, et pourrait réorienter les investissements dans l’ensemble du secteur de l’intelligence artificielle.

À retenir

• Lors de son lancement le 8 juin 2026, MiMo V2.5 Pro UltraSpeed de Xiaomi est devenu le premier modèle d’un billion de paramètres à dépasser les 1 000 tokens par seconde sur des GPU standards.
• Cette vitesse repose sur trois techniques coordonnées : la quantification FP4 des couches d’experts, le décodage spéculatif DFlash par blocs et l’environnement d’exécution GPU persistant TileRT.
• Le modèle MiMo V2.5 Pro sous-jacent obtient des résultats proches de ceux de Claude Opus 4.6 pour les tâches de programmation, tout en coûtant environ huit fois moins cher par token.
• Contrairement à Cerebras et Groq, Xiaomi a atteint ce record sans puces sur mesure, en utilisant un nœud standard de huit GPU disponible auprès de fournisseurs de services cloud.
• Le checkpoint MiMo V2.5 Pro FP4 DFlash est disponible sous licence open source MIT sur Hugging Face, et les modules TileRT sont publiés sur GitHub.
• Un essai limité de l’API se déroule du 9 au 23 juin 2026. Le tarif est trois fois supérieur au tarif standard, pour une vitesse de génération environ dix fois plus élevée.
• À la mi-juin 2026, l’action Xiaomi reste proche de son plus bas sur 52 semaines, en baisse de 35 % depuis le début de l’année malgré cette avancée technique.