Kimi K4 viserait 5 400 milliards de paramètres et un lancement en 2027

10 min de lecture
Kimi K4 Reportedly Targets 5.4 Trillion Parameters and a 2027 Launch

Le prochain modèle phare de Moonshot pourrait presque doubler de taille

Moonshot AI viserait, selon certaines informations, 5 400 milliards de paramètres pour Kimi K4, dont le lancement serait attendu au deuxième ou au troisième trimestre 2027. Le modèle envisagé serait presque deux fois plus grand que Kimi K3 et K3.1 Pro, qui compteraient tous deux 2 800 milliards de paramètres.

Sommaire
  1. Le prochain modèle phare de Moonshot pourrait presque doubler de taille
  2. Ce que signifie le chiffre de 5 400 milliards
  3. Comment s’articuleraient les sorties annoncées
  4. Pourquoi K3.5 met l’accent sur les données d’entraînement
  5. Des capacités de calcul suffisantes aujourd’hui, sous pression avec la croissance des modèles
  6. Comment Moonshot compte tirer davantage de son matériel
  7. K3 Flash viserait la vitesse et le coût
  8. Où en est la comparaison internationale
  9. À retenir

Selon le calendrier rapporté, une mise à niveau plus modeste, Kimi K3.5, précéderait K4, peut-être autour du Nouvel An lunaire 2027. Une version plus rapide, baptisée Kimi K3 Flash, est attendue avant la fin de 2026 et remplacerait Kimi K2.8.

Moonshot n’a communiqué officiellement ni le nombre de paramètres ni la date de sortie de K4. Le chiffre de 5 400 milliards et la fenêtre de lancement d’avril à septembre 2027 proviennent d’informations sur ses projets de développement. Des estimations antérieures situaient K4 entre 5 000 et 6 000 milliards de paramètres.

Le principal développement serait donc un projet visant à accroître à la fois la taille des modèles et la gamme de produits proposés. Moonshot investirait également dans la compression, l’autodistillation et le post-entraînement, des techniques destinées à améliorer les capacités de ses modèles au regard des ressources de calcul disponibles.

Pour les utilisateurs, ces efforts parallèles ont des effets différents. Un modèle phare plus grand pourrait prendre en charge des tâches plus exigeantes, tandis qu’un modèle plus léger pourrait traiter les demandes courantes plus rapidement et à moindre coût. La feuille de route rapportée donne des objectifs de taille et de calendrier, mais ne précise ni les futurs tarifs, ni les performances mesurées, ni les modalités d’accès.

Ce que signifie le chiffre de 5 400 milliards

Les paramètres sont des valeurs numériques qu’un modèle apprend pendant son entraînement. Ils contribuent à déterminer comment il reconnaît des schémas et produit des réponses. Un modèle qui en compte davantage a une plus grande capacité d’apprentissage, mais son utilité dépend aussi des données d’entraînement, de sa conception et de la manière dont il est affiné.

Les 5 400 milliards de paramètres attribués à K4 représenteraient une hausse de 2 600 milliards par rapport aux 2 800 milliards rapportés pour K3. Sur la base de ces chiffres, l’augmentation serait d’environ 93 %, ce qui ferait de K4 un modèle environ 1,93 fois plus grand.

Publicité

K3.5 marquerait une progression bien plus limitée en taille. Ses 3 000 milliards de paramètres, selon les informations rapportées, dépasseraient d’environ 7 % le chiffre de K3. Ce contraste suggère deux approches de développement distinctes : affiner la génération existante avec K3.5, puis augmenter nettement la capacité avec K4.

L’objectif précis de 5 400 milliards s’inscrit dans la fourchette estimée auparavant, de 5 000 à 6 000 milliards. Une source attribue cette estimation à Nomura Securities. Sa cohérence avec le chiffre plus récent permet de préciser l’objectif rapporté, mais seule Moonshot peut le confirmer.

Comment s’articuleraient les sorties annoncées

Le calendrier attribué à Moonshot s’étendrait du lancement de K3 en juillet 2026 à la sortie envisagée de K4 en 2027. Les versions intermédiaires répondraient à la fois aux besoins du modèle phare et à la demande pour un produit plus léger.

  • 10 janvier 2026 : le fondateur Yang Zhilin aurait évoqué les projets concernant K4 lors d’un discours public.
  • 17 juillet 2026 : Kimi K3 aurait été lancé avec 2 800 milliards de paramètres et une fenêtre de contexte d’un million de tokens.
  • Fin juillet 2026 : les préparatifs de l’entraînement de K4 auraient commencé, parallèlement à des efforts pour accroître les capacités de calcul.
  • Avant la fin de 2026 : Kimi K3 Flash devrait succéder à Kimi K2.8.
  • Début 2027 : Kimi K3.5 est attendu, peut-être autour du Nouvel An lunaire, avec 3 000 milliards de paramètres.
  • Deuxième ou troisième trimestre 2027 : la sortie de Kimi K4, doté de 5 400 milliards de paramètres, serait visée.

La fenêtre envisagée pour K4 s’étend d’avril à septembre 2027. La sortie de K3.5 autour du Nouvel An lunaire reste également une estimation, et l’intervalle entre ces deux modèles phares demeure incertain.

Pourquoi K3.5 met l’accent sur les données d’entraînement

Kimi K3.5 devrait, selon les informations rapportées, utiliser 10 000 milliards de tokens de données de post-entraînement. Les tokens sont les unités d’information traitées par un modèle, souvent des mots ou des fragments de mots. Leur nombre mesure le volume traité, et non celui des documents ou des faits distincts.

Le post-entraînement intervient une fois achevée la phase initiale principale d’entraînement du modèle. Il peut l’aider à mieux suivre les consignes, à améliorer ses réponses et à traiter certaines tâches de façon plus fiable. Des exemples, des retours et des exercices répétés peuvent y contribuer.

Avec une échelle annoncée de 10 000 milliards de tokens, K3.5 ne se résumerait pas à une hausse modeste du nombre de paramètres. Moonshot semble prévoir un travail conséquent sur le comportement du modèle, en plus d’une augmentation plus limitée de sa taille sous-jacente.

Publicité

Les informations rapportées ne détaillent pas la composition de ces données : on ignore quelle part serait nouvellement collectée, générée par des modèles ou utilisée à plusieurs reprises. Cette absence de précisions est importante, car la qualité et la diversité des exemples d’entraînement influent sur ce que le modèle en apprend.

Des capacités de calcul suffisantes aujourd’hui, sous pression avec la croissance des modèles

Moonshot disposerait, selon les informations rapportées, de capacités de calcul suffisantes pour son programme de développement actuel. Les mêmes sources font état de limites à une expansion supplémentaire, notamment en matière d’accès au matériel de pointe et à de grandes quantités de données de qualité.

Ces deux situations ne sont pas incompatibles. Une entreprise peut disposer de suffisamment d’équipements pour les travaux en cours tout en ayant besoin de davantage de puces, d’électricité et d’infrastructures pour développer un successeur plus puissant.

Les préparatifs de K4 auraient commencé fin juillet 2026, moins de deux semaines après la sortie annoncée de K3. Moonshot aurait également cherché à se procurer des processeurs graphiques Nvidia supplémentaires fondés sur l’architecture Blackwell. Ces puces sont conçues pour effectuer les nombreux calculs nécessaires à l’entraînement et au fonctionnement des modèles d’IA.

Le lancement de K3 aurait révélé des tensions concernant la mise à disposition du modèle aux utilisateurs. Le 19 juillet, Moonshot aurait suspendu les nouveaux abonnements grand public faute de capacités de calcul suffisantes. Faire fonctionner un modèle pour les clients et entraîner son successeur exige dans les deux cas des ressources considérables.

Ryan Fedasiuk, chercheur à l’American Enterprise Institute, aurait estimé que les puces et les infrastructures énergétiques associées nécessaires aux services de K3 représenteraient des investissements de plusieurs milliards de dollars. Cette estimation porte sur les ressources indispensables à un fonctionnement à grande échelle, un poste de dépenses récurrent à prendre en compte alors que Moonshot prévoit un modèle plus grand.

Comment Moonshot compte tirer davantage de son matériel

Les priorités techniques attribuées à Moonshot comprennent la compression des modèles, l’autodistillation et le post-entraînement. Chacune permettrait d’améliorer les capacités ou l’efficacité en parallèle de la coûteuse augmentation de la taille des modèles.

La compression vise à réduire les ressources nécessaires au modèle tout en préservant autant que possible ses performances utiles. Selon la méthode employée, elle peut réduire les besoins en mémoire, accélérer les réponses ou diminuer le coût du déploiement.

L’autodistillation consiste à utiliser les réponses ou le comportement appris par un modèle comme matière pédagogique pour poursuivre l’entraînement. En termes simples, un modèle peut générer des exemples qui aideront à affiner une autre version de lui-même. Il est important de sélectionner et de vérifier ces données, car les réponses générées peuvent contenir des erreurs.

Publicité

Le post-entraînement s’intéresse ensuite à la manière dont le modèle met ses capacités en pratique. Pour les utilisateurs, les progrès pourraient se traduire par un meilleur suivi des consignes ou une exécution plus fiable des tâches. Pour Moonshot, l’intérêt est d’améliorer les performances concrètes sans faire dépendre chaque progrès de l’achat d’un système informatique beaucoup plus puissant.

L’accent rapporté sur ces méthodes aide à comprendre pourquoi K3.5 et K4 pourraient remplir des fonctions différentes. Le premier miserait sur l’affinement autour d’un nombre de paramètres similaire ; le second viserait une augmentation substantielle de la capacité.

K3 Flash viserait la vitesse et le coût

Kimi K3 Flash devrait, selon les informations rapportées, sortir avant la fin de 2026 pour succéder à Kimi K2.8. Il étofferait la gamme de produits légers de Moonshot, tandis que les modèles phares de plus grande taille seraient encore en développement.

Un modèle plus léger peut être utile pour les tâches courantes et répétées, comme répondre à des demandes habituelles ou traiter de nombreuses requêtes courtes. Dans ces situations, le temps d’attente et le coût de chaque requête peuvent compter autant que les performances sur les problèmes difficiles.

Les articles évoquent une possible concurrence avec la gamme Flash de DeepSeek, notamment V4.1 Flash et les éventuelles versions V4.2 ou V5.0 Flash. La comparaison reste hypothétique : le nombre de paramètres, le prix et les performances mesurées de K3 Flash n’ont pas été communiqués dans la feuille de route rapportée.

Moonshot aurait également mis fin, le 31 août 2026, aux services d’API Kimi K2.5 et moonshot-v1, en orientant les développeurs vers K3. Une API est une interface permettant à un logiciel d’envoyer des requêtes à un modèle. Les changements de produit concernent donc à la fois les personnes qui choisissent un chatbot et les développeurs qui assurent la maintenance d’applications dépendant d’un modèle précis.

Où en est la comparaison internationale

La taille attribuée à K4 est comparée à celle de Mythos et Fable, qui compteraient plus de 5 000 milliards de paramètres. Avec 5 400 milliards, K4 entrerait dans la même grande catégorie de taille que ces modèles.

Comparer les capacités en pratique nécessite davantage d’informations : performances des modèles sur les mêmes tâches, rapidité de leurs réponses, coût d’exploitation et fiabilité dans l’exécution du travail. L’architecture compte également, notamment la part du modèle utilisée pour traiter chaque requête.

Les informations rapportées situent le calendrier de développement de Moonshot environ un an derrière les principaux acteurs internationaux, un retard attribué aux contraintes pesant sur l’accès aux ressources de calcul avancées et à l’accumulation de données d’entraînement de qualité. Cette évaluation reste approximative : aucun test de référence commun ni aucune sortie précise servant de point de comparaison ne sont indiqués.

Publicité

La fenêtre de contexte d’un million de tokens attribuée à K3 constitue un autre élément utile de comparaison. Une fenêtre de contexte correspond à la quantité de contenu qu’un modèle peut prendre en compte dans une interaction, consignes et documents compris. Elle décrit une capacité différente du nombre de paramètres et importe notamment aux personnes qui travaillent sur de longs fichiers.

Les prochaines étapes concrètes de Moonshot seraient la sortie attendue de K3 Flash, suivie de K3.5 début 2027 et de K4 plus tard dans l’année. Des spécifications officielles, des modalités d’accès et des résultats de performance comparables permettraient aux utilisateurs et aux développeurs d’évaluer chaque version.

À retenir

  • Kimi K4 viserait 5 400 milliards de paramètres et un lancement entre avril et septembre 2027.
  • Il serait environ 93 % plus grand que K3 et K3.1 Pro, auxquels sont attribués 2 800 milliards de paramètres.
  • K3.5 serait prévu pour début 2027, avec 3 000 milliards de paramètres et 10 000 milliards de tokens de données de post-entraînement.
  • K3 Flash, qui succéderait à K2.8, est attendu avant la fin de 2026.
  • Moonshot disposerait de capacités de calcul suffisantes pour le développement actuel, mais une nouvelle expansion serait limitée par les besoins en matériel et en données.
  • Moonshot n’a communiqué officiellement ni le nombre de paramètres ni la date de sortie de K4.
Partager cet article

À lire aussi