L’AMA de Moonshot AI sur Reddit autour de Kimi K2.5 révèle les difficultés concrètes des modèles open source de pointe

Quand 595 gigaoctets se heurtent à la réalité des développeurs

Deux jours après avoir lancé ce que des analystes du secteur ont qualifié de modèle d’intelligence artificielle open source le plus puissant jamais créé, des chercheurs de Moonshot AI se sont connectés à Reddit pour faire face à un public partagé entre enthousiasme et frustration. La start-up basée à Pékin avait toutes les raisons de célébrer l’événement. Kimi K2.5 avait fait les gros titres en comblant l’écart de capacités avec les géants américains de l’IA et en mettant à l’épreuve les limites des contrôles américains sur les exportations de puces. Mais les développeurs qui attendaient sur r/LocalLLaMA, un forum où les ingénieurs échangent des conseils pour faire tourner de grands modèles de langage sur tout type de matériel, des GPU grand public aux petits racks de matériel semi-professionnel, avaient une préoccupation plus immédiate. Ils voulaient savoir quand ils pourraient réellement utiliser le modèle.

Cette session de questions-réponses de trois heures a offert une fenêtre inattendue sur le développement de l’IA de pointe en 2026, loin de la version policée des documents marketing des entreprises et au plus près de sa réalité chaotique : déboguer des échecs, gérer les dérives de personnalité et affronter une tension fondamentale qui définit aujourd’hui l’IA open source. Moonshot avait publié les poids du modèle, que tout le monde pouvait télécharger et personnaliser. Le fichier pèse environ 595 gigaoctets. Pour la plupart des développeurs présents dans le fil, cette ouverture restait purement théorique.

Trois membres de l’équipe de Moonshot ont participé sous les pseudonymes ComfortableAsk4494, zxytim et ppwwyyxx. Au fil d’environ 187 commentaires, ils ont répondu à des questions sur l’architecture, les méthodes d’entraînement et la question philosophique de ce qui donne son caractère à un modèle d’IA. Ils ont aussi donné un aperçu de l’origine des prochaines avancées, qui ne viendront pas simplement d’une augmentation du nombre de paramètres.

Le problème de la taille, toujours d’actualité

La toute première vague de questions a abordé Kimi K2.5 moins comme une percée que comme un casse-tête logistique. Un utilisateur a demandé sans détour pourquoi Moonshot ne créait pas de modèles plus petits en parallèle de son modèle phare. « Les petites tailles, comme 8B, 32B ou 70B, sont idéales pour obtenir une forte densité d’intelligence », a-t-il écrit, en référence au nombre de paramètres, exprimé en milliards. Un autre a fait remarquer que les modèles géants étaient devenus difficiles à célébrer, car de nombreux développeurs ne pouvaient tout simplement pas les faire tourner. Un troisième a cité les concurrents américains comme référence de taille et demandé des variantes spécialisées dans le code, compatibles avec des GPU modestes.

L’équipe de Moonshot n’a pas annoncé de modèle plus petit sur-le-champ. Mais elle a reconnu la demande avec des mots qui laissaient entendre que la remarque ne lui était pas étrangère. « Demandes bien reçues ! », a écrit l’un des coanimateurs. Un autre a indiqué que la collection de modèles de Moonshot comprend déjà quelques modèles plus petits à mélange d’experts sur Hugging Face, tout en précisant que les petits et les grands modèles nécessitent souvent des investissements d’ingénierie différents.

La réponse la plus révélatrice est venue d’un utilisateur qui demandait si Moonshot pourrait créer un modèle d’environ 100 milliards de paramètres, optimisé pour un usage local. L’équipe de Kimi a évoqué une autre solution de compromis : un modèle de 200 ou 300 milliards de paramètres, qui resterait au-dessus de ce qu’elle appelle un « seuil d’utilisabilité » pour de nombreuses tâches. Cette réponse résume le dilemme des laboratoires qui publient les poids de leurs modèles. Un modèle de 200 à 300 milliards de paramètres élargirait l’accès par rapport à un système d’un billion de paramètres, mais supposerait toujours une configuration avec plusieurs GPU ou des techniques de quantification poussées, qui réduisent la précision pour économiser de la mémoire.

Les développeurs présents dans le fil ne demandaient pas des modèles légèrement plus petits. Ils voulaient des modèles adaptés au matériel qu’ils possèdent réellement, ainsi qu’une feuille de route qui considère le déploiement local comme une contrainte de premier plan, et non comme une préoccupation secondaire réservée aux passionnés. Cet échange a mis en lumière une fracture grandissante au sein de la communauté de l’IA open source, entre les laboratoires qui publient d’immenses modèles nécessitant une infrastructure à l’échelle d’un centre de données et les praticiens qui veulent faire tourner ces systèmes sur leur propre matériel.

Les lois d’échelle ont-elles atteint un plafond ?

Après les questions sur le matériel, le fil s’est intéressé à ce que beaucoup de chercheurs considèrent désormais comme la question centrale des grands modèles de langage : les lois d’échelle commencent-elles à plafonner ? Ces lois désignent la relation prévisible entre la taille du modèle, le volume de données et les performances, qui a guidé les progrès de l’IA pendant des années. Un participant a demandé directement si le passage à l’échelle avait « atteint un plafond ».

Un représentant de Kimi a répondu par un constat de plus en plus répandu dans le secteur. « La quantité de données de grande qualité n’augmente pas aussi vite que les capacités de calcul disponibles, ont-ils écrit. La mise à l’échelle fondée sur la prédiction du prochain jeton et les données issues d’Internet apportera donc moins de progrès. » Cette observation pointe une contrainte fondamentale : la quantité de textes de qualité disponibles sur Internet est limitée, et les laboratoires d’IA en ont déjà utilisé la majeure partie pour entraîner leurs modèles.

L’équipe a ensuite présenté la piste qu’elle privilégie pour surmonter cet obstacle. Elle a cité Agent Swarm, la capacité de Kimi K2.5 à coordonner jusqu’à 100 sous-agents travaillant en parallèle, comme une forme de « mise à l’échelle à l’inférence » susceptible d’ouvrir une nouvelle voie vers des gains de capacités. Cette approche consiste à augmenter les calculs réalisés lors de l’inférence, c’est-à-dire lorsque le modèle répond effectivement à des questions, plutôt que lors de la phase initiale d’entraînement.

Dans la perspective de l’équipe, la mise à l’échelle ne doit pas forcément se limiter à des entraînements préalables de plus grande ampleur. Elle peut aussi consister à augmenter la quantité de travail structuré réalisé au moment de l’inférence, puis à réinjecter ces enseignements dans l’entraînement par apprentissage par renforcement. « De nouveaux paradigmes de mise à l’échelle pourraient voir le jour », a écrit l’un des coanimateurs. « À l’avenir, il est probable que nous ayons des modèles qui apprennent avec peu, voire sans aucun a priori humain. »

Cette affirmation suggère que les progrès pourraient désormais se mesurer moins au nombre de paramètres et aux courbes de perte de l’entraînement préalable qu’à la capacité des systèmes à planifier, déléguer et vérifier, en s’appuyant sur des outils et des sous-agents plutôt que sur un unique passage massif dans un réseau neuronal.

Dans les coulisses d’Agent Swarm : comment 100 sous-agents partagent leur mémoire

Sur le papier, Agent Swarm ressemble à une idée connue présentée sous un nouveau jour : plusieurs agents d’IA collaborent à une tâche. La session de questions-réponses a fait émerger des détails plus importants : où va la mémoire, comment s’organise la coordination et pourquoi l’orchestration ne se transforme pas en bruit.

Un développeur a soulevé un problème classique des systèmes multi-agents. Avec 100 sous-agents, l’agent orchestrateur devient souvent un goulot d’étranglement, à la fois en matière de latence et de ce que la communauté appelle la « dégradation du contexte ». Celle-ci correspond à la baisse des performances qui survient quand l’historique d’une conversation se remplit de bavardages internes et de traces d’utilisation des outils, jusqu’à ce que le modèle perde de vue son objectif.

Un coanimateur de Kimi a répondu en décrivant un choix de conception important pour quiconque développe des systèmes d’agents dans un contexte professionnel.

Les sous-agents disposent chacun de leur propre mémoire de travail et renvoient leurs résultats à l’orchestrateur, au lieu de tout verser dans un contexte partagé. Cela nous permet de faire évoluer la longueur totale du contexte selon une nouvelle dimension !

Un autre développeur a insisté sur les gains de performance annoncés. Moonshot a publiquement présenté Agent Swarm comme capable d’accélérer certaines tâches d’environ 4,5 fois, mais les sceptiques ont demandé si ce chiffre ne reflétait pas simplement le degré de parallélisation possible pour une tâche donnée. L’équipe a reconnu que cela dépendait des cas. Parfois, le système estime qu’une tâche ne nécessite pas d’agents travaillant en parallèle et évite ainsi les calculs supplémentaires. Elle a aussi expliqué que l’orchestrateur doit gérer les budgets de jetons des sous-agents et leur attribuer des tâches de taille appropriée.

Interprétés sous l’angle de l’ingénierie plutôt que du marketing, les propos de Moonshot décrivent une approche classique dans les entreprises : préserver la clarté du plan de contrôle, limiter les résultats des processus exécutés par les agents et éviter d’inonder le coordinateur de journaux qu’il ne peut pas traiter. Cette architecture laisse penser que les futurs systèmes d’IA ressembleront davantage à des grappes de calcul distribué qu’à des chatbots monolithiques.

Le passage du système 1 au système 2

Le changement le plus important évoqué lors de la session ne concernait pas un nouveau score de référence. Il s’agissait d’une déclaration sur les priorités de recherche. Une question demandait si Moonshot réorientait ses capacités de calcul du préentraînement du « système 1 » vers l’apprentissage par renforcement du « système 2 ». Ces termes désignent des modes de pensée popularisés par le psychologue Daniel Kahneman : le système 1 correspond à une pensée rapide et intuitive, tandis que le système 2 repose sur un raisonnement plus lent et délibéré.

Dans le domaine de l’IA, cela se traduit par un passage de l’apprentissage général de schémas à un entraînement qui valorise explicitement le raisonnement et les comportements corrects au fil de tâches en plusieurs étapes. Un représentant de Kimi a répondu que les capacités de calcul consacrées à l’apprentissage par renforcement continueraient d’augmenter et a indiqué que de nouvelles fonctions d’objectif pour l’apprentissage par renforcement étaient probables, « en particulier dans le domaine des agents ».

Cette phrase ressemble à une feuille de route. À mesure que les modèles utilisent davantage d’outils et décomposent les tâches, les laboratoires consacreront une plus grande part de leurs budgets à entraîner les modèles à bien se comporter en tant qu’agents, plutôt qu’à simplement prédire des jetons. C’est important pour les entreprises, car les progrès liés à l’apprentissage par renforcement s’accompagnent souvent de compromis. Un modèle peut se montrer plus déterminé, plus prompt à utiliser des outils ou davantage aligné sur des signaux de récompense qui ne correspondent pas exactement aux attentes d’une entreprise.

Interrogée sur l’écart de capacités de calcul entre Moonshot et les laboratoires américains dotés de parcs de GPU bien plus importants, l’équipe a répondu sans détour. « Je dirais que l’écart ne se réduit pas », a écrit l’un des coanimateurs. « Mais de quelle quantité de calcul a-t-on besoin pour atteindre l’AGI ? Nous verrons bien. » Un autre a proposé une approche plus philosophique : « De nombreux facteurs influent sur les capacités de calcul disponibles. Mais quoi qu’il arrive, l’innovation aime les contraintes. »

Pourquoi Kimi se présente parfois comme Claude

Les modèles open source s’accompagnent désormais d’un soupçon récurrent : ont-ils trop appris de leurs concurrents ? Ce soupçon peut vite se transformer en accusation de distillation, un procédé par lequel une IA apprend à partir des résultats produits par une autre IA. Un utilisateur a soulevé l’une des accusations les plus embarrassantes qui circulent dans les communautés de modèles ouverts : K2.5 se présenterait parfois comme « Claude », le modèle phare d’Anthropic. La suggestion d’un emprunt massif était lourde de sens.

Moonshot n’a pas nié ce comportement. L’équipe en a plutôt décrit les circonstances. Avec une invite système adaptée, le modèle a de fortes chances de répondre « Kimi », a-t-elle expliqué, notamment en mode réflexion. Mais sans invite système, le modèle dérive vers ce que l’équipe a appelé une « zone indéfinie », reflet des distributions des données de préentraînement plutôt que de choix délibérés lors de l’entraînement.

L’équipe a ensuite avancé une explication précise, liée à une décision prise lors de l’entraînement. Moonshot a indiqué avoir suréchantillonné des données récentes de programmation issues d’Internet lors du préentraînement. Ces données semblent davantage associées au jeton « Claude », probablement parce que les développeurs qui discutent des assistants de programmation fondés sur l’IA font souvent référence au modèle d’Anthropic. L’équipe a contesté l’accusation de distillation en citant les résultats obtenus sur des tests de référence.

En fait, K2.5 semble surpasser Claude sur de nombreux tests. HLE, BrowseComp, MMMU Pro, MathVision, pour n’en citer que quelques-uns.

Pour les entreprises qui adoptent ces modèles, l’enjeu principal ne réside pas dans les polémiques d’Internet. Il tient au fait que la dérive identitaire est un véritable mode de défaillance, que les organisations peuvent souvent limiter en contrôlant les invites système plutôt qu’en laissant le modèle se décrire au hasard. Lors de cette session, la gouvernance des invites a été présentée non comme un simple raffinement de l’expérience utilisateur, mais comme une mesure d’hygiène opérationnelle essentielle à un déploiement fiable.

À la recherche de l’âme d’un modèle de récompense

Un thème récurrent du fil concernait le style d’écriture de K2.5, jugé plus générique que celui des précédents modèles Kimi. Des utilisateurs l’ont décrit comme davantage conforme à celui d’un « assistant utile » classique, un ton que de nombreux développeurs considèrent désormais comme la personnalité par défaut des modèles ayant fait l’objet d’un post-entraînement poussé. Un utilisateur a dit adorer la personnalité de Kimi K2 et demandé ce qui s’était passé.

Un coanimateur de Kimi a reconnu que chaque nouvelle version s’accompagnait d’un changement de personnalité et a décrit celle-ci comme subjective et difficile à évaluer. « C’est un problème assez difficile », a-t-il écrit. L’équipe a dit vouloir améliorer la situation et rendre la personnalité davantage personnalisable selon les utilisateurs.

Lors d’un échange distinct sur la question de savoir si le renforcement des capacités en programmation se fait au détriment de l’écriture créative et de l’intelligence émotionnelle, un représentant de Kimi a soutenu qu’il n’y avait pas de conflit inhérent, à condition que le modèle soit assez grand. Mais conserver un « goût littéraire » d’une version à l’autre est difficile, a-t-il ajouté, car le modèle de récompense évolue sans cesse. L’équipe s’appuie sur des tests internes, une sorte de méta-évaluation, pour suivre les progrès en matière d’écriture créative et ajuster les modèles de récompense en conséquence.

Une autre réponse est allée plus loin, employant des termes inhabituels dans une spécification d’IA d’entreprise, mais familiers aux utilisateurs quotidiens de ces outils. L’équipe a parlé de l’« âme » d’un modèle de récompense et évoqué la possibilité de stocker un « état » utilisateur reflétant ses goûts, puis de s’en servir pour orienter les réponses du modèle. Cet échange pointe vers une évolution des produits que les entreprises ont souvent tendance à sous-estimer. La dérive de style n’est pas qu’une question d’esthétique. Elle peut changer la manière dont un modèle explique ses décisions, nuance ses réponses, gère l’ambiguïté et interagit avec les clients et les salariés.

Le débogage, véritable travail de recherche en IA

L’éclairage culturel le plus révélateur est venu en réponse à une question sur les surprises rencontrées lors de l’entraînement et de l’apprentissage par renforcement. Un coanimateur a répondu par un seul mot, mis en gras pour appuyer son propos : le débogage.

Qu’il s’agisse du préentraînement ou du post-entraînement, une priorité s’impose constamment comme la plus importante : le débogage.

Ce commentaire a mis en lumière un thème présent tout au long de la session. Interrogé sur sa méthode de « paliers de mise à l’échelle » pour évaluer de nouvelles idées sur des modèles de tailles différentes, zxytim a raconté un échec. L’équipe avait autrefois voulu intégrer rapidement Kimi Linear, une architecture expérimentale à attention linéaire, dans la génération précédente du modèle. Elle n’avait pas franchi un palier de mise à l’échelle donné. L’équipe a fait marche arrière et s’est lancée dans ce que le coanimateur a appelé « un long processus de débogage difficile ». Il lui a fallu plusieurs mois pour enfin faire fonctionner le modèle.

« Statistiquement, la plupart des idées qui fonctionnent à petite échelle ne franchiront pas les paliers de mise à l’échelle, ont-ils poursuivi. Celles qui y parviennent sont généralement simples, efficaces et fondées sur des principes mathématiques. La recherche consiste surtout à gérer les échecs, pas à célébrer les succès. »

Pour les responsables techniques qui évaluent des fournisseurs d’IA, cet aveu est instructif. Les capacités de pointe ne découlent pas uniquement de percées élégantes. Elles sont le fruit d’une recherche incessante des causes de défaillance et de cultures d’entreprise prêtes à consacrer des mois à des problèmes susceptibles de rester sans solution. Ce retour à la réalité tranche nettement avec les récits policés souvent présentés lors des lancements de produits.

Feuille de route vers K3 et l’apprentissage continu

La session a également servi d’annonce discrète de la prochaine génération de Kimi. Des développeurs ont demandé si Kimi K3 adopterait les travaux de Moonshot sur l’attention linéaire, qui vise à gérer les contextes longs plus efficacement que les mécanismes d’attention traditionnels. Les membres de l’équipe ont indiqué que les approches linéaires étaient une piste sérieuse. « Il est probable que Kimi Linear fasse partie de K3 », a écrit l’un d’eux. « Nous inclurons aussi d’autres optimisations. »

Lors d’un autre échange, un coanimateur a prédit que K3 serait « bien meilleur, voire dix fois meilleur, que K2.5 ». L’équipe a également mis en avant l’apprentissage continu, une piste qu’elle explore activement, suggérant un avenir où les agents pourraient travailler efficacement sur des périodes plus longues. C’est un besoin crucial pour les entreprises, si elles veulent que les agents gèrent des projets suivis plutôt que des tâches ponctuelles.

« Nous pensons que l’apprentissage continu améliorera l’autonomie des agents et leur permettra de travailler efficacement sur des périodes bien plus longues », a écrit l’un des coanimateurs. Concernant Agent Swarm, l’équipe a déclaré prévoir de mettre l’architecture d’orchestration à la disposition des développeurs une fois le système plus stable. « Nous espérons que ce sera pour très bientôt », a-t-elle ajouté.

Ce que cela révèle de l’IA ouverte en 2026

La session n’a pas répondu à toutes les questions. Certaines des interrogations les plus techniques, sur les méthodes d’entraînement multimodal, les défenses contre le piratage des modèles de récompense et la gouvernance des données, ont été renvoyées à un prochain rapport technique. Rien d’inhabituel à cela. De nombreux laboratoires considèrent aujourd’hui comme sensibles les détails les plus déterminants pour l’exploitation de leurs modèles.

Mais le fil a malgré tout révélé où se jouent désormais les véritables batailles de l’IA. L’écart qui compte le plus n’est ni celui entre la Chine et les États-Unis, ni celui entre l’open source et les solutions fermées. C’est l’écart entre ce que promettent les modèles et ce que les systèmes sont réellement capables de fournir. L’orchestration devient le produit. Moonshot ne commercialise pas seulement un modèle. L’entreprise défend une vision selon laquelle les prochains progrès viendront d’agents capables de répartir le travail, d’utiliser des outils et de renvoyer rapidement des résultats structurés.

La publication des poids se heurte à la réalité du matériel : les développeurs réclament une ouverture qui permette une exécution locale, plutôt qu’une ouverture qui nécessite un centre de données. Et le terrain de la compétition se déplace de l’intelligence brute vers la fiabilité, de la quête de deux points supplémentaires à un test de référence vers le débogage de l’usage discipliné des outils, la gestion de la mémoire dans les processus multi-agents et la préservation du « goût », difficile à quantifier, qui détermine si les utilisateurs font confiance aux résultats.

Moonshot est arrivé sur Reddit à la suite d’un lancement très médiatisé et dans un contexte de montée des tensions géopolitiques. Les développeurs qui l’y attendaient se souciaient d’une question plus pratique : à partir de quand l’ouverture est-elle vraiment synonyme d’utilisabilité ? En ce sens, la session n’a pas seulement fait la promotion de Kimi K2.5. Elle a offert un instantané d’un secteur en pleine transition : des modèles plus grands vers des calculs plus structurés, des API fermées vers des poids ouverts qui exigent toujours un vrai travail d’ingénierie pour être déployés, et de la célébration des succès à la gestion des échecs.

En bref

• Moonshot AI a publié Kimi K2.5, un modèle open source de 595 Go, puis organisé une session de questions-réponses sur Reddit, sur r/LocalLLaMA, où les utilisateurs l’ont interrogée sur son utilité concrète.
• Les développeurs ont réclamé des modèles plus petits, de 8 à 70 milliards de paramètres, adaptés au matériel local. Moonshot a toutefois avancé qu’il fallait au moins 200 à 300 milliards de paramètres pour garantir une large utilisabilité.
• L’équipe a reconnu que les lois d’échelle plafonnent en raison de la quantité limitée de données d’entraînement de qualité, et s’oriente vers la « mise à l’échelle à l’inférence » avec Agent Swarm, qui coordonne 100 sous-agents.
• Agent Swarm attribue à chaque sous-agent une mémoire de travail isolée pour éviter la dégradation du contexte, tandis qu’un orchestrateur gère les budgets de jetons et la répartition des tâches.
• Les capacités de calcul consacrées à l’apprentissage par renforcement augmenteront, déplaçant l’accent de la reconnaissance de schémas du système 1 vers le raisonnement du système 2 et l’entraînement des comportements des agents.
• Moonshot a expliqué la dérive identitaire du modèle, qui se présente parfois comme « Claude », par le suréchantillonnage de données de programmation contenant de fréquentes références à Claude, et non par la distillation.
• La personnalité et l’« âme » du modèle restent difficiles à mesurer et à préserver d’une version à l’autre. L’équipe envisage des états reflétant les goûts propres à chaque utilisateur.
• Kimi K3 devrait intégrer des architectures à attention linéaire et des capacités d’apprentissage continu pour permettre aux agents de gérer des tâches de longue durée.