Le marché gris chinois de la réduction du taux de contenus générés par l’IA : la nouvelle course aux armements universitaires

La montée des services de réduction du taux de contenus générés par l’IA en Chine

Alors que les universités chinoises renforcent leur vigilance en matière d’intégrité académique, une nouvelle industrie grise a vu le jour : les services de réduction du taux de contenus générés par l’intelligence artificielle (AIGC). Largement disponibles sur les grandes plateformes de commerce en ligne comme Taobao, ces services promettent d’aider les étudiants à réduire la part de texte généré par l’IA détectable dans leurs travaux universitaires. Le phénomène a pris de l’ampleur pendant la période des remises de diplômes, suscitant des inquiétudes chez les enseignants, les responsables publics et les étudiants quant à ses conséquences sur les exigences universitaires et à l’efficacité des technologies de détection de l’IA.

Au cœur de cette industrie, des vendeurs font la promotion de « modifications manuelles » et de « consultations en ligne 24 heures sur 24 », souvent sans afficher de tarifs clairs ni de qualifications dans le domaine de l’éducation. Beaucoup insistent pour poursuivre les échanges et effectuer les paiements sur des canaux privés comme WeChat, ce qui rend les transactions difficiles à tracer et complique la protection des consommateurs. La multiplication de ces services témoigne à la fois de l’adoption rapide des outils d’IA dans la rédaction universitaire et de la pression croissante exercée sur les étudiants, qui doivent réussir des contrôles de détection de l’IA toujours plus sophistiqués.

Comment fonctionnent les services de réduction du taux de contenus générés par l’IA ?

Ces services affirment réduire le taux de détection de l’IA dans les travaux universitaires en réécrivant ou en modifiant les textes pour leur donner un aspect plus humain. Certains vendeurs vantent des bases de données et des algorithmes propriétaires capables de repérer puis de remplacer le vocabulaire ou les structures de phrases couramment signalés par les détecteurs d’IA. Les prix varient considérablement : une thèse de 5 000 mots basique peut coûter seulement 32 yuans (environ 4,45 dollars), tandis que des modifications plus personnalisées, pilotées par des algorithmes, peuvent atteindre 20 000 yuans.

Malgré l’étiquette de « modification manuelle », une grande partie du travail reste effectuée par l’IA. Les vendeurs consultent généralement des bases de données universitaires, comparent les contenus et utilisent des algorithmes pour ajuster les phrases et le vocabulaire. Le processus vise à contourner les principaux systèmes de détection de l’IA utilisés par les universités chinoises, comme le système VIP Paper Check et CNKI. Cependant, la qualité de ces modifications est inégale : de nombreux étudiants signalent des phrases décousues, un langage peu professionnel et des incohérences logiques dans les textes révisés.

Pourquoi cette industrie a-t-elle vu le jour ?

La montée des services de réduction du taux de contenus générés par l’IA est étroitement liée aux efforts des universités pour encadrer l’utilisation de l’IA dans les travaux universitaires. Face aux inquiétudes concernant la fraude académique et le détournement d’outils d’IA générative comme ChatGPT, Ernie Bot de Baidu et Tongyi Qianwen d’Alibaba, de nombreuses universités chinoises ont adopté des règles obligeant les étudiants à déclarer leur recours à l’IA et fixant des seuils acceptables de contenu généré par l’IA dans les mémoires. Certains établissements exigent que le taux AIGC soit inférieur à 20 % ou 40 % pour qu’un mémoire soit accepté, tandis que d’autres s’en servent comme d’un indicateur pour éclairer la décision finale des directeurs de recherche.

Cette pression réglementaire a créé une « pseudo-demande », selon Luo Xueming, expert principal à l’Institut de recherche sur les technologies industrielles urbaines modernes du Guangdong. La mise en place de systèmes de détection de l’AIGC a non seulement favorisé l’essor des services de réduction du taux, mais aussi élargi la chaîne de cette industrie grise aux mémoires rédigés par des tiers et à la création de présentations PowerPoint. Faute de limites déontologiques universitaires clairement définies concernant le polissage par l’IA, le plagiat et l’adaptation, ces services ont prospéré dans une zone grise réglementaire.

Du côté des étudiants : pression, anxiété et solutions de contournement

Pour de nombreux étudiants, la pression liée au respect des normes de détection de l’IA est intense. Wen Suyu, étudiante en dernière année dans une université du Guangdong, a passé des heures à réviser son mémoire pour réduire son taux de détection par l’IA, sans constater d’amélioration notable. À bout de ressources, elle s’est tournée vers un service de réduction du taux, qui a bien fait baisser le résultat, mais a rendu son texte artificiel et robotique. Son expérience est partagée par des milliers d’étudiants en Chine, qui échangent conseils et inquiétudes sur des réseaux sociaux comme Xiaohongshu.

Parmi les stratégies couramment utilisées pour réduire les taux de détection de l’IA :

• Réécrire les phrases pour éviter les schémas typiques des textes générés par l’IA, comme la régularité des structures syntaxiques et l’emploi de certains mots de transition.
• Utiliser plusieurs outils d’IA pour diversifier le langage et le style, afin que le texte soit moins susceptible d’être repéré par les algorithmes de détection.
• Retoucher manuellement les brouillons générés par l’IA pour y insuffler une voix plus personnelle et des irrégularités.

Malgré ces efforts, beaucoup d’étudiants jugent le processus chronophage et les résultats imprévisibles. Les conclusions peuvent varier considérablement d’un système à l’autre : certains étudiants signalent des écarts de plus de 50 % entre les taux de détection de l’IA obtenus sur différentes plateformes pour un même texte.

Comment fonctionnent les outils de détection de l’IA et sont-ils fiables ?

Les détecteurs de contenus générés par l’IA analysent les textes à la recherche de motifs, de structures de phrases, de diversité lexicale et d’autres caractéristiques qui distinguent l’écriture humaine des contenus produits par une machine. Les systèmes les plus utilisés en Chine, comme le système VIP Paper Check et CNKI, affirment pouvoir repérer les textes produits par les principaux modèles d’IA et leur attribuer un taux AIGC présumé. La fiabilité de ces outils reste toutefois débattue.

Selon Zong Chengqing, chercheur à l’Institut d’automatisation de l’Académie chinoise des sciences, les textes générés par l’IA reposent sur des règles mathématiques calculées par de grands modèles. Les systèmes de détection s’appuient sur une analyse mathématique similaire pour déterminer si un texte correspond aux schémas statistiques des contenus produits par une machine. Si certains experts avancent des taux de précision supérieurs à 80 %, les résultats dans des conditions réelles sont moins constants.

Science and Technology Daily, publication officielle du ministère chinois des Sciences et des Technologies, a mis en garde contre une confiance excessive dans les outils de détection de l’IA, qu’elle qualifie de « superstition technologique ». Le journal a évoqué des cas où des essais classiques et des recherches originales ont été signalés à tort comme générés par l’IA, soulignant les limites de ces outils et le risque de faux positifs. Dans un exemple souvent cité, un essai chinois vieux de 100 ans a été considéré comme généré par l’IA à plus de 60 % par un détecteur populaire.

Un éditorial de Science and Technology Daily met en garde :
"Nous aspirons à éliminer les effets négatifs de l’IA au moyen de solutions claires, mais utiliser l’IA pour détecter l’IA relève encore, fondamentalement, d’une forme de superstition technologique."

Ces difficultés ont conduit certaines universités, en Chine comme à l’étranger, à reconsidérer, voire à abandonner, le recours aux outils de détection de l’IA, et à insister sur l’importance du jugement des enseignants et d’une évaluation globale des travaux universitaires.

Réponse réglementaire : la Chine veut imposer l’étiquetage des contenus générés par l’IA

Face à la multiplication des contenus générés par l’IA et des activités grises qui y sont associées, la Chine s’emploie à renforcer la réglementation. De nouvelles règles, qui entreront en vigueur en septembre 2025, imposeront un étiquetage clair de tous les contenus générés par l’IA, y compris les textes, les images, les fichiers audio et les vidéos. L’Administration chinoise du cyberespace (CAC), avec d’autres organismes publics, a rendu obligatoires des marqueurs visibles et invisibles pour les contenus générés par l’IA, sous peine de sanctions.

Les principales dispositions de la nouvelle réglementation sont les suivantes :

• Des mentions explicites visibles par les utilisateurs et des filigranes numériques invisibles intégrés aux métadonnées.
• Des contrôles de conformité obligatoires par les fournisseurs de services en ligne avant la publication des contenus.
• Des obligations de conservation des données pour les fournisseurs de services et les utilisateurs qui publient des contenus générés par l’IA.
• L’interdiction stricte de supprimer ou de modifier les mentions signalant un contenu généré par l’IA.

Cette réglementation s’inscrit dans une campagne plus large visant à lutter contre la désinformation, la fraude académique et les tromperies en ligne. Son application reste toutefois difficile, notamment pour les applications en temps réel et les contenus diffusés sur plusieurs plateformes. Les limites techniques des filigranes et des métadonnées, ainsi que la facilité avec laquelle les mentions peuvent être supprimées ou modifiées, compliquent les efforts visant à garantir la transparence et la responsabilité.

Éthique universitaire, lacunes juridiques et avenir de l’IA dans le monde académique

L’évolution rapide des technologies de l’IA a devancé l’élaboration de cadres juridiques et éthiques complets. La surveillance de l’industrie de réduction du taux AIGC est compliquée par l’intervention de plusieurs autorités, notamment celles chargées de l’éducation, de la supervision des marchés, de la sécurité sur Internet et des sciences et technologies. L’absence de directives claires sur ce qui relève d’une assistance acceptable de l’IA ou d’une faute académique laisse étudiants, enseignants et prestataires naviguer dans un environnement flou.

Des experts comme Chu Zhaohui, chercheur à l’Académie nationale chinoise des sciences de l’éducation, estiment que le renforcement de l’enseignement de l’éthique universitaire constitue une réponse pragmatique à ces difficultés. Plutôt que de s’en remettre uniquement aux outils de détection, les universités sont encouragées à développer chez les étudiants la pensée autonome, les compétences de recherche et l’intégrité.

Chu Zhaohui, chercheur en sciences de l’éducation, préconise :
"Une approche pragmatique consisterait à renforcer l’enseignement de l’éthique universitaire auprès des étudiants."

Li Juan, maîtresse de conférences à la faculté de droit de l’Université du Centre-Sud, estime que 60 % à 80 % des étudiants ont utilisé des outils d’IA dans leurs mémoires cette année, pour améliorer des phrases ou rédiger de larges portions de texte. Si elle reconnaît que la qualité linguistique s’en trouve améliorée, elle relève aussi le risque d’« hallucinations de l’IA » : des statistiques ou des décisions de justice fausses, mais convaincantes, générées par l’IA. Elle souligne finalement le rôle des directeurs de recherche, qui doivent examiner les contenus signalés et guider les étudiants dans leur révision.

Risques pour les consommateurs et revers de l’industrie grise

Malgré leur popularité, les services de réduction du taux AIGC présentent de nombreux risques pour les consommateurs. Beaucoup d’étudiants disent avoir du mal à obtenir des remboursements, recevoir des modifications de mauvaise qualité, voire ne plus parvenir à joindre les prestataires après avoir payé. Le recours délibéré à des canaux de communication privés et à des moyens de paiement non traçables vise à empêcher les consommateurs de réunir des preuves en vue d’une réclamation ou d’une action en justice.

Ces pratiques portent atteinte aux droits des consommateurs et entretiennent un cycle de défiance et d’insatisfaction. À mesure que l’industrie se développe dans la clandestinité, les appels à un contrôle renforcé et à des normes éthiques plus claires se multiplient.

En bref

• Une industrie grise de réduction du taux de contenus générés par l’IA s’est rapidement développée en Chine, portée par l’adoption, dans les universités, d’outils de détection de l’IA pour les travaux universitaires.
• Ces services associent l’IA et la retouche manuelle pour réduire la part détectable de contenus générés par l’IA, mais leur qualité et leur fiabilité sont très variables.
• Les étudiants subissent une forte pression pour respecter les normes de détection de l’IA, ce qui entraîne un recours généralisé aux outils d’IA et aux services de réduction du taux.
• Les outils de détection de l’IA eux-mêmes suscitent la controverse, en raison des faux positifs, de l’inconstance des résultats et d’une confiance excessive dans la technologie.
• La Chine instaure une nouvelle réglementation imposant l’étiquetage clair de tous les contenus générés par l’IA, mais son application et les difficultés techniques restent des défis.
• Les experts plaident pour un enseignement renforcé de l’éthique universitaire et pour une plus grande place accordée au jugement des enseignants, plutôt qu’à la seule détection automatisée.
• Les risques pour les consommateurs sont importants dans cette industrie grise : de nombreux étudiants signalent des prestations médiocres et l’absence de recours.