L’université du Zhejiang propose une loi sur l’IA fondée sur l’adéquation des systèmes aux tâches qui leur sont confiées

Une proposition de loi en 99 articles pour déterminer ce que l’IA devrait être autorisée à faire

Des chercheurs de l’université du Zhejiang ont publié une proposition d’experts en vue d’une loi sur l’intelligence artificielle, composée de huit chapitres et de 99 articles. Son idée centrale : l’autorité accordée à un système d’IA devrait être à la mesure de sa fiabilité et des conséquences de la tâche qu’il accomplit.

La proposition de l’université du Zhejiang, version 1.0, a été présentée lors d’un événement de lancement le 24 septembre. L’annonce officielle de l’événement indiquait que la rencontre se tiendrait le 24 septembre 2026, de 14 heures à 17 h 30, sur le campus de Zijingang. Le programme associait le développement du secteur à la protection des droits et à la responsabilité, reflétant les deux enjeux auxquels la proposition entend répondre.

Pour les personnes concernées par l’IA, les questions concrètes se posent dès maintenant. Un opérateur de modèle peut-il utiliser, sans autorisation, les œuvres d’un illustrateur pour entraîner son système ? Qui est responsable lorsqu’un modèle de langage donne une réponse erronée et préjudiciable ? Comment préserver des preuves et obtenir réparation après la diffusion en ligne d’une vidéo utilisant le visage d’une personne sans son autorisation ?

Les entreprises font face à d’autres difficultés : des obligations de conformité qui se chevauchent, des procédures contraignantes avant la mise sur le marché des produits et des coûts que les petites sociétés peuvent avoir du mal à assumer. Les chercheurs affirment que leur approche vise à protéger les droits tout en tenant compte de ces contraintes.

Le document est une proposition universitaire soumise à discussion et appelée à être remaniée. Son idée la plus aboutie est une méthode d’évaluation de l’IA dans un contexte donné, qui met en relation les capacités d’un système, sa fiabilité et les enjeux pour les personnes concernées.

Comment le projet a pris forme

L’équipe de rédaction a travaillé près de six mois à l’élaboration de la proposition et mené cinq cycles de révision approfondie. Une première version de 174 articles a été ramenée à 99, soit une réduction de 75 articles, ou environ 43 %. Cela donne une idée de l’ampleur de la synthèse opérée pendant la rédaction, même si le seul nombre d’articles ne permet pas de savoir quelles contraintes chaque disposition imposerait aux utilisateurs ou aux entreprises.

Les chercheurs ont rendu visite à plus de 20 entreprises spécialisées dans l’IA à Hangzhou, ainsi qu’à de grandes entreprises du secteur internet. Leurs travaux se sont également appuyés sur les discussions du forum législatif de Zhijiang, des échanges avec les ministères et commissions concernés, ainsi que plusieurs cycles d’expertise. Ces recherches ont été menées parallèlement aux travaux sur deux projets de règlements locaux concernant le secteur de l’IA à Hangzhou et le développement de la ville en tant que pôle d’innovation.

Les organisateurs étaient l’École de droit Guanghua de l’université du Zhejiang, l’Institut de recherche sur le droit numérique et la gouvernance de l’université, l’Institut de recherche législative du Zhejiang et l’Institut de recherche législative de l’université du Zhejiang. Le programme officiel confiait la présentation et le lancement de la proposition à Li Wenlong, chercheur à l’École de droit Guanghua.

Les étapes de l’élaboration et du lancement étaient les suivantes :

• Pendant près de six mois, l’équipe a effectué des visites d’entreprises, mené des consultations et réalisé cinq cycles de révision.
• Le 24 septembre, la proposition a été présentée à l’université du Zhejiang ; l’annonce officielle indiquait que l’événement se tenait en 2026.
• À l’issue de la rencontre, l’équipe prévoyait d’intégrer les commentaires reçus et d’élaborer de nouvelles versions.

Trois questions au cœur des règles proposées

Sun Xiaoxia, directeur de l’Institut de recherche sur le droit numérique et la gouvernance de l’université du Zhejiang, décrit ce cadre à travers trois éléments liés : la capacité d’exécution, la maturité cognitive, ainsi que la nature et l’impact d’une tâche. En termes plus simples, il s’agit de déterminer ce qu’un système d’IA peut faire, dans quelle mesure il est fiable et quelle importance revêtent ses décisions.

Sun a expliqué en chinois sa vision de l’origine des risques liés à l’IA :

Nous estimons que les risques liés à l’intelligence artificielle ne découlent pas de la puissance des machines, mais d’un décalage entre leurs capacités, leur cognition et les tâches qui leur sont confiées.

Un système peut être capable d’exécuter une longue série d’opérations sans intervention humaine, tout en ayant du mal à reconnaître une situation inhabituelle. Lui confier une tâche touchant à la sécurité des personnes créerait un dangereux décalage entre sa liberté d’action et sa capacité à repérer un problème.

La proposition ne se limite donc pas à attribuer une étiquette unique à une technologie. Un régulateur examinerait la version précise d’un système, l’usage auquel il est destiné et son environnement de fonctionnement. Une même technologie sous-jacente pourrait justifier des mesures de contrôle différentes selon les tâches auxquelles elle est affectée.

Les capacités et la fiabilité seraient évaluées séparément

L’échelle de capacités proposée comprend quatre niveaux : assistance, automatisation limitée, automatisation avancée et exécution autonome. L’évaluation porterait sur le degré d’autonomie du système, la portée de ses décisions, les outils auxquels il peut accéder, sa durée de fonctionnement continu et sa capacité à modifier un environnement numérique ou physique.

L’accès aux outils est important : un système d’IA qui se contente de suggérer une action n’a pas la même portée qu’un système autorisé à l’exécuter. La permission d’utiliser d’autres logiciels ou équipements peut transformer une réponse erronée en une succession d’actions concrètes.

La maturité cognitive comporterait également quatre niveaux, qualifiés de basique, général, avancé et hautement contrôlé. L’évaluation porterait sur la précision, la cohérence, la capacité à reconnaître des données inhabituelles et à corriger des erreurs, la cybersécurité, la traçabilité et les conditions dans lesquelles une personne peut reprendre le contrôle.

La calibration de la confiance serait un autre critère. En termes simples, il s’agit de vérifier si le degré de confiance affiché par un système correspond à sa fréquence de réussite. Un système qui paraît sûr de lui alors qu’il se trompe souvent peut être particulièrement difficile à superviser pour les utilisateurs.

Le cadre examinerait également si les résultats importants peuvent être expliqués et si un système est capable de respecter des limites définies. Distinguer les capacités de la fiabilité permettrait à un régulateur de repérer un système suffisamment puissant pour agir de manière autonome, mais pas assez fiable pour une mission sensible.

Quelles tâches seraient soumises à un examen plus strict ?

La proposition répartit les tâches en trois niveaux d’impact : faible, général et élevé. L’évaluation prendrait en compte l’importance des droits concernés, la probabilité et la gravité des préjudices, le nombre de personnes touchées, la durée des effets, la possibilité d’annuler une décision et l’accès des personnes concernées à un recours.

La vulnérabilité serait également prise en considération. Une décision touchant une personne qui a peu de moyens de la contester peut nécessiter une attention plus étroite qu’une décision similaire concernant une personne qui peut facilement obtenir de l’aide.

Les tâches liées à la vie et à la santé, à la liberté individuelle, à la dignité humaine, à l’égalité des chances, à des intérêts patrimoniaux importants, à l’éducation, à l’emploi, à la sécurité sociale, à la justice, à l’application des règles administratives ou à la sécurité publique seraient présumées avoir un impact élevé. La même présomption s’appliquerait aux tâches susceptibles d’affecter fortement un grand nombre de personnes.

La proposition précise également que les applications d’IA interdites ne doivent être ni développées, ni déployées, ni utilisées, quel que soit le niveau d’impact de la tâche. Les descriptifs publiés avec la proposition ne donnent ni la liste détaillée des applications interdites ni de réponses juridiques précises aux questions de droits d’auteur, de réponses erronées et de substitution de visage évoquées au début.

Un exemple médical pour expliquer le principe d’adéquation

Sun a pris l’imagerie médicale et l’analyse pathologique comme exemples pour illustrer pourquoi la mission confiée à un système compte autant que sa puissance technique. L’IA peut traiter rapidement de grandes quantités d’images et de données médicales, alors que ses capacités de raisonnement peuvent rester limitées face à des cas difficiles ou inhabituels.

Une mission adaptée tiendrait compte de ces deux caractéristiques. Confier au système l’entière responsabilité d’un diagnostic difficile, en accordant une confiance excessive à son jugement, créerait le décalage que le cadre cherche à prévenir.

Sun a décrit cet objectif en chinois :

Exiger une adéquation ne revient pas à imposer simplement des restrictions ; il s’agit de rechercher la meilleure adéquation entre les capacités, la cognition et les tâches.

Selon lui, un système qui donne de mauvais résultats pour une tâche exigeante pourrait être réaffecté à une tâche moins complexe au lieu d’être écarté. Les choix ne se limitent donc pas à autoriser un usage sans restriction ou à l’interdire complètement. Les autorités et les opérateurs pourraient modifier la tâche, les autorisations du système ou le degré d’intervention humaine.

Pour un hôpital, cette approche attirerait l’attention sur le travail précis confié à l’IA et sur les garde-fous qui l’entourent. Pour un patient, la question centrale serait de savoir si le rôle du système est adapté à la gravité de la décision.

L’autorisation devrait évoluer au rythme de l’IA

Le processus de gouvernance proposé couvre six étapes : recherche et développement, essais, déploiement, exploitation, évolution et retrait. La classification serait réexaminée tout au long de ces étapes, car les capacités et les conditions d’utilisation d’un système peuvent changer après sa mise en service.

Une mise à jour du modèle pourrait élargir l’éventail des actions qu’un système est en mesure d’effectuer. Son déploiement dans un nouveau contexte pourrait exposer davantage de personnes ou d’intérêts plus sensibles à ses décisions. De nouvelles données peuvent également modifier le comportement d’un modèle, notamment en réduisant sa fiabilité d’une manière qui n’était pas apparue lors des tests précédents.

La proposition prévoit une réévaluation lorsque le système ou la tâche change. Le jugement serait lié à une version, une finalité et un environnement de fonctionnement précis, ce qui inciterait les opérateurs à réexaminer leurs obligations lorsque l’un de ces éléments évolue.

Sun recense huit domaines dans lesquels le principe d’adéquation pourrait guider les règles juridiques : la classification, la répartition des obligations, les évaluations, le repérage des usages à impact élevé, l’intensité de la réglementation, les mesures de maîtrise des risques, la responsabilité juridique et l’adaptation dans le temps. Relier ces décisions au sein d’un même cadre constitue la principale tentative de la proposition pour rendre la gouvernance de l’IA plus cohérente.

La protection des droits et les obligations des entreprises se jouent dans les détails

Les questions concernant les illustrateurs, les réponses erronées et les vidéos truquées montrent pourquoi la responsabilité ne se limite pas aux tests techniques. Une personne qui demande une indemnisation ou le retrait d’un contenu préjudiciable doit pouvoir suivre une voie praticable entre le préjudice subi et les parties qui en sont responsables.

La proposition inscrit la responsabilité juridique dans son cadre d’adéquation. L’aptitude d’un système à accomplir la tâche qui lui est confiée entrerait ainsi en ligne de compte dans l’examen des obligations et des responsabilités. Toutefois, le lien entre les résultats de l’évaluation et les règles existantes en matière de responsabilité civile figure parmi les questions qui, selon Sun, nécessitent encore un travail approfondi.

Les chercheurs doivent également préciser comment évaluer la maturité cognitive et quelle ampleur doit atteindre le décalage entre capacités, fiabilité et exigences de la tâche pour que l’adéquation soit jugée insuffisante. Ces choix détermineront dans quelle mesure les entreprises pourront appliquer le cadre de manière cohérente et les régulateurs vérifier leurs évaluations.

Le programme du lancement réunissait ces besoins pratiques concurrents au sein d’un même événement. La session consacrée au secteur comprenait des spécialistes du droit de Meituan et de Douyin, ainsi que des participants issus du milieu universitaire et technique. Celle consacrée aux droits et à la responsabilité réunissait un directeur de la conformité d’Alibaba, des avocats et des universitaires. Leur présence témoigne de la diversité des points de vue que les organisateurs souhaitaient faire entendre ; le programme ne permet pas de leur attribuer une position commune sur le projet.

Pour les petites entreprises, les enjeux concrets sont le nombre d’évaluations à réaliser, les preuves à fournir et l’évolution des obligations au fil du développement d’un produit. Pour les personnes concernées par l’IA, l’enjeu est de savoir si ces obligations contribuent à prévenir les préjudices et permettent d’obtenir un recours utile en cas de problème.

L’équipe de recherche prévoit de réviser la proposition en tenant compte des retours de la rencontre. L’enjeu est désormais de traduire le principe d’adéquation en tests, en seuils et en règles de responsabilité applicables aux litiges et aux décisions relatives aux produits.

Points clés

• La proposition d’experts de l’université du Zhejiang en vue d’une loi sur l’IA comprend huit chapitres et 99 articles, contre 174 dans sa première version.
• Le cadre met en relation les capacités d’exécution d’un système, sa fiabilité cognitive et la tâche qui lui est confiée.
• Les tâches sensibles liées à la santé, à la liberté, à l’emploi, à l’éducation et à d’autres domaines seraient présumées avoir un impact élevé.
• Les évaluations couvriraient l’ensemble du cycle de développement et d’utilisation et évolueraient si le système ou sa tâche change.
• Cette proposition universitaire fera l’objet de nouvelles révisions ; les méthodes d’évaluation, les seuils et les règles de responsabilité doivent encore être précisés.