La Corée du Sud adopte la première loi globale sur l’IA, entre innovation et sécurité

La Corée du Sud prend la tête mondiale avec sa loi-cadre sur l’IA

La Corée du Sud a officiellement promulgué ce qu’elle affirme être le premier ensemble complet de lois au monde régissant l’intelligence artificielle. Composée de six chapitres et de 43 articles, la « loi-cadre sur l’IA » est entrée en vigueur jeudi. Elle établit un cadre réglementaire couvrant un champ particulièrement vaste d’activités et d’acteurs de l’IA. La loi vise à protéger les citoyens tout en posant ce que les autorités décrivent comme un « socle de confiance » dans une société où l’IA occupe une place croissante.

Cette décision majeure place la Corée du Sud en avance sur les autres grandes économies dans la mise en place d’une approche unifiée de la gouvernance de l’IA. L’Union européenne a commencé à appliquer certaines règles liées à l’IA l’an dernier, mais l’essentiel de son règlement sur l’IA fera l’objet d’une mise en œuvre progressive à partir du mois d’août. Les États-Unis ne disposent toujours pas de loi fédérale sur l’IA, même si la Maison-Blanche a publié le mois dernier un décret contestant les lois jugées « contraignantes » adoptées par certains États et considérées comme un frein à l’innovation dans ce domaine. La Chine a choisi une autre approche, en ajoutant à sa loi existante sur la cybersécurité certaines dispositions en matière d’éthique et de surveillance des risques.

La loi-cadre sud-coréenne sur l’IA marque une avancée importante dans les efforts mondiaux visant à réglementer les technologies d’intelligence artificielle. Elle poursuit deux objectifs complémentaires : favoriser le développement de l’industrie sud-coréenne de l’IA tout en mettant en place les garanties nécessaires pour protéger les citoyens des risques potentiels liés au déploiement de ces technologies.

Nous partons du socle le plus élémentaire du consensus mondial. L’objectif n’est pas de freiner le développement de l’IA par la réglementation, mais de faire en sorte que chacun puisse l’utiliser en toute confiance.

Ces propos de Kim Kyeong-man, vice-ministre chargé de la politique de l’IA au ministère des TIC, soulignent la volonté de la Corée du Sud de créer un cadre équilibré, qui ne fasse pas obstacle au progrès technologique tout en répondant aux préoccupations du public en matière de sécurité et de fiabilité.

Définition des systèmes d’IA à fort impact

La nouvelle loi sud-coréenne met notamment l’accent sur l’« IA à fort impact », c’est-à-dire les systèmes susceptibles d’avoir des effets importants sur la vie humaine, la sécurité ou les droits fondamentaux. Le texte recense précisément 11 domaines essentiels où les systèmes d’IA doivent faire l’objet d’un contrôle renforcé et de davantage de transparence :

• Systèmes d’approvisionnement en énergie
• Procédés de production d’eau potable
• Systèmes de services de santé
• Conception et utilisation de dispositifs médicaux
• Gestion des matières et des installations nucléaires
• Analyse de données biométriques dans le cadre d’enquêtes criminelles
• Évaluation des candidatures à un emploi ou à un prêt
• Systèmes et gestion des transports
• Décisions publiques ayant une incidence sur les services publics
• Évaluation des élèves dans le système éducatif
• Autres domaines ayant une incidence importante sur la vie, la sécurité et les droits des personnes

Pour ces applications à fort impact, les entreprises doivent mettre en place plusieurs garanties essentielles. Elles doivent pouvoir expliquer, sur demande, la logique décisionnelle de leur système d’IA, veiller à ce qu’une intervention humaine soit possible lorsque nécessaire et informer clairement les utilisateurs qu’ils interagissent avec des services reposant sur l’IA. Cette obligation concerne notamment les systèmes utilisés pour sélectionner des candidats à un prêt ou à un emploi.

La loi établit une distinction importante entre l’« IA à fort impact » et ce que la Corée du Sud appelle l’« IA à haute performance ». Alors que l’Union européenne privilégie principalement une approche fondée sur les risques propres à chaque usage, la Corée du Sud a choisi une autre voie : des seuils techniques permettent de déterminer quels systèmes doivent être réglementés. Parmi les indicateurs retenus figure le volume cumulé de calcul consacré à l’entraînement. En conséquence, seul un nombre très limité de modèles avancés serait soumis aux exigences de sécurité les plus strictes.

À l’heure actuelle, le gouvernement sud-coréen indique qu’aucun modèle d’IA existant, national ou étranger, ne répond aux critères de réglementation prévus par cette disposition sur l’IA à haute performance. De même, les autorités affirment qu’aucun service national ne relève pour l’instant de la catégorie des systèmes à « fort impact », même si les véhicules entièrement autonomes de niveau 4 ou supérieur pourraient y entrer à l’avenir.

Exigences de transparence et étiquetage de l’IA

L’un des aspects les plus visibles de la réglementation sud-coréenne porte sur la transparence des contenus générés par l’IA. La nouvelle loi impose aux entreprises d’apposer une mention claire ou audible, par exemple un filigrane, sur les contenus produits par l’IA qui pourraient être pris pour des scènes réelles. Cette obligation vise notamment les hypertrucages et autres contenus générés par l’IA susceptibles d’induire en erreur ou de tromper le public.

Les modalités d’étiquetage varient selon le type de contenu. Lorsque distinguer le réel du contenu généré par l’IA est essentiel pour la sécurité ou l’authenticité, une mention visible est obligatoire. En revanche, pour les créations réalisées à l’aide de l’IA, comme les jeux, les animations ou les webtoons, la loi autorise des méthodes de signalement moins visibles, notamment l’ajout d’une mention dans les métadonnées, qui peut ne pas apparaître immédiatement aux utilisateurs.

Cette approche nuancée soulève des questions dans des secteurs comme celui du webtoon, où les plateformes et les créateurs ne savent pas précisément ce que recouvre la notion de contenu « généré par l’IA ». Ils s’interrogent notamment sur le fait qu’un recours partiel à l’IA, pour créer des arrière-plans, coloriser ou retoucher une œuvre, puisse déclencher une obligation de signalement. La loi ne réglemente pas les particuliers qui se contentent d’utiliser des outils d’IA, mais s’applique aux plateformes et aux entreprises qui proposent des outils de création reposant sur l’IA ou diffusent des œuvres générées par celle-ci.

Apposer des filigranes sur les contenus générés par l’IA constitue une garantie minimale pour prévenir les effets néfastes de l’utilisation abusive de cette technologie, comme les hypertrucages.

Cette déclaration d’un responsable ministériel souligne l’importance accordée par le gouvernement à l’étiquetage, considéré comme une protection fondamentale contre les usages abusifs de l’IA. Les exigences de transparence ne se limitent pas à l’étiquetage des contenus : les entreprises doivent également informer les utilisateurs lorsqu’ils interagissent avec des services reposant sur l’IA. Elles doivent les prévenir à l’avance lorsqu’elles proposent des produits ou services faisant appel à l’IA à fort impact ou à l’IA générative, généralement au moyen de fenêtres d’alerte ou d’avertissements bien visibles.

Gouvernance et soutien à l’industrie

La loi-cadre sur l’IA instaure une structure complète de gouvernance de la politique de l’IA en Corée du Sud. Le ministère des Sciences et des TIC est la principale autorité chargée de la mise en œuvre de cette politique, tandis que le Comité national de l’IA, placé sous l’autorité du président, examine et définit les grandes orientations en la matière. Le texte crée également un Centre de politique de l’IA et un Institut pour la sécurité de l’IA, chargés de soutenir la mise en œuvre des politiques et de répondre aux enjeux de sécurité.

Au-delà des mesures réglementaires, la loi comporte de nombreuses dispositions destinées à soutenir le développement de l’IA en Corée du Sud. Elles prévoient notamment un appui à la recherche et au développement, la normalisation des technologies d’IA, la création de données d’entraînement et des initiatives pour aider les entreprises à adopter et à utiliser ces technologies. Une attention particulière est accordée aux petites et moyennes entreprises, aux jeunes pousses et à la formation des talents dans le secteur de l’IA.

La loi fournit également le fondement juridique nécessaire à l’élaboration d’un « plan-cadre pour l’IA », qui servira de feuille de route pour le développement des technologies d’IA en Corée du Sud. Cette approche globale reconnaît qu’une réglementation efficace de l’IA suppose non seulement des restrictions, mais aussi un soutien actif à l’innovation et à la compétitivité sur la scène internationale.

Afin d’alléger la charge initiale pour les entreprises, le gouvernement sud-coréen a instauré une période de grâce d’au moins un an. Pendant cette période, les autorités ne mèneront pas d’enquêtes visant à établir les faits et n’imposeront pas de sanctions administratives. Elles privilégieront les consultations et les actions de formation. Un service d’assistance dédié à la loi sur l’IA a été créé pour aider les entreprises à déterminer si leurs systèmes entrent dans le champ d’application du texte et à définir les mesures à prendre.

Le service d’assistance à la loi-cadre sur l’IA, dont l’équipe comprend des experts d’organismes comme l’Institut pour la sécurité de l’IA et l’Agence nationale de la société de l’information, propose des consultations confidentielles et des conseils aux personnes qui développent des outils d’intelligence artificielle, les commercialisent ou les utilisent, tout en se conformant à la nouvelle réglementation.

Obligations de conformité et sanctions

Les entreprises exerçant leurs activités en Corée du Sud ou proposant des services aux utilisateurs sud-coréens sont soumises à des obligations précises en vertu de la nouvelle loi. Les entreprises étrangères du secteur de l’IA qui répondent à certains critères — chiffre d’affaires annuel mondial d’au moins 1 000 milliards de wons (681 millions de dollars), ventes nationales d’au moins 10 milliards de wons ou au moins un million d’utilisateurs quotidiens dans le pays — doivent désigner un représentant local chargé des relations avec les autorités. De grandes entreprises comme OpenAI et Google sont actuellement concernées.

Les acteurs de l’IA sont répartis en deux catégories : les opérateurs qui développent et fournissent des systèmes d’IA, et ceux qui proposent des produits ou services utilisant des systèmes fournis par des développeurs. Les deux catégories sont soumises à des obligations de transparence, mais la réglementation porte principalement sur les systèmes d’IA à fort impact et l’IA générative.

Le dispositif d’application de la loi sud-coréenne se veut délibérément plus souple que ceux d’autres juridictions. Il ne prévoit pas de sanctions pénales. Il privilégie les injonctions de mise en conformité et ne prévoit des amendes, plafonnées à 30 millions de wons (26 200 dollars), qu’en cas de non-respect de ces injonctions. Les autorités présentent ainsi le dispositif comme un moyen d’encourager la conformité plutôt que de punir.

À titre de comparaison, le cadre réglementaire européen prévoit des sanctions bien plus lourdes, dont le montant varie selon la nature de l’infraction et peut atteindre 7 % du chiffre d’affaires annuel mondial. Cet écart important reflète la volonté affichée par la Corée du Sud de maintenir une réglementation minimale tout en établissant un socle de sécurité.

La loi sud-coréenne prévoit des amendes pour trois infractions précises : ne pas informer les autorités des activités reposant sur l’IA lors de la fourniture de produits ou services utilisant une IA à fort impact ou une IA générative ; ne pas désigner de représentant national lorsque cela est obligatoire ; et ne pas se conformer aux injonctions de suspension ou de mise en conformité émises par le ministre des Sciences et des TIC.

Réactions du secteur et inquiétudes des jeunes pousses

Alors que le gouvernement présente la loi-cadre sur l’IA comme une approche équilibrée, favorable à l’innovation et garante de la sécurité, tous les acteurs du secteur technologique ne partagent pas cet avis. Les jeunes pousses sud-coréennes s’inquiètent de la charge que pourrait entraîner la mise en conformité avec les nouvelles règles, d’autant qu’elles entreront en vigueur plus tôt que des dispositifs similaires dans d’autres pays.

Selon une enquête de la Startup Alliance, seules 2 % des jeunes pousses spécialisées dans l’IA estiment avoir mis en place un plan de conformité formel, tandis qu’environ la moitié reconnaissent ne pas bien comprendre les exigences de la nouvelle loi. Ce manque de clarté suscite l’inquiétude des fondateurs, qui craignent que des formulations vagues dans le texte ne les contraignent à adopter une approche excessivement prudente du développement afin d’éviter tout risque réglementaire.

Il y a une certaine frustration : pourquoi faut-il que nous soyons les premiers à le faire ?

Cette remarque de Lim Jung-wook, coprésident de la Startup Alliance sud-coréenne, traduit la frustration de certains entrepreneurs, qui se voient soumis à une réglementation complète de l’IA avant leurs concurrents étrangers. Nombre de fondateurs se demandent si le fait d’être les premiers à réglementer l’IA donnera un avantage à la Corée du Sud ou désavantagera ses entreprises sur les marchés internationaux.

Le président Lee Jae Myung a reconnu ces inquiétudes et appelé les responsables politiques à écouter les acteurs du secteur et à veiller à ce que les entreprises innovantes et les jeunes pousses bénéficient d’un soutien suffisant. Lors d’une récente réunion avec ses conseillers, Lee a souligné l’importance de développer au maximum le potentiel du secteur grâce à un soutien institutionnel, tout en anticipant les effets secondaires susceptibles de survenir.

Le ministère des Sciences et des TIC a répondu à ces préoccupations en annonçant la création d’une plateforme d’information et d’un centre d’assistance dédié aux entreprises pendant la période de grâce. Un porte-parole a indiqué que le gouvernement continuait d’étudier des mesures visant à alléger la charge des entreprises et envisageait de prolonger cette période si la situation du secteur, en Corée du Sud et à l’étranger, le justifiait.

Comparaison avec les approches internationales

La loi-cadre sud-coréenne sur l’IA reflète une philosophie réglementaire distincte de celles des autres grandes économies. Le texte s’inspire à la fois du modèle américain, qui privilégie l’autonomie du secteur privé, et du modèle européen, axé sur la sécurité et la fiabilité. La Corée du Sud a finalement choisi une voie qui cherche à concilier une réglementation limitée et la promotion de l’IA, dans le but de devenir un pays de premier plan en matière de compétitivité mondiale dans ce domaine.

Comme le règlement européen sur l’IA, le cadre sud-coréen définit les systèmes d’IA et établit différentes obligations liées aux systèmes à fort impact, notamment des évaluations de l’impact sur les droits fondamentaux (FRIA). Le niveau précis de réglementation pourrait toutefois évoluer en fonction de futurs textes d’application, dont la publication est attendue au premier semestre 2025.

La structure des obligations constitue une différence majeure entre les approches sud-coréenne et européenne. Le règlement européen sur l’IA définit des obligations distinctes selon le rôle des acteurs dans la chaîne de valeur de l’IA, tandis que la loi-cadre sud-coréenne sur l’IA établit des obligations générales sans distinguer les différentes catégories d’acteurs. Cette approche plus simple pourrait réduire la complexité, mais aussi compliquer la mise en place d’un contrôle adapté à la diversité de l’écosystème de l’IA.

La définition de l’IA à fort impact diffère également de la méthode européenne. L’Union européenne se concentre sur les risques propres à chaque usage et vise les systèmes d’IA utilisés notamment dans la santé, le recrutement et le maintien de l’ordre. La Corée du Sud, elle, applique des seuils techniques pour déterminer quels systèmes doivent être réglementés. Parmi les indicateurs figurent le volume cumulé de calcul consacré à l’entraînement, ce qui pourrait conduire, compte tenu des capacités technologiques actuelles, à réglementer un nombre bien plus limité de systèmes.

La différence de philosophie réglementaire se reflète aussi dans les sanctions. L’Union européenne a instauré des sanctions importantes, avec des amendes pouvant atteindre 7 % du chiffre d’affaires annuel mondial. Le cadre sud-coréen prévoit, lui, des amendes administratives plafonnées à 30 millions de wons (environ 26 200 dollars). Cet écart considérable traduit la préférence de la Corée du Sud pour la mise en conformité et la correction plutôt que pour la punition.

Conséquences mondiales et perspectives

L’adoption par la Corée du Sud d’une législation complète sur l’IA a des conséquences importantes pour le paysage mondial de l’IA. Deuxième juridiction après l’Union européenne à adopter un cadre réglementaire complet dans ce domaine, le pays offre aux autres nations un nouvel exemple de législation dont elles pourront s’inspirer pour élaborer leur propre approche de la gouvernance de l’IA.

L’adoption de la loi malgré les turbulences politiques liées à la déclaration de la loi martiale par le président Yoon Suk Yeol, puis à sa destitution, témoigne d’un consensus transpartisan sur l’importance de réglementer l’IA. Le texte a été adopté en séance plénière de l’Assemblée nationale le 26 décembre 2024, avec un large soutien des deux camps, signe d’un accord politique étendu sur la nécessité de répondre aux défis posés par l’IA.

Les responsables sud-coréens reconnaissent que la législation actuelle constitue un point de départ, et non un texte définitif. La mise en œuvre détaillée de nombreuses dispositions dépendra de textes d’application et de directives sectorielles, qui seront finalisés pendant l’année de préparation précédant l’entrée en vigueur complète de la loi, en janvier 2026.

Le rôle de coordination du Comité national de l’IA sera déterminant pour harmoniser l’expertise des ministères concernés, en tenant compte des caractéristiques des différentes activités ou des secteurs visés par la réglementation. À mesure que l’IA se diffuse dans tous les domaines — des données personnelles et du droit d’auteur à la santé et à la défense —, une gouvernance efficace nécessitera une coordination étroite entre les différents organismes publics.

À mesure que s’intensifient les discussions sur les normes et la gouvernance mondiales de l’IA, la nécessité de renforcer l’interopérabilité et la coopération internationales en matière de réglementation, afin de garantir la fiabilité de l’IA, se fait plus pressante. L’approche sud-coréenne pourrait peser sur ces débats internationaux, notamment sur la manière de concilier innovation et préoccupations de sécurité dans la gouvernance de l’IA.

L’essentiel

• La Corée du Sud a promulgué la première loi globale sur l’IA au monde, la loi-cadre sur l’IA, qui couvre le développement, le déploiement et l’utilisation de l’intelligence artificielle.
• La loi définit l’« IA à fort impact » dans 11 secteurs essentiels, dont la santé, la finance, les transports et les services publics. Ces systèmes sont soumis à un contrôle renforcé et doivent permettre une intervention humaine.
• Les contenus générés par l’IA doivent être étiquetés. Les contenus susceptibles d’être pris pour la réalité doivent porter un filigrane visible, tandis que les créations comme les webtoons et les animations peuvent être signalées de manière moins visible.
• Les entreprises étrangères du secteur de l’IA qui dépassent certains seuils de chiffre d’affaires ou d’utilisateurs doivent désigner un représentant local en Corée du Sud.
• Les amendes pour non-respect de la loi sont plafonnées à 30 millions de wons (26 200 dollars), un montant nettement inférieur aux amendes européennes, qui peuvent atteindre 7 % du chiffre d’affaires annuel mondial.
• La loi prévoit une période de grâce d’un an, consacrée à l’accompagnement plutôt qu’aux sanctions, ainsi qu’un service d’assistance dédié aux entreprises qui cherchent à se mettre en conformité.
• Les jeunes pousses s’inquiètent de la charge liée à la mise en conformité et des formulations vagues du texte. Seules 2 % d’entre elles déclarent avoir mis en place un plan de conformité formel.
• La loi vise à faire de la Corée du Sud l’une des trois premières puissances mondiales de l’IA tout en instaurant un socle de confiance dans cette technologie.
• Pour réglementer les systèmes avancés, la Corée du Sud se distingue de l’Union européenne en privilégiant des seuils techniques plutôt que les risques propres à chaque usage.
• La mise en œuvre complète débutera en janvier 2026, après une année de préparation consacrée aux textes d’application et aux directives détaillées.