Le déploiement gratuit de l’IA en Corée du Sud met à l’épreuve la capacité à maîtriser les risques

Un service public d’IA passe de la promesse à l’épreuve des faits

La Corée du Sud s’apprête à offrir à tous ses citoyens un accès gratuit à l’intelligence artificielle, en mettant des chatbots et des agents d’IA à la portée de personnes susceptibles de les utiliser pour leurs études, leur santé, leurs démarches administratives et leurs décisions quotidiennes. Baptisée « AI for All », l’initiative vise à diffuser largement cette technologie et à aider le pays à rivaliser avec les États-Unis et la Chine. Elle met aussi en lumière une question délicate : les garde-fous peuvent-ils suivre le rythme lorsque l’IA devient une composante ordinaire de la vie publique ?

Le gouvernement du président Lee Jae Myung prévoit de commencer par un service bêta, puis d’envisager de pérenniser l’expérimentation, financée par les contribuables, à partir de l’an prochain. Le service proposé mettrait les utilisateurs en relation avec des outils d’IA généralistes développés par trois consortiums nationaux pilotés par SK Telecom, KT et Kakao. Le gouvernement a prêté à ces groupes des centaines de processeurs graphiques Nvidia B200, des puces spécialisées utilisées pour entraîner et faire fonctionner des systèmes d’IA exigeants.

À terme, les autorités envisagent que des intermédiaires d’IA aident les citoyens à prendre des rendez-vous médicaux, à chercher un logement et à obtenir des conseils fiscaux via des services connectés à ceux de l’État. Cette perspective pourrait faciliter l’accès aux services publics, notamment pour les personnes qui peinent à remplir des formulaires complexes ou à supporter de longues attentes. Elle signifie aussi que des erreurs, des atteintes à la vie privée ou des recommandations biaisées pourraient toucher des personnes qui ont besoin de services essentiels.

Le gouvernement a affecté 250 milliards de wons au déploiement jusqu’en 2027, en plus d’un budget de 10 000 milliards de wons consacré à l’IA pour l’exercice en cours. Cette enveloppe reflète une stratégie nationale visant à développer les capacités en matière d’IA et à élargir l’accès, au-delà des seules personnes en mesure de payer des abonnements privés. L’expérimentation permettra de vérifier si l’accès gratuit peut se traduire par une infrastructure publique utile et si les citoyens peuvent faire confiance aux systèmes qui traitent leurs informations et leurs questions.

Pourquoi des dirigeants de l’IA mettent-ils en garde contre cette technologie ?

Les projets de la Corée du Sud interviennent alors que des personnalités de premier plan du secteur de l’IA alertent sur les graves risques liés à son développement rapide. Dario Amodei, directeur général d’Anthropic, a appelé le secteur à ralentir. Un ancien ingénieur d’Anthropic, qui avait également travaillé chez OpenAI, a déclaré après avoir quitté l’entreprise qu’il était « sincèrement effrayé » à l’idée qu’un développement sans contrôle puisse signifier que « nous pourrions tous mourir dans un avenir immédiat ». L’informaticien Geoffrey Hinton, prix Nobel souvent surnommé le « parrain de l’IA », a lui aussi averti que des systèmes avancés pourraient constituer un danger existentiel s’ils échappaient au contrôle humain.

Ces mises en garde portent sur des risques allant des armes autonomes aux cyberattaques menées par des machines, en passant par le chômage de masse. D’autres dangers sont déjà plus familiers : images et vidéos truquées convaincantes, décisions automatisées discriminatoires et dépendance à des systèmes qui donnent des réponses assurées mais inexactes. Un déploiement à l’échelle du public ne crée pas tous ces risques, mais il peut accroître l’exposition en rendant l’IA plus facile à utiliser à grande échelle.

Les systèmes d’IA généralistes produisent des réponses en repérant des motifs dans les données, et non en comprenant le monde au sens humain du terme. Ils peuvent être utiles pour rédiger, résumer et s’orienter dans l’information, mais ils peuvent présenter des contrevérités comme des faits. Dans les domaines administratifs ou liés à la santé, les utilisateurs doivent pouvoir vérifier facilement les réponses et joindre un interlocuteur habilité à les corriger.

Quels garde-fous Séoul met-elle en place ?

La Corée du Sud s’appuie sur sa loi-cadre sur l’IA, entrée en vigueur en janvier, pour encadrer le recours croissant à cette technologie. Le texte prévoit une supervision humaine, des évaluations d’impact et un étiquetage clair des contenus synthétiques. Ces mesures visent à faciliter l’identification des contenus générés par l’IA et à obliger les organisations à examiner les préjudices potentiels avant de déployer des systèmes.

Un institut de sécurité de l’IA financé par l’État est également chargé d’évaluer les risques et de jouer le rôle de vigie technique. Son travail sera tout aussi important que les règles formelles : il s’agira d’évaluer la fiabilité des systèmes, la protection des données sensibles et la possibilité pour les utilisateurs de contester des décisions lourdes de conséquences. Une évaluation d’impact n’est utile que si elle examine les effets dans le monde réel et entraîne des changements lorsque des problèmes apparaissent.

La connexion prévue avec les services publics rend la question de la responsabilité particulièrement importante. Si un assistant d’IA donne des conseils fiscaux erronés ou traite mal une demande de rendez-vous médical, les utilisateurs doivent savoir quelle administration est responsable et comment obtenir de l’aide. Le système ne doit pas devenir un obstacle entre les citoyens et les agents publics chargés de prendre les décisions. Le contrôle humain n’a de sens que s’il est accessible, rapide et permet de passer outre une recommandation automatisée.

Un accès gratuit ne signifie pas non plus une exploitation sans coût. Les organismes publics devront financer la puissance de calcul, la sécurité, la maintenance et l’évaluation, tout en déterminant quelle quantité d’informations personnelles le service doit conserver. L’investissement du gouvernement dans le matériel informatique et les logiciels ne constitue qu’une partie d’un service public durable : la supervision et l’assistance nécessiteront des ressources continues.

L’emploi et les abus liés aux deepfakes sont déjà au cœur du débat

Certaines préoccupations de la Corée du Sud s’appuient sur des préjudices qui se produisent déjà. La Banque de Corée a indiqué que le nombre de personnes en emploi âgées de 15 à 29 ans avait diminué de 285 000 entre juin 2022 et juin de cette année. Elle estime que 94 % de cette baisse s’est produite dans des secteurs fortement exposés à l’automatisation. Ces chiffres montrent un chevauchement préoccupant entre l’emploi des jeunes et l’évolution des technologies, mais ils ne prouvent pas que l’IA soit à elle seule à l’origine de cette baisse. La conjoncture économique et d’autres évolutions des pratiques de recrutement peuvent également influer sur l’emploi.

L’automatisation peut remplacer certaines tâches sans faire disparaître un métier entier. Cette distinction rassure peu les travailleurs dont les fonctions d’entrée de carrière sont automatisées ou dont les employeurs réduisent les recrutements. Les jeunes travailleurs pourraient être particulièrement exposés si des tâches administratives ou de service routinières constituaient traditionnellement une porte d’entrée sur le marché du travail. À mesure que l’adoption de l’IA progresse, les responsables politiques devront suivre la qualité des emplois et les tendances de recrutement, et pas seulement les chiffres globaux de l’emploi.

Pour de nombreux Sud-Coréens, la crainte la plus immédiate concerne les usages criminels, en particulier les deepfakes à caractère sexuel et abusif. L’affaire Nth Room, un scandale d’exploitation sexuelle en ligne révélé en 2020, ainsi que des affaires ultérieures ont contribué au durcissement de la législation sur les deepfakes en 2024. Pourtant, la police a recensé 1 553 infractions liées aux deepfakes l’an dernier, selon des chiffres présentés lors d’un récent forum d’Amnesty International Corée.

Won Eun-ji, directrice de l’équipe d’enquête sur les crimes sexuels numériques Team Flame, a passé une grande partie de l’année à entrer dans une cinquantaine de salons de discussion sur Telegram, aux côtés du média d’investigation Newstapa. Elle a documenté la manière dont les outils d’IA ont élargi le cercle des auteurs anonymes et abaissé l’âge des victimes. Les outils de génération d’images et de remplacement de visages peuvent faciliter la création de contenus abusifs, tandis que les espaces en ligne chiffrés ou anonymes compliquent les enquêtes et l’établissement des responsabilités.

Le droit pénal fait partie de la réponse, mais la prévention et l’accompagnement comptent aussi. Les victimes ont besoin que les images soient retirées rapidement, d’une aide concrète pour signaler les abus et d’une protection contre leur nouvelle diffusion. À mesure que les outils d’IA se généralisent, les politiques d’accès du public devront tenir compte du risque que ces systèmes servent à créer ou à diffuser des contenus préjudiciables, même si leur usage prévu est bénin.

L’école met à l’épreuve l’utilité de l’IA sous un autre angle

L’éducation est devenue un autre sujet de crispation. Des enseignants ont manifesté l’an dernier contre le projet, rapidement abandonné, du gouvernement de consacrer 1 200 milliards de wons à des manuels scolaires faisant appel à l’IA. Leurs inquiétudes ne portaient pas seulement sur le bon fonctionnement des logiciels. Ils se sont aussi demandé ce que les élèves perdent lorsqu’un système leur fournit une réponse avant qu’ils aient pu chercher à résoudre un problème.

Song Keun-sang, instituteur en CM2 dans la province du Chungcheong du Sud, qui a participé à la manifestation, a déclaré que l’IA « vous donne simplement les réponses » et « n’a pas beaucoup d’intérêt pédagogique ». Sa critique renvoie à une distinction fondamentale en éducation : accomplir une tâche n’est pas la même chose qu’apprendre à la réaliser. Un outil qui explique une notion difficile ou adapte les exercices à un élève peut être utile. Un outil qui court-circuite la lecture, le raisonnement ou l’écriture risque d’affaiblir ces compétences.

Les inquiétudes liées à la baisse des scores en lecture donnent un caractère urgent au débat, mais elles ne doivent pas être considérées comme la preuve que l’IA est à l’origine de l’évolution des résultats des élèves. Les établissements ont besoin de données sur les effets des outils concernés sur la compréhension, l’attention et le travail autonome. Les enseignants doivent aussi pouvoir choisir quand l’IA favorise l’apprentissage et quand il vaut mieux l’écarter.

Les règles applicables en classe peuvent différer de celles qui encadrent les chatbots destinés au grand public. Les élèves ont besoin de protections adaptées à leur âge, de limites claires à la collecte de données et de devoirs permettant d’évaluer leur propre compréhension. L’IA peut aider un enseignant à préparer ses cours ou proposer une autre explication à un élève, mais elle ne peut remplacer la relation pédagogique ni évaluer de façon fiable les besoins de chaque élève.

L’accès universel peut-il instaurer la confiance du public ?

« AI for All » est une initiative ambitieuse qui entend faire de l’accès à l’IA une infrastructure publique. Ce modèle pourrait réduire les inégalités d’accès, les outils avancés étant aujourd’hui surtout à la portée des personnes fortunées et des grandes entreprises. Un assistant fiable pourrait aider les citoyens à trouver des informations, à remplir des formalités courantes ou à accéder à des services difficiles à utiliser. Ces avantages dépendent de la qualité des outils et de la possibilité, pour les utilisateurs, d’obtenir une réponse humaine lorsque le système tombe en défaut.

L’accès universel change aussi la portée des choix de conception. Un défaut dans un chatbot privé touche ses utilisateurs ; un défaut dans un service public peut concerner une part bien plus importante de la population. Si un système est relié à des dossiers publics ou aux procédures d’une administration, des failles de sécurité et des résultats inexacts peuvent avoir des conséquences qui dépassent le cadre d’une seule conversation. Des limites strictes à l’utilisation des données personnelles, des tests indépendants, des informations claires sur les performances du système et des voies de recours contribueront à déterminer si le service inspire confiance.

La Corée du Sud dispose d’un secteur technologique puissant et des ressources nécessaires pour mener une expérimentation d’envergure. Son principal défi consiste à rendre le service redevable devant le public autant que performant sur le plan technique. Cela suppose d’expliquer quelles données les systèmes collectent, de désigner les responsables en cas d’erreur et de publier suffisamment d’informations pour permettre un examen extérieur. Il faut aussi mesurer si le service aide réellement les citoyens, plutôt que de considérer le nombre d’utilisateurs ou de fonctionnalités disponibles comme une preuve de réussite.

Le déploiement permettra de vérifier si l’investissement public peut élargir l’accès tout en préservant le jugement humain dans les domaines où les erreurs ont de réelles conséquences. Les lois sud-coréennes et l’institut de sécurité offrent un cadre, mais leur valeur se mesurera à leur efficacité concrète, à mesure que l’IA entre dans les salles de classe, les lieux de travail et les administrations.

À retenir

• La Corée du Sud prévoit une expérimentation gratuite de l’IA pilotée par des consortiums liés à SK Telecom, KT et Kakao.
• Le gouvernement espère faire de l’IA un service public permanent, relié à des services tels que la prise de rendez-vous et les conseils fiscaux.
• La loi-cadre sur l’IA impose une supervision humaine, des évaluations d’impact et l’étiquetage des contenus synthétiques.
• Les inquiétudes liées à l’emploi portent notamment sur la baisse du nombre de personnes en emploi âgées de 15 à 29 ans, concentrée dans les secteurs exposés à l’automatisation.
• La police a recensé 1 553 infractions liées aux deepfakes l’an dernier, alors que les inquiétudes persistent concernant les violences sexuelles facilitées par les outils d’IA.
• Des enseignants ont contesté les manuels scolaires faisant appel à l’IA, estimant que les réponses immédiates peuvent nuire à l’apprentissage.