Les deepfakes sexuels de mineurs au Japon déclenchent des enquêtes policières et un débat juridique

Une crise grandissante dans les écoles japonaises

Dans tout le Japon, la police reçoit de plus en plus de signalements concernant des élèves qui utilisent l’intelligence artificielle pour créer des deepfakes sexuels de mineurs, souvent à partir de photos prises lors d’événements scolaires, extraites d’albums de fin d’études ou récupérées dans des groupes de discussion privés. Les victimes sont généralement des collégiens et des lycéens, mais des élèves du primaire ont également été ciblés. Dans plusieurs affaires, les auteurs sont eux-mêmes mineurs : ils ont utilisé des sites de génération d’images ou de simples applications pour smartphone afin de produire des faux explicites convaincants et de les partager au sein de groupes de pairs.

Les autorités indiquent que plus de 100 consultations et signalements portant sur de fausses images à caractère sexuel de mineurs ont été enregistrés au cours de l’année écoulée. Parmi les affaires connues, 17 concernent des images provenant d’événements scolaires ou de photos d’albums de fin d’études. Les victimes soupçonnent souvent une personne de leur entourage. La police a même documenté des actes de harcèlement visant des camarades du même sexe, dont le but était d’intimider ou d’humilier plutôt que de satisfaire un désir sexuel. Dans une affaire survenue dans la région de Tōkai, au centre du Japon, un collégien a été déféré au parquet, soupçonné de diffamation après avoir créé une fausse image nue d’une camarade et l’avoir partagée avec des amis.

Cette hausse s’inscrit dans une tendance mondiale plus large. En 2023, une société américaine spécialisée dans la cybersécurité a recensé au moins 95 820 vidéos deepfake en ligne et indiqué que 98 % d’entre elles étaient pornographiques. Des outils faciles à utiliser permettent désormais de saisir une instruction, de téléverser un visage ou de tenter de déshabiller une personne sur une photo d’une simple pression. Cette accessibilité se heurte aux dynamiques sociales propres aux établissements scolaires et au volume considérable de photos personnelles que les enfants publient ou partagent, souvent sans mesurer la façon dont elles peuvent être détournées.

Comment les adolescents créent des deepfakes à partir de photos courantes

Les outils actuels se répartissent en quelques catégories. Certaines applications tentent de « déshabiller » une personne en fabriquant un corps sous ses vêtements. D’autres remplacent le visage d’une personne sur une photo scolaire par celui d’un acteur ou d’une actrice de films pour adultes. Des sites d’IA générative peuvent également produire des images explicites à partir de simples instructions textuelles, puis être ajustés pour ressembler à une personne précise grâce à quelques photos de référence. Ces systèmes ont été conçus pour synthétiser de nouvelles images à partir de motifs appris sur d’immenses jeux de données. Ils peuvent fonctionner sur des appareils grand public, ce qui facilite les détournements et complique leur détection pour les établissements scolaires, les familles et les forces de l’ordre.

Pourquoi les poursuites sont difficiles

La principale loi japonaise relative aux images à caractère sexuel représentant des enfants, la loi sur la réglementation et la répression des actes liés à la prostitution enfantine et à la pornographie enfantine, a été rédigée pour protéger des enfants réels représentés dans des images réelles. Cela crée une zone grise pour les faux générés par l’IA. Lorsqu’une image est synthétique, même si elle utilise le visage ou l’apparence d’un enfant réel, la voie juridique est moins claire. La police s’est adaptée en s’appuyant sur d’autres lois, notamment celles relatives à la diffamation et certaines ordonnances locales, pour engager des poursuites lorsque cela est possible. Cette approche est fragmentaire et oblige les victimes et leurs familles à détecter les abus et à déposer rapidement plainte.

Que fait la police actuellement ?

L’Agence nationale de la police a commencé à examiner une dizaine de sites et d’applications de génération d’images particulièrement populaires auprès des collégiens et des lycéens. Les enquêteurs comptent s’appuyer sur leurs conclusions pour faciliter les enquêtes pénales et élaborer des programmes de sensibilisation des jeunes, notamment des cours de prévention de la délinquance expliquant pourquoi la création ou le partage de telles images peut constituer un crime et causer un préjudice grave aux camarades.

Des hauts responsables avertissent que l’ampleur des abus est bien supérieure à ce que laissent penser les affaires signalées. Après avoir examiné de récentes plaintes, un haut responsable de la police a déclaré que les incidents connus ne représentaient probablement qu’une faible part des faits, car de nombreuses victimes ne se manifestent pas.

La zone grise juridique au Japon

Des juristes japonais estiment que la législation du pays n’a pas suivi le rythme de l’IA générative. Selon les règles actuelles, si le parquet ne peut pas prouver qu’un enfant réel est représenté ou clairement identifiable, un deepfake risque d’échapper au régime national de lutte contre les contenus pédopornographiques. Cette lacune contraste avec le préjudice bien réel subi par les victimes lorsque leur visage ou leur nom est associé à des images explicites fabriquées, qui circulent dans des groupes de discussion ou sur les réseaux sociaux.

Takashi Nagase, avocat et professeur à l’université de Kanazawa, qui a conseillé les pouvoirs publics sur les politiques relatives à Internet, estime que la distinction entre images réelles et images synthétiques ne correspond plus à l’usage qui est fait de cette technologie.

La loi actuelle a été conçue pour protéger les enfants réels, mais l’IA générative a brouillé la frontière entre le réel et le faux.

Certaines collectivités locales ont commencé à agir. La préfecture de Tottori a révisé son ordonnance en 2024 afin d’interdire explicitement la création de fausses images à caractère sexuel à partir de photos d’enfants. Les associations saluent ces initiatives locales, mais estiment qu’une législation nationale est nécessaire pour éviter que l’application de la loi varie selon les territoires ou qu’elle soit mise en échec lorsque les images sont stockées sur des serveurs étrangers ou partagées anonymement. Un groupe de travail du gouvernement central a discuté de l’usage d’Internet par les jeunes et de mesures envisageables contre les abus liés à l’IA, mais les progrès sont lents.

Masaki Ueda, professeur associé de droit pénal à l’université de Kanagawa, qui étudie la réglementation de l’obscénité, estime que le cadre juridique devrait tenir compte des atteintes concrètes à la vie privée et du préjudice psychologique subi par les enfants dont l’image est détournée.

La diffusion en ligne de fausses images sophistiquées porte atteinte à la vie privée des enfants dont les photos sont détournées, même si les images sont fausses. Le préjudice psychologique est important ; les deepfakes devraient donc être traités comme la pornographie enfantine et leur encadrement juridique devrait être envisagé.

La technologie à l’origine des abus

Les deepfakes sont générés par des modèles d’apprentissage automatique entraînés à synthétiser des images réalistes. Deux grandes familles d’outils dominent. Les méthodes de remplacement de visage ajustent et fondent le visage d’une personne ciblée dans une vidéo ou une photo existante. Les systèmes de génération d’images à partir de texte, souvent appelés modèles de diffusion, créent une image entière à partir de zéro, sur la base d’une instruction écrite et, le cas échéant, d’un petit nombre de visages de référence. Certains auteurs affinent parfois un modèle en local à l’aide de quelques photos récupérées sur le profil d’un réseau social de la personne ciblée ou extraites d’un album scolaire, ce qui rend le résultat troublant de ressemblance avec l’enfant.

Ces progrès compliquent la détection et les interventions. Lorsqu’une image est entièrement synthétique, il n’existe aucune photo originale à laquelle la comparer. Il existe des filigranes et des filtres de détection de l’IA, mais ils sont peu fiables et peuvent être supprimés. En 2023, l’Internet Watch Foundation a indiqué qu’en un mois, un seul forum du dark web avait vu publier plus de 20 000 images générées par l’IA, dont des milliers enfreignaient la loi britannique. Des mises à jour ultérieures ont averti que ces contenus se répandaient de plus en plus sur le web classique, où des utilisateurs et des victimes peuvent les découvrir sur des forums ouverts et des galeries d’images. Selon l’IWF, certains contenus parmi les plus convaincants sont visuellement impossibles à distinguer de véritables images d’abus, ce qui accroît le risque de revictimisation et submerge les modérateurs et la police. L’IWF a publié des travaux sur les détournements de l’IA à des fins de création d’images d’abus sexuels sur enfants et appelé à prendre d’urgence des contre-mesures juridiques et techniques. Ses rapports sont disponibles dans les recherches de l’IWF.

Le coût humain pour les victimes et les établissements scolaires

Pour un enfant, voir son visage plaqué sur une image à caractère sexuel peut provoquer de la peur, de la honte et un sentiment de perte de contrôle. Même si ses camarades comprennent que l’image est truquée, les conséquences sur sa réputation et sa santé mentale peuvent être profondes. Les communautés scolaires doivent faire face aux préjudices indirects : les rumeurs se propagent, le harcèlement s’intensifie et les enseignants doivent réagir aux sollicitations des parents, assurer la sécurité des élèves et répondre aux demandes des forces de l’ordre.

Les filles, en particulier, disent modifier leur comportement en ligne. En Angleterre, la commissaire à l’enfance a indiqué que certaines adolescentes avaient cessé de publier des photos, de peur que des outils de déshabillage numérique ne les détournent. Dame Rachel de Souza, commissaire à l’enfance pour l’Angleterre, a exhorté les parlementaires à interdire les applications qui créent des deepfakes explicites d’enfants, évoquant la détresse croissante des adolescentes.

Les outils utilisant la technologie deepfake pour créer des images de mineurs nus ne devraient pas être légaux. J’appelle le gouvernement à prendre des mesures décisives pour les interdire. Ils n’ont pas leur place dans notre société.

Au Japon, des avocats disent voir davantage d’affaires dans lesquelles des adolescents sont visés par des enquêtes pour des infractions sexuelles liées à des deepfakes ou à des contenus explicites partagés dans des groupes de discussion. Des spécialistes avertissent que de nombreux adolescents ne comprennent ni les conséquences juridiques ni le préjudice infligé à leurs camarades avant qu’une visite de la police ou une procédure disciplinaire à l’école ne les confronte à la réalité. Ce décalage souligne la nécessité de règles claires, d’une sensibilisation à l’école et de solides garanties de la part des plateformes.

L’action internationale et les enseignements pour le Japon

D’autres pays ont pris des mesures pour combler les lacunes de leur législation. La Corée du Sud a adopté en septembre 2024 une loi qui criminalise non seulement la création de deepfakes sexuels représentant des mineurs, mais aussi leur consultation ou leur détention. Aux États-Unis, une loi fédérale promulguée en mai 2025 interdit la publication d’images ou de vidéos à caractère sexuel sans le consentement de la personne représentée et oblige les plateformes à supprimer ces contenus dans les 48 heures suivant la demande d’une victime. De nombreux États américains ont également actualisé leur législation afin que les représentations de mineurs dans des actes sexuels, modifiées ou générées par l’IA, soient considérées comme des contenus pédopornographiques illégaux, même si aucun enfant réel n’était présent lors de l’acte représenté. Ces mesures prises au niveau des États répondent à des décisions de justice américaines antérieures qui traitaient différemment les contenus entièrement virtuels et les images représentant de vrais enfants.

En Europe, les services répressifs coopèrent au-delà des frontières. Europol a coordonné l’opération Cumberland, l’une des premières opérations mondiales de répression visant les contenus pédopornographiques générés par l’IA. Avec le soutien de 19 pays, la police a identifié des centaines de suspects, procédé à des dizaines d’arrestations et perquisitionné des domiciles afin de démanteler une plateforme diffusant des images entièrement artificielles de mineurs. Les enquêteurs ont déclaré que l’IA permettait désormais à des personnes peu expérimentées de produire d’immenses quantités de contenus d’abus et ont averti que les méthodes habituelles pour identifier les victimes ou remonter aux sources échouaient souvent lorsque les images étaient synthétiques. Catherine De Bolle, directrice exécutive d’Europol, a souligné la nécessité de nouvelles méthodes d’enquête adaptées aux contenus générés par l’IA.

Les personnes animées d’intentions criminelles peuvent facilement créer des images générées par l’IA, ce qui accroît le volume des contenus d’abus et complique l’identification des auteurs ou des victimes.

Au Japon, la police a récemment procédé aux premières arrestations liées à la vente, dans des ventes aux enchères en ligne, d’affiches obscènes générées par l’IA représentant des femmes adultes fictives, signe que les lois existantes sur l’obscénité peuvent s’appliquer à certains abus liés à l’IA. Un suspect aurait gagné environ 10 millions de yens en un an. Les affaires impliquant des enfants posent des difficultés supplémentaires, d’où les appels de juristes et d’associations de protection de l’enfance à adopter des règles nationales explicites couvrant les représentations sexuelles de mineurs générées par l’IA, qu’elles soient fondées sur de vraies photos ou entièrement synthétiques.

Ce que les familles, les écoles et les plateformes peuvent faire dès maintenant

Alors que les responsables politiques débattent de réformes, des mesures concrètes peuvent réduire les risques et permettre de réagir plus rapidement en cas d’abus. Elles portent sur le consentement, l’accès aux photos, les canaux de signalement et le soutien psychologique.

• Limiter la circulation des photos d’élèves. Les établissements scolaires peuvent réserver le partage des albums de classe et des galeries d’événements aux responsables légaux vérifiés, utiliser des liens à durée limitée et apposer un filigrane sur les images qui sortent des canaux officiels.
• Enseigner tôt le consentement et l’éthique numérique. Intégrer l’IA et l’éducation aux médias dans les heures de vie de classe ou les cours de technologie, notamment en abordant franchement les deepfakes, la vie privée et les préjudices causés par ces images.
• Fixer des règles claires pour les groupes de discussion. Les clubs et les classes devraient établir un code de conduite pour les applications de messagerie, avec des conséquences précises en cas de partage de contenus explicites ou de harcèlement.
• Faciliter le signalement par les élèves. Permettre d’alerter facilement un adulte de confiance, l’établissement et la plateforme lorsqu’une image abusive apparaît. Un signalement rapide réduit la durée de sa diffusion.
• Coopérer avec les forces de l’ordre. Même si la voie juridique n’est pas évidente, communiquer les éléments aux policiers afin qu’ils puissent conseiller sur les lois relatives à la diffamation et à la vie privée, ou sur les ordonnances locales susceptibles de s’appliquer.
• Solliciter les plateformes. Utiliser les outils intégrés pour signaler les images à caractère sexuel diffusées sans consentement et en demander le retrait. Conserver les liens, les horodatages et les noms d’utilisateur.
• Soutenir la santé mentale de la victime. Proposer un accompagnement confidentiel et prévenir rapidement les responsables légaux. Ne pas obliger la victime à confronter ses camarades pour prouver qu’une image est fausse.
• Réduire les traces de données personnelles. Encourager les élèves à garder leurs comptes privés, à supprimer d’anciennes publications et à éviter de publier des portraits haute résolution associés à des informations sur leur école ou leur localisation.
• Adopter des pratiques plus sûres en matière de photos. Lors du partage de photos d’équipe ou de classe, privilégier les plans larges, limiter les gros plans de visages et restreindre les autorisations de repartage.

Pour les entreprises technologiques, les mesures de protection comprennent des filtres robustes pour les instructions et les fichiers téléversés, le blocage par défaut des fonctions de déshabillage numérique, une vérification rigoureuse de l’âge et des procédures de retrait rapides qui fonctionnent sur l’ensemble de leurs produits. La transparence sur les défaillances constatées et les correctifs apportés contribue à rétablir la confiance. Une récente polémique autour d’un chatbot grand public ayant produit des images sexualisées d’une célébrité de 16 ans montre à quelle vitesse une faille de conception peut entraîner des avertissements des autorités de régulation et une vive réaction du public.

Points clés

• La police japonaise reçoit de plus en plus de signalements concernant des mineurs qui créent et partagent des deepfakes sexuels de leurs camarades à partir de photos scolaires et d’images échangées dans des groupes de discussion.
• Au cours de l’année écoulée, plus de 100 consultations et signalements ont été enregistrés dans tout le pays, dont au moins 17 affaires liées à des événements scolaires et à des albums de fin d’études.
• Les poursuites contre les auteurs de deepfakes sont difficiles au regard de la législation nationale actuelle, qui porte sur les images de vrais enfants. La police recourt souvent à d’autres textes, notamment ceux relatifs à la diffamation.
• L’Agence nationale de la police enquête sur une dizaine de sites et d’applications de génération d’images populaires et prévoit d’utiliser ses conclusions pour les enquêtes pénales et la sensibilisation des jeunes.
• Selon les experts, le système juridique n’a pas suivi le rythme des évolutions. Des juristes réclament des règles nationales explicites qui traiteraient les images sexuelles deepfake de mineurs comme des contenus pédopornographiques illégaux.
• À l’échelle internationale, la Corée du Sud, les États-Unis, le Royaume-Uni et l’Australie ont pris des mesures pour encadrer les images sexuelles générées par l’IA, notamment en imposant leur retrait rapide et en créant de nouvelles infractions.
• L’opération Cumberland d’Europol a ciblé un réseau diffusant des contenus pédopornographiques entièrement générés par l’IA et mis en évidence les difficultés d’enquête lorsqu’aucun enfant réel n’est représenté.
• Les écoles, les familles et les plateformes peuvent limiter les préjudices en restreignant l’accès aux photos, en enseignant les enjeux de l’IA, en faisant respecter les règles des groupes de discussion, en facilitant les signalements et en proposant un accompagnement psychologique aux victimes.