Une petite mention face à un problème grandissant
Les actrices Janhvi Kapoor, Keerthy Suresh et Sunainaa ont dénoncé l’utilisation abusive de leur image dans des deepfakes générés par l’intelligence artificielle, en menaçant d’engager des poursuites judiciaires après la diffusion d’images et de vidéos inappropriées. Leurs expériences ont mis en lumière une question concrète pour les réseaux sociaux : à quel point les internautes peuvent-ils facilement savoir si la personne à l’écran a été créée numériquement ?
Sommaire
CB Arun Kumar, spécialiste des effets visuels et doyen des départements communication, cinéma et jeux vidéo de la Pearl Academy, réclame des lois imposant des mentions claires et bien visibles sur les contenus créés à l’aide de l’IA. Il estime que les avertissements actuels peuvent facilement passer inaperçus, donnant à des contenus fabriqués l’apparence de photos, d’enregistrements ou d’événements d’actualité authentiques.
La mention « AI Info » d’Instagram est au cœur de ses critiques. Il explique qu’elle apparaît en petits caractères entre le nom d’utilisateur du compte et l’image ou la vidéo publiée. Il s’inquiète de sa visibilité : une mention n’aide guère concrètement un internaute qui fait défiler son fil sans la remarquer.
Arun Kumar a expliqué pourquoi il souhaite des obligations d’étiquetage plus strictes :
Il nous faut des lois plus strictes imposant des mentions claires et bien visibles sur les contenus générés par l’IA, afin qu’ils ne puissent plus se faire passer pour des informations, comme certaines vidéos de catastrophes qui prolifèrent sur Internet. Le vrai problème survient lorsque le public ne parvient plus à distinguer le réel du faux.
Sa proposition répond à deux problèmes liés. Les acteurs et actrices subissent le préjudice personnel de voir leur identité associée à des contenus inappropriés. Le public risque de croire qu’une scène fabriquée s’est réellement produite. Une mention bien visible informerait les internautes au moment où ils découvrent l’image, avant qu’ils ne décident de la croire ou de la partager.
Que s’est-il passé pour les actrices ?
Kapoor, Suresh et Sunainaa comptent parmi les actrices qui ont exprimé leur stupeur ou protesté après la diffusion d’images ou de vidéos deepfake inappropriées utilisant leur apparence. Certaines ont menacé d’engager des poursuites judiciaires contre les responsables de ces utilisations abusives.
Un deepfake est une image, une vidéo ou un enregistrement audio créé ou modifié à l’aide de l’IA pour faire croire qu’une personne fait ou dit quelque chose qu’elle n’a pas fait ou dit. Dans le cas d’une actrice, des traits du visage reconnaissables peuvent rendre la fabrication convaincante, même si elle n’a jamais participé à sa création.
Le problème immédiat est celui du contrôle de son identité. Une actrice peut choisir les rôles qu’elle accepte, les photos qu’elle publie et les produits qu’elle promeut. Une image fabriquée peut la placer dans une scène qu’elle n’a jamais approuvée, tandis que les internautes peuvent d’abord croire que cette apparition est authentique.
Arun Kumar réclame une obligation légale plus stricte ; il n’annonce pas l’entrée en vigueur d’une nouvelle règle. Ses commentaires ne font état d’aucun projet de loi précis, d’aucune échéance pour son application ni d’aucune sanction envisagée.
Les fausses images existaient avant l’IA
Arun Kumar inscrit les préoccupations actuelles dans une histoire plus longue des images manipulées dans le divertissement. Avant les outils d’IA actuels, on pouvait recourir à des doublures, à Photoshop et à des techniques d’effets visuels comme le clonage et le morphing pour fabriquer de fausses scènes.
Le clonage consiste à copier des éléments au sein d’une image ou d’une séquence. Le morphing transforme une image en une autre, notamment en modifiant un visage ou son apparence. Ces deux techniques peuvent être utilisées à bon escient dans la production cinématographique, où le public s’attend à voir des scènes reconstituées. Le problème survient lorsque des contenus manipulés sont présentés comme un témoignage réel du comportement d’une personne.
L’IA offre un nouveau moyen de produire ce type de contenu, notamment à ceux qui cherchent à gagner rapidement de l’argent grâce à l’attention qu’il suscite et à sa diffusion. Arun Kumar estime qu’il faut juger la technologie à l’aune de ses usages et que les responsables de contenus inappropriés doivent pouvoir faire l’objet des recours juridiques déjà disponibles.
Arun Kumar affirme que la législation actuelle prévoit déjà des moyens d’obtenir le retrait de ces contenus :
Il existe déjà de nombreux recours juridiques pour faire retirer ce type de contenu inapproprié.
Le retrait et l’étiquetage interviennent à deux moments différents d’une même chaîne. Une demande de retrait vise à empêcher qu’une image reste accessible après avoir été contestée. Une mention bien visible aide le public à l’évaluer tant qu’elle est encore à l’écran. Son propos met en avant ces deux tâches : réagir aux contenus préjudiciables et rendre leur origine artificielle plus facile à reconnaître.
Pourquoi la taille d’une mention compte
La petite mention d’Instagram sur l’IA illustre l’écart entre l’existence d’un avertissement et son utilité réelle. Arun Kumar souhaite que les plateformes affichent cette information de façon assez visible pour que les internautes puissent la repérer sans avoir à chercher autour de l’image.
Une fausse vidéo de catastrophe montre pourquoi la question dépasse la culture des célébrités. Une personne qui regarde ce qui semble être les images d’une véritable urgence doit savoir si la scène a été générée. Sinon, l’image peut influencer sa perception d’un événement qui ne s’est jamais déroulé comme elle le montre.
Pour les actrices, la question est tout aussi personnelle. Leur visage rend la fausse image reconnaissable et attire l’attention. Si un internaute ne voit pas la mention, il peut associer la scène à l’actrice avant d’apprendre comment elle a été réalisée.
La demande d’Arun Kumar porte donc autant sur la présentation de l’information que sur sa présence. Une plateforme peut placer un avertissement à côté d’une publication, mais sa taille et son emplacement déterminent encore si le public le remarquera. La norme qu’il préconise est simple : l’origine artificielle doit être immédiatement visible.
Le consentement est une question à part pour les artistes
Arun Kumar distingue également le rejet de l’IA dans son ensemble de la contestation de l’utilisation sans autorisation du travail d’un artiste. Le premier est un jugement sur une technologie dans son ensemble. Le second porte sur la manière dont un contenu précis a été obtenu et utilisé.
L’entraînement est le processus par lequel un système d’IA apprend des modèles à partir d’exemples, qui peuvent inclure des images, du texte, du son ou des vidéos. Les artistes préoccupés par cet entraînement s’interrogent sur ce qui se passe lorsque leurs créations y sont intégrées sans leur consentement.
Cette question va au-delà des deepfakes visibles. Une actrice peut s’opposer à une représentation fabriquée, tandis qu’un illustrateur ou un autre créateur peut contester l’utilisation de son travail pour développer le système qui génère de nouvelles images. Les personnes concernées et les pratiques qu’elles contestent peuvent différer.
Arun Kumar estime qu’une condamnation générale de l’IA ne tient pas compte de ces distinctions. Sa position laisse place à des usages créatifs légitimes tout en prenant au sérieux les objections liées au consentement. Pour les lecteurs, les questions utiles sont concrètes : quelle identité apparaît, quel travail a été utilisé et quelle autorisation a été donnée ?
Les artistes numériques subissent une pression sur leurs revenus
Selon Arun Kumar, les graphistes qui travaillent dans les médias, les entreprises, le cinéma, la télévision, l’architecture et la mode font face à une autre conséquence de l’essor de l’IA. Ils s’inquiètent de leur capacité à gagner leur vie lorsque les entreprises peuvent générer plus rapidement certains types de contenus visuels.
Arun Kumar affirme que les travaux exigeant un effort humain minutieux perdent de leur valeur commerciale, à mesure que les résultats générés par l’IA deviennent une solution concurrente. Lorsqu’ils choisissent la manière de produire une image, les clients peuvent tenir compte de la rapidité et du coût, mais aussi des compétences et du jugement d’un artiste.
Cette pression peut aussi influer sur la perception du travail humain. Arun Kumar avertit que des images soigneusement réalisées peuvent être comparées à des contenus de faible qualité générés par l’IA. Pour les artistes, cela signifie qu’ils doivent expliquer la valeur de leur travail sur un marché où le public et les clients sont de plus en plus souvent confrontés aux deux.
Arun Kumar a décrit les pressions sur l’emploi et donné ce conseil aux artistes :
La réalité, c’est que la révolution de l’IA les prive de travail, car elle peut faire ce travail plus vite. Les vrais artistes, capables d’utiliser l’IA comme un outil supplémentaire dans leur processus de création, survivront et prospéreront.
Un processus de création est l’enchaînement des étapes nécessaires à la réalisation d’un projet, de l’idée initiale à l’image ou au film achevé. Il leur conseille d’apprendre comment intégrer l’IA à ce processus, tout en continuant d’apporter au travail leurs choix et leur savoir-faire humains.
Sa prédiction est optimiste pour les artistes qui s’adaptent, mais son analyse reconnaît aussi les difficultés immédiates des personnes dont les revenus dépendent de tâches que l’IA peut accélérer. Les acteurs et actrices qui cherchent à se protéger des images fabriquées et les artistes confrontés à une concurrence moins coûteuse subissent des effets différents d’une même mutation technologique.
L’essentiel
- Janhvi Kapoor, Keerthy Suresh et Sunainaa comptent parmi les actrices qui ont dénoncé l’utilisation abusive de leur image dans des deepfakes.
- CB Arun Kumar, doyen de la Pearl Academy et spécialiste des effets visuels, réclame des lois imposant des mentions claires et bien visibles sur les contenus générés par l’IA.
- Il estime que les avertissements discrets, comme la mention « AI Info » d’Instagram, peuvent facilement passer inaperçus.
- Il soutient les mesures contre les usages préjudiciables de l’IA et s’inquiète de l’utilisation du travail des artistes sans leur consentement.
- Il affirme que les artistes numériques subissent une pression sur leurs revenus et devraient apprendre à intégrer l’IA à leur processus créatif.
