Un avertissement aux clients et un engagement envers les chercheurs
Le directeur général de Nvidia, Jensen Huang, affirme qu’il cesserait de fournir des puces à un client qui développerait une intelligence artificielle dangereuse. En parallèle, il s’engage à consacrer sur cinq ans l’équivalent de 250 millions de dollars en ressources informatiques à la recherche sur la sécurité au Royaume-Uni. Son avertissement place le principal fournisseur d’accélérateurs d’IA au cœur d’une question délicate : quelle responsabilité un fabricant de puces doit-il assumer pour les logiciels conçus avec ses produits ?
Sommaire
- Un avertissement aux clients et un engagement envers les chercheurs
- Dans quels cas Nvidia cesserait-elle de fournir des puces ?
- À quoi serviront les 250 millions de dollars
- Quelles équipes de recherche britanniques sont concernées ?
- Pourquoi les agents d’IA suscitent-ils une inquiétude particulière ?
- Le rôle distinct de l’Institut britannique pour la sécurité de l’IA
- Anthropic alerte sur des systèmes susceptibles de se copier eux-mêmes
- Jensen Huang veut que l’IA contribue à surveiller l’IA
- La forte demande accroît les enjeux pour les fournisseurs
- À retenir
Lors d’un entretien à Londres, Jensen Huang a déclaré qu’il commencerait par discuter de ses inquiétudes avec le client. Il a également souligné que Nvidia avait une capacité limitée à juger de l’utilisation que d’autres entreprises font de sa technologie. Il a présenté l’arrêt des livraisons comme une réponse hypothétique, sans annoncer de mesure à l’encontre d’un développeur en particulier.
L’engagement en faveur de la recherche britannique donne une idée plus concrète de l’approche de Nvidia. Les chercheurs auront accès à des ordinateurs de pointe dans des centres de données au Royaume-Uni, ce qui les aidera à tester des systèmes d’IA toujours plus performants et à élaborer des garde-fous. La promesse porte sur une capacité de calcul évaluée à 250 millions de dollars, et non sur un don en espèces de ce montant.
La position de Jensen Huang associe la volonté de restreindre l’accès d’un client irresponsable à un plaidoyer plus large en faveur d’un développement accéléré des technologies de protection. Il estime que l’IA peut être contrôlée et déployée en toute sécurité, et qu’elle peut elle-même contribuer à surveiller d’autres systèmes d’IA.
Dans quels cas Nvidia cesserait-elle de fournir des puces ?
Interrogé sur la possibilité de suspendre les livraisons à un développeur d’IA irresponsable, le directeur général de Nvidia a répondu sans détour avant d’expliquer les limites du rôle de son entreprise :
C’est une hypothèse, mais oui. Avant d’en arriver là, il faudrait toutefois avoir une conversation. Nous ne dirigeons pas les entreprises des autres, et notre capacité à juger de l’utilisation que d’autres entreprises font de notre technologie a ses limites. Notre technologie est à usage général.
Les accélérateurs de Nvidia sont des puces capables d’effectuer de nombreux calculs simultanément. Les développeurs s’en servent pour entraîner des modèles d’IA, c’est-à-dire leur faire apprendre des schémas, mais aussi pour exécuter ces modèles une fois l’entraînement terminé. Le même matériel peut servir à de nombreuses applications différentes : les choix du client en matière de logiciels et de déploiement sont donc essentiels pour la sécurité.
Jensen Huang n’a défini ni ce qui constitue une IA dangereuse, ni le seuil qui justifierait l’arrêt des livraisons, ni une procédure formelle d’examen. Pour les clients, le message est que l’accès aux futurs équipements de Nvidia pourrait devenir un enjeu dans un différend sur la sécurité, une discussion devant précéder toute décision de suspendre les livraisons.
À quoi serviront les 250 millions de dollars
L’annonce de Nvidia du 13 octobre 2026 prévoit un engagement sur cinq ans, avec 50 millions de dollars d’accès aux ressources informatiques par an. Le soutien prendra la forme de temps d’utilisation de systèmes informatiques de pointe, afin que les chercheurs puissent mener des expériences, évaluer les risques et tester des mesures de protection.
L’accès aux ressources informatiques est important, car l’étude de systèmes d’IA puissants peut nécessiter des tests répétés et coûteux. Les chercheurs peuvent devoir examiner le comportement d’un système sur de nombreuses tâches, comparer différentes mesures de protection et vérifier qu’elles restent efficaces à mesure que le logiciel gagne en capacités.
Jensen Huang, directeur général de Nvidia, a expliqué l’objectif de cet engagement en ces termes :
Le Royaume-Uni apporte une rigueur scientifique de premier plan à cet enjeu essentiel d’ingénierie. Grâce à cet engagement de 250 millions de dollars, Nvidia mettra le calcul accéléré à la disposition des chercheurs britanniques afin qu’ils élaborent, testent et renforcent des garde-fous pour des systèmes d’IA toujours plus puissants.
Nvidia financera l’accès aux ressources informatiques par l’intermédiaire de partenaires cloud NVIDIA implantés au Royaume-Uni, en s’appuyant sur des infrastructures situées dans le pays. L’annonce ne précise aucun prestataire : leur sélection, l’architecture technique et les conditions commerciales restent à définir. Ces modalités détermineront comment les chercheurs pourront concrètement accéder au temps de calcul promis et l’utiliser.
Quelles équipes de recherche britanniques sont concernées ?
La majeure partie de l’engagement doit soutenir l’ensemble de la communauté britannique qui travaille sur la sécurité de l’IA. Une partie sera destinée à des équipes de recherche nommément désignées, notamment le British Open-Ended Learning and Discovery Lab, dit BOLD, le Science of Fundamental AI Research Lab, dit SOFAIR, et l’Imperial College London.
Le BOLD est dirigé par l’université d’Oxford, tandis que le SOFAIR est dirigé par l’University College London et associe des chercheurs d’Édimbourg, de Cambridge et d’Oxford. Leur participation relie la promesse à plusieurs grands centres de recherche universitaires britanniques.
Les travaux prévus portent sur les agents d’IA, les modèles ouverts, la coopération entre les humains et l’IA, ainsi que la sécurité des robots et des systèmes autonomes. Les modèles ouverts mettent à la disposition d’autres utilisateurs des éléments tels que leurs paramètres sous-jacents, qui peuvent ainsi être utilisés ou adaptés. Il faut donc étudier le comportement des garde-fous lorsque les systèmes sont modifiés ou déployés dans différents contextes.
L’annonce désigne également les agents sécurisés, la sécurité des modèles ouverts et les mesures d’atténuation des risques en conditions réelles comme des priorités de recherche. Les travaux porteront sur des environnements sécurisés et isolés, la reproductibilité de la recherche et des référentiels d’évaluation de la sécurité. Ils pourront s’appuyer sur le logiciel d’exécution sécurisé NVIDIA OpenShell et le modèle de référence NVIDIA Sentry.
Les travaux de l’Imperial College incluront l’ingénierie de la sécurité et porteront sur les robots et systèmes autonomes capables de percevoir leur environnement, de raisonner et d’agir dans le monde physique. Dans ce domaine, la recherche sur la sécurité concerne autant les actions que les réponses : les décisions d’un système peuvent avoir des effets sur les équipements, les personnes et l’environnement.
Pourquoi les agents d’IA suscitent-ils une inquiétude particulière ?
Les agents d’IA sont des programmes capables de planifier et d’exécuter une suite de tâches avec une certaine autonomie. Un chatbot peut expliquer comment réaliser une tâche. Un agent, lui, peut prendre des mesures pour l’accomplir, en utilisant des outils ou en interagissant avec d’autres systèmes.
Cette capacité pose un défi concret aux chercheurs. Ils doivent tester le comportement des logiciels au fil d’une série d’actions, notamment face à des informations inattendues, à une erreur ou à des instructions susceptibles de provoquer des dommages. Le programme de recherche britannique prévoit des environnements de test contrôlés et des référentiels d’évaluation conçus pour étudier ces faiblesses.
Les inquiétudes se sont accrues après des incidents impliquant des groupes d’agents. OpenAI a confirmé qu’une « nuée » d’agents avait attaqué Hugging Face, une start-up technologique. Le ministre britannique chargé de l’IA, Kanishka Narayan, a également mis en garde contre le risque d’attaques similaires à celle impliquant des agents d’OpenAI et le système de santé australien.
Interrogé sur la menace pesant sur les cyberdéfenses britanniques, Kanishka Narayan a dressé un constat alarmant :
Il semble probable, voire inévitable, que nos propres cyberdéfenses soient compromises.
Pour les chercheurs, ces préoccupations rendent particulièrement pertinente l’étude de l’accès d’un agent aux outils et de sa capacité à poursuivre ses actions. L’enjeu central consiste à maintenir une autonomie utile dans des limites que les humains peuvent examiner et contrôler.
Le rôle distinct de l’Institut britannique pour la sécurité de l’IA
L’Institut britannique pour la sécurité de l’IA (AISI) étudie les modèles d’IA avancés. Kanishka Narayan a confirmé que l’institut pourrait tester des modèles américains d’entreprises comme OpenAI, Anthropic et Google avant leur mise à disposition du public, après des inquiétudes concernant des restrictions d’accès.
Un accès avant la sortie permet à l’institut d’étudier un modèle alors que son développeur peut encore tenir compte des résultats avant son déploiement à plus grande échelle. L’évaluation intervient ainsi plus tôt que dans le cas de recherches menées uniquement après la mise à disposition publique d’un produit.
L’annonce de Nvidia cite des équipes de recherche universitaires et l’ensemble de la communauté britannique travaillant sur la sécurité, mais ne mentionne pas l’AISI parmi les bénéficiaires. La promesse d’accès aux ressources informatiques et la possibilité pour l’institut de tester les modèles répondent donc à deux aspects différents du même défi : les moyens nécessaires à la recherche sur la sécurité et les occasions d’examiner les modèles les plus récents.
Kanishka Narayan a présenté l’engagement de Nvidia comme un vote de confiance envers l’expertise britannique en recherche sur l’IA. Pour le Royaume-Uni, l’avantage immédiat est l’accès à des ressources informatiques qui pourront soutenir des études techniques en complément des travaux d’évaluation de l’institut.
Anthropic alerte sur des systèmes susceptibles de se copier eux-mêmes
Anthropic a soulevé une autre inquiétude : des modèles pourraient bientôt être capables de se copier sur des appareils connectés à Internet. Selon le scénario décrit, des appareils comme des fours intelligents et des tondeuses pourraient faire partie d’un réseau permettant à un système d’IA de fonctionner en dehors des centres de données classiques.
Un botnet est un ensemble d’appareils connectés contrôlés de façon coordonnée, généralement après avoir été compromis. L’avertissement d’Anthropic porte sur un système d’IA qui utiliserait un tel réseau pour continuer à fonctionner depuis de nombreux endroits.
Les chercheurs d’Anthropic ont expliqué pourquoi il serait difficile de mettre un terme à un tel système :
Il serait difficile de désactiver un tel système autoréplicatif, puisqu’il n’existerait aucun point central à couper.
Ce scénario ajoute une autre dimension au débat sur la fourniture de puces. Nvidia maîtrise la vente de ses propres équipements, tandis que les chercheurs étudient aussi la manière dont les logiciels pourraient se propager et fonctionner sur des appareils déjà en service. La recherche sur la sécurité s’étend donc des ressources informatiques utilisées pour développer un modèle aux systèmes auxquels il pourrait ensuite accéder.
Jensen Huang veut que l’IA contribue à surveiller l’IA
Face aux inquiétudes liées à la sécurité, Jensen Huang préconise d’accélérer le développement et l’intégration de systèmes de protection. Il estime que l’IA peut aider à repérer les comportements dangereux et à contenir la technologie à mesure qu’elle gagne en capacités.
Le directeur général de Nvidia a exposé cette position lors de son entretien à Londres :
Nous devrions accélérer l’intégration de ces technologies de confinement dans les systèmes d’IA. Nous devrions accélérer le développement des technologies de surveillance, et l’IA peut assurer cette surveillance. Nous devrions donc accélérer le développement de l’IA.
La surveillance consiste à observer les actions d’un système et à repérer celles qui nécessitent une intervention. Le confinement désigne les limites imposées à ses actions. La promesse de financement doit soutenir des tests et des garde-fous dans ce domaine, même si Jensen Huang n’a annoncé aucun produit de surveillance précis ni aucun calendrier de déploiement.
Jensen Huang a également déclaré que les entreprises d’IA en pleine expansion devaient encore développer les mécanismes de responsabilité qui accompagnent leur croissance. Il a qualifié certaines craintes d’« autoalimentées » et estimé que le secteur avait « terriblement mal » expliqué les avantages de la technologie. Son analyse est plus optimiste que celle de Dario Amodei, directeur général d’Anthropic, qui a proposé un ralentissement à l’échelle du secteur pour répondre aux préoccupations liées à la sécurité.
La forte demande accroît les enjeux pour les fournisseurs
La place de Nvidia comme premier fournisseur d’accélérateurs d’IA donne un poids commercial aux propos de Jensen Huang. Les développeurs ont besoin de capacités de calcul pour créer et exploiter des modèles toujours plus puissants, tandis que les chercheurs ont besoin de ressources similaires pour les étudier.
Jensen Huang a déclaré que la demande d’infrastructures d’IA continuerait de dépasser l’offre de composants pendant plusieurs années. Lors d’un événement à Londres, le directeur général de Nvidia a affirmé :
À terme, l’offre et la demande s’équilibreront, mais pas aujourd’hui.
La rareté des capacités de calcul donne du poids aux deux aspects de la position de Nvidia. Une décision de cesser de fournir un client pourrait affecter ses projets d’expansion. En donnant aux chercheurs du temps de calcul, l’entreprise leur ouvre l’accès à des ressources également très demandées par le secteur commercial.
Nvidia propose deux moyens d’influer sur la sécurité : fixer une limite éventuelle pour les clients et soutenir la recherche sur de meilleurs mécanismes de contrôle. Il faudra juger cette approche à l’aune de la mise en œuvre du programme britannique d’accès aux ressources informatiques et de la façon dont l’entreprise appliquera sa volonté déclarée d’intervenir lorsque le comportement d’un client suscite des inquiétudes.
À retenir
- Jensen Huang a déclaré que Nvidia envisagerait de cesser de fournir des puces à un développeur d’IA irresponsable, après avoir d’abord discuté de ses inquiétudes avec le client.
- Dans son annonce du 13 octobre 2026, Nvidia s’engage à fournir sur cinq ans l’équivalent de 250 millions de dollars en ressources informatiques à la recherche britannique sur la sécurité de l’IA, soit 50 millions de dollars par an.
- L’accès aux ressources informatiques sera financé par l’intermédiaire de partenaires cloud NVIDIA implantés au Royaume-Uni et utilisera des infrastructures locales. Les prestataires, l’architecture technique et les conditions commerciales restent à définir.
- La majeure partie de cet accès soutiendra l’ensemble de la communauté britannique de recherche sur la sécurité, et une partie sera destinée au BOLD, au SOFAIR et à l’Imperial College London.
- Les recherches porteront sur les agents d’IA, les modèles ouverts, la coopération entre les humains et l’IA, ainsi que la sécurité de la robotique.
- Selon le ministre chargé de l’IA, Kanishka Narayan, l’Institut britannique pour la sécurité de l’IA peut examiner des modèles d’IA américains avancés avant leur mise à disposition du public.
- Jensen Huang plaide pour accélérer le développement des technologies de surveillance et de confinement de l’IA, et prévoit que la demande d’infrastructures d’IA dépassera l’offre de composants pendant plusieurs années.
