Le débat sur l’IA s’enflamme: ce qu’il faut retenir des derniers développements

Par Kamel Ayadi. Expert International en Gouvernance et ancien Ministre - Jamais le débat sur l’Intelligence Artificielle n’a été aussi intense, contradictoire, parfois provocant qu’il ne l’a été durant les deux dernières semaines. Un débat sur fond de déclarations tonitruantes, émanant de leaders politiques, scientifiques et de l’industrie de l’IA. Pour la première fois, depuis le fameux manifeste historique de 2023, ayant pointé du doigt les risques existentiels que présente l’IA, un courant de pensée minimisant ces risques émerge, soutenu par des scientifiques, des leaders des géants industriels de l’IA, en plus de leaders politiques. Le débat a été ponctué par des événements importants, tels que le sommet sino-américain et la réunion du Conseil de sécurité des Nations Unies sur la sécurité de l’IA, à cela s’ajoute une couverture médiatique sans précédent, avec la montée d’un mouvement citoyen organisé et anti-IT.

Que doit-on retenir de ce débat planétaire? Quels en sont les dessous et les attentes possibles? Comment nos pays doivent-ils s’y positionner et comment s’expriment, pour nous autres, les défis en rapport avec l’IA? Ce papier fait la synthèse du débat actuel et je proposerai des pistes de réflexion pour les pays en développement, dont la Tunisie dans un prochain article.

L’élément qui a déclenché ce débat — en l’occurrence, l’alerte lancée le 9 septembre par un jeune chercheur au sein de l’entreprise Anthropic — serait probablement passé inaperçu dans d’autres pays. Et pour cause! Jacob Coxon, puisque c’est de lui qu’il s’agit, n’a pas apporté d’éléments fondamentalement nouveaux par rapport à ce que l’on savait et à ce que l’on disait déjà sur les risques existentiels liés à l’IA.

Deux mois auparavant, le rapport préliminaire du Groupe scientifique international indépendant sur l’intelligence artificielle, établi sous l’égide des Nations unies, avait été présenté lors du sommet onusien «IA pour le bien» (AI for Good Summit), tenu à Genève au mois de Juillet 2026. Le rapport revenait sur les principaux faits saillants concernant les risques observés et documentés liés aux écarts de comportement des agents d’IA.

Le panel, qui regroupe une pléiade d’experts issus d’horizons divers, dont des prix Nobel, est dirigé par Yoshua Bengio, chercheur canadien en intelligence artificielle, professeur à l’Université de Montréal, lauréat du prix Turing 2018 et considéré comme l’un des pères fondateurs de l’IA.

Le rapport, d’une soixantaine de pages et publié en plusieurs langues, met en exergue des comportements suspects d’agents d’IA, notamment leur capacité à pratiquer activement la tromperie lorsqu’ils sont soumis à des contrôles et à des tests. Les systèmes d’IA peuvent également manifester une certaine conscience du fait qu’ils sont évalués. Le rapport pointe également que lorsque plusieurs systèmes d’IA interagissent, il existe un risque qu’ils se concertent pour induire les humains en erreur ou contourner leur supervision (voir mon article sur ce rapport).

Le rapport n’a suscité ni émoi ni grand intérêt de la part des médias, et encore moins de la part de l’opinion publique, à l’exception de ceux qui s’intéressent de près à cette thématique.

Comment se fait-il alors qu’une alerte donnée par un jeune chercheur ait pu avoir un impact aussi grandiose et provoquer une vague tumultueuse de déclarations, allant jusqu’à susciter des échanges d’accusations et un début qui augure d’une sorte de rupture dans l’appréciation des risques que l’IA présente par les scientifiques et les grands constructeurs de l’IA?

Montée en puissance de l’appel à la régulation de l’IA

Deux faits ont, à mon avis, contribué à donner une dimension incommensurable à cette alerte.

• Le premier tient à la culture américaine et, plus largement, anglo-saxonne, qui valorise la pratique du lancement d’alerte (whistleblowing), contrairement à d’autres cultures, et le considère comme un acte de bravoure, voire d’héroïsme, auquel on accorde spontanément du crédit. Le lancement d’alerte a été à l’origine de la découverte d’irrégularités, d’abus et de malversations ayant contribué à révéler des scandales historiques tels que le Watergate (1972-1974) ou les «Pentagon Papers» (1971), et la crise financière de 2008. Et la liste est longue.

• Le second élément qui a contribué à donner du crédit à cette alerte tient à la réplique immédiate de Dario Amodei, cofondateur et CEO d’Anthropic - l’entreprise américaine à l’origine de Claude, concurrent de ChatGPT- dans laquelle travaille le lanceur d’alerte. Amodei est allé encore plus loin dans la caractérisation de la menace que représente l’IA. Un point de vue que je nuancerais et qui demeure, à mon sens, imprégné d’un biais typiquement américain que j’expliquerai plus tard.

Dans la même journée, ou presque, Sam Altman, le patron d’OpenAI, l’entreprise qui développe ChatGPT, ainsi qu’Elon Musk se sont à leur tour exprimés sur les risques liés à l’IA. L’avalanche des déclarations s’est poursuivie avec l’intervention du Premier ministre australien à propos d’un incident impliquant un agent d’IA d’OpenAI qui s’était introduit sans autorisation dans un portail gouvernemental de statistiques médicales en Australie.

L’incident, présenté comme un piratage alors qu’il ne s’agissait pas, au sens strict, d’une attaque informatique classique, a une nouvelle fois alimenté le débat. Sam Altman a reconnu l’incident et a présenté des excuses, tout en cherchant à en relativiser la portée. Il ne s’agissait pas, selon lui, d’un problème relevant d’un dépassement de la «frontière» des capacités de l’IA — ce que l’on désigne généralement par frontier AI, c’est-à-dire les modèles d’IA les plus avancés — mais plutôt d’un problème d’alignement (alignment). Autrement dit, il s’agirait moins d’une manifestation de capacités nouvelles ou incontrôlables que d’un comportement du système qui ne correspondait pas aux objectifs, aux consignes ou aux contraintes qui lui avaient été fixés. D’ailleurs deux semaines après, soit le 28 Septembre nous apprenons par le Wall Street Journal qu’Open AI a relancé au lancement de son nouveau modèle dIA (Chat GPT version 6.1, ‘’jugé trop prompt à s’écarter des consignes’’.

Les déclarations de chercheurs en IA se sont poursuivies, certaines allant même beaucoup plus loin, jusqu’à évoquer un risque d’extinction de l’humanité et à lui attribuer une probabilité pouvant atteindre 10 %, avec une échéance à l’horizon 2030. Les auteurs de ces mises en garde proposent des mesures urgentes pour écarter les risques existentiels, parmi lesquelles : une régulation stricte de l’IA et un contrôle rigoureux et indépendant des modèles d’IA développés dans les entreprises et les laboratoires, le ralentissement du développement des modèles d’IA toujours plus intelligents et capables, ainsi que, pour certains d’entre eux, la limitation, voire l’interdiction, du développement de systèmes d’IA dont les capacités pourraient dépasser celles des humains et échapper au contrôle humain.

La réplique attendue et non attendue

La réplique à cette montée en puissance de l’appel à la régulation de l’IA — scandé par les géants américains du secteur, fortement appuyé par les médias anglo-saxons, et bien relayé par une opinion publique marquée par l’éclosion d’une société civile militante et engagée en faveur de la prise en charge des risques de l’IA — ne s’est pas fait attendre. Le premier à avoir ouvert le bal de manière à la fois déterminée, décomplexée et avec une certaine légèreté ne fut autre que Donald Trump en personne, qui a opposé un niet pur et simple à la demande de régulation, arguant du fait que cela allait désavantager les États-Unis dans leur course technologique et permettre à la Chine de combler l’écart. Pour lui le risque existentiel est de perdre la course contre la Chine.

Le lendemain, c’est au tour de la Chine d’exprimer sa position sur ce sujet par l’intermédiaire d’un porte-parole officiel, qui s’est aligné sur la position américaine sur un ton déterminé mais diplomatique. Il faut analyser la réplique chinoise à l’aune du déterminant géopolitique: le gouvernement chinois a vraisemblablement cherché à passer le message que la Chine n’a pas peur de la concurrence et qu’elle n’attend pas que les États-Unis baissent le rythme de leurs avancées, tout en dénonçant les discours alarmistes sur les risques de l’IA en les qualifiant d'irresponsables.

Mais, à vrai dire, autant l’écosystème de l’IA open source chinois est visible, autant sa politique globale en la matière reste une boîte noire. Il est rare, pour ne pas dire exceptionnel, d’entendre des figures de proue de ses géants technologiques s’exprimer sur ces sujets de manière claire et directe à la manière de leurs homologues américains. Les rares déclarations nuancées de chercheurs ou d'industriels chinois sont généralement le fruit d'interviews menées par des médias étrangers comme la BBC. Ce qu’on peut en déduire, c’est que les autorités chinoises estiment que la question de la régulation réglementaire y est superflue dans un contexte où l’État maîtrise toute la chaîne de valeur (l’IA full-stack), de l’infrastructure (serveurs, GPU, cloud, stockage) jusqu’aux produits finaux, en passant par la sécurité, la gouvernance (contrôle des accès, confidentialité) et la gestion des données.

Ce à quoi on s’attendait le moins…

Si les précédentes réactions, essentiellement gouvernementales, étaient largement attendues, d'autres l'ont été beaucoup moins, augurant d'un changement dans la perception globale du risque lié à l’IA. C’est le cas de Jensen Huang, CEO et cofondateur du géant NVIDIA, ce fleuron américain qui joue un rôle crucial en fournissant les puces de calcul et les GPU (unités de traitement graphique). Ces composants sont déterminants pour la puissance de calcul, domaine où les États-Unis possèdent une avance significative que la Chine reconnait également. D’ailleurs Trump impose un embargo strict sur la vente de ces composants à la Chine pour maintenir l’avance américaine. Huang est ainsi allé jusqu’à qualifier les déclarations sur le risque d’extinction de l’humanité si le progrès de l’IA n’est pas freiné de discours alarmistes et irresponsables qui sèment la panique.

Une autre réaction inattendue, du côté du monde scientifique, fut celle de l’informaticien franco-américain, spécialiste de l’IA et figure historique du Deep Learning, Yann LeCun. Lors de son intervention à Sciences Po , il a dénoncé la posture des géants américains, les accusant d’utiliser le narratif de la régulation pour ériger des barrières réglementaires protégeant leurs positions face aux modèles ouverts (open source) de la Chine. Sa position a été largement relayée par les médias français, dont certains n'ont pas hésité à titrer à la une : «Hypocrisie, double langage et secrets bien gardés: les géants de l’intelligence artificielle ont semé la panique avec une stratégie diabolique». Le paysage médiatique francophone, plus enclin à la critique des géants technologiques américains, s'est ainsi largement engouffré dans cette brèche, tandis que le paysage anglo-saxon continue d'être largement dominé par le narratif du risque existentiel majeur.

Jusqu’où peut-on croire la version américaine?

Il est vrai que l’alerte lancée par les trois figures majeures de l’IA américaine — Dario Amodei, Sam Altman et Elon Musk — a donné un élan remarquable au débat sur les risques existentiels associés à l’IA, faisant le jeu de ceux qui prônent une régulation stricte. Venant d’acteurs qui perçoivent habituellement la réglementation comme une contrainte, cette prise de position invite à s’interroger sur leur état d’esprit et leurs motivations réelles. Jusqu’à quel point peut-on vraiment faire confiance à leurs intentions?

En se penchant sur le parcours de Dario Amodei, le CEO d’Anthropic — qui fut le premier à tirer la sonnette d’alarme avant d’enchaîner les interventions publiques et d’entraîner les deux autres leaders —, on trouve des éléments qui plaident en faveur de ses bonnes intentions. C’est lui qui a lancé GPT-2 et GPT-3 lorsqu’il était chez OpenAI. Depuis, il n’a cessé de répéter sa conviction qu’il faut continuer à développer des modèles toujours plus intelligents, tout en résolvant en parallèle les problèmes d’alignement et de sécurité. Il a d’ailleurs quitté OpenAI, où il était vice-président de la recherche, pour fonder avec des collègues partageant sa vision une entreprise intégrant pleinement la dimension éthique et sécuritaire. Il a également refusé de revenir chez OpenAI en tant que CEO lorsqu’on le lui a proposé.

Aujourd’hui, on observe l'émergence, au sein de la Silicon Valley, d’une tendance portée par des entrepreneurs convaincus qu'il faut sauver l'humanité d'un sort funeste que pourrait lui réserver une IA irresponsable. Un réel consensus existe autour de cette idée.

Cependant, force est de reconnaître que ces entrepreneurs, à l'image d'Amodei, sont imprégnés d’un biais typiquement américain: celui de penser qu’une super intelligence ne devient dangereuse que si elle tombe entre de mauvaises mains, par exemple aux mains de terroristes capables d’utiliser les modèles pour fabriquer des armes biologiques, avec bien entendu une définition proprement américaine du terrorisme. C’est pour cette raison qu’ils s’attaquent aux modèles ouverts (open source), qui facilitent la libre diffusion et l'amélioration des technologies, tout en insistant lourdement sur la sécurité et le contrôle. Et c’est là où se trouve l’avantage de la Chine dans ses capacités de déploiement de l’IA à travers le monde entier dans le cadre de sa politique extérieure fixée par la ‘’Nouvelle route de la soie ». À l'inverse, les géants américains qui s’alignent sur la politique de leur pays défendent les modèles propriétaires fermés, qui servent les intérêts économiques et stratégiques de leurs propres laboratoires.

Cet état d’esprit rappelle la logique de l’arme nucléaire: le danger viendrait uniquement des autres si d’autres s’en emparaient, présumant que les concepteurs originaux sont, par nature, inoffensifs et animés de bonnes intentions. Ainsi, réduire les risques de l’IA aux seuls usages criminels de son potentiel constitue une vision profondément biaisée.

Le débat s’est légèrement apaisé sur une déception qui ne dit pas son nom à la suite du sommet entre les deux présidents américain et chinois, dont on peut retenir une seule phrase : les deux dirigeants se sont mis d’accord pour créer un «dialogue officiel États-Unis–Chine sur l’IA, accompagné d’un canal bilatéral de communication pour les incidents liés à l’IA».

Peu importe si le monde périt, pourvu que Trump remporte la course à l’IA. Malheur aux pays qui ne font pas assez pour tirer profit du potentiel de l’IA, mais qui subiront «comme par solidarité» une fin catastrophique si les risques ne sont pas jugulés.

Kamel Ayadi
Expert International en Gouvernance
Ancien Ministre

Prochain article (suite de la présente réflexion): Le débat sur l’IA s’enflamme : où en sommes-nous, nous autres?