Kamel Ayadi: Le grand délire technologique

Par Kamel Ayadi - Qui conçoit l'avenir de l'humanité sur Terre? Ce ne sont sans doute ni la philosophie, ni la religion, et encore moins le leadership politique. C'est plutôt le leadership technologique qui, concentré entre les mains d'une poignée de génies de la technologie, façonne désormais notre avenir, sans que l'on puisse être certain que leur génie humain et moral soit à la hauteur de leur intelligence technique.

Dans cet article, j'analyse les facteurs qui conduisent le développement technologique à atteindre un niveau proche du délire: le basculement d'innovations incrémentales vers des innovations de rupture; le brouillage des frontières entre l'IA civile et militaire et l'érosion de la confiance; le recul du rôle des États et le déclin de l'éveil moral; enfin, la qualité du leadership technologique et entrepreneuriale.

Toute nouvelle technologie, en raison de ses impacts sur la vie quotidienne, suscite souvent chez les êtres humains fascination et émerveillement.

urieusement, l'intelligence artificielle, malgré ses capacités extraordinaires et les immenses promesses qu'elle porte dans de nombreux domaines, n'a pas provoqué le même enthousiasme. Elle a plutôt suscité un sentiment mêlé d'espoir et de scepticisme, en raison de la prise de conscience salutaire qui a accompagné son émergence. Le manifeste signé, il y a quatre ans, par des scientifiques de premier plan engagés dans ce domaine, ainsi que par les dirigeants des principales entreprises de l'industrie de l'IA, appelant à un moratoire de six mois sur le développement des systèmes les plus puissants, a sans doute constitué l'événement fondateur de cette prise de conscience.

Ce communiqué a suscité un regain d'espoir quant à la possibilité d'encadrer le développement de l'intelligence artificielle par une régulation rigoureuse et une gouvernance fondée sur une sagesse collective, afin d'éviter à l'humanité les conséquences d'un développement incontrôlé. Cette prise de conscience rappelle, dans une certaine mesure, l'éveil moral qui a suivi la première utilisation de l'arme nucléaire au milieu du siècle dernier. Celui-ci a conduit, entre autres, à la création de l'Agence internationale de l'énergie atomique (AIEA) et à la mise en place de mécanismes de contrôle extrêmement stricts, contribuant ainsi à préserver l'humanité de scénarios particulièrement préoccupants. À titre d'illustration, on estime aujourd'hui que l'enrichissement d'un kilogramme d'uranium nécessite l'équivalent de plusieurs kilogrammes de documentation, tant les procédures de contrôle et de vérification sont exigeantes.
 Malheureusement, depuis la publication de ce manifeste, aucun progrès réellement perceptible n'a été enregistré en matière de régulation de l'intelligence artificielle. En revanche, une mobilisation croissante s'observe à plusieurs niveaux : au sein de la société civile, des organisations internationales, notamment celles relevant du système des Nations unies, mais aussi parmi de nombreuses personnalités influentes. Des lauréats du prix Nobel, des pionniers de l'intelligence artificielle tels que Geoffrey Hinton, des milliers de neuroscientifiques qui s'interrogent sur les effets des grands modèles de langage (LLM) et leurs conséquences potentielles en matière d'atrophie cognitive, ainsi que des philosophes et des historiens, contribuent désormais à alimenter le débat sur les risques et les défis posés par l'IA.

Parallèlement, une compétition stratégique s’est durablement engagée entre les deux principales puissances de l’IA: les États-Unis et la Chine, portée par leurs géants technologiques respectifs (GAFAM et BAT). Cette course à la suprématie technologique, où les impératifs de puissance et de compétitivité l’emportent souvent sur la prudence, rend les trajectoires de l’IA particulièrement difficiles à maîtriser. Nul ne peut aujourd’hui en prédire les conséquences économiques, sociales et politiques.

Plusieurs facteurs expliquent cette perte de contrôle. Je vais essayer d’en analyser les principaux:

Nature même de la technologie dominante

L’histoire du progrès montre que les innovations de rupture ont longtemps constitué l’exception, tandis que les innovations incrémentales représentaient la règle. Des millénaires ont séparé les grandes révolutions du transport – du bateau à la charrette, puis au chemin de fer – laissant aux sociétés le temps de s’adapter. Entre ces ruptures, les améliorations progressives ont continuellement perfectionné les technologies existantes, grâce aux innovations incrémentales; comme en témoigne l’évolution de l’automobile depuis un siècle.

Or, ce schéma s’est profondément modifié, voire complètement renversé. Depuis quelques décennies, les ruptures technologiques ( disruptive technologies)  se succèdent à un rythme sans précédent: les technologies RTM ont été supplantées par le GSM en l’espace de cinq années, et l’IA accélère encore ce phénomène. Les innovations de rupture tendent désormais à devenir la norme, bouleversant en permanence les marchés, les modèles économiques, les métiers et les équilibres sociaux. Cette accélération réduit considérablement le temps d’adaptation des individus, des entreprises et des institutions, tout en rendant de plus en plus difficile l’anticipation et la maîtrise des effets sociétaux de ces transformations.

Qui décide réellement de l’avenir de l’humanité?

Cette question, qui relevait autrefois de la philosophie, et des religions, était à une époque récente devenue politique, économique et aujourd’hui elle est plutôt technologique.

Le rythme des innovations de rupture s’accélère, en particulier dans le domaine de l’IA, où elles tendent à devenir la norme. Cette dynamique s’inscrit dans un contexte de forte concentration de l’innovation entre les mains de quelques géants technologiques, dont les choix façonnent l’avenir avec une prise en compte encore limitée de leurs conséquences sociétales à long terme. L’exemple des réseaux sociaux est révélateur : une décision prise dans un garage, il y a vingt-cinq ans, par le jeune Mark Zuckerberg a profondément transformé les sociétés à l’échelle mondiale: phénomène d’addiction aux réseaux sociaux, répercussion sur la santé mentale, notamment des jeunes, dégradation du débat public avec ses conséquences désastreuses sur la politique et la démocratie en particulier, montée du populisme, prolifération des fausses informations. L’IA pourrait produire des effets d’une ampleur encore supérieure si son développement demeure insuffisamment encadré.

Aujourd’hui, des médias se tournent vers Elon Musk pour savoir à quoi va ressembler l’avenir de l’humanité. Ce dernier donne l’impression de se sentir investi d’une mission providentielle consistant à conduire l’humanité vers un modèle d’existence qui lui semble le plus approprié, sans prendre suffisamment en compte les effets sociétaux de ses projets, au-delà de leurs seuls aspects techniques.

Avec son projet Starship, il entend transporter une partie de l’humanité vers la planète Mars, dans le ‘’noble’’ objectif d’assurer la pérennité de l’espèce humaine au cas où la vie sur Terre deviendrait impossible. Ne vaudrait-il pas mieux commencer par préserver les conditions de vie sur Terre avant d’envisager une telle perspective? Avec sa société Neuralink, il ambitionne d’augmenter les capacités cognitives et l’intelligence des humains par l’implantation de puces électroniques dans le cerveau, comme s’il s’agissait de corriger une prétendue ‘’imperfection divine’’ qui aurait doté l’être humain d’un cerveau biologique, avec toutes les limites qu’impose la biologie.

L’idée des interfaces cerveau-machine (Brain-Computer Interface – BCI, ou interface cerveau-machine – ICM) est en elle-même remarquable lorsqu’elle est destinée aux personnes atteintes de paralysie ou d’hémiplégie, auxquelles cette technologie peut permettre de retrouver le contrôle de certaines fonctions motrices. Au-delà de cet usage thérapeutique, en revanche, ses applications soulèvent de nombreuses interrogations. Elon Musk envisage en effet d’étendre ces implants aux personnes en bonne santé afin d’augmenter leurs capacités cognitives et leur intelligence. Cette approche revient à considérer le cerveau humain comme un ordinateur dont il serait possible d’accroître artificiellement la puissance de traitement, de stockage et de communication. Selon les objectifs de ce projet, Les individus pourraient ainsi voir leurs capacités intellectuelles se multiplier grâce à l’association du silicium et de la biologie. Ils pourraient également communiquer de manière intuitive, échanger directement des idées ou des informations, partager des expériences émotionnelles ou des connaissances au-delà des limites de la communication verbale.

Ces technologies ne relèvent plus de la science-fiction mais de projets bien réels. Un dirigeant d’une grande entreprise technologique a récemment déclaré avoir décidé de reporter la naissance de son enfant dans l’attente de la maturité des technologies d’implants cérébraux, afin que celui-ci puisse être « augmenté » dès les premières années de sa vie.

Un autre exemple de ce délire technologique, Les développements actuels et futurs de l’IA rendront de plus en plus difficile la distinction entre les expériences relevant de la réalité vécue et celles produites par des environnements virtuels: «Les expériences synthétiques transforment notre perception du réel en brouillant les frontières entre l’expérience vécue et l’expérience artificiellement générée.»

Ces technologies pourraient même donner l’impression d’une extension de la conscience humaine, en permettant de poursuivre un dialogue au-delà de la mort biologique avec un être cher dont la personnalité aurait été reconstituée par une IA entraînée sur ses données (discours, courriels, lettres, écrits, etc.). Il deviendrait alors possible de continuer à échanger avec un parent décédé, de lui demander son avis ou ses conseils sur des questions contemporaines et d’obtenir des réponses générées par un «jumeau numérique», inspiré de sa manière de penser. Un tel jumeau numérique serait capable de produire des réponses cohérentes, des conseils pertinents et d’entretenir des conversations sur des sujets ou dans des contextes que la personne n’a jamais connus de son vivant, grâce aux capacités prédictives de l’IA fondées sur le mode de raisonnement de cette personne. 

Au-delà de cette forme de prolongement de la conscience après la mort biologique, ces jumeaux numériques pourraient permettre de dialoguer avec de grands philosophes ou scientifiques disparus et de bénéficier de leur pensée pour éclairer des problématiques contemporaines. Nonobstant les opportunités, mais aussi les tentations, que la réalité synthétique et la continuité numérique de la conscience pourraient offrir, les questions éthiques, philosophiques et sociales qu’elles soulèvent sont considérables.

Le brouillage des frontières entre l'IA civile et militaire et l'érosion de la confiance

Un autre aspect de ce délire technologique, dont on parle rarement, est celui de l'ambiguïté quant aux motivations de la nouvelle génération d'entrepreneurs dans la course au développement de l'IA. Les frontières entre les ambitions commerciales légitimes et les ambitions hégémoniques géopolitiques et militaires ne sont pas claires.

Eric Schmidt, ancien PDG de Google, ne cache pas, dans ses interviews, sa maîtrise de la doctrine militaire. Il parle sans gêne de ses nombreux voyages en Ukraine pour observer de près l'efficacité de l'IA et des drones dans la guerre. Il fustige le gouvernement ukrainien de ne pas coopérer suffisamment en fournissant assez de retours d'information pour alimenter les données d'entraînement, en vue de perfectionner l'IA militaire.

Quand on écoute Elon Musk, dans un débat public publié sur YouTube, parler de la guerre de demain devant un parterre de grands chefs militaires américains, on a l'impression d'écouter un général chevronné des trois armées. Son accès apparemment aisé à des informations militaires classées secrètes suscite des interrogations. D'ailleurs, il ne s'est pas empêché, en 2024, de partager un tweet dans lequel il mettait en doute l'efficacité des avions de chasse, en ajoutant que «ces avions seront abattus très rapidement si la force adverse dispose de systèmes sophistiqués de missiles sol-air (SAM) ou de drones, comme l'a montré le conflit entre la Russie et l'Ukraine». Et de conclure, sur un ton moqueur, que «les avions de chasse conservent toutefois un avantage: ils aident les officiers de l'armée de l'air à avoir du succès auprès des femmes. Les drones sont beaucoup moins efficaces sur ce point», faisant allusion au prestige dont jouissent les pilotes de chasse dans la société américaine et au pouvoir d'attraction que leur confère ce métier. Cette déclaration a suscité de nombreux remous et interrogations quant à sa légitimité à se prononcer publiquement sur des sujets qui ne relèvent pas directement de ses compétences.

En dépit de leur engagement tous azimuts dans le développement de l'IA, cela ne les empêche pas de parler, avec émotion, des dangers existentiels que l'IA ferait peser sur l'humanité, et d'affirmer qu'il serait nécessaire d'observer une pause dans son développement. Seulement, et curieusement, ils se disent incapables de le faire à leur niveau, car personne ne peut garantir que leurs concurrents chinois ou russes en feront autant. Le délire se nourrit également de cette absence de confiance mutuelle. Le monde semble ainsi piégé dans une logique où la conscience du danger ne débouche sur aucune action corrective conséquente.

Sur ce sujet, Sam Altman en dit encore davantage. Dans une interview récente, il utilise une métaphore particulièrement expressive de la situation. Il a déclaré que le monde avait dépassé l'«event horizon» (horizon des événements) en matière de développement de l'IA. Cette métaphore renvoie à l'idée qu'une fois qu'un objet s'approche d'un trou noir, il franchit une limite au-delà de laquelle il lui devient impossible de s'échapper. Elle suggère qu'un point de non-retour aurait été atteint dans la course à l'intelligence artificielle. Cette déclaration en dit long sur la manière dont la logique de la singularité s'est installée dans les esprits bien avant même sa survenance.

Pourtant, lorsqu'ils sont interrogés sur les aspects éthiques et sociaux de l'IA, ces entrepreneurs donnent l'impression d'être pleinement conscients des enjeux. Personne ne nie les dangers existentiels de l'IA ni les questions éthiques qu'elle soulève. Eric Schmidt est allé encore plus loin dans cette prise de conscience en publiant, avec Henry Kissinger, deux ouvrages remarqués sur les conséquences philosophiques de l'IA, notamment ‘’Genèse: L'intelligence artificielle, l'espoir et l'esprit humain’’.

Lorsqu'on leur demande si les géants de l'IA prennent réellement ces questions en considération dans leurs politiques d'innovation, ils répondent qu'ils ont recruté des éthiciens, des philosophes, des psychologues et des sociologues pour s'en occuper. Invité à donner un exemple concret de l'intégration des préoccupations éthiques dans le développement de l'IA, Eric Schmidt a répondu, dans l'une de ses interviews: «Si un adolescent demande à une IA quelle est la meilleure manière de se suicider, celle-ci est désormais conçue de manière à ne pas y répondre.» Cette réponse donne une certaine idée de sa perception de l'intégration des dimensions éthiques et sociales dans le processus de développement de l'IA.

Qualité du leadership technologique

Personne ne peut douter du génie d'entrepreneurs comme Elon Musk, Sam Altman, Mark Zuckerberg et beaucoup d'autres. Le monde a besoin de génies de cette envergure dans les domaines scientifique, technologique, littéraire ou philosophique pour réaliser des percées et créer des repères historiques.

Imaginez ce qu'aurait été notre monde sans le génie scientifique d'Einstein, sans celui d'Edison, qui a permis le développement de l'électricité, ou sans le génie des philosophes des Lumières. Imaginez-le sans le génie littéraire de Victor Hugo ou de Shakespeare, ou encore sans celui de Beethoven. Imaginez le monde arabe sans le génie d'Ibn Khaldoun, ou sans la voix d'Oum Kalthoum portée par le génie de compositeurs comme Baligh Hamdi ou de poètes comme Ahmed Chawki et Ahmed Rami. Imaginez les deux milliards d'Asiatiques sans l'influence de Bouddha qui, sans avoir été un messager de Dieu, a éclairé des centaines de millions de personnes pendant plusieurs siècles en les conduisant vers la paix intérieure et le nirvana.

Le bouddhisme a façonné une identité forte, des repères de conduite et une source d'inspiration pour des milliards d'individus, contribuant également, à travers la culture qu'il a insufflée, au développement de plusieurs pays prospères. Imaginez enfin à quel point le développement économique aurait stagné sans l'invention de l'ordinateur, ou sans le génie de Bill Gates, qui eut un jour la vision de mettre un ordinateur sur chaque bureau.

Cependant, le génie technologique de la nouvelle génération d'entrepreneurs, aujourd'hui en position de décider à quoi ressemblera le monde de demain, ne suffit pas à rassurer l'humanité contre les dérives possibles, comme on en a déjà observé avec d'autres technologies dans d'autres domaines. Il faut également une maturité intellectuelle permettant d'en anticiper les implications, ainsi qu'une prédisposition à agir de manière responsable en faisant prévaloir l'intérêt général sur les intérêts particuliers.

Sans vouloir porter de jugement de valeur sur la qualité des entrepreneurs actuels, le constat que je partage ici est strictement personnel. Il repose sur une observation étalée sur plusieurs années, ainsi que sur une lecture attentive de la qualité des discours et des écrits des entrepreneurs de la génération actuelle, comparée à ceux des deux générations précédentes.

Ce que l'on observe aujourd'hui, c'est un écart remarquable entre la génération actuelle d'entrepreneurs et celle qui l'a précédée (Bill Gates, Steve Jobs, Warren Buffett, etc.), notamment en matière de leadership technologique responsable et de vision globale de l'impact sociétal.

Cette différence apparaît d'abord dans la nature et la profondeur des discours, mais surtout dans l'engagement philanthropique plus marqué des générations précédentes. Plusieurs figures majeures de l'écosystème entrepreneurial mondial ont en effet développé une approche structurée de la philanthropie, orientée vers la résolution de problèmes globaux tels que la pauvreté, les pandémies et les grandes maladies.

Recul du rôle des États et déclin de l'éveil moral

Deux constats contribuent, de mon point de vue, à ce délire et ne devraient guère faire l'objet de divergence. Le premier est le recul du rôle des États dans le contrôle du progrès technologique, notamment en matière d'intelligence artificielle. Le second concerne le déclin de l'éveil moral face aux impacts des nouvelles technologies sur l'humanité. Ces deux facteurs s'étaient déjà trouvés réunis il y a trois quarts de siècle, lorsque l'humanité était confrontée au premier danger existentiel créé par la technologie nucléaire.

Le lancement de deux bombes atomiques sur le Japon a eu un effet traumatique sur la classe intellectuelle en général, et sur la communauté scientifique en particulier. Cette période est bien relatée dans les mémoires d'Einstein, qui fut profondément bouleversé de voir ses équations contribuer, indirectement, à la fabrication de l'arme nucléaire. Il a consacré une grande partie du reste de sa vie à expliquer les motivations de la lettre qu'il avait adressée au président Roosevelt, laquelle fut à l'origine du projet Manhattan. Einstein précise que son objectif était d'alerter le président américain sur le fait que l'Allemagne nazie n'était pas loin de maîtriser l'arme nucléaire et que cette éventualité représentait une menace majeure pour le monde entier.

Nous avons tendance à être fascinés par les découvertes scientifiques de ce grand savant, mais peu de personnes connaissent sa philosophie de la vie, souvent tout aussi fascinante que ses découvertes. La réflexion d'Einstein sur le devoir de l'individu envers les autres, sur l'existence, la mort et la raison d'être de l'humanité est en partie nourrie par sa profonde méditation sur cet événement traumatisant. L'éveil moral de la communauté scientifique a permis de créer une dynamique qui a conduit à la régulation de l'utilisation de l'arme nucléaire, débouchant sur des traités internationaux ainsi que sur la création de l'Agence internationale de l'énergie atomique (AIEA).

La qualité du leadership politique de l'époque, incarné par des figures historiques telles que Churchill, De Gaulle et Roosevelt, a favorisé cette dynamique. Face à ces deux éléments fondamentaux que sont un leadership responsable et une conscience des dangers encourus, notre époque se caractérise par un leadership politique que l'on peut difficilement qualifier autrement que de médiocre et de populiste, disposant de faibles marges de manœuvre face aux forces du marché, tout en étant entraîné dans une course à l'hégémonie et à la domination.

De l'autre côté, la communauté scientifique apparaît aujourd'hui moins influente, moins indépendante et de moins en moins capable d'agir, en raison de son allégeance croissante aux pouvoirs économiques et publics. Sa voix se trouve noyée dans un flot continu de savoirs et d'informations, dont la circulation obéit à une logique algorithmique favorisant davantage la viralité et la désinformation que la diffusion d'une information de qualité.

Une régulation de l'IA inspirée de celle mise en place pour l'énergie atomique est apparue spontanément dès les premières discussions consacrées à cette technologie. Le Sénat américain l'a d'ailleurs évoquée lors de ses premières auditions réunissant les dirigeants des grandes entreprises de l'IA et des scientifiques du domaine. Cette idée, héritée d'une conscience historique des risques liés aux ruptures technologiques, n'a cependant pas fait long feu face à la dureté du contexte géopolitique et économique actuel, marqué par une concurrence exacerbée, une course à la suprématie technologique et la prééminence des intérêts de marché.

Kamel Ayadi
Expert International en Gouvernance
Ancien Ministre

Lire aussi

Kamel Ayadi: Le Nord se protège des réseaux sociaux; le Sud deviendra-t-il la décharge numérique du monde?