Le nombre incarné

En seulement trois ans, l’intelligence artificielle s’est efficacement intégrée dans de nombreux domaines du secteur tertiaire. Dans la plupart des cas, son potentiel et son utilité ne sont plus à prouver. Son amélioration rapide et exponentielle promet de décupler les capacités de ceux qui sauront la dompter. Pour les autres, balayés qu’ils seront par la recherche d’efficience permanente propre à l’informatique, une nouvelle forme de prolétariat s’imposera. Mais qu’adviendra-t-il de nos sociétés lorsque cette froide logique calculatrice se sera imposée partout?

Au milieu du siècle dernier, René Guénon exposait dans son livre Le Règne de la quantité et les signes des temps les principes de cette dérive matérialiste qui consiste à réduire l’ensemble du monde à une quantité mesurable. Il y démontrait que cette logique façonnait la modernité occidentale. Avait-il l’intuition que ce qu’il écrivait à ce moment-là ne se réaliserait pas seulement sur le plan principiel, mais se matérialiserait sous nos yeux huitante ans plus tard? Car ce que nous voyons apparaître aujourd’hui, avec l’essor exponentiel et inarrêtable de l’intelligence artificielle, mais surtout avec les appels toujours plus nombreux de savants fous désireux d’utiliser cette technologie à des fins de gouvernance, c’est l’établissement d’un nouveau règne. Un règne où l’homme abdique dans son rôle de décideur au profit, plus «impartial» clame-t-on, du supercalculateur.

Il n’y aura toutefois pas eu besoin d’attendre le lancement public de ChatGPT pour en arriver là. Au sortir de la Seconde Guerre mondiale, Georges Bernanos nous mettait déjà en garde contre l’avènement de cette Civilisation des Machines. Hélas, cet ordre de technicien, dans lequel «un imbécile peut parvenir aux plus hauts grades sans cesser d’être imbécile»¹, n’a cessé de proliférer depuis pour aboutir à l’abdication finale actuelle des technolâtres au profit de la machine.

Qu’ont fait les régimes démocratiques pour enrayer cette sournoise tendance? Quelques oppositions de forme, tout en ignorant le fond du problème. Car le politicien moyen, préoccupé avant tout par sa prochaine échéance électorale et n’osant bien souvent pas assumer la responsabilité qui incombe à sa fonction de décideur, soit celle de trancher le nœud gordien lorsque cela s’impose, s’accommode très volontiers de cette «gouvernance par les nombres»². Et pour cause, en s’en remettant aux techniciens et aux statisticiens, il confère à ses décisions une autorité quasi incontestable.

Mais à quel prix? Car ce recours est en réalité un transfert du pouvoir décisionnel. Déjà les méandreuses administrations étatiques pilotent le navire en quasi-autonomie et ne supportent plus qu’un politicien cherche à les conduire. L’avènement de l’IA dans la sphère politique parachève ce processus. Quel politicien osera aller contre une proposition établie sur la base de téraoctets de données et de l’omnisciente rationalité d’un modèle d’IA? De décideur, le politicien est progressivement réduit à n’être plus qu’un validateur.

«Mais après tout, quel est le problème d’une gouvernance judicieusement guidée par l’IA?» nous retorque-t-on parfois. Ce qu’il faut bien comprendre, c’est que lorsqu’un ordinateur répond, ce n’est que par suite de calculs. C’est donc une forme de gouvernement absolument dépourvue de toute charité qui advient. Car la charité invite précisément, pour pardonner, secourir ou juger, à se défaire de tout calcul et de toute recherche d’intérêt personnel. Les Evangiles en donnent de nombreux exemples: à chaque fois que les disciples tombent dans la logique du calcul, le Christ les rabroue. L’Esprit de vie est par essence surnuméraire. Il ne calcule pas, mais donne sans compter; même si le nombre de personnes dépasse de loin les rations de pains et de poissons; même s’il eût été plus «profitable» de vendre le parfum que la femme répand sur la tête de Jésus pour distribuer le produit de sa vente aux pauvres.

Est-ce donc au pur esprit calculateur, expression pourtant péjorative pour l’humain, que l’on souhaite confier les rênes de nos sociétés? Souhaitons-nous vraiment être réduits, nous, êtres humains, aux simples variables d’un algorithme? Car il faut bien comprendre que cette quantification de l’être humain est l’inévitable conséquence de la gouvernance par IA. C’est d’ailleurs un sujet qui agite les développeurs de véhicules autonomes, ceux-ci étant forcés de résoudre concrètement le dilemme éthique dit du tramway³ dans des situations telles que la suivante: comment doit réagir un véhicule autonome s’il se retrouve face à un camion déviant de sa trajectoire, menaçant ainsi la vie du conducteur de la voiture autonome, et que simultanément, un enfant se trouve sur le côté de la route, empêchant la voiture d’effectuer sa manœuvre d’évitement salvatrice? Au-delà des aspects juridiques complexes que soulève ce type de codage, ce qui est véritablement alarmant, c’est la méthode qui devra nécessairement être utilisée pour anticiper ce genre de situation: un calcul statistique ultra-rapide dans lequel les humains ne seraient qu’une variable réduite à une quantité, seul langage compréhensible par une machine fonctionnant par enchaînements de 0 et de 1. L’enfant vaudrait par exemple 120 points et le conducteur 75.

Les plus prosaïques de nos amis poussent parfois la provocation en nous répondant qu’ils ne voient pas de problèmes particuliers à ce type de fonctionnement. Comment leur faire comprendre que si l’action de tatouer un numéro sur les prisonniers d’un camp est profondément inhumaine et choquante, c’est précisément parce qu’elle ôte toute dignité à l’homme en lui refusant le nom qui le personnifie pour le réduire à un simple amas de matière quantifiable? Comment ne pas voir les dérives possibles d’une forme de gouvernance qui considérerait l’être humain comme une simple variable d’ajustement ou un frein à l’action⁴? Une mauvaise interprétation de l’agent IA sur les objectifs qui lui sont donnés, et surtout sur les moyens à employer pour les atteindre⁵, pourrait conduire à des catastrophes inouïes. Les purges staliniennes, qui procédaient également par rationalité, ne seront alors qu’un avant-goût des sacrifices nécessaires à l’avènement du Royaume du Nombre incarné.

Notes

¹   Georges Bernanos, La France contre les robots, Plon, 1947.

²   L’expression vient du titre du magistral essai d’Alain Supiot qui traite de l’invasion de la statistique et des normes dans les systèmes de gouvernance.

³   En philosophie, le dilemme du tramway consiste à savoir s’il est éthique pour une personne d’effectuer un geste qui bénéficierait à un groupe de personnes A, mais qui, ce faisant, nuirait à une personne B.

⁴   Et ce d’autant plus lorsqu’une grande part des développeurs californiens sont acquis à une forme d’écologie malthusienne prônant la dépopulation en faveur de la planète.

⁵   Cette problématique, appelée «alignement» dans le domaine de l’IA, est le défi le plus important que cherchent à résoudre les développeurs. Un reportage captivant traite de cette question cruciale sur YouTube: L’horreur existentielle de l’usine à trombone.