Royaliste : L’Intelligence artificielle est présentée comme la promesse nouvelle d’un progrès décisif pour l’humanité…

Denis Collin : L’Intelligence artificielle, c’est aussi vieux que l’informatique – et même plus vieux. Dans les années cinquante, les ordinateurs s’appelaient des “cerveaux électroniques”. On a aussi beaucoup parlé d’intelligence artificielle dans les années quatre-vingt à l’occasion de la sortie des “logiciels-experts”. Aujourd’hui, toute la presse évoque les promesses extravagantes de l’IA tandis que certains affirment que c’est le pire des dangers. Pour éviter qu’on s’enferme dans ce débat, je vais aborder la question du point de vue philosophique.

D’abord, il faut rappeler que nous sommes en présence de machines, que l’on peut appeler machines IA. Une machine, c’est simplement un ensemble de circuits, de métaux et de matière plastique. Une machine IA peut apporter une aide, comme tout autre machine. L’IA, c’est d’abord un moteur de recherches mais il y a aussi des machines qui permettent de détecter et de prédire. Par exemple, on utilise l’IA pour la détection des cancers. Les succès de ces machines sont incontestables et on nous en annonce beaucoup d’autres, comme la conduite autonome des automobiles. Nous connaissons déjà les applications de l’IA pour les enseignants et les juristes mais, plus inquiétant, on commence à utiliser les machines IA dans les conflits armés, pour le choix des cibles.

Royaliste : Tout cela suscite des inquiétudes…

Denis Collin : Auxquelles on répond banalement qu’il est impossible d’arrêter le progrès et que les machines nous débarrasseront de multiples tâches pénibles. Certains, comme Bill Gates, nous annoncent même la fin du travail et de la misère. Il est facile de montrer que l’idéal de Bill Gates et Elon Musk est celui d’une humanité réduite à un troupeau géré par des machines.

J’observe pour ma part que nous sommes pour le moment en présence de machines spécialisées. Nous avons des robots conversationnels comme ChatGPT qui savent générer des phrases et des machines qui sont des mécanismes de commande automatique. Pour les spécialistes, la question principale porte sur l’apparition d’une Intelligence artificielle généralisée, c’est-à-dire totalement autonome, capable d’apprendre mille fois plus vite que nous et qui pourrait surpasser les êtres humains dans tous les domaines. Nous retrouvons là le scénario du film 2001, l’odyssée de l’espace dans lequel un ordinateur tente de prendre le contrôle d’un vaisseau spatial, ou celui de Matrix, dans lequel seuls quelques hommes vivants au centre de la terre parviennent à échapper à la machine. De nombreux spécialistes jugent impossible cette prise de contrôle complète par les machines, mais je ne suis pas sûr que le problème soit bien posé.

Royaliste : Dès lors, comment envisager ce problème ?

Denis Collin : Aucune machine ne peut penser au sens propre du terme. Le triomphe de l’IA, c’est l’extermination de la pensée. Il y a deux thèses convergentes et plus ou moins fusionnées qui tournent dans les milieux de l’IA et des neurosciences. La première thèse, c’est que l’homme est son cerveau et que le cerveau n’est que le lieu des interactions neuronales qui expriment toute la pensée. Quant à la pensée, c’est le résultat de l’activité d’un grand nombre d’interconnexions de réseaux que l’on pourrait simuler sur un réseau électrique.

Pour moi, ces deux idées sont fausses. Nous pouvons en effet corréler la pensée et l’activité des neurones, mais il est impossible de prouver que les activités neuronales sont la cause de la pensée. Ceci pour deux raisons.

La première, c’est qu’il faudrait objectiver la pensée, faire en sorte que la pensée devienne elle-même un objet d’expérience, comme des neurones. L’activité neuronale est un phénomène physico-chimique et la seule chose qu’elle peut causer, ce sont des phénomènes physico-chimiques. La pensée n’a aucune propriété physico-chimique, aucune caractéristique physique.

La seconde raison, c’est que la pensée est irrémédiablement subjective. Toute théorie neuronale de la pensée élimine la subjectivité, c’est-à-dire la chose la plus certaine dont nous pouvons disposer. Je peux penser que le monde n’existe pas, mais je ne peux pas penser que je ne pense pas.  Descartes s’était posé la question du rapport entre le corps et l’esprit : il répondait que je peux concevoir un corps sans esprit, et je peux concevoir de la substance mentale sans référence. Le concept de pensée ne fait pas référence au concept de corps et réciproquement. Comme je peux concevoir clairement et distinctement la pensée séparée du corps, la pensée n’est pas un attribut du corps et “nul corps ne peut penser”. J’estime que Descartes a à la fois raison et tort. Il est vrai qu’aucune machine inerte ne peut penser. Cependant, les êtres vivants sont animés par une sorte de mouvement intérieur et ils sont capables, par l’organisation très complexe de la matière, d’autonomie par rapport au milieu extérieur. Ils forment un soi. Le plus petit être vivant cherche à persévérer dans son être. En exagérant un peu, on peut dire que tout être vivant a un sentiment immédiat de soi et qu’à partir d’un certain niveau de complexité il aura une conscience. La conscience n’est pas une chose, elle n’a pas de lieu comme on l’affirme parfois : la conscience est un rapport. La conscience de soi, c’est la conscience que nous avons du rapport de notre corps avec le monde et qui émerge en quelque sorte du vivant. Le point de départ de ce qui forme l’esprit humain, c’est la capacité de l’être vivant d’être affecté – d’avoir des affects et de réagir à ces affects. Il faut dès lors corriger la pensée de Descartes : aucun corps ne peut penser mais peuvent éventuellement penser les êtres vivants qui ont atteint un certain degré de complexité. Selon un matérialisme un peu bête, on a cherché à réduire le vivant à de la physique et de la chimie et il nous faut revenir à une pensée de la vie. L’embêtant, c’est que la vie, ça ne se voit pas !

Royaliste : Il est donc impossible de simuler la pensée sur un machine…

Denis Collin : C’est une idée complètement fausse ! En informatique, un circuit logique peut se simuler simplement avec des interrupteurs. Que l’ensemble des circuits logiques qui composent l’ordinateur puissent produire de la pensée, c’est tout simplement absurde. Si l’on imagine qu’une supermachine peut penser comme nous, il faut admettre que la pensée est indépendante du corps, et qu’elle peut s’incarner dans n’importe quel corps ou objet. Le matérialisme simplet est en fait un idéalisme déguisé !

Royaliste : Les machines seraient capables de passer le célèbre test de Thüring par lequel on n’est plus capable de distinguer, dans un dialogue, si c’est un homme ou une machine.

Denis Collin : Le problème, c’est que le test de Thüring est un faux test comme l’a montré le philosophe J.R. Searle il y a plusieurs décennies. Si on pose une question à un ordinateur avec des caractères chinois, la machine répondra avec des caractères chinois sans connaître un mot de chinois. C’est ce que font aujourd’hui les robots conversationnels. Ma machine est programmée pour mettre un mot au bout d’un autre mot mais il n’y a aucune compréhension dans la réponse à la question qu’on lui pose. Les machines “apprennent” à partir de ce qu’elles peuvent trouver sur Internet. Mais comme elles trouvent de plus en plus sur Internet ce qu’elles ont elles-mêmes produit, elles finiront par ne plus rien trouver.

Royaliste : Il n’en demeure pas moins que nous sommes confrontés à un bouleversement social majeur.

Denis Collin : En effet, dans le système sociopolitique actuel, la généralisation de l’IA est à peu près inéluctable et elle pourrait être le début d’un bouleversement général dont les conséquences seront être ravageuses. Pour comprendre l’IA, il faut remonter à ce bouleversement radical qu’à été le machinisme, dont je vous parlais il y a un an. L’IA est une machine qui s’inscrit dans la suite du développement des machines. Le machinisme n’est pas un à-côté du capitalisme, il en est le cœur. Les premières machines automatiques sont déjà des machines intelligentes – c’est de l’intelligence humaine encodée dans le fonctionnement de la machine. Le machinisme produisait des choses – des tissus, des outils – alors que les machines IA produisent des séquences de mots qui peuvent être des décisions. Mais la différence n’est pas fondamentale : il s’agit toujours de fabriquer automatiquement, hier seulement des choses, aujourd’hui des raisonnements – ce que Leibnitz avait déjà envisagé. Mais le texte produit par la machine ne peut que reprendre des idées déjà présentes dans une base de données. Les machines IA n’apportent donc rien de nouveau. Les robots conversationnels ne sont pas des chercheurs qui inventent des concepts ou des théories. La machine peut prévoir les ouragans mieux que les humains, mais elle ne donnera jamais une théorie du climat.

Somme toute les machines IA sont des super moteurs de recherche dont nous ne savons pas par quels moyens elles sont arrivées au résultat qu’elles donnent. Ce sont donc des machines à induction : si A est suivi de B un million de fois, la machine dit que A sera toujours suivi de B. Or l’induction peut être facilement prise en défaut comme le montre Bertrand Russel dans la métaphore de la dinde inductiviste qui est nourrie tous les matins à une heure précise et qui en conclut qu’il en sera toujours ainsi…jusqu’au matin de Noël où le fermier vient pour lui couper le cou.

Les machines IA ne penseront jamais à notre place mais elles sont en train de mettre au chômage d’innombrables travailleurs intellectuels. Telle est la première menace. La seconde, c’est l’abêtissement général que provoquent ces machines. Depuis très longtemps, notre savoir est passé dans les machines et nous sommes devenus incapables de vivre dans des conditions difficiles. Nous n’avons plus besoin d’exercer notre intelligence comme le faisaient nos ancêtres puisque, de plus en plus, tout se fait automatiquement. Nous voyons bien que les élèves qui utilisent l’IA pour faire leurs devoirs ne retiennent rien.

Le pire, c’est tout ce qui concerne la prise de décision, tout particulièrement dans le domaine militaire où l’on commence à envisager une guerre sans êtres humains. Or le choix, dans tous les domaines, ne résulte pas d’une mécanique mais de réflexions complexes. Nous n’avons pas d’algorithmes pour la morale, pour le cas de conscience. De ce point de vue, l’Intelligence artificielle est une contribution majeure à la catastrophe qui menace l’humanité.

***

Propos recueillis par Bertrand Renouvin et publiés dans le numéro 1326 de « Royaliste » – 12 juin 2026