Le discours dominant célèbre les nouvelles technologies comme matrices de l’épanouissement personnel et de l’organisation rationnelle des sociétés par couplage de l’homme et de la machine. C’est au contraire un antihumanisme radical qui s’affirme, dans une totale opacité.

Le 20 août, David Desgouilles (1) annonce sur le site du « FigaroVox » qu’il a décidé de désactiver son compte Twitter. Motif ? Ce réseau social à forte influence utilise un algorithme qui sélectionne les abonnés les plus réactifs des comptes (followers) afin de déclencher de nouveaux tweets. Cette manipulation technique, qui se pratique aussi sur Facebook, favorise les polémiques montées par des groupuscules, avec reprise des plus outrancières par les autres médias. Qu’importent les dégâts, pour les personnes transformées en boucs émissaires, et pour une société déjà profondément divisée…

Bien entendu, ce n’est pas l’algorithme qui est responsable de cette violence. Il a été conçu par des mathématiciens grassement rémunérés par des sociétés classiquement capitalistes en ce sens qu’elles cherchent à maximiser les profits qu’elles tirent de leurs trouvailles techniques. L’accès à Facebook et Twitter est gratuit et les utilisateurs ont l’illusion de participer à un aimable système planétaire d’échange d’idées et de services.

Bien entendu, ce n’est pas l’algorithme qui est responsable de cette violence. Il a été conçu par des mathématiciens grassement rémunérés par des sociétés classiquement capitalistes en ce sens qu’elles cherchent à maximiser les profits qu’elles tirent de leurs trouvailles techniques. L’accès à Facebook et Twitter est gratuit et les utilisateurs ont l’illusion de participer à un aimable système planétaire d’échange d’idées et de services. Cette illusion est entretenue par un discours publicitaire qui rassemble les nouvelles techniques dans une nouvelle idéologie d’un Progrès scientifique, apolitique, inéluctable et bienfaisant puisqu’il nous permet d’étendre nos relations, de développer nos connaissances, de mieux nous soigner, de mieux circuler dans les villes, de commander les objets que nous désirons sur d’immenses catalogues et de les recevoir dans des délais records. C’est bien ce que nous voyons sur notre ordinateur et c’est bien ce que nous faisons grâce aux applications de nos téléphones portables. Téléphones intelligents, villes intelligentes, voitures intelligentes grâce à des inventeurs géniaux ! Tout nous invite à glorifier l’intelligence artificielle qui décuplera nos capacités et notre liberté…

Dans son nouvel ouvrage (2), Eric Sadin détruit le credo de la nouvelle religiosité technicienne. Le discours sur l’intelligence artificielle relève de la métaphore. Les machines peuvent collecter et analyser d’énormes quantités de données mais celles-ci ne portent que sur une infime partie de la réalité – celle que l’on peut dénombrer, numériser et mathématiser. L’intelligence machinique traite une petite partie du réel alors que l’intelligence humaine crée de la réalité par la puissance de son imagination et par sa capacité à engendrer des formes symboliques tout en appréhendant divers aspects du réel par l’intuition autant que par la raison. Alors que l’intelligence humaine est capable d’enrichir le réel, les nouvelles technologies le réduisent et le déshumanisent. Eric Sadin explique que nous entrons dans “l’âge anthropomorphique de la technique” où l’on assigne aux machines “intelligentes” le dépassement des capacités cognitives de l’homme, mais dans des domaines circonscrits, et où l’on tente de leur donner la capacité d’engager automatiquement des actions qui relèvent d’ordinaire de décisions humaines. Ce progressisme technoscientifique reprend le vieux rêve d’une harmonie par les nombres en établissant une analogie trompeuse entre l’ordinateur, le cerveau humain et le fonctionnement de la société. La gouvernance par les nombres (3) d’une société parfaitement rationalisée peuplée d’hommes couplés aux machines semble sur le point de s’accomplir, pour le bien de l’humanité.

Cette biotechnologie est d’autant plus fascinante qu’elle semble accorder à l’individu une connexion immédiate avec le monde entier, le don d’ubiquité et la possibilité de satisfaire dans l’instant ses désirs. Je regarde tout de suite, à 3 heures du matin, le film que j’ai choisi sur Netflix. Je commande sur Deliveroo un repas livré dans le quart d’heure. Je me branche sur une caméra qui filme en direct les manifestations de Hong-Kong… Tout cela est d’autant plus attrayant qu’on nous répète que la technique est neutre et qu’il nous appartient de faire bon usage des immenses possibilités qui nous sont offertes. C’est faux. Les techniques que l’on met en œuvre résultent toujours de choix politiques ou anti-politiques, religieux, de projets utopiques ou d’ambitions idéologiques. Tel est le cas, pour ce qui concerne l’intelligence artificielle. Eric Sadin la définit comme une “techno-idéologie permettant de faire se confondre processus cérébraux et logiques économiques et sociales ayant pour base commune leur élan vitaliste et leur structure connexionniste hautement dynamique”.

Les nouvelles technologies ne sont pas sorties du cerveau de quelques génies. Elles ont été développées aux Etats-Unis, dans un bain religieux et idéologique spécifique, et en Californie sous l’égide du complexe militaro-industriel. Elles sont aujourd’hui soumises aux décideurs économiques qui ont su mobiliser les immenses capacités offertes par l’informatique pour réaliser de non moins immenses profits selon les normes hautement favorables de l’ultralibéralisme. L’idéologie est utilitariste. La volonté de puissance est totale, voire totalitaire, car les nouvelles technologies mises en place sont en train de transformer la société – ses échanges commerciaux, ses villes appelées à devenir “intelligentes” – mais aussi les êtres humains.

L’ubérisation est un phénomène visible et l’exploitation cynique des chauffeurs de taxis et des livreurs de repas à domicile est notoire. Des émissions de télévision ont montré la robotisation des employés d’Amazon et les conditions de travail insoutenables des ouvriers chinois qui fabriquent nos téléphones. L’exploitation d’une main d’oeuvre servile par des firmes transnationales s’accompagne d’une prise en main de professions et de services publics qui tendent à abolir le politique selon le rêve des ultralibéraux et des libertariens qui rencontre les préoccupations d’efficacité de la gouvernance. Pour résoudre la crise des hôpitaux, et la pénurie de médecins, on veut développer le diagnostic et les soins à distance. Pour désencombrer les tribunaux, on compte sur les logiciels d’aide à la décision judiciaire et nous voyons se développer les systèmes de surveillance policière – qu’il s’agisse de la voie publique, du téléphone ou des réseaux sociaux. On fait de grosses économies en remplaçant les hommes par des machines mais les conséquences sont littéralement incalculables.

Ce qui est en train de s’établir, écrit Eric Sadin, c’est un “nouveau régime de vérité” qui prétend s’occuper de l’intégralité des affaires humaines en toutes circonstances, en temps réel, et qui exerce son autorité à partir d’une source unique et selon le principe d’utilité. Cela signifie que le temps de la délibération est effacé, que toute contestation est éliminée et que nous sommes en train d’abandonner, en même temps que notre faculté de juger, notre responsabilité dans la conduite des affaires humaines. Laissons-nous guider par les algorithmes pour trouver des films, nos “amis” sur Facebook mais aussi les meilleurs employés possibles, puis pour surveiller leurs cadences de travail… On croit se confier à un système parfaitement rationnel et bienveillant par son efficacité même alors qu’il est conçu pour exploiter les êtres humains, les surveiller et les punir.

A l’aide d’exemples concrets, Cathy O’Neil montre dans son livre que la “bombe algorithmique” (4) est une arme de destruction massive des hommes et des sociétés. A leur insu, ceux qui naviguent sur Internet font l’objet d’un profilage de plus en plus fouillé en fonction des pages qu’ils consultent, des publicités qu’ils regardent, de leurs lieux de vacances, de l’emploi qu’ils occupent, des crédits qu’ils demandent, du quartier qu’ils habitent. Les firmes comme Amazon peuvent prévoir et orienter les choix et les employeurs peuvent trouver des indications précieuses sur le comportement social et politique qui s’exprime par le biais de Twitter et de Facebook. Mais Cathy O’Neil montre que les modèles d’évaluation et de prédiction des comportements sont conçus selon des préjugés sociaux qui aggravent les classiques erreurs dans l’interprétation des statistiques. Ceux qui ont un profil de pauvre recevront des offres de crédit pour pauvres, des publicités pour produits médiocres et seront enfermés dans un statut punitif qui les définira jusqu’à la tombe. C’est ainsi que l’intelligence artificielle, qui utilise et prolonge les données du passé, crée sa réalité économique et sociale et aggrave l’injustice sociale.

La démocratie n’est pas moins menacée par les nouvelles technologies qui assurent la transparence des comportements individuels. La conception des systèmes “intelligents” est en effet aussi opaque que les objectifs visés par les firmes transnationales. De plus, nous sommes sous la menace d’un contrôle social et politique que la Chine est en train d’installer et qui fonctionne sur le mode de la punition des mauvais comportements et de la rétribution des bonnes conduites.

Il va presque sans dire que l’autorégulation du système est un leurre. Il faudra l’intervention de la puissance publique mais aussi la résistance des professions menacées, des actions syndicales de grande ampleur et la mobilisation des citoyens qui ont déjà pris conscience des enjeux pour l’avenir de notre civilisation.

***

(1)«Quittons Twitter, cette Cour ridicule» Essayiste et romancier, David Desgouilles a été l’invité des Mercredis de la NAR.

(2) Eric Sadin, L’intelligence artificielle ou l’enjeu du siècle, Anatomie d’un antihumanisme radical, L’Echappée, 2018. On peut retrouver sur mon blog la présentation d’autres ouvrages d’Eric Sadin.

(3) Cf. Alain Supiot, La Gouvernance par les nombres, Cours au Collège de France (2012-2014), Fayard, 2018.

(4) Cathy O’Neil, Algorithmes, La bombe à retardement, Les Arènes, 2018.