[L'Intelligence artificielle ou l'enjeu du siècle | Eric Sadin]

Je poursuis par cette lecture mon exploration de l'ontologie des phénomènes numériques, par cette analyse des conséquences de l'avènement de l'intelligence artificielle. Le philosophe Eric Sadin, déjà auteur de _La Siliconisation du monde. L'irrésistible expansion du libéralisme numérique_ (2016), publiant très récemment sur le même thème _Le Désert de nous-mêmes_, se range sans ambiguïté du côté des critiques de l'IA, vue comme « antihumanisme radical » voire comme menace pour l'humanité. Dans cet essai, il examine les enjeux d'une technologie qui, pour la première fois, prétend « énoncer la vérité ». Tirant son autorité d'une expertise qui paraît plus fiable que le savoir humain, notamment grâce au « machine learning », l'IA est conçue non pas pour « contrôler » les personnes à travers l'espionnage de leurs « données personnelles », comme le dénoncent la plupart des critiques qui s'inquiètent ainsi à peu de frais de « l'arbre qui cache la forêt », mais plutôt, bien plus subrepticement, d'« orienter la conduite des affaires humaines ». Sous couvert de conseils et d'assistance (comme le serait le cas de la voiture autonome), il est question en réalité d'une attribution de pouvoirs, qui se déclinent en incitatifs, impératifs, prescriptifs jusqu'à coercitifs, lorsqu'ils sont appliqués au champ de l'organisation du travail.
Ces pouvoirs constituent la mise en œuvre d'une idéologie, dans la mesure où sous couvert d'optimisation, de fluidification, de sécurisation des comportements humains escomptés, le but recherché est que chaque comportement soit comparé, monétisé et orienté à des fins utilitaristes. Surgit ainsi une « main invisible automatisée », complètement congruente avec le néolibéralisme et le consumérisme, qui opère cependant au détriment du libre exercice de la faculté de jugement et d'action individuelle. Un certain nombre de champs d'application de l'IA sont explorés – de la relation client aux chatbots, de l'éducation à la médecine, où domine invariablement une finalité marchande et hiérarchisante qui est in fine antihumaniste et antipolitique. En effet, est mise en avant une « rationalité normative promettant la perfection supposée en toute chose », laquelle est contradictoire avec la rationalité humaine « fondée sur la pluralité des êtres », leur égale dignité dans la différence et « l'incertitude inhérente à la vie ». L'essai se pousse jusqu'au seuil, qu'il ne franchit pas, de poser l'analogie entre l'IA et une sorte de divinité supposée omnisciente mais réellement en passe d'être omniprésente et dotée de pouvoirs sans cesse croissants, compte tenu surtout de l'identité d'intérêts enfin réalisée entre le politique, l'économique et la recherche scientifique.
Cette analyse étant menée soulignant toute l'ampleur de son effarante menace – qui s'étend jusqu'au spectre de la « disparition du réel », la cinquième et dernière partie de l'ouvrage est consacrée aux préconisations de résistance contre l'avancée de l'IA. Malheureusement j'ai trouvé cette partie rapide et un peu bâclée, abordant avec superficialité certaines problématiques – telles les insurrections anticapitalistes du Comité invisible, ou la réflexion sur le revenu universel, ou même la pensée de Gramsci sur l'hégémonie etc. - qui sont à la fois beaucoup plus complexes que l'auteur ne veut l'admettre, et pas vraiment en rapport avec le vif de son sujet d'étude. Lorsque l'ouvrage a paru, en 2018, un aspect de la « disparition du réel » n'était peut-être pas encore d'actualité : l'alimentation du Web en données de moins en moins distinctes entre celles l'origine humaine et celles générées par l'IA.



Table [avec appel des cit.]


Introduction – Le surmoi du XXIe siècle [cit. 1, 2]

I – Le tournant injonctif de la technique :

1. Une brève histoire de l'informatique (d'un surcroît de maîtrise à l'assistanat automatisé de l'action humaine)
2. Le devenir anthropomorphique [cit. 3]
3. Le 'machine learning' : vers des technologies de la perfection [cit. 4]
4. Des interfaces ergonomiques aux dispositifs relationnels [cit. 5]

II – Le pouvoir d'énoncer la vérité :

1. L'émergence d'un nouveau régime de vérité [cit. 6]
2. Le stade incitatif de la vérité : au plus près des corps et des esprits [l'IA vers « une relation client hyperpersonnalisée et ininterrompue » et les chatbots]
3. Le stade impératif de la vérité : des dispositifs à éradiquer le doute [l'IA dans la prise de décisions – recrutement, banque et assurance, justice, instruction]
4. Le stade prescriptif de la vérité : Hippocrate mis sous le joug du privé [l'IA dans la médecine]
5. Le stade coercitif de la vérité : une puissance de sidération [l'IA dans l'organisation du travail]

III – La main invisible automatisée :

1. Un Léviathan algorithmique
2. L'humain mis au ban
3. Le règne du comparatif [cit. 7]
4. Bitcoin et Blockchain : le stade ultime de la société du contrat

IV – Le paradis artificiel :

1. La nécessité fait loi ou la liquidation du politique [cit. 8]
2. L'administration automatisée des conduites
3. Théorie de la voiture autonome
4. L'avènement d'un « pouvoir-kairos » [cit. 9]
5. Le séquençage et la disparition du réel

V – Manifeste de l'action au temps de l'exponentiel :

1. Faillite de notre conscience
2. Pour un conflit de rationalités
3. Maintenant, il faut des armes
4. Le chant des divergences

Épilogue : Moi, un poulpe sceptique



Cit. :


1. « Les dispositifs 'alèthéiques' sont appelés, par leur sophistication sans cesse croissante, à imposer leur loi, orientant du haut de leur autorité les affaires humaines. Et ce, non pas de façon homogène, mais à différents degrés, pouvant aller d'un 'niveau incitatif', à l’œuvre dans une application de coaching sportif suggérant tel complément alimentaire par exemple, à un 'niveau prescriptif', dans le cas de l'examen de l'octroi d'un emprunt bancaire, jusqu'à atteindre des 'niveaux coercitifs', particulièrement dans le champ du travail, voyant des systèmes édicter les gestes à exécuter. Dorénavant, une technologie revêt un "pouvoir injonctif", le libre exercice de notre faculté de jugement et d'action se trouve substitué par des protocoles destinés à infléchir chacun de nos actes ou chaque impulsion du réel en vue de leur insuffler, presque de leur "souffler", la bonne trajectoire à suivre.
L'humanité se dote à grands pas d'un organe de dessaisissement d'elle-même, de son droit à décider, en conscience et en responsabilité, des choix qui la regardent. Un statut anthropologique et ontologique inédit prend forme qui voit la figure humaine se soumettre aux équations de ses propres artefacts, dans l'objectif prioritaire de répondre à des intérêts privés et d'instaurer une organisation de la société en fonction de critères principalement utilitaristes. » (p. 16)

2. « […] Dès lors que l'on prétend se soucier d'éthique, on en vient aux questions indéfiniment ressassées relatives à la protection des données personnelles et à la "défense de la vie privée". Ces postures, se restreignant au seul souci de préserver l'intérêt particulier et confinant à une forme de bonne conscience arborée à peu de frais, possèdent le défaut majeur d'occulter d'autres enjeux au moins aussi décisifs. Car l'essentiel de ce qui se joue échappe à ce que l'on entend par cette conception, à savoir les modes de vie individuels et collectifs qui émergent, appelés à être toujours plus orientés par des systèmes nous dépossédant de notre faculté de jugement et qui ne se trouvent jamais soumis au prisme éthique, alors qu'ils devraient l'être dans la mesure où ils constituent une offense aux principes juridico-politiques qui nous fondent. À l'opposé d'une éthique réduite à la seule sphère personnelle, il serait temps de cultiver une éthique de la responsabilité pleinement soucieuse de défendre le droit à l'autodétermination de chacun et celui de la société tout entière. » (p. 24)

3. « C'est à cette enseigne que l'intelligence artificielle ne représente pas seulement une technologie, mais qu'elle incarne plus exactement une 'techno-idéologie', permettant de faire se confondre processus cérébraux et logiques économiques et sociales ayant pour base commune leur élan vitaliste et leur structure connexionniste hautement dynamique. La conformation à la grossière allure anthropomorphique affectée aux architectures computationnelles relève d'un habile et somme toute brillant tour de passe-passe qui ne doit pas nous tromper, contribuant à généraliser un mode de rationalité spécifique fondé sur la destination utilitariste et lucrative de chaque séquence de la vie et calqué sur une substance organique qui l'inscrirait dans un "ordre naturel des choses". » (p. 57)

4. « Car le propre des systèmes de divulgation de la vérité, c'est qu'ils sont comme inéluctablement voués à prendre la forme de 'technologies de la perfection' et à imposer avec toujours plus de fermeté leur autorité à la communauté des vivants. Dimension que nous ne saisissons pas bien encore – il est probablement trop tôt – qui verra l'intelligence artificielle, par son efficacité indéfiniment éprouvée et l'éclat de son aura corollaire, marginaliser l'intuition humaine, allant, à terme, jusqu'à la délégitimer, rendant vaine ou inopérante toute prise de décision dépendant de notre propre conscience.
La concession qui est accordée à des magmas de code de vivre des sortes "d'existences autonomes" entraîne un tout nouveau type d'"auto-accroissement de la technique", pour reprendre l'expression de Jacques Ellul, de l'intérieur de systèmes en quelque sorte, et qui produit un effet singulier : une forme d'éloignement à l'égard des humains. Nous n'avons pas affaire à des créatures qui nous "échapperaient", susceptibles de se retourner un jour contre leur "géniteur", conformément à un imaginaire inconséquent assez en vogue, mais à des entités vouées à nous devenir toujours plus étrangères. À un tel point que des "échanges communicationnels" entre des protocoles nous seraient devenus incompréhensibles. Un nouveau genre de "boîte noire" apparaît, non plus celle induite des bases de données ou des algorithmes qui interdisent de facto aux utilisateurs, par leur opacité structurelle, de saisir leur constitution, mais celle qui serait le fait de chaînes de caractères dont l'évolution des combinaisons nous deviendrait toujours plus obscure [...] » (p. 63)

5. « Un nouveau milieu surgit – non pas tant réactif, qui verrait les choses continuellement réagir à nos présences, conformément à ce qui était annoncé, pour large partie à tort, au mitan des années 2000, par le fait de l'émergence présumée d'une informatique dite 'ambiante' ('ubiquous computing') –, mais qui 'interprète nos gestes pour nous dire des choses'. Le corps n'est plus situé face à la machine […] mais est dorénavant appelé à évoluer au sein d'un environnement qui, de partout et sous diverses formes, le saisit, analyse ses états et rétroagit à diverses fins. Le corps devient – nous devenons – le cœur de l'attention des systèmes.
Ladite "économie de l'attention", fondée sur le traçage de nos navigations Internet entraînant une connaissance sans cesse approfondie de nos intérêts en vue de faire l'objet d'une monétisation, mue en une économie de l'attention des machines portée à notre endroit en vue de conduire à une "bonne gestion" de la vie. Les systèmes de reconnaissance faciale s'inscrivent dans cette dimension, étant depuis peu utilisés pour activer l'ouverture de smartphones ou réaliser des transactions sur des terminaux de paiement par exemple. » (p. 75)

6. « Jamais dans l'histoire, un régime de vérité ne se sera ainsi imposé, non par sa force de séduction ou par son emprise contraignante, mais par le sentiment partagé d'une évidence, par la production d'équations dont il est entendu qu'elles sont les plus appropriées, conformément au principe qui veut que les systèmes cognitifs soient des "Evidence-Based Systems", soit des systèmes fondés sur le principe de la révélation de faits qu'ils exposent alors à notre conscience et dont il relève d'une évidence de nous y accorder. Car 'l'alètheia' algorithmique procède d'une 'puissance de révélation', promise à exercer son génie le long d'un continuum sans coutures allant du moindre détail de nos existences jusqu'à des situations collectives, comme nulle autre instance symbolique tutélaire ne l'avait fait jusque-là.
Nietzsche avait dénoncé la volonté d'ériger une vérité prétendument absolue et objective des choses, c'était là son combat majeur ; [...] » (p. 86)

7. « Un régime de rationalité techno-économique devient un régime de rationalité intersubjectif et social. Comment ne pas voir que c'est la psyché collective qui est comme transie par cette dynamique, mettant les personnes continuellement en parallèle, dans le travail, les groupes affinitaires, les rapports humains, se voyant rapportées à des valeurs assignables, éradiquant le principe juridico-politique jusque-là situé au fondement de notre civilisation, à savoir l'affirmation de la singularité irréductible de chaque être. Comment ne pas saisir les processus d'intériorisation qui insidieusement s'opèrent ; chacun étant affecté d'une sorte de "score" et travaillant, bon gré, mal gré, consciemment ou inconsciemment, à le faire progresser et à le capitaliser.
Comment ne pas voir dans cette comparatologie intégrale une violence symbolique extrême qui bafoue l'"estime de soi" et la "dignité humaine" [...] » (p. 164)

8. « Margaret Thatcher, en son temps, l'avait affirmé : "La société n'existe pas" ("There is no such thing as society"). […] Ce n'est finalement que trois décennies plus tard, par l'effet de l'exploitation tous azimuts et fort ingénieuse de l'intelligence artificielle par les forces technolibérales que la société est en passe de disparaître. C'est alors que la politique ne revêt plus de pertinence, que sa raison d'être s'effondre. Elle n'existe plus, ou alors on l'abandonne aux régimes autoritaires, ce qui constitue une faute grave, étant focalisés sur l'unique souci de déléguer à des mécanismes impersonnels, qui offensent notre droit à nous prononcer librement, le soin d'organiser les choses […] Ce tournant s'opère au moment exact de la crise contemporaine de la démocratie et de la crise de la représentativité. Dans notre période troublée, on voudrait charger, consciemment et inconsciemment, l'intelligence artificielle de résoudre nombre de nos difficultés. Plus la société est ingouvernable, plus on entend octroyer à une technologie le soin de régenter nos existences. » (pp. 186-187)

9. « Est-on capable de saisir le distinguo décisif qui se joue entre "contrôle" et "emprise" ? L'un et l'autre ne renvoyant pas aux mêmes finalités. Le contrôle entend restreindre la marge d'action et s'assurer d'une maîtrise, l'emprise cherche à être présente, à instaurer une relation en vue d'un objectif déterminé et ne devant en théorie jamais s'interrompre. […]
Ce qui singularise le pouvoir-kairos, c'est qu'il est polymorphe et adaptatif, qu'il n'entend pas se restreindre à un registre limité de fonctions mais répondre à toutes les circonstances de la vie, il affirme vouloir nous protéger, se charger de notre hygiène et de notre bien-être, nous délivrer de l'effort, nous faire indéfiniment profiter de toute situation, nous distraire... Car il sait habilement jouer avec nos peurs, nos angoisses, nos manques, nos secrètes aspirations, nos limites. Il est doté d'une connaissance émotionnelle qui ne cesse de s'affiner, confinant à un savoir psychanalytique. Il semble encore condenser des vertus jusque-là antagonistes, offrant à chacun le meilleur de ce qu'il est en droit d'attendre, tout en prétendant participer à la bonne organisation d'ensemble [...] » (p. 213)

----
[Recherchez la page de l'auteur de ce livre sur Wikipedia]