Voici une nouvelle pierre que je découvre et ajoute à mon édifice « technocritique » contre les IA : comme le titre l'indique, elle concerne l'organisation algorithmique du travail, conçue comme une forme de taylorisme. Deux points constituent l'axe de la thèse du livre : la promotion marketing de l'IA contenue dans le débat médiatique tout entier, dépolitise les critiques et tend frauduleusement à faire concevoir cette technologie comme désirable, nécessaire ou a minima inévitable. La critique met en lumière des problèmes jugés secondaires – les questions éthiques et de surveillance, la disparition des emplois – en occultant les difficultés techniques, les échecs passés, et surtout la dégradation des conditions de travail liée au « commandement algorithmique » déjà en cours. Le deuxième point consiste à parcourir l'aspect dynamique des applications du taylorisme par les nouvelles technologies numériques, pour montrer la continuité de son esprit de parcellisation des tâches et de dessaisissement des compétences des ouvriers par la séparation de la conception de l'exécution. Dans cette évolution historique s'inscrit la « dépossession machinique des professions qualifiées » qui a pour ancêtres la « machinerie outil à commande numérique », les systèmes de reconnaissance interactive de la voix, des empreintes digitales, et la géolocalisation des salariés, les « systèmes experts », les traducteurs automatiques, etc. Un chap. spécifique est consacré au « commandement algorithmique » : c-à-d. à l'utilisation des algorithmes dans le management afin de « diriger, évaluer et discipliner » les salariés. Ces technologies sont associées notamment aux plateformes numériques, comme Uber, mais elles se répandent rapidement dans de nombreux autres secteurs et industries.
La conclusion de l'essai prône un « renouveau luddite », entendu comme un rejet radical de certaines modalités spécifiques de recherche et développement de l'IA, sachant qu'elles ne sont pas nécessairement « meilleures », ni plus « avancées » ni fatalement inévitables que d'autres, antagonistes : en somme, sont invoqués des « dispositifs de désenchantement » de l'IA (Harry Collins, 2018) (cit. p. 20).



Cit. :


1. « Il faut écouter les voix minoritaires qui martèlent qu'il faut moins se focaliser sur les emplois potentiellement "remplacés" par l'IA que sur ses effets sur la qualité de l'emploi.
Une perspective "technocritique" considère en outre que la technologie n'est pas neutre, que si une technologie est pensée dès le départ comme un instrument de domination, il ne suffit pas qu'elle change de propriétaire pour être mise au service de la majorité. Il s'agira aussi de retourner l'accusation d'obscurantisme : les obscurantistes, ce ne sont pas ceux qui refusent l'omniprésence de l'IA, qui envahit chaque aspect de notre quotidien, ni ceux qui refusent la surveillance de masse, la dégradation du travail ou les effets écologiques néfastes de la Tech. Ce sont au contraire ceux qui vouent une confiance aveugle, presque religieuse, à une technologie développée dans l'intérêt privé d'une poignée de patrons. » (pp. 17-18)

2. « [...]"Le déplacement des recherches en IA d'une 'machine symbolique' vers une 'machine connexionniste' n'est donc pas la conséquence d'une mutation de l'histoire des idées, ou de la validité d'un modèle scientifique sur un autre, mais le résultat d'une controverse qui a conduit les acteurs à déplacer, transformer et redéfinir profondément la forme donnée à leurs artefacts." [D. Cardon, J-Ph. Cointet, Antoine Mazières, "La revanche des neurones" (2018)].
En lien avec la lutte au sein du champ disciplinaire de l'IA, le deuxième facteur structurant tient au rôle des "attentes technologiques" et de la création de 'hypes' au cours des différentes "vagues" de l'IA. […] Le discours dominant sur le changement technologique, entretenu par les entrepreneurs du numérique, par les médias et par les gouvernants, a tendance à minimiser la complexité de la recherche et les obstacles auxquels fait face l'innovation dans un domaine donné. Les échecs passés, malgré leur récurrence, sont singularisés. Ils sont décrits comme exceptionnels et n'auraient rien à voir avec les 'hypes' contemporaines, qui seraient différentes des 'hypes' passées. » (pp. 42-43)

3. « Le traitement médiatique de l'IA peut être "critique" et évoquer les risques existentiels, économiques ou politiques liés à cette technologie. Mais sa véritable limite réside dans le cadre conceptuel qu'il déploie : au lieu de permettre l'existence d'un débat sur les applications de l'IA, sans même parler de sa conception, il contribue à entretenir les promesses technologiques.
Qui plus est, cette couverture est fonctionnelle au regard des intérêts de l'industrie de l'IA. Elle lui assure de la visibilité, l'attention du public et des investisseurs. » (pp. 53-54)

4. « La direction de l'entreprise, dit Braverman [Harry, _Travail et capitalisme monopoliste_ (2023)], s'occupe principalement de la "structure formelle" permettant le processus de travail, donc du 'quoi' et du 'comment'. Cependant, à mesure que des connaissances scientifiques sont incorporées au processus de travail, que la science est mise au service du capital, à travers de nouveaux produits ou de nouveaux procédés, le contenu du travail, sa dimension technologique, le 'avec quoi', change aussi. La nécessité d'adapter les travailleurs au capital ne s'arrête pas avec la généralisation du taylorisme, c'est "un processus incessant et sans fin". Il faut non seulement des spécialistes de l'organisation du travail ou des disciplines chargées d'atténuer ou de gérer les effets de l'organisation scientifique sur la main-d’œuvre, mais aussi de nouveaux outils pour mieux séparer la conception de l'exécution. Le taylorisme est donc 'augmenté' par les nouvelles technologies, qui renforcent les dynamiques de parcellisation du travail et de dissociation entre la conception et l'exécution [...] » (pp. 95-96)

5. « Le fonctionnement de l'IA générative, comme celui des autres IA, dépend très fortement du travail humain.
[…]
[…] L'activité – invisibilisée et mal payée – d'une multitude de micro-travailleurs précaires est également nécessaire au développement et au bon fonctionnement des IA. Ces travailleurs jouent un rôle central dans le paramétrage des IA génératives : ils nettoient, annotent et vérifient les données qui les alimentent. Au Kenya, OpenAI les rémunère 2 dollars de l'heure pour entraîner ChatGPT afin de le rendre moins violent, raciste et sexiste et de corriger ses "hallucinations", qui ne sont pas des "erreurs", mais un trait constitutif de cette technologie, puisque les IA incorporent les biais contenus dans leurs données d'entraînement et ceux de leurs performances passées. » (pp. 111, 112-113)

6. « C'est pour cette raison que le contexte, les sous-entendus, l'humour, l'ironie, ou le double sens, ont tendance à échapper à la traduction automatique. C'est pour cette même raison que, malgré la publicité qu'en font les médias ou l'industrie de l'IA, la qualité de la traduction automatique est en dernière instance assez pauvre, puisque de nombreuses entreprises se contentent d'une traduction "good enough", suffisamment bonne pour être comprise.
Un des principaux vecteurs de déqualification du métier réside donc, comme chez les journalistes, dans la perte de contrôle du geste créatif. La traduction automatique prive les traducteurs du premier jet et des allers-retours possibles avec l'auteur, et réduit leur travail à de la post-édition. Le travail des traducteurs s'intensifie en conséquence et devient plus pénible : en traduisant un texte, l'IA produit inévitablement des hallucinations, des ajouts, des omissions ou des approximations lexicales que les traducteurs doivent corriger. » (pp. 123-124)

7. « Bien que le management algorithmique se soit surtout développé au sein de l'économie de plateforme, il ne la concerne pas exclusivement. Une gestion "algocratique" de la main-d’œuvre existait bien avant l'essor des plateformes numériques, de la même façon que le management algorithmique s'est étendu peu à peu à d'autres secteurs d'activités, comme la logistique, l'industrie, le commerce, etc., où l'on ne trouve pas des travailleurs "indépendants", mais des salariés. Le management algorithmique vient donc s'ajouter à l'organisation du travail existante, tout en la transformant.
On trouve aujourd'hui dans le management algorithmique les différentes déclinaisons du commandement constitutives de tous les systèmes de gestion de la main-d’œuvre. Premièrement, la 'direction', c'est-à-dire la coordination du travail par l'employeur : qui fait quoi, comment et avec quoi. Deuxièmement, 'l'évaluation', à savoir la supervision du travail, le contrôle de la qualité, l'appréciation de la performance des travailleurs. Enfin, troisièmement, la 'discipline', plus précisément les punitions et récompenses destinées à favoriser l'engagement des travailleurs dans le travail. Nous verrons que ces différentes composantes du commandement par les algorithmes s'alimentent les unes les autres et renforcent le 'contrôle algorithmique' au travail. » (pp. 142-144)

8. « Pourtant, les débats relatifs à cette prétendue nouvelle révolution industrielle se posent dans des termes similaires à ceux du XIXe siècle. D'autant qu'un "luddisme diffus" émerge à l'égard de l'IA, qui s'exprime par le refus de son omniprésence dans la vie quotidienne, par la peur de son incidence sur certaines professions intellectuelles ou artistiques, mais aussi par le rejet de figures de patrons de la Tech comme Elon Musk, Mark Zuckerberg ou Jeff Bezos. Toutefois, contrairement au luddisme historique, il ne s'incarne pas dans un mouvement de contestation de masse ancré dans les mondes du travail, mais, souvent, dans un rejet individuel et une approche morale de l'IA.
Un renouveau luddite face à l'IA aurait toute sa place aujourd'hui, d'autant plus que, contrairement à ce que croit le sens commun, le refus violent de la mécanisation à l'aube de l'industrialisation n'était en rien une réponse irrationnelle au "progrès" ou une violence qui manquait sa vraie cible, mais une stratégie parmi d'autres déployées par les ouvriers pour préserver leur indépendance et pour garder un contrôle sur l'organisation du travail. À leurs yeux, les machines représentaient la fin des savoir-faire, la perte de contrôle sur leur travail et la destruction des communautés ouvrières. Cela est confirmé, entre autres choses, par le fait que les luddites ne s'en prenaient pas à toutes les machines, mais seulement à certaines d'entre elles, notamment à celles destinées à la production de masse. » (pp. 177-179)

----
[Recherchez la page de l'auteur de ce livre sur Wikipedia]