Déshumanités numériques : l’illusion du sens
Nous avons été nombreux depuis le début d'année à voir fleurir dans nos entreprises des questionnaires sur nos usages de l’intelligence artificielle. S’il existe une réelle préoccupation pour comprendre notre maturité face à ces outils, on observe aussi une course effrénée pour maîtriser les nouveautés qui sortent chaque semaine. Cette compétition est stimulée au nom de la productivité et de l’innovation pour le progrès, mais quels sont les risques réels d'un développement massif de l’IA générative ?
Au-delà des enjeux environnementaux, quels sont les impacts profonds de ces technologies ?
M'apprêtant à rejoindre l'ENSCI - Les Ateliers pour un cursus sur l’innovation durable par le design, je m'interroge naturellement sur ces évolutions liées à l’IA. Comment ces IA peuvent-elles impacter et s’articuler avec le travail des designers? En réalité, la question peut être posée pour tous les métiers.
Le 18 mai dernier, Dominique Boullier présentait son livre Déshumanités Numériques au groupe de recherche Centre Internet et Société du CNRS que j’ai rejoint il y a quelques temps. Sa thèse s'articule autour d'un basculement civilisationnel : l’IA générative n’est pas une simple évolution technique, mais un « monopole radical ». Ce concept, emprunté à Ivan Illich, désigne ici un outil qui devient si dominant qu’il finit par modifier, dégrader, voire supprimer, nos choix, nos libertés, nos compétences humaines fondamentales.
Le passage du sens au calcul
Le grand changement avec l’IA est que nous passons d’une culture basée sur le sens (la sémantique) à une culture basée sur le calcul. Contrairement à nous, l’IA ne comprend pas le moindre mot. Elle utilise le « probabilisme fréquentiste » : elle calcule statistiquement le morceau de mot le plus probable après le précédent. En résumé : la statistique remplace la compréhension.
En mettant fin au sens, l’IA attaque trois piliers de notre société :
Notre savoir-faire technique : notre culture industrielle se transforme en un terrain de spéculation financière, ce qui affaiblit nos capacités réelles.
Notre langage : nos mots sont remplacés par des vecteurs mathématiques (des chiffres représentant des concepts).
Notre vie sociale : nous passons de débats publics régulés à une « grégarité virale ». Au lieu de réfléchir ensemble pour élaborer, nous réagissons seuls derrière nos écrans, par impulsion, à une information, qu’elle soit vraie ou fausse.
Trois mondes, trois réalités
Pour bien saisir l’impact de l’IA, il faut observer trois univers différents :
Le monde des développeurs : ils forment la « classe vectorialiste », car pour eux, le code n'est pas une langue ambigüe mais une suite de commandes mathématiques. Si l’IA permet de coder plus vite, beaucoup de développeurs saturent de ne plus écrire eux-mêmes leurs lignes de code et s’interrogent sur leur vocation. On risque, à terme, un désapprentissage massif.
Le grand public : l’IA semble de plus en plus combler un vide social, servant de compagnon face à la solitude. C’est le règne du simulacre : l’IA produit une fausse relation humaine à laquelle nous semblons nous habituer.
Le monde de l’entreprise : c'est ici que les problèmes de fiabilité apparaissent. Une organisation a besoin de données exactes, mais l’IA a tendance à « halluciner » (inventer des faits). Pour compenser, on ajoute du « maquillage sémantique » via le RAG (Retrieval Augmented Generation), une technique qui force l'IA à consulter des documents vérifiés, ou en payant des « travailleurs du clic » pour corriger ses erreurs manuellement.
Le mirage technologique
L’IA générative consomme énormément d’énergie, de ressources et nécessite d’immenses centres de données (data centers) qui occupent beaucoup de place pour très peu d’emplois créés. Malgré son manque de fiabilité, elle attire des investissements si colossaux que les pouvoirs publics n'osent plus la réguler par peur d'être « en retard ».
En écoutant Dominique Boullier j’ai pensé à l’oiseau-lyre d’Australie. Cet oiseau est le roi de l’imitation : il peut reproduire n’importe quel son à la perfection (comme une tronçonneuse ou un autre oiseau), mais il ne comprend absolument pas ce qu’il imite. Pourtant, il fait réagir les autres espèces qui pensent entendre un semblable. L’IA fonctionne de la même manière.
En tant que coach professionnel, je m'interroge sur les propositions d’accompagnement par des IA. Comment l'humain peut-il évoluer seul face à un écran produisant des mots vides de sens ? Comment avancer dans une transformation professionnelle profonde en étant seul, déconnecté de toute réalité sociale ?
Le défi de la responsabilité
L’IA privilégie l’immédiateté : elle répond en microsecondes, provoquant des réflexes rapides chez l'utilisateur. Or, pour construire des idées ou une société, l’humain a besoin de temps et de processus collectifs lents. Accepter des réponses instantanées sans vérification nous prive de la complexité nécessaire au débat humain.
En tant qu’experte lean, j'échangeais récemment avec un collègue black belt bluffé par une résolution de problème complexe assistée par IA. Pour adhérer au changement de processus, n'y a t il pas besoin d'un débat entre ceux qui produisent sur le terrain, entre managers et avec les autres parties prenantes? Le succès d'un projet en lean six sigma management ne réside pas exclusivement dans la qualité statistique de la réponse, les aspects humains y ont une place prépondérante.
Pour restaurer un débat sain, Dominique Boullier propose plusieurs solutions dont 3 retenues lors la présentation :
Limiter techniquement nos réseaux sociaux à des groupes à taille humaine (environ 150 personnes),
Restaurer notre responsabilité en devenant des « auditeurs exigeants »,
Développer notre vigilance humaine.
Face à l'appât du gain financier, aurons-nous le courage d'imposer quelques règles et quelques conditions non négociables pour le futur numérique comme le sens, la fiabilité et la responsabilité humaine ?
Le livre de Dominique Boullier va bien au-delà de ces quelques pistes de réflexion résumées ici, pour en savoir plus sur le livre de Dominique Boullier “Déshumanisés Numériques je vous invite à suivre ce lien : https://www.inshs.cnrs.fr/fr/deshumanites-numeriques
Pour plus d’anecdotes amusantes sur l’oiseau-lyre : https://youtu.be/KbIUY3yKb_g?si=tIxXSC7RSw04LQTM
Commentaires