« L’IA générative crée une aliénation langagière et idéologique »

François Rastier, professeur émérite au CNRS, est un linguiste spécialisé en sémantique de corpus ; il a travaillé pendant une décennie dans un laboratoire d’intelligence artificielle. Il a publié en 2025 L’IA m’a tué. Comprendre un monde post-humain (Intervalles) et dirigé le Cahier de sémiotique des cultures (n° 5) intitulé « IA et culture ».

On observe un trouble de la responsabilité du discours tenu par le chatbot (1), dilué dans les algorithmes. Assiste-t-on à une mort de l’auteur et qu’est-ce que cela implique ?

Cette confiance dans des systèmes opaques menace les démocraties comme elle renforce les dictatures.

François Rastier : Les textes sans auteur individuel identifiable sont ordinaires dans le discours administratif, judiciaire, etc. ; l’institution qui les promulgue les garantit et leur confère une autorité, si discutable soit-elle. Or l’énonciateur des propos d’un chatbot est soigneusement dissimulé par un nom de convention, comme Claude, Gemini, etc.

Qui se cache derrière ? Le corpus d’apprentissage  L’utilisateur, dont le système reprend les propos pour renchérir sur lui et tendre un miroir narcissique au client roi ? Plus certainement, un oligarque à capuche ou à cravate, peu importe ici qu’il soit privé ou public, américain, chinois ou bientôt européen. Appuyée par divers biais de customisation, c’est alors l’idéologie managériale qui parle directement. Elle est pourtant accueillie avec une telle confiance que, par exemple, la majorité des justiciables préfèrent être jugés par une IA que par un juge.

Le rapprochement semblerait forcé, si des oligarques de la tech comme Thiel ou Musk ne multipliaient pas les références positives au nazisme.

Déjà, en 1964, un premier chatbot, Eliza, prodiguait des relances, comme une psychanalyste de convention, et son créateur, Joseph Weizenbaum, fut angoissé de voir que les utilisateurs multipliaient les confidences les plus intimes. Depuis qu’elle a été renforcée, cette confiance dans des systèmes opaques menace les démocraties comme elle renforce les dictatures. Depuis le début d’internet, l’anonymat n’avait hélas cessé d’éroder la responsabilité, mais avec l’IA générative, leurre parfait, l’irresponsabilité semble devenue la norme.

Quelles sont les grandes caractéristiques de ce langage statistique ? Des comparaisons historiques avec d’autres instrumentalisations de la langue peuvent-elles être tenues ?

Deux tendances lourdes se dégagent : en premier lieu, la chute de la diversité linguistique et notamment la standardisation lexicale. C’est là sans doute une rançon inévitable de l’industrialisation en cours. Cela rapprocherait le langage de l’IA de cette critique, formulée voici presque deux siècles, par Alexis de Tocqueville contre le langage administratif de l’Ancien Régime : « Le style est également décoloré, coulant, vague et mou. La physionomie particulière de chaque écrivain s’y efface et va se perdant dans une médiocrité commune (2). »

Or le totalitarisme exerce aussi son pouvoir par la restriction du vocabulaire ; par exemple, Goebbels notait dans son Journal (1939-1942) : « Nous ne voulons pas convaincre les gens de nos idées, nous voulons réduire le vocabulaire de telle façon qu’ils ne puissent plus exprimer que nos idées. » Le rapprochement semblerait forcé, si des oligarques de la tech comme Thiel ou Musk ne multipliaient pas les références positives au nazisme.

On trouve en deuxième lieu une tonalité euphorisante, évaluée par des méthodes classiques d’analyse des émotions, où les biais algorithmiques flattent le client roi. Annoncé de longue date par le triomphe américain de la méthode Coué, cette autosuggestion par répétition de propos « motivants » et la positivité prescrite par le secteur du développement personnel, l’optimisme généralisé se trouve à présent prescrit et renouvelé par l’idéologie de la tech – en deçà même de la désinformation.

Certains des décrets de Donald Trump semblent rédigés par IA.

Un indice ne trompe pas : un ami a fait discuter entre eux quatre chatbots et, au bout de dix minutes, ils se couvraient réciproquement de flagorneries. On peut sourire, mais le « kitsch nazi » mélangeait déjà mièvrerie et violence, ces produits d’appel addictifs des réseaux sociaux et des chatbots.

Peut-on parler d’un populisme linguistique dont les effets débordent du numérique ?

Il y a d’abord eu une numérisation du populisme (de gauche comme de droite). Par exemple, à ses débuts, le Mouvement 5 étoiles déterminait sa politique au jour le jour en compilant les trends sur les réseaux sociaux, au moyen d’un logiciel nommé La Bestia. À la même époque, Nicolas Sarkozy prenait chaque jour en considération les UBM (unités de bruit médiatique). On va beaucoup plus loin aujourd’hui. Certains des décrets de Donald Trump semblent rédigés par IA ; et les Émirats arabes unis viennent de décider de rédiger de même leur corpus juridique, sans s’embarrasser de débats qui rappelleraient fâcheusement un processus démocratique.

Le gouvernement albanais a nommé une ministre virtuelle, tout comme une commune italienne une adjointe à « l’humanisation ». Plus insidieusement, notre chambre des députés se pourvoit d’un chatbot, et Emmanuel Macron se targue d’utiliser « bien sûr l’intelligence artificielle pour faire des tas de choses » : les institutions ne peuvent qu’y gagner en opacité.

Que la majorité des chatbots viennent des États-Unis entraîne-t-il une homogénéisation des représentations du monde ?

La plupart des chatbots utilisés dans le « monde libre » sont en effet américains et biberonnés aux réseaux sociaux comme X ou Facebook. Leurs algorithmes probabilistes privilégient les éléments de langage les plus fréquents et participent d’une radicalisation du conformisme. Il en va de même pour les chatbots chinois. Cette discrète mise au pas permet d’intérioriser ce que les nazis appelaient la Gleichschaltung, littéralement « la mise en même », qui forme l’identité du groupe partageant une même « vision du monde » (la Weltanschauung, autre mot-clé du nazisme).

Il faut mettre fin à l’extraterritorialité juridique (et fiscale) des firmes de la tech.

Pour être performants, les chatbots nécessitent des corpus d’apprentissage étendus. Ne pourrait-on pas imaginer que certains réactionnaires produisent des modèles de langue fondés sur des corpus restreints, pour mieux mettre en avant certains stéréotypes ?

C’est déjà le cas avec la technique des « enrichissements contextuels » (Retrieval Augmented Generation), qui puise des informations en temps réel sur des sites choisis. Des chatbots comme le Grok de Musk sont ainsi branchés en permanence sur des sites néonazis comme Stormfront.

Évidemment, les corpus étendus au Web généraliste sont déjà biaisés par des politiques d’influence. Par exemple, selon NewsGuard, des bots russes mettent chaque jour en ligne 1 400 narratifs, déclinés en 40 langues. Dès 2024, si vous posiez aux dix principaux chatbots une question sur la guerre en Ukraine, trois reprenaient la désinformation poutinienne, et ce n’était qu’un début.

L’IA générative est utilisée pour créer une aliénation langagière et, plus généralement, idéologique.

Quelles stratégies de résistance ou de subversion de la langue pouvons-nous espérer ?

En premier lieu, il faut mettre fin à l’extraterritorialité juridique (et fiscale) des firmes de la tech. Elles exploitent à leur profit et au détriment de leurs usagers des technologies brillantes qui doivent être encadrées. Ensuite, alors qu’Élisabeth Borne déclarait que faire rédiger ses devoirs par un chatbot, « ce n’est pas tricher », il faudrait exclure de l’éducation les prétendues « médiations » qui la biaisent en se substituant aux apprentissages. Enfin, promouvoir partout le « fait humain » comme on le fait ou devrait le faire pour le bio. En somme, il faut prendre conscience que l’IA générative est utilisée pour créer une aliénation langagière et, plus généralement, idéologique, qui redouble et justifie une aliénation économique croissante.