Conversation avec Claude (3)

 

Moi : On reprend sur la pseudo intelligence des machines. Si les LLM n'ont pas une connaissance authentique des domaines abordés (cf les cas d'erreurs énormes), alors en quoi consiste exactement leur connaissance inauthentique ?

Claude : Bonne question — elle touche au cœur de ce que font réellement les LLM.

La "connaissance" des LLM : de quoi s'agit-il exactement ?                                                    

Ce que ce n'est pas

La connaissance humaine authentique implique plusieurs choses que les LLM n'ont pas :

 

Un ancrage dans l'expérience (percevoir, agir, échouer, corriger)

Une compréhension causale du monde (savoir pourquoi quelque chose fonctionne)

Une vérification par l'usage (tester une affirmation contre la réalité)

Une intentionnalité — le fait que la connaissance est à propos de quelque chose pour un sujet

 

Ce que c'est réellement

La connaissance des LLM est mieux décrite comme une compression statistique de traces linguistiques humaines. Plus précisément :

1. Une carte des cooccurrences sémantiques

Le modèle a appris quels concepts apparaissent ensemble, dans quels contextes, avec quelles structures. Il sait que "antibiotique" cooccurre avec "bactérie" et pas avec "virus" — mais sans avoir jamais vu une bactérie.

2. Une maîtrise des formes du discours expert

Il sait comment parler de physique quantique, de droit, de médecine — les structures argumentatives, le vocabulaire, les précautions rhétoriques typiques. C'est une compétence discursive, pas épistémique.

3. Une interpolation dans un espace de haute dimension

Face à une requête, le modèle interpole entre des patterns déjà vus. Quand ça marche bien, l'interpolation produit quelque chose de juste. Quand ça échoue (hallucinations), c'est que le modèle extrapole dans une zone creuse de son espace d'entraînement — et produit quelque chose de plausible en forme mais faux en contenu.

4. Pas de modèle du monde, mais un modèle du texte sur le monde

C'est la distinction clé. Un LLM n'a pas de représentation du monde — il a une représentation de ce que les humains disent du monde. Ces deux choses se recoupent massivement, mais pas totalement.

 

Pourquoi ça marche quand même si souvent ?

Parce que le langage humain est lui-même une compression du monde. Les textes d'entraînement contiennent des millions de raisonnements, corrections, débats — le modèle hérite indirectement de beaucoup de structure réelle. C'est du savoir de seconde main, médiatisé par le langage, mais pas pour autant nul.

 

La formulation la plus honnête

Ce que fait un LLM, c'est de la cohérence locale sans vérité globale garantie : chaque étape du raisonnement est localement plausible, mais rien ne garantit que la chaîne entière atterrisse sur quelque chose de vrai — parce qu'il n'y a pas de boucle de feedback avec la réalité.

C'est proche de ce que Searle pointait avec la chambre chinoise : manipulation syntaxique sans sémantique ancrée. Sauf que la question reste ouverte de savoir si suffisamment de syntaxe finit par faire émerger quelque chose qui ressemble fonctionnellement à de la sémantique.

Fictions

"Tout le monde se trompe, tout le monde vit dans l'illusion. On peut admettre au mieux une échelle des fictions, une hiérarchie des irréalités, donner la préférence à telle plutôt qu'à telle autre, mais opter, non, décidément non." 

Cioran, Ecartèlement

Goût bizarre (2)

 

J’aime beaucoup T. Rex ; j’ai eu la chance de vivre l’explosion du Glam Rock au bon âge (14 ans) et entendre Get It On dans les auto tamponneuses de mon village reste un souvenir inoubliable. Mais j'écoute rarement leurs disques. En revanche, je ne me lasse pas du groupe de folk expérimental qui a précédé T. Rex, je veux parler de Tyrannosaurus Rex que j’ai découvert beaucoup plus tard avec Internet. On trouve dans ces enregistrements une quantité impressionnante de magnifiques chansons impeccablement produites par Tony Visconti. Le génie mélodique du jeune Marc Bolan tournait à plein régime. Il racontait à la presse que les textes lui étaient « dictés ». J'y reviens régulièrement parce que je n’ai toujours pas élucidé la fascination exercée par cette musique venue d’ailleurs. Chaque titre est plongé dans une ambiance planante avec des percussions et des chœurs exotiques. Et puis il y a les cris extatiques de Bolan. A cause d’eux, on m’a souvent demandé de baisser, voire de couper le son. Les génies sont souvent incompris.

 

Conversation avec Claude (2)

 

Claude : La bonne question n'est peut-être pas « est-ce que l'IA comprend ? » mais « qu'appelons-nous comprendre, et pourquoi tenons-nous tant à réserver ce mot à nous-mêmes ? »

Moi : Bonne question. La compréhension n'est-elle pas un acte individuel subjectif, singulier, basé sur l'expérience ?

Claude a répondu : C'est une intuition philosophiquement très forte. Creusons-la.

 La compréhension comme acte subjectif incarné

Vous pointez vers une tradition philosophique bien établie.

Chez Husserl et la phénoménologie, comprendre n'est pas traiter de l'information : c'est un acte de conscience intentionnelle, orientée vers un objet, vécue depuis un point de vue à la première personne. La compréhension est irréductiblement subjective.

Chez Heidegger, comprendre (Verstehen) est encore plus radical : c'est une structure existentiale fondamentale. On comprend le monde parce qu'on y est jeté, embodié, mortel. Le marteau se comprend en le tenant, pas en lisant sa description.

Chez Merleau-Ponty, la compréhension passe par le corps vécu — pas par un cerveau qui traite des symboles. Comprendre « chaud » suppose d'avoir eu chaud.

Sur cette base, l'IA ne comprend effectivement pas — et ne peut pas comprendre, par construction.

 Mais quelques tensions apparaissent

La compréhension est-elle vraiment entièrement individuelle ?

Le langage lui-même est une réalité intersubjective. Wittgenstein l'a montré : il ne peut pas y avoir de langage privé. Le sens d'un mot n'existe que dans un usage partagé, dans des jeux de langage collectifs. Ma compréhension du mot « justice » est pétrie de millénaires de débats humains — elle n'est pas purement singulière.

L'expérience subjective est-elle accessible aux autres ?

Quand vous dites « je comprends », personne ne peut vérifier ce qui se passe réellement en vous. Le problème des qualia est symétrique : je ne sais pas non plus ce que vous ressentez quand vous voyez du rouge. La subjectivité est, par définition, opaque de l'extérieur — pour l'IA comme pour autrui.

La compréhension admet des degrés.

Un enfant de 3 ans « comprend » le feu différemment d'un physicien. Un aveugle de naissance « comprend » la couleur différemment d'un peintre. La frontière entre comprendre et ne-pas-comprendre est moins nette qu'elle n'y paraît.

 Le nœud du problème

Si la compréhension exige :

 une subjectivité → l'IA échoue (probablement)

une expérience incarnée → l'IA échoue (certainement)

une singularité biographique → l'IA échoue (par construction)

 

Alors la définition du perroquet probabiliste tient — non pas comme insulte, mais comme délimitation ontologique.

Mais alors surgit une question vertigineuse :

 

Si la compréhension est irréductiblement subjective et incarnée, à quoi sert-il qu'une entité produise des réponses indiscernables de celles d'un être qui comprend ?

 

Est-ce que la fonctionnalité de la compréhension peut exister sans son essence ? Et si oui — est-ce que l'essence compte encore, ou seulement les effets dans le monde ?

C'est là, peut-être, que la question déborde la philosophie de l'esprit pour devenir une question éthique et politique : que voulons-nous que la compréhension signifie dans un monde où des machines en simulent les effets ?

Dans le décor

Bill Térébenthine, Tout manque de réalité, 2026

J’avais été séduit, en découvrant son existence, par l’hypothèse de la simulation qui, parait-il, rencontre un fort succès du côté de la Silicon Valley. En gros, nous vivrions dans une réalité simulée par des programmes informatiques à la manière des décors de jeux vidéo. Pendant un temps, j’ai aimé y penser en faisant la promenade du chien, m’extasiant sur un détail, un éclairage, un reflet : « Comme c’est réussi ! On y croirait. »

 

Conversation avec Claude (1)

 

J’ai interrogé Claude, l’IA d’Anthropic. 

Ma question (un peu provocante) : « Des perroquets probabilistes gavés de productions humaines et qui les régurgitent sans en comprendre le sens." Je lui ai demandé ce qu’il pensait de cette définition.

Sa réponse : Les « perroquets probabilistes » : une métaphore séduisante mais incomplète. Cette formule — tirée du célèbre article "On the Dangers of Stochastic Parrots" (Bender, Gebru et al., 2021) — a le mérite d'être percutante. Mais elle mérite d'être décortiquée.

Ce qu'elle capture justement

La nature statistique du processus. Les LLM apprennent effectivement des distributions de probabilités sur des séquences de tokens. Il n'y a pas de « pensée » au sens phénoménologique du terme — pas d'intentionnalité au sens husserlien.

L'ancrage dans la production humaine. Ces modèles n'inventent rien ex nihilo : ils sont entièrement tributaires des textes humains qui les ont nourris. Leurs « biais » sont les biais humains amplifiés et cristallisés.

L'absence de compréhension incarnée. Un modèle ne sait pas ce qu'est la douleur, la faim, ou le rouge. Il manipule des symboles sans l'expérience sensible qui, pour beaucoup de philosophes, fonde le sens.

 Ce qu'elle simplifie ou rate

Le perroquet, lui, ne généralise pas. Il répète des séquences fixes. Un LLM, en revanche, résout des problèmes nouveaux, traduit entre langues qu'il n'a jamais vues combinées, raisonne par analogie. C'est qualitativement différent de la répétition.

La question du « sens » est philosophiquement non triviale. Qu'est-ce que comprendre ? Si c'est manipuler des symboles de façon cohérente, contextuelle et productive — les LLM le font. Si c'est avoir une vie intérieure subjective, la question reste ouverte même pour d'autres humains (problème des qualia, argument de la chambre chinoise de Searle).

La métaphore occulte les capacités émergentes. Raisonnement formel, détection de contradictions, transfert entre domaines… Ces propriétés ne s'expliquent pas simplement par de la « régurgitation ».

« Gavés » implique une passivité. Mais l'architecture transformer, l'attention, le fine-tuning, le RLHF — c'est une ingénierie du traitement, pas du stockage brut.

(à suivre)

La chanson du dimanche

 

1er mai Blues

 

S’il vous plait

laissez les ouvriers

les employés

les salariés

profiter du 1er mai

vous avez multiplié vos profits

par 2, 3, 4, 5

vos rémunérations

ont doublé, triplé, quadruplé

pendant que dans le même temps

les salaires des travailleurs stagnaient

et le pouvoir d’achat diminuait

à vue d’œil

alors laissez-les souffler

profiter du printemps

faire la grasse matinée

défiler dans les rues

cela leur fait du bien

peut-être même

cela vous fera du bien

à vous aussi

 

En lisant, en écrivant

 

 Le thème revient souvent : les français lisent de moins en moins de livres, les jeunes plus du tout. Mais, conjointement (et inévitablement), on constate qu’ils écrivent de moins en moins. Or, les deux phénomènes associés peuvent conduire à se demander s’ils pensent encore. Comment mettre de l’ordre dans ses idées, organiser sa pensée, sans l’aide de l’écriture ? Flannery O’Connor le résumait ainsi : « J’écris parce que je ne sais pas ce que je pense tant que je n’ai pas lu ce que de dis. » Certains, semble-t-il, ne le saurons jamais. Cependant, plongés dans l’ignorance de ce que représente l’expérience de la lecture et de l’écriture, ils risquent de ne pas s'en apercevoir. Et puis ils y a l’IA...

 

Musique interdite

 

Cette nuit, j’ai rêvé (ou plutôt cauchemardé) que je vivais dans une sorte de dictature où j’étais obligé d’écouter la musique en cachette. Pourquoi l’écoute de la musique était-elle interdite ? Je n’en savais rien ou je l’avais oublié au réveil. Peut-être une tyrannie religieuse particulièrement intégriste. En tous cas, l’ambiance était pesante, menaçante et j’ai éprouvé un soulagement lorsque je me suis réveillé au milieu de la nuit. Tout va bien, ai-je pensé. En comparaison, la réalité parait enviable.