Conversation avec Claude (4)

 

Claude : Tu veux qu'on creuse un aspect en particulier — les hallucinations comme symptôme, la question de la compréhension causale, ou la comparaison avec d'autres formes de connaissance non-ancrée (comme la connaissance livresque humaine) ?

Moi : C'est ok. Pour moi, le nœud est la question de la représentation. "Un LLM n'a pas de représentation du monde — il a une représentation de ce que les humains disent du monde. Ces deux choses se recoupent massivement, mais pas totalement." Cela demande un peu de réflexion autour de la vieille question des rapports entre pensée et langage. Vertigineux.

Claude : Oui, vertigineux est le bon mot. Et c'est exactement là que ça devient philosophiquement sérieux.

Le nœud : pensée, langage, monde

La position classique (Frege, Russell) : le langage exprime la pensée

Le langage serait un véhicule transparent — la pensée précède, le mot suit. Dans cette vue, un LLM qui maîtrise le langage sans la pensée sous-jacente serait clairement creux : il aurait le contenant sans le contenu.

Mais cette position est déjà problématique chez les humains. Peut-on vraiment penser "hors langage" ? Qu'est-ce que ça veut dire ?

Le tournant linguistique : et si c'était l'inverse ?

Wittgenstein (le second), Sapir-Whorf, plus tard Derrida : le langage n'exprime pas la pensée, il la constitue. Ce qu'on peut penser dépend de ce qu'on peut dire. Les concepts qu'une langue découpe dans le réel orientent la perception elle-même.

Si c'est vrai, alors la distinction entre "représentation du monde" et "représentation de ce qu'on dit du monde" s'effondre partiellement — parce que le monde humain est largement un monde linguistiquement constitué.

Et là, la position du LLM devient beaucoup plus ambiguë : s'il maîtrise la structure du langage humain, il maîtrise peut-être quelque chose de la structure de l'expérience humaine du monde.

 Le vrai abîme : la question du grounding

Ce qui manque au LLM, dans la philosophie du langage contemporaine (Putnam, Kripke), c'est le grounding causal : le mot "eau" réfère à H₂O non pas parce qu'on le définit ainsi, mais parce qu'il y a une chaîne causale entre le mot et la substance dans le monde.

Les mots du LLM ne sont ancrés dans rien d'autre que d'autres mots. C'est un système purement différentiel — comme Saussure le disait de la langue en général, mais poussé à l'extrême : ici il n'y a vraiment que des différences, sans aucun locuteur qui, lui, touche le monde.

Sauf que — et c'est là où ça devient vertigineux — les textes d'entraînement ont été écrits par des gens qui, eux, touchaient le monde. Le grounding est là, mais fossilisé dans le corpus. Comme si le LLM héritait d'une référence de seconde main, sédimentée.

La question qui reste ouverte

Est-ce qu'une représentation purement relationnelle — un système de concepts définis uniquement par leurs rapports mutuels — peut constituer une forme de connaissance du monde, si cette structure relationnelle est suffisamment isomorphe à la structure du monde lui-même ?

C'est exactement la question que posait déjà le débat entre réalisme structurel et réalisme naïf en philosophie des sciences. Et on n'a pas de réponse tranchée.

Ce qui est sûr : les LLM ont forcé cette vieille question à revenir avec une acuité nouvelle — non plus comme exercice académique, mais comme problème pratique et urgent. 

Moi : Réalisme structurel et réalisme naïf en philosophie des sciences : tu peux expliciter (en faisant court) ? 

Claude : Réalisme naïf vs réalisme structurel

Le réalisme naïf (ou "direct")

La science décrit le monde tel qu'il est. Les entités théoriques — électrons, gènes, champs — existent vraiment, avec les propriétés qu'on leur attribue. La connaissance scientifique est une correspondance directe entre nos représentations et la réalité.

Problème majeur : l'histoire des sciences est un cimetière de théories autrefois triomphantes et aujourd'hui abandonnées. Le phlogistique, l'éther, la masse absolue newtonienne — ces entités étaient "réelles" pour leurs contemporains. Pourquoi faire confiance aux entités d'aujourd'hui ? C'est l'argument de la pessimistic meta-induction (Laudan).

 Le réalisme structurel (Worrall, 1989)

La réponse : ce qui survit aux révolutions scientifiques, ce ne sont pas les entités, mais les structures mathématiques — les relations, les équations, les lois formelles.

Maxwell → Einstein : l'éther disparaît, mais les équations de Maxwell restent. Newton → Einstein : la notion de masse change radicalement, mais les relations quantitatives se conservent comme cas limite.

Donc : on ne peut pas savoir ce qu'est le monde, mais on peut savoir comment il est structuré. La science capture un isomorphisme entre ses structures formelles et la structure du réel.

 Le lien avec les LLM

Un LLM est précisément un système qui capture des structures relationnelles sans accéder aux entités elles-mêmes. La question devient alors : si la structure est suffisamment fidèle, est-ce que ça suffit pour parler de connaissance ?

Le réalisme structurel dit : peut-être que oui — et que c'est d'ailleurs tout ce qu'on peut espérer, même pour les humains.

Un autre Donald

 

« Il n'y a pas une seule façon correcte de décrire la réalité, une façon qui lui "correspondrait" vraiment. Il existe une foule de manières de parler du monde - dont la plupart n'ont jamais été découvertes et ne le seront probablement jamais. Toutes sont susceptibles de contenir une parcelle de vérité. Cela ne veut pas dire, je m'empresse de l'ajouter, que le concept de vérité soit relatif à une façon de parler. Il n'y a qu'un seul concept de vérité, mais la question de savoir si une proposition est vraie dépend d'abord de ce que cette proposition signifie. » Donald Davidson

Qu'est-ce que la poésie ?

"La poésie est attention au particulier comme tel.

L'art, en général, aime à s'arrêter dans le particulier. L'entendement se hâte dans sa marche rapide, soit qu'il embrasse d'un coup d'œil théorique la multiplicité des détails, les soumette à des points de vue généraux et les absorbe dans ses principes et ses catégories, soit qu'il les subordonne à des fins pratiques déterminées ; de sorte que le particulier et l'individuel n'obtiennent plus leur plein droit. S'arrêter à ce qui, par sa position, n'a qu'une valeur relative, apparaît à l'entendement comme inutile et ennuyeux. Mais pour la conception et la représentation poétiques, chaque partie, chaque moment doit être en soi intéressant et vivant."

Hegel, Esthétique

Un peu de philosophie

 

Le dernier numéro de Philosophie Magazine titre « La mort, autant s’y préparer ». Lorsque j’ai vu cette couverture, j’ai pensé « Tu ne t’occupes peut-être pas suffisamment de la mort ; elle n’est presque pas présente à ton esprit. Voyons ce qu’en disent les personnes interviewées. » Parmi eux, Pacôme Thiellement m’a tout de suite rassuré lorsqu’il dit : « Il est vain de l’anticiper, car elle ne ressemble jamais en rien à son attente. » Mieux : il est préférable de penser à vivre « car dix ans passent à la vitesse d’une journée. » Et un peu plus loin, je lis que pour Spinoza tant que la vie est là, la mort est absente ou niée. C’est bon. Je vais continuer à ne pas y penser en me concentrant sur la satisfaction d’être en vie.

Vous reprendrez bien un peu de bêtise ?

 «La force de ces machines, c’est qu’elles se nourrissent de toutes les données humaines ; mais le problème, c’est qu’elles se nourrissent aussi de plus en plus des données qu’elles génèrent. Il se produit un phénomène de dégradation cumulative. Un peu comme quand vous faites la photocopie d’une photocopie d’une photocopie… au bout d’un certain temps, l’image sera de moins bonne qualité. Pour cette raison, un effondrement des modèles n’est pas exclu. Il ne faut jamais oublier que si ces machines sont efficientes, c’est parce que nous les avons nourries avec des savoirs humains, donc elles simulent l’intelligence humaine. Le jour où elles seront alimentées par des bêtises, elles simuleront la bêtise. » Anne Alombert

Rions un peu

 

Ecce Homo, dont l’une des parties s’intitule « Pourquoi j’écris de si bon livres », est d’une irrésistible drôlerie. C’est un grand livre comique, un chef-d’œuvre dans ce genre qui en compte peu. Tout est tellement tonitruant, excessif, comme cette auto-admiration mégalomaniaque qui pourrait paraitre ridicule si elle n'était pas portée par un style flamboyant qui n'a pas pris une ride. Ce style, dont le philosophe annonce pouvoir changer en fonction des projets, culmine ici à la pointe de la tension qui nait de l’indécision entre l’extrême lucidité qui génère un sens de la dérision radicale et le délire de celui qui a basculé dans la folie. Le trouble est bien sûr accentué lorsqu’on sait qu’il s'agit de son dernier livre avant la crise finale mais pourtant, rien dans ces lignes pleines de santé arrogante et d’éclats de rire ne laisse présager l'effondrement de Turin.