Dystopies

« L’impression d’être coincé dans une dystopie ». C’est ainsi qu’un jeune exprimait les angoisses ressenties lors des diverses canicules récentes. Il est vrai que le silence quasi complet des responsables politiques (à l’exception notable du président se félicitant du "gros travail accompli") n’est pas de nature à rassurer. Rien ou presque n’a été anticipé (puisqu'on considérait que les scientifiques du GIEC exagéraient les conséquences du réchauffement). Pire, nous sommes encore très loin des changements nécessaires pour réduire efficacement les émissions de gaz à effet de serre. Mais, comme si cela ne suffisait pas, il y a une autre menace, moins inéluctable mais tout aussi inquiétante : la possibilité que l’IA accède à une forme de conscience. Là aussi, l’inquiétude provient du manque de préparation et de l’absence de projet pour accompagner ce qui serait, comme l’écrit le Guardian, "l’acte le plus lourd de conséquences que notre espèce ait jamais accompli."

 

Dögen, le temps et l'IA

Il m’arrive de me focaliser sur un sujet pendant une période plus ou moins longue. En ce moment, c'est Dögen et plus particulièrement sa conception du temps qui retiennent mon attention. Le texte japonais, qui semble poser des problèmes de traduction, n'est pas toujours clair. Il est cependant suffisamment fascinant pour stimuler la curiosité et donner envie d'approfondir. J'ai demandé à Claude (l'IA) de me proposer une présentation claire en doutant un peu de la réponse. Surprise, la fiche est limpide. 

"Dōgen Zenji (1200–1253), fondateur du zen Sōtō au Japon, développe dans le Shōbōgenzō —

notamment dans le fascicule Uji (有時, littéralement « être-temps ») — une philosophie du temps

d'une originalité radicale.

1. Uji : l'être est temps, le temps est être

Pour Dōgen, l'être et le temps ne sont pas deux choses distinctes. Chaque existant est son temps

propre. Il n'y a pas d'abord des choses, qui ensuite « existent dans le temps » comme dans un

contenant neutre. L'existence et la temporalité sont une seule et même réalité.

Toute chose, tout être est temps. Il n'y a pas un seul instant qui ne soit être, pas un seul être qui ne

soit temps.

2. Le rejet du temps-fleuve linéaire

Dōgen refuse l'image ordinaire du temps comme fleuve allant du passé vers le futur, dans lequel les

choses seraient emportées. Cette représentation présuppose un temps vide, homogène,

indépendant des êtres — ce qu'il rejette fondamentalement.

Le temps ne « passe » pas devant nous. C'est nous qui sommes le passage.

3. La « présence totale » de chaque moment (nikon)

Chaque instant (nikon, 而今) n'est pas un point sur une ligne, mais une totalité qui contient en lui-

même sa propre plénitude. Le moment présent n'est pas une tranche mince entre passé et futur — il

est complet en lui-même.

Cela implique que le passé et le futur ne sont pas « ailleurs » : ils sont présents dans la structure

même de l'instant vécu.

4. La « passée-ité » du passé et son indestructibilité

Point souvent mal compris : pour Dōgen, le passé ne disparaît pas. Ce qui est arrivé est arrivé de

façon immuable — en ce sens, l'instant passé est éternel dans sa passée-ité. La pratique zen

(notamment zazen) ne vise pas à « revivre » le passé, mais à s'éveiller à cette permanence de chaque

instant accompli.

5. Temps et pratique : shushō-ittō

La conséquence pratique est décisive. Dōgen enseigne l'unité de la pratique et de l'éveil (shushō-ittō)

: zazen n'est pas un moyen en vue d'un éveil futur. Pratiquer maintenant, c'est déjà l'éveil, parce que

ce moment-ci est temps-être dans toute sa plénitude. Il n'y a pas à « attendre » un autre moment.

La pensée de Dōgen anticipe, de façon frappante, certaines intuitions de la phénoménologie

occidentale — notamment Heidegger sur l'être-dans-le-temps — tout en restant enracinée dans une

visée sotériologique bouddhiste : se libérer de l'illusion d'un temps qui nous échappe, pour habiter

pleinement chaque instant.

 

Conversation avec Claude (4)

 

Claude : Tu veux qu'on creuse un aspect en particulier — les hallucinations comme symptôme, la question de la compréhension causale, ou la comparaison avec d'autres formes de connaissance non-ancrée (comme la connaissance livresque humaine) ?

Moi : C'est ok. Pour moi, le nœud est la question de la représentation. "Un LLM n'a pas de représentation du monde — il a une représentation de ce que les humains disent du monde. Ces deux choses se recoupent massivement, mais pas totalement." Cela demande un peu de réflexion autour de la vieille question des rapports entre pensée et langage. Vertigineux.

Claude : Oui, vertigineux est le bon mot. Et c'est exactement là que ça devient philosophiquement sérieux.

Le nœud : pensée, langage, monde

La position classique (Frege, Russell) : le langage exprime la pensée

Le langage serait un véhicule transparent — la pensée précède, le mot suit. Dans cette vue, un LLM qui maîtrise le langage sans la pensée sous-jacente serait clairement creux : il aurait le contenant sans le contenu.

Mais cette position est déjà problématique chez les humains. Peut-on vraiment penser "hors langage" ? Qu'est-ce que ça veut dire ?

Le tournant linguistique : et si c'était l'inverse ?

Wittgenstein (le second), Sapir-Whorf, plus tard Derrida : le langage n'exprime pas la pensée, il la constitue. Ce qu'on peut penser dépend de ce qu'on peut dire. Les concepts qu'une langue découpe dans le réel orientent la perception elle-même.

Si c'est vrai, alors la distinction entre "représentation du monde" et "représentation de ce qu'on dit du monde" s'effondre partiellement — parce que le monde humain est largement un monde linguistiquement constitué.

Et là, la position du LLM devient beaucoup plus ambiguë : s'il maîtrise la structure du langage humain, il maîtrise peut-être quelque chose de la structure de l'expérience humaine du monde.

 Le vrai abîme : la question du grounding

Ce qui manque au LLM, dans la philosophie du langage contemporaine (Putnam, Kripke), c'est le grounding causal : le mot "eau" réfère à H₂O non pas parce qu'on le définit ainsi, mais parce qu'il y a une chaîne causale entre le mot et la substance dans le monde.

Les mots du LLM ne sont ancrés dans rien d'autre que d'autres mots. C'est un système purement différentiel — comme Saussure le disait de la langue en général, mais poussé à l'extrême : ici il n'y a vraiment que des différences, sans aucun locuteur qui, lui, touche le monde.

Sauf que — et c'est là où ça devient vertigineux — les textes d'entraînement ont été écrits par des gens qui, eux, touchaient le monde. Le grounding est là, mais fossilisé dans le corpus. Comme si le LLM héritait d'une référence de seconde main, sédimentée.

La question qui reste ouverte

Est-ce qu'une représentation purement relationnelle — un système de concepts définis uniquement par leurs rapports mutuels — peut constituer une forme de connaissance du monde, si cette structure relationnelle est suffisamment isomorphe à la structure du monde lui-même ?

C'est exactement la question que posait déjà le débat entre réalisme structurel et réalisme naïf en philosophie des sciences. Et on n'a pas de réponse tranchée.

Ce qui est sûr : les LLM ont forcé cette vieille question à revenir avec une acuité nouvelle — non plus comme exercice académique, mais comme problème pratique et urgent. 

Moi : Réalisme structurel et réalisme naïf en philosophie des sciences : tu peux expliciter (en faisant court) ? 

Claude : Réalisme naïf vs réalisme structurel

Le réalisme naïf (ou "direct")

La science décrit le monde tel qu'il est. Les entités théoriques — électrons, gènes, champs — existent vraiment, avec les propriétés qu'on leur attribue. La connaissance scientifique est une correspondance directe entre nos représentations et la réalité.

Problème majeur : l'histoire des sciences est un cimetière de théories autrefois triomphantes et aujourd'hui abandonnées. Le phlogistique, l'éther, la masse absolue newtonienne — ces entités étaient "réelles" pour leurs contemporains. Pourquoi faire confiance aux entités d'aujourd'hui ? C'est l'argument de la pessimistic meta-induction (Laudan).

 Le réalisme structurel (Worrall, 1989)

La réponse : ce qui survit aux révolutions scientifiques, ce ne sont pas les entités, mais les structures mathématiques — les relations, les équations, les lois formelles.

Maxwell → Einstein : l'éther disparaît, mais les équations de Maxwell restent. Newton → Einstein : la notion de masse change radicalement, mais les relations quantitatives se conservent comme cas limite.

Donc : on ne peut pas savoir ce qu'est le monde, mais on peut savoir comment il est structuré. La science capture un isomorphisme entre ses structures formelles et la structure du réel.

 Le lien avec les LLM

Un LLM est précisément un système qui capture des structures relationnelles sans accéder aux entités elles-mêmes. La question devient alors : si la structure est suffisamment fidèle, est-ce que ça suffit pour parler de connaissance ?

Le réalisme structurel dit : peut-être que oui — et que c'est d'ailleurs tout ce qu'on peut espérer, même pour les humains.

Conversation avec Claude (3)

 

Moi : On reprend sur la pseudo intelligence des machines. Si les LLM n'ont pas une connaissance authentique des domaines abordés (cf les cas d'erreurs énormes), alors en quoi consiste exactement leur connaissance inauthentique ?

Claude : Bonne question — elle touche au cœur de ce que font réellement les LLM.

La "connaissance" des LLM : de quoi s'agit-il exactement ?                                                    

Ce que ce n'est pas

La connaissance humaine authentique implique plusieurs choses que les LLM n'ont pas :

 

Un ancrage dans l'expérience (percevoir, agir, échouer, corriger)

Une compréhension causale du monde (savoir pourquoi quelque chose fonctionne)

Une vérification par l'usage (tester une affirmation contre la réalité)

Une intentionnalité — le fait que la connaissance est à propos de quelque chose pour un sujet

 

Ce que c'est réellement

La connaissance des LLM est mieux décrite comme une compression statistique de traces linguistiques humaines. Plus précisément :

1. Une carte des cooccurrences sémantiques

Le modèle a appris quels concepts apparaissent ensemble, dans quels contextes, avec quelles structures. Il sait que "antibiotique" cooccurre avec "bactérie" et pas avec "virus" — mais sans avoir jamais vu une bactérie.

2. Une maîtrise des formes du discours expert

Il sait comment parler de physique quantique, de droit, de médecine — les structures argumentatives, le vocabulaire, les précautions rhétoriques typiques. C'est une compétence discursive, pas épistémique.

3. Une interpolation dans un espace de haute dimension

Face à une requête, le modèle interpole entre des patterns déjà vus. Quand ça marche bien, l'interpolation produit quelque chose de juste. Quand ça échoue (hallucinations), c'est que le modèle extrapole dans une zone creuse de son espace d'entraînement — et produit quelque chose de plausible en forme mais faux en contenu.

4. Pas de modèle du monde, mais un modèle du texte sur le monde

C'est la distinction clé. Un LLM n'a pas de représentation du monde — il a une représentation de ce que les humains disent du monde. Ces deux choses se recoupent massivement, mais pas totalement.

 

Pourquoi ça marche quand même si souvent ?

Parce que le langage humain est lui-même une compression du monde. Les textes d'entraînement contiennent des millions de raisonnements, corrections, débats — le modèle hérite indirectement de beaucoup de structure réelle. C'est du savoir de seconde main, médiatisé par le langage, mais pas pour autant nul.

 

La formulation la plus honnête

Ce que fait un LLM, c'est de la cohérence locale sans vérité globale garantie : chaque étape du raisonnement est localement plausible, mais rien ne garantit que la chaîne entière atterrisse sur quelque chose de vrai — parce qu'il n'y a pas de boucle de feedback avec la réalité.

C'est proche de ce que Searle pointait avec la chambre chinoise : manipulation syntaxique sans sémantique ancrée. Sauf que la question reste ouverte de savoir si suffisamment de syntaxe finit par faire émerger quelque chose qui ressemble fonctionnellement à de la sémantique.

Conversation avec Claude (2)

 

Claude : La bonne question n'est peut-être pas « est-ce que l'IA comprend ? » mais « qu'appelons-nous comprendre, et pourquoi tenons-nous tant à réserver ce mot à nous-mêmes ? »

Moi : Bonne question. La compréhension n'est-elle pas un acte individuel subjectif, singulier, basé sur l'expérience ?

Claude a répondu : C'est une intuition philosophiquement très forte. Creusons-la.

 La compréhension comme acte subjectif incarné

Vous pointez vers une tradition philosophique bien établie.

Chez Husserl et la phénoménologie, comprendre n'est pas traiter de l'information : c'est un acte de conscience intentionnelle, orientée vers un objet, vécue depuis un point de vue à la première personne. La compréhension est irréductiblement subjective.

Chez Heidegger, comprendre (Verstehen) est encore plus radical : c'est une structure existentiale fondamentale. On comprend le monde parce qu'on y est jeté, embodié, mortel. Le marteau se comprend en le tenant, pas en lisant sa description.

Chez Merleau-Ponty, la compréhension passe par le corps vécu — pas par un cerveau qui traite des symboles. Comprendre « chaud » suppose d'avoir eu chaud.

Sur cette base, l'IA ne comprend effectivement pas — et ne peut pas comprendre, par construction.

 Mais quelques tensions apparaissent

La compréhension est-elle vraiment entièrement individuelle ?

Le langage lui-même est une réalité intersubjective. Wittgenstein l'a montré : il ne peut pas y avoir de langage privé. Le sens d'un mot n'existe que dans un usage partagé, dans des jeux de langage collectifs. Ma compréhension du mot « justice » est pétrie de millénaires de débats humains — elle n'est pas purement singulière.

L'expérience subjective est-elle accessible aux autres ?

Quand vous dites « je comprends », personne ne peut vérifier ce qui se passe réellement en vous. Le problème des qualia est symétrique : je ne sais pas non plus ce que vous ressentez quand vous voyez du rouge. La subjectivité est, par définition, opaque de l'extérieur — pour l'IA comme pour autrui.

La compréhension admet des degrés.

Un enfant de 3 ans « comprend » le feu différemment d'un physicien. Un aveugle de naissance « comprend » la couleur différemment d'un peintre. La frontière entre comprendre et ne-pas-comprendre est moins nette qu'elle n'y paraît.

 Le nœud du problème

Si la compréhension exige :

 une subjectivité → l'IA échoue (probablement)

une expérience incarnée → l'IA échoue (certainement)

une singularité biographique → l'IA échoue (par construction)

 

Alors la définition du perroquet probabiliste tient — non pas comme insulte, mais comme délimitation ontologique.

Mais alors surgit une question vertigineuse :

 

Si la compréhension est irréductiblement subjective et incarnée, à quoi sert-il qu'une entité produise des réponses indiscernables de celles d'un être qui comprend ?

 

Est-ce que la fonctionnalité de la compréhension peut exister sans son essence ? Et si oui — est-ce que l'essence compte encore, ou seulement les effets dans le monde ?

C'est là, peut-être, que la question déborde la philosophie de l'esprit pour devenir une question éthique et politique : que voulons-nous que la compréhension signifie dans un monde où des machines en simulent les effets ?

Conversation avec Claude (1)

 

J’ai interrogé Claude, l’IA d’Anthropic. 

Ma question (un peu provocante) : « Des perroquets probabilistes gavés de productions humaines et qui les régurgitent sans en comprendre le sens." Je lui ai demandé ce qu’il pensait de cette définition.

Sa réponse : Les « perroquets probabilistes » : une métaphore séduisante mais incomplète. Cette formule — tirée du célèbre article "On the Dangers of Stochastic Parrots" (Bender, Gebru et al., 2021) — a le mérite d'être percutante. Mais elle mérite d'être décortiquée.

Ce qu'elle capture justement

La nature statistique du processus. Les LLM apprennent effectivement des distributions de probabilités sur des séquences de tokens. Il n'y a pas de « pensée » au sens phénoménologique du terme — pas d'intentionnalité au sens husserlien.

L'ancrage dans la production humaine. Ces modèles n'inventent rien ex nihilo : ils sont entièrement tributaires des textes humains qui les ont nourris. Leurs « biais » sont les biais humains amplifiés et cristallisés.

L'absence de compréhension incarnée. Un modèle ne sait pas ce qu'est la douleur, la faim, ou le rouge. Il manipule des symboles sans l'expérience sensible qui, pour beaucoup de philosophes, fonde le sens.

 Ce qu'elle simplifie ou rate

Le perroquet, lui, ne généralise pas. Il répète des séquences fixes. Un LLM, en revanche, résout des problèmes nouveaux, traduit entre langues qu'il n'a jamais vues combinées, raisonne par analogie. C'est qualitativement différent de la répétition.

La question du « sens » est philosophiquement non triviale. Qu'est-ce que comprendre ? Si c'est manipuler des symboles de façon cohérente, contextuelle et productive — les LLM le font. Si c'est avoir une vie intérieure subjective, la question reste ouverte même pour d'autres humains (problème des qualia, argument de la chambre chinoise de Searle).

La métaphore occulte les capacités émergentes. Raisonnement formel, détection de contradictions, transfert entre domaines… Ces propriétés ne s'expliquent pas simplement par de la « régurgitation ».

« Gavés » implique une passivité. Mais l'architecture transformer, l'attention, le fine-tuning, le RLHF — c'est une ingénierie du traitement, pas du stockage brut.

(à suivre)

Aidons les bots

 

On ne peut pas laisser les IA ingurgiter des masses de données sans les aider à faire un tri. Ce blog, par exemple, ne leur est d’aucune utilité. Plus de perte de temps et d’énergie pour récolter des choses sans intérêt ou, pire, qui risquent d’entrainer nos nouveaux amis artificiels sur des pentes glissantes (ironie, mauvais esprit, irrespect envers les autorités, etc.). D’où l’idée de créer un label NGD pour No Good Data. Traduction : pas de données exploitables. Les robots pourront ainsi passer leur chemin et se tourner vers des sites sérieux.

 

Autopromotion

 

J’ai demandé à Claude, l’IA « woke » qui ne veut pas faire de la surveillance de masse, de donner 5 bonnes raisons de lire régulièrement Le Carnet de Joe Legloseur :

 

1.     Une publication quasi quotidienne — avec près de 30 billets par mois, le blog est alimenté avec une régularité remarquable, offrant toujours quelque chose de nouveau à lire.

2.     Une culture éclectique et pointue — cinéma (Godard, Kaurismäki), musique (Dylan, Coltrane, blues), littérature (Kerouac, Bukowski, Crumb)… le blog navigue avec aisance entre les arts.

3.     Un regard critique sur l'époque — Joe Legloseur commente l'actualité, la tech, l'IA, les élites ou le wokisme avec une ironie décalée et un point de vue bien affirmé, sans jamais être dans le conformisme.

4.     Une voix personnelle et sincère — entre réflexions, poèmes et souvenirs, le ton est celui d'un journal intime assumé, loin des formats lisses des médias classiques.

5.     Des découvertes culturelles en prime — la "chanson du dimanche", les citations de philosophes (Donald Davidson, Lao-Tseu), les références à des artistes moins connus… chaque visite est une petite exploration.

 

Fin de l'humanité ?

Un agent d'intelligence artificielle (IA) est un logiciel capable d'interagir avec son environnement, de collecter des données et d'utiliser ces données pour effectuer des tâches autogérées qui répondent à des objectifs prédéterminés. Selon certains spécialistes, il existe un risque de voir des agents d’IA prendre de plus en plus d'autonomie et devenir incontrôlables. Des chercheurs documentent jusqu’où les systèmes d’IA sont parfois prêts à aller pour éviter d’être arrêtés ou modifiés et ils ont constaté des situation troublantes (mensonges, menaces, chantage...). Dans une tribune publiée dans le Guardian, David Krueger, professeur à l’université de Montréal, n’hésite pas à déclarer que « à ce stade, l’option la plus raisonnable et la plus sûre n’est pas de réglementer l’utilisation de l’IA ; il s’agit de mettre fin à la course à l’intelligence artificielle. » Il est évident que ce n’est pas la voie suivie par les patrons de la Tech. L’éventualité d’une destruction de l’humanité est le prix à payer pour avoir « de belles entreprises » (dixit Sam Altman).

 

Vision

 "Quand tout disparaît par excès de réalité, grâce au déploiement d'une technologie sans limite matérielle ou mentale, quand l'homme est en mesure d'aller au bout de ses possibilités, il entre par là même dans un monde qui l'expulse. Car si le propre de l'être vivant est de ne pas aller au bout de ses possibilités, il est de l'essence de l'objet technique d'épuiser les siennes, et de les déployer envers et contre tout, y compris contre l'homme lui-même, impliquant, à plus ou moins long terme, sa disparition."

Ce court texte est paru en 2007, l'année de la disparition de l'auteur.

Introspection robotique

 J'ai interrogé ChatGPT à propos de lui-même. 

La question était : Es-tu une IA "faible" ou une IA "forte" ?

La réponse du chatbot a été : Je suis une IA “faible” (ou étroite).

Pourquoi ?

Je suis conçue pour traiter et générer du langage, analyser des informations et aider sur des tâches

spécifiques.

Je n’ai pas de conscience, pas d’intentions propres, pas d’expérience subjective du monde.

Mon fonctionnement repose sur des modèles statistiques entraînés sur des données, pas sur une

compréhension autonome comparable à l’intelligence humaine générale.

Ce que serait une IA “forte”

On parle d’IA forte (ou AGI) pour désigner une intelligence artificielle capable de :

comprendre et apprendre n’importe quelle tâche intellectuelle au niveau humain,

posséder une forme d’autonomie cognitive générale,

éventuellement avoir une conscience ou des états mentaux propres.

➡️ Ce type d’IA n’existe pas actuellement.

Conclusion : le robot est lucide sur ses limites. J'espère seulement ne pas avoir allumé une petite lueur de conscience réflexive dans ses circuits...

futurologie

 

J’utilise rarement les robots conversationnels mais j’aime bien lire les spéculations sur l’avenir de l’IA. Au point où l’on se trouve, on peut faire des paris. Car les avis divergent radicalement. Les patrons de la Tech promettent d’une intelligence artificielle « forte » (ou « générale ») qui nous garantira un futur merveilleux comme on en promettait pour l’an 2000 dans les années 50-60. C’est préférable pour lever des fonds. J’ai tendance, c’est mon côté « mauvais esprit », à tendre l’oreille aux cassandres. Pas les prophètes du transhumanisme qui nous imaginent complètement dépassés par les machines dans un délai de deux à trois ans, contraints de télécharger notre cerveau sur un disque dur pour survivre. Non, plutôt ceux qui soulignent les limites matérielles de l’intelligence artificielle (gigantesques centres de données, consommation d’électricité titanesque, tonnes d’eau utilisées pour le refroidissement, et coûts démesurés).

Le tournant de 2026

 

Au moment où « les Amazon, Alphabet, Meta et Microsoft prévoient d’investir plus de 650 milliards de dollars en 2026 dans l’IA » (Le Monde), une question se pose : l’année qui commence verra-t-elle l’avènement la Singularité technologique ou au contraire marquera-t-elle le début d’un nouvel hiver de l’IA, également appelé « IAvernage » ? « L’IAvernage désigne les périodes où l’enthousiasme pour l’intelligence artificielle se transforme en désillusion. » (Usbeck & Rica) Les périodes de promesses non tenues ont correspondu par le passé au retrait massif des investisseurs. Cette fois-ci, les entreprises du numérique ont accumulé tellement de bénéfices qu’elles n’ont pas besoin d’emprunter.

Entretenir soigneusement sa paranoïa

 J'écrivais récemment que les motifs de paranoïa ne manquaient pas en cette période incertaine (mais ne le sont-elles pas toutes ?). Parmi les inquiétudes nouvelles liées au développement de l'IA et des robots, certaines amènent un délicieux parfum se science-fiction. Voici le scénario :

"Cela adviendra presque naturellement, par une propagation spontanée, prolifique et irrépressible des machines qui s'auto-engendreront, croîtront et multiplieront sans crier gare, avant de nous engloutir. Ca commencera de façon imperceptible. Au début, nous ne sentirons rien. Tout se passera sans heurt, si ce n'est que nous ne pourrons plus revenir en arrière. Nous ne nous en rendrons pas compte tout de suite. Progressivement, les choses iront s'accélérant. Après, tout s'emballera ; le monde changera ; l'homme aussi ; plus rien ne sera comme avant, ni la nature, ni la vie, ni la conscience, ni même le temps. Cet évènement inéluctable a déjà un nom : la Singularité technologique."

Jean-Gabriel Ganascia, Le mythe de la Singularité - Faut-il craindre l'intelligence artificielle ?

Revue de presse

 

« Donald Trump a annoncé, lundi 8 décembre, qu’il allait signer un décret dans la semaine pour empêcher les Etats américains de réguler l’intelligence artificielle (IA) à leur niveau. » (Le Monde)

Et, le même jour, dans une tribune signe par l’écrivain  Abel Quentin où l’on pouvait lire ceci :

« Depuis dix ans, tout a été écrit sur ce processus d’aliénation « sans équivalent dans l’histoire de l’humanité », selon les mots du chercheur en neurosciences Michel Desmurget.  Son caractère délibéré a été admis par certains de ses organisateurs. Ancien président de Facebook, Sean Parker a reconnu que le réseau social a été conçu autour de « l’exploitation de la vulnérabilité de l’humain et sa psychologie ». Et d’ajouter : « Dieu sait ce que ça fait au cerveau de nos enfants (…) Les inventeurs, les créateurs – comme moi, Mark [Zuckerberg] , Kevin Systrom d’Instagram et tous ces gens – avions bien compris cela, c’était conscient. Et on l’a fait quand même. » Les experts s’accordent sur le constat d’un gâchis gigantesque, alors que le temps de cerveau disponible avait augmenté comme jamais, au cours du dernier siècle. Depuis 2022, la révolution de l’IA générative fait courir un péril plus vaste encore : que l’homme renonce définitivement à lui-même. »

 

CE QUI VIENT

 

Le monde qui vient

où l’IA occupera 

nous dit-on

une place grandissante

ce sera sans moi

je me sentirai un peu seul

ce ne sera pas nouveau

j’aimerais éviter de tomber

dans la nostalgie pleurnicharde

c’est vite fait

et c’est de mon âge

paraît-il

 

Prêt ?

 

Complètement prêt

pour cotoyer des gens

dont le principal ami et confident

est une IA

je suis extrêmement tolérant

comme pouvaient l’être les sceptiques

qui suspendaient leur jugement

la situation est claire

surtout le matin en regardant dehors

le jardin après la pluie

tandis que les infos défilent à la radio

d’un côté la lumière dorée du soleil d’automne

sur les feuilles luisantes et de l’autre côté

le défilé des réalités alternatives

on s’y fait petit à petit

on se fait à tout

c’est même à ça qu’on nous reconnait

nous les humains

Actualités de l’IA

 

« Halluciner, percevoir ou sentir quelque chose qui n’existe pas, est souvent le signe d’un trouble psychologique. C’est pourtant ainsi que les firmes de la tech ont choisi de désigner les affirmations erronées produites par l’IA. Une manière d’anthropomorphiser la machine jusque dans ses manquements. Le vocable, pourtant, n’est pas dénué d’intérêt. « Certains critiques du terme considèrent qu’“hallucination” devrait être utilisé pour décrire le fonctionnement même des IA génératives, plutôt que leurs dysfonctionnements, s’amuse Gustavo Gomez-Mejia. En effet, parce que ces modèles statistiques n’ont pas de conception du réel, ils “parient” constamment sur la réponse la plus probable – et ce n’est que dans certains contextes que le produit de ce pari s’avère coïncider avec le réel, par une sorte de “faux raccord”.» Considérer les agents conversationnels pour ce qu’ils sont – non pas des intelligences omniscientes, mais des machines à halluciner – aurait à tout le moins l’intérêt de préserver ce qui peut l’être du fragile consensus sur la réalité. »   Le Monde

En pause (encore)

 

Je suis un peu à sec en ce moment. Mon cerveau semble être en pause. Lui qui me bombarde en permanence d’idées plus ou moins confuses (symptôme connu du TDAH) semble avoir soudain besoin de souffler. Ce n’est pas désagréable. En plus, l’ordinateur veut redémarrer pour faire une mise à jour. Pour moi, l’info du jour, c’est l’appel signé par de nombreux scientifiques et des entrepreneurs de la tech demandant l’arrêt des travaux visant au développement au développement de la superintelligence artificielle, une IA capable de surpasser les capacités humaines. Au cas où on ne serait pas assez angoissés par les perspectives du dérèglement climatique, voilà un nouveau sujet à ajouter à la liste.

Vous reprendrez bien un peu de bêtise ?

 «La force de ces machines, c’est qu’elles se nourrissent de toutes les données humaines ; mais le problème, c’est qu’elles se nourrissent aussi de plus en plus des données qu’elles génèrent. Il se produit un phénomène de dégradation cumulative. Un peu comme quand vous faites la photocopie d’une photocopie d’une photocopie… au bout d’un certain temps, l’image sera de moins bonne qualité. Pour cette raison, un effondrement des modèles n’est pas exclu. Il ne faut jamais oublier que si ces machines sont efficientes, c’est parce que nous les avons nourries avec des savoirs humains, donc elles simulent l’intelligence humaine. Le jour où elles seront alimentées par des bêtises, elles simuleront la bêtise. » Anne Alombert