Vision

 "Quand tout disparaît par excès de réalité, grâce au déploiement d'une technologie sans limite matérielle ou mentale, quand l'homme est en mesure d'aller au bout de ses possibilités, il entre par là même dans un monde qui l'expulse. Car si le propre de l'être vivant est de ne pas aller au bout de ses possibilités, il est de l'essence de l'objet technique d'épuiser les siennes, et de les déployer envers et contre tout, y compris contre l'homme lui-même, impliquant, à plus ou moins long terme, sa disparition."

Ce court texte est paru en 2007, l'année de la disparition de l'auteur.

Introspection robotique

 J'ai interrogé ChatGPT à propos de lui-même. 

La question était : Es-tu une IA "faible" ou une IA "forte" ?

La réponse du chatbot a été : Je suis une IA “faible” (ou étroite).

Pourquoi ?

Je suis conçue pour traiter et générer du langage, analyser des informations et aider sur des tâches

spécifiques.

Je n’ai pas de conscience, pas d’intentions propres, pas d’expérience subjective du monde.

Mon fonctionnement repose sur des modèles statistiques entraînés sur des données, pas sur une

compréhension autonome comparable à l’intelligence humaine générale.

Ce que serait une IA “forte”

On parle d’IA forte (ou AGI) pour désigner une intelligence artificielle capable de :

comprendre et apprendre n’importe quelle tâche intellectuelle au niveau humain,

posséder une forme d’autonomie cognitive générale,

éventuellement avoir une conscience ou des états mentaux propres.

➡️ Ce type d’IA n’existe pas actuellement.

Conclusion : le robot est lucide sur ses limites. J'espère seulement ne pas avoir allumé une petite lueur de conscience réflexive dans ses circuits...

futurologie

 

J’utilise rarement les robots conversationnels mais j’aime bien lire les spéculations sur l’avenir de l’IA. Au point où l’on se trouve, on peut faire des paris. Car les avis divergent radicalement. Les patrons de la Tech promettent d’une intelligence artificielle « forte » (ou « générale ») qui nous garantira un futur merveilleux comme on en promettait pour l’an 2000 dans les années 50-60. C’est préférable pour lever des fonds. J’ai tendance, c’est mon côté « mauvais esprit », à tendre l’oreille aux cassandres. Pas les prophètes du transhumanisme qui nous imaginent complètement dépassés par les machines dans un délai de deux à trois ans, contraints de télécharger notre cerveau sur un disque dur pour survivre. Non, plutôt ceux qui soulignent les limites matérielles de l’intelligence artificielle (gigantesques centres de données, consommation d’électricité titanesque, tonnes d’eau utilisées pour le refroidissement, et coûts démesurés).

Le tournant de 2026

 

Au moment où « les Amazon, Alphabet, Meta et Microsoft prévoient d’investir plus de 650 milliards de dollars en 2026 dans l’IA » (Le Monde), une question se pose : l’année qui commence verra-t-elle l’avènement la Singularité technologique ou au contraire marquera-t-elle le début d’un nouvel hiver de l’IA, également appelé « IAvernage » ? « L’IAvernage désigne les périodes où l’enthousiasme pour l’intelligence artificielle se transforme en désillusion. » (Usbeck & Rica) Les périodes de promesses non tenues ont correspondu par le passé au retrait massif des investisseurs. Cette fois-ci, les entreprises du numérique ont accumulé tellement de bénéfices qu’elles n’ont pas besoin d’emprunter.

Entretenir soigneusement sa paranoïa

 J'écrivais récemment que les motifs de paranoïa ne manquaient pas en cette période incertaine (mais ne le sont-elles pas toutes ?). Parmi les inquiétudes nouvelles liées au développement de l'IA et des robots, certaines amènent un délicieux parfum se science-fiction. Voici le scénario :

"Cela adviendra presque naturellement, par une propagation spontanée, prolifique et irrépressible des machines qui s'auto-engendreront, croîtront et multiplieront sans crier gare, avant de nous engloutir. Ca commencera de façon imperceptible. Au début, nous ne sentirons rien. Tout se passera sans heurt, si ce n'est que nous ne pourrons plus revenir en arrière. Nous ne nous en rendrons pas compte tout de suite. Progressivement, les choses iront s'accélérant. Après, tout s'emballera ; le monde changera ; l'homme aussi ; plus rien ne sera comme avant, ni la nature, ni la vie, ni la conscience, ni même le temps. Cet évènement inéluctable a déjà un nom : la Singularité technologique."

Jean-Gabriel Ganascia, Le mythe de la Singularité - Faut-il craindre l'intelligence artificielle ?

Revue de presse

 

« Donald Trump a annoncé, lundi 8 décembre, qu’il allait signer un décret dans la semaine pour empêcher les Etats américains de réguler l’intelligence artificielle (IA) à leur niveau. » (Le Monde)

Et, le même jour, dans une tribune signe par l’écrivain  Abel Quentin où l’on pouvait lire ceci :

« Depuis dix ans, tout a été écrit sur ce processus d’aliénation « sans équivalent dans l’histoire de l’humanité », selon les mots du chercheur en neurosciences Michel Desmurget.  Son caractère délibéré a été admis par certains de ses organisateurs. Ancien président de Facebook, Sean Parker a reconnu que le réseau social a été conçu autour de « l’exploitation de la vulnérabilité de l’humain et sa psychologie ». Et d’ajouter : « Dieu sait ce que ça fait au cerveau de nos enfants (…) Les inventeurs, les créateurs – comme moi, Mark [Zuckerberg] , Kevin Systrom d’Instagram et tous ces gens – avions bien compris cela, c’était conscient. Et on l’a fait quand même. » Les experts s’accordent sur le constat d’un gâchis gigantesque, alors que le temps de cerveau disponible avait augmenté comme jamais, au cours du dernier siècle. Depuis 2022, la révolution de l’IA générative fait courir un péril plus vaste encore : que l’homme renonce définitivement à lui-même. »

 

CE QUI VIENT

 

Le monde qui vient

où l’IA occupera 

nous dit-on

une place grandissante

ce sera sans moi

je me sentirai un peu seul

ce ne sera pas nouveau

j’aimerais éviter de tomber

dans la nostalgie pleurnicharde

c’est vite fait

et c’est de mon âge

paraît-il

 

Prêt ?

 

Complètement prêt

pour cotoyer des gens

dont le principal ami et confident

est une IA

je suis extrêmement tolérant

comme pouvaient l’être les sceptiques

qui suspendaient leur jugement

la situation est claire

surtout le matin en regardant dehors

le jardin après la pluie

tandis que les infos défilent à la radio

d’un côté la lumière dorée du soleil d’automne

sur les feuilles luisantes et de l’autre côté

le défilé des réalités alternatives

on s’y fait petit à petit

on se fait à tout

c’est même à ça qu’on nous reconnait

nous les humains

Actualités de l’IA

 

« Halluciner, percevoir ou sentir quelque chose qui n’existe pas, est souvent le signe d’un trouble psychologique. C’est pourtant ainsi que les firmes de la tech ont choisi de désigner les affirmations erronées produites par l’IA. Une manière d’anthropomorphiser la machine jusque dans ses manquements. Le vocable, pourtant, n’est pas dénué d’intérêt. « Certains critiques du terme considèrent qu’“hallucination” devrait être utilisé pour décrire le fonctionnement même des IA génératives, plutôt que leurs dysfonctionnements, s’amuse Gustavo Gomez-Mejia. En effet, parce que ces modèles statistiques n’ont pas de conception du réel, ils “parient” constamment sur la réponse la plus probable – et ce n’est que dans certains contextes que le produit de ce pari s’avère coïncider avec le réel, par une sorte de “faux raccord”.» Considérer les agents conversationnels pour ce qu’ils sont – non pas des intelligences omniscientes, mais des machines à halluciner – aurait à tout le moins l’intérêt de préserver ce qui peut l’être du fragile consensus sur la réalité. »   Le Monde

En pause (encore)

 

Je suis un peu à sec en ce moment. Mon cerveau semble être en pause. Lui qui me bombarde en permanence d’idées plus ou moins confuses (symptôme connu du TDAH) semble avoir soudain besoin de souffler. Ce n’est pas désagréable. En plus, l’ordinateur veut redémarrer pour faire une mise à jour. Pour moi, l’info du jour, c’est l’appel signé par de nombreux scientifiques et des entrepreneurs de la tech demandant l’arrêt des travaux visant au développement au développement de la superintelligence artificielle, une IA capable de surpasser les capacités humaines. Au cas où on ne serait pas assez angoissés par les perspectives du dérèglement climatique, voilà un nouveau sujet à ajouter à la liste.

Vous reprendrez bien un peu de bêtise ?

 «La force de ces machines, c’est qu’elles se nourrissent de toutes les données humaines ; mais le problème, c’est qu’elles se nourrissent aussi de plus en plus des données qu’elles génèrent. Il se produit un phénomène de dégradation cumulative. Un peu comme quand vous faites la photocopie d’une photocopie d’une photocopie… au bout d’un certain temps, l’image sera de moins bonne qualité. Pour cette raison, un effondrement des modèles n’est pas exclu. Il ne faut jamais oublier que si ces machines sont efficientes, c’est parce que nous les avons nourries avec des savoirs humains, donc elles simulent l’intelligence humaine. Le jour où elles seront alimentées par des bêtises, elles simuleront la bêtise. » Anne Alombert

Elucubrations d'été

 

Le Carnet a des lecteurs aux Pays-Bas, ce qui confirme le fait que là-bas, les gens sont « cool comme du fromage » (Charlie Schlingo). 

Après avoir lu un article sur l’invasion massive des musiques générées par l’IA, je me suis rendu sur la plateforme mentionnée où j’ai passé une commande : une chanson avec des rimes en « ic » dans le style « rap français ». Le résultat est très médiocre et sans la moindre surprise mais ce n’est pas pire que ce qu’on peut trouver sur la playlist de France Inter. On peut entendre le titre ici : https://suno.com/song/4675c1c2-6135-41d4-8451-9a45d4d4fc19

La question est : peut-on rendre les robots un tantinet créatifs et originaux ou bien est-ce trop leur demander (ce que je crains) ?

 

L'éternel retour

Ce matin, après avoir lu un poème de Carver où il était question d’une araignée, j’ai repensé à celle qui apparaît régulièrement dans mon évier depuis quelques semaines. Je l’évacue à chaque fois en faisant couler de l’eau et finit toujours par réapparaitre après quelques jours. Elle doit s’arrêter au niveau du siphon puis remonter. Mais je n’ai pas envie de penser aux tuyaux d’évacuation. Je préfère la considérer comme une apparition, ce qu’elle est lorsque je la découvre immobile à côté de la cuvette. Je pourrais l’extraire et la libérer dans le jardin. Quelques verres d’eau et, prise dans un petit tourbillon, elle glisse en douceur dans les canalisations. Je l’ai revue hier en rentrant des courses. Elle est intacte. Les séjours dans les profondeurs ne semblent pas lui nuire. J’ai l’impression qu’un début de complicité s’installe entre nous. Ce n’est pas plus absurde que de devenir ami avec une IA.

Ceci n’est pas un outil

 

C’est ce que nous dit Damasio dans un entretien sur notre relation avec l’IA. Il cite les propos qu’Ivan Illich a tenus à propos de l’informatique vers la fin de sa vie. « Cet ordinateur sur la table n’est pas un instrument. […] Un marteau, je peux le prendre ou le laisser. Le prendre ne me transforme pas en marteau. Le marteau reste un instrument de la personne, pas du système. Dans un système, l’utilisateur […], logiquement, c’est-à-dire en vertu de la logique du système, devient partie du système. » Une étape a encore été franchie avec l’IA selon Damasio. Il faut prendre ses marques dès maintenant. Trouver sa propre stratégie de cohabitation avec l’IA. Ce qui revient à se poser la question de la spécificité de l’humain en face d’une machine froide qui ingère et recrache des datas. Il nous reste le corps, les sensations, l’imagination. C’est probablement de ce côté que cela va se jouer.

On n'arrête pas le progrès

 

Je lis dans le Nouvel Obs que les services d’IA générative ont fait le tour de « la connaissance humaine disponible et que "leurs concepteurs sont à court de données sur lesquelles les entraîner". Déjà ? Des choses vertigineuses et souvent inquiétantes parviennent à nos oreilles tous les jours mais là, on reste songeur. La connaissance humaine, ce n’était donc que ça ? Ou est-ce l’IA qui l’a avalée comme un goinfre avant de la recracher sans y insérer un poil de réflexion ou de création (ne parlons pas de poésie). Dans le monde qui arrive, les « données » sont un enjeu stratégique de première importance. C’est grâce à elles, nous dit-on, que se gagnerons ou se perdrons les guerres militaires, commerciales, culturelles. Autant dire qu’il va falloir faire attention à ce qui est diffusé. Les petits soldats de l’IA sont à l’affut, prêts à s’emparer de la moindre miette pour nourrir le Big Robot bouffeur de données. Il faudra prendre le temps de tirer les conclusions qui s’imposent une fois que le cerveau humain aura pris complètement conscience de cette... donnée.