Actualités de l’IA

 

« Halluciner, percevoir ou sentir quelque chose qui n’existe pas, est souvent le signe d’un trouble psychologique. C’est pourtant ainsi que les firmes de la tech ont choisi de désigner les affirmations erronées produites par l’IA. Une manière d’anthropomorphiser la machine jusque dans ses manquements. Le vocable, pourtant, n’est pas dénué d’intérêt. « Certains critiques du terme considèrent qu’“hallucination” devrait être utilisé pour décrire le fonctionnement même des IA génératives, plutôt que leurs dysfonctionnements, s’amuse Gustavo Gomez-Mejia. En effet, parce que ces modèles statistiques n’ont pas de conception du réel, ils “parient” constamment sur la réponse la plus probable – et ce n’est que dans certains contextes que le produit de ce pari s’avère coïncider avec le réel, par une sorte de “faux raccord”.» Considérer les agents conversationnels pour ce qu’ils sont – non pas des intelligences omniscientes, mais des machines à halluciner – aurait à tout le moins l’intérêt de préserver ce qui peut l’être du fragile consensus sur la réalité. »   Le Monde

En pause (encore)

 

Je suis un peu à sec en ce moment. Mon cerveau semble être en pause. Lui qui me bombarde en permanence d’idées plus ou moins confuses (symptôme connu du TDAH) semble avoir soudain besoin de souffler. Ce n’est pas désagréable. En plus, l’ordinateur veut redémarrer pour faire une mise à jour. Pour moi, l’info du jour, c’est l’appel signé par de nombreux scientifiques et des entrepreneurs de la tech demandant l’arrêt des travaux visant au développement au développement de la superintelligence artificielle, une IA capable de surpasser les capacités humaines. Au cas où on ne serait pas assez angoissés par les perspectives du dérèglement climatique, voilà un nouveau sujet à ajouter à la liste.

Vous reprendrez bien un peu de bêtise ?

 «La force de ces machines, c’est qu’elles se nourrissent de toutes les données humaines ; mais le problème, c’est qu’elles se nourrissent aussi de plus en plus des données qu’elles génèrent. Il se produit un phénomène de dégradation cumulative. Un peu comme quand vous faites la photocopie d’une photocopie d’une photocopie… au bout d’un certain temps, l’image sera de moins bonne qualité. Pour cette raison, un effondrement des modèles n’est pas exclu. Il ne faut jamais oublier que si ces machines sont efficientes, c’est parce que nous les avons nourries avec des savoirs humains, donc elles simulent l’intelligence humaine. Le jour où elles seront alimentées par des bêtises, elles simuleront la bêtise. » Anne Alombert

Elucubrations d'été

 

Le Carnet a des lecteurs aux Pays-Bas, ce qui confirme le fait que là-bas, les gens sont « cool comme du fromage » (Charlie Schlingo). 

Après avoir lu un article sur l’invasion massive des musiques générées par l’IA, je me suis rendu sur la plateforme mentionnée où j’ai passé une commande : une chanson avec des rimes en « ic » dans le style « rap français ». Le résultat est très médiocre et sans la moindre surprise mais ce n’est pas pire que ce qu’on peut trouver sur la playlist de France Inter. On peut entendre le titre ici : https://suno.com/song/4675c1c2-6135-41d4-8451-9a45d4d4fc19

La question est : peut-on rendre les robots un tantinet créatifs et originaux ou bien est-ce trop leur demander (ce que je crains) ?

 

L'éternel retour

Ce matin, après avoir lu un poème de Carver où il était question d’une araignée, j’ai repensé à celle qui apparaît régulièrement dans mon évier depuis quelques semaines. Je l’évacue à chaque fois en faisant couler de l’eau et finit toujours par réapparaitre après quelques jours. Elle doit s’arrêter au niveau du siphon puis remonter. Mais je n’ai pas envie de penser aux tuyaux d’évacuation. Je préfère la considérer comme une apparition, ce qu’elle est lorsque je la découvre immobile à côté de la cuvette. Je pourrais l’extraire et la libérer dans le jardin. Quelques verres d’eau et, prise dans un petit tourbillon, elle glisse en douceur dans les canalisations. Je l’ai revue hier en rentrant des courses. Elle est intacte. Les séjours dans les profondeurs ne semblent pas lui nuire. J’ai l’impression qu’un début de complicité s’installe entre nous. Ce n’est pas plus absurde que de devenir ami avec une IA.

Ceci n’est pas un outil

 

C’est ce que nous dit Damasio dans un entretien sur notre relation avec l’IA. Il cite les propos qu’Ivan Illich a tenus à propos de l’informatique vers la fin de sa vie. « Cet ordinateur sur la table n’est pas un instrument. […] Un marteau, je peux le prendre ou le laisser. Le prendre ne me transforme pas en marteau. Le marteau reste un instrument de la personne, pas du système. Dans un système, l’utilisateur […], logiquement, c’est-à-dire en vertu de la logique du système, devient partie du système. » Une étape a encore été franchie avec l’IA selon Damasio. Il faut prendre ses marques dès maintenant. Trouver sa propre stratégie de cohabitation avec l’IA. Ce qui revient à se poser la question de la spécificité de l’humain en face d’une machine froide qui ingère et recrache des datas. Il nous reste le corps, les sensations, l’imagination. C’est probablement de ce côté que cela va se jouer.

On n'arrête pas le progrès

 

Je lis dans le Nouvel Obs que les services d’IA générative ont fait le tour de « la connaissance humaine disponible et que "leurs concepteurs sont à court de données sur lesquelles les entraîner". Déjà ? Des choses vertigineuses et souvent inquiétantes parviennent à nos oreilles tous les jours mais là, on reste songeur. La connaissance humaine, ce n’était donc que ça ? Ou est-ce l’IA qui l’a avalée comme un goinfre avant de la recracher sans y insérer un poil de réflexion ou de création (ne parlons pas de poésie). Dans le monde qui arrive, les « données » sont un enjeu stratégique de première importance. C’est grâce à elles, nous dit-on, que se gagnerons ou se perdrons les guerres militaires, commerciales, culturelles. Autant dire qu’il va falloir faire attention à ce qui est diffusé. Les petits soldats de l’IA sont à l’affut, prêts à s’emparer de la moindre miette pour nourrir le Big Robot bouffeur de données. Il faudra prendre le temps de tirer les conclusions qui s’imposent une fois que le cerveau humain aura pris complètement conscience de cette... donnée.