« Halluciner, percevoir ou sentir quelque chose qui n’existe pas, est souvent le signe d’un trouble psychologique. C’est pourtant ainsi que les firmes de la tech ont choisi de désigner les affirmations erronées produites par l’IA. Une manière d’anthropomorphiser la machine jusque dans ses manquements. Le vocable, pourtant, n’est pas dénué d’intérêt. « Certains critiques du terme considèrent qu’“hallucination” devrait être utilisé pour décrire le fonctionnement même des IA génératives, plutôt que leurs dysfonctionnements, s’amuse Gustavo Gomez-Mejia. En effet, parce que ces modèles statistiques n’ont pas de conception du réel, ils “parient” constamment sur la réponse la plus probable – et ce n’est que dans certains contextes que le produit de ce pari s’avère coïncider avec le réel, par une sorte de “faux raccord”.» Considérer les agents conversationnels pour ce qu’ils sont – non pas des intelligences omniscientes, mais des machines à halluciner – aurait à tout le moins l’intérêt de préserver ce qui peut l’être du fragile consensus sur la réalité. » Le Monde
