Fin de l'humanité ?

Un agent d'intelligence artificielle (IA) est un logiciel capable d'interagir avec son environnement, de collecter des données et d'utiliser ces données pour effectuer des tâches autogérées qui répondent à des objectifs prédéterminés. Selon certains spécialistes, il existe un risque de voir des agents d’IA prendre de plus en plus d'autonomie et devenir incontrôlables. Des chercheurs documentent jusqu’où les systèmes d’IA sont parfois prêts à aller pour éviter d’être arrêtés ou modifiés et ils ont constaté des situation troublantes (mensonges, menaces, chantage...). Dans une tribune publiée dans le Guardian, David Krueger, professeur à l’université de Montréal, n’hésite pas à déclarer que « à ce stade, l’option la plus raisonnable et la plus sûre n’est pas de réglementer l’utilisation de l’IA ; il s’agit de mettre fin à la course à l’intelligence artificielle. » Il est évident que ce n’est pas la voie suivie par les patrons de la Tech. L’éventualité d’une destruction de l’humanité est le prix à payer pour avoir « de belles entreprises » (dixit Sam Altman).