À l’invitation de l’Union rationaliste, cette carte blanche est proposée à Mehdi Khamassi,  directeur de recherche CNRS, et effectue ses recherches à l’Institut des Systèmes Intelligents et de Robotique, sur le campus de Sorbonne Université, Paris, France. Il co-dirige le master de sciences cognitives de Sorbonne Université et Université Paris Cité, et est rédacteur-en-chef de la revue Intellectica. Ses thèmes de recherche principaux incluent les mécanismes de prise de décision et d’apprentissage par renforcement dans le cerveau biologique et chez les robots, le rôle des différents types de récompenses (sociales, non-sociales, informationnelles) dans l’apprentissage, et les questions éthiques soulevées par la prise de décision autonome des machines. 

Résumé : L’émergence des grands modèles de langage (LLM) a marqué un tournant majeur dans le domaine de l’intelligence artificielle (IA). Leur capacité à traiter le langage à un niveau proche de celui de l’humain et leur bonne performance sur de nombreuses tâches amènent à un certain nombre de problèmes éthiques et sociétaux. Déléguer à la machine nos tâches cognitives, peut amener à une perte d’autonomie des humains sur le long-terme. Leur langage naturel favorise les risques d’anthropomorphisation par les utilisateurs. D’autant que les systèmes sont conçus principalement comme des boîtes noires qui empêchent l’explicabilité de leur fonctionnement. Une question se pose alors : peut-on garantir que les machines respecteront les valeurs humaines, comme le bien-être ou la dignité ?

Entrée libre sur réservation :