Description
De plus en plus utilisées pour obtenir et vérifier des informations, les IA conversationnelles s'imposent comme un moyen de consommation de l’information incontournable. Pourtant, elles s'appuient sur une technologie par définition peu fiable pour s'informer (l'IA générative hallucine, et fournit des réponses basées sur des calculs probabilistes et non sur des évaluations de la justesse de telle ou telle donnée), pour laquelle des garde-fous efficaces tardent à être mis en place. Selon un audit réalisé en août 2025 par NewsGuard, les principaux chatbots d'IA répètent de fausses informations dans 35% des cas quand on les interroge au sujet d'infox virales liées à l'actualité. Cette vulnérabilité, couplée à un appétit grandissant pour ces outils, est bien identifiée par les acteurs malveillants, notamment russes, qui font désormais des IA conversationnelles une cible de choix dans leurs campagnes de désinformation, notamment via le blanchiment de narratifs en ligne visant à inonder les résultats de recherche et ainsi 'contaminer' les résultats proposés par les chatbots. Cette stratégie est d'autant plus efficace quand les narratifs sont peu traités par ailleurs, puisque le vide de données crédibles, mêlé au blanchiment de récits faux produit alors un cocktail explosif. Dans ce séminaire, nous exposons les manipulations à l'oeuvre depuis trois ans, et proposons une voie pour protéger nos chatbots d'IA.
Practical infos
Next sessions
-
Title to be confirmed
Speaker : Paul EGRE - CNRS
-
Title to be confirmed
Speaker : Thomas RENAULT - Université Paris Saclay
-
Title to be confirmed
Speaker : David COLON - Sciences Po Paris