(dés)information et artifices de l’intelligence

Intervention sur invitation de Sybille Rouiller dans le cadre du séminaire pédagogique "Citoyenneté".

Face à la fatigue informationnelle dans l'hypertopie, les théories de complot offrent des narrations rassurantes par leur simplicité. À moins que l'on ne se dote d'outils capables de naviguer dans la complexité des données et de générer des synthèses raisonnées. L'IA joue un rôle en cela, comme dans l'autovisibilité des sciences. Elle est un outil indispensable pour transformer les données en connaissances : découvrir des exoplanètes dans 150'000 séries temporelles de variations de luminosité d'étoiles, trier les données générées par des collisionneurs de particules, trouver réponse à une question formulée en langage naturel dans un zettaoctet de textes hétérogènes...

Mais parce qu'indispensables pour formuler des pensées et des récits, les outils statistiques comme l'IA représentent un enjeu de pouvoir. En tant que synthèses du réel, les modèles statistiques agissent aussi comme une force d'inertie: elles renforcent des représentations correspondant au statu quo et peuvent contribuer à le perpétuer. L'immensité du champ conversationnel d'un LLM donne une illusion d'exhaustivité, qui contribue à occulter une part du réel. Seules 0.04% des données d'entrainement dans les modèles actuels sont en Tamoul, par exemple, pourtant premier langage de 68 millions de locuteurs. Des traditions orales ne sont pas prises en compte du tout, et avec elles autant de visions du monde, et autant de manières des l'habiter. Quid de l'exclusion volontaire de mots clefs pour des raisons idéologiques ("environement", "gender", "Tiananmen",...)? Et quelles implications sociétales des modèles économiques des fournisseurs publics ou privés des services IA (publicité, revente de données, abonnements, financements publics)? Quelles dépendances des générations futures?

ouvrages liés