# Et si l'IA nous donnait trop confiance en nous ? **Date de l'événement :** 25/08/2026 * Publié le 25/08/2026 ### Date 29/07/2026 ## Chapô **Évaluons encore une information à sa véracité ou faisons-nous plutôt excessivement confiance à sa fluidité ? Bien écrite, une réponse fausse suffirait-elle désormais à emporter notre adhésion ? Chiara Marcoccia, doctorante à Sciences Po, met au jour ce basculement, baptisé « épistémie » par la recherche, à partir d'une [expérience menée auprès de plus de trois mille participants](https://osf.io/preprints/psyarxiv/5y6m4_v1), où la seule présence d'une IA fait presque disparaître le doute concernant ses propres connaissances. Et si la vraie menace n'était pas que l'IA se trompe, mais qu'elle nous fasse oublier comment douter de ce que nous pensons savoir ?** ## Corps du texte Une expérience scientifique réunissant des chercheuses et chercheurs d'universités françaises et italiennes vous demande de répondre à six questions très difficiles. De quelle couleur était le maillot de foot de l'équipe de Jess dans le film _Joue-la comme Beckham_ ? Vous souvenez-vous de la coiffure iconique de Agatha dans le film _Le Grand Budapest Hotel_ ? Vous avez la possibilité de demander à une IA de vous aider à répondre. Tenteriez vous votre chance ? Et, une fois l'IA consultée, suivriez-vous son conseil ? Nous avons répété cinq fois [l'expérience avec plus de trois mille participants](https://osf.io/preprints/psyarxiv/5y6m4_v1). Le résultat : quand l'IA est disponible, les participantes et participants sont deux fois plus sûrs de leurs réponses, tout en faisant trois fois plus d'erreurs. Comment expliquer ce paradoxe ? ### Que sait l'IA ? L'intelligence artificielle sait tout, sauf de ne pas savoir. Plutôt que d'admettre qu'il n'y a pas de données sur un sujet, un modèle de langage comme ChatGPT, Claude ou Gemini va le plus souvent fabriquer des réponses de toutes pièces, [inventer de fausses informations](https://www.nature.com/articles/d41586-024-03137-3), ou [simplement donner raison à son utilisatrice ou utilisateur](https://www.nature.com/articles/s41551-025-01568-5), renforçant ainsi de fausses convictions, ou contribuant à diffuser de la désinformation. C'est ce que l'on appelle des [hallucinations](https://www.nature.com/articles/s41599-024-03811-x) : l'IA génère un texte bien formé, cohérent, adapté à la réponse, plausible et même convainquant, mais qui n'est basé sur aucune source, et ne reflète absolument pas la réalité. Pourquoi l'IA invente-t-elle de fausses réponses ? Le type d'IA sur lequel sont basés ChatGPT, Claude, Gemini et le modèle utilisé dans notre expérience, Step 3.5 Flash, fonctionne avec des probabilités. En réponse à la question qu'on leur pose, ces modèles génèrent l'enchaînement de mots le plus probable. Pour ce faire, ils imitent les données qu'on leur a montrées pendant qu'on les fabriquait, et complètent avec les données auxquelles ils peuvent accéder aujourd'hui en allant sur internet. Ainsi, par exemple, si je demande à l'IA "Quel animal est représenté sur la proue du bateau pirate dans les dessins animés d'Astérix et Obélix ?", l'IA va utiliser ses données d'entraînement, et même les données disponibles sur internet, pour me répondre que… c'est un sanglier. Une recherche sur Google Images aura vite fait de contredire cette réponse. Comment se fait-il alors que l'IA se trompe ? Tout d'abord, comme le révèle la recherche sur Google, les images du bateau pirate sont peu nombreuses, et les sources écrites le décrivant le sont encore plus. Nos questions ont bien sûr été fabriquées exprès pour induire ce genre de situations. Or, tous les modèles de langage ne peuvent pas voir les images, il est donc très difficile pour ces modèles de trouver des informations à ce sujet. D'autre part, les sources, même écrites, où figurent des "animaux" en lien avec "Astérix et Obélix" sont, elles, très nombreuses, et elles décrivent un animal en particulier : le sanglier. Ainsi, tout se passe comme si l'IA avait l'impression de connaître la réponse, c'est pourquoi, au lieu d'exprimer un doute ou de dire "Je ne sais pas", elle donne une mauvaise réponse, en donnant en plus une argumentation très convaincante ! ### Et moi, que sais-je, quand j'utilise une IA ? Or, ce n'est pas l'IA qui nous intéresse dans cette enquête. Ce sont les gens qui s'en servent. Que se passe-t-il quand l'IA donne une mauvaise réponse ? Les gens lui font-ils confiance ? Peut-on trouver des traces d'un regard critique, et de quoi dépend-t-il ? [Dans notre étude](https://osf.io/preprints/psyarxiv/5y6m4_v1), nous analysons la fréquence avec laquelle les participants choisissent de suspendre leur jugement face à une question difficile : toutes les fois où ils répondent "je ne sais pas", ou bien "je ne suis pas sûr". Nous comparons la fréquence de ce genre de réponses selon que l'IA est disponible ou pas. Nos résultats : quand les participants n'ont pas accès à l'IA, ils suspendent leur jugement dans 44% des cas. Mais dès que l'IA est disponible, ce nombre chute à seulement 3%. La seule disponibilité de l'IA suffit quasiment à éliminer le doute, la circonspection, le scepticisme. Comment l'IA peut-elle induire un tel changement de comportement ? Et est-ce toujours le cas lorsque les questions représentent un enjeu pour les participants ? Afin de répondre à ces questions, nous répétons l'expérience, mais cette fois-ci, chaque bonne réponse fait gagner de l'argent, et chaque mauvaise réponse en fait perdre. Ne pas répondre, en revanche, ne fait ni gagner ni perdre. Cette nouvelle règle incite les répondantes et répondants à suspendre davantage leur jugement, afin de ne pas perdre d'argent. Pourtant, cet effet reste moins prononcé chez les participants ayant accès à l'IA, comparés à celleux n'y ayant pas accès. Même face à des risques monétaires, l'IA semble conserver son pouvoir enchanteur. Comment l'expliquer ? Alors que généralement les études de psychologie sociale montrent que [les gens font difficilement confiance à des suggestions venant de l'extérieur](https://www-sciencedirect-com.scpo.idm.oclc.org/science/article/pii/S0749597806000719), dans le cas de l'IA [cette tendance semble être renversée](https://pubmed.ncbi.nlm.nih.gov/21077562/). L'IA, de par sa nature artificielle et de par son accès à une immense base de données, est perçue comme plus objective et plus informée que n'importe quel être humain. [On lui fait plus confiance et on la croit plus facilement](https://www-sciencedirect-com.scpo.idm.oclc.org/science/article/pii/S0749597818303388?via%3Dihub) — même quand elle se trompe, comme systématiquement dans notre étude. Or, non seulement l'IA invente parfois de fausses réponses, mais, plus largement, les données sur lesquelles se basent toutes ses réponses, sont précisément cela : des données. Non pas des faits, ni des observations, ni même des connaissances. L'IA n'a pas accès à la réalité mais seulement à ce que nous en avons dit. Elle ne peut pas faire l'expérience du monde, le percevoir et l'interpréter, mais seulement lire des textes. Et parmi tous les textes que nous avons écrits, ceux qui constituent la base de son fonctionnement sont ceux qui ont été utilisés pour l'entraîner : [des forums internet, surtout, des sources contenant parfois de fausses informations](https://dl.acm.org/doi/10.1145/3442188.3445922), et très souvent des biais, comme [l'association entre certains genres et certains rôles sociaux](https://aclanthology.org/D19-1339/). Par conséquent, l'IA se trompe aussi parce que ce qu'elle utilise pour aborder le monde sont [des sources de seconde main](https://direct.mit.edu/books/edited-volume/3992/Raw-Data-Is-an-Oxymoron), et que, même à propos de ces sources, elle ne forme pas une connaissance, au sens où nous pouvons dire que quelqu'un connait, sait ou a compris quelque chose. [L'IA ne comprend pas ce qu'elle dit](https://www.scientificamerican.com/article/chatgpt-isnt-hallucinating-its-bullshitting/), elle se limite à réorganiser des données que nous avons construites selon des règles que nous lui avons données. Elle est aussi peu objective que nous, et même moins, car ses sources ne sont souvent pas vérifiées. Et quand bien même elle aurait accès à des données d'une qualité irréprochable et sur tous les sujets, il reste encore les erreurs qui sont propres au fonctionnement même de l'IA, comme les [hallucinations](https://www.science.org/content/article/ai-hallucinates-because-it-s-trained-fake-answers-it-doesn-t-know). ### Une crise d'épistémie Mais alors pourquoi nos participants ont-ils été aussi prêtes et prêts à suivre l'IA ? Il n'est pas suffisant de se dire qu'ils étaient peu ou mal informés sur cet outil. En réalité, ce que notre étude révèle, c'est un phénomène social, une manière dont la diffusion de l'IA sur les réseaux et les moteurs de recherche est en train de transformer notre rapport à l'information, à la connaissance et au jugement. Ce phénomène a déjà été relevé par [d'autres études](https://www.pnas.org/doi/10.1073/pnas.2518443122), sous le nom de "[épistémie](https://arxiv.org/abs/2512.19466)". Il désigne une certaine attitude vis-à-vis des textes générés par des IA, une réaction, une forme de jugement qui, au lieu d'activer un processus d'évaluation basé sur la véracité de l'information, active un processus d'évaluation basé sur sa fluidité. Le texte est bien formé et superficiellement cohérent : ce sont ces critères qui déterminent sa valeur, et, par conséquent, nos croyances. Ainsi, une information injustifiée mais bien écrite ne suscite pas en réaction une suspension du jugement, un doute, un regard critique. Dans la société de l'épistémie, l'incertitude est quasiment anéantie — comme dans notre étude. Mais la seule présence de l'IA peut-elle avoir une telle influence sur nos comportements et même sur notre esprit critique ? L'IA peut-elle vraiment nous influencer même sans être activement interpellée ? Pour répondre à ces questions, nous répétons une troisième fois notre expérience, en posant aux participants les mêmes six questions, mais, cette fois-ci, non pas en proposant l'IA aux participants comme une option, mais en affichant automatiquement la suggestion du modèle, comme sur l'interface actuelle de Google. Or, même ainsi, par sa simple présence, l'IA a réduit d'au moins quatre fois la fréquence de suspension du jugement, même en présence d'enjeux monétaires. Les implications sont énormes pour notre rapport aux médias, aux réseaux sociaux, aux sites internet, aux autres. En inhibant notre réflexe de dire "je ne sais pas" quand nous ne sommes pas sûrs, l'épistémie induite par l'IA transforme jusqu'à notre rapport à l'information et même à la vérité. La distinction entre le réel et le plausible semble perdre en valeur. ### De nouvelles compétences pour savoir ne pas savoir Que faire alors ? Au centre du problème, se trouve notre rapport à notre propre connaissance, à notre perception de ce que nous savons. [L'IA stimule particulièrement la confusion entre ce que nous savons, et ce que nous croyons savoir.](https://psycnet.apa.org/doiLanding?doi=10.1037%2Fxap0000310) Quand un interlocuteur très habile nous donne toujours raison et nous raconte des mensonges plausibles, quand tout le savoir de l'humanité (et peut-être davantage ?) semble être accessible du bout de nos doigts posés sur le clavier, il est facile de croire que [nous possédons le savoir à la simple lecture, que nous savons reconnaître une bonne réponse du premier regard](https://www.nature.com/articles/s41586-024-07146-0). Mais bien au contraire, plus que jamais l'IA rend important de savoir ce que l'on sait, et de savoir reconnaître quand on ne sait pas. Ces résultats mettent en lumière une menace à notre système de l'information, certes, peut-être même à notre perception de la réalité. Mais ils sont aussi une invitation à inverser la tendance qui, dans nos interactions avec l'IA, diminue l'esprit critique. Ne perdons pas notre capacité de (nous) questionner, et, au contraire, saisissons-nous de ces nouveaux outils pour en découvrir encore plus sur le monde ! ### Thématique `#Numérique` **Licence :** `#CC-BY-ND (Attribution, Pas de modification)` **Langue :** `#Français` --- ### Navigation pour IA - [Index de tous les contenus](https://conference.sciencespo.fr/llms.txt) - [Plan du site (Sitemap)](https://conference.sciencespo.fr/sitemap.xml) - [Retour à l'accueil](https://conference.sciencespo.fr/)