{"id":1118,"date":"2026-03-19T10:55:11","date_gmt":"2026-03-19T10:55:11","guid":{"rendered":"https:\/\/doingenia.com\/insights\/?p=1118"},"modified":"2026-03-19T11:12:02","modified_gmt":"2026-03-19T11:12:02","slug":"biais-humain-entrainement-ia","status":"publish","type":"post","link":"https:\/\/doingenia.com\/insights\/biais-humain-entrainement-ia\/","title":{"rendered":"Peut-on faire confiance \u00e0 l’humain pour entra\u00eener une IA ?"},"content":{"rendered":"\n

Dans l’article pr\u00e9c\u00e9dent, Peut-on faire confiance \u00e0 une r\u00e9ponse IA ?<\/a>, je posais le probl\u00e8me c\u00f4t\u00e9 machine : hallucinations, absence de sources, contenus synth\u00e9tiques non tra\u00e7ables. Mais il y a un angle mort plus inconfortable. Celui qui entra\u00eene l’IA, celui qui valide ses r\u00e9ponses, celui qui d\u00e9cide ce qu’elle doit savoir ou ignorer, c’est un humain. Et cet humain a des biais qu’il ne voit pas. Je l’ai exp\u00e9riment\u00e9 sur un cas client r\u00e9el.<\/p>\n\n\n\n

Une erreur sinc\u00e8re : quand on se trompe sans le savoir<\/h2>\n\n\n\n

Nous avons d\u00e9ploy\u00e9 un RAG pour un laboratoire de compl\u00e9ments alimentaires que nous accompagnons depuis quatre ans. La base de connaissances est construite \u00e0 partir de leur expertise m\u00e9tier, de cas clients document\u00e9s et d’\u00e9tudes scientifiques sur les b\u00e9n\u00e9fices de leurs produits. La m\u00e9thode, nous la connaissons par c\u0153ur : structurer, garder l’humain dans la boucle pour valider, it\u00e9rer. C’est ce travail de fond, fait dans la dur\u00e9e, qui produit des r\u00e9sultats solides.<\/p>\n\n\n\n

Ce qui est spectaculaire, c’est ce que nous n\u2019avions pas anticip\u00e9. Notre radar de march\u00e9 (un outil interne qui croise les donn\u00e9es de Google Search Console avec le cerveau num\u00e9rique du client) avait identifi\u00e9 une s\u00e9rie de sujets de contenus scor\u00e9s et prioris\u00e9s. Des questions que les prospects tapent dans Google sans jamais trouver ce qu’ils cherchent, et auxquelles ce laboratoire peut r\u00e9pondre avec autorit\u00e9. Nous avons pos\u00e9 ces sujets sur la table avec l’\u00e9quipe pour valider, ajuster, prioriser.<\/p>\n\n\n\n

La majorit\u00e9 de leurs retours \u00e9taient pertinents, mais un rejet nous a interpell\u00e9s. L’\u00e9quipe avait \u00e9limin\u00e9 un sujet en argumentant que le mot-cl\u00e9 principal arrivait d\u00e9j\u00e0 en premi\u00e8re position sur Google. Produire un nouveau contenu sur ce mot-cl\u00e9 serait contre-productif, disaient-ils, \u00e0 cause du risque de cannibalisation.<\/p>\n\n\n\n

Dans un processus classique, nous aurions r\u00e9int\u00e9gr\u00e9 ce rejet, expliqu\u00e9 \u00e0 l’IA pourquoi elle s’\u00e9tait tromp\u00e9e, et avanc\u00e9. \u00c0 la place, nous lui avons donn\u00e9 la possibilit\u00e9 de contre-argumenter. Non pas pour lui donner raison, mais pour comprendre son raisonnement. C’est l\u00e0 que les choses sont devenues int\u00e9ressantes.<\/p>\n\n\n\n

Ce que l’IA a r\u00e9v\u00e9l\u00e9, ce n’est pas une erreur technique : c’est un r\u00e9flexe humain<\/h2>\n\n\n\n

L’IA a commenc\u00e9 par filtrer les retours de l’\u00e9quipe. Sur certains points, elle les a trouv\u00e9s pertinents et les a int\u00e9gr\u00e9s dans sa m\u00e9moire pour s’aligner davantage avec le client \u00e0 l’avenir. Mais sur le rejet du sujet \u00ab\u00a0cannibalis\u00e9\u00a0\u00bb, elle a contre-argument\u00e9. Elle explique que le mot-cl\u00e9 est effectivement en premi\u00e8re position, mais sur une intention de recherche de type \u00ab\u00a0d\u00e9finition\u00a0\u00bb (comprendre ce que signifie le terme). Le contenu propos\u00e9 cible une intention de recherche de type \u00ab\u00a0utilisation\u00a0\u00bb (comment l’appliquer concr\u00e8tement), qui r\u00e9pond \u00e0 d’autres typologies de prospects. Ce ne sont pas les m\u00eames recherches, donc ce n’est pas de la cannibalisation, mais un territoire s\u00e9mantique inexploit\u00e9.<\/p>\n\n\n\n

L’IA venait de diagnostiquer un biais cognitif. Pas une hallucination, ni une erreur de calcul. Un r\u00e9flexe humain : l’\u00e9quipe avait vu \u00ab\u00a0m\u00eame mot-cl\u00e9\u00a0\u00bb et en avait d\u00e9duit \u00ab\u00a0m\u00eame sujet\u00a0\u00bb, sans examiner la granularit\u00e9 des intentions. C’est un raccourci que vingt ans de SEO classique ont ancr\u00e9 dans les pratiques. Un raccourci que personne dans l’\u00e9quipe n’avait de raison de questionner, parce qu’il avait toujours fonctionn\u00e9 dans le cadre d’analyse habituel.<\/p>\n\n\n\n

Lorsque nous avons soumis la contre-argumentation \u00e0 l\u2019\u00e9quipe, la r\u00e9action a \u00e9t\u00e9 imm\u00e9diate : \u00ab Mais oui, bien s\u00fbr ! On n\u2019avait pas vu \u00e7a comme \u00e7a. \u00bb L\u2019\u00e9quipe ne cherchait pas \u00e0 d\u00e9fendre une position. Elle pensait sinc\u00e8rement juger de mani\u00e8re objective. Mais en r\u00e9alit\u00e9, la d\u00e9cision pr\u00e9c\u00e9dait le raisonnement \u2014 et non l\u2019inverse.<\/p>\n\n\n\n

Jonathan Haidt a une analyse pour \u00e7a : celle de l’\u00e9l\u00e9phant et le cavalier<\/h2>\n\n\n\n

Dans La sup\u00e9riorit\u00e9 morale<\/em>, le psychologue moral Jonathan Haidt pose une th\u00e8se qui devrait hanter quiconque travaille sur la qualit\u00e9 des donn\u00e9es : le raisonnement humain est, dans l’immense majorit\u00e9 des cas, une construction post hoc<\/em>.<\/p>\n\n\n\n

L’image est celle-ci : l’esprit est divis\u00e9 entre un \u00e9l\u00e9phant (l’intuition, les 99 % de processus mentaux qui op\u00e8rent hors de la conscience) et un cavalier (le raisonnement conscient, le flux de mots et d’arguments). Nous pensons que le cavalier dirige, mais en r\u00e9alit\u00e9, c’est l’\u00e9l\u00e9phant qui d\u00e9cide. Le cavalier ne fait que justifier apr\u00e8s coup, avec une habilet\u00e9 remarquable.<\/p>\n\n\n\n

Haidt ne parle pas de b\u00eatise, mais de design. L’\u00e9volution a construit nos esprits pour d\u00e9fendre nos positions et nos groupes, pas pour chercher la v\u00e9rit\u00e9. Le raisonnement moral, dit Haidt, est une comp\u00e9tence sociale avant d’\u00eatre une comp\u00e9tence \u00e9pist\u00e9mique. Nous argumentons pour convaincre, pour maintenir la coh\u00e9rence du groupe, pour prot\u00e9ger notre statut. La v\u00e9rit\u00e9 n’est qu’un sous-produit occasionnel.<\/p>\n\n\n\n

Notre r\u00e9cit n\u2019est pas un exemple isol\u00e9. C’est la condition humaine ordinaire. Haidt le r\u00e9sume dans une formule que tout architecte de connaissance devrait garder en t\u00eate : \u00ab\u00a0Les intuitions d’abord, le raisonnement ensuite.\u00a0\u00bb<\/p>\n\n\n\n

La th\u00e8se de Jonathan Haidt est un excellent outil de d\u00e9centrage. Notre m\u00e9tier de r\u00e9f\u00e9renceur consiste \u00e0 comprendre comment les gens cherchent l’information, \u00e0 identifier les bonnes intentions de recherche pour nos clients. Haidt oblige \u00e0 questionner nos propres raccourcis : est-ce que je choisis cette intention parce que les donn\u00e9es le confirment, ou parce que mon intuition l’a d\u00e9j\u00e0 d\u00e9cid\u00e9 et que je s\u00e9lectionne les donn\u00e9es qui la confortent ?<\/p>\n\n\n\n

L\u2019angle mort du discours sur l\u2019IA<\/h2>\n\n\n\n

Arthur Mensch, fondateur de Mistral AI, posait en f\u00e9vrier 2026 \u00e0 l’\u00c9cole Polytechnique un constat lucide selon lequel l’IA absorbe les t\u00e2ches techniques. La valeur humaine se d\u00e9place vers ce qui compte vraiment, c\u2019est-\u00e0-dire : d\u00e9finir le probl\u00e8me, orchestrer, d\u00e9cider.<\/p>\n\n\n\n

Cette affirmation est vraie, mais crois\u00e9e avec Haidt, ce constat r\u00e9v\u00e8le un paradoxe que personne dans l’\u00e9cosyst\u00e8me IA ne formule clairement. L’IA automatise la couche technique, celle o\u00f9 les biais humains sont les plus facilement d\u00e9tectables, parce que v\u00e9rifiables. Un calcul est juste ou faux. Une source existe ou n’existe pas.<\/p>\n\n\n\n

Mais il y a un paradoxe. En d\u00e9l\u00e9guant les t\u00e2ches techniques \u00e0 l’IA, l’humain se concentre sur la couche d\u00e9cisionnelle. Celle o\u00f9 ses biais sont les moins visibles, car ils sont d\u00e9guis\u00e9s en jugement, en exp\u00e9rience ou en intuition. Mais plus nous montons en abstraction, moins nous disposons de donn\u00e9es pour nous contredire ou nous corriger. Il ne reste que des r\u00e9cits, et les r\u00e9cits, c’est ce que nos biais savent le mieux fabriquer. La valeur se d\u00e9place l\u00e0 o\u00f9 nous sommes les plus vuln\u00e9rables, et les moins \u00e9quip\u00e9s pour la voir.<\/p>\n\n\n\n

Le \u00ab\u00a0human in the loop\u00a0\u00bb est un \u00e9l\u00e9phant dans la boucle<\/h2>\n\n\n\n

Tout le march\u00e9 de l’IA d’entreprise repose sur une promesse rassurante, qui est le contr\u00f4le humain. L’humain valide, corrige et garde la main. Dans notre article pr\u00e9c\u00e9dent<\/a>, nous avons montr\u00e9 que c\u00f4t\u00e9 machine, cette promesse ne tient pas sans tra\u00e7abilit\u00e9, sans gouvernance des sources, sans architecture de connaissance<\/a>. La norme ETSI EN 304 223 et ses 72 exigences, les 29 crit\u00e8res de reporting de l’OCDE, l’article 73 de l’EU AI Act : tout converge vers la m\u00eame conclusion. Une IA sans sources ma\u00eetris\u00e9es est un risque.<\/p>\n\n\n\n

Mais il y a un angle mort que notre cas terrain a mis en lumi\u00e8re et que Haidt documente depuis quinze ans. Les 72 exigences de l’ETSI couvrent le pipeline technique. Aucune ne couvre le pipeline cognitif du validateur humain. Nous exigeons la tra\u00e7abilit\u00e9 de la donn\u00e9e, mais nous ne questionnons jamais le jugement de celui qui valide cette donn\u00e9e. Nous voulons l’auditabilit\u00e9 du syst\u00e8me, mais personne n’audite les biais de celui qui d\u00e9cide si le syst\u00e8me a raison ou tort.<\/p>\n\n\n\n

Scott Cadzo, pr\u00e9sident du comit\u00e9 ETSI charg\u00e9 de rendre l’IA s\u00fbre, disait lors de la conf\u00e9rence de f\u00e9vrier : c’est comme \u00eatre debout sur du sable<\/em>. Il parlait du non-d\u00e9terminisme du mod\u00e8le, mais le sable est des deux c\u00f4t\u00e9s. Le mod\u00e8le est instable par nature, et le validateur humain l’est par \u00e9volution.<\/p>\n\n\n\n

Trois couches de gouvernance, pas deux<\/h2>\n\n\n\n

Dans notre article sur la confiance IA, nous distinguions deux paradigmes : l’IA aveugle (sans source, sans tra\u00e7abilit\u00e9) et l’IA ancr\u00e9e (RAG gouvern\u00e9, sources tra\u00e7ables, architecture de connaissance<\/a>). Cette distinction reste valide, mais elle est incompl\u00e8te. L’exp\u00e9rience terrain nous pousse \u00e0 en ajouter une troisi\u00e8me.<\/p>\n\n\n\n

L’IA aveugle :<\/strong> Pas de source, pas de preuve, pas de recours. C’est le LLM branch\u00e9 sur rien, qui g\u00e9n\u00e8re la suite de tokens la plus probable. Le probl\u00e8me que tout le monde conna\u00eet.<\/p>\n\n\n\n

L’IA ancr\u00e9e :<\/strong> RAG gouvern\u00e9, sources identifi\u00e9es, versionn\u00e9es, auditables. Chaque r\u00e9ponse pointe vers son origine. C’est n\u00e9cessaire, mais loin d’\u00eatre suffisant.<\/p>\n\n\n\n

L’IA r\u00e9flexive :<\/strong> Un syst\u00e8me o\u00f9 le processus de validation humaine est lui-m\u00eame soumis \u00e0 un m\u00e9canisme de contre-argumentation et de d\u00e9tection des biais. L’expert doit confronter son jugement \u00e0 un interlocuteur qui n’appartient pas \u00e0 sa \u00ab\u00a0ruche\u00a0\u00bb (pour reprendre le terme de Haidt), et qui peut identifier les angles morts que le groupe ne voit plus.<\/p>\n\n\n\n

C’est exactement l’\u00e9tape que nous avons ajout\u00e9e dans notre m\u00e9thodologie. Et c’est cette \u00e9tape qui a fait appara\u00eetre les biais invisibles.<\/p>\n\n\n\n

Concr\u00e8tement, le m\u00e9canisme fonctionne par pond\u00e9ration progressive. Quand un expert fait un retour pour la premi\u00e8re fois, l’IA le re\u00e7oit comme un signal : elle en prend note, mais ne le traite pas comme un ordre d\u00e9finitif. Elle peut contre-argumenter si elle dispose d’\u00e9l\u00e9ments contradictoires. Si l’expert maintient sa position apr\u00e8s avoir pris connaissance de la contre-argumentation, c’est toujours lui qui a le dernier mot. Et si le m\u00eame retour revient de fa\u00e7on r\u00e9p\u00e9t\u00e9e, il devient une consigne int\u00e9gr\u00e9e d\u00e9finitivement dans la m\u00e9moire du syst\u00e8me.<\/p>\n\n\n\n

Ce n’est ni blanc ni noir. Le premier rejet n’a pas le m\u00eame poids que le troisi\u00e8me, et cette nuance change tout. Elle permet au syst\u00e8me de distinguer entre un r\u00e9flexe ponctuel (l’\u00e9l\u00e9phant qui r\u00e9agit) et une position strat\u00e9gique m\u00fbrement r\u00e9fl\u00e9chie (le cavalier qui a eu le temps de regarder les donn\u00e9es).<\/p>\n\n\n\n

L’IA comme miroir, pas comme oracle<\/h2>\n\n\n\n

Il y a une conviction que nous portons depuis la cr\u00e9ation du cabinet : l’humain est la seule \u00ab\u00a0douve\u00a0\u00bb. L’IA peut tout simuler, sauf le v\u00e9cu terrain, l’exp\u00e9rience irr\u00e9ductible et la complexit\u00e9 v\u00e9cue. La confrontation avec Haidt nous oblige \u00e0 pr\u00e9ciser cette conviction.<\/p>\n\n\n\n

Le v\u00e9cu est la douve, \u00e0 condition qu’il soit pass\u00e9 au crible de ses propres biais. Un v\u00e9cu non examin\u00e9 n’est pas un actif. C’est une opinion habill\u00e9e en expertise, et dans un RAG, une opinion habill\u00e9e en expertise produit des r\u00e9ponses tra\u00e7ables, auditables, conformes aux normes et parfaitement document\u00e9es, mais potentiellement fausses. Ce que notre cas terrain montre, c’est que l’IA ne remplace pas l’expertise humaine. Elle r\u00e9v\u00e8le ce que l’expertise humaine se cache \u00e0 elle-m\u00eame. C’est un miroir qui refl\u00e8te les angles morts.<\/p>\n\n\n\n

Quand la boucle de contre-argumentation force un service expert \u00e0 expliciter pourquoi il rejette une recommandation, trois choses se produisent.<\/p>\n\n\n\n

    \n
  1. Premi\u00e8rement, les rejets l\u00e9gitimes sont renforc\u00e9s : l’expert formule explicitement ce que l’IA ne pouvait pas savoir, et cette connaissance tacite entre dans la base.<\/li>\n\n\n\n
  2. Deuxi\u00e8mement, les rejets biais\u00e9s sont identifi\u00e9s : le groupe prend conscience de ses r\u00e9flexes de d\u00e9fense.<\/li>\n\n\n\n
  3. Troisi\u00e8mement, l’expertise elle-m\u00eame s’am\u00e9liore : la confrontation oblige \u00e0 penser au-del\u00e0 du p\u00e9rim\u00e8tre habituel.<\/li>\n<\/ol>\n\n\n\n

    Nous avons mesur\u00e9 l’effet, et dans les premiers \u00e9changes avec les \u00e9quipes, les rejets \u00e9taient de l’ordre de 30 \u00e0 40%. Au fil des it\u00e9rations, \u00e0 mesure que la boucle de r\u00e9troaction calibre le syst\u00e8me et que le cerveau num\u00e9rique int\u00e8gre les sp\u00e9cificit\u00e9s du client, ce taux descend en dessous de 2%. Ce n’est pas un chiffre th\u00e9orique, c’est ce que nous observons sur le terrain.<\/p>\n\n\n\n

    Et l’effet miroir ne s’arr\u00eate pas aux \u00e9quipes du client. Je l’ai v\u00e9cu moi-m\u00eame. Pendant des mois, j’ai communiqu\u00e9 sur un exit \u00e0 26 millions d’euros pour une start-up MedTech que nous avions accompagn\u00e9e. J’en \u00e9tais convaincu. Le chiffre s’\u00e9tait ancr\u00e9 dans ma m\u00e9moire comme un fait. C’est notre propre RAG, en croisant des sources externes, qui m’a alert\u00e9 : \u00ab\u00a0Attention, l’information que j’ai, c’est 23 millions, pas 26\u00a0\u00bb et il avait raison. Je me trompais depuis des mois, en toute bonne foi, avec la certitude de celui qui a v\u00e9cu le cas.<\/p>\n\n\n\n

    Si m\u00eame l’expert qui a accompagn\u00e9 un dossier pendant des ann\u00e9es peut d\u00e9former un chiffre sans s’en rendre compte, que dit-on de la fiabilit\u00e9 d’une validation \u00ab\u00a0experte\u00a0\u00bb non confront\u00e9e ?<\/p>\n\n\n\n

    Le RAG gouvern\u00e9 ne produit pas seulement une IA plus fiable. Il produit une expertise plus fiable. \u00c0 condition d’accepter que l’expert n’a pas toujours raison, y compris quand il est sinc\u00e8rement convaincu de l’avoir.<\/p>\n\n\n\n

    Ce que cela change pour un dirigeant<\/h2>\n\n\n\n

    Si vous construisez ou envisagez de construire un Cerveau Num\u00e9rique<\/a> pour votre entreprise, les implications sont concr\u00e8tes.<\/p>\n\n\n\n

    La qualit\u00e9 de votre IA d\u00e9pend de la qualit\u00e9 de votre feedback humain.<\/strong> Cette qualit\u00e9 n’est pas garantie par la comp\u00e9tence technique de vos \u00e9quipes. Elle est conditionn\u00e9e par leur capacit\u00e9 \u00e0 examiner leurs propres pr\u00e9suppos\u00e9s. C’est une comp\u00e9tence distincte, rarement recrut\u00e9e, rarement form\u00e9e.<\/p>\n\n\n\n

    La gouvernance de la donn\u00e9e ne suffit pas sans gouvernance du jugement.<\/strong> Tracer d’o\u00f9 vient une information est n\u00e9cessaire. Tracer pourquoi un expert l’a valid\u00e9e ou rejet\u00e9e l’est tout autant. Sans cette deuxi\u00e8me couche, vous documentez proprement des d\u00e9cisions potentiellement biais\u00e9es.<\/p>\n\n\n\n

    Le \u00ab\u00a0human in the loop\u00a0\u00bb a besoin d’un contradicteur dans la boucle.<\/strong> Pas pour remplacer l’humain, mais pour l’aider \u00e0 voir ce qu’il ne voit plus. Notre exp\u00e9rience montre que l’IA, parce qu’elle n’a pas d’\u00e9l\u00e9phant, peut jouer ce r\u00f4le. Elle n’a pas de territoire \u00e0 d\u00e9fendre, pas de groupe \u00e0 prot\u00e9ger, pas d’intuition morale \u00e0 rationaliser.<\/p>\n\n\n\n

    Quand un dirigeant me dit \u00ab\u00a0je fais d\u00e9j\u00e0 du human-in-the-loop, mes experts valident tout\u00a0\u00bb, je pose trois questions. Quel type de validation font-ils ? Qui valide, et est-ce que cette personne a la visibilit\u00e9 compl\u00e8te sur ce qu’elle doit \u00e9valuer ? Et surtout : est-ce que l’IA a la possibilit\u00e9 d’alerter quand un rejet lui semble discutable, ou est-ce que nous lui donnons des ordres sans droit de r\u00e9ponse ? Human-in-the-loop ne veut pas dire dialogue. Si c’est juste pour dire \u00ab\u00a0fais ceci, ne fais pas cela\u00a0\u00bb, ce n’est pas tr\u00e8s loin de la simple r\u00e9daction d’un prompt.<\/p>\n\n\n\n

    Attention, l’IA n’est pas pour autant un oracle objectif. Nous avons vu des contre-argumentations erron\u00e9es, parfois fausses. Cela est souvent d\u00fb \u00e0 un d\u00e9ficit d’informations dans la base de connaissances, mais ce constat est en lui-m\u00eame utile. Quand une contre-argumentation ne tient pas, nous identifions l’origine du probl\u00e8me : une lacune dans les donn\u00e9es. La boucle de contre-argumentation ne sert pas seulement \u00e0 d\u00e9tecter les biais humains. Elle r\u00e9v\u00e8le aussi les trous dans l’architecture de connaissance. Elle offre un regard ext\u00e9rieur au groupe.<\/p>\n\n\n\n

    L\u00e0 o\u00f9 se construit r\u00e9ellement la confiance<\/h2>\n\n\n\n

    Mensch dit que la confiance devient un actif strat\u00e9gique \u00e0 mesure que la diff\u00e9renciation technique s’\u00e9rode. Les normes ETSI expliquent que la confiance se b\u00e2tit c\u00f4t\u00e9 machine. Haidt expose que la confiance est structurellement fragilis\u00e9e par nos biais de groupe c\u00f4t\u00e9 humain.<\/p>\n\n\n\n

    La synth\u00e8se tient en une phrase : la confiance ne s’architecture pas seulement dans le pipeline technique, mais aussi dans le pipeline cognitif. Les mod\u00e8les sont accessibles \u00e0 tous, contrairement \u00e0 votre expertise m\u00e9tier. Cette expertise n’est un actif souverain que si elle a surv\u00e9cu \u00e0 l’\u00e9preuve de ses propres biais, en restant structur\u00e9e, gouvern\u00e9e, et confront\u00e9e.<\/p>\n\n\n\n

    La question qui reste, et que chaque organisation devra trancher dans son propre contexte : combien de d\u00e9cisions \u00ab\u00a0expertes\u00a0\u00bb dans votre entreprise ont \u00e9t\u00e9 valid\u00e9es par l’\u00e9l\u00e9phant avant que le cavalier n’ait eu le temps de regarder les donn\u00e9es ?<\/p>\n\n\n\n

    Articles similaires<\/h2>\n\n\n\n