Si l’on vous demande sans cesse « est-ce que tu m’aimes ? », le problème n’est pas nécessairement la réponse, mais plutôt que la question finit par la vider de son sens.

Dans L’Être et le Néant, Sartre l’avait formulé à sa manière : nous aspirons tous à être aimés librement. Mais une preuve obtenue sous contrainte cesse précisément d’être une preuve, et le seul « je t’aime » qui compte est celui qu’on n’a pas eu besoin d’arracher.

Avec les données, c’est souvent la même chose.

Dans beaucoup d’entreprises, les chiffres ne servent pas à décider mais à rendre une décision acceptable après coup. On croule dès lors sous les indicateurs, analyses et autres tableaux de bord. Puis on sélectionne ceux qui permettent de dire : « ce n’est pas moi qui ai choisi, ce sont les données ».

Ce n’est pas forcément de la mauvaise foi, car décider reste un acte difficile. Lancer un produit, changer une stratégie, fermer une activité : aucune de ces décisions ne vient avec une garantie. Alors on cherche quelque chose qui nous rassure. Une validation, voire une permission d’agir.

Le problème est qu’une donnée qui ne peut que confirmer ce qu’on pensait déjà n’apporte presque aucune information. Car en fait, sa valeur ne dépend pas de sa précision, ni de sa sophistication. Elle dépend d’une question beaucoup plus simple : si le résultat avait été différent, aurais-je changé d’avis ?

Si la réponse est non, alors le chiffre ne sert pas à apprendre, mais à se conforter …

C’est une idée que Karl Popper a placée au cœur de sa conception de la connaissance. Une théorie n’est pas intéressante parce qu’on a trouvé des exemples qui la confirment. Elle devient intéressante lorsqu’on l’expose à un test qui pourrait la réfuter.

Prenez un pont. On ne sait pas s’il est solide parce qu’il est encore debout. On le sait parce qu’il a supporté une charge qu’il aurait pu ne pas supporter. Eh bien pour les données, c’est pareil.

Un indicateur ne devient crédible qu’au moment où on accepte la possibilité qu’il nous donne tort. Un test A/B a de la valeur parce qu’il peut invalider notre intuition. Un groupe témoin a de la valeur parce qu’il peut révéler que notre idée ne fonctionne pas. Une prévision a de la valeur parce qu’on pourra la comparer à ce qui s’est réellement produit.

À l’inverse, beaucoup d’organisations produisent des chiffres qui ne risquent jamais rien. Cela va des tableaux de bord consultés après la décision, des analyses dont aucun résultat ne pourrait réellement modifier l’action envisagée, ou encore des métriques qui donnent l’impression de contrôler la réalité sans jamais s’exposer à être démenties par elle.

La question utile n’est donc pas : « quelle est la bonne donnée ? », mais plutôt : « quelle donnée pourrait me faire changer d’avis ? »

Et surtout : suis-je réellement prêt à l’écouter ? Et cette distinction devient encore plus importante avec l’IA.

En rendant presque gratuite la production d’arguments plausibles, les agents d’analytics peuvent désormais rédiger un rapport, synthétiser des informations, tracer une courbe ou produire une conclusion convaincante en quelques secondes. Mais ils ne créent pas automatiquement l’épreuve qui permettrait de savoir si cette conclusion tient debout, bien au contraire.

Sur les problèmes où une vérification existe (un programme qui compile, un calcul juste ou faux, une prévision confrontée aux faits), le mécanisme fonctionne encore. Mais sur les sujets plus ambigus, humains ou organisationnels, le risque est différent. L’IA excelle à fabriquer des explications cohérentes mais pas nécessairement vraies. Elle peut simplement être celle que nous avions envie d’entendre …

Le danger n’est donc pas qu’elle nous trompe, mais qu’elle fasse acte de complaisance, évitant le moment où nous aurions pu découvrir que nous avions tort.

Au fond, une donnée ne vaut quelque chose que lorsqu’elle conserve le droit de nous contredire. Tout le reste n’est qu’une forme plus sophistiquée de réassurance.