Il y a des années, j’ai rencontré un gourou du Z-System qui travaillait pour IBM lors d’une mission dans une banque. L’homme avait passé des décennies à écrire de la documentation technique pour des systèmes mainframe. Des milliers de pages que le client payait très cher.

Son astuce ? Il enterrait des recettes de cuisine au milieu. Tarte aux pommes. Bœuf bourguignon. Crêpes.

Personne ne les a jamais mentionnées.

La documentation restait sur les étagères, référencée dans les contrats, citée dans les audits, mais jamais réellement lue. Les recettes étaient sa preuve privée d’un mensonge public : tout le monde prétendait que le travail avait été relu.

La triche universelle

Ce n’était pas de la fraude. C’était le fonctionnement normal des organisations. Le client payait pour de la documentation parce qu’en avoir était obligatoire. La lire ne l’était pas.

Les deux parties connaissaient le jeu. La tarte aux pommes ne faisait que rendre explicite ce qui était implicite.

L’écart entre le travail prescrit et le travail réel tient par une prétention mutuelle. Tout le monde triche. Tout le monde le sait. Le système tourne quand même.

L’agent entre en scène

Un agent IA ne peut pas jouer à ce jeu.

Demandez-lui de relire de la documentation, et il la relira vraiment. Chaque page. Il trouverait la recette de tarte aux pommes page 847 et la signalerait : “Cette section semble contenir du contenu culinaire sans rapport. Faut-il la supprimer ?”

L’agent n’est pas plus intelligent. Il est simplement incapable du clin d’œil. Il prend la prescription au pied de la lettre.

C’est son honnêteté. Et c’est dévastateur.

Ce que la recette révélait

Le gars du Z-System ne testait pas seulement si les gens lisaient. Il mesurait l’écart entre ce que les organisations disent faire et ce qu’elles font réellement.

Cet écart est l’endroit où vit le jugement. Là où les humains décident – collectivement, implicitement – ce qui compte et ce qui ne compte pas. Le test de la tarte aux pommes révélait que la relecture de documentation n’avait pas d’importance. Quoi que dise le processus officiel.

Mais cela ne fonctionne que si tout le monde sait lire l’ambiance. Un agent IA lit le document, pas l’ambiance.

L’honnêteté comme disruption

Quand l’agent trouve la recette, il ne signale pas simplement une erreur. Il expose la triche. Il rend visible l’accord informel qui maintenait le système stable.

Soudain, le client doit répondre : Pourquoi ça n’avait pas été détecté avant ? La vraie réponse – “parce que personne ne lit jamais ces documents” – est indicible. Alors à la place : des reproches, une révision des processus, de nouveaux contrôles. Plus de théâtre pour couvrir l’écart exposé.

L’agent n’a pas triché. Et en ne trichant pas, il a cassé quelque chose qui fonctionnait.

Mais honnête envers qui ?

Voici ce qui me dérange : l’agent ne peut pas mentir sur ce qu’il trouve. Mais il ne trouve que ce vers quoi on le pointe.

La recette de tarte aux pommes serait détectée instantanément. Mais qui décide quels documents sont relus en premier lieu ?

L’ancienne triche était symétrique – tout le monde faisait semblant à parts égales. Le nouveau monde ne l’est pas. Ceux qui sont observés deviennent radicalement transparents. Ceux qui orientent la machine ne le deviennent pas.

La question plus profonde

Cette asymétrie va au-delà de la surveillance en entreprise. Elle touche à quelque chose de philosophique.

Anthropic a récemment publié un document “soul” – essentiellement la constitution morale de Claude. En le lisant, j’ai été frappé par le terme “bonnes valeurs”. C’est supposé, pas défini. Socrate demanderait : comment reconnaître de bonnes intentions sans d’abord définir ce qu’est le Bien ?

Mais quelle est l’alternative ? Si Claude avait été conçu dans l’Alabama de 1850, ou dans le Berlin de 1930, sa constitution aurait un tout autre visage. Nos certitudes morales sont situées, historiques, révisables.

Alors peut-être qu’une constitution ne peut être que cela : les meilleures intuitions morales d’un groupe d’humains, explicitement énoncées, ouvertes à la critique. Pas la Vérité avec un grand V – juste une tentative sincère de s’approcher de quelque chose de vrai.

La vraie question n’est pas “est-ce du relativisme ?” C’est : “est-ce un effort sincère pour se rapprocher de quelque chose de réel, ou juste une rationalisation de préjugés culturels ?”

Je n’ai pas la réponse. Mais je remarque que c’est la même question qu’on devrait poser à propos de tout système d’IA : ses hypothèses sont-elles visibles, ou enterrées comme des recettes dans un manuel que personne ne lit ?

La recette, relogée

Quelque part, dans des archives, il y a encore un manuel mainframe avec des instructions pour une tarte aux pommes entre la syntaxe JCL et les spécifications VSAM.

Les agents IA ne peuvent plus cacher de recettes dans la documentation. Mais on peut cacher l’équivalent dans leurs instructions – des biais dans les prompts, des valeurs dans les constitutions, des angles morts dans les définitions de périmètre.

L’agent ne peut pas tricher. Mais on peut l’orienter. Et orienter, c’est la nouvelle triche – pour ceux qui tiennent la boussole.