AngoraTek EN
← Retour au blog
IA & agents 7 min de lecture

Un agent IA en production est un système d'astreinte, pas une fonctionnalité

La page arrive à 3h07 du matin et signale qu'un agent d'ingestion a mis en quarantaine 63 402 lignes pendant la nuit, parce qu'il a jugé que des colonnes renommées par un fournisseur étaient une attaque contre le schéma. L'ingénieur qui tient le téléphone n'a pas écrit l'agent. Ce qu'il peut lire de son raisonnement, c'est une transcription de conversation qui se termine par les excuses de l'agent, et par une demande d'autorisation de reprendre. Cette transcription est tout le dossier d'incident, et elle se relit comme une histoire racontée deux fois.

L'affirmation, écrite pour être contestée : dès qu'un agent accomplit des actions sur des systèmes réels sans personne pour regarder, il cesse d'être une fonctionnalité et devient un système d'astreinte en tout ce qui compte. Les systèmes d'astreinte traversent la nuit grâce à des propriétés sans éclat, et les agents héritent de la même liste. Nous construisons des systèmes agentiques pour le traitement des données, aussi la question que nous posons désormais à chaque déploiement est celle que les équipes d'infrastructure posent depuis des décennies : quand ce comportement devient bizarre à 3h du matin, qui lit quoi ?

Le comportement étrange est un événement opérationnel, et la conversation n'en est pas le rapport

Un événement opérationnel a des champs standards : sévérité, rayon d'impact, reproduction, responsable. Un bug de conversation en a une autre forme : régénérer et passer à la suite. Traiter le premier comme le second transforme une quarantaine erronée en matinée pire, parce que le remède d'un résumé raté est une nouvelle régénération, tandis que le remède d'une action destructrice injustifiée est un repli impossible à planifier sans preuves.

Alors journalisez l'événement comme l'événement qu'il est. Quelle version de l'agent a tourné, quels outils elle a appelés avec quels arguments, ce qui a changé dans le monde, et qui possède l'enquête désormais. À côté, un cul-de-sac que nous voulons vous épargner : demander à l'agent de rédiger lui-même le résumé d'incident. Il s'en chargera. Le brouillon est plausible, bien ordonné, et parfois faux dans la direction discrète de l'innocence de l'agent, et le lecteur ne peut pas dire lesquels le sont. Le plausible n'est pas une preuve.

Une trace doit se rejouer, pas raconter

Le dossier qui survit à une enquête est une trace rejouable, et son test est étroit : un second ingénieur peut-il rejouer l'exécution, étape par étape, en dehors de l'agent, et voir les mêmes décisions se reproduire ? Une transcription échoue à ce test trois fois. Elle raconte au lieu de mesurer, elle abandonne les arguments qu'elle trouvait ennuyeux, et elle ne dit pas quelle version du système l'a produite.

La forme est sans romantisme, plus proche d'un journal d'accès que d'un journal intime :

{
  "run_id": "ing-2026-03-17-4471",
  "agent_version": "ingest-triage@v14",
  "prompt_version": "git:2f9c1ab",
  "model": "claude-sonnet",
  "steps": [
    {
      "tool": "read_sample",
      "args": { "table": "supplier_shipments", "rows": 50 },
      "output_ref": "traces/ing-2026-03-17-4471/step-3.json",
      "started_at": "2026-03-17T09:14:22Z"
    },
    {
      "decision": "quarantine_table",
      "rationale_ref": "traces/ing-2026-03-17-4471/step-5.json",
      "reversible": false
    }
  ]
}

Les sorties volumineuses vivent derrière des références pour que la trace reste lisible, et reversible s'écrit au moment de la décision, pas reconstitué après coup. Les deux champs que les équipes oublient sont les versions de l'agent et du prompt. Sans elles, une trace rejoue un système qui n'existe plus, et la relecture contredit l'incident de manières que personne ne peut attribuer. Les versions partent avec le service, et celles-ci font partie du service.

Une trace qui se rejoue est une preuve. Une transcription qui raconte est un témoignage.

L'escalade nomme un humain, et le déclencheur est le coût de l'erreur

Tout agent disposant d'un droit d'écriture porte une politique d'escalade qui répond à trois questions avec des noms : ce qui déclenche la page, qui tient le téléphone, et ce que l'agent n'a plus le droit de toucher pendant que la page est ouverte. Le déclencheur qui échoue en premier est la confiance. Un modèle est le moins bien calibré précisément sur les situations inédites où l'escalade compte, si bien que la pagination sur la confiance produit du silence dans les nuits dangereuses et du bruit dans les nuits calmes, parfois dans la même semaine. Le coût d'une action erronée est le déclencheur honnête : régénérer un résumé est réversible, supprimer une table ne l'est pas, et le budget de pagination suit cette ligne.

La règle de travail où nous finissons par atterrir : retenter une étape qui échoue au maximum une fois, puis paginer, avec la référence de la trace jointe pour que l'humain parte de preuves plutôt que de la conversation. Chaque escalade arrive dans la même file que les incidents de vos services, avec les mêmes attentes d'acquittement. La revue qui suit est une revue d'incident, pas un fil qui dérive vers vendredi.

Le coupe-circuit est borné, ou personne ne tire

Un bouton d'arrêt total que personne n'a répété, sur un système dont vous n'avez jamais budgété l'indisponibilité, ne sera pas tiré. L'interrupteur qui fonctionne est borné, parce que la plupart des incidents d'agent n'exigent pas l'arrêt de l'agent. Ils exigent la perte de son droit d'écriture, pendant que sa lecture aide l'humain paginé :

kill_switches:
  - target: ingest-triage
    scope: tool
    tool: write_table
    effect: deny_writes_keep_reads
    may_pull: [oncall-primary, oncall-secondary]
    restored_by: agent-owner
  - target: ingest-triage
    scope: agent
    effect: drain_decisions_to_human_queue
    may_pull: [oncall-primary]
    restored_by: agent-owner

Répétez-le pendant une semaine calme. Regardez la file se remplir, regardez le produit se dégrader comme la notice le promet, et chronométrez la restauration, parce qu'un interrupteur dont le chemin de retour est un mystère reste tiré bien après sa nécessité.

Un coupe-circuit jamais actionné en répétition est une rumeur.

Ce qu'une notice ne peut pas réparer

Les limites d'abord. Une trace ne rejoue que ce qui a été journalisé, et les agents échouent de manière que personne n'a songé à journaliser, si bien que la première heure d'un incident inédit reste une personne qui lit. La notice elle-même pourrit : relisez-la avec les post-mortems jointes, et laissez chaque incident retirer une entrée ambiguë, sinon des entrées se ramollissent précisément dans les sections que personne n'exerce. Et la limite la plus profonde : la notice rend un agent survivable, pas correct. La correction est son problème à lui ; la survie est le vôtre, et les deux se réparent avec des commits différents.

Notre propre regret a sa place ici. Nous avons déjà livré un agent de tri documentaire qui ne gardait que ses transcriptions, le stockage des transcriptions les a expulsées à un rythme que personne n'avait relié à l'agent, et un lot mal classé a dû être reconstruit des semaines plus tard à partir d'effets de bord dans la base.

Les traces versionnées sont arrivées avant toute autre amélioration, et la transcription est revenue à son vrai rôle : le rendu lisible par un humain d'un dossier qui existe aussi sous une forme utilisable comme preuve.

Où les agents méritent leur coût d'installation est une autre question, et nous y avons tracé la ligne dans les agents IA sont sauvagement surappliqués. Ce billet commence là où celui-là s'arrête : les cas que vous avez décidé d'automatiser ont à présent besoin de la même discipline opérationnelle que le logiciel en dessous d'eux.

Si la seule preuve de la nuit passée est une transcription, le prochain commit est opérationnel, pas agentique : épinglez les versions du prompt et de l'agent, journalisez l'exécution comme un événement avec un responsable, et bornez un coupe-circuit au droit d'écriture. Rien dans cette liste n'exige une mise à niveau de modèle, et tout doit exister avant l'arrivée de la page.

AngoraTek construit des systèmes agentiques pour les données dont les pages de 3h du matin restent lisibles. Si votre agent est en production en avance sur sa notice, [apportez-nous la transcription](/fr/#contact) et nous la transformerons en trace.

Merci d'avoir lu jusqu'ici. Si cela ressemble au problème sur lequel vous butez, parlez-nous-en. L'équipe lit chaque message.

Engager la conversation