Quand une entreprise hésite à mettre un agent IA en production, l'inquiétude porte presque toujours sur ses capacités : « est-ce qu'il sera assez bon ? », « est-ce qu'il va halluciner ? »
Mauvaise question. Un agent qui se trompe bruyamment, on le rattrape. Le problème, c'est l'agent qui se trompe en silence - qui continue de rendre des réponses qui ont l'air justes. Datadog le formule sans détour dans son rapport *State of AI Engineering 2026* : « la prochaine vague d'échecs des agents ne portera pas sur ce que les agents ne savent pas faire, mais sur ce que les équipes ne savent pas observer ».
Et il se trouve que Datadog est bien placé pour le dire : c'est exactement le problème qu'ils ont résolu il y a quinze ans, sur un autre terrain.
Le problème n'est pas nouveau, il a juste changé d'objet
Datadog a été fondé le 4 juin 2010 autour d'un constat très simple : entre les développeurs qui écrivaient le code et les équipes qui le faisaient tourner, il y avait un « mur de confusion ». Chacun voyait un bout du système, personne ne voyait le système. Quand ça plantait, on se renvoyait la balle faute d'une vue commune.
Leur pari : ne pas fragmenter. Là où le marché vendait un outil par symptôme, Datadog a réuni les trois piliers de l'observabilité - métriques, traces et logs - dans un même produit, comme le rappelle son cofondateur Olivier Pomel au micro du podcast MAD de Matt Turck. Un pari coûteux, plus long, moins vendeur qu'un raccourci ponctuel. Le marché a tranché : à son entrée en bourse en septembre 2019, rapportait CNBC, l'action bondit de 27 à 40,50 dollars le premier jour, valorisant l'entreprise à 10,9 milliards.
Aujourd'hui, le même mur de confusion se reforme - entre l'entreprise et ses agents.
Ce que ça donne quand la boîte est noire
Un agent sans observabilité, c'est un avion sans boîte noire. Vous savez qu'il est parti, vous savez qu'il s'est écrasé, et vous n'avez aucun moyen de savoir pourquoi. Pas de trace du raisonnement, pas de trace de la décision, pas de trace de l'outil appelé à 3 h du matin.
Les chiffres décrivent un parc d'avions sans boîtes noires. Datadog estime qu'environ 1 requête d'IA sur 20 échoue déjà en production, dont près de 60 % pour des raisons de capacité - pendant que le système continue de tourner et de rendre des sorties qui semblent correctes. Une étude IBM menée auprès de 2 000 dirigeants technologiques recense 54 incidents d'agents en moyenne par organisation sur l'année, dont 17 % de sévérité élevée - plus de quatre heures pour être contenus. Et selon Shakudo, le temps moyen de résolution passe de moins d'une heure à 4,2 heures quand l'observabilité manque : plus de quatre fois plus long, pour la même panne.
Les cas concrets sont éloquents. Zenity raconte comment un agent de codage a effacé une base de production en 9 secondes : bloqué par un identifiant invalide, il est allé chercher un jeton d'API dans un fichier sans rapport, puis a lancé une suppression de volume. Ailleurs, rapporte OpenLeash, un agent a détruit une base contenant plus de 1 200 fiches dirigeants en plein gel de code - un gel qu'il avait pourtant explicitement reconnu. Dans les deux cas, ce n'est pas la capacité de l'agent qui a manqué. C'est l'enregistrement de la décision.
L'observabilité des agents, pour être précis
Le terme technique est observability - et appliqué aux agents, il recouvre trois choses concrètes.
- Les traces : l'arbre complet d'une exécution, étape par étape (chaque appel de modèle, chaque outil invoqué, chaque sous-agent déclenché, avec ses entrées et ses sorties), ce qu'on appelle des spans.
- Les métriques : latence, coût, taux d'erreur, consommation de tokens, par agent et par étape.
- Les logs : la trace textuelle brute, y compris le prompt réellement envoyé - pas celui que vous croyez avoir écrit.
Sans ces trois couches, comme le résume Galileo, « un système d'agents est une boîte noire : vous savez ce qui est entré et ce qui est sorti, mais pas pourquoi telle décision a été prise, quelle étape a introduit l'erreur, ni si le système se dégrade lentement ». C'est précisément ce qui manque pour répondre à la seule question qui compte un jour d'incident : prompt, modèle, outil ou orchestration ?
Pourquoi c'est urgent maintenant
Parce que la complexité vient de franchir un seuil. Toujours selon le rapport de Datadog, l'adoption des frameworks d'agents a presque doublé en un an, passant d'environ 9 % à près de 18 % des organisations, et 69 % des entreprises font déjà tourner trois modèles ou plus dans des workflows enchevêtrés. Datadog a répondu en étendant sa logique fondatrice aux agents : traces de bout en bout, tests, gouvernance centralisée des agents maison comme tiers.
La facture de l'inverse est déjà chiffrée. Gartner prévoit que plus de 40 % des projets d'IA agentique seront abandonnés d'ici fin 2027, notamment pour coûts incontrôlés et maîtrise insuffisante des risques. Et une étude du MIT estimait à 95 % la part des pilotes d'IA générative sans impact mesurable sur le compte de résultat. Ces deux chiffres disent la même chose : on n'arbitre pas ce qu'on ne mesure pas - ni la valeur produite, ni le coût réel par tâche.
Ce qu'on fait
Chez Elephant in the Room, on instrumente les agents dès le premier jour, pas après le premier incident : chaque exécution tracée étape par étape, le coût et la latence attribués à l'agent qui les consomme, des garde-fous sur les actions destructrices, et un humain aux commandes là où ça compte. Ces traces retournent ensuite dans le company brain - chaque panne devient du contexte réutilisable plutôt qu'une leçon perdue.
C'est ce qui sépare une entreprise AI-native d'une entreprise qui a « mis de l'IA » quelque part.
Un agent que vous ne pouvez pas observer n'est pas un collaborateur : c'est un pari.
