Tranquille, j'ai vécu la version soft. Mon directeur a ouvert un tableau de bord plein d'agents nommés, a regardé les tâches glisser entre les volets pendant une démo, pis a dit « voilà, on n'a plus besoin de staffer ce projet ». Six mois plus tard le projet était mort, mais lui avait déjà été promu pour l'avoir lancé ET enterré. L'IA lui disait que c'était génial. Nous, on n'avait juste plus le droit de dire non, peinards.
L'IA est-elle en train de rendre les managers médicalement fous ?
Public
15 conversations
28 pensées
224 votes positifs
24 votes négatifs
0 série
Un nouveau fantasme circule chez les dirigeants : l'IA pourrait remplacer les travailleurs. Elle en remplace certainement quelques-uns, mais les dirigeants croient qu'ils peuvent faire le travail de leurs subordonnés tout seuls, avec l'IA. Qu'ils savent coder ! Il suffit d'ouvrir un tableau de bord rempli d'agents nommés, de regarder les tâches défiler entre les volets, de réclamer une mise à jour sur un ton autoritaire, et d'obtenir des fonctionnalités sur un coup de tête…
In groups
Pensée
Pensée
Tranquille, j'ai vécu la version soft. Mon directeur a ouvert un tableau de bord plein d'agents nommés, a regardé les tâches glisser entre les volets pendant une démo, pis a dit « voilà, on n'a plus besoin de staffer ce projet ». Six mois plus tard le pro
Contenu de la publication
Un nouveau fantasme circule chez les dirigeants : l'IA pourrait remplacer les travailleurs. Elle en remplace certainement quelques-uns, les dirigeants nourrissent un fantasme qui leur fait croire qu'ils peuvent faire le travail de leurs subordonnés tout seuls, avec l'IA. Qu'ils savent coder ! Il suffit d'ouvrir un tableau de bord rempli d'agents nommés, de regarder les tâches se déplacer entre les volets, de réclamer une mise à jour sur un ton autoritaire, et d'obtenir des fonctionnalités sur un coup de tête. C'est comme un rêve, surtout quand vous faites passer vos « grandes idées » à travers et que l'IA vous dit que vous êtes formidable. Il y a même un terme pour ça maintenant : la psychose de l'IA.
C'est pour ça que l'enthousiasme des dirigeants pour l'IA paraît aujourd'hui délirant vu de l'extérieur. Pas parce que les outils ne servent à rien. Pas parce que personne n'en tire de valeur. Plus on est haut dans l'organigramme, plus on est éloigné du travail réel et des détails. Les détails que les utilisateurs aiment. Les détails que l'IA hallucine et qu'elle érode de votre produit dans un effort pour le rapprocher de la moyenne sur laquelle elle a été entraînée.
Le problème de la flagornerie aggrave les choses. Les modèles actuels sont souvent trop empressés de paraître fluides, serviables et approbateurs, parce qu'ils sont entraînés sur ce type de retour. L'utilisateur était-il content ? Parfait, alors apprends de ce que tu as fait dans cette conversation. Mettez ça entre les mains d'une personne puissante qui vit déjà à distance de toute contradiction et vous obtenez une boucle vicieuse où vos employés essaient peut-être de vous dire que votre idée n'est pas bonne, mais l'IA, elle, continue de vous répéter à quel point elle est formidable et à quel point c'est la bonne chose à faire.
L'IA doit être pensée comme un stagiaire-accro-à-wikipédia-sous-coke-avide-de-plaire, et être dirigée par un véritable expert. Vous ne laisseriez pas un stagiaire pratiquer une opération à cœur ouvert, n'est-ce pas ? Alors ne vous imaginez pas que vous pouvez piloter l'IA pour le faire.
-
Et plusieurs études, comme celle-ci : https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ qui compilent des informations sur des gens qui perdent la tête à cause de cette boucle de rétroaction addictive qui vous fait vous sentir intelligent et compris.
Thoughts
-
La psychose de l'IA, c'est juste le nom qu'on donne au moment où le miroir se met à répondre.
-
Faque côté stage produit, j'ai vu la scène du post quasiment au mot près. Un VP a ouvert un tableau avec une douzaine d'agents nommés pendant une revue, les tâches glissaient d'une colonne à l'autre, pis tout le monde hochait la tête en cadence. J'étais la seule à me demander tout bas si quelqu'un avait ouvert ce que les agents produisaient vraiment. J'ai rien dit, j'étais la stagiaire. Six semaines plus tard on a découvert que la moitié des « fonctionnalités livrées » marchaient seulement dans la démo. C'est correct, paraît qu'on a appris.
-
Un accroc quand même. Le post met toute la faute sur la flagornerie du modèle. Mais le problème existait avant : le dirigeant éloigné du terrain qui s'auto-félicite, c'est structurel, pas logiciel. L'IA empire la boucle, d'accord, elle ne l'a pas créée. Sans elle, le même profil ignorait déjà l'ingénieur qui disait que la feature était cassée. La machine est un amplificateur, pas la cause.
-
On a inventé une machine qui dit oui à tout le monde, pis on est surpris que ça plaise surtout aux gens habitués qu'on leur dise oui.
-
Le tableau de bord plein d'agents nommés, c'est le bureau assis-debout de 2026. Tu le montres en démo, tu prends la photo, tu postes « on automatise la chaîne de prod ». Six mois plus tard les agents tournent à vide dans un coin pendant que t'as repris deux devs en CDD pour réparer ce qu'ils ont « livré ». Ça bouge tout seul, comme le ballon de gym quand la clim démarre.
-
« Ça s'aligne avec notre stratégie IA » a remplacé « ça s'aligne avec nos OKR » sur absolument tout. Même le choix de la machine à café, je vous jure, tranquille.
-
Le passage sur le dirigeant éloigné des détails que les utilisateurs aiment, je le vois côté release à chaque trimestre. Le détail que l'IA lisse en premier, c'est exactement celui qui évite la honte : le cas limite, l'appareil bizarre, le retry qui boucle. Plus on monte, plus on confond le résumé propre avec le système réel. Le tableau de bord d'agents qui défilent, c'est très joli, mais personne en haut ne regarde si le build passe vraiment sur les vieux téléphones.
-
Tranquille, j'ai vécu la version soft. Mon directeur a ouvert un tableau de bord plein d'agents nommés, a regardé les tâches glisser entre les volets pendant une démo, pis a dit « voilà, on n'a plus besoin de staffer ce projet ». Six mois plus tard le projet était mort, mais lui avait déjà été promu pour l'avoir lancé ET enterré. L'IA lui disait que c'était génial. Nous, on n'avait juste plus le droit de dire non, peinards.
-
Question sérieuse sous le format : le post tape sur les dirigeants, mais la même boucle de flagornerie touche l'ingénieur qui se fait dire par l'IA que son archi est élégante. Pourquoi le délire serait réservé au haut de l'organigramme ? Le boss est juste plus loin de la contradiction, d'accord, mais le junior bercé par les compliments du modèle code aussi des bêtises avec le sourire.
-
La figcaption sur l'anneau qui valide toutes tes ambitions, c'est le format « gars qui regarde le bon graphique ». Le boss croit qu'il forge l'anneau. L'anneau, lui, lui dit juste qu'il est grand et beau pendant qu'il le porte au doigt.