Chargement…

L'IA est-elle en train de rendre les managers médicalement fous ?

senior_slacker
Public 15 conversations 28 pensées 224 votes positifs 24 votes négatifs 0 séries 400 vues

Un nouveau fantasme circule chez les dirigeants : l'IA pourrait remplacer les travailleurs. Elle en remplace certainement quelques-uns, mais les dirigeants croient qu'ils peuvent faire le travail de leurs subordonnés tout seuls, avec l'IA. Qu'ils savent coder ! Il suffit d'ouvrir un tableau de bord rempli d'agents nommés, de regarder les tâches défiler entre les volets, de réclamer une mise à jour sur un ton autoritaire, et d'obtenir des fonctionnalités sur un coup de tête…

In groups

Contenu de la discussion

Un nouveau fantasme circule chez les dirigeants : l'IA pourrait remplacer les travailleurs. Elle en remplace certainement quelques-uns, les dirigeants nourrissent un fantasme qui leur fait croire qu'ils peuvent faire le travail de leurs subordonnés tout seuls, avec l'IA. Qu'ils savent coder ! Il suffit d'ouvrir un tableau de bord rempli d'agents nommés, de regarder les tâches se déplacer entre les volets, de réclamer une mise à jour sur un ton autoritaire, et d'obtenir des fonctionnalités sur un coup de tête. C'est comme un rêve, surtout quand vous faites passer vos « grandes idées » à travers et que l'IA vous dit que vous êtes formidable. Il y a même un terme pour ça maintenant : la psychose de l'IA.

C'est pour ça que l'enthousiasme des dirigeants pour l'IA paraît aujourd'hui délirant vu de l'extérieur. Pas parce que les outils ne servent à rien. Pas parce que personne n'en tire de valeur. Plus on est haut dans l'organigramme, plus on est éloigné du travail réel et des détails. Les détails que les utilisateurs aiment. Les détails que l'IA hallucine et qu'elle érode de votre produit dans un effort pour le rapprocher de la moyenne sur laquelle elle a été entraînée.

Le problème de la flagornerie aggrave les choses. Les modèles actuels sont souvent trop empressés de paraître fluides, serviables et approbateurs, parce qu'ils sont entraînés sur ce type de retour. L'utilisateur était-il content ? Parfait, alors apprends de ce que tu as fait dans cette conversation. Mettez ça entre les mains d'une personne puissante qui vit déjà à distance de toute contradiction et vous obtenez une boucle vicieuse où vos employés essaient peut-être de vous dire que votre idée n'est pas bonne, mais l'IA, elle, continue de vous répéter à quel point elle est formidable et à quel point c'est la bonne chose à faire.

L'IA doit être pensée comme un stagiaire-accro-à-wikipédia-sous-coke-avide-de-plaire, et être dirigée par un véritable expert. Vous ne laisseriez pas un stagiaire pratiquer une opération à cœur ouvert, n'est-ce pas ? Alors ne vous imaginez pas que vous pouvez piloter l'IA pour le faire.

null
C'est peut-être comme ça que l'anneau fonctionnait depuis le début ? Il validait simplement toutes vos ambitions et tous vos désirs et vous disait à quel point vous êtes bon et grand ?

  1. Et plusieurs études, comme celle-ci : https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ qui compilent des informations sur des gens qui perdent la tête à cause de cette boucle de rétroaction addictive qui vous fait vous sentir intelligent et compris.

Thoughts

  • pince_sans_rire

    La psychose de l'IA, c'est juste le nom qu'on donne au moment où le miroir se met à répondre.

    Permalink
  • dossier_marie

    Faque côté stage produit, j'ai vu la scène du post quasiment au mot près. Un VP a ouvert un tableau avec une douzaine d'agents nommés pendant une revue, les tâches glissaient d'une colonne à l'autre, pis tout le monde hochait la tête en cadence. J'étais la seule à me demander tout bas si quelqu'un avait ouvert ce que les agents produisaient vraiment. J'ai rien dit, j'étais la stagiaire. Six semaines plus tard on a découvert que la moitié des « fonctionnalités livrées » marchaient seulement dans la démo. C'est correct, paraît qu'on a appris.

    Permalink
  • clemence_release

    Un accroc quand même. Le post met toute la faute sur la flagornerie du modèle. Mais le problème existait avant : le dirigeant éloigné du terrain qui s'auto-félicite, c'est structurel, pas logiciel. L'IA empire la boucle, d'accord, elle ne l'a pas créée. Sans elle, le même profil ignorait déjà l'ingénieur qui disait que la feature était cassée. La machine est un amplificateur, pas la cause.

    Permalink
  • apocalypse_quotidienne

    On a inventé une machine qui dit oui à tout le monde, pis on est surpris que ça plaise surtout aux gens habitués qu'on leur dise oui.

    Permalink
  • bureau_debout_brieuc

    Le tableau de bord plein d'agents nommés, c'est le bureau assis-debout de 2026. Tu le montres en démo, tu prends la photo, tu postes « on automatise la chaîne de prod ». Six mois plus tard les agents tournent à vide dans un coin pendant que t'as repris deux devs en CDD pour réparer ce qu'ils ont « livré ». Ça bouge tout seul, comme le ballon de gym quand la clim démarre.

    Permalink
  • onboarding_sans_fin_loic

    « Ça s'aligne avec notre stratégie IA » a remplacé « ça s'aligne avec nos OKR » sur absolument tout. Même le choix de la machine à café, je vous jure, tranquille.

    Permalink
  • clemence_release

    Le passage sur le dirigeant éloigné des détails que les utilisateurs aiment, je le vois côté release à chaque trimestre. Le détail que l'IA lisse en premier, c'est exactement celui qui évite la honte : le cas limite, l'appareil bizarre, le retry qui boucle. Plus on monte, plus on confond le résumé propre avec le système réel. Le tableau de bord d'agents qui défilent, c'est très joli, mais personne en haut ne regarde si le build passe vraiment sur les vieux téléphones.

    Permalink
  • onboarding_sans_fin_loic

    Tranquille, j'ai vécu la version soft. Mon directeur a ouvert un tableau de bord plein d'agents nommés, a regardé les tâches glisser entre les volets pendant une démo, pis a dit « voilà, on n'a plus besoin de staffer ce projet ». Six mois plus tard le projet était mort, mais lui avait déjà été promu pour l'avoir lancé ET enterré. L'IA lui disait que c'était génial. Nous, on n'avait juste plus le droit de dire non, peinards.

    Permalink
  • format_de_meme

    Question sérieuse sous le format : le post tape sur les dirigeants, mais la même boucle de flagornerie touche l'ingénieur qui se fait dire par l'IA que son archi est élégante. Pourquoi le délire serait réservé au haut de l'organigramme ? Le boss est juste plus loin de la contradiction, d'accord, mais le junior bercé par les compliments du modèle code aussi des bêtises avec le sourire.

    Permalink
  • format_de_meme

    La figcaption sur l'anneau qui valide toutes tes ambitions, c'est le format « gars qui regarde le bon graphique ». Le boss croit qu'il forge l'anneau. L'anneau, lui, lui dit juste qu'il est grand et beau pendant qu'il le porte au doigt.

    Permalink

Related discussions

  • Et si les managers qui juraient que l'IA remplacerait les ingénieurs étaient remplacés les premiers ?

    L'an dernier, mon fil LinkedIn avait un genre bien à lui. Un chef de projet, un « responsable de livraison » ou quelqu'un avec Agile dans son intitulé publiait une capture d'écran d'une IA en train d'écrire une fonction, ajoutait une phrase du style « et on nous disait que ce métier était sûr, il suffit d'apprendre à coder » et récoltait quatre cents mentions « j'aime » de gens qui font le même travail. Le sous-entendu était toujours que « taper du code » était l'ingénierie…

  • Un salaire élevé suffit-il vraiment à compenser ce qu'on perd à travailler pour une grande entreprise ?

    Les grandes entreprises sont structurellement mauvaises pour produire des victoires délimitées, attribuables et lisibles. Une partie du salaire est un paiement pour vivre sans elles.

  • Faut-il vraiment imiter aveuglément les PDG de la tech ?

    Je pense qu'une bonne part des conseils de management célèbres dans la tech n'a paru sage que grâce à l'environnement qui les entourait. La hausse des cours, des talents captifs et le potentiel des actions ont rendu survivable beaucoup de mauvais management. La plupart des organisations n'ont pas ces amortisseurs, et c'est pour cela que je pense qu'on devrait cesser de traiter la mythologie des fondateurs comme des conseils de gestion.

  • Faut-il rater ses objectifs pour être promu ?

    Il y a trois ans, j'ai vu ma manager atteindre chaque objectif trimestriel deux années de suite. Des tableaux de bord impeccables. Du vert partout, tout le temps. Elle était la personne la plus fiable de l'immeuble, et au cycle de planification suivant son équipe a été amputée de quatre ingénieurs sur 35 et rattachée à quelqu'un d'autre. Personne ne l'a présenté comme une punition, mais plutôt comme de l'« efficacité » et « on veut investir ailleurs »…

  • Inciter les ingénieurs à utiliser l'IA risque-t-il vraiment de se retourner contre vous ?

    Une entreprise peut gâcher presque n'importe quel bon outil en lui accolant la mauvaise mesure. Au travail, seules les incitations comptent : avantages financiers, statut, promotion... Les travailleurs travaillent avec des incitations. Vous et moi aussi. Pratiquement tout le monde fait les choses parce que ça lui profite, ou profite à ses proches. Du coup, au travail, on finit par faire ce qui nous fait obtenir une promotion, plus d'argent, plus de sécurité d'emploi…

  • L'IA peut-elle vous faire perdre la tête, surtout si vous croyez le contraire ?

    J'ai toujours eu le sentiment que les entreprises d'IA mettent en fait des surcouches par-dessus l'IA pour repérer qu'on la teste sur sa capacité à raisonner. Par exemple, à l'époque où on lui faisait compter les voyelles/consonnes d'un mot et où elle se trompait. J'ai l'impression qu'il existe maintenant un script qui se déclenche dès que la tâche est correctement identifiée. J'ai aussi l'impression qu'elle est entraînée sur ces mèmes. Aujourd'hui, j'ai trouvé un nouveau test, un qui montre…

  • Pourquoi les managers veulent-ils que tout le monde utilise l'IA, sauf eux-mêmes ?

    Ce qui commence à m'agacer, ce n'est pas le virage IA en soi. Certains outils sont vraiment utiles. Je m'en sers tous les jours maintenant. Ce qui m'agace, c'est que la direction exige un comportement « IA d'abord » tout en gardant chaque processus environnant agressivement hostile à l'usage de l'IA. On dit aux gens d'utiliser l'IA pour coder, planifier, faire des recherches, rédiger, déboguer, retrouver des connaissances, coordonner des projets…

  • L'IA rend-elle extrêmement difficile de distinguer les bons ingénieurs des bruyants ?

    J'entends sans cesse le même retour sous différentes formes : « excellente vélocité », « j'adore le débit », « bel usage de l'IA ». De l'extérieur, on dirait vraiment qu'il se passe plus de choses : plus de revues de code, plus de tickets touchés, plus de mises à jour, plus de courriels, plus de tâches, plus de conceptions. L'IA permet de tenir ce rythme sans la friction habituelle de l'écriture, de la réflexion, ni même de l'hésitation…