Une entreprise peut gâcher presque n'importe quel bon outil en lui accolant la mauvaise mesure. Au travail, seules les incitations comptent : avantages financiers, statut, promotion... Les travailleurs travaillent avec des incitations. Vous et moi aussi. Pratiquement tout le monde fait les choses parce que ça lui profite, ou profite à ses proches. Du coup, au travail, on finit par faire ce qui nous fait obtenir une promotion, plus d'argent, plus de sécurité d'emploi... Nous ne sommes pas les propriétaires de l'entreprise, nous sommes des salariés. On veille sur soi. Et c'est normal.
L'usage de l'IA dans les entreprises technologiques
Quand la direction se met à célébrer la consommation de jetons, le volume de requêtes, le nombre d'agents ou l'usage quotidien de l'IA, les gens optimisent l'activité machine plutôt que les résultats utiles. Si votre poste est menacé parce qu'on vous pointe comme refusant d'utiliser l'IA, alors... vous utilisez l'IA. Beaucoup, surtout quand les ingénieurs sont récompensés pour s'en servir de plus en plus. Cela ne veut pas dire qu'ils sont irrationnels. Cela veut dire que ce sont des salariés. Les salariés courent après ce que la direction peut voir, surtout quand la chose visible apporte des récompenses. En ce moment, l'activité IA apporte beaucoup de récompenses
Ce n'est que de la corruption d'indicateur dans un nouveau costume. Les organisations savent en théorie qu'une fois qu'une mesure devient une cible, elle cesse d'être une mesure propre, puis elles oublient la règle au moment même où l'indicateur paraît technique et tourné vers l'avenir. L'IA aggrave l'amnésie parce que l'activité machine est facile à mettre en graphique et facile à étaler. L'adoption de l'IA en fait partie.
Le bon tableau de bord est plus difficile et moins flatteur. Imaginez une équipe de support qui double fièrement son volume de réponses assistées par IA. Ça paraît formidable, jusqu'à ce que vous remarquiez que les escalades ont elles aussi augmenté, parce que les premières réponses étaient superficielles et que les superviseurs ont passé plus de temps à les corriger. Une meilleure mesure n'est pas « combien de réponses IA avons-nous générées ? ». C'est « le délai de première réponse s'est-il amélioré sans que les escalades, les reprises ou la frustration des clients n'empirent ? ». La même chose vaut en ingénierie. Brûler plus de jetons n'a aucun sens si le temps de revue, le taux de défauts et le risque de retour arrière empirent tous. Et quel impact réel l'équipe d'ingénierie a-t-elle vraiment eu, au bout du compte ?
Il y a une objection qui mérite d'être prise au sérieux. Au début d'un déploiement, les mesures d'usage peuvent compter. Si personne ne touche à l'outil, il n'y a tout simplement aucune histoire d'adoption. D'accord. Mais les mesures d'expérimentation temporaires ont la fâcheuse habitude de devenir des indicateurs de vanité permanents. Une fois que le statut et l'évaluation se rattachent à l'activité IA visible, l'organisation se met à fabriquer de l'activité pour alimenter le tableau de bord.
C'est ainsi que des outils utiles deviennent de la bureaucratie. Les salariés se mettent à lancer des requêtes alors qu'ils devraient simplement décider d'eux-mêmes. Les responsables se mettent à réclamer des plans d'agents parce que les plans d'agents ont l'air modernes. Les équipes optimisent une surface d'IA mesurable au lieu du coût, de la qualité et de la livraison réels. L'institution a simplement trouvé une nouvelle façon de gaspiller de l'argent tout en se félicitant elle-même.
C'était autrefois un problème résolu. La direction récompensait jadis les ingénieurs qui écrivaient plus de code. Du coup, les bases de code finissaient par grossir spectaculairement et devenaient fragiles et boursouflées. Cette mesure simpliste montrait déjà qu'on ne peut pas mettre en place des indicateurs de performance simples en s'attendant à de bons résultats. Dès qu'on les met en place, les gens les optimisent. Et c'est normal, je fais pareil.