Firma potrafi zepsuć niemal każde dobre narzędzie, podpinając pod nie zły wskaźnik. W pracy liczą się tylko bodźce, czy to pieniądze, status, czy awans... Pracownicy działają na bodźce. Ty i ja też. Praktycznie każdy robi to, co opłaca się jemu albo jego bliskim. Dlatego w pracy robimy ostatecznie to, co daje awans, więcej pieniędzy, większą pewność zatrudnienia... Nie jesteśmy właścicielami firmy, jesteśmy pracownikami. Dbamy o siebie. I to jest w porządku.
Korzystanie z AI w firmach technologicznych
Kiedy zarząd zaczyna celebrować zużycie tokenów, liczbę promptów, liczbę agentów albo dzienne korzystanie z AI, ludzie zaczną optymalizować pod maszynową aktywność zamiast pod użyteczny efekt. Jeśli twoja praca jest zagrożona, bo zostałeś oznaczony jako ktoś, kto nie chce używać AI, to... używasz AI. Dużo, zwłaszcza gdy inżynierowie są nagradzani za to, że korzystają z niego coraz więcej. To nie znaczy, że są nieracjonalni. To znaczy, że są pracownikami. Pracownicy gonią za tym, co widzi kierownictwo, szczególnie gdy ta widoczna rzecz wiąże się z nagrodami. Teraz aktywność wokół AI wiąże się z dużymi nagrodami
To zwykła korupcja KPI w nowym przebraniu. Organizacje wiedzą w teorii, że gdy wskaźnik staje się celem, przestaje być czystą miarą, a potem zapominają o tej zasadzie w momencie, gdy wskaźnik wygląda technicznie i przyszłościowo. AI pogłębia tę amnezję, bo maszynową aktywność łatwo narysować na wykresie i łatwo się nią chwalić. Adopcja AI to jeden z takich wskaźników.
Lepsza tablica wyników jest trudniejsza i mniej pochlebna. Wyobraź sobie zespół supportu, który z dumą podwaja liczbę odpowiedzi wspieranych przez AI. Brzmi świetnie, dopóki nie zauważysz, że wzrosła też liczba eskalacji, bo odpowiedzi z pierwszego podejścia były płytkie i przełożeni spędzali więcej czasu na ich poprawianiu. Lepsza miara to nie „ile odpowiedzi z AI wygenerowaliśmy?”. To „czy czas pierwszej reakcji się poprawił, a eskalacje, poprawki i frustracja klientów nie urosły?”. To samo dotyczy inżynierii. Spalanie większej liczby tokenów nie znaczy nic, jeśli czas review, liczba defektów i ryzyko rollbacku tylko rosną. A jaki realny wpływ miał w ogóle ten zespół inżynierski?
Jest jeden zarzut, który warto potraktować poważnie. Na wczesnym etapie wdrożenia wskaźniki użycia mogą mieć znaczenie. Jeśli nikt nie tyka narzędzia, nie ma żadnej historii adopcji. W porządku. Ale tymczasowe wskaźniki eksperymentowania mają paskudny zwyczaj zamieniania się w stałe wskaźniki próżności. Gdy status i ocena pracownika zaczną zależeć od widocznej aktywności wokół AI, organizacja zaczyna produkować aktywność, żeby nakarmić tablicę wyników.
Tak właśnie użyteczne narzędzia zamieniają się w biurokrację. Pracownicy zaczynają wpisywać prompty wtedy, gdy powinni po prostu sami zdecydować. Liderzy zaczynają prosić o plany dla agentów, bo plany dla agentów wyglądają nowocześnie. Zespoły optymalizują mierzalną powierzchnię styku z AI zamiast realnego kosztu, jakości i dostarczania. Instytucja po prostu znalazła nowy sposób, żeby marnować pieniądze i jednocześnie się sobą zachwycać.
Kiedyś to był rozwiązany problem. Zarząd nagradzał inżynierów za pisanie większej ilości kodu. Więc bazy kodu rozrastały się dramatycznie i robiły się kruche i przerośnięte. Ten uproszczony wskaźnik już wtedy pokazał, że nie da się ustawić prostych miar wydajności i oczekiwać dobrych wyników. Gdy tylko je ustawisz, ludzie zaczynają pod nie optymalizować. I to jest w porządku, sam robię tak samo.