Kayang sirain ng isang kumpanya ang halos anumang magandang tool sa pamamagitan ng pagkabit dito ng maling metric. Ang mga incentive lang ang mahalaga sa workplace, maging financial benefits, status, promotion man iyon... Nagtatrabaho ang mga manggagawa dahil sa incentive. Ikaw at ako rin. Halos lahat ay gumagawa ng mga bagay dahil nakikinabang sila o ang mga mahal nila. Kaya sa trabaho, napupunta tayo sa paggawa ng mga bagay na nagpa-promote sa atin, nagbibigay ng mas maraming pera, nagbibigay ng mas matatag na trabaho... Hindi tayo ang may-ari ng kumpanya, empleyado tayo. Iniisip natin ang sarili natin. Okay lang iyon.
Paggamit ng AI sa mga tech company
Kapag nagsimulang ipagdiwang ng management ang token consumption, dami ng prompt, bilang ng agent, o pang-araw-araw na paggamit ng AI, mago-optimize ang mga tao para sa machine activity sa halip na kapaki-pakinabang na resulta. Kung nanganganib ang trabaho mo dahil na-flag kang tumatangging gumamit ng AI, e di... gagamit ka ng AI. Marami, lalo na kapag ginagantimpalaan ang mga engineer sa paggamit nito nang paramihan. Hindi ibig sabihin niyon ay irasyonal sila. Ibig sabihin, mga empleyado sila. Hinahabol ng mga empleyado ang nakikita ng leadership, lalo na kapag may gantimpala ang nakikitang bagay. Sa ngayon, maraming gantimpala ang AI activity
Ito ay KPI corruption lang sa bagong kasuotan. Alam ng mga organisasyon sa teorya na kapag naging target na ang isang metric ay tumitigil na itong maging malinis na sukatan, tapos nakakalimutan nila ang patakaran sa sandaling magmukhang teknikal at future-facing ang metric. Mas pinalalala ng AI ang pagkalimot dahil madaling i-graph at madaling ipagmalaki ang machine activity. Isa rito ang AI adoption.
Mas mahirap at mas hindi nakakabuti ang mas magandang scoreboard. Isipin mo ang isang support team na buong yabang na dinodoble ang dami ng AI-assisted na response nito. Maganda ang dating niyon hanggang sa mapansin mong tumaas din ang escalations dahil mababaw ang first-pass na mga sagot at mas maraming oras ang ginugol ng mga supervisor sa pag-aayos. Ang mas magandang metric ay hindi "ilang AI answers ang nagawa namin?" Kundi "bumuti ba ang first-response time nang hindi lumalala ang escalation, rework, o frustration ng customer?" Pareho rin ang nangyayari sa engineering. Walang saysay ang pagsunog ng mas maraming token kung lumalala ang review time, defect rate, at rollback risk. Gaano nga ba talaga kalaking impact ang nagawa ng engineering team?
May isang tutol na dapat seryosohin. Sa simula ng rollout, pwedeng mahalaga ang usage metrics. Kung walang humahawak sa tool, wala namang adoption story. Sige. Pero may masamang ugali ang pansamantalang experimentation metrics na maging permanenteng vanity metrics. Sa sandaling makakabit ang status at ebalwasyon sa nakikitang AI activity, magsisimulang gumawa ang organisasyon ng activity para pakainin ang scoreboard.
Ganito nagiging burukrasya ang mga kapaki-pakinabang na tool. Nagsisimulang mag-prompt ang mga empleyado gayong dapat magdesisyon na lang sila mag-isa. Nagsisimulang humingi ng agent plans ang mga lider dahil mukhang moderno ang agent plans. Nag-o-optimize ang mga team para sa nasusukat na AI surface area sa halip na sa totoong gastos, kalidad, at delivery. Nakahanap lang ng bagong paraan ang institusyon para mag-aksaya ng pera habang binabati ang sarili.
Dati nang nasolusyunan ito. Dating ginagantimpalaan ng management ang mga engineer sa pagsulat ng mas maraming code. Kaya ang mga codebase ay napakalaki na, naging brittle at bloated. Naipakita na ng pinasimpleng metric kung paanong hindi mo basta-basta mailalagay ang simpleng metric para sa performance at aasahang magandang resulta. Sa sandaling ilagay mo ang mga ito, mago-optimize ang mga tao para dito. At okay lang iyon, ganoon din ako.