Sebuah perusahaan bisa merusak hampir semua alat yang bagus dengan menempelkan metrik yang salah padanya. Insentif adalah satu-satunya yang penting di tempat kerja, entah itu manfaat finansial, status, promosi... Pekerja bekerja dengan insentif. Kamu dan aku juga. Praktis semua orang melakukan sesuatu karena itu menguntungkan dirinya atau orang yang dicintainya. Maka, di tempat kerja, kita berakhir melakukan apa yang membuat kita dipromosikan, dapat lebih banyak uang, dapat lebih banyak keamanan kerja... Kita bukan pemilik perusahaan, kita karyawan. Kita menjaga diri sendiri. Itu tak masalah.
Penggunaan AI di perusahaan teknologi
Ketika manajemen mulai merayakan konsumsi token, volume prompt, jumlah agen, atau penggunaan AI harian, orang akan mengoptimalkan aktivitas mesin alih-alih hasil yang berguna. Kalau pekerjaanmu terancam karena kamu ditandai menolak memakai AI maka... kamu pakai AI. Banyak-banyak, apalagi saat insinyur diganjar karena memakainya semakin sering. Itu bukan berarti mereka tak rasional. Itu berarti mereka karyawan. Karyawan mengejar apa yang bisa dilihat pimpinan, terutama saat hal yang terlihat itu membawa ganjaran. Sekarang ini aktivitas AI membawa banyak ganjaran.
Ini cuma korupsi KPI dalam kostum baru. Organisasi secara teori tahu bahwa begitu sebuah metrik menjadi target, ia berhenti menjadi ukuran yang bersih, lalu mereka melupakan aturan itu begitu metriknya tampak teknis dan berorientasi masa depan. AI memperparah amnesianya karena aktivitas mesin mudah digrafikkan dan mudah dipamerkan. Adopsi AI salah satunya.
Papan skor yang lebih baik justru lebih sulit dan tidak seenak didengar. Bayangkan tim dukungan yang dengan bangga melipatgandakan volume respons berbantuan AI-nya. Itu terdengar hebat sampai kamu sadar eskalasi juga naik karena respons babak pertamanya dangkal dan para supervisor menghabiskan lebih banyak waktu untuk membenahinya. Metrik yang lebih baik bukan "berapa banyak jawaban AI yang kita hasilkan?" Melainkan "apakah waktu respons pertama membaik tanpa membuat eskalasi, pengerjaan ulang, atau kekesalan pelanggan ikut memburuk?" Hal yang sama berlaku di bidang teknik. Membakar lebih banyak token tak ada artinya kalau waktu peninjauan, tingkat cacat, dan risiko rollback semuanya memburuk. Lagi pula, seberapa besar sih dampak nyata tim teknik itu?
Ada satu keberatan yang layak ditanggapi serius. Di awal sebuah rollout, metrik penggunaan bisa berarti. Kalau tak ada yang menyentuh alatnya, sama sekali tak ada kisah adopsi. Baik. Tetapi metrik eksperimen sementara punya kebiasaan buruk berubah menjadi metrik gengsi yang permanen. Begitu status dan evaluasi melekat pada aktivitas AI yang terlihat, organisasi mulai memproduksi aktivitas untuk memberi makan papan skor.
Begitulah alat yang berguna menjadi birokrasi. Karyawan mulai nge-prompt padahal seharusnya cukup memutuskan sendiri. Pemimpin mulai meminta rencana agen karena rencana agen terlihat modern. Tim mengoptimalkan permukaan AI yang bisa diukur alih-alih biaya, kualitas, dan pengiriman yang sebenarnya. Institusinya sekadar menemukan cara baru untuk membuang uang sambil menepuk dada sendiri.
Dulu ini masalah yang sudah selesai. Manajemen dulu mengganjar insinyur karena menulis lebih banyak kode. Maka basis kode berakhir membengkak drastis dan menjadi rapuh serta gembung. Metrik yang disederhanakan itu sudah menunjukkan bahwa kamu tak bisa menerapkan metrik kinerja yang sederhana lalu berharap hasil yang bagus. Begitu kamu menerapkannya, orang mengoptimalkannya. Dan itu tak masalah, aku pun begitu.