Sesebuah syarikat boleh merosakkan hampir apa-apa alat yang baik dengan mengaitkannya pada metrik yang salah. Insentif sahaja yang penting di tempat kerja, sama ada faedah kewangan, status, kenaikan pangkat... Pekerja bekerja kerana insentif. Saya dan anda pun begitu. Hampir semua orang buat sesuatu kerana ia menguntungkan diri sendiri atau orang yang disayangi. Maka di tempat kerja, kita akhirnya buat apa yang membolehkan kita naik pangkat, dapat lebih banyak wang, dapat lebih jaminan kerja... Kita bukan pemilik syarikat, kita pekerja. Kita jaga diri sendiri. Itu tidak salah.
Penggunaan AI dalam syarikat teknologi
Apabila pihak pengurusan mula meraikan penggunaan token, jumlah prompt, bilangan agen, atau penggunaan AI harian, orang akan mengoptimumkan aktiviti mesin dan bukannya hasil yang berguna. Kalau kerja anda terancam kerana ditanda sebagai enggan guna AI, maka... anda guna AI. Banyak, terutamanya apabila jurutera diberi ganjaran kerana semakin banyak menggunakannya. Itu tidak bermakna mereka tidak rasional. Ia bermakna mereka pekerja. Pekerja mengejar apa yang dapat dilihat oleh pihak atasan, lebih-lebih lagi apabila perkara yang nampak itu membawa ganjaran. Buat masa ini aktiviti AI membawa banyak ganjaran
Ini cuma rasuah KPI dalam pakaian baharu. Organisasi tahu secara teori bahawa sebaik metrik menjadi sasaran, ia berhenti menjadi ukuran yang bersih, kemudian mereka lupa peraturan itu sebaik metrik nampak teknikal dan berpandangan ke hadapan. AI menjadikan amnesia ini lebih teruk kerana aktiviti mesin mudah digrafkan dan mudah dibanggakan. Penggunaan AI ialah salah satunya.
Papan markah yang lebih baik lebih sukar dan kurang mengenyangkan ego. Bayangkan sebuah pasukan sokongan pelanggan yang bangga menggandakan jumlah jawapan berbantu AI. Itu kedengaran hebat sehinggalah anda perasan eskalasi turut meningkat kerana jawapan pusingan pertama itu cetek dan penyelia menghabiskan lebih banyak masa membetulkannya. Metrik yang lebih baik bukan "berapa banyak jawapan AI yang kita hasilkan?" Tetapi "adakah masa respons pertama bertambah baik tanpa eskalasi, kerja ulang, atau kekecewaan pelanggan menjadi lebih teruk?" Perkara yang sama terpakai dalam kejuruteraan. Membakar lebih banyak token tiada makna kalau masa semakan, kadar kecacatan, dan risiko rollback semuanya menjadi lebih teruk. Berapa banyak kesan sebenar yang pasukan kejuruteraan itu beri pun?
Ada satu bantahan yang patut diberi perhatian serius. Pada peringkat awal pelaksanaan, metrik penggunaan boleh jadi penting. Kalau tiada siapa menyentuh alat itu, langsung tiada kisah penerimaan. Baik. Tetapi metrik percubaan sementara ada tabiat buruk untuk menjadi metrik kosong yang kekal. Sebaik status dan penilaian melekat pada aktiviti AI yang nampak, organisasi mula mengeluarkan aktiviti semata-mata untuk memenuhi papan markah.
Begitulah caranya alat yang berguna bertukar menjadi birokrasi. Pekerja mula menaip prompt sedangkan mereka sepatutnya buat keputusan sendiri. Pemimpin mula meminta pelan agen kerana pelan agen nampak moden. Pasukan mengoptimumkan permukaan AI yang boleh diukur dan bukannya kos, kualiti, dan penyampaian sebenar. Institusi itu cuma menemui cara baharu untuk membazir wang sambil memuji diri sendiri.
Dulu ini masalah yang sudah selesai. Pihak pengurusan dulu memberi ganjaran kepada jurutera kerana menulis lebih banyak kod. Jadi kod pangkalan akhirnya membesar secara mendadak dan menjadi rapuh serta membengkak. Metrik yang dipermudahkan itu sudah pun menunjukkan bagaimana anda tidak boleh meletakkan metrik prestasi yang ringkas lalu mengharapkan hasil yang baik. Sebaik anda meletakkannya, orang akan mengoptimumkannya. Dan itu tidak salah, saya pun buat benda yang sama.