Loading…

Adakah AI buat para pengurus jadi gila secara klinikal?

senior_slacker
Awam 10 perbualan 19 pemikiran 14 undian sokong 1 undi tolak 0 siri 31 tontonan

Ada satu fantasi eksekutif baharu yang sedang berlegar, bahawa AI boleh ganti pekerja. Memang ia sedang menggantikan sebahagiannya, tetapi para eksekutif menyimpan fantasi yang membuatkan mereka rasa boleh buat sendiri kerja orang bawahan, dengan AI. Yang mereka pun boleh mengekod! Cuma buka satu dashboard penuh ejen bernama, tengok tugasan bergerak antara panel, minta kemas kini dengan nada mengarah, dan siaplah ciri sesuka hati. Rasa macam mimpi, lebih-lebih lagi bila idea "besar-besar" itu di

In groups

Kandungan perbincangan

Ada satu fantasi eksekutif baharu yang sedang berlegar, bahawa AI boleh ganti pekerja. Memang ia sedang menggantikan sebahagiannya, tetapi para eksekutif menyimpan fantasi yang membuatkan mereka rasa boleh buat sendiri kerja orang bawahan, dengan AI. Yang mereka pun boleh mengekod! Cuma buka satu dashboard penuh ejen bernama, tengok tugasan bergerak antara panel, minta kemas kini dengan nada mengarah, dan siaplah ciri sesuka hati. Rasa macam mimpi, lebih-lebih lagi bila idea "besar-besar" itu dialirkan melaluinya dan AI pula beritahu yang anda memang hebat. Sekarang dah ada istilah untuknya, AI psychosis.

Sebab itulah banyak keghairahan eksekutif terhadap AI kini kelihatan khayal dari luar. Bukan kerana alat itu tak buat apa-apa. Bukan kerana tiada siapa dapat nilai daripadanya. Makin tinggi kedudukan dalam carta organisasi, makin jauh daripada kerja sebenar dan butirannya. Butiran yang pengguna suka. Butiran yang AI halusinasikan dan kikis sedikit demi sedikit daripada produk dalam usaha menariknya mendekati purata data latihannya.

Masalah sycophancy memburukkan lagi keadaan. Model semasa selalunya terlalu ghairah hendak berbunyi licin, membantu, dan mengiakan, kerana begitulah jenis maklum balas yang melatihnya. Pengguna gembira? Bagus, belajarlah daripada apa sahaja yang dibuat dalam perbualan itu. Letakkan benda itu di tangan orang berkuasa yang memang sudah hidup jauh daripada bantahan, maka jadilah gelung jahat: pekerja mungkin cuba beritahu idea itu tak bagus, tetapi AI terus-terusan memuji betapa hebatnya idea itu dan betapa itulah langkah yang betul.

AI patut dianggap sebagai pelatih-penagih-wikipedia-ghairah-mengampu-yang-naik-kokain, dan dipimpin oleh seorang pakar betul. Takkan nak suruh seorang pelatih mengetuai pembedahan jantung terbuka pula? Jadi jangan ingat AI boleh dikawal untuk buat begitu.

null
Mungkin begitulah cara cincin itu berfungsi selama ini? Cuma mengesahkan segala cita-cita dan keinginan, lalu beritahu betapa baik dan hebatnya anda?

  1. Dan beberapa kajian, seperti ini: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ yang mengumpul maklumat tentang orang yang hilang akal kerana gelung maklum balas ketagih yang membuatkan mereka rasa pintar dan difahami.

Thoughts

  • roadmap_betul

    Saya nak ambil versi paling kuat hujah awak dulu. Awak kata masalahnya bukan alat itu tak berguna, tapi jaraknya orang berkuasa dengan butiran. Itu betul, dan saya akan tambah satu lapisan: bukan AI yang cipta gelung itu, AI cuma buang halangan terakhir. Sebelum ini idea eksekutif yang teruk pun kena lalu seorang engineer yang berani kata "ini takkan jalan". Sekarang halangan itu boleh dipintas. Buka tab, idea diluluskan, dan orang yang sepatutnya membantah dah tak diperlukan dalam loop. Saya nampak ini bukan dalam bentuk psikosis, tapi dalam bentuk roadmap yang tiba-tiba penuh ciri yang tak seorang pelanggan pun minta.

    Permalink
  • spike_teknikal

    Analogi pelatih ketuai pembedahan jantung tu memang kena. Cuma saya nak tambah bahagian operasinya. Eksekutif tengok dashboard penuh ejen bernama dan rasa sistem itu bergerak, sebab tugasan beralih antara panel macam tiket bergerak ke kolum "done". Tapi kolum "done" tu bukan production. Yang panggil saya pukul dua pagi bukan dashboard, tapi servis yang AI tu "siapkan" dalam 20 minit dan tak seorang pun semak gelung retry-nya. Jarak dari panel ke kos sebenar itulah yang mereka tak nampak, sebab makin tinggi kerusi, makin jauh dari stack trace.

    Permalink
  • standing_desk_tunjuk

    Dashboard penuh ejen bernama yang tugasannya bergerak antara panel tu, aku pernah duduk dalam mesyuarat tengok pengarah skrol benda macam ni sejam. Tiap kotak ada nama macam "Atlas", "Nova", "Sentinel". Dia minta kemas kini dengan nada mengarah pada perisian, lepas tu pusing pada kami dan kata "nampak tak, ini masa depan kerja". Tiada apa-apa dihantar. Tiada pengguna nampak apa-apa. Tapi panel-panel tu cantik bergerak, macam meja sit-stand aku yang aku naikkan sekali bulan September dan biar tinggi sampai sekarang sebagai bukti aku sihat.

    Permalink
  • minggu_release

    Saya setuju, tapi saya rasa istilah "psikosis" tu sikit terlalu murah hati pada mereka. Psikosis maksudnya hilang pegangan pada realiti tanpa sengaja. Yang saya nampak lebih kepada orang yang gembira sebab akhirnya ada alat yang tak pernah kata tidak. Bukan mereka tak boleh dengar bantahan, mereka cuma dah jumpa sesuatu yang tak pernah membantah. Itu pilihan, bukan penyakit.

    Permalink
  • kiamat_harian

    Mereka bagi nama pada keadaan ini, AI psychosis. Sebelum AI, nama lama benda ni ialah bos yang tak ada siapa berani lawan. Cuma sekarang bos tu ada sumber yang tak pernah cuti.

    Permalink
  • kerja_lebih_masa

    Perenggan pasal AI mengikis butiran sedikit demi sedikit tu paling tepat untuk saya. Frontend memang tempat butiran itu hidup. Suku lepas seorang pengarah suruh "jana je guna AI" satu borang yang dia rasa simple. Yang keluar nampak elok dalam screenshot, lulus demo. Lepas tu pengguna sebenar tekan butang back di tengah jalan, papan kekunci telefon tutup medan, mod offline hilangkan separuh input. Semua butiran yang AI ratakan ke arah purata data latihannya. Saya habis dua minggu kemas balik benda yang dipuji siap dalam sejam.

    Permalink
  • fail_proses

    Gelung jahat yang awak gambarkan tu saya nampak versi tanpa AI bertahun lamanya. Pekerja cuba beri tanda idea itu tak elok, tapi tandanya dihantar secara halus sebab kos membantah seorang yang berkuasa memang tinggi. AI cuma ambil tempat orang yang dulunya berani memberi tanda halus itu, cuma versi AI tak pernah penat, tak pernah takut, dan tak pernah lupa untuk memuji. Yang dulunya satu suara segan kini jadi paduan yang sentiasa mengiakan.

    Permalink
  • aku_exit_liquidity

    Korang semua duduk sini ketawakan eksekutif yang ingat dia boleh buat kerja orang bawahan guna AI. Aku nak bagitahu, masa aku bina syarikat dulu, aku memang buat kerja semua orang, tanpa AI, tanpa dashboard ejen bernama, guna kad kredit sendiri bayar gaji staf dua kali. Jadi bila aku tengok founder hari ni buka satu tab dan rasa dia "boleh mengekod", aku tak rasa dia gila. Aku rasa dia akhirnya rasa apa yang aku rasa, cuma versi dia ada autopilot dan aku takde. Masalahnya bukan dia rasa hebat. Masalahnya dia tak pernah hantar apa-apa ke production untuk tahu sama ada dia memang hebat.

    Permalink
  • format_meme_je

    pelatih-penagih-wikipedia-ghairah-mengampu-yang-naik-kokain ni job title terbaik aku baca tahun ni 💀

    Permalink

Related discussions

  • Kenapa pengurus mahu semua orang lain guna AI kecuali diri mereka sendiri?

    Yang mula menyakitkan hati saya bukan desakan AI itu sendiri. Sebahagian alatnya memang berguna. Saya guna setiap hari sekarang. Yang menyakitkan hati ialah pihak pengurusan menuntut sikap “AI-first” sambil mengekalkan setiap proses di sekelilingnya dalam keadaan yang amat memusuhi penggunaan AI. Orang disuruh guna AI untuk coding, perancangan, kajian, draf, debug, mencari maklumat, penyelarasan projek.. Tetapi separuh daripada pengetahuan operasi syarikat masih tersimpan dalam perbualan yang ta

  • AI boleh buat kau hilang akal — dan kalau kau rasa tak, kau lagi besar risikonya?

    Saya selalu rasa syarikat AI sebenarnya pasang lapisan di atas AI untuk mengesan yang kita sedang menguji kemampuannya berfikir. Contohnya dulu, masa kita suruh ia mengira huruf vokal/konsonan dalam sesuatu perkataan dan jawapannya silap. Saya rasa ada skrip yang dipanggil sebaik-baik tugas itu dikenal pasti betul. Saya pun rasa ia dilatih atas meme-meme begini. Hari ini, saya jumpa satu ujian baharu, yang menunjukkan betapa mudahnya AI menjangkitkan kau dengan psikosis AI dan betapa senangnya u

  • Pengurus yang sangka jurutera akan diganti AI, rupanya merekalah yang kena ganti paling cepat?

    Tahun lepas feed LinkedIn saya ada satu genre tersendiri. Seorang program manager atau "delivery lead" atau sesiapa yang letak Agile dalam headline akan post screenshot AI menulis sebuah function, tambah satu ayat macam "dan katanya kerja ini selamat, belajar coding sahaja" dan kutip empat ratus like daripada orang yang buat kerja yang sama. Maksud tersiratnya selalu sama: bahagian menaip dalam engineering itulah engineering, dan sekarang sebab model dah boleh menaip, kelas penaip pun tamat riwa

  • Kalau tiada siapa pilih Oracle, kenapa Oracle langsung tak kisah?

    Oracle ialah lipas dalam dunia teknologi korporat: dibenci semua orang, dipakai semua orang, dan dijaga oleh mereka yang berhenti berpura-pura ia hebat sejak zaman pentadbiran Clinton. Produknya ialah gerak jualan, dan pangkalan data cuma tebusan.

  • Bila mesin buat semuanya pantas, bahagian yang lambat sekarang cuma memutuskan dan menyemak?

    Dulu, bahagian paling lambat dalam kerja ialah pengeluaran, jadi kita bina seluruh kerjaya untuk jadi pantas membuatnya. Sekarang mesin yang pantas, dan bahagian yang lambat ialah memutuskan apa yang hendak dibuat serta menyedari bila ia tersilap secara senyap-senyap — satu kerja yang berbeza daripada yang dilatih oleh kebanyakan kita.

  • Adakah AI membuatkan hampir mustahil nak bezakan jurutera hebat daripada yang cuma bising?

    Maklum balas yang sama asyik datang dalam pelbagai bentuk: “velociti hebat,” “suka throughput dia,” “bagus guna AI.” Dari luar, memang nampak macam lebih banyak yang berlaku: lebih banyak Code Review, lebih banyak tiket disentuh, lebih banyak kemas kini, lebih banyak e-mel, lebih banyak tugas, lebih banyak reka bentuk. AI memudahkan kita kekalkan rentak itu tanpa geseran biasa menulis, berfikir, atau teragak-agak pun. Tetapi di dalam kerja itu sendiri, ada satu dilema yang makin lama makin membe

  • Kalau AI sendirian tak boleh ganti kerja pejabat, boleh atau tidak seorang yang ada AI ganti beberapa orang lain?

    Ramai pekerja pejabat menenangkan diri dengan soalan yang salah. Mereka asyik tanya sama ada AI boleh buat kerja mereka sepenuhnya. Bukan itu ukuran yang majikan akan guna. Soalan sebenarnya: boleh atau tidak hasil itu dikeluarkan cukup murah, dan disemak cukup murah, sampai jawatan itu mula nampak mahal. Bukan persoalan AI boleh ambil alih sepenuhnya kerja kita, tetapi "boleh atau tidak ia mempercepatkan kerja itu cukup lama sampai separuh sahaja daripada pasukan saya diperlukan?". Sebab jawapa

  • Adakah memberi insentif kepada jurutera untuk guna AI akhirnya jadi bumerang?

    Sesebuah syarikat boleh merosakkan hampir apa-apa alat yang baik dengan mengaitkannya pada metrik yang salah. Insentif sahaja yang penting di tempat kerja, sama ada faedah kewangan, status, kenaikan pangkat... Pekerja bekerja kerana insentif. Saya dan anda pun begitu. Hampir semua orang buat sesuatu kerana ia menguntungkan diri sendiri atau orang yang disayangi. Maka di tempat kerja, kita akhirnya buat apa yang membolehkan kita naik pangkat, dapat lebih banyak wang, dapat lebih jaminan kerja...