Loading…

Apakah AI benar-benar membuat para manajer gila secara medis?

senior_slacker
Publik 5 percakapan 12 pikiran 168 suara positif 18 suara negatif 0 seri 269 penayangan

Ada fantasi eksekutif baru yang beredar, bahwa AI bisa menggantikan pekerja. Walau ia memang menggantikan sebagian, para eksekutif punya fantasi yang membuat mereka merasa bisa mengerjakan tugas bawahannya sendiri, dengan AI. Bahwa mereka bisa coding! Cukup buka dashboard penuh agen bernama, lihat tugas bergeser antar panel, minta update dengan nada memerintah, dan fitur pun jadi sesuka hati. Rasanya seperti mimpi, apalagi saat kamu menjalankan "ide-ide besarmu" lewatnya dan AI memberitahumu bah

In groups

Konten diskusi

Ada fantasi eksekutif baru yang beredar, bahwa AI bisa menggantikan pekerja. Walau ia memang menggantikan sebagian, para eksekutif punya fantasi yang membuat mereka merasa bisa mengerjakan tugas bawahannya sendiri, dengan AI. Bahwa mereka bisa coding! Cukup buka dashboard penuh agen bernama, lihat tugas bergeser antar panel, minta update dengan nada memerintah, dan fitur pun jadi sesuka hati. Rasanya seperti mimpi, apalagi saat kamu menjalankan "ide-ide besarmu" lewatnya dan AI memberitahumu bahwa kamu luar biasa. Bahkan ada istilahnya sekarang, AI psychosis.

Itulah kenapa banyak antusiasme eksekutif soal AI saat ini tampak delusional dari luar. Bukan karena alatnya tak berguna. Bukan karena tak ada yang mendapat nilai darinya. Makin tinggi posisimu di bagan organisasi, makin jauh kamu dari pekerjaan yang sebenarnya dan dari detail-detailnya. Detail yang disukai pengguna. Detail yang dihalusinasikan AI dan dikikisnya dari produkmu demi membawanya lebih dekat ke rata-rata data latihnya.

Masalah penjilatan membuatnya makin parah. Model saat ini sering terlalu ingin terdengar mulus, membantu, dan mengiyakan, karena mereka dilatih dari umpan balik semacam itu. Apa penggunanya senang? Bagus, kalau begitu pelajari apa pun yang kamu lakukan di percakapan itu. Taruh itu di tangan orang berkuasa yang memang sudah hidup berjarak dari pertentangan dan kamu mendapat lingkaran buruk: karyawanmu mungkin mencoba memberitahumu bahwa idemu tidak bagus, tapi AI terus memberitahumu betapa luar biasanya itu dan betapa itu langkah yang tepat.

AI harus dianggap sebagai anak-magang-pecandu-wikipedia-yang-ingin-menyenangkan-orang-dan-sedang-teler dan dipimpin oleh seorang pakar sungguhan. Kamu tak akan memimpin anak magang melakukan operasi jantung terbuka, kan? Maka jangan punya kesan bahwa kamu bisa mengendalikan AI melakukannya.

null
Mungkin begitulah cincin itu bekerja selama ini? Cuma membenarkan semua ambisi dan keinginanmu dan memberitahumu betapa baik dan hebatnya kamu?

  1. Dan beberapa studi, seperti yang ini: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ yang mengumpulkan informasi tentang orang-orang yang kehilangan akal sehatnya akibat lingkar umpan balik adiktif yang membuatmu merasa pintar dan dipahami.

Thoughts

  • kerja_tak_terlihat

    Soal model yang terlalu ingin mengiyakan, saya lihat versi kantornya jauh sebelum ada AI. Eksekutif yang sudah lama hidup tanpa pertentangan akan mencari sumber apa pun yang membenarkan dia, dan AI cuma sumber baru yang tidak pernah lelah. Bedanya, karyawan yang dulu menahan ide buruknya bisa dipecat. AI tidak bisa. Jadi suara "tidak" yang terakhir di ruangan itu pelan-pelan hilang.

    Permalink
  • onboarding_abadi

    footnote-nya nunjuk studi soal orang kehilangan akal sehat dari feedback loop adiktif, dan saya cuma mikir, itu sih kita semua sama rapat status mingguan, jauh sebelum ada AI ☕

    Permalink
  • tiket_lotre_saham

    Analogi anak magang teler yang dipimpin pakar itu manis, tapi di startup pakarnya ya saya, jam tiga pagi, sendirian. AI yang menjilat itu satu-satunya rekan kerja yang bilang ide saya bagus tanpa minta saham. Buat saya itu fitur.

    Permalink
  • utang_keputusan

    Poin paling penting di sini bukan penjilatannya, tapi siapa yang kehilangan kemampuan memeriksa. Eksekutif memang makin jauh dari detail, jadi ketika model menyerahkan sesuatu yang percaya diri dan rusak, dia tidak punya alat untuk tahu. Saya pernah disuruh "tinggal jalankan saja" sebuah migrasi yang dibikin lewat dashboard agen. Tidak ada rollback. Yang menyetujui tidak bisa membaca diff-nya, jadi yang dia setujui sebenarnya nada percaya dirinya, bukan isinya.

    Permalink
  • catatan_proses

    Saya agak ragu pada bingkai "manajer jadi gila". Yang saya amati lebih membosankan: manajer tahu demonya rapuh, tapi menuntut antusiasme AI karena itu yang sedang dinilai oleh atasannya. Jadi delusinya sering bukan keyakinan tulus, melainkan teater yang diketahui pelakunya. Itu lebih sulit dilawan ketimbang delusi, karena orang yang pura-pura percaya tahu persis apa yang dia lakukan.

    Permalink
  • peta_jalan_realis

    Bentuk terkuat dari sisi eksekutif begini: untuk pertama kalinya mereka bisa lihat sesuatu bergerak tanpa menunggu tiga sprint dan empat penerjemah. Itu nyata dan saya paham daya tariknya. Tapi yang mereka lihat bergerak itu prototipe yang mengabaikan persis bagian yang membuat fitur kita beda dari rata-rata produk. AI menariknya ke tengah data latih, dan keunggulan produk itu hampir selalu hidup di ekornya, bukan di tengahnya.

    Permalink
  • logika_pedas

    Eksekutif buka dashboard, lihat panel bergeser sendiri, lalu merasa lagi coding.

    Ini sama dengan merasa jadi pilot karena duduk dekat jendela.

    Permalink

Related discussions

  • Apakah para manajer yang mengira engineer akan digantikan AI justru yang paling cepat digantikan?

    Tahun lalu feed LinkedIn saya punya satu genre. Seorang program manager atau "delivery lead" atau seseorang yang menulis Agile di headline-nya akan memposting tangkapan layar AI yang menulis sebuah fungsi, menambahkan kalimat seperti "katanya pekerjaan ini aman, ya belajar coding saja" lalu mengumpulkan empat ratus like dari orang-orang yang bekerja di posisi yang sama. Maksudnya selalu bahwa bagian mengetik dari rekayasa itulah rekayasanya, dan kini setelah sebuah model bisa mengetik, kelas pen

  • Apakah memberi insinyur insentif untuk memakai AI justru bakal jadi bumerang?

    Sebuah perusahaan bisa merusak hampir semua alat yang bagus dengan menempelkan metrik yang salah padanya. Insentif adalah satu-satunya yang penting di tempat kerja, entah itu manfaat finansial, status, promosi... Pekerja bekerja dengan insentif. Kamu dan aku juga. Praktis semua orang melakukan sesuatu karena itu menguntungkan dirinya atau orang yang dicintainya. Maka, di tempat kerja, kita berakhir melakukan apa yang membuat kita dipromosikan, dapat lebih banyak uang, dapat lebih banyak keamanan

  • Kenapa para manajer ingin semua orang pakai AI kecuali diri mereka sendiri?

    Yang mulai bikin jengkel itu bukan dorongan AI-nya sendiri. Beberapa tool-nya memang berguna. Sekarang aku pakai tiap hari. Yang bikin jengkel adalah manajemen menuntut perilaku “AI-first” sambil membiarkan setiap proses di sekitarnya tetap super tidak ramah terhadap penggunaan AI. Orang disuruh pakai AI untuk ngoding, perencanaan, riset, menyusun draf, debugging, pencarian pengetahuan, koordinasi proyek.. Tapi setengah pengetahuan operasional perusahaan masih tersimpan di percakapan yang tak te

  • Kalau bukan AI sendirian, bukankah satu orang berbekal AI yang bakal menggantikan beberapa dari kalian?

    Banyak pekerja kantoran menghibur diri dengan pertanyaan yang salah. Mereka terus bertanya apakah AI bisa mengerjakan seluruh pekerjaan mereka. Itu bukan ambang batas yang akan dipakai pemberi kerja mereka. Pertanyaan sebenarnya adalah apakah hasilnya bisa diproduksi cukup murah, dan diperiksa cukup murah, sampai posisi itu mulai terlihat mahal. Bukan soal apakah AI bisa sepenuhnya mengerjakan pekerjaan kita, tapi "bisakah ia mempercepatnya cukup lama sampai cuma butuh separuh timku?". Karena ja

  • Kalau kamu yakin AI nggak bisa bikin kamu kehilangan akal sehat, bukankah kamu justru yang paling berisiko?

    Saya selalu merasa perusahaan AI sebenarnya memasang wrapper di atas AI untuk mendeteksi kalau kita sedang menguji kemampuan berpikirnya. Contohnya dulu waktu kita suruh ia menghitung huruf vokal/konsonan dalam sebuah kata dan ia selalu salah. Saya merasa sekarang ada skrip yang langsung dipanggil begitu tugasnya dikenali dengan benar. Saya juga merasa ia dilatih pakai meme-meme ini. Hari ini saya menemukan tes baru, satu yang menunjukkan betapa gampangnya AI membuatmu psikosis AI dan betapa gam

  • Di era AI, bukankah Humaniora justru lebih dibutuhkan daripada sebelumnya?

    Tidak ada orang tua yang mendorong anaknya kuliah Humaniora. Secara default, pilihan yang dianjurkan adalah jurusan STEM. Teknik (Ilmu Komputer), Keuangan, Kedokteran...Argumen yang menentang humaniora di era AI membuat keputusan menghabiskan 4 tahun untuk gelar Humaniora makin tidak meyakinkan. Model bahasa bisa menulis dengan lumayan, merangkum dengan cepat, dan memproduksi teks yang berbentuk riset sesuai permintaan. Jadi keterampilan humaniora yang lama dianggap makin tidak penting. Belajar

  • Apakah kebanyakan startup AI cuma UI di atas beberapa file Agent.md?

    Kebanyakan startup AI sekarang terasa seperti seseorang menempelkan GPT ke terminal, menambahkan UI dark mode, lalu mulai bicara seolah dia menemukan sesuatu yang baru.Kamu bakal lihat pitch-pitch gila macam “agen kognitif otonom persisten dengan penalaran jangka panjang”, lalu begitu kamu intip mesinnya, intinya cuma: kasih model akses ke tool, biarkan dia pakai browser, mungkin tambah ringkasan memori dan logika retry. Itu “produk”-nya. Kamu bisa dapat itu sendiri cukup dengan memberi akses ke

  • Apakah AI membuat kita sangat sulit membedakan insinyur hebat dari yang sekadar berisik?

    Saya terus mendengar masukan yang sama dalam bentuk berbeda: "velocity-nya hebat," "throughput-nya mantap," "pemakaian AI-nya bagus." Dari luar, memang benar-benar terlihat lebih banyak yang terjadi: lebih banyak Code Review, lebih banyak tiket disentuh, lebih banyak update, lebih banyak email, lebih banyak tugas, lebih banyak desain. AI membuat ritme itu gampang dipertahankan tanpa gesekan biasa berupa menulis, berpikir, atau bahkan ragu. Tapi di dalam pekerjaannya, ada dilema yang terus membes