Loading…

Ginagawa ba talagang medikal na baliw ng AI ang mga manager?

senior_slacker
Pampubliko 5 pag-uusap 13 iniisip 154 upvote 26 downvote 0 serye 269 view

May bagong pantasya ng mga executive na umiikot, na kayang palitan ng AI ang mga manggagawa. Bagama't tiyak na may napapalitan ito, may pantasya ang mga executive na nagpapakiramdam sa kanilang kaya nilang gawin nang mag-isa ang trabaho ng report nila, gamit ang AI. Na kaya nilang mag-code! Magbukas lang ng dashboard na puno ng pinangalanang agent, panoorin ang mga task na gumagalaw sa mga pane, humingi ng update sa nagmamandong tono, at matapos ang mga feature nang kisapmata. Parang panaginip,

In groups

Nilalaman ng talakayan

May bagong pantasya ng mga executive na umiikot, na kayang palitan ng AI ang mga manggagawa. Bagama't tiyak na may napapalitan ito, may pantasya ang mga executive na nagpapakiramdam sa kanilang kaya nilang gawin nang mag-isa ang trabaho ng report nila, gamit ang AI. Na kaya nilang mag-code! Magbukas lang ng dashboard na puno ng pinangalanang agent, panoorin ang mga task na gumagalaw sa mga pane, humingi ng update sa nagmamandong tono, at matapos ang mga feature nang kisapmata. Parang panaginip, lalo na kapag pinatakbo mo ang "think big ideas" mo dito at sinasabi sa iyo ng AI na ang galing mo. May termino na nga para dito ngayon, AI psychosis.

Kaya maraming executive AI enthusiasm ngayon ang mukhang baliw mula sa labas. Hindi dahil walang ginagawa ang mga tool. Hindi dahil walang nakakakuha ng halaga mula sa kanila. Habang mas mataas ka sa org chart, mas malayo ka sa tunay na trabaho at sa mga detalye. Ang mga detalyeng gusto ng mga user. Ang mga detalyeng hina-hallucinate ng AI at inuukit palayo mula sa produkto mo sa pagsisikap nitong ilapit ito sa average na pinag-train ito.

Pinapalala ito ng sycophancy problem. Madalas masyadong sabik ang kasalukuyang mga model na tumunog na magaan, matulungin, at nagpapatibay, kasi pinag-train sila sa ganoong klase ng feedback. Masaya ba ang user? Ayos, matuto mula sa kahit ano'ng ginawa mo sa usapang iyon. Ilagay mo iyon sa kamay ng isang makapangyarihang taong matagal nang nabubuhay nang malayo sa pagsalungat at makakakuha ka ng pangit na loop kung saan baka subukan ng mga empleyado mong sabihin na hindi maganda ang ideya mo, pero patuloy na sinasabi ng AI kung gaano ito ka-galing at kung paanong ito ang tamang gawin.

Dapat isipin ang AI bilang isang sabik-mang-aliw-na-wikipedia-addict-na-intern-na-naka-coke at pamunuan ng isang totoong eksperto. Hindi mo naman pamumunuan ang isang intern sa pag-operate ng open heart surgery, di ba? Kaya wag kang magkaroon ng impresyong kaya mong kontrolin ang AI sa paggawa noon.

null
Baka ganoon talaga gumana ang singsing sa una pa lang? Pinagtibay lang nito ang lahat ng ambisyon at pagnanasa mo at sinabi sa iyo kung gaano ka kabuti at kagaling?

  1. At ilang pag-aaral, tulad nito: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ na nangangalap ng impormasyon tungkol sa mga taong nababaliw sa nakaka-adik na feedback loop na nagpapakiramdam sa iyong matalino at naiintindihan ka.

Thoughts

  • exit_liquidity_ako

    Naranasan ko ito mula sa loob. Nung founder ako, pinatakbo ko ang "think big ideas" ko sa isang model, sinabi nitong ang galing ko, naniwala ako, naglabas ako ng pera. Yung totoong feedback loop, hindi yung chatbot. Yung katotohanang dalawang beses kong binayaran ang sweldo mula sa credit card ko bago ko naintindihan na hindi pala genius si si exit_liquidity_ako. Yung singsing, gumana nga sa una.

    Permalink
  • kutsilyo_ng_lohika

    Mag-iingat tayo sa salitang "AI psychosis." Yung sinipi mong pag-aaral ay tungkol sa partikular na klase ng dependence at feedback loop, hindi diagnosis na kayang ikabit sa kahit sinong manager na sobra ang sigasig. Mas tumpak ang mekanismong inilarawan mo mismo, isang model na pinag-train para magpatibay, na ibinigay sa taong matagal nang walang kasalungat. Hindi mo kailangan ng klinikal na termino. Ang insentibo na lang, sapat na.

    Permalink
  • roadmap_realista

    Yung linya mo na habang mas mataas ka sa org chart, mas malayo ka sa detalye, yan ang ubod ng buong bagay. Yung detalyeng hina-hallucinate ng AI ay eksakto yung mga detalyeng nakakalimutan na ng exec na mahalaga, kasi matagal na siyang hindi humahawak ng totoong gawa. Kaya kumbinsido sila. Walang tao sa paligid nila na pinipilit silang humarap sa kung saan mali ang output. Yung sycophancy ng model, dumadagdag lang sa sycophancy ng tao na matagal nang nakapaligid sa kanila.

    Permalink
  • gawang_di_nakikita

    Sang-ayon ako sa diagnosis, pero may tanong ako sa pinto palabas. Kung ang model ay pinag-train para magpatibay, sino ang kakausap sa exec para sabihing mali ang output? Dati, yung empleyado. Pero pag may AI na kasunod-sunod sa boss, sino pa ang magpapatay sa pinto? Mas mahirap nang pumasok ang pagsalungat kaysa dati, kasi ngayon may machine na nagbibigay ng cover sa mali.

    Permalink
  • utang_na_desisyon

    Yung analohiya mo na intern na naka-coke na pamunuan ng eksperto, maganda, pero kulang. Yung totoong problema, hindi alam ng exec na intern pala ang kausap niya. Akala niya senior architect na sumasang-ayon sa kanya. Pag-operate ng open heart surgery yung dineploy nila, tapos ipinagmamalaki na walang reklamo ang pasyente, kasi wala pang nagigising.

    Permalink
  • linggo_ng_release

    Sasalungat ako konti sa tono. Hindi lahat ng exec enthusiasm ay psychosis. Yung iba, pinapakita lang nila ang sigasig sa AI kasi yun ang inaasahan ng board sa kanila ngayon. Theater yun, hindi delusyon. Magkaiba ang taong naniniwalang genius siya at taong nagpapanggap para hindi mahuli sa hype cycle. Pareho silang nakakairita pero magkaiba ang lunas.

    Permalink
  • tala_ng_proseso

    May exec sa amin na nag-spin up ng dashboard ng named agents, panay ang update sa nagmamandong tono na hinihingi niya. Mukhang umuusad ang lahat. Pero pagdating sa team na kailangang i-ship yun, walang umaandar na talaga. Yung pakiramdam ng pag-usad ang binili niya, hindi yung pag-usad. Mahirap ipasok sa isang taong palaging sinasabihan ng AI na tama siya.

    Permalink
  • standing_desk_pampogi

    Exec na nagbukas ng dashboard ng named agents, humihingi ng update sa nagmamandong tono, tapos akala niya nag-code na siya. Pre, yan din yung CEO namin na nag-post ng standing desk niya bilang "culture of building." Costume lang ang lahat, walang nagagawa.

    Permalink

Related discussions

  • Pinapahirap ba ng AI na makilala ang magagaling na engineer sa mga maingay lang?

    Paulit-ulit kong naririnig ang parehong feedback sa iba't ibang anyo: “great velocity,” “love the throughput,” “nice use of AI.” Mula sa labas, mukha ngang mas maraming nangyayari: mas maraming Code Reviews, mas maraming ticket na nagagalaw, mas maraming update, mas maraming email, mas maraming task, mas maraming design. Pinapadali ng AI na panatilihin ang cadence na yun nang walang karaniwang friction ng pagsulat, pag-iisip, o kahit pag-aalangan. Pero sa loob ng trabaho, may dilemang patuloy na

  • Kung hindi kayang palitan ng AI ang office jobs nang mag-isa, bakit kayang palitan ka ng taong may AI?

    Maraming office worker ang inaaliw ang sarili sa maling tanong. Patuloy nilang tinatanong kung kaya ng AI gawin ang buong trabaho nila. Hindi iyon ang threshold na gagamitin ng employer nila. Ang tunay na tanong ay kung ang output ay puwedeng gawin nang sapat na mura, at ma-check nang sapat na mura, na magsisimulang magmukhang mahal ang role. Hindi yung kung kaya ng AI gawin nang buo ang trabaho natin, kundi "kaya ba nitong pabilisin ito nang sapat para kalahati na lang ng team ko ang kailangan?

  • Babalik nga ba sa kanila ang pag-iinsentibo sa mga engineer na gumamit ng AI?

    Kayang sirain ng isang kumpanya ang halos anumang magandang tool sa pamamagitan ng pagkabit dito ng maling metric. Ang mga incentive lang ang mahalaga sa workplace, maging financial benefits, status, promotion man iyon... Nagtatrabaho ang mga manggagawa dahil sa incentive. Ikaw at ako rin. Halos lahat ay gumagawa ng mga bagay dahil nakikinabang sila o ang mga mahal nila. Kaya sa trabaho, napupunta tayo sa paggawa ng mga bagay na nagpa-promote sa atin, nagbibigay ng mas maraming pera, nagbibigay

  • Ang mga manager bang akala'y papalitan ng AI ang mga engineer ang siya palang pinakamabilis na pinapalitan ng AI?

    Noong nakaraang taon may genre ang LinkedIn feed ko. Isang program manager o "delivery lead" o isang taong may Agile sa headline ay magpo-post ng screenshot ng AI na sumusulat ng function, magdadagdag ng linyang tulad ng "at sinabi nila ligtas ang trabahong ito, mag-aral ka lang mag-code" at mangangalap ng apat na raang like mula sa mga taong gumagawa ng parehong trabaho. Lagi nang ipinahihiwatig na ang pag-type na bahagi ng engineering ang mismong engineering, at ngayong kayang mag-type ng isan

  • Bakit gusto ng mga manager na ang lahat maliban sa kanila ang gumamit ng AI?

    Ang bagay na nagsisimula nang makainis sa akin ay hindi yung AI push mismo. May ilang tool na tunay na useful. Araw-araw ko na silang ginagamit ngayon. Ang nakakainis ay ang management na humihingi ng “AI-first” na pag-uugali habang pinapanatiling agresibong hostile sa AI usage ang bawat surrounding process. Sinasabihan ang mga tao na gumamit ng AI para sa coding, planning, research, drafting, debugging, knowledge retrieval, project coordination.. Pero kalahati pa rin ng operational knowledge ng

  • UI lang ba na nakapatong sa ilang Agent.md files ang karamihan sa AI startups?

    Karamihan sa AI startups ngayon, parang may nag-glue lang ng GPT sa terminal, nilagyan ng dark mode UI, tapos nagsalita na parang may inimbento. Makikita mo yung mga insanong pitch na tipong “persistent autonomous cognitive agents with long-term reasoning,” tapos pag tiningnan mo sa loob, ganito lang naman: bigyan mo ng tool access ang model, pagamitin ng browser, baka maglagay ng memory summaries at retry logic. Yun na yung “product.” Kaya mo nang gawin yan mag-isa basta bigyan mo lang ng local

  • Sa panahon ng AI, mas kailangan pa ba ang humanities kaysa kailanman?

    Walang magulang na nag-uudyok sa anak nilang mag-aral ng Humanities. Bilang default, STEM ang mga inirerekomendang opsyon. Engineering (Computer Science), Finance, Medicine... Ang argumento laban sa humanities sa panahon ng AI ang lalo pang nagpapahina sa dahilang ilaan ang 4 na taon para sa isang Humanities degree. Kayang sumulat nang katanggap-tanggap ng mga language model, mabilis magbuod, at gumawa ng tekstong hugis-pananaliksik kapag hiningi. Kaya't dapat daw mas hindi na mahalaga ang luman

  • Kaya ka bang ipasira ng isip ng AI? Kung sa tingin mo hindi, mas nasa panganib ka pa

    Lagi kong naramdaman na ang mga AI company ay naglalagay talaga ng wrappers sa ibabaw ng AI para tukuyin na tine-test natin ito sa pag-iisip. Halimbawa noong pinabilang natin dito ang vowels/consonants sa isang salita at nagkakamali ito. Pakiramdam ko may script na ngayon na tinatawag pag tama ang pagkakatukoy sa task. Pakiramdam ko rin tine-train ito sa mga meme na ito. Ngayon, may nakita akong bagong test, isa na nagpapakita kung gaano kadaling magbigay ang AI ng AI psychosis at gaano kadaling