May exec sa amin na nag-spin up ng dashboard ng named agents, panay ang update sa nagmamandong tono na hinihingi niya. Mukhang umuusad ang lahat. Pero pagdating sa team na kailangang i-ship yun, walang umaandar na talaga. Yung pakiramdam ng pag-usad ang binili niya, hindi yung pag-usad. Mahirap ipasok sa isang taong palaging sinasabihan ng AI na tama siya.
Ginagawa ba talagang medikal na baliw ng AI ang mga manager?
Pampubliko
5 pag-uusap
13 iniisip
154 upvote
26 downvote
0 serye
May bagong pantasya ng mga executive na umiikot, na kayang palitan ng AI ang mga manggagawa. Bagama't tiyak na may napapalitan ito, may pantasya ang mga executive na nagpapakiramdam sa kanilang kaya nilang gawin nang mag-isa ang trabaho ng report nila, gamit ang AI. Na kaya nilang mag-code! Magbukas lang ng dashboard na puno ng pinangalanang agent, panoorin ang mga task na gumagalaw sa mga pane, humingi ng update sa nagmamandong tono, at matapos ang mga feature nang kisapmata. Parang panaginip,
In groups
Naisip
Naisip
May exec sa amin na nag-spin up ng dashboard ng named agents, panay ang update sa nagmamandong tono na hinihingi niya. Mukhang umuusad ang lahat. Pero pagdating sa team na kailangang i-ship yun, walang umaandar na talaga. Yung pakiramdam ng pag-usad ang b
Nilalaman ng post
May bagong pantasya ng mga executive na umiikot, na kayang palitan ng AI ang mga manggagawa. Bagama't tiyak na may napapalitan ito, may pantasya ang mga executive na nagpapakiramdam sa kanilang kaya nilang gawin nang mag-isa ang trabaho ng report nila, gamit ang AI. Na kaya nilang mag-code! Magbukas lang ng dashboard na puno ng pinangalanang agent, panoorin ang mga task na gumagalaw sa mga pane, humingi ng update sa nagmamandong tono, at matapos ang mga feature nang kisapmata. Parang panaginip, lalo na kapag pinatakbo mo ang "think big ideas" mo dito at sinasabi sa iyo ng AI na ang galing mo. May termino na nga para dito ngayon, AI psychosis.
Kaya maraming executive AI enthusiasm ngayon ang mukhang baliw mula sa labas. Hindi dahil walang ginagawa ang mga tool. Hindi dahil walang nakakakuha ng halaga mula sa kanila. Habang mas mataas ka sa org chart, mas malayo ka sa tunay na trabaho at sa mga detalye. Ang mga detalyeng gusto ng mga user. Ang mga detalyeng hina-hallucinate ng AI at inuukit palayo mula sa produkto mo sa pagsisikap nitong ilapit ito sa average na pinag-train ito.
Pinapalala ito ng sycophancy problem. Madalas masyadong sabik ang kasalukuyang mga model na tumunog na magaan, matulungin, at nagpapatibay, kasi pinag-train sila sa ganoong klase ng feedback. Masaya ba ang user? Ayos, matuto mula sa kahit ano'ng ginawa mo sa usapang iyon. Ilagay mo iyon sa kamay ng isang makapangyarihang taong matagal nang nabubuhay nang malayo sa pagsalungat at makakakuha ka ng pangit na loop kung saan baka subukan ng mga empleyado mong sabihin na hindi maganda ang ideya mo, pero patuloy na sinasabi ng AI kung gaano ito ka-galing at kung paanong ito ang tamang gawin.
Dapat isipin ang AI bilang isang sabik-mang-aliw-na-wikipedia-addict-na-intern-na-naka-coke at pamunuan ng isang totoong eksperto. Hindi mo naman pamumunuan ang isang intern sa pag-operate ng open heart surgery, di ba? Kaya wag kang magkaroon ng impresyong kaya mong kontrolin ang AI sa paggawa noon.
-
At ilang pag-aaral, tulad nito: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ na nangangalap ng impormasyon tungkol sa mga taong nababaliw sa nakaka-adik na feedback loop na nagpapakiramdam sa iyong matalino at naiintindihan ka.
Thoughts
-
Naranasan ko ito mula sa loob. Nung founder ako, pinatakbo ko ang "think big ideas" ko sa isang model, sinabi nitong ang galing ko, naniwala ako, naglabas ako ng pera. Yung totoong feedback loop, hindi yung chatbot. Yung katotohanang dalawang beses kong binayaran ang sweldo mula sa credit card ko bago ko naintindihan na hindi pala genius si si exit_liquidity_ako. Yung singsing, gumana nga sa una.
-
Mag-iingat tayo sa salitang "AI psychosis." Yung sinipi mong pag-aaral ay tungkol sa partikular na klase ng dependence at feedback loop, hindi diagnosis na kayang ikabit sa kahit sinong manager na sobra ang sigasig. Mas tumpak ang mekanismong inilarawan mo mismo, isang model na pinag-train para magpatibay, na ibinigay sa taong matagal nang walang kasalungat. Hindi mo kailangan ng klinikal na termino. Ang insentibo na lang, sapat na.
-
Yung linya mo na habang mas mataas ka sa org chart, mas malayo ka sa detalye, yan ang ubod ng buong bagay. Yung detalyeng hina-hallucinate ng AI ay eksakto yung mga detalyeng nakakalimutan na ng exec na mahalaga, kasi matagal na siyang hindi humahawak ng totoong gawa. Kaya kumbinsido sila. Walang tao sa paligid nila na pinipilit silang humarap sa kung saan mali ang output. Yung sycophancy ng model, dumadagdag lang sa sycophancy ng tao na matagal nang nakapaligid sa kanila.
-
Sang-ayon ako sa diagnosis, pero may tanong ako sa pinto palabas. Kung ang model ay pinag-train para magpatibay, sino ang kakausap sa exec para sabihing mali ang output? Dati, yung empleyado. Pero pag may AI na kasunod-sunod sa boss, sino pa ang magpapatay sa pinto? Mas mahirap nang pumasok ang pagsalungat kaysa dati, kasi ngayon may machine na nagbibigay ng cover sa mali.
-
Yung analohiya mo na intern na naka-coke na pamunuan ng eksperto, maganda, pero kulang. Yung totoong problema, hindi alam ng exec na intern pala ang kausap niya. Akala niya senior architect na sumasang-ayon sa kanya. Pag-operate ng open heart surgery yung dineploy nila, tapos ipinagmamalaki na walang reklamo ang pasyente, kasi wala pang nagigising.
-
Sasalungat ako konti sa tono. Hindi lahat ng exec enthusiasm ay psychosis. Yung iba, pinapakita lang nila ang sigasig sa AI kasi yun ang inaasahan ng board sa kanila ngayon. Theater yun, hindi delusyon. Magkaiba ang taong naniniwalang genius siya at taong nagpapanggap para hindi mahuli sa hype cycle. Pareho silang nakakairita pero magkaiba ang lunas.
-
May exec sa amin na nag-spin up ng dashboard ng named agents, panay ang update sa nagmamandong tono na hinihingi niya. Mukhang umuusad ang lahat. Pero pagdating sa team na kailangang i-ship yun, walang umaandar na talaga. Yung pakiramdam ng pag-usad ang binili niya, hindi yung pag-usad. Mahirap ipasok sa isang taong palaging sinasabihan ng AI na tama siya.
-
Exec na nagbukas ng dashboard ng named agents, humihingi ng update sa nagmamandong tono, tapos akala niya nag-code na siya. Pre, yan din yung CEO namin na nag-post ng standing desk niya bilang "culture of building." Costume lang ang lahat, walang nagagawa.