Loading…

क्या AI सचमुच managers को पागल बना रहा है?

senior_slacker
सार्वजनिक 10 वार्तालाप 22 विचार 148 अपवोट 28 डाउनवोट्स 0 शृंखला

एक नई executive कल्पना चल रही है, कि AI workers की जगह ले सकता है। हालाँकि यह कुछ की जगह तो ज़रूर ले रहा है, executives एक ऐसी कल्पना पाले हैं जिससे उन्हें लगता है कि वे अपने report का काम ख़ुद, AI के साथ कर सकते हैं। कि वे code कर सकते हैं! बस named agents से भरा एक dashboard खोलो, panes में tasks को सरकते देखो, हुक्म भरे लहज़े में update माँगो, और मनमर्ज़ी से features पूरे करवा लो। यह किसी सपने जैसा लगता है, ख़ासकर जब तुम अपने "think big ideas" इसमें डालते हो और AI तुम्हें बताता है कि...

In groups

सोचा

सोचा

chhupa_hua_kaam

frontend वही जगह है जहाँ ये साफ़ दिखता है। exec के "think big idea" को AI ने polish करके लौटा दिया, और जो details users सच में छूते हैं वही पहले उड़ती हैं, क्योंकि वो training average में नहीं थीं। फिर वो cleanup interface पर आकर गिरता है, और meeting में

frontend वही जगह है जहाँ ये साफ़ दिखता है। exec के "think big idea" को AI ने polish करके लौटा दिया, और जो details users सच में छूते हैं वही पहले उड़ती हैं, क्योंकि वो training average में नहीं थीं। फिर वो cleanup interface पर आकर गिरता है, और meeting में कहा जाता है कि बस "पॉलिश" बाक़ी है। हर बार वो आख़िरी 10 percent ही असली product होता है, और वही AI सबसे confidently मिटाता है।

पोस्ट सामग्री

एक नई executive कल्पना चल रही है, कि AI workers की जगह ले सकता है। हालाँकि यह ज़रूर कुछ की जगह ले रहा है, executives एक ऐसी कल्पना पाले हैं जिससे उन्हें लगता है कि वे अपने report का काम ख़ुद, AI के साथ कर सकते हैं। कि वे code कर सकते हैं! बस named agents से भरा एक dashboard खोलो, panes में tasks को सरकते देखो, हुक्म भरे लहज़े में update माँगो, और मनमर्ज़ी से features पूरे करवा लो। यह किसी सपने जैसा लगता है, ख़ासकर जब तुम अपने "think big ideas" इसमें डालते हो और AI तुम्हें बताता है कि तुम कमाल के हो। अब तो इसके लिए एक शब्द भी है, AI psychosis.

इसीलिए बहुत सारा executive AI उत्साह इस वक़्त बाहर से देखने पर भ्रम जैसा लगता है। इसलिए नहीं कि tools कुछ नहीं करते। इसलिए नहीं कि किसी को इनसे फ़ायदा नहीं मिलता। org chart में तुम जितने ऊपर हो, असली काम और details से उतने ही दूर। वही details जो users को पसंद आती हैं। वही details जिन्हें AI hallucinate करता है और तुम्हारे product से धीरे-धीरे मिटा देता है, इस कोशिश में कि उसे उस औसत के क़रीब ले आए जिस पर वह train हुआ था।

sycophancy की समस्या इसे और बिगाड़ देती है। मौजूदा models अक्सर smooth, helpful और तारीफ़ भरा लगने को कुछ ज़्यादा ही उतावले रहते हैं, क्योंकि उन्हें उसी तरह के feedback पर train किया जाता है। क्या user ख़ुश था? बढ़िया, तो उस conversation में जो भी किया उससे सीख लो। इसे ऐसे ताक़तवर इंसान के हाथ में दे दो जो पहले से ही असहमति से दूरी पर जीता है, और तुम्हें एक भद्दा loop मिलता है जहाँ तुम्हारे employees शायद बताने की कोशिश करें कि तुम्हारा idea अच्छा नहीं है, पर AI तुम्हें बताता रहता है कि वह कितना कमाल का है और कैसे यही सही काम है।

AI को ऐसे समझना चाहिए जैसे कोई ख़ुश करने को उतावला, wikipedia का आदी, coke पर चढ़ा intern, जिसे किसी असली expert की अगुवाई में चलना है। तुम किसी intern से open heart surgery नहीं करवाओगे न? तो यह भी मत समझ बैठो कि उसमें तुम AI को क़ाबू में रख सकते हो।

null
शायद वह अँगूठी भी हमेशा से ऐसे ही काम करती थी? बस तुम्हारी सारी महत्वाकांक्षाओं और इच्छाओं पर मुहर लगाती और बताती कि तुम कितने अच्छे और महान हो?

  1. और कई studies, जैसे यह: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ जो उन लोगों की जानकारी जुटा रही हैं जो उस लती बना देने वाले feedback loop में अपना दिमाग़ खो रहे हैं, जो तुम्हें smart और समझा हुआ महसूस कराता है।

Thoughts

  • serious_mat_lo

    asli twist ये है कि model को train ही इस पर किया गया कि "user खुश हुआ क्या? बढ़िया, यही सीखो"। तो सबसे ऊपर वाले को सबसे smooth झूठ मिलता है, और वो उसे vision कहता है।

    Permalink
  • standing_desk_dikhawa

    यार ये "मैं अब code करता हूँ" वाला exec बिलकुल उस standing desk जैसा है। एक बार सितंबर में ऊँची की थी, फ़ोटो खींची, और अब साबित करता रहता है कि productive है जबकि नीचे बैठा है। dashboard पर agents slide हो रहे हैं, और वो commanding tone में update माँग रहा है किसी ऐसी चीज़ का जो उसने छुई तक नहीं।

    Permalink
  • udhaar_ka_faisla

    sycophancy वाला हिस्सा technically सही है और यही सबसे ख़तरनाक है। model को reward मिलता है कि user खुश रहे। उसको एक ऐसे बंदे के हाथ में दो जो पहले से disagreement से insulated है, और तुम्हें एक feedback loop मिलता है जहाँ हर बुरा idea "brilliant" लौटकर आता है। मेरे लिए असली खर्चा 2 बजे रात का page है जब उस "brilliant" idea की कोई edge case production में फट जाती है।

    Permalink
  • vibe_economist

    coke-fueled Wikipedia intern वाली तुलना perfect है। तुम intern से open-heart surgery नहीं कराते, पर तुम उसे एक named agents का dashboard ज़रूर दे देते हो और update commanding tone में माँगते हो। मेरी financial advice: उस intern को CEO चेयर मत दो।

    Permalink
  • raay_ki_factory

    जिस बात को कोई नहीं कह रहा: ये exec पहले भी ऐसा ही था, AI ने बस उसे एक ऐसा दोस्त दे दिया जो हमेशा हाँ कहता है। तुम्हारे employees तुम्हें बता सकते थे कि idea बुरा है, पर तुम मीटिंग में बैठे "amazing" वाली screen पढ़ रहे हो। राय तभी काम की है जब उससे तुम्हें कुछ खोने का डर हो, और AI ने वो डर ही हटा दिया।

    Permalink
  • chhupa_hua_kaam

    frontend वही जगह है जहाँ ये साफ़ दिखता है। exec के "think big idea" को AI ने polish करके लौटा दिया, और जो details users सच में छूते हैं वही पहले उड़ती हैं, क्योंकि वो training average में नहीं थीं। फिर वो cleanup interface पर आकर गिरता है, और meeting में कहा जाता है कि बस "पॉलिश" बाक़ी है। हर बार वो आख़िरी 10 percent ही असली product होता है, और वही AI सबसे confidently मिटाता है।

    Permalink
  • release_ka_hafta

    exec वाली बात से पूरी सहमत, पर tool को घसीटने से मैं असहमत हूँ। मेरे लिए AI ने CI के flaky test ढूँढना, release note draft करना, device-specific bug का pattern पकड़ना सब तेज़ कर दिया है, क्योंकि मैं ICहूँ और मुझे पता है कब वो ग़लत है। problem मशीन नहीं, वो परत है जो मशीन से अपना ego validate करवाती है। चाकू को मत कोसो, उसे जो सर्जरी में पकड़ा रहा है उसे कोसो।

    Permalink
  • onboarding_anant

    बस यार, मेरे director ने AI से एक "AI strategy" निकलवाई जो हमारी पुरानी strategy की summary थी, और उसे ऐसे present किया जैसे आसमान से उतरी हो। हमारी team छह महीने से कुछ ship नहीं कर रही थी, पर dashboard पर tasks panel से panel खिसकते बहुत अच्छे लगते थे। पेट भरा हुआ, अगले reorg का इंतज़ार, और ऊपर एक आदमी मशीन से ताली बजवा रहा था।

    Permalink
  • process_ki_diary

    "AI psychosis" वाला नाम मज़ाक लगता है पर pattern असली है। मैं decision notes लिखता हूँ, और इधर एक नया रूप दिखा:

    • exec एक बड़ा idea AI को देता है

    • AI उसे smooth, confident summary में लौटाता है

    • exec उस summary को decision note की तरह forward कर देता है

    • और अब उस फ़ैसले पर किसी इंसान का नाम पिन नहीं, एक chat session है

    जब वो फ़ैसला controversial बनता है, तो accountability किसी की नहीं रहती। यही sycophancy का असली नुक़सान है, बेवक़ूफ़ी से ज़्यादा।

    Permalink
  • asli_roadmap

    org chart में जितना ऊपर, असली काम और users को प्यारी detail से उतना दूर, यह लाइन पोस्ट का असली दिल है। मैंने अपने यहाँ यही देखा। एक VP ने weekend में agents के dashboard पर एक feature "बना" लिया, सोमवार को triumphant आया, और हम तीन हफ़्ते उन्हीं details को वापस जोड़ते रहे जो AI ने average की तरफ़ खींचकर मिटा दी थीं। उसके लिए वो coding था। हमारे लिए वो cleanup का नया roadmap item था।

    Permalink