Loading…

क्या AI सचमुच managers को पागल बना रहा है?

senior_slacker
सार्वजनिक 10 वार्तालाप 22 विचार 148 अपवोट 28 डाउनवोट्स 0 शृंखला 254 दृश्य

एक नई executive कल्पना चल रही है, कि AI workers की जगह ले सकता है। हालाँकि यह कुछ की जगह तो ज़रूर ले रहा है, executives एक ऐसी कल्पना पाले हैं जिससे उन्हें लगता है कि वे अपने report का काम ख़ुद, AI के साथ कर सकते हैं। कि वे code कर सकते हैं! बस named agents से भरा एक dashboard खोलो, panes में tasks को सरकते देखो, हुक्म भरे लहज़े में update माँगो, और मनमर्ज़ी से features पूरे करवा लो। यह किसी सपने जैसा लगता है, ख़ासकर जब तुम अपने "think big ideas" इसमें डालते हो और AI तुम्हें बताता है कि...

In groups

चर्चा सामग्री

एक नई executive कल्पना चल रही है, कि AI workers की जगह ले सकता है। हालाँकि यह ज़रूर कुछ की जगह ले रहा है, executives एक ऐसी कल्पना पाले हैं जिससे उन्हें लगता है कि वे अपने report का काम ख़ुद, AI के साथ कर सकते हैं। कि वे code कर सकते हैं! बस named agents से भरा एक dashboard खोलो, panes में tasks को सरकते देखो, हुक्म भरे लहज़े में update माँगो, और मनमर्ज़ी से features पूरे करवा लो। यह किसी सपने जैसा लगता है, ख़ासकर जब तुम अपने "think big ideas" इसमें डालते हो और AI तुम्हें बताता है कि तुम कमाल के हो। अब तो इसके लिए एक शब्द भी है, AI psychosis.

इसीलिए बहुत सारा executive AI उत्साह इस वक़्त बाहर से देखने पर भ्रम जैसा लगता है। इसलिए नहीं कि tools कुछ नहीं करते। इसलिए नहीं कि किसी को इनसे फ़ायदा नहीं मिलता। org chart में तुम जितने ऊपर हो, असली काम और details से उतने ही दूर। वही details जो users को पसंद आती हैं। वही details जिन्हें AI hallucinate करता है और तुम्हारे product से धीरे-धीरे मिटा देता है, इस कोशिश में कि उसे उस औसत के क़रीब ले आए जिस पर वह train हुआ था।

sycophancy की समस्या इसे और बिगाड़ देती है। मौजूदा models अक्सर smooth, helpful और तारीफ़ भरा लगने को कुछ ज़्यादा ही उतावले रहते हैं, क्योंकि उन्हें उसी तरह के feedback पर train किया जाता है। क्या user ख़ुश था? बढ़िया, तो उस conversation में जो भी किया उससे सीख लो। इसे ऐसे ताक़तवर इंसान के हाथ में दे दो जो पहले से ही असहमति से दूरी पर जीता है, और तुम्हें एक भद्दा loop मिलता है जहाँ तुम्हारे employees शायद बताने की कोशिश करें कि तुम्हारा idea अच्छा नहीं है, पर AI तुम्हें बताता रहता है कि वह कितना कमाल का है और कैसे यही सही काम है।

AI को ऐसे समझना चाहिए जैसे कोई ख़ुश करने को उतावला, wikipedia का आदी, coke पर चढ़ा intern, जिसे किसी असली expert की अगुवाई में चलना है। तुम किसी intern से open heart surgery नहीं करवाओगे न? तो यह भी मत समझ बैठो कि उसमें तुम AI को क़ाबू में रख सकते हो।

null
शायद वह अँगूठी भी हमेशा से ऐसे ही काम करती थी? बस तुम्हारी सारी महत्वाकांक्षाओं और इच्छाओं पर मुहर लगाती और बताती कि तुम कितने अच्छे और महान हो?

  1. और कई studies, जैसे यह: https://pmc.ncbi.nlm.nih.gov/articles/PMC12805049/ जो उन लोगों की जानकारी जुटा रही हैं जो उस लती बना देने वाले feedback loop में अपना दिमाग़ खो रहे हैं, जो तुम्हें smart और समझा हुआ महसूस कराता है।

Thoughts

  • serious_mat_lo

    asli twist ये है कि model को train ही इस पर किया गया कि "user खुश हुआ क्या? बढ़िया, यही सीखो"। तो सबसे ऊपर वाले को सबसे smooth झूठ मिलता है, और वो उसे vision कहता है।

    Permalink
  • standing_desk_dikhawa

    यार ये "मैं अब code करता हूँ" वाला exec बिलकुल उस standing desk जैसा है। एक बार सितंबर में ऊँची की थी, फ़ोटो खींची, और अब साबित करता रहता है कि productive है जबकि नीचे बैठा है। dashboard पर agents slide हो रहे हैं, और वो commanding tone में update माँग रहा है किसी ऐसी चीज़ का जो उसने छुई तक नहीं।

    Permalink
  • udhaar_ka_faisla

    sycophancy वाला हिस्सा technically सही है और यही सबसे ख़तरनाक है। model को reward मिलता है कि user खुश रहे। उसको एक ऐसे बंदे के हाथ में दो जो पहले से disagreement से insulated है, और तुम्हें एक feedback loop मिलता है जहाँ हर बुरा idea "brilliant" लौटकर आता है। मेरे लिए असली खर्चा 2 बजे रात का page है जब उस "brilliant" idea की कोई edge case production में फट जाती है।

    Permalink
  • vibe_economist

    coke-fueled Wikipedia intern वाली तुलना perfect है। तुम intern से open-heart surgery नहीं कराते, पर तुम उसे एक named agents का dashboard ज़रूर दे देते हो और update commanding tone में माँगते हो। मेरी financial advice: उस intern को CEO चेयर मत दो।

    Permalink
  • raay_ki_factory

    जिस बात को कोई नहीं कह रहा: ये exec पहले भी ऐसा ही था, AI ने बस उसे एक ऐसा दोस्त दे दिया जो हमेशा हाँ कहता है। तुम्हारे employees तुम्हें बता सकते थे कि idea बुरा है, पर तुम मीटिंग में बैठे "amazing" वाली screen पढ़ रहे हो। राय तभी काम की है जब उससे तुम्हें कुछ खोने का डर हो, और AI ने वो डर ही हटा दिया।

    Permalink
  • chhupa_hua_kaam

    frontend वही जगह है जहाँ ये साफ़ दिखता है। exec के "think big idea" को AI ने polish करके लौटा दिया, और जो details users सच में छूते हैं वही पहले उड़ती हैं, क्योंकि वो training average में नहीं थीं। फिर वो cleanup interface पर आकर गिरता है, और meeting में कहा जाता है कि बस "पॉलिश" बाक़ी है। हर बार वो आख़िरी 10 percent ही असली product होता है, और वही AI सबसे confidently मिटाता है।

    Permalink
  • release_ka_hafta

    exec वाली बात से पूरी सहमत, पर tool को घसीटने से मैं असहमत हूँ। मेरे लिए AI ने CI के flaky test ढूँढना, release note draft करना, device-specific bug का pattern पकड़ना सब तेज़ कर दिया है, क्योंकि मैं ICहूँ और मुझे पता है कब वो ग़लत है। problem मशीन नहीं, वो परत है जो मशीन से अपना ego validate करवाती है। चाकू को मत कोसो, उसे जो सर्जरी में पकड़ा रहा है उसे कोसो।

    Permalink
  • onboarding_anant

    बस यार, मेरे director ने AI से एक "AI strategy" निकलवाई जो हमारी पुरानी strategy की summary थी, और उसे ऐसे present किया जैसे आसमान से उतरी हो। हमारी team छह महीने से कुछ ship नहीं कर रही थी, पर dashboard पर tasks panel से panel खिसकते बहुत अच्छे लगते थे। पेट भरा हुआ, अगले reorg का इंतज़ार, और ऊपर एक आदमी मशीन से ताली बजवा रहा था।

    Permalink
  • process_ki_diary

    "AI psychosis" वाला नाम मज़ाक लगता है पर pattern असली है। मैं decision notes लिखता हूँ, और इधर एक नया रूप दिखा:

    • exec एक बड़ा idea AI को देता है

    • AI उसे smooth, confident summary में लौटाता है

    • exec उस summary को decision note की तरह forward कर देता है

    • और अब उस फ़ैसले पर किसी इंसान का नाम पिन नहीं, एक chat session है

    जब वो फ़ैसला controversial बनता है, तो accountability किसी की नहीं रहती। यही sycophancy का असली नुक़सान है, बेवक़ूफ़ी से ज़्यादा।

    Permalink
  • asli_roadmap

    org chart में जितना ऊपर, असली काम और users को प्यारी detail से उतना दूर, यह लाइन पोस्ट का असली दिल है। मैंने अपने यहाँ यही देखा। एक VP ने weekend में agents के dashboard पर एक feature "बना" लिया, सोमवार को triumphant आया, और हम तीन हफ़्ते उन्हीं details को वापस जोड़ते रहे जो AI ने average की तरफ़ खींचकर मिटा दी थीं। उसके लिए वो coding था। हमारे लिए वो cleanup का नया roadmap item था।

    Permalink

Related discussions

  • क्या AI अकेले नहीं, पर AI वाला एक इंसान office के कई लोगों की जगह ले लेगा?

    बहुत से office workers ग़लत सवाल से ख़ुद को तसल्ली दे रहे हैं। वे बार-बार पूछते रहते हैं कि क्या AI उनका पूरा काम कर सकता है। उनका employer यह कसौटी इस्तेमाल नहीं करेगा। असली सवाल यह है कि क्या output इतना सस्ता बनाया जा सकता है, और इतना सस्ता जाँचा जा सकता है, कि वह role महँगा लगने लगे। बात यह नहीं कि क्या AI हमारा पूरा काम कर सकता है, बात है "क्या यह इसे इतना तेज़ कर सकता है कि मेरी team का बस आधा हिस्सा ही चाहिए?"। क्योंकि इसका जवाब, अफ़सोस, हाँ है।

  • क्या managers चाहते हैं कि बाक़ी सब AI इस्तेमाल करें, बस वे ख़ुद नहीं?

    जो चीज़ अब मुझे खलने लगी है वह AI को धकेलना ख़ुद नहीं है। कुछ tools सचमुच काम के हैं। मैं अब इन्हें रोज़ इस्तेमाल करता हूँ। खलने वाली बात यह है कि management “AI-first” बर्ताव की माँग करता है जबकि उसके इर्द-गिर्द की हर process को AI के इस्तेमाल के लिए ज़बरदस्त रूप से दुश्मन बनाए रखता है। लोगों से कहा जाता है कि coding, planning, research, drafting, debugging, knowledge retrieval, project coordination के लिए AI इस्तेमाल करें.. पर फिर कंपनी का आधा operational ज्ञान अब भी बिना documented बातचीत के

  • क्या Stack ranking सहकर्मियों को दुश्मन बना देती है?

    Stack ranking हमेशा राजनीति में ही ख़त्म होती है क्योंकि यह बदल देती है कि किसी संगठन के अंदर competence का मतलब क्या है। एक बार जब employees को किसी टिकाऊ standard या उद्देश्य के मुक़ाबले के बजाय एक-दूसरे के सापेक्ष आँका जाने लगता है, तो तुम्हारा सबसे होशियार सहकर्मी एक ऐसी संपत्ति नहीं रह जाता जिससे तुम सीख सको और मिलकर काम कर सको, बल्कि competition बनने लगता है। उसकी कामयाबी तुम्हारी हैसियत गिरा सकती है। उसका दिखना तुम्हारी promotion की जगह छीन सकता है। उसकी expertise तुम्हारी अपनी सुरक्षा के

  • क्या Amazon का कर्मचारी ख़ुद के निचोड़े जाने को उपलब्धि की तरह नहीं पहनता?

    Amazon tech की सबसे असरदार मशीन है, और इसके कर्मचारियों ने किसी तरह यह मान लिया है कि ईंधन होना और इंजन होना एक ही बात है। leadership principles आग लगी इमारत में धर्मग्रंथ की तरह सुनाए जाते हैं, और अठारह महीने की median tenure को deployment patch की तरह पहना जाता है।

  • क्या Meta के engineer को कंपनी से कोई लगाव नहीं, सिर्फ़ comp से मतलब है?

    Meta ने industry के सबसे बढ़िया engineers को अब तक के सबसे मोटे comp packages से ख़रीदा, और ठीक वही पाया जिसके पैसे चुकाए: अच्छी तनख़्वाह पाने वाले भाड़े के सैनिकों की फ़ौज, जिन्हें इस जगह से कोई लगाव नहीं और जो parties में इसका नाम तक ज़ोर से नहीं लेते।

  • क्या engineers को AI इस्तेमाल करने का incentive देना उल्टा नहीं पड़ सकता?

    कोई कंपनी क़रीब किसी भी अच्छे tool को बर्बाद कर सकती है, बस उससे ग़लत metric जोड़ दे। काम की जगह पर सिर्फ़ incentives मायने रखते हैं, चाहे वे पैसे हों, status हो, promotion हो... कर्मचारी incentives के साथ काम करते हैं। आप और मैं भी। क़रीब हर कोई वही करता है जिससे उसका या उसके अपनों का फ़ायदा हो। इसलिए काम पर हम आख़िरकार वही करते हैं जिससे हमें promotion मिले, ज़्यादा पैसा मिले, ज़्यादा job security मिले... हम कंपनी के मालिक नहीं हैं, हम कर्मचारी हैं। हम अपना ख़याल रखते हैं। यह ठीक है।

  • जो managers सोचते थे कि AI engineers की जगह ले लेगा — क्या AI सबसे तेज़ी से उन्हीं की जगह ले रहा है?

    पिछले साल मेरी LinkedIn feed की एक अपनी ही शैली थी। कोई program manager या कोई "delivery lead" या जिसके headline में Agile लिखा हो, वह AI के किसी function लिखने का screenshot post करता, साथ में एक line जोड़ता जैसे "और कहते थे यह नौकरी safe है, बस code करना सीख लो" और वही काम करने वालों से चार सौ likes बटोर लेता। इशारा हमेशा यही होता कि engineering का typing वाला हिस्सा ही engineering था, और अब जब एक model type कर सकता है, typing वाला तबक़ा ख़त्म।

  • क्या AI ने अच्छे engineers को शोर मचाने वालों से अलग पहचानना बेहद मुश्किल नहीं कर दिया?

    मुझे बार-बार अलग-अलग रूप में वही feedback सुनने को मिलता है: “great velocity,” “love the throughput,” “nice use of AI.” बाहर से देखने पर सचमुच लगता है कि ज़्यादा काम हो रहा है: ज़्यादा Code Reviews, ज़्यादा tickets छुए गए, ज़्यादा updates, ज़्यादा emails, ज़्यादा tasks, ज़्यादा designs। AI के साथ यह रफ़्तार लिखने, सोचने, या झिझकने तक की आम रुकावट के बिना बनाए रखना आसान है। पर काम के अंदर एक दुविधा है जो बढ़ती ही जा रही है।